Un praticien entraîne un modèle qui atteint de solides performances sur l'ensemble d'entraînement, mais qui fonctionne mal sur les données d'évaluation. Quelle est l'explication la plus probable ?

Un modèle sur-ajusté (overfit) apprend le bruit et les détails spécifiques de l'ensemble d'entraînement au lieu de capturer les tendances générales. Il en résulte d'excellentes performances sur les données d'entraînement, mais une mauvaise généralisation aux nouvelles données, comme l'ensemble d'évaluation. Un modèle sous-ajusté (underfit) aurait de mauvaises performances sur les deux ensembles. L'ingénierie des invites est pertinente pour les modèles de langage et n'explique pas ce comportement général. Le biais du modèle peut affecter les performances, mais le sur-ajustement est la cause la plus directe d'une grande disparité entre les performances d'entraînement et d'évaluation.