Ein Entwickler trainiert ein Modell, das auf dem Trainingsdatensatz eine starke Leistung erzielt, aber auf den Evaluierungsdaten schlecht abschneidet. Was ist die wahrscheinlichste Erklärung dafür?

Das Modell ist überangepasst (overfit), da es die Trainingsdaten zu genau gelernt hat, einschließlich des Rauschens und der spezifischen Muster dieser Daten. Infolgedessen kann es neue, ungesehene Daten (Evaluierungsdaten) nicht gut generalisieren oder vorhersagen, was zu einer schlechten Leistung führt. Unteranpassung (underfit) würde bedeuten, dass das Modell nicht einmal die Trainingsdaten gut gelernt hat, was hier nicht der Fall ist, da die Leistung auf dem Trainingsdatensatz stark ist. Prompt Engineering ist eine Technik für große Sprachmodelle und nicht die Ursache für dieses allgemeine Problem der Modellleistung. Ein voreingenommenes (biased) Modell würde möglicherweise auf bestimmten Datensegmenten schlecht abschneiden, aber die Beschreibung deutet auf ein allgemeines Problem bei der Generalisierung hin.