Ein KI-Praktiker verwendet ein LLM, um Marketingtexte zu generieren. Der Text klingt plausibel und autoritär, enthält aber falsche Fakten. Welches Problem weist das Modell auf?

Das Modell zeigt eine Halluzination. Halluzinationen treten auf, wenn ein LLM plausible, aber sachlich falsche oder erfundene Informationen generiert. Obwohl der Text überzeugend klingt, sind die enthaltenen falschen Fakten ein klares Zeichen dafür. Data leakage bezieht sich auf das unbeabsichtigte Einschleusen von Trainingsdaten in den Testdatensatz, was zu einer unrealistisch hohen Modellleistung führt, aber nicht direkt die Generierung falscher Fakten beschreibt. Overfitting bedeutet, dass das Modell zu stark an die Trainingsdaten angepasst ist und bei neuen, unbekannten Daten schlecht abschneidet, was sich typischerweise in schlechter Generalisierung, nicht in der Erfindung von Fakten äußert. Underfitting bedeutet, dass das Modell zu einfach ist, um die Muster in den Trainingsdaten zu lernen, was zu einer schlechten Leistung sowohl bei Trainings- als auch bei Testdaten führt.