Regressionsproblem in NLP mit 100 Millionen gelabelten Beispielen; Daten zufällig gemischt und im Verhältnis 90/10 in Trainings- und Testdaten aufgeteilt. Der Trainings-RMSE ist doppelt so hoch wie der Test-RMSE. Wie sollten Sie die Modellleistung verbessern?

Wenn der Trainings-RMSE doppelt so hoch ist wie der Test-RMSE, deutet dies auf Underfitting hin. Das Modell ist nicht komplex genug, um die Muster in den Trainingsdaten zu lernen, was zu einer schlechten Leistung sowohl auf den Trainings- als auch auf den Testdaten führt. Um dies zu beheben, sollte die Modellkomplexität erhöht werden, beispielsweise durch Hinzufügen weiterer Schichten oder Neuronen zu einem neuronalen Netzwerk oder durch die Erweiterung von Features wie Vokabulare oder N-Gramme. Das Erhöhen des Teststichprobenanteils ändert nichts an der Modellleistung. Das Sammeln weiterer Daten ist bei Underfitting selten die erste Lösung, da das Modell die vorhandenen Daten noch nicht gut genug lernt. Regularisierungstechniken sind für Overfitting gedacht, nicht für Underfitting.