Ein Kreditrisikomodell zeigt eine Trainingsgenauigkeit von 99 %, aber nur eine Validierungsgenauigkeit von 82 %. Das Unternehmen muss diese Leistungslücke vor der Bereitstellung beheben. Welche Maßnahmen beheben Overfitting und verbessern die Generalisierung?

Die große Diskrepanz zwischen Trainings- und Validierungsgenauigkeit deutet auf Overfitting hin. Dropout-Schichten deaktivieren zufällig Neuronen während des Trainings, was das Modell zwingt, robustere Merkmale zu lernen und die Abhängigkeit von einzelnen Neuronen zu reduzieren. L1- und L2-Regularisierung fügen der Verlustfunktion einen Strafterm hinzu, der große Gewichte bestraft und so die Modellkomplexität reduziert. Die k-fache Kreuzvalidierung bewertet die Modellleistung auf mehreren unabhängigen Validierungssätzen und gibt eine zuverlässigere Schätzung der Generalisierungsfähigkeit. Das Hinzufügen weiterer dichter Schichten würde die Modellkomplexität erhöhen und Overfitting verschlimmern. PCA reduziert die Dimensionalität, aber nicht direkt Overfitting. Das Erweitern des Trainingsdatensatzes kann helfen, ist aber keine direkte Technik zur Bekämpfung von Overfitting im Modell selbst.