Een fabrikant heeft 8 defectklassen en heeft ongeveer 100.000 afbeeldingen per klasse geleverd. Tijdens de training behaalt het model een trainingsnauwkeurigheid van 90%, maar slechts een validatienauwkeurigheid van 80%, terwijl de menselijke prestatie ongeveer 90% is. Wat moet u onderzoeken om dit verschil aan te pakken?

De discrepantie tussen de hoge trainingsnauwkeurigheid (90%) en de lagere validatienauwkeurigheid (80%), terwijl de menselijke prestatie 90% is, duidt op overfitting. Het model heeft de trainingsdata te goed geleerd, inclusief ruis, en generaliseert daardoor slecht naar nieuwe, ongeziene data. Regularisatie, zoals L1/L2 regularisatie, dropout of data-augmentatie, helpt overfitting te verminderen door de complexiteit van het model te beperken of de variatie in de trainingsdata te vergroten. Langer trainen of een groter model gebruiken zou overfitting waarschijnlijk verergeren. Een andere optimizer kan helpen bij convergentie, maar pakt overfitting niet direct aan.