Un modello di deep learning è in overfitting (buono sui dati di training, scarso sui nuovi dati). Quale azione migliorerà la generalizzazione a nuovi dati?

L'overfitting si verifica quando un modello impara troppo bene i dati di training, inclusi il rumore, perdendo la capacità di generalizzare a nuovi dati. Aumentare la dimensione del dataset di training fornisce al modello più esempi reali, aiutandolo a imparare pattern più robusti e meno specifici del rumore. Diminuire il numero di feature di input, o selezionare feature più rilevanti, riduce la complessità del modello e la sua capacità di memorizzare il rumore presente nelle feature irrilevanti, migliorando così la sua capacità di generalizzazione. Le altre opzioni o aumentano ulteriormente la complessità del modello (aumentando le feature) o riducono la quantità di dati su cui il modello può imparare (riducendo il dataset), peggiorando l'overfitting o la sottogeneralizzazione.