Un modello di regressione lineare mostra un'accuratezza molto elevata sul set di training, ma prestazioni scarse su dati nuovi e non visti. Quale azione dovrebbe intraprendere l'ingegnere ML per risolvere questo problema?

Il problema descritto, alta accuratezza sul training set e scarse prestazioni su dati nuovi, indica un overfitting. La cross-validation aiuta a valutare le prestazioni del modello su dati non visti durante lo sviluppo, fornendo una stima più robusta della sua generalizzabilità. La regolarizzazione (ad esempio L1 o L2) penalizza i pesi grandi del modello, riducendo la sua complessità e impedendo che si adatti troppo ai dati di training. Amazon SageMaker Experiments è utile per tracciare e confrontare sistematicamente l'efficacia di diverse configurazioni del modello e iperparametri, inclusa l'applicazione di tecniche di regolarizzazione, per identificare la soluzione migliore. Aumentare la complessità del modello peggiorerebbe l'overfitting. Distribuire un modello overfittato in produzione è prematuro e inefficace. Aumentare la dimensione del dataset di training può aiutare, ma senza affrontare l'overfitting intrinseco del modello, potrebbe non risolvere completamente il problema.