Un modèle de régression linéaire était en surapprentissage, vous avez donc appliqué une régularisation L1. Après l'entraînement, chaque poids de caractéristique est devenu nul. Quelle est la meilleure prochaine étape pour améliorer le modèle ?

Le surapprentissage indique que le modèle a appris le bruit des données d'entraînement et ne généralise pas bien. La régularisation L1 ajoute une pénalité égale à la valeur absolue des coefficients des caractéristiques au terme de perte. Si tous les poids des caractéristiques sont devenus nuls après l'entraînement, cela signifie que la force de la régularisation L1 était trop élevée, forçant le modèle à ignorer toutes les caractéristiques. Pour améliorer le modèle, il faut réduire la force de la régularisation L1 afin de permettre aux caractéristiques pertinentes d'avoir des poids non nuls, ce qui permettra au modèle d'apprendre des relations significatives sans surapprendre. Augmenter la force de la régularisation L1 aggraverait le problème. L'ajout de la régularisation L2 est une autre technique, mais la première étape logique est d'ajuster le paramètre de régularisation L1 existant qui a clairement eu un effet excessif.