Een lineair regressiemodel was aan het overfitten, dus paste je L1 regularisatie toe. Na de training werd elk featuregewicht nul. Wat is de beste volgende stap om het model te verbeteren?

Als alle featuregewichten nul zijn geworden na L1-regularisatie, betekent dit dat de regularisatietegel te sterk was en het model te veel heeft vereenvoudigd, wat leidde tot underfitting (een te hoge bias). Om dit te corrigeren, moet de L1-regularisatiesterkte worden verlaagd. Dit geeft de gewichten meer vrijheid om niet nul te zijn, waardoor het model complexer kan worden en beter kan leren van de gegevens. Het verhogen van de L1-sterkte zou het probleem verergeren. Het toevoegen van L2-regularisatie zou de gewichten verder naar nul duwen of ze klein houden, wat het probleem van te sterke regularisatie niet oplost.