Een wereldwijd financieel bedrijf gebruikt een gradient boosting regressiemodel om de kredietscores van klanten te schatten. De dataset bevat categorische velden (bijvoorbeeld stad en woonsituatie) en financiële velden die zijn vastgelegd in verschillende eenheden (bijvoorbeeld saldi in dollars en rente in centen). De trainingsnauwkeurigheid is 99%, maar de testnauwkeurigheid is 75%. Welke voorverwerkingsstappen zullen de testprestaties van het model het meest verbeteren?

De correcte optie pakt overfitting aan en bereidt de gegevens voor op een gradient boosting model. One-hot encoding is geschikt voor categorische variabelen zonder inherente orde, wat voorkomt dat het model een onjuiste hiërarchie leert. Standaardisatie (zoals Z-score normalisatie) schaalt numerieke kenmerken naar een vergelijkbaar bereik, wat cruciaal is voor modellen die gevoelig zijn voor de schaal van invoer, zoals gradient boosting. L1-regularisatie (Lasso) helpt bij het verminderen van overfitting door onbelangrijke kenmerken naar nul te dwingen, wat leidt tot een eenvoudiger en beter generaliserend model. De andere opties zijn minder effectief: Tokenization is meer voor tekstverwerking. Binning kan informatie verliezen. Z-score filtering verwijdert uitschieters, maar is geen primaire oplossing voor de prestatiekloof tussen training en test. Label encoding kan een ordinale relatie introduceren die er niet is. L1-regularisatie op numerieke velden en L2 op het model is een ongebruikelijke en minder directe aanpak voor dit probleem. Een logaritmische transformatie is voor scheve numerieke gegevens, niet voor categorische velden. Imputatie van ontbrekende waarden is belangrijk, maar niet de meest impactvolle stap voor de beschreven prestatiekloof.