Een creditcardmaatschappij wil de training versnellen van een kredietscoremodel dat is opgebouwd uit duizenden ruwe attributen, waarvan vele sterk gecorreleerd zijn. De training is traag en het model overfit. Welke feature-engineering techniek zal de dimensionaliteit en trainingstijd verminderen zonder veel informatie te verliezen?

Een autoencoder of PCA zijn effectieve technieken voor dimensionaliteitsreductie. Ze transformeren de originele, sterk gecorreleerde features naar een kleinere set van nieuwe, ongecorreleerde features (componenten of latente representaties) die de meeste variantie in de data behouden. Dit vermindert de dimensionaliteit, versnelt de training en helpt overfitting te verminderen zonder veel informatie te verliezen. Zelfcorrelatie berekenen en features verwijderen is een simplistische aanpak die nuttige informatie kan weggooien. Normalisatie schaalt de data, maar vermindert de dimensionaliteit niet. Clustering en sampling vermindert de datasetgrootte, maar pakt het probleem van gecorreleerde features en hoge dimensionaliteit niet direct aan en kan leiden tot verlies van representatieve data.