Je bouwt een regenvoorspellingsmodel met duizenden features; je wilt het aantal features verminderen om de training te versnellen met minimaal verlies aan nauwkeurigheid. Welke actie is gepast?

Het combineren van sterk onderling afhankelijke (redundante) features tot één representatieve feature, bijvoorbeeld via Principal Component Analysis (PCA) of feature engineering, is een effectieve manier om dimensionaliteit te reduceren zonder veel informatie te verliezen. Dit versnelt de training en kan overfitting verminderen. Features die sterk gecorreleerd zijn met de output labels zijn juist waardevol en moeten behouden blijven. Het willekeurig middelen van features in groepen van drie is geen gestandaardiseerde of effectieve methode voor feature-reductie. Het verwijderen van features met veel null-waarden kan nuttig zijn, maar is niet de meest directe aanpak voor het reduceren van redundantie en het behouden van informatie, en kan leiden tot verlies van waardevolle, zij het onvolledige, data.