Je bouwt lineaire voorspellingsmodellen (zoals lineaire of logistische regressie) voor een dataset met veel features. Verkennende analyse toont aan dat veel features sterk gecorreleerd zijn, wat het model kan destabiliseren. Wat moet je doen om de negatieve effecten van veel gecorreleerde features te verminderen?

Sterk gecorreleerde features (multicollineariteit) kunnen lineaire modellen destabiliseren, wat leidt tot onbetrouwbare coëfficiëntenschattingen en overfitting. Principal Component Analysis (PCA) is een dimensionale reductietechniek die de data transformeert naar een nieuwe set ongecorreleerde variabelen, genaamd hoofdcomponenten. Deze componenten vangen de meeste variantie in de originele data op, waardoor de dimensionaliteit wordt verminderd en de multicollineariteit wordt aangepakt zonder veel informatie te verliezen. One-hot encoding is voor categorische variabelen en lost multicollineariteit niet op. Matrixvermenigvuldiging is geen standaardmethode om gecorreleerde features te combineren. Het berekenen van Pearson correlatiecoëfficiënten identificeert weliswaar gecorreleerde features, maar lost het probleem niet op.