Een bedrijf wil huizenverkoopprijzen voorspellen met behulp van multivariabele lineaire regressie. De dataset bevat kenmerken zoals kavelgrootte, woonoppervlakte, niet-woonoppervlakte, aantal slaapkamers, aantal badkamers, bouwjaar en postcode. Welke procedure moet een machine learning-specialist gebruiken om irrelevante kenmerken te elimineren en de modelcomplexiteit te verminderen?

Om irrelevante kenmerken te elimineren en modelcomplexiteit te verminderen, is het essentieel om te focussen op kenmerken die een sterke relatie hebben met de te voorspellen variabele (de verkoopprijs). Het berekenen van de correlatie tussen elk kenmerk en de doelverkoopprijs helpt direct te identificeren welke kenmerken het meest informatief zijn. Kenmerken met een lage correlatie met de verkoopprijs dragen waarschijnlijk weinig bij aan de voorspelling en kunnen veilig worden verwijderd, wat het model eenvoudiger en efficiënter maakt. Het verwijderen van kenmerken met hoge of lage variantie (opties 1 en 2) is niet direct gerelateerd aan hun voorspellende kracht voor de doelvariabele. Hoge variantie kan juist nuttig zijn, terwijl lage variantie niet per se betekent dat een kenmerk irrelevant is voor het doel. Het verwijderen van kenmerken met lage onderlinge correlatie met andere kenmerken (optie 3) is ook minder direct relevant; een kenmerk kan uniek zijn maar toch sterk correleren met het doel.