Bir kredi kartı şirketi, binlerce ham özellikten oluşturulmuş bir kredi puanlama modelinin eğitimini hızlandırmak istiyor. Bu özelliklerin çoğu birbiriyle oldukça ilişkili. Eğitim yavaş ve model aşırı uyum sağlıyor (overfit). Çok fazla bilgi kaybetmeden boyutsallığı ve eğitim süresini azaltacak özellik mühendisliği tekniği hangisidir?

Doğru cevap, orijinal özellikleri daha küçük bir yeni özellik kümesiyle değiştirmek için bir autoencoder veya PCA kullanmaktır. Hem Autoencoder'lar hem de PCA, yüksek boyutlu verileri daha düşük boyutlu bir gösterime dönüştüren boyut azaltma teknikleridir. Bu, eğitim süresini hızlandırır ve modelin aşırı uyumunu azaltır, çünkü daha az gürültülü ve daha anlamlı özelliklerle çalışılır. Özelliklerin korelasyonunu hesaplayıp yüksek oranda ilişkili olanları çıkarmak, bazı boyut azaltma sağlayabilir ancak PCA veya autoencoder'lar kadar etkili olmayabilir ve önemli bilgileri kaybetme riski taşır. Normalleştirme, eğitim hızını artırabilir ancak boyutluluğu azaltmaz. K-means ile kümeleme, eğitim setini küçültse de, orijinal özelliklerin boyutluluğunu doğrudan azaltmaz ve modelin aşırı uyum sorununu çözmeyebilir.