Bir kredi riski modeli %99 eğitim doğruluğu gösterirken, doğrulama doğruluğu yalnızca %82'dir. Şirketin dağıtımdan önce bu performans farkını gidermesi gerekiyor. Aşırı öğrenmeyi gideren ve genellemeyi iyileştiren önlemler nelerdir?

Doğru cevap, aşırı öğrenmeyi azaltan ve modelin genelleme yeteneğini artıran teknikleri içerir. Dropout katmanları, eğitim sırasında nöronların rastgele devre dışı bırakılmasıyla modelin belirli özelliklere aşırı bağımlı olmasını engeller. L1 veya L2 düzenlileştirmesi (lasso veya ridge), modelin ağırlıklarını küçülterek karmaşıklığı azaltır ve aşırı öğrenmeyi önler. k-katlı çapraz doğrulama, veri setini birden çok eğitim ve doğrulama setine bölerek modelin farklı veri alt kümelerindeki performansını değerlendirir ve daha güvenilir bir genelleme tahmini sağlar. Diğer seçenekler neden yanlış: Model karmaşıklığını artırmak (daha fazla yoğun katman eklemek) genellikle aşırı öğrenmeyi kötüleştirir. Erken durdurma faydalı olsa da, tek başına yeterli değildir. PCA, özellik boyutluluğunu azaltarak aşırı öğrenmeye yardımcı olabilir ancak model katmanlarını azaltmak her zaman doğru çözüm değildir. Çapraz entropi bir kayıp fonksiyonudur, aşırı öğrenmeyi doğrudan gidermez. Eğitim veri setini zenginleştirmek veya yinelenen kayıtları kaldırmak veri kalitesini artırsa da, doğrudan aşırı öğrenmeyi hedefleyen düzenlileştirme teknikleri kadar etkili değildir. Katmanlı örnekleme, veri dağılımını korumak için kullanılır, aşırı öğrenmeyi doğrudan gidermez.