Bir web şirketi, derin öğrenme çok sınıflı bir model eğitiyor ve eğitim verilerinde %90 doğruluk, ancak test verilerinde yalnızca %70 doğruluk görüyor (aşırı uyum). Dağıtımdan önce doğrulama ve test kümelerinde doğruluğu en üst düzeye çıkarmak için, modelin en iyi şekilde genelleşmesine en çok yardımcı olacak eylem hangisidir?

Modelin eğitim verilerinde yüksek, test verilerinde düşük doğruluk göstermesi aşırı uyum (overfitting) belirtisidir. Aşırı uyumu azaltmak ve modelin genelleme yeteneğini artırmak için L1 veya L2 regularization eklemek ve eğitim sırasında dropout kullanmak etkili yöntemlerdir. Regularization, modelin ağırlıklarını küçülterek karmaşıklığını azaltır. Dropout ise eğitim sırasında rastgele nöronları devre dışı bırakarak modelin belirli özelliklere aşırı bağımlı olmasını engeller. Eğitim sırasında mini gruplar oluştururken rastgeleliği artırmak, modelin genelleme yeteneğini bir miktar artırabilir ancak aşırı uyum sorununu kökten çözmez. Veri kümesinin daha büyük bir kısmını eğitime ayırmak, genellikle aşırı uyumu artırır çünkü modelin eğitim verilerini daha iyi ezberlemesine olanak tanır. Katmanları ve nöronları azaltarak ağ boyutunu küçültmek, modelin kapasitesini düşürerek aşırı uyumu azaltabilir, ancak bu aynı zamanda modelin öğrenme yeteneğini de kısıtlayabilir ve yetersiz uyuma (underfitting) yol açabilir.