Bir XGBoost modeli test verilerinde iyi performans gösteriyor ancak aşırı uyum sağlıyor ve görülmeyen verilerde kötü performans gösteriyor. Aşırı uyumu azaltmak için hangi hiperparametre ayarı önerilir?

Aşırı uyum (overfitting), modelin eğitim verilerini ezberlemesi ve yeni, görülmeyen verilerde genelleme yapamaması durumudur. maxdepth parametresi, bir ağacın maksimum derinliğini kontrol eder. Derin bir ağaç, eğitim verilerindeki gürültüyü ve spesifik desenleri daha fazla öğrenme eğilimindedir, bu da aşırı uyuma yol açar. maxdepth değerini azaltmak, ağaçların daha sığ olmasını sağlayarak modelin karmaşıklığını azaltır ve genelleme yeteneğini artırır. Diğer seçenekler: maxdepth değerini artırmak, aşırı uyumu daha da kötüleştirir. objective parametresi, modelin optimize ettiği kaybı (loss function) tanımlar ve aşırı uyumu doğrudan kontrol etmez. binary:logistic ikili sınıflandırma için kullanılır. minchildweight parametresi, bir düğümde bölünme yapmak için gerekli minimum örnek ağırlık toplamını belirler. Bu değeri azaltmak, daha küçük yaprak düğümlerine izin vererek aşırı uyumu artırma potansiyeline sahiptir.