Büyük bir perakende bankası, farklı demografik gruplar arasında kredi tahsis kararlarını yönlendirmek için bir ML sistemi istiyor. Modelin tarafsız olmasını sağlamak için hangi eylem gereklidir?

Doğru cevap, eğitim verilerindeki sınıf dengesizliğini değerlendirmek ve eğitim sürecini buna göre ayarlamaktır. Sınıf dengesizliği, bir veya daha fazla sınıfın diğerlerinden çok daha az örneğe sahip olduğu durumlarda ortaya çıkar ve bu durum, modelin azınlık sınıflarını yeterince öğrenememesine ve dolayısıyla bu gruplara karşı taraflı kararlar almasına neden olabilir. Bu dengesizliği gidermek için aşırı örnekleme (oversampling), az örnekleme (undersampling) veya sentetik veri üretimi gibi teknikler kullanılabilir. Eğitim veri setinin boyutunu küçültmek, modelin genelleme yeteneğini azaltabilir ve taraflılığı artırabilir. Modelin tahminlerini geçmiş kararlarla eşleşmeye zorlamak, geçmişteki taraflılıkları pekiştirebilir. Her demografik grup için ayrı ML modelleri oluşturmak, veri setlerinin küçülmesine ve modelin genelleme yeteneğinin azalmasına yol açabilir, ayrıca yönetim karmaşıklığını artırır.