FinSight LLC, S3 (s3://finsight-prod/data) bucket'ında depolanan bir kredi onay veri kümesi üzerinde SageMaker Clarify ile ön eğitim yanlılık değerlendirmesi yürütür. Clarify ön eğitim raporu, hedef etiket için Sınıf Dengesizliği (CI) = 0,12 (0,2'nin altında kabul edilebilir) ve cinsiyet için (erkek ve kadın) Pozitif Oranlardaki Fark (DPP) = 0,18 (0,10'luk politika eşiğini aşıyor) olduğunu göstermektedir. Model ekibi, ml.c5.4xlarge eğitim örneği üzerinde yeniden eğitim yapmayı planlamaktadır. Yeniden eğitimden önce bu Clarify sonuçlarını ele almak için en uygun acil eylem nedir?

Doğru cevap, SageMaker Processing işi aracılığıyla grup bilincine sahip yeniden örnekleme veya örnek yeniden ağırlıklandırma uygulayarak cinsiyet grupları arasındaki DPP'yi azaltmaktır. Clarify raporu, DPP'nin 0,10'luk politika eşiğini aştığını açıkça belirtmektedir, bu da modelin farklı cinsiyet gruplarına karşı önyargılı olabileceği anlamına gelir. Yeniden örnekleme veya yeniden ağırlıklandırma, eğitim verilerindeki grup dağılımlarını ayarlayarak bu önyargıyı model eğitimi öncesinde ele alan etkili ön işleme teknikleridir. Bu, modelin daha adil bir şekilde öğrenmesini sağlar. Diğer seçenekler uygun değildir: CI'yı göz ardı etmek ve DPP'yi eğitim sonrası ele almak, önyargıyı baştan düzeltmek yerine sonradan yamalamaya çalışmaktır. Ön eğitim önyargısı, modelin temel öğrenmesini etkiler. Cinsiyet sütununu kaldırmak, modelin cinsiyetle ilgili kalıpları öğrenmesini engeller ancak bu, önyargıyı tamamen ortadan kaldırmaz ve modelin ilgili bilgileri kullanma yeteneğini kısıtlayabilir. SageMaker Model Monitor'ü dağıtımdan sonra kullanmak, önyargıyı önceden ele almak yerine dağıtıldıktan sonra tespit etmeye yöneliktir. Ön eğitim önyargısı, dağıtımdan önce düzeltilmelidir.