Bir banka, hangi müşterilerin düşük faizli kredi promosyonuna hak kazandığına karar vermek için SageMaker'da bir XGBoost sınıflandırıcısı dağıttı. Modelin doğruluğu kabul edilebilir, ancak ekip, belirli müşterilerin neden reddedildiğini açıklamak zorunda. Müşteri başına açıklamalar üretmenin operasyonel olarak en verimli yolu nedir?

Doğru cevap, SageMaker Clarify'ı kullanarak bireysel müşteriler için SHAP değerlerini hesaplamak ve özellik katkılarını gösteren grafikler oluşturmaktır. SageMaker Clarify, makine öğrenimi modellerinin açıklanabilirliğini artırmak için tasarlanmış bir hizmettir ve SHAP (SHapley Additive exPlanations) değerlerini kullanarak model tahminlerinin nedenlerini anlamayı sağlar. Bu, modelin belirli bir müşteri için neden düşük faizli kredi promosyonuna hak kazandığını veya reddedildiğini açıklamak için en verimli ve ölçeklenebilir yöntemdir. Diğer seçenekler şunlardır: XGBoost'un plotimportance() işlevi, genel özellik önemini gösterir ancak bireysel tahminler için açıklama sağlamaz. SageMaker Debugger, model eğitimi sırasında hataları ve performansı izlemek için kullanılır, açıklanabilirlik için tasarlanmamıştır. SageMaker Model Monitor, modelin üretimdeki performansını izler, ancak bireysel tahminlerin açıklanabilirliğini sağlamaz.