MediAnalytics, hastane yeniden yatış tahminleri için bir XGBoost sınıflandırıcısı oluşturdu ve eğitim sonrası açıklanabilirlik için SageMaker Clarify kullandı. Global SHAP özeti, patient_age'i yeniden yatış riski için en önemli pozitif katkıda bulunan faktör olarak gösteriyor, ancak Clarify tarafından oluşturulan patient_age için kısmi bağımlılık grafiği (PDP) monotonik değil ve SHAP ile çelişiyor gibi görünüyor. Veri ekibi, patient_age'in çeşitli komorbidite özellikleriyle ilişkili olduğundan şüpheleniyor. En uygun yorum ve sonraki adım nedir?

Doğru cevap, özellikler ilişkili olduğunda kısmi bağımlılık grafiklerinin (PDP) yanıltıcı olabileceğini kabul eder. PDP'ler, diğer tüm özellikler sabit tutulurken bir özelliğin ortalama etkisini gösterir, ancak bu, korelasyonlu özellikler için gerçekçi olmayan bir senaryo olabilir. SHAP bağımlılık grafikleri, bireysel koşullu bağımlılık grafikleri (ICE) veya koşullu PDP'ler gibi alternatif yöntemler, özellik etkileşimlerini ve korelasyonlarını daha iyi açıklayabilir. Bu nedenle, daha fazla analiz yapmadan önce modelin dağıtılması veya bir özelliğin kaldırılması uygun değildir. LIME, yerel açıklamalar için faydalı olsa da, korelasyonlu özelliklerin küresel etkisini ele almada SHAP veya PDP'den daha üstün değildir.