MediAnalytics 建立了一個用於醫院再入院預測的 XGBoost 分類器，並使用 SageMaker Clarify 進行訓練後可解釋性分析。全域 SHAP 摘要顯示 patient_age 是再入院風險的主要正向貢獻者，但 Clarify 產生的 patient_age 偏相關圖 (PDP) 卻是非單調的，似乎與 SHAP 衝突。資料團隊懷疑 patient_age 與多個共病特徵相關。最合適的解釋和下一步是什麼？

當特徵相關時，偏相關圖 (PDP) 可能會產生誤導，因為它假設所有其他特徵都是獨立的。SHAP 摘要顯示 patientage 是重要貢獻者，而 PDP 的非單調性可能表明存在複雜的交互作用或相關性。SHAP 依賴圖（或個別條件期望 (ICE) 圖/條件 PDP）可以更好地揭示特徵交互作用和相關性，因為它們允許我們觀察一個特徵的影響如何隨另一個特徵的值而變化。信任 PDP 而忽略 SHAP 是錯誤的，因為兩者都提供不同視角的見解。移除 patientage 可能會導致資訊丟失。LIME 和 SHAP 在處理相關特徵方面都有其局限性，切換解釋器並不能解決根本問題。