MediAnalytics는 병원 재입원 예측을 위해 XGBoost 분류기를 구축하고, 학습 후 설명 가능성을 위해 SageMaker Clarify를 사용했습니다. Global SHAP 요약은 patient_age가 재입원 위험에 대한 주요 긍정적 기여자임을 보여주지만, Clarify에서 생성된 patient_age에 대한 부분 의존성 플롯(PDP)은 단조롭지 않고 SHAP와 충돌하는 것으로 보입니다. 데이터 팀은 patient_age가 여러 동반 질환(comorbidity) 특성과 상관관계가 있다고 의심합니다. 가장 적절한 해석과 다음 단계는 무엇입니까?

특징들이 상관관계가 있을 때 부분 의존성 플롯(PDP)은 다른 특징의 효과를 평균화하기 때문에 오해의 소지가 있을 수 있습니다. 반면 SHAP 의존성 플롯(또는 ICE/조건부 PDP)은 특정 특징의 효과를 다른 특징의 특정 값에 따라 보여주므로 상관관계가 있는 특징이 있을 때 더 정확한 통찰력을 제공합니다. 따라서 Clarify를 사용하여 특징 상호작용 및 상관관계를 검토하는 것이 중요합니다. 모델을 배포하거나 특징을 제거하기 전에 이러한 추가 분석을 통해 모델의 동작을 더 깊이 이해하고 잘못된 결론을 피할 수 있습니다. LIME은 국소적 설명에 유용하지만, 상관관계가 있는 특징에 대한 전역적 통찰력을 제공하는 데 SHAP 의존성 플롯보다 반드시 우월하지는 않습니다.