A MediAnalytics construiu um classificador XGBoost para previsões de readmissão hospitalar e usou o SageMaker Clarify para explicabilidade pós-treinamento. O resumo global do SHAP mostra patient_age como um dos principais contribuintes positivos para o risco de readmissão, mas o gráfico de dependência parcial (PDP) gerado pelo Clarify para patient_age não é monotônico e parece entrar em conflito com o SHAP. A equipe de dados suspeita que patient_age esteja correlacionado com várias características de comorbidade. Qual é a interpretação mais apropriada e o próximo passo?

A opção correta reconhece que o PDP pode ser enganoso com características correlacionadas, pois ele varia apenas uma característica enquanto mantém as outras fixas, o que pode criar combinações irrealistas. O SHAP, por outro lado, distribui o efeito de características correlacionadas, e o conflito sugere a necessidade de investigar interações. Gráficos de dependência SHAP ou PDP/ICE condicional são mais adequados para analisar o impacto de uma característica em conjunto com outras. A opção incorreta de confiar no PDP ignora a limitação. Remover a característica sem mais investigação é prematuro. Mudar para LIME não resolve fundamentalmente o problema de interpretação de características correlacionadas, pois LIME também pode ser afetado por isso.