MediAnalytics creó un clasificador XGBoost para predicciones de reingreso hospitalario y utilizó SageMaker Clarify para la explicabilidad post-entrenamiento. El resumen global de SHAP muestra que patient_age es un contribuyente positivo principal al riesgo de reingreso, pero el gráfico de dependencia parcial (PDP) generado por Clarify para patient_age no es monótono y parece entrar en conflicto con SHAP. El equipo de datos sospecha que patient_age está correlacionado con varias características de comorbilidad. ¿Cuál es la interpretación más apropiada y el siguiente paso?

La opción correcta es reconocer que el PDP puede ser engañoso con características correlacionadas y usar gráficos de dependencia SHAP o PDP condicional. Los gráficos de dependencia parcial (PDP) muestran el efecto marginal de una característica en la predicción del modelo, asumiendo independencia de otras características. Sin embargo, cuando las características están correlacionadas (como patientage con comorbilidades), el PDP puede presentar resultados engañosos o no monótonos porque promedia sobre distribuciones de características poco realistas. Los gráficos de dependencia SHAP (o PDP condicional/ICE) abordan esto al considerar la interacción y la correlación de las características, proporcionando una visión más precisa. Las opciones incorrectas son: Confiar en el PDP sobre SHAP es incorrecto porque el PDP es susceptible a errores con características correlacionadas. Eliminar patientage es prematuro y podría descartar una característica importante sin una investigación adecuada. Cambiar a LIME no es necesariamente la solución, ya que LIME también tiene limitaciones con características correlacionadas y no ofrece una ventaja clara sobre las técnicas SHAP o PDP condicional para este problema específico.