MediAnalytics heeft een XGBoost-classificator gebouwd voor voorspellingen van heropnames in ziekenhuizen en heeft SageMaker Clarify gebruikt voor post-training explainability. De globale SHAP-samenvatting toont patient_age als een top positieve bijdrager aan het risico op heropname, maar de door Clarify gegenereerde partial dependence plot (PDP) voor patient_age is niet-monotoon en lijkt in strijd te zijn met SHAP. Het data-team vermoedt dat patient_age gecorreleerd is met verschillende comorbiditeitskenmerken. Wat is de meest geschikte interpretatie en volgende stap?

De correcte optie is om te erkennen dat Partial Dependence Plots (PDP's) misleidend kunnen zijn bij gecorreleerde kenmerken. PDP's tonen het gemiddelde marginale effect van een kenmerk over alle andere kenmerken, wat problematisch wordt als het kenmerk sterk gecorreleerd is met andere. De niet-monotoniciteit van de PDP voor patientage in combinatie met de correlatie met comorbiditeiten suggereert dat de PDP een vertekend beeld geeft. SHAP dependence plots (of Individual Conditional Expectation (ICE) plots/conditionele PDP's) kunnen helpen om de interacties en correlaties beter te begrijpen door de invloed van een kenmerk te visualiseren, rekening houdend met de waarden van andere kenmerken. Dit biedt een genuanceerder inzicht dan een standaard PDP. De andere opties zijn onjuist omdat ze ofwel een onjuiste interpretatie geven van de methoden, ofwel een te drastische of ongefundeerde actie voorstellen.