MediAnalytics ha creato un classificatore XGBoost per le previsioni di riammissione ospedaliera e ha utilizzato SageMaker Clarify per la spiegabilità post-addestramento. Il riepilogo SHAP globale mostra patient_age come uno dei principali contributori positivi al rischio di riammissione, ma il partial dependence plot (PDP) generato da Clarify per patient_age non è monotono e sembra essere in conflitto con SHAP. Il team di dati sospetta che patient_age sia correlato a diverse caratteristiche di comorbilità. Qual è l'interpretazione più appropriata e il passo successivo?

Il PDP (Partial Dependence Plot) mostra l'effetto marginale di una caratteristica sulla previsione, ma può essere fuorviante in presenza di correlazioni tra le caratteristiche, poiché assume l'indipendenza. SHAP (SHapley Additive exPlanations) attribuisce l'importanza delle caratteristiche considerando le interazioni, ma il suo riepilogo globale non mostra necessariamente la relazione funzionale. I SHAP dependence plots (o Individual Conditional Expectation/Conditional PDP) sono più adatti per esplorare la relazione tra una caratteristica e l'output del modello, tenendo conto delle interazioni e delle correlazioni. Pertanto, è fondamentale analizzare ulteriormente le interazioni e le correlazioni delle caratteristiche con Clarify prima di prendere decisioni sul modello. Affidarsi ciecamente al PDP o rimuovere la caratteristica senza un'analisi approfondita è prematuro. LIME è un metodo di spiegazione locale e non risolve intrinsecamente il problema delle correlazioni per le spiegazioni globali.