MediAnalytics hat einen XGBoost-Klassifikator für die Vorhersage von Krankenhauswiederaufnahmen entwickelt und SageMaker Clarify für die Erklärbarkeit nach dem Training verwendet. Die globale SHAP-Zusammenfassung zeigt patient_age als einen der wichtigsten positiven Faktoren für das Wiederaufnahmerisiko, aber das von Clarify generierte Partial Dependence Plot (PDP) für patient_age ist nicht-monoton und scheint mit SHAP zu kollidieren. Das Datenteam vermutet, dass patient_age mit mehreren Komorbiditätsmerkmalen korreliert ist. Was ist die am besten geeignete Interpretation und der nächste Schritt?

Die korrekte Antwort ist, dass PDPs irreführend sein können, wenn Merkmale korreliert sind. Ein Partial Dependence Plot (PDP) zeigt den marginalen Effekt eines Merkmals auf die Vorhersage, indem es über die Effekte anderer Merkmale mittelt. Wenn das Merkmal jedoch stark mit anderen Merkmalen korreliert ist, kann das PDP unrealistische oder nicht-existente Datenpunkte berücksichtigen, was zu einer verzerrten Darstellung führt. SHAP-Werte hingegen messen den Beitrag jedes Merkmals zur Vorhersage für eine einzelne Instanz und können Interaktionen besser erfassen. Der nächste Schritt sollte sein, SHAP Dependence Plots oder Individual Conditional Expectation (ICE) Plots zu verwenden, die die Abhängigkeit der Vorhersage von einem Merkmal für einzelne Instanzen oder unter Berücksichtigung von Interaktionen zeigen. Dies hilft, die Beziehung zwischen patientage und den Komorbiditätsmerkmalen sowie deren Einfluss auf die Vorhersage besser zu verstehen, bevor eine Entscheidung über das Modell getroffen wird. Die anderen Optionen sind falsch, weil: PDPs nicht immer vertrauenswürdiger sind als SHAP, insbesondere bei korrelierten Merkmalen. Das Entfernen eines Merkmals ohne weitere Untersuchung kann zu Informationsverlust führen. LIME hat ebenfalls Einschränkungen bei korrelierten Merkmalen und ist nicht unbedingt besser geeignet als SHAP in diesem Szenario.