MediAnalytics zbudowało klasyfikator XGBoost do przewidywania ponownych przyjęć do szpitala i użyło SageMaker Clarify do wyjaśnialności po treningu. Globalne podsumowanie SHAP pokazuje, że patient_age jest głównym pozytywnym czynnikiem przyczyniającym się do ryzyka ponownego przyjęcia, ale wygenerowany przez Clarify wykres częściowej zależności (PDP) dla patient_age jest niemonotoniczny i wydaje się być sprzeczny z SHAP. Zespół ds. danych podejrzewa, że patient_age jest skorelowany z kilkoma cechami współistniejących chorób. Jaka jest najbardziej odpowiednia interpretacja i następny krok?

Poprawna odpowiedź jest taka, że PDP (Partial Dependence Plot) może być mylący, gdy cechy są skorelowane. PDP zakłada niezależność cech, co oznacza, że zmienia wartość jednej cechy, utrzymując inne stałe. Jeśli patientage jest skorelowany z chorobami współistniejącymi, to sztuczne utrzymywanie chorób współistniejących na stałym poziomie podczas zmiany patientage może prowadzić do nierealistycznych kombinacji cech i błędnych interpretacji. Wykresy zależności SHAP (SHAP Dependence Plots) lub ICE (Individual Conditional Expectation) są lepszym wyborem w takich przypadkach, ponieważ mogą lepiej uwzględniać interakcje i korelacje między cechami, dostarczając bardziej dokładnego obrazu wpływu cechy. Zbadanie interakcji cech i korelacji za pomocą Clarify jest kluczowe przed podjęciem decyzji o modelu. Pozostałe opcje są nieprawidłowe, ponieważ ufanie PDP bez uwzględnienia korelacji jest błędem, usuwanie cechy bez dalszej analizy jest przedwczesne, a LIME, choć przydatne, niekoniecznie jest lepszym rozwiązaniem dla skorelowanych cech niż SHAP Dependence Plots.