Компания MediAnalytics разработала классификатор XGBoost для прогнозирования повторной госпитализации и использовала SageMaker Clarify для объяснимости после обучения. Глобальная сводка SHAP показывает, что patient_age является основным положительным фактором риска повторной госпитализации, но сгенерированный Clarify график частичной зависимости (PDP) для patient_age является немонотонным и, по-видимому, противоречит SHAP. Команда по работе с данными подозревает, что patient_age коррелирует с несколькими признаками сопутствующих заболеваний. Какова наиболее подходящая интерпретация и следующий шаг?

Правильный ответ объясняется тем, что графики частичной зависимости (PDP) могут вводить в заблуждение при наличии сильной корреляции между признаками. PDP показывает влияние одного признака, усредняя по всем другим признакам, что может быть нереалистичным, если признаки взаимосвязаны. В данном случае, если patientage коррелирует с сопутствующими заболеваниями, PDP может показывать немонотонное поведение, которое не отражает истинного влияния возраста. SHAP-зависимые графики (или ICE/условные PDP) учитывают эти корреляции, предоставляя более точное представление о влиянии признака. Изучение взаимодействий признаков и корреляций с помощью Clarify поможет понять истинную динамику модели перед принятием решений. Остальные варианты неверны, так как они либо неверно интерпретируют PDP/SHAP, либо предлагают неоптимальные решения, такие как удаление важного признака или переход на LIME без должного анализа.