Банк использовал XGBoost, обученный на данных о транзакциях за 7 лет, для создания модели оценки кредитоспособности. Модель точна, но кредитный отдел (с небольшим опытом в области науки о данных) не может понять, почему некоторым клиентам отказывают. Какой наиболее операционно эффективный способ для команды по науке о данных предоставить объяснения кредитному отделу?

Правильный ответ — использование SageMaker Debugger для вычисления значений Шепли. SageMaker Debugger позволяет автоматически собирать значения Шепли во время обучения модели, что является наиболее операционно эффективным способом получения объяснений для кредитного отдела. Значения Шепли (и диаграммы SHAP) обеспечивают локальную объяснимость, показывая, как каждый признак влияет на конкретное предсказание, что критически важно для понимания отказов по кредитам. Переобучение модели и развертывание с SageMaker Model Monitor (первый вариант) не предоставляет объяснений "из коробки" и требует дополнительной работы для вычисления SHAP. Использование plotimportance() (третий вариант) дает только общую важность признаков, а не объяснение для конкретного отказа. SageMaker Processing (четвертый вариант) может быть использован для постобработки, но Debugger более специализирован для сбора метрик объяснимости во время обучения.