Банк развернул классификатор XGBoost в SageMaker, чтобы определить, какие клиенты имеют право на акцию по кредиту с низкой процентной ставкой. Точность модели приемлема, но команда должна объяснить, почему конкретным клиентам было отказано. Какой способ является наиболее операционно эффективным для создания объяснений для каждого клиента?

SageMaker Clarify — это специализированный сервис для обеспечения объяснимости моделей машинного обучения. Он позволяет вычислять значения SHAP (SHapley Additive exPlanations), которые показывают вклад каждого признака в конкретное предсказание, используя обучающие данные в качестве базового уровня. Это наиболее операционно эффективный способ, поскольку Clarify разработан именно для этой цели, автоматизируя процесс и предоставляя готовые визуализации. Использование plotimportance() XGBoost не подходит, так как эта функция показывает общую важность признаков для всей модели, а не для отдельных предсказаний. Переобучение модели с SageMaker Debugger для вычисления значений Шапли избыточно и не является его основной функцией. SageMaker Model Monitor предназначен для отслеживания дрейфа данных и модели, а не для генерации объяснений для отдельных предсказаний.