Um banco implantou um classificador XGBoost no SageMaker para decidir quais clientes se qualificam para uma promoção de crédito com taxa baixa. A precisão do modelo é aceitável, mas a equipe deve explicar por que clientes específicos foram negados. Qual é a maneira mais operacionalmente eficiente de produzir explicações por cliente?

A opção correta é usar o SageMaker Clarify para um trabalho de explicabilidade. O Clarify é projetado especificamente para gerar explicações de modelos, incluindo valores SHAP (SHapley Additive exPlanations), que quantificam a contribuição de cada recurso para uma previsão individual. Ele pode ser executado como um trabalho assíncrono, tornando-o operacionalmente eficiente para explicações por cliente em larga escala. Usar os dados de treinamento como linha de base é uma prática comum para calcular os valores SHAP. As outras opções estão incorretas porque: plotimportance() do XGBoost mostra a importância global dos recursos, não a contribuição para previsões individuais. O SageMaker Debugger não é a ferramenta primária para gerar explicações pós-treinamento, mas sim para depurar o processo de treinamento. O SageMaker Model Monitor é para monitoramento de desvio de modelo e qualidade de dados, não para gerar explicações de previsões individuais.