Un banco utilizó XGBoost entrenado con 7 años de datos de transacciones para construir un modelo de elegibilidad de crédito. El modelo es preciso, pero el equipo de crédito (con poca experiencia en ciencia de datos) no puede entender por qué a algunos clientes se les deniega el crédito. ¿Cuál es la forma más eficiente operativamente para que el equipo de ciencia de datos proporcione explicaciones al equipo de crédito?

La opción correcta es la más eficiente porque Amazon SageMaker Debugger puede calcular y recopilar valores Shapley directamente durante el entrenamiento del modelo, lo que permite generar gráficos SHAP que explican la influencia de las características en las predicciones. Esto proporciona una explicación detallada y comprensible para el equipo de crédito sin requerir un procesamiento post-inferencia complejo. Reentrenar el modelo y desplegarlo para luego capturar inferencias y calcular valores Shapley (opción 1) es menos eficiente ya que implica pasos adicionales de despliegue y monitoreo para la explicabilidad. La opción de usar plotimportance() (opción 3) solo muestra la importancia general de las características, no cómo influyen en predicciones individuales. La opción de SageMaker Processing para post-análisis (opción 4) es una solución viable, pero Debugger ofrece una integración más directa y eficiente para la explicabilidad durante el entrenamiento.