Une banque a utilisé XGBoost, entraîné sur 7 ans de données de transactions, pour construire un modèle d'éligibilité au crédit. Le modèle est précis, mais l'équipe de crédit (qui a peu d'expertise en science des données) ne comprend pas pourquoi certains clients se voient refuser un crédit. Quelle est la manière la plus efficace sur le plan opérationnel pour l'équipe de science des données de fournir des explications à l'équipe de crédit ?

La bonne réponse est d'utiliser SageMaker Debugger pour calculer les valeurs de Shapley et générer des graphiques SHAP. SageMaker Debugger est conçu pour collecter des métriques et des explications pendant l'entraînement, ce qui le rend opérationnellement efficace. Les valeurs de Shapley et les graphiques SHAP fournissent des explications localisées et compréhensibles sur l'influence de chaque caractéristique sur les prédictions individuelles, ce qui est crucial pour une équipe non experte en science des données. Les autres options sont moins efficaces : Réentraîner le modèle et calculer les valeurs de Shapley à partir des inférences capturées par Model Monitor est possible, mais moins direct et potentiellement plus coûteux en ressources que d'utiliser Debugger pendant l'entraînement. Utiliser plotimportance() de XGBoost ne fournit que l'importance globale des caractéristiques, pas des explications spécifiques à chaque prédiction, ce qui est insuffisant pour comprendre pourquoi un client individuel a été refusé. Utiliser SageMaker Processing pour une post-analyse génère des graphiques d'importance des caractéristiques, mais n'offre pas la même granularité d'explication que les valeurs de Shapley pour des cas individuels.