Une banque a déployé un classifieur XGBoost dans SageMaker pour décider quels clients sont éligibles à une promotion de crédit à faible taux. La précision du modèle est acceptable, mais l'équipe doit expliquer pourquoi certains clients ont été refusés. Quelle est la méthode la plus efficace sur le plan opérationnel pour produire des explications par client ?

SageMaker Clarify est l'outil le plus efficace pour l'explicabilité post-déploiement. Il peut calculer les valeurs SHAP (SHapley Additive exPlanations) pour des instances individuelles, fournissant des explications claires sur l'impact de chaque caractéristique sur la prédiction d'un client. L'utilisation des données d'entraînement comme référence est une pratique courante pour établir une base de comparaison. La fonction plotimportance() de XGBoost ne fournit que l'importance globale des caractéristiques, pas des explications par client. SageMaker Debugger est conçu pour le débogage pendant l'entraînement, pas pour l'explicabilité post-déploiement. SageMaker Model Monitor est destiné à la détection de la dérive du modèle et des biais, et non au calcul des valeurs SHAP pour l'explicabilité individuelle.