Een bank heeft een XGBoost-classifier geïmplementeerd in SageMaker om te bepalen welke klanten in aanmerking komen voor een kredietpromotie met een lage rente. De nauwkeurigheid van het model is acceptabel, maar het team moet uitleggen waarom specifieke klanten zijn afgewezen. Wat is de meest operationeel efficiënte manier om per klant uitleg te genereren?

De meest operationeel efficiënte methode is het uitvoeren van een explainability-taak met SageMaker Clarify. Clarify is specifiek ontworpen voor modelverklaarbaarheid en biasdetectie. Het kan SHAP-waarden berekenen voor individuele voorspellingen, wat essentieel is om uit te leggen waarom specifieke klanten zijn afgewezen. De trainingsdata als baseline is cruciaal voor het correct berekenen van SHAP-waarden. Optie 1 is inefficiënt omdat plotimportance() globale feature-belangrijkheid toont, niet per individuele voorspelling. Optie 2 is onnodig omdat het opnieuw trainen van het model niet vereist is voor explainability na training, en SageMaker Debugger is meer gericht op het debuggen van modeltraining dan op post-hoc explainability. Optie 4 is onjuist omdat SageMaker Model Monitor bedoeld is voor het detecteren van drift in modelkwaliteit en data, niet voor het genereren van SHAP-waarden voor explainability.