Una banca ha implementato un classificatore XGBoost in SageMaker per decidere quali clienti sono idonei per una promozione di credito a basso tasso. L'accuratezza del modello è accettabile, ma il team deve spiegare perché a determinati clienti è stato negato il credito. Qual è il modo più efficiente dal punto di vista operativo per produrre spiegazioni per ogni cliente?

L'opzione corretta è la più efficiente operativamente perché SageMaker Clarify è progettato specificamente per la spiegabilità dei modelli, inclusa la generazione di valori SHAP (SHapley Additive exPlanations) per singole previsioni. Utilizzare i dati di training come baseline è una pratica standard per calcolare i valori SHAP, che quantificano il contributo di ogni feature alla previsione di un'istanza. Le altre opzioni sono meno adatte: plotimportance() di XGBoost mostra l'importanza globale delle feature, non le spiegazioni per le singole previsioni. Riapprendere il modello con SageMaker Debugger per i valori Shapley è inefficiente e non è lo scopo principale di Debugger, che si concentra sul debugging del training. SageMaker Model Monitor è per il monitoraggio della deriva dei dati e del modello in produzione, non per la spiegabilità delle singole previsioni.