Una banca ha utilizzato XGBoost, addestrato su 7 anni di dati transazionali, per costruire un modello di idoneità al credito. Il modello è accurato, ma il team del credito (con poca esperienza in data science) non riesce a capire perché ad alcuni clienti venga negato il credito. Qual è il modo più efficiente dal punto di vista operativo per il team di data science di fornire spiegazioni al team del credito?

L'opzione corretta è la più efficiente operativamente perché SageMaker Debugger può essere configurato per calcolare i valori di Shapley durante l'addestramento, fornendo un metodo integrato per l'interpretabilità del modello. Questo permette di generare grafici SHAP che spiegano l'influenza delle feature sulle previsioni, rendendo il modello comprensibile per il team del credito. Le altre opzioni sono meno efficienti: La prima opzione richiede di acquisire inferenze e calcolare i valori di Shapley dopo il deployment, aggiungendo un passaggio e complessità. La terza opzione, sebbene possa fornire un'importanza delle feature, il metodo plotimportance() di XGBoost è meno dettagliato e non fornisce la stessa profondità di spiegazione dei valori SHAP, che mostrano l'impatto di ogni feature su una singola previsione. La quarta opzione utilizza SageMaker Processing per la post-analisi, che è un approccio valido ma meno integrato e diretto rispetto all'uso di Debugger durante l'addestramento per i valori SHAP.