Een bank heeft XGBoost getraind op 7 jaar aan transactiegegevens om een kredietwaardigheidsmodel te bouwen. Het model is nauwkeurig, maar het kredietenteam (met weinig data science-expertise) begrijpt niet waarom sommige klanten worden afgewezen. Wat is de meest operationeel efficiënte manier voor het data science-team om uitleg te geven aan het kredietenteam?

De correcte optie is de meest operationeel efficiënte omdat deze Amazon SageMaker Debugger gebruikt, dat is ontworpen om inzicht te geven in modelgedrag, inclusief uitlegbaarheid via Shapley-waarden. Door Debugger te configureren om Shapley-waarden te verzamelen tijdens het opnieuw trainen in SageMaker Studio, kan het data science-team efficiënt SHAP-grafieken genereren die duidelijk de invloed van features op voorspellingen laten zien, wat essentieel is voor een team met weinig data science-expertise. De andere opties zijn minder efficiënt: Het handmatig berekenen van Shapley-waarden uit vastgelegde inferences (optie 1) is complexer en minder geautomatiseerd dan het gebruik van Debugger. plotimportance() (optie 3) geeft alleen globale feature-belangrijkheid, niet de lokale, individuele uitleg die nodig is voor specifieke afwijzingen. SageMaker Processing (optie 4) kan worden gebruikt voor post-analyse, maar Debugger biedt een meer geïntegreerde en geautomatiseerde manier om Shapley-waarden te verzamelen tijdens het trainingsproces zelf.