Bank wykorzystał XGBoost, wytrenowany na danych transakcyjnych z 7 lat, do zbudowania modelu oceny zdolności kredytowej. Model jest dokładny, ale zespół kredytowy (z niewielką wiedzą z zakresu data science) nie rozumie, dlaczego niektórym klientom odmawia się kredytu. Jaki jest najbardziej efektywny operacyjnie sposób, aby zespół data science dostarczył wyjaśnienia zespołowi kredytowemu?

Poprawna odpowiedź jest najbardziej efektywna operacyjnie, ponieważ Amazon SageMaker Debugger może automatycznie obliczać wartości Shapley (SHAP) podczas trenowania modelu, co pozwala na generowanie wykresów SHAP wyjaśniających wpływ poszczególnych cech na przewidywania. To rozwiązanie jest zintegrowane i nie wymaga dodatkowego wdrażania ani post-analizy. Pierwsza opcja jest mniej efektywna, ponieważ obliczanie wartości Shapley z przechwyconych wnioskowań wymagałoby dodatkowej logiki i zasobów poza procesem trenowania. Trzecia opcja, choć generuje wykres ważności cech, nie dostarcza szczegółowych wyjaśnień dla pojedynczych przewidywań, co jest kluczowe dla zrozumienia, dlaczego konkretnym klientom odmawia się kredytu. Czwarta opcja, choć wykorzystuje SageMaker Processing, nie wspomina o wartościach Shapley, a ogólna "post-analiza modelu" może być mniej precyzyjna niż bezpośrednie użycie Debuggera do SHAP.