Bank wdrożył klasyfikator XGBoost w SageMaker, aby decydować, którzy klienci kwalifikują się do promocji kredytowej z niskim oprocentowaniem. Dokładność modelu jest akceptowalna, ale zespół musi wyjaśnić, dlaczego konkretnym klientom odmówiono. Jaki jest najbardziej efektywny operacyjnie sposób na stworzenie wyjaśnień dla poszczególnych klientów?

Prawidłowa odpowiedź to uruchomienie zadania wyjaśniania za pomocą SageMaker Clarify. SageMaker Clarify jest przeznaczony do zapewniania wyjaśnień modelu (interpretowalności) poprzez obliczanie wartości SHAP (Shapley Additive Explanations), które pokazują wkład każdej cechy w daną prognozę. Użycie danych treningowych jako punktu odniesienia jest standardową praktyką przy obliczaniu wartości SHAP. Ta metoda jest najbardziej efektywna operacyjnie, ponieważ Clarify jest zintegrowany z SageMaker i automatyzuje proces generowania wyjaśnień dla poszczególnych instancji. Pozostałe opcje są mniej odpowiednie: plotimportance() XGBoost pokazuje ogólną ważność cech dla całego modelu, a nie wyjaśnienia dla poszczególnych klientów. Ponowne szkolenie modelu w celu zbierania wartości Shapley za pomocą SageMaker Debugger nie jest jego głównym przeznaczeniem; Debugger służy do monitorowania i debugowania procesu szkolenia, a nie do generowania wyjaśnień po szkoleniu. SageMaker Model Monitor służy do wykrywania dryfu danych i dryfu modelu w czasie, a nie do obliczania wartości SHAP dla wyjaśnień modelu.