Eine Bank hat einen XGBoost-Klassifikator in SageMaker eingesetzt, um zu entscheiden, welche Kunden für eine Kreditaktion mit niedrigem Zinssatz in Frage kommen. Die Genauigkeit des Modells ist akzeptabel, aber das Team muss erklären, warum bestimmte Kunden abgelehnt wurden. Was ist der betrieblich effizienteste Weg, um Erklärungen pro Kunde zu erstellen?

Die korrekte Antwort ist, einen Erklärbarkeits-Job mit SageMaker Clarify auszuführen. SageMaker Clarify ist speziell für die Messung von Modell-Bias und die Erklärung von Vorhersagen konzipiert, einschließlich der Berechnung von SHAP-Werten (SHapley Additive exPlanations) für einzelne Instanzen. Dies ermöglicht eine effiziente und skalierbare Generierung von Erklärungen pro Kunde. Die Option mit plotimportance() ist ungeeignet, da diese Funktion globale Feature-Wichtigkeiten anzeigt, nicht instanzspezifische Erklärungen. Die Option mit SageMaker Debugger ist falsch, da Debugger hauptsächlich zum Überwachen von Trainingsmetriken und Debugging von Modellen während des Trainings dient, nicht zur Generierung von SHAP-Werten für Erklärungen nach dem Training. SageMaker Model Monitor ist für die Überwachung der Modellleistung und Daten-Drift in der Produktion gedacht, nicht für die Berechnung von SHAP-Werten zur Erklärung einzelner Vorhersagen.