Ein ML-Praktiker möchte den Stakeholdern Transparenz und Erklärungen darüber bieten, wie ein Modell Vorhersagen trifft. Was von den folgenden Optionen bietet die beste Erklärbarkeit?

Shapley-Werte bieten die beste Erklärbarkeit, da sie die marginale Bedeutung jedes Merkmals für eine bestimmte Vorhersage quantifizieren und somit die Transparenz erhöhen, wie ein Modell zu seinen Ergebnissen kommt. Die Genauigkeitsmetrik und die Konfusionsmatrix sind Leistungsmetriken, die die Gesamtleistung des Modells bewerten, aber nicht erklären, wie einzelne Vorhersagen getroffen werden. Ein sicherer Modell-Inferenz-Endpunkt ist eine technische Implementierung für den Modellzugriff und trägt nicht zur Erklärbarkeit der Modellentscheidungen bei.