Praktyk ML chce zapewnić interesariuszom przejrzystość i wyjaśnienia dotyczące sposobu, w jaki model dokonuje prognoz. Która z poniższych opcji najlepiej zapewnia tę wyjaśnialność?

Przedstawienie wartości Shapley modelu najlepiej zapewnia wyjaśnialność, ponieważ wartości Shapley (SHAP) to metoda teorii gier, która przypisuje każdemu elementowi danych wejściowych wkład w przewidywania modelu. Pozwala to zrozumieć, które cechy miały największy wpływ na konkretną prognozę, zapewniając przejrzystość i możliwość interpretacji. Podanie miary dokładności modelu (np. precyzja, czułość) informuje o ogólnej wydajności, ale nie wyjaśnia, dlaczego konkretna prognoza została dokonana. Dostarczenie macierzy pomyłek modelu również ocenia wydajność, pokazując błędy klasyfikacji, ale nie wnosi wkładu poszczególnych cech. Zapewnienie bezpiecznego punktu końcowego wnioskowania modelu dotyczy bezpieczeństwa i dostępności, a nie wyjaśnialności.