Co kwartał firma wykorzystuje modele ML do prognozowania popytu i chce przygotować raport, który jasno wyjaśni interesariuszom, w jaki sposób modele dokonują prognoz. Który element powinien specjalista AI uwzględnić w raporcie, aby zapewnić przejrzystość i wyjaśnialność modelu?

Wykresy częściowej zależności (PDP) wizualizują marginalny wpływ jednej lub dwóch cech na przewidywaną odpowiedź modelu, pokazując, jak zmiana wartości cechy wpływa na prognozę. Są one kluczowe dla wyjaśnienia, w jaki sposób model dokonuje prognoz, ponieważ ilustrują relacje między cechami wejściowymi a wyjściem modelu w sposób zrozumiały dla interesariuszy nietechnicznych. Kod użyty do trenowania modelu jest zbyt szczegółowy i techniczny dla większości interesariuszy. Próbki danych treningowych nie wyjaśniają mechanizmu prognozowania modelu. Tabele pokazujące zbieżność modelu dotyczą procesu trenowania, a nie sposobu, w jaki model generuje prognozy po wytrenowaniu.