Her çeyrekte, bir şirket talep tahmini yapmak için ML modelleri kullanır ve paydaşlara modellerin tahminleri nasıl yaptığına dair net açıklamalar sunan bir rapor hazırlamak ister. Yapay zeka uzmanı, model şeffaflığını ve açıklanabilirliğini sağlamak için rapora hangi öğeyi dahil etmelidir?

Kısmi Bağımlılık Grafikleri (PDP'ler), bir veya iki özelliğin tahmin edilen sonuç üzerindeki marjinal etkisini göstererek modelin nasıl tahmin yaptığını açıklar. Bu, paydaşların modelin belirli girdilere nasıl tepki verdiğini anlamalarına yardımcı olan şeffaf ve açıklanabilir bir yöntemdir. Modeli eğitmek için kullanılan kod, teknik bir ayrıntıdır ve paydaşların model davranışını anlaması için uygun değildir. Eğitim verilerinin örnekleri, modelin nasıl öğrendiğini değil, ne üzerinde öğrendiğini gösterir. Model yakınsamasını gösteren tablolar, modelin eğitim sürecindeki performansını gösterir ancak tahminlerin nasıl yapıldığına dair doğrudan bir açıklama sunmaz.