Chaque trimestre, une entreprise utilise des modèles de ML pour prévoir la demande et souhaite produire un rapport qui fournit aux parties prenantes des explications claires sur la façon dont les modèles effectuent les prédictions. Quel élément le praticien de l'IA devrait-il inclure dans le rapport pour assurer la transparence et l'explicabilité du modèle ?

Les tracés de dépendance partielle (PDP) sont un excellent moyen de visualiser la relation marginale entre une ou plusieurs caractéristiques et la prédiction d'un modèle de ML, tout en tenant compte de l'effet des autres caractéristiques. Ils aident à comprendre comment les changements dans les caractéristiques d'entrée affectent la sortie du modèle, offrant ainsi une transparence et une explicabilité claires aux parties prenantes. Le code d'entraînement est trop technique et ne fournit pas d'explication directe des prédictions. Les échantillons de données d'entraînement ne montrent pas comment le modèle fait des prédictions. Les tableaux de convergence du modèle sont pertinents pour l'optimisation du modèle, mais n'expliquent pas les prédictions individuelles.