Elk kwartaal gebruikt een bedrijf ML-modellen om de vraag te voorspellen en wil een rapport produceren dat belanghebbenden duidelijke uitleg geeft over hoe de modellen voorspellingen doen. Welk item moet de AI-practitioner in het rapport opnemen om modeltransparantie en verklaarbaarheid te bieden?

Partial dependence plots (PDPs) tonen de marginale impact van één of twee features op de voorspelde output van een machine learning-model, waardoor de relatie tussen features en voorspellingen duidelijk wordt. Dit draagt bij aan modeltransparantie en verklaarbaarheid, essentieel voor belanghebbenden om te begrijpen hoe het model werkt. De gebruikte code is relevant voor reproduceerbaarheid, maar legt niet direct de modelbeslissingen uit. Voorbeelden van trainingsdata zijn nuttig voor context, maar verklaren niet de werking van het model. Tabellen die modelconvergentie tonen, geven inzicht in het trainingsproces, maar niet in de interpretatie van de voorspellingen van het getrainde model.