Een bedrijf heeft een machine learning-model en wil inzicht in hoe het model tot zijn voorspellingen komt. Wat is de term voor het begrijpen van de voorspellingen van een model?

Model interpretability (model interpreteerbaarheid) is het begrijpen hoe een machine learning-model tot zijn voorspellingen komt. Dit omvat het identificeren van de belangrijkste kenmerken die de output beïnvloeden en het doorgronden van de interne werking van het model. Dit is cruciaal voor vertrouwen, debugging en naleving van regelgeving. Model training is het proces van het aanpassen van de parameters van een model aan de hand van gegevens. Model interoperability verwijst naar het vermogen van modellen om samen te werken of om te worden uitgewisseld tussen verschillende systemen. Model performance meet hoe goed een model presteert op basis van specifieke metrics, zoals nauwkeurigheid of precisie, maar verklaart niet waarom het die prestaties levert.