У компании есть модель машинного обучения, и она хочет понять, как модель приходит к своим прогнозам. Как называется понимание прогнозов модели?

Интерпретируемость модели (Model Interpretability) — это способность объяснить или представить в понятной форме, как модель машинного обучения делает свои прогнозы. Это критически важно для доверия к модели, отладки и соответствия нормативным требованиям. Обучение модели — это процесс ее создания. Взаимодействие моделей относится к тому, как модели работают вместе. Производительность модели описывает, насколько хорошо модель выполняет свою задачу, но не объясняет, как она это делает.