Una empresa tiene un modelo de machine learning y quiere entender cómo el modelo llega a sus predicciones. ¿Cuál es el término para comprender las predicciones de un modelo?

La interpretabilidad del modelo se refiere a la capacidad de entender cómo un modelo de machine learning llega a sus predicciones. Es crucial para la confianza, la depuración y el cumplimiento normativo, ya que permite a los humanos comprender la lógica interna del modelo. El entrenamiento del modelo es el proceso de ajustar los parámetros del modelo con datos. La interoperabilidad del modelo se refiere a la capacidad de diferentes sistemas o modelos para trabajar juntos. El rendimiento del modelo mide qué tan bien el modelo realiza su tarea, pero no explica el "por qué" de sus predicciones.