A cada trimestre, uma empresa usa modelos de ML para prever a demanda e deseja produzir um relatório que forneça aos stakeholders explicações claras de como os modelos fazem as previsões. Qual item o profissional de IA deve incluir no relatório para fornecer transparência e explicabilidade do modelo?

Partial Dependence Plots (PDPs) são gráficos que mostram o efeito marginal de uma ou duas características (features) na previsão de um modelo de Machine Learning. Eles ajudam a entender como as características impactam a saída do modelo, tornando as previsões mais explicáveis para os stakeholders, mesmo que não sejam especialistas em ML. O código de treinamento é muito técnico e não explica as previsões. Amostras dos dados de treinamento não explicam o comportamento do modelo, apenas os dados. Tabelas de convergência do modelo indicam o desempenho do treinamento, mas não como as características influenciam as previsões.