Uma instituição financeira usa um modelo de base para apoiar decisões de empréstimo e exige que as decisões do modelo sejam explicáveis por motivos de auditoria e segurança. Qual fator afeta mais diretamente a explicabilidade das decisões do modelo?

A complexidade do modelo afeta diretamente a explicabilidade. Modelos mais complexos, como redes neurais profundas, são frequentemente considerados "caixas pretas" porque é difícil entender como chegam às suas decisões. Para fins de auditoria e segurança, modelos mais simples e transparentes (como regressão linear ou árvores de decisão) são geralmente preferidos devido à sua maior explicabilidade. O tempo de treinamento, o número de hiperparâmetros e o tempo de implantação são fatores importantes na engenharia e operação de modelos, mas não impactam diretamente a capacidade de entender ou justificar as decisões do modelo da mesma forma que a complexidade da arquitetura do modelo.