Une institution financière utilise un modèle de fondation pour appuyer les décisions de prêt et exige que les décisions du modèle soient explicables pour des raisons d'audit et de sécurité. Quel facteur affecte le plus directement l'explicabilité des décisions du modèle ?

La complexité du modèle affecte le plus directement l'explicabilité. Les modèles de fondation, souvent très complexes avec des milliards de paramètres, sont intrinsèquement plus difficiles à interpréter que des modèles plus simples. Pour les décisions de prêt, l'audit et la sécurité exigent une compréhension claire des raisons pour lesquelles une décision a été prise, ce qui est entravé par la nature de "boîte noire" des modèles complexes. Le temps d'entraînement et le temps de déploiement sont des considérations opérationnelles, non directement liées à la capacité d'expliquer une décision. Le nombre d'hyperparamètres, bien qu'il contribue à la complexité, n'est pas le facteur le plus direct de l'explicabilité par rapport à la complexité architecturale et au nombre total de paramètres du modèle.