Een financiële instelling gebruikt een foundation model om beslissingen over leningen te ondersteunen en vereist dat de beslissingen van het model verklaarbaar zijn omwille van audit- en veiligheidsredenen. Welke factor beïnvloedt de verklaarbaarheid van de beslissingen van het model het meest direct?

Modelcomplexiteit heeft de meest directe invloed op de verklaarbaarheid van modelbeslissingen. Een complexer model, zoals een deep neural network, heeft meer verborgen lagen en parameters, wat het moeilijker maakt om te begrijpen hoe het tot een specifieke output komt. Dit maakt het lastig om de redenering achter een leningbeslissing te auditeren of te verklaren. Trainingstijd, aantal hyperparameters en implementatietijd zijn operationele of configuratiegerelateerde factoren die de verklaarbaarheid minder direct beïnvloeden. Hoewel veel hyperparameters de complexiteit kunnen verhogen, is de complexiteit zelf de directe oorzaak van verminderde verklaarbaarheid.