Un'istituzione finanziaria utilizza un modello di base per supportare le decisioni sui prestiti e richiede che le decisioni del modello siano spiegabili per motivi di audit e sicurezza. Quale fattore influenza più direttamente la spiegabilità delle decisioni del modello?

La complessità del modello influenza direttamente la spiegabilità. I modelli più semplici, come le regressioni lineari o gli alberi decisionali, sono intrinsecamente più facili da interpretare e le loro decisioni possono essere tracciate in modo trasparente. I modelli complessi, come le reti neurali profonde, sono spesso considerati "scatole nere" perché è difficile capire come arrivano a una particolare decisione, rendendo la spiegabilità una sfida significativa per audit e conformità. Il tempo di addestramento, il numero di iperparametri e il tempo di deployment sono fattori operativi o di configurazione che non influenzano direttamente la facilità con cui si può comprendere il ragionamento interno del modello.