Ein Finanzinstitut verwendet ein Foundation Model, um Kreditentscheidungen zu unterstützen, und verlangt, dass die Entscheidungen des Modells aus Audit- und Sicherheitsgründen erklärbar sind. Welcher Faktor beeinflusst die Erklärbarkeit der Modellentscheidungen am direktesten?

Die Modellkomplexität beeinflusst die Erklärbarkeit am direktesten, da komplexere Modelle wie tiefe neuronale Netze oft als „Black Boxes“ fungieren und es schwierig ist, nachzuvollziehen, wie sie zu einer bestimmten Entscheidung gelangen. Für Audit- und Sicherheitszwecke ist es jedoch entscheidend, die Gründe für Kreditentscheidungen transparent machen zu können. Weniger komplexe Modelle wie Entscheidungsbäume oder lineare Regression sind leichter interpretierbar. Trainingszeit, Anzahl der Hyperparameter und Bereitstellungszeit sind zwar wichtige Aspekte des Modellmanagements, haben aber keinen direkten Einfluss auf die intrinsische Erklärbarkeit der Modellentscheidungen selbst.