Ein Finanzunternehmen verwendet ein generatives KI-Modell zur Festlegung von Kreditlimits und möchte die Entscheidungen des Modells für Kunden transparenter gestalten. Welche Lösung erfüllt diese Anforderung?

Die korrekte Antwort ist die Verwendung erklärbarer KI-Methoden. Erklärbare KI (XAI) konzentriert sich darauf, die Funktionsweise und die Entscheidungen von KI-Modellen für Menschen verständlich zu machen. Im Kontext der Kreditlimitfestlegung können XAI-Methoden aufzeigen, welche spezifischen Eingabefaktoren (z. B. Einkommen, Kreditgeschichte) am stärksten zur Entscheidung des generativen Modells beigetragen haben. Dies erhöht die Transparenz für Kunden und erfüllt die Anforderung. Das Ersetzen des ML-Modells durch ein regelbasiertes System würde die Vorteile der generativen KI verlieren. Eine detaillierte technische Beschreibung ist für Laien unverständlich und schafft keine Transparenz der Entscheidung selbst. Die Verbesserung der Genauigkeit verringert nicht den Bedarf an Transparenz, da ein genaues, aber undurchsichtiges Modell weiterhin Misstrauen hervorrufen kann.