Een financiële onderneming gebruikt een generatief AI-model om kredietlimieten in te stellen en wil de beslissingen van het model transparanter maken voor klanten. Welke oplossing voldoet aan deze vereiste?

Het gebruik van explainable AI (XAI)-methoden is de meest geschikte oplossing. XAI-technieken, zoals SHAP of LIME, kunnen de bijdrage van verschillende inputfactoren aan de beslissing van het model kwantificeren. Dit stelt de financiële onderneming in staat om klanten op een begrijpelijke manier uit te leggen waarom een bepaalde kredietlimiet is toegekend, wat de transparantie vergroot. Het vervangen van het ML-model door een regelgebaseerd systeem is een drastische stap die de prestaties kan verminderen. Gedetailleerde technische beschrijvingen zijn vaak te complex voor klanten. Het verbeteren van de nauwkeurigheid vermindert de behoefte aan transparantie niet; klanten willen nog steeds begrijpen hoe beslissingen tot stand komen.