Een financiële onderneming ontwikkelt een generatieve AI-applicatie om te helpen bij beslissingen over leninggoedkeuring en vereist eerlijke en verantwoorde outputs. Welke actie helpt om aan die vereiste te voldoen?

De juiste actie is het onderzoeken van trainingsdata op vooroordelen en ervoor zorgen dat deze representatief is voor alle demografische groepen. Onbevooroordeelde en representatieve trainingsdata zijn cruciaal voor het creëren van eerlijke en verantwoorde AI-systemen, vooral in gevoelige toepassingen zoals leninggoedkeuring. Dit helpt discriminatie te voorkomen en zorgt voor gelijke behandeling van alle aanvragers. Het gebruik van een diep neuraal netwerk met veel verborgen lagen garandeert geen eerlijkheid; het kan zelfs vooroordelen in de data versterken. Het geheim houden van het beslissingsproces van het model vermindert transparantie en verantwoording, wat essentieel is voor eerlijke AI. Het alleen monitoren van het model met een vaste testdataset zonder doorlopende controles is onvoldoende, omdat modeldrift en nieuwe vooroordelen in de loop van de tijd kunnen ontstaan.