Une entreprise financière développe une application d'IA générative pour aider aux décisions d'approbation de prêts et exige des résultats justes et responsables. Quelle action permet d'atteindre cette exigence ?

L'examen des données d'entraînement pour détecter les biais et l'inclusion de données représentatives de tous les groupes démographiques sont essentiels pour garantir des résultats justes et responsables dans les applications d'IA générative, en particulier pour les décisions d'approbation de prêts. Les biais dans les données d'entraînement peuvent conduire à des décisions discriminatoires ou inéquitables. L'utilisation d'un réseau neuronal profond ne garantit pas la justice ou la responsabilité sans données d'entraînement appropriées. Garder le processus de décision secret entrave la transparence et la capacité d'auditer le modèle pour la justice. Se fier uniquement à un ensemble de données de test fixe sans surveillance continue ne permet pas de détecter les dérives ou les nouveaux biais qui pourraient apparaître après le déploiement.