Une banque a affiné un grand modèle linguistique pour accélérer les approbations de prêts. Un audit externe a révélé que le modèle approuve les prêts plus rapidement pour un groupe démographique que pour d'autres. Quelle est la solution la plus rentable ?

La solution la plus rentable est d'inclure des données d'entraînement plus diverses et de ré-affiner le modèle. Le biais dans les modèles d'apprentissage automatique provient souvent de données d'entraînement non représentatives. En ajoutant des données qui reflètent mieux la diversité des demandeurs de prêt, le modèle peut apprendre à traiter toutes les démographies équitablement sans nécessiter une refonte coûteuse. Utiliser la génération augmentée par récupération (RAG) est pertinent pour améliorer la précision factuelle ou la pertinence contextuelle, mais ne corrige pas intrinsèquement les biais d'équité issus des données d'entraînement. AWS Trusted Advisor est un outil d'optimisation des coûts, des performances et de la sécurité, pas une solution pour l'élimination des biais dans les modèles d'IA. Pré-entraîner un nouveau LLM est une approche beaucoup plus coûteuse et chronophage que de simplement ré-affiner le modèle existant avec des données améliorées.