Een bank heeft een groot taalmodel (LLM) verfijnd om de goedkeuring van leningen te versnellen. Een externe audit wees uit dat het model leningen sneller goedkeurt voor de ene demografische groep dan voor de andere. Wat is de meest kosteneffectieve oplossing?

De meest kosteneffectieve oplossing is het toevoegen van meer diverse trainingsdata en het opnieuw verfijnen van het bestaande model. Dit pakt de hoofdoorzaak van de bias aan (onvoldoende representatieve data) zonder de hoge kosten en rekencapaciteit die gepaard gaan met het vooraf trainen van een volledig nieuw LLM. RAG is nuttig voor het aanvullen van kennis, maar lost geen inherente bias in de modelgewichten op. AWS Trusted Advisor biedt algemene best practices en controles, maar is niet direct ontworpen om algoritmische bias in LLM's te elimineren.