Um banco ajustou um modelo de linguagem grande (LLM) para acelerar as aprovações de empréstimos. Uma auditoria externa descobriu que o modelo aprova empréstimos mais rapidamente para um grupo demográfico do que para outros. Qual é a correção mais econômica?

A correção mais econômica e eficaz para o viés em um LLM é incluir dados de treinamento mais diversos e ajustar o modelo novamente. O viés geralmente surge de dados de treinamento desequilibrados ou incompletos. Re-treinar o modelo com dados mais representativos de todos os grupos demográficos ajuda a mitigar o viés existente sem a necessidade de um investimento significativo em novas infraestruturas ou tecnologias. Usar RAG não aborda a causa raiz do viés nos pesos do modelo. O AWS Trusted Advisor foca em otimização de custos, segurança e desempenho, não em viés de modelo. Pré-treinar um novo LLM é uma solução muito mais cara e demorada, pois exige recursos computacionais substanciais e um ciclo de desenvolvimento completo, enquanto o ajuste fino é mais eficiente.