Un banco ajustó un modelo de lenguaje grande (LLM) para acelerar la aprobación de préstamos. Una auditoría externa encontró que el modelo aprueba préstamos más rápidamente para un grupo demográfico que para otros. ¿Cuál es la solución más rentable?

La opción correcta es incluir datos de entrenamiento más diversos y ajustar el modelo nuevamente. El sesgo en los modelos de IA a menudo se origina en datos de entrenamiento sesgados o insuficientes. Al introducir un conjunto de datos más representativo y diverso, se corrige la fuente del problema, lo que permite que el modelo aprenda patrones más equitativos. Esta es la solución más rentable porque reutiliza el modelo existente y aborda directamente la causa raíz del sesgo sin incurrir en los altos costos computacionales y de desarrollo de preentrenar un nuevo LLM desde cero. Usar Retrieval Augmented Generation (RAG) no abordaría el sesgo inherente en el modelo ajustado, ya que RAG se enfoca en mejorar la precisión y relevancia de las respuestas, no en corregir el sesgo en la toma de decisiones del modelo base. Las comprobaciones de AWS Trusted Advisor están diseñadas para optimizar el rendimiento, la seguridad y la rentabilidad de la infraestructura de AWS, no para detectar o eliminar el sesgo algorítmico en LLM. Preentrenar un nuevo LLM es una solución extremadamente costosa y que consume muchos recursos, desproporcionada para corregir un sesgo que puede abordarse mediante un ajuste fino con datos mejorados.