Una empresa está creando un chatbot para responder preguntas sobre políticas de RRHH utilizando un modelo de lenguaje grande y un gran conjunto de documentos digitales. ¿Qué técnica mejorará la relevancia de las respuestas generadas?

RAG (Retrieval Augmented Generation) es la técnica más adecuada porque combina la capacidad de un modelo de lenguaje grande (LLM) para generar texto con la capacidad de recuperar información relevante de una base de conocimientos externa. Esto asegura que las respuestas del chatbot se basen en los documentos de políticas de RRHH específicos, mejorando significativamente la relevancia y precisión. Few-shot prompting ayuda al LLM a entender el formato y el estilo deseado, pero no garantiza que la información sea extraída de la base de datos de políticas. Establecer la temperatura en 1 hace que las respuestas sean más diversas y creativas, lo cual es contraproducente para un chatbot que requiere respuestas fácticas y consistentes. Disminuir el tamaño del token afecta la granularidad del procesamiento del texto, pero no mejora directamente la relevancia de la información recuperada o generada.