Uma empresa está criando um chatbot para responder a perguntas sobre políticas de RH usando um modelo de linguagem grande e um grande conjunto de documentos digitais. Qual técnica melhorará a relevância das respostas geradas?

Usar Retrieval Augmented Generation (RAG) é a melhor técnica. RAG combina a capacidade de geração de um LLM com a recuperação de informações de uma base de conhecimento externa (os documentos de RH). Isso permite que o chatbot forneça respostas mais precisas e contextualmente relevantes, baseadas nas políticas de RH reais, em vez de depender apenas do conhecimento pré-treinado do LLM. Usar few-shot prompting ajuda o modelo a entender o formato e o estilo da resposta, mas não garante a relevância factual das informações. Definir a temperatura para 1 torna as respostas mais criativas e aleatórias, o que é indesejável para fatos. Diminuir o tamanho do token pode limitar a profundidade da resposta, mas não melhora a relevância.