Une entreprise crée un chatbot pour répondre aux questions sur la politique RH en utilisant un grand modèle linguistique et un vaste ensemble de documents numériques. Quelle technique améliorera le mieux la pertinence des réponses générées ?

La génération augmentée par récupération (RAG) est la technique la plus efficace pour améliorer la pertinence des réponses. Elle permet au grand modèle linguistique (LLM) de récupérer des informations pertinentes à partir d'une base de connaissances externe (ici, les documents RH) avant de générer une réponse. Cela garantit que le chatbot fournit des informations factuelles et spécifiques aux politiques de l'entreprise, réduisant ainsi les hallucinations et les réponses génériques. Le "few-shot prompting" aide le modèle à comprendre le format de la tâche mais ne garantit pas la pertinence factuelle. Régler la température à 1 rend les réponses plus créatives et aléatoires, ce qui est contre-productif pour des informations factuelles. Diminuer la taille du jeton affecte la longueur des réponses, pas leur pertinence.