Une entreprise a créé un chatbot avec un modèle de fondation choisi et a besoin que le bot réponde à des questions techniques dans le ton spécifique de l'entreprise sans aide humaine. Quelle approche aidera le modèle à produire des réponses qui correspondent au ton de l'entreprise ?

Le réglage fin itératif de l'invite (prompt engineering) est la méthode la plus efficace pour guider un modèle de fondation vers un ton spécifique. En modifiant et en testant l'invite de manière répétée, l'entreprise peut affiner les instructions données au modèle jusqu'à ce qu'il produise systématiquement des réponses qui correspondent au ton souhaité. Limiter le nombre maximal de tokens affecte la longueur de la réponse, pas le ton. L'inférence par lots est une méthode de traitement des requêtes et n'influence pas directement le ton. Augmenter le paramètre de température rend les réponses plus aléatoires et créatives, ce qui pourrait nuire à la cohérence du ton désiré.