Un spécialiste de l'IA souhaite que les sorties d'un grand modèle linguistique (LLM) soient plus diverses et créatives. Quel paramètre d'inférence doit-il ajuster ?

Augmenter la valeur de la température rend les sorties du LLM plus aléatoires et donc plus diverses et créatives. Une température plus élevée encourage le modèle à choisir des mots moins probables, ce qui peut générer des réponses inattendues. Diminuer la valeur de Top K réduirait la diversité en limitant le choix des mots aux plus probables. Augmenter la longueur de la réponse ou diminuer la longueur de l'invite n'affectent pas directement la diversité ou la créativité du contenu généré, mais plutôt la quantité ou le contexte de la sortie.