Ein KI-Praktiker möchte, dass die Ausgaben eines großen Sprachmodells (LLM) vielfältiger und kreativer sind. Welchen Inferenzparameter sollte er anpassen?

Das Erhöhen des Temperaturwerts macht die LLM-Ausgabe vielfältiger und kreativer. Eine höhere Temperatur führt dazu, dass das Modell bei der Wortauswahl risikofreudiger ist und weniger wahrscheinliche, aber potenziell originellere Token auswählt. Das Verringern des Top K-Werts würde die Auswahl auf die wahrscheinlichsten Token beschränken, was zu weniger Vielfalt führt. Das Erhöhen der Antwortlänge beeinflusst die Kreativität nicht direkt, sondern nur die Menge der generierten Ausgabe. Das Verringern der Prompt-Länge würde dem Modell weniger Kontext geben, was die Kreativität eher einschränken als fördern könnte.