Zespół pracujący nad dużym modelem językowym zauważa, że jego wyniki nie mają różnorodności. Który parametr powinni zmienić, aby zwiększyć różnorodność wyników?

Temperatura (Temperature) to parametr kontrolujący losowość wyników generowanych przez model językowy. Wyższa temperatura (np. 0.8-1.0) zwiększa różnorodność i kreatywność odpowiedzi, sprawiając, że model częściej wybiera mniej prawdopodobne, ale wciąż sensowne tokeny. Niższa temperatura (np. 0.1-0.3) sprawia, że model jest bardziej deterministyczny i powtarzalny, wybierając najprawdopodobniejsze tokeny, co może prowadzić do braku różnorodności. Zmiana rozmiaru partii (Batch size), współczynnika uczenia (Learning rate) czy typu optymalizatora (Optimizer type) wpływa na proces treningu modelu, a nie bezpośrednio na różnorodność generowanych wyników po jego wytrenowaniu.