Firma zamierza zintegrować duży model językowy (LLM) ze swoją aplikacją i potrzebuje, aby odpowiedzi modelu były jak najbardziej deterministyczne i spójne. Które podejście spełnia ten wymóg?
Wybierz odpowiedź
Dotknij opcji, aby sprawdzić swoją odpowiedź.
Poprawna odpowiedź: Skonfigurowanie aplikacji tak, aby automatycznie ustawiała parametr temperature na 0 podczas przesyłania promptu do LLM..
Dlaczego to jest odpowiedź
Ustawienie parametru temperature na 0 sprawia, że odpowiedzi LLM są najbardziej deterministyczne i spójne. Parametr temperature kontroluje losowość generowanych odpowiedzi; niższe wartości (bliżej 0) prowadzą do bardziej przewidywalnych i powtarzalnych wyników, ponieważ model zawsze wybiera token o najwyższym prawdopodobieństwie. Wyższe wartości (bliżej 1 lub więcej) zwiększają kreatywność i różnorodność, ale zmniejszają determinizm. Dodawanie frazy "make your response deterministic" do promptu nie gwarantuje determinizmu, ponieważ LLM może interpretować tę prośbę w różny sposób lub ignorować ją w kontekście swoich wewnętrznych mechanizmów generowania. Ustawienie temperature na 1 zwiększyłoby losowość, a nie determinizm.
Zdaj egzamin — bez niekończącego się szukania odpowiedzi
Uzyskaj wszystkie zweryfikowane pytania i wyjaśnienia do tego egzaminu w jednym miejscu i zaoszczędź godziny przygotowań. Ponad 1000 certyfikacji · Ponad 20 języków · Zacznij za darmo.
Zdaj egzamin szybciej → Karta nie jest wymagana