Bir şirket, öneri sohbet robotu için önceden eğitilmiş bir LLM kullanıyor ve modelin yanıtlarının kısa ve belirli bir dilde olmasını istiyor. Bu çıktı gereksinimlerini karşılamak için LLM'i en iyi şekilde yönlendirecek yaklaşım hangisidir?

İstemciyi iyileştirme ve kısıtlama, LLM'in belirli bir çıktı formatı ve dil gereksinimlerini karşılamasını sağlamanın en etkili yoludur. İstemciye (prompt) "Yanıtı kısa ve Türkçe olarak ver" gibi açık talimatlar eklemek, modelin istenen şekilde davranmasını doğrudan yönlendirir. Diğer seçenekler bu spesifik gereksinimleri karşılamaz: Farklı boyutta bir LLM seçmek, modelin yeteneklerini değiştirebilir ancak çıktının formatını veya dilini doğrudan kontrol etmez. Sıcaklık parametresini artırmak, çıktının rastgeleliğini ve yaratıcılığını artırır, bu da kısa ve belirli bir dil gereksinimine aykırı olabilir. Top-K örnekleme değerini artırmak, modelin daha az olası kelimeleri seçme olasılığını artırır, bu da yine çıktının kontrolünü zorlaştırır ve istenmeyen sonuçlara yol açabilir.