Bir destek sohbet botunun, çok turlu bir sorunu çözmek için aynı müşteriden gelen önceki mesajları kullanması gerekiyor. LLM'in bir yanıt oluştururken önceki müşteri içeriğine erişmesini sağlayan çözüm hangisidir?

Çok turlu bir sohbet botunda LLM'in önceki mesajları kullanabilmesi için bu mesajların modelin istemine (prompt) dahil edilmesi gerekir. LLM'ler bağlamı istemden alır, bu nedenle geçmiş konuşma metnini isteme eklemek, modelin önceki etkileşimleri "hatırlamasını" ve bunlara göre yanıt vermesini sağlar. Diğer seçenekler neden yanlış: Mesajları toplamak için model invocation logging'i açın: Model invocation logging, model çağrılarını kaydeder ancak bu verileri otomatik olarak LLM'in istemine dahil etmez. Konuşma geçmişini kaydetmek için Amazon Personalize kullanın: Amazon Personalize, kişiselleştirme ve öneri hizmetleri için kullanılır, konuşma geçmişini LLM'e doğrudan beslemek için tasarlanmamıştır. LLM için Provisioned Throughput kullanın: Provisioned Throughput, LLM'in performansını ve tutarlı yanıt sürelerini garanti eder, ancak modelin önceki konuşma bağlamını işlemesiyle ilgili değildir.