Bir şirketin, şirket politikalarıyla ilgili çalışan sorularını yanıtlamak için bir sohbet robotuna ihtiyacı var. Politikalar sık sık değişiyor ve sohbet robotunun güncellemeleri neredeyse anında yansıtması gerekiyor. Hangi LLM tabanlı yaklaşım bu gereksinimi karşılar?

Doğru cevap, Amazon Bedrock Knowledge Bases kullanarak bir Retrieval-Augmented Generation (RAG) pipeline'ı uygulamaktır. RAG, LLM'nin güncel ve harici bir bilgi tabanından bilgi almasını sağlayarak, modelin eğitim verilerinde bulunmayan veya sık sık değişen bilgileri doğru bir şekilde yanıtlamasına olanak tanır. Şirket politikaları sık sık değiştiği için, RAG yaklaşımı LLM'nin her değişiklikte yeniden eğitilmesine gerek kalmadan güncel bilgilere erişimini sağlar. Diğer seçenekler bu senaryo için daha az uygundur: Amazon SageMaker kullanarak büyük bir dil modelini fine-tune etmek, her politika değişikliğinde modelin yeniden eğitilmesini gerektirir ki bu maliyetli ve zaman alıcıdır. Amazon Bedrock'tan bir foundation model (FM) seçmek ve uygulamasını bunun üzerine kurmak, modelin eğitim verilerinde bulunmayan veya güncelliğini yitirmiş bilgilere erişimini sağlamaz. Özel bir Q Uygulaması oluşturmak için Amazon Q Business kullanmak, RAG yetenekleri sunsa da, Bedrock Knowledge Bases doğrudan RAG için optimize edilmiş bir çözüm sunar ve bu senaryoda daha doğrudan bir yaklaşımdır.