Bir şirketin, geniş bir veri kümesinden gelen birçok istem için bir API kullanarak sentetik yanıtlar oluşturması gerekiyor. Yanıtların anında olması gerekmiyor. En az geliştirme çabası gerektiren yaklaşım hangisidir?

Doğru cevap, yanıtları eşzamansız olarak oluşturmak için Amazon Bedrock toplu çıkarımını kullanmaktır. Çünkü şirket geniş bir veri kümesinden gelen birçok istem için sentetik yanıtlar oluşturmak istiyor ve yanıtların anında olması gerekmiyor. Toplu çıkarım, büyük veri kümeleri üzerinde verimli ve uygun maliyetli bir şekilde çıkarım yapmak için tasarlanmıştır ve eşzamansız yapısı, gerçek zamanlı gereksinimlerin olmadığı durumlarda idealdir. Bu yaklaşım, geliştirme çabasını en aza indirir çünkü Bedrock'un yerleşik toplu işleme yeteneklerini kullanır. Diğer seçenekler neden yanlış: İstemleri modele göndermek ve gerçek zamanlı çıkarım yoluyla yanıtları almak, anında yanıt gerektirmeyen durumlar için gereksiz yere karmaşık ve maliyetli olabilir. Amazon Bedrock ajanlarını uygulamak ve özyinelemeli bir ajan sistemi kurmak, daha karmaşık, çok adımlı görevler veya otonom karar verme süreçleri için uygundur ve burada belirtilen basit sentetik yanıt oluşturma görevi için aşırı mühendislik olur. İstemleri tek tek göndermeyi otomatikleştirmek ve her yanıtı depolamak için AWS Lambda kullanmak, toplu çıkarımın sunduğu optimize edilmiş süreçlere kıyasla daha fazla geliştirme çabası ve yönetim yükü gerektirir.