某公司需要使用 API 從大型資料集中為許多提示產生合成回應。回應不需要立即傳送。哪種方法所需的開發工作量最少？

正確答案是使用 Amazon Bedrock 批次推論非同步產生回應。批次推論專為處理大量提示而設計，並且由於回應不需要立即傳送，因此非同步處理是理想選擇，可最大程度地減少開發工作量。 將提示傳送至模型並透過即時推論取得回應不適用於大型資料集，因為這會導致效率低下和成本增加。實作 Amazon Bedrock 代理程式會增加不必要的複雜性和開發工作量，因為代理程式主要用於多步驟任務和協調。使用 AWS Lambda 自動一次傳送一個提示並儲存每個回應雖然可行，但對於大型資料集來說效率不高，且開發工作量比批次推論更高。