ある企業が、API を使用して大規模なデータセットから多数のプロンプトに対する合成応答を生成する必要があります。応答は即時である必要はありません。最も開発労力が少なくて済むアプローチはどれですか？

このシナリオでは、大規模なデータセットに対して多数のプロンプトを処理し、即時性が求められないため、Amazon Bedrock のバッチ推論が最も開発労力が少なく効率的なアプローチです。バッチ推論は非同期処理に適しており、大量の入力を一度に処理し、結果を後で取得できます。 リアルタイム推論は即時応答が必要な場合に適していますが、このケースでは不要であり、大量データ処理にはスケーリングとコストの課題があります。Amazon Bedrock エージェントは複雑なタスクやマルチターンの対話に設計されており、単なる合成応答の生成には過剰な機能であり、開発労力も増大します。AWS Lambda を使用してプロンプトを一つずつ送信する方法は、大量のデータセットに対しては非効率的で、管理が複雑になり、処理時間も長くなります。