一家公司需要使用API从大型数据集中为许多提示生成合成响应。响应不需要是即时的。哪种方法所需的开发工作量最少？

正确答案是使用 Amazon Bedrock 批量推理异步生成响应。当需要处理大量数据且不需要即时响应时，批量推理是最高效且开发工作量最少的方法。Amazon Bedrock 的批量推理功能专为此类场景设计，能够异步处理大量提示，无需复杂的实时集成或自定义逻辑。 将提示发送到模型并通过实时推理获取响应虽然可行，但对于大量数据来说效率低下，且可能在处理速度和成本方面带来挑战。实施 Amazon Bedrock 代理并构建递归代理系统会增加显著的开发复杂性，这与“最少开发工作量”的要求相悖。使用 AWS Lambda 自动化逐个发送提示并存储每个响应需要编写和维护自定义代码来管理请求和响应，这比直接使用批量推理功能需要更多的开发工作。