Una empresa necesita generar respuestas sintéticas para muchas indicaciones (prompts) de un gran conjunto de datos utilizando una API. Las respuestas no necesitan ser inmediatas. ¿Qué enfoque requiere el menor esfuerzo de desarrollo?

La inferencia por lotes de Amazon Bedrock es la opción más sencilla para este caso de uso. Permite procesar un gran volumen de indicaciones de forma asíncrona, sin necesidad de una implementación compleja. Al ser una característica nativa de Bedrock, minimiza el esfuerzo de desarrollo y la gestión de infraestructura. La inferencia en tiempo real no es necesaria, ya que las respuestas no necesitan ser inmediatas, y sería menos eficiente para un gran conjunto de datos. Implementar agentes de Amazon Bedrock es una solución mucho más compleja y no es adecuada para la simple generación de respuestas a partir de indicaciones. Usar AWS Lambda para enviar indicaciones una por una sería ineficiente y requeriría más código y gestión de estado que la inferencia por lotes.