Ein Unternehmen muss mithilfe einer API synthetische Antworten für viele Prompts aus einem großen Datensatz generieren. Die Antworten müssen nicht sofort erfolgen. Welcher Ansatz erfordert den geringsten Entwicklungsaufwand?

Amazon Bedrock Batch-Inferenz ist die effizienteste Lösung für die asynchrone Generierung synthetischer Antworten aus einem großen Datensatz ohne sofortige Anforderungen. Sie ist speziell für die Verarbeitung großer Mengen von Prompts konzipiert, minimiert den Entwicklungsaufwand und optimiert die Ressourcennutzung. Echtzeit-Inferenz wäre für diesen Anwendungsfall unnötig und potenziell teurer, da die Antworten nicht sofort benötigt werden. Amazon Bedrock Agents sind für komplexere, multimodale Aufgaben oder die Orchestrierung von Workflows gedacht, nicht für die einfache Batch-Generierung. Die Verwendung von AWS Lambda zum Senden einzelner Prompts wäre ineffizient und würde einen höheren Entwicklungsaufwand erfordern, um die Batch-Verarbeitung zu replizieren.