Un'azienda deve generare risposte sintetiche per molti prompt da un ampio set di dati utilizzando un'API. Le risposte non devono essere immediate. Quale approccio richiede il minor sforzo di sviluppo?

L'inferenza batch di Amazon Bedrock è la soluzione più efficiente per generare risposte sintetiche per un ampio set di dati in modo asincrono, minimizzando lo sforzo di sviluppo. Permette di elaborare grandi volumi di prompt senza la necessità di gestire l'infrastruttura sottostante o di preoccuparsi della latenza in tempo reale, poiché le risposte non devono essere immediate. Inviare i prompt in tempo reale sarebbe inefficiente e costoso per un grande dataset. Implementare agenti di Amazon Bedrock o utilizzare AWS Lambda per l'invio uno alla volta aumenterebbe significativamente la complessità e lo sforzo di sviluppo per un'attività che non richiede interazione in tempo reale.