Een bedrijf dat een redactionele assistent bouwt, heeft een laag gebruik in de pilot, kan toekomstig verkeer niet voorspellen en wil de kosten minimaliseren. Welke implementatieoptie past het beste bij deze beperkingen?

De beste optie is Amazon Bedrock met On-Demand Throughput. Dit komt omdat het bedrijf een laag gebruik heeft, toekomstig verkeer niet kan voorspellen en de kosten wil minimaliseren. On-Demand Throughput betaalt alleen voor het daadwerkelijke gebruik van de modellen, wat ideaal is voor onvoorspelbare en lage workloads. GPU-aangedreven Amazon EC2-instances zijn duurder en vereisen meer beheer, wat niet past bij de behoefte aan kostenminimalisatie en laag gebruik. Amazon Bedrock met Provisioned Throughput is geschikt voor voorspelbare, hogere workloads waarvoor een gegarandeerde capaciteit nodig is, wat hier niet het geval is. Amazon SageMaker JumpStart biedt vooraf getrainde modellen en oplossingen, maar de onderliggende implementatie en kostenstructuur kunnen nog steeds variëren en zijn mogelijk niet zo kosteneffectief als Bedrock On-Demand voor deze specifieke beperkingen.