Een bedrijf gebruikte een Amazon Bedrock basismodel en trainde een aangepast model om de documentsamenvatting voor intern gebruik te verbeteren. Wat moet het bedrijf doen om dat aangepaste model via Amazon Bedrock te gebruiken?

Om een aangepast model, getraind op een Amazon Bedrock basismodel, te kunnen gebruiken voor inference via Bedrock, moet Provisioned Throughput worden aangeschaft. Dit reserveert de benodigde rekenkracht voor het model, wat essentieel is voor voorspelbare prestaties en latency. Zonder Provisioned Throughput kan het aangepaste model niet direct via Bedrock worden aangeroepen. Het implementeren naar een Amazon SageMaker endpoint is niet nodig, aangezien het doel