Une entreprise a utilisé un modèle de base Amazon Bedrock et a entraîné un modèle personnalisé pour améliorer la synthèse de documents à usage interne. Que doit faire l'entreprise pour utiliser ce modèle personnalisé via Amazon Bedrock ?

Pour utiliser un modèle personnalisé entraîné sur Amazon Bedrock, il est nécessaire d'acheter un débit provisionné (Provisioned Throughput). Cela garantit une capacité d'inférence dédiée et des performances prévisibles pour votre modèle personnalisé. Sans débit provisionné, le modèle personnalisé ne peut pas être déployé ni appelé pour l'inférence. Déployer le modèle sur un point de terminaison Amazon SageMaker n'est pas la bonne approche car le modèle a été entraîné et est géré dans Amazon Bedrock. Enregistrer le modèle auprès du registre de modèles Amazon SageMaker est une étape pour la gestion des modèles dans SageMaker, pas pour l'utilisation directe dans Bedrock. Accorder l'accès est nécessaire, mais insuffisant ; le débit provisionné est la condition préalable opérationnelle.