Una empresa utilizó un modelo base de Amazon Bedrock y entrenó un modelo personalizado para mejorar el resumen de documentos para uso interno. ¿Qué debe hacer la empresa para usar ese modelo personalizado a través de Amazon Bedrock?

Para usar un modelo personalizado entrenado en Amazon Bedrock, la empresa debe adquirir Provisioned Throughput. Esto reserva la capacidad de inferencia necesaria para el modelo, asegurando un rendimiento predecible y una latencia baja para sus solicitudes de inferencia. Sin Provisioned Throughput, el modelo personalizado no puede ser invocado para su uso. Implementar el modelo en un endpoint de Amazon SageMaker no es el camino correcto, ya que el modelo fue personalizado dentro de Bedrock y se espera que se use a través de Bedrock. Registrar el modelo en el Amazon SageMaker Model Registry es para la gestión de modelos en SageMaker, no para la implementación de modelos personalizados de Bedrock. Conceder acceso es un paso de permisos, pero no habilita la capacidad de inferencia del modelo.