Se debe alojar un modelo de pronóstico personalizado; la carga de trabajo es predecible y sostenida durante la misma ventana de 2 horas cada día, con muchas invocaciones que requieren respuestas rápidas. La empresa quiere que AWS administre la infraestructura y el autoescalado. ¿Qué opción de alojamiento cumple con estos requisitos?

Amazon SageMaker Serverless Inference con concurrencia aprovisionada es la mejor opción. Serverless Inference gestiona la infraestructura y el autoescalado, lo que se alinea con los requisitos de la empresa. La concurrencia aprovisionada asegura que el modelo esté listo para responder rápidamente durante la ventana de 2 horas, evitando arranques en frío y garantizando respuestas rápidas para las "muchas invocaciones". Programar un trabajo de transformación por lotes no es adecuado porque se necesitan respuestas rápidas, no procesamiento por lotes. Un grupo de EC2 Auto Scaling requeriría más gestión de infraestructura por parte del usuario. Ejecutar el modelo en Amazon EKS también implicaría una mayor gestión de la infraestructura y la orquestación de contenedores, lo cual no cumple con el deseo de que AWS gestione la infraestructura.