Debe alojar un modelo entrenado que recibe una tasa de solicitudes desigual durante el día. El alojamiento debe escalar a la demanda máxima, pero minimizar el costo cuando está inactivo. ¿Qué enfoque de alojamiento cumple con estas restricciones?

La opción correcta es implementar el modelo en un Amazon SageMaker endpoint con políticas de autoescalado. SageMaker endpoints están diseñados para servir modelos de ML, y sus políticas de autoescalado permiten ajustar dinámicamente el número de instancias en función de métricas de CloudWatch, como la utilización de la CPU o el número de invocaciones. Esto asegura que el modelo pueda escalar para manejar la demanda máxima y reducir el número de instancias (incluso a cero si se configura) cuando la demanda es baja, minimizando así los costos. Las funciones de AWS Lambda con concurrencia fija no son ideales para modelos de ML complejos debido a las limitaciones de memoria y tiempo de ejecución, y la concurrencia fija no permite el escalado dinámico necesario. Un clúster de Amazon ECS en Fargate con un número estático de tareas dimensionadas para la carga máxima resultaría en un costo elevado durante los períodos de baja demanda, ya que las instancias estarían siempre activas. Alojar varias copias del modelo detrás de un Application Load Balancer en SageMaker endpoints no aborda directamente el escalado dinámico del número de instancias para optimizar costos, ya que el autoescalado es una característica intrínseca del SageMaker endpoint.