Una aerolínea ejecuta un endpoint de SageMaker en tiempo real para ajustar los precios de los billetes en función de la demanda. Las implementaciones anteriores no lograron escalar lo suficientemente rápido cuando el tráfico del sitio web aumentaba. El ingeniero de ML debe configurar el auto scaling de seguimiento de destino para responder rápidamente a los picos repentinos de tráfico. ¿Qué configuración será la más receptiva?

Para una respuesta rápida a picos repentinos de tráfico, es crucial usar una métrica que refleje la carga actual con alta granularidad. La métrica SageMaker InvocationsPerInstance es la más adecuada para medir la demanda en un endpoint de SageMaker. Al combinarla con una resolución de intervalo de 10 segundos (alta resolución), el auto scaling puede detectar y reaccionar a los cambios de carga casi en tiempo real. Mantener el tiempo de "cooldown" de reducción de escala predeterminado de 300 segundos es apropiado porque el objetivo principal es la capacidad de respuesta rápida al escalado, y un "cooldown" más largo (600 segundos) retrasaría la eliminación de instancias, lo cual no es el enfoque principal aquí. Las otras opciones son incorrectas porque o bien no especifican la alta resolución de 10 segundos, lo que reduciría la capacidad de respuesta, o proponen un "cooldown" de reducción de escala más largo, que no contribuye a una respuesta rápida al escalado.