Un sitio de comercio electrónico aloja un modelo de recomendación de productos de TensorFlow en un endpoint de SageMaker utilizando tres instancias optimizadas para cómputo para manejar el tráfico pico esperado. A principios de cada mes, los tiempos de respuesta se disparan y algunos usuarios ven errores. La mayor parte del tráfico ocurre los días de semana de 8 AM a 6 PM en una sola zona horaria. ¿Qué dos acciones solucionan el problema de manera más efectiva minimizando el costo? (Elija dos).

Habilitar los aceleradores Amazon Elastic Inference (EI) para el endpoint es efectivo porque EI proporciona aceleración de inferencia de GPU a un costo menor que las instancias de GPU completas, lo que ayuda a manejar picos de tráfico sin un aumento significativo de costos. Configurar el endpoint para autoescalar basándose en la métrica InvocationsPerInstance es crucial. Esto permite que el endpoint ajuste dinámicamente el número de instancias en respuesta a la carga de trabajo, escalando para manejar el tráfico pico a principios de mes y reduciendo el número de instancias durante períodos de menor tráfico, optimizando así el costo. Crear una nueva configuración con dos variantes de producción o implementar un segundo grupo de instancias para despliegue azul/verde no abordan directamente el problema de rendimiento en picos de tráfico ni la optimización de costos. Reconfigurar el endpoint para usar tipos de instancias burstable no es adecuado para cargas de trabajo de inferencia de ML con picos predecibles, ya que estas instancias están diseñadas para cargas de trabajo con uso de CPU bajo y ocasional.