Un equipo de comercio electrónico quiere implementar un nuevo modelo de SageMaker detrás de su API de recomendación en tiempo real existente sin cambiar las aplicaciones cliente, y quieren probar el nuevo modelo en una parte del tráfico de producción antes de la implementación completa. ¿Qué enfoque proporciona esto con la menor sobrecarga operativa?

La opción correcta es usar variantes de producción de SageMaker porque permite implementar múltiples modelos detrás de un único endpoint, lo que significa que la API existente no necesita cambiar. SageMaker gestiona automáticamente el enrutamiento del tráfico a los diferentes modelos (variantes), lo que facilita las pruebas A/B o las implementaciones canary con una sobrecarga operativa mínima. Crear un nuevo endpoint de SageMaker con un ALB o NLB requeriría modificar la configuración de la API existente para apuntar al balanceador de carga, lo que introduce cambios en la aplicación cliente y mayor complejidad operativa. Además, un NLB no es ideal para balancear carga HTTP/S. SageMaker Batch Transform no es adecuado para recomendaciones en tiempo real, ya que está diseñado para inferencia asíncrona en grandes volúmenes de datos.