Antes de lanzar completamente un nuevo modelo, una empresa necesita validarlo en línea con el 10% del tráfico de producción. El modelo es servido por un endpoint de SageMaker detrás de un Application Load Balancer. ¿Qué configuración proporciona la validación en línea del 10% requerida con la menor sobrecarga operativa?

La opción correcta es añadir el nuevo modelo como una variante de producción al endpoint de SageMaker existente y establecer el peso de la variante en 0.1, monitoreando las invocaciones con Amazon CloudWatch. SageMaker permite configurar múltiples variantes de producción en un solo endpoint, distribuyendo el tráfico entre ellas según los pesos asignados. Un peso de 0.1 (o 10%) dirige el 10% del tráfico al nuevo modelo, logrando la validación en línea requerida con mínima sobrecarga operativa, ya que no se necesita un nuevo endpoint ni configuraciones complejas de enrutamiento. CloudWatch es la herramienta estándar para monitorear métricas de invocación y rendimiento. La opción de establecer el peso en 1 enviaría el 100% del tráfico al nuevo modelo, lo cual no es una validación gradual. Crear un endpoint separado para el nuevo modelo aumentaría la sobrecarga operativa y la complejidad de la gestión, requiriendo que el ALB gestione el enrutamiento. Configurar el ALB para reenviar el 10% del tráfico es posible, pero SageMaker ya ofrece esta funcionalidad de forma nativa y más integrada con las variantes de producción, siendo la opción más eficiente. Además, CloudTrail se usa para auditoría y registro de acciones de la API, no para monitorear métricas de invocación en tiempo real como CloudWatch.