DataWave Inc. ejecuta un modelo de fraude de baja latencia en un endpoint de SageMaker en tiempo real (una única variante de producción). Quieren realizar una prueba shadow enrutando el 5% del tráfico de producción en vivo a una nueva variante del modelo (la shadow) mientras que el 95% continúa a la variante actual; las respuestas del modelo shadow no deben ser devueltas a los clientes (se registrarán para una comparación offline). ¿Cuál es la forma más apropiada y menos intrusiva de implementar esto dentro de SageMaker?

La opción correcta es la más apropiada porque SageMaker Endpoints soporta la configuración de múltiples variantes de producción con pesos de tráfico. Al establecer el InitialVariantWeight de la variante shadow en 0.05, SageMaker enrutará automáticamente el 5% del tráfico a esta variante. Las respuestas de la variante shadow se pueden registrar internamente sin afectar al cliente, lo que cumple con el requisito de prueba shadow. La segunda opción es incorrecta porque requeriría lógica del lado del cliente para descartar respuestas, lo cual es intrusivo y no es el propósito de una prueba shadow donde el cliente no debe ver las respuestas del modelo shadow. La tercera opción es incorrecta porque usar un ALB con dos endpoints separados añade complejidad innecesaria y sobrecarga de gestión, cuando SageMaker ya ofrece la funcionalidad de enrutamiento de tráfico entre variantes. La cuarta opción es incorrecta porque un multi-model endpoint está diseñado para alojar múltiples modelos que se invocan dinámicamente, no para pruebas shadow de un modelo con una nueva versión. Además, la lógica de enrutamiento personalizada con Lambda añade complejidad innecesaria.