Un endpoint de producción de SageMaker ejecuta la versión v1 del modelo. Una nueva versión v2 debe probarse en producción con un riesgo mínimo y sin interrumpir el tráfico en vivo. ¿Cuál es el mejor enfoque para validar v2 antes de cambiar?

La implementación de una variante en la sombra (shadow variant) es la mejor opción porque permite probar v2 con el 100% del tráfico de producción sin afectar a los usuarios. SageMaker duplica las solicitudes de inferencia a la variante en la sombra, pero solo devuelve las respuestas de v1 a los usuarios. Esto permite evaluar el rendimiento de v2 en un entorno de producción real, recopilar datos en S3 y compararlos con v1, minimizando el riesgo antes de un cambio completo. Las otras opciones implican dirigir tráfico real a v2 (1% o 10%), lo que introduce riesgo de interrupción para los usuarios si v2 falla, o requieren un endpoint separado y un script para enviar el 100% de la entrada, lo cual es menos eficiente y más complejo que la funcionalidad integrada de las variantes en la sombra de SageMaker.