MedScan Health necesita un endpoint de SageMaker que ejecute un contenedor de preprocesamiento de imágenes, luego un contenedor de modelo de TensorFlow y, finalmente, un contenedor de postprocesamiento en secuencia para cada solicitud. Quieren una única URL de endpoint HTTP para los clientes. ¿Qué enfoque de despliegue de SageMaker satisface mejor este requisito con una mínima red adicional y un comportamiento correcto del ciclo de vida del modelo?

La creación de una pipeline de inferencia de SageMaker es la solución ideal porque permite encadenar múltiples contenedores (preprocesamiento, modelo, postprocesamiento) en un único endpoint HTTP. SageMaker gestiona automáticamente la secuencia y el paso de datos entre los contenedores para cada solicitud, minimizando la latencia de red adicional y simplificando la gestión del ciclo de vida. Desplegar tres endpoints separados con un ALB y Lambda introduce latencia adicional y complejidad de gestión. Un endpoint multi-modelo está diseñado para servir múltiples modelos de forma dinámica, no para encadenar pasos de procesamiento secuenciales dentro de una única solicitud. Usar trabajos de SageMaker Processing para preprocesamiento y postprocesamiento es adecuado para procesamiento por lotes, no para inferencia en tiempo real de baja latencia.