Un ingeniero de ML debe implementar cuatro modelos (cada uno construido con un framework diferente) en un pipeline de inferencia de SageMaker y permitir que los clientes llamen a invoke_endpoint para cada modelo. ¿Qué solución rentable satisface estos requisitos?

Un SageMaker multi-container endpoint es la solución más rentable porque permite desplegar múltiples modelos, cada uno en su propio contenedor, detrás de un único endpoint. Esto optimiza el uso de recursos y reduce los costos operativos en comparación con la creación de múltiples endpoints de un solo modelo. Aunque un multi-model endpoint también aloja varios modelos, está diseñado para modelos construidos con el mismo framework y que pueden compartirse en la memoria del contenedor, lo cual no aplica aquí ya que los modelos usan frameworks diferentes. Crear múltiples single-model endpoints sería costoso y menos eficiente. Ejecutar un trabajo de SparkML no es una solución para desplegar endpoints de inferencia.