MedScan Health a besoin d'un point de terminaison SageMaker qui exécute un conteneur de prétraitement d'images, puis un conteneur de modèle TensorFlow, puis un conteneur de post-traitement en séquence pour chaque requête. Ils souhaitent une URL de point de terminaison HTTP unique pour les clients. Quelle approche de déploiement SageMaker répond le mieux à cette exigence avec un minimum de mise en réseau supplémentaire et un comportement correct du cycle de vie du modèle ?

La création d'un pipeline d'inférence SageMaker est la solution la plus appropriée car elle permet de chaîner plusieurs conteneurs (prétraitement, modèle, post-traitement) au sein d'un seul point de terminaison HTTP. SageMaker gère automatiquement l'orchestration et le passage des données entre les conteneurs pour chaque requête, minimisant ainsi la complexité du réseau et garantissant un cycle de vie du modèle cohérent. Les autres options sont moins efficaces : Déployer trois points de terminaison distincts avec un ALB et Lambda introduirait une latence et une complexité de gestion supplémentaires, allant à l'encontre de l'objectif de minimisation du réseau. Un point de terminaison multi-modèles est conçu pour héberger plusieurs modèles différents qui peuvent être invoqués dynamiquement, et non pour chaîner des étapes de traitement séquentielles pour une seule requête. Utiliser des tâches SageMaker Processing pour le prétraitement et le post-traitement est adapté aux traitements par lots et non aux inférences en temps réel avec une URL unique.