Un ingénieur ML doit déployer quatre modèles (chacun construit avec un framework différent) dans un pipeline d'inférence SageMaker et permettre aux clients d'appeler invoke_endpoint pour chaque modèle. Quelle solution rentable répond à ces exigences ?

La solution la plus rentable est de créer un point de terminaison multi-conteneurs SageMaker. Cette approche permet de déployer plusieurs modèles, même s'ils sont construits avec des frameworks différents, sur une seule instance de calcul. Chaque modèle est encapsulé dans son propre conteneur, ce qui garantit l'isolation et la compatibilité des frameworks. Les clients peuvent ensuite appeler invokeendpoint en spécifiant le modèle cible. Créer un point de terminaison multi-modèles SageMaker est incorrect car cette option est conçue pour déployer plusieurs versions du même modèle ou des modèles compatibles sur une seule instance, généralement pour des tests A/B ou des déploiements progressifs, et non pour des modèles avec des frameworks radicalement différents. Créer plusieurs points de terminaison mono-modèle SageMaker est techniquement possible mais n'est pas rentable, car chaque modèle nécessiterait sa propre instance de calcul, augmentant les coûts et la complexité de gestion. Exécuter un job SparkML pour générer plusieurs points de terminaison est incorrect car SparkML est un framework de traitement de données et d'apprentissage automatique, pas une solution directe pour le déploiement de points de terminaison d'inférence SageMaker.