Vous souhaitez acheminer une petite partie du trafic vers une nouvelle version de modèle pour les utilisateurs en avant-première, l'évaluer, puis basculer progressivement tout le trafic vers le nouveau modèle sur une période fixe avec un minimum de frais opérationnels. Quelle approche SageMaker permet d'y parvenir avec le moins de travail opérationnel ?

L'approche correcte utilise UpdateEndpointWeightsAndCapacities pour gérer le routage du trafic au sein d'un seul point de terminaison SageMaker. Cela permet de déployer une nouvelle version de modèle (variante) avec un poids initial de 0, puis d'utiliser le paramètre TargetVariant dans les appels InvokeEndpoint pour diriger spécifiquement le trafic des utilisateurs en avant-première vers ce nouveau modèle. Par la suite, UpdateEndpointWeightsAndCapacities permet d'augmenter progressivement le poids du nouveau modèle, basculant ainsi le trafic de manière contrôlée et avec un minimum d'effort opérationnel. Les autres options sont moins optimales. Créer un nouveau EndpointConfig avec InitialVariantWeight à 0 et spécifier TargetVariant nécessite une mise à jour complète du point de terminaison, ce qui est plus lourd que simplement ajuster les poids. Utiliser deux points de terminaison distincts avec un Application Load Balancer ou Route 53 introduit une complexité opérationnelle supplémentaire et ne tire pas pleinement parti des capacités de routage de SageMaker pour les tests A/B ou le déploiement progressif.