Avant de déployer entièrement un nouveau modèle, une entreprise doit le valider en ligne sur 10 % du trafic de production. Le modèle est servi par un point de terminaison SageMaker derrière un Application Load Balancer. Quelle configuration permet la validation en ligne requise de 10 % avec le moins de frais opérationnels ?

L'ajout du nouveau modèle comme variante de production à un point de terminaison SageMaker existant avec un poids de 0,1 est la méthode la plus efficace pour valider en ligne 10 % du trafic. SageMaker gère nativement le routage du trafic basé sur le poids entre les variantes, ce qui minimise les frais opérationnels et permet des tests A/B ou des déploiements canary. CloudWatch est l'outil approprié pour surveiller les invocations et les performances. Définir le poids à 1 enverrait 100 % du trafic au nouveau modèle, ce qui n'est pas l'objectif. Créer un point de terminaison distinct augmenterait la complexité et les coûts. Configurer l'ALB pour le routage du trafic est moins granulaire et plus complexe à gérer que la fonctionnalité intégrée de SageMaker, et CloudTrail n'est pas conçu pour la surveillance des invocations en temps réel, mais plutôt pour l'audit des actions de l'API.