Une équipe souhaite exécuter plusieurs versions d'un modèle de prédiction en production à long terme, contrôler la proportion d'inférences servies par chaque version et minimiser l'effort de mise en œuvre. Quelle solution répond le mieux à ces besoins ?

L'hébergement de modèles dans SageMaker avec une configuration de point de terminaison unique et plusieurs variantes de production est la solution la plus efficace. Cette approche permet de déployer plusieurs versions d'un modèle derrière un seul point de terminaison, simplifiant ainsi l'intégration pour les applications clientes. Les poids des variantes peuvent être ajustés dynamiquement pour contrôler la proportion du trafic d'inférence acheminé vers chaque version du modèle, ce qui est idéal pour les tests A/B ou les déploiements progressifs. Les autres options sont moins optimales : Créer des points de terminaison distincts augmente la complexité côté client et la gestion. Compiler avec SageMaker Neo est pour l'optimisation des modèles sur des appareils spécifiques, pas pour la gestion de versions en production avec répartition de trafic. La transformation par lots est pour le traitement de grands ensembles de données hors ligne, pas pour des inférences en temps réel avec contrôle de trafic.