Une entreprise déploie actuellement son modèle de ML sur 10 instances accélérées réservées et doit déployer une nouvelle version de modèle sur un point de terminaison Amazon SageMaker en temps réel. Le déploiement doit continuer à utiliser les 10 instances d'origine pour servir les deux versions, inclure une instance réservée supplémentaire à utiliser pendant le déploiement, et effectuer la transition sans interruption de service. Quelle approche de déploiement satisfait ces contraintes ?

Un déploiement progressif (rolling update) avec une taille de lot de 1 est la meilleure approche. Il permet de mettre à jour une instance à la fois, en la remplaçant par la nouvelle version du modèle, puis en passant à l'instance suivante. Cela garantit une transition sans interruption de service et utilise les 10 instances existantes, tout en ajoutant temporairement une instance supplémentaire pour maintenir la capacité pendant le déploiement. Les déploiements bleu/vert (blue/green) impliquent généralement le déploiement de la nouvelle version sur un ensemble d'instances entièrement nouveau, ce qui ne correspond pas à l'exigence de réutiliser les 10 instances d'origine. Le basculement canary est une stratégie de routage de trafic, mais le déploiement bleu/vert lui-même ne répond pas aux contraintes d'instance. Le test shadow (shadow testing) ne déploie pas la nouvelle version en production pour servir le trafic réel, mais la teste en parallèle, ce qui ne répond pas à l'exigence de déploiement.