Une entreprise doit déployer un modèle de classification entraîné sur mesure sur AWS afin de fournir des prédictions quasi en temps réel, à faible latence, et de gérer des volumes de requêtes variables. Quelle option de déploiement répond à ces exigences ?

Le déploiement du modèle en tant que point de terminaison en temps réel Amazon SageMaker avec auto scaling est la solution la plus appropriée. SageMaker Endpoint est conçu pour l'inférence à faible latence et en quasi temps réel, ce qui répond aux exigences de performance. L'auto scaling gère efficacement les volumes de requêtes variables en ajustant dynamiquement les ressources, optimisant ainsi les coûts et la disponibilité. Les autres options sont moins adaptées : Un job de transformation par lots Amazon SageMaker est conçu pour l'inférence asynchrone sur de grands ensembles de données, pas pour des prédictions en quasi temps réel. Placer le modèle derrière Amazon API Gateway et héberger les fichiers dans S3 nécessiterait une infrastructure d'inférence personnalisée (par exemple, AWS Lambda ou EC2), ce qui est plus complexe à gérer et à optimiser que SageMaker Endpoint. Lancer des instances EC2 avec des AMI Deep Learning derrière un Application Load Balancer offre de la flexibilité mais demande une gestion opérationnelle plus importante (mise à l'échelle, correctifs, surveillance) que SageMaker, qui est un service entièrement géré.