Un modèle de prévision personnalisé doit être hébergé ; la charge de travail est prévisible et soutenue pendant la même fenêtre de 2 heures chaque jour, avec de nombreuses invocations nécessitant des réponses rapides. L'entreprise souhaite qu'AWS gère l'infrastructure et l'autoscaling. Quelle option d'hébergement répond à ces exigences ?

Amazon SageMaker Serverless Inference est idéal pour les charges de travail avec des modèles de trafic intermittents ou imprévisibles, mais il gère également les charges de travail prévisibles et soutenues. La concurrence provisionnée (Provisioned Concurrency) permet de maintenir un nombre spécifié d'invocations prêtes à répondre sans délai de démarrage à froid, ce qui est crucial pour les réponses rapides requises. AWS gère entièrement l'infrastructure et l'autoscaling. Planifier un job de transformation par lots Amazon SageMaker déclenché par AWS Lambda est inapproprié car il est conçu pour le traitement par lots et non pour des invocations rapides et individuelles. Utiliser un groupe Auto Scaling EC2 avec une mise à l'échelle planifiée nécessiterait une gestion plus importante de l'infrastructure de la part de l'entreprise et ne serait pas entièrement géré par AWS. Exécuter le modèle sur un cluster Amazon EKS sur EC2 avec l'autoscaling des pods offre de la flexibilité mais implique également une gestion plus complexe de l'infrastructure par rapport à SageMaker Serverless Inference.