Une entreprise développe une nouvelle solution de machine learning sur AWS. Les modèles sont implémentés en tant que microservices indépendants qui téléchargent environ 1 Go de données de modèle depuis Amazon S3 au démarrage et les chargent en mémoire. Les utilisateurs accèdent aux modèles via une API asynchrone : ils soumettent une requête ou un lot de requêtes et spécifient où les résultats doivent être envoyés. Des centaines d'utilisateurs utiliseront les modèles avec des schémas d'utilisation irréguliers – certains modèles peuvent être inactifs pendant des jours ou des semaines, tandis que d'autres reçoivent des milliers de requêtes en rafale. Quelle conception un architecte de solutions devrait-il recommander pour répondre à ces exigences ?

L'option correcte est la meilleure solution car elle répond à toutes les exigences. L'utilisation d'Amazon SQS pour les requêtes API asynchrones permet de gérer les modèles d'utilisation irréguliers et les rafales de requêtes. Amazon ECS est idéal pour les microservices qui doivent charger 1 Go de données en mémoire au démarrage, car Lambda a des limites de mémoire et de temps d'exécution qui pourraient être dépassées. L'Auto Scaling sur ECS, basé sur la taille de la file d'attente SQS, assure une mise à l'échelle efficace et économique, en démarrant et arrêtant les services selon la demande. Les autres options sont moins adaptées : Lambda invoqué par un NLB ne convient pas en raison de la limite de mémoire et de la durée d'exécution des fonctions Lambda pour charger 1 Go de données. ECS avec ALB et SQS, mais avec AWS App Mesh pour la mise à l'échelle, est moins direct et plus complexe que l'Auto Scaling natif d'ECS basé sur SQS. Lambda invoqué par SQS avec Auto Scaling des vCPU pour Lambda n'est pas pertinent, car Lambda gère automatiquement sa mise à l'échelle et n'a pas de concept de vCPU configurable par l'utilisateur de cette manière. De plus, la limite de mémoire reste un problème.