Les clients téléchargent des images (chacune pouvant atteindre 50 Mo) et un modèle de ML génère des descriptions textuelles. Les images sont stockées dans Amazon S3 et le traitement doit s'adapter avec un minimum de frais opérationnels. Quelle architecture répond le mieux à ces exigences ?

L'option d'un endpoint d'inférence asynchrone Amazon SageMaker avec autoscaling est la meilleure solution. Elle est conçue pour gérer de grandes charges utiles (jusqu'à 1 Go) et des temps de traitement longs, ce qui est idéal pour des images de 50 Mo et la génération de descriptions. L'autoscaling assure l'adaptabilité avec des frais opérationnels minimaux. Un job de transformation par lots SageMaker est plus adapté pour le traitement d'un grand nombre de données en une seule fois, pas pour des requêtes individuelles et asynchrones. Un cluster Amazon EKS introduit une complexité opérationnelle plus élevée pour la gestion de l'infrastructure. AWS Batch est une bonne solution pour les traitements par lots, mais l'inférence asynchrone de SageMaker est spécifiquement optimisée pour ce cas d'usage avec des modèles ML.