Os clientes fazem upload de imagens (totalizando até 50 MB cada) e um modelo de ML gera descrições textuais. As imagens são armazenadas no Amazon S3 e o processamento deve ser dimensionado com o mínimo de sobrecarga operacional. Qual arquitetura melhor satisfaz esses requisitos?

A Inferência Assíncrona do Amazon SageMaker é a melhor opção porque é projetada para payloads grandes (até 1 GB) e processamento de longa duração, como a geração de descrições de imagens, e oferece autoescalabilidade para lidar com cargas variáveis sem sobrecarga operacional. Executar um trabalho de transformação em lote do Amazon SageMaker processaria todas as imagens de uma vez, o que não é ideal para um fluxo de trabalho onde as imagens são carregadas individualmente e precisam de processamento imediato ou quase imediato. Criar um cluster Amazon EKS com autoescalabilidade Karpenter introduz complexidade operacional desnecessária para este caso de uso específico, enquanto o SageMaker oferece uma solução gerenciada. Usar o AWS Batch com um ambiente de computação Amazon ECS é uma solução viável para processamento em lote, mas a Inferência Assíncrona do SageMaker é mais otimizada para o cenário de inferência de ML com payloads grandes e escalabilidade sob demanda.