Klanten uploaden afbeeldingen (tot 50 MB per stuk) en een ML-model genereert tekstuele beschrijvingen. De afbeeldingen worden opgeslagen in Amazon S3 en de verwerking moet schaalbaar zijn met minimale operationele overhead. Welke architectuur voldoet het beste aan deze vereisten?

De beste optie is een Amazon SageMaker Asynchronous Inference endpoint met een autoscaling-beleid. Dit endpoint is specifiek ontworpen voor het verwerken van grote payloads (tot 1 GB) en lange verwerkingstijden, wat perfect past bij de afbeeldingen van 50 MB. De asynchrone aard betekent dat de aanvrager niet hoeft te wachten op de directe respons, en de autoscaling zorgt voor schaalbaarheid met minimale operationele overhead, aangezien SageMaker het beheer van de infrastructuur afhandelt. Een SageMaker batch transform job is minder geschikt omdat dit bedoeld is voor het verwerken van een batch aan data in één keer, niet voor individuele, real-time of bijna real-time verwerking van geüploade afbeeldingen. Een Amazon EKS-cluster met Karpenter biedt wel schaalbaarheid, maar heeft een aanzienlijk hogere operationele overhead en complexiteit dan een beheerde SageMaker-oplossing. AWS Batch met een Amazon ECS compute environment is meer geschikt voor batchverwerking van taken die langer duren en minder direct gekoppeld zijn aan individuele uploads.