I clienti caricano immagini (fino a 50 MB ciascuna) e un modello di ML genera descrizioni testuali. Le immagini sono archiviate in Amazon S3 e l'elaborazione deve scalare con un sovraccarico operativo minimo. Quale architettura soddisfa al meglio questi requisiti?

L'endpoint di inferenza asincrona di Amazon SageMaker è la soluzione migliore perché è progettato per carichi di lavoro che possono tollerare una latenza maggiore e gestisce automaticamente le code e la scalabilità, minimizzando il sovraccarico operativo. Supporta payload di grandi dimensioni (fino a 1 GB) e gestisce le richieste in modo asincrono, il che è ideale per l'elaborazione di immagini. La policy di autoscaling garantisce che le risorse si adattino dinamicamente al volume delle immagini caricate. Le altre opzioni sono meno adatte: Un job di trasformazione batch di SageMaker è ottimale per l'elaborazione di grandi set di dati in blocco, non per l'elaborazione in tempo quasi reale di singole immagini man mano che vengono caricate. Un cluster Amazon EKS con Karpenter offre un controllo granulare, ma comporta un sovraccarico operativo significativamente maggiore per la gestione dell'infrastruttura rispetto a SageMaker. AWS Batch con Amazon ECS è una buona opzione per carichi di lavoro batch, ma richiede la gestione esplicita dei job e non è intrinsecamente ottimizzato per l'inferenza asincrona con scalabilità automatica come SageMaker.