Los clientes suben imágenes (cada una de hasta 50 MB en total) y un modelo de ML genera descripciones textuales. Las imágenes se almacenan en Amazon S3 y el procesamiento debe escalar con una sobrecarga operativa mínima. ¿Qué arquitectura satisface mejor estos requisitos?

La inferencia asíncrona de Amazon SageMaker es la mejor opción porque está diseñada para procesar cargas útiles grandes (hasta 1 GB) y solicitudes que pueden tardar mucho tiempo en procesarse, como la generación de descripciones a partir de imágenes. Su política de autoescalado gestiona automáticamente los recursos, minimizando la sobrecarga operativa. Las otras opciones no son tan adecuadas: Un trabajo de transformación por lotes de SageMaker procesa todas las imágenes a la vez, lo cual no es ideal para un flujo continuo de subidas de clientes ni para una latencia baja por imagen. Un clúster de Amazon EKS con Karpenter añade complejidad y sobrecarga operativa que SageMaker Asynchronous Inference ya maneja. AWS Batch es adecuado para cargas de trabajo por lotes, pero no ofrece la misma integración y facilidad de uso para inferencia de ML en tiempo casi real o asíncrona que SageMaker.