Una empresa está desarrollando modelos de machine learning en AWS como microservicios independientes. Cada microservicio obtiene aproximadamente 1 GB de datos del modelo de Amazon S3 al inicio y los carga en la memoria. Los usuarios acceden a los modelos de ML a través de una API asíncrona y pueden enviar solicitudes individuales o por lotes. La empresa atiende a cientos de usuarios. Los patrones de uso son irregulares: algunos modelos pueden estar inactivos durante días o semanas, mientras que otros reciben lotes de miles de solicitudes. ¿Qué solución cumplirá estos requisitos?

La opción correcta utiliza Amazon SQS para desacoplar la API de los microservicios, lo cual es ideal para patrones de uso irregulares y solicitudes asíncronas. Los modelos de ML, que cargan 1 GB de datos en memoria, son más adecuados para Amazon ECS que para AWS Lambda, ya que Lambda tiene límites de memoria y tiempo de ejecución que podrían ser problemáticos para cargas de datos tan grandes y procesamiento por lotes. El escalado automático de ECS basado en el tamaño de la cola de SQS asegura que los recursos se ajusten dinámicamente a la demanda, optimizando costos y rendimiento. Las opciones incorrectas presentan limitaciones. La primera opción con Lambda y NLB es inviable por el límite de memoria de Lambda (10 GB) y el tiempo de ejecución para cargar 1 GB de datos y procesar lotes. La segunda opción con ALB y ECS es menos óptima porque la API es asíncrona y los patrones de uso son irregulares, lo que hace que una cola SQS sea más adecuada para gestionar la carga. La tercera opción con Lambda y SQS también es inviable por las limitaciones de Lambda mencionadas.