一家公司正在 AWS 上将机器学习模型开发为独立的微服务。每个微服务在启动时从 Amazon S3 获取大约 1 GB 的模型数据并将其加载到内存中。用户通过异步 API 访问 ML 模型，并且可以发送单个请求或批量请求。该公司为数百名用户提供服务。使用模式不规律：有些模型可能闲置数天或数周，而另一些模型则接收数千个请求的批次。哪种解决方案能满足这些要求？

正确答案是使用 Amazon SQS 队列和 Amazon ECS 服务。SQS 队列可以处理异步请求和不规律的使用模式，确保请求不会丢失。Amazon ECS 适合部署微服务，并且能够将 1 GB 模型数据加载到内存中。ECS 的自动扩缩功能可以根据 SQS 队列的大小动态调整服务数量和集群容量，有效应对请求批次和模型闲置的情况，实现成本效益。 其他选项不适合： 将 ML 模型部署为 AWS Lambda 函数不合适，因为 Lambda 函数的内存限制和冷启动时间可能无法有效处理 1 GB 的模型数据加载。 Network Load Balancer (NLB) 和 Application Load Balancer (ALB) 主要用于同步请求，不适合处理不规律的异步请求和批处理。