Заказчики загружают изображения (общим объемом до 50 МБ каждое), а модель машинного обучения генерирует текстовые описания. Изображения хранятся в Amazon S3, и обработка должна масштабироваться с минимальными операционными издержками. Какая архитектура лучше всего соответствует этим требованиям?

Развертывание конечной точки Amazon SageMaker Asynchronous Inference с автомасштабированием является лучшим решением, поскольку она предназначена для обработки больших полезных нагрузок (до 50 МБ на изображение) и запросов, которые могут занимать до 15 минут. Асинхронный вывод позволяет модели обрабатывать запросы по мере их поступления, а автомасштабирование обеспечивает эластичность без ручного вмешательства, минимизируя операционные издержки. Amazon SageMaker Batch Transform менее подходит, так как он предназначен для обработки больших наборов данных в пакетном режиме, а не для обработки отдельных изображений по мере их загрузки. Создание кластера Amazon EKS с Karpenter или использование AWS Batch со средой вычислений Amazon ECS является более сложным и операционно затратным решением по сравнению с управляемой службой SageMaker Asynchronous Inference, которая оптимизирована для таких сценариев.