고객이 이미지를 업로드하고(각각 최대 50MB) ML 모델이 텍스트 설명을 생성합니다. 이미지는 Amazon S3에 저장되며, 최소한의 운영 오버헤드로 처리를 확장해야 합니다. 다음 아키텍처 중 이러한 요구 사항을 가장 잘 충족하는 것은 무엇입니까?

정답은 Amazon SageMaker Asynchronous Inference 엔드포인트를 배포하고 각 이미지에 대해 호출하는 것입니다. SageMaker 비동기 추론은 큰 페이로드(최대 1GB) 또는 긴 처리 시간(최대 1시간)이 필요한 요청에 최적화되어 있으며, 요청이 들어올 때 자동으로 확장됩니다. 이는 최대 50MB의 이미지와 최소한의 운영 오버헤드 요구 사항에 적합합니다. SageMaker 배치 변환은 대규모 데이터 세트를 오프라인으로 처리하는 데 사용되며, 개별 이미지 업로드에 대한 실시간 응답에는 적합하지 않습니다. Amazon EKS 또는 AWS Batch를 사용하는 것은 사용자 지정 설정 및 관리 오버헤드가 더 크므로 "최소한의 운영 오버헤드" 요구 사항에 부합하지 않습니다.