한 스타트업이 GPU를 사용하여 복잡한 딥 뉴럴 네트워크 학습을 실행합니다. 워크플로우는 S3에서 데이터셋을 가져오고, 회사 git 리포지토리에서 TensorFlow 모델을 로드하고, 로컬에서 실행하며, S3에 진행 상황을 기록합니다. 이 작업은 일시 중지 및 재개를 지원하고, 중앙에서 대기열에 추가되며, 현재 몇 시간이 소요됩니다. 관리자들은 이 주간 워크로드를 매주 월요일에 자동으로 실행하여 금요일까지 가장 낮은 비용으로 완료하고 확장하기를 원합니다. 어떤 아키텍처가 가장 낮은 비용으로 이 요구 사항을 가장 잘 충족할까요?

정답은 AWS Deep Learning Containers에 워크로드를 패키징하고 GPU를 사용할 수 있는 Spot Instances를 사용하여 AWS Batch에서 작업으로 실행하는 것입니다. AWS Batch는 복잡한 딥러닝 워크로드를 효율적으로 관리하고, Spot Instances를 활용하여 비용을 최소화하며, 작업 일시 중지 및 재개를 지원합니다. 또한, AWS Batch는 중앙에서 작업을 대기열에 추가하고 자동으로 확장하여 주간 워크로드를 금요일까지 완료하는 데 적합합니다. AWS Deep Learning Containers는 TensorFlow 모델을 쉽게 배포할 수 있게 합니다. 저비용 GPU EC2 인스턴스에서 워크로드를 실행하고 AWS Instance Scheduler로 예약하는 것은 확장성 및 작업 관리 측면에서 AWS Batch보다 유연성이 떨어집니다. AWS Fargate는 현재 GPU 인스턴스를 지원하지 않으므로 딥러닝 워크로드에 적합하지 않습니다. Amazon ECS에서 Spot Instances를 사용하는 것은 가능하지만, AWS Batch는 딥러닝과 같은 배치 워크로드에 최적화된 기능(예: 작업 종속성, 재시도 로직)을 제공하여 더 나은 선택입니다.