한 회사는 매일 파일 모드에서 단일 온디맨드 EC2 인스턴스에 CNN 이미지 모델을 한 에포크로 학습시킵니다. 매일 약 10,000개의 새 이미지를 추가하며, 코드 수정 없이 학습 속도를 높이고 비용을 절감하고자 합니다. 어떤 변경 사항이 이 목표를 가장 잘 달성할까요?

Spot Instances는 온디맨드 인스턴스보다 훨씬 저렴하여 비용을 절감할 수 있습니다. 그러나 Spot Instances는 언제든지 중단될 수 있으므로, 모델 체크포인팅을 활성화하여 학습 진행 상황을 주기적으로 저장해야 합니다. 이렇게 하면 인스턴스가 중단되더라도 마지막 체크포인트부터 학습을 재개할 수 있어 시간을 절약하고 학습 속도를 간접적으로 향상시킬 수 있습니다. 파일 모드에서 파이프 모드 또는 FastFile 모드로 전환하는 것은 데이터 로딩 속도를 향상시킬 수 있지만, Spot Instances 사용 및 체크포인팅만큼 비용 절감 및 중단 대비 효과가 크지 않습니다. 단순히 온디맨드 인스턴스를 Spot Instances로 교체하는 것만으로는 중단 시 학습 손실 위험이 있어 안정적인 학습 속도 향상과 비용 절감 목표를 완전히 달성하기 어렵습니다.