ML 전문가는 12:1 CPU:GPU 비율을 가진 EC2 인스턴스에서 딥러닝 컴퓨터 비전 모델을 훈련하며 GPU가 절반 정도 유휴 상태임을 발견했습니다. 작업 시간을 늘리지 않으면서 훈련 비용을 줄여야 합니다. 다음 중 이 요구 사항을 충족하는 옵션은 무엇입니까?

GPU가 절반 정도 유휴 상태라는 것은 GPU 자원이 충분히 활용되지 않고 있음을 의미합니다. 훈련 작업에 메모리 최적화된 EC2 Spot Instances를 사용하면, GPU 사용률이 낮은 상황에서 불필요하게 높은 GPU 자원을 가진 인스턴스를 사용하는 대신, 작업에 더 적합한 메모리 최적화 인스턴스를 선택하여 비용을 절감할 수 있습니다. Spot Instances는 온디맨드 인스턴스보다 저렴하여 비용 효율적입니다. CPU만 있는 인스턴스로 전환하면 딥러닝 모델 훈련 시간이 크게 늘어날 수 있습니다. 이기종 클러스터는 복잡성을 증가시키고, 6:1 CPU:GPU 비율 인스턴스로 전환하는 것은 여전히 GPU가 유휴 상태일 가능성이 있어 비용 절감 효과가 미미할 수 있습니다.