데이터 과학자들은 장시간 실행되는 다시 시작할 수 없는 작업을 위해 GKE 클러스터에 GPU 노드가 필요할 때가 있습니다. 이러한 요구 사항을 충족하면서 비용을 최소화해야 합니다. 어떻게 해야 할까요?

정답은 GKE 클러스터에서 노드 자동 프로비저닝을 활성화하는 것입니다. 노드 자동 프로비저닝은 워크로드 요구 사항에 따라 GPU 노드를 포함한 적절한 노드 풀을 자동으로 생성하고 관리합니다. 이는 필요한 경우에만 GPU 리소스를 프로비저닝하여 비용을 최소화하고, 장시간 실행되는 다시 시작 불가능한 작업에 필요한 리소스를 효율적으로 제공합니다. Vertical Pod Autoscaler는 포드 리소스 요청 및 제한을 자동으로 조정하지만, 노드 자체를 프로비저닝하지는 않습니다. 선점형 VM은 비용 효율적이지만, 장시간 실행되는 다시 시작 불가능한 작업에는 적합하지 않습니다. 언제든지 중단될 수 있기 때문입니다. GPU가 있는 인스턴스로 노드 풀을 생성하고 최소 크기를 1로 설정하는 것은 항상 하나의 GPU 노드가 실행되도록 하여 비용 효율적이지 않습니다.