Uruchamiasz klaster GKE obsługujący wiele zespołów. Zespół ML potrzebuje procesorów graficznych Nvidia Tesla P100 do trenowania modeli przy minimalnym wysiłku i kosztach. Co należy zrobić?

Dodanie puli węzłów obsługujących GPU do istniejącego klastra GKE jest najbardziej efektywnym rozwiązaniem. Pozwala to na współdzielenie klastra przez wiele zespołów, jednocześnie zapewniając zespołowi ML dostęp do specjalistycznych zasobów GPU, których potrzebują, bez wpływu na inne obciążenia. Selektor węzłów cloud.google.com/gke-accelerator: nvidia-tesla-p100 gwarantuje, że pody zespołu ML zostaną zaplanowane wyłącznie na węzłach z odpowiednimi procesorami GPU. Prośba o dodanie adnotacji accelerator: gpu do specyfikacji poda jest niewystarczająca, ponieważ sama adnotacja nie zapewni dostępności węzłów z GPU. Ponowne tworzenie każdego węzła w klastrze GKE w celu włączenia GPU na wszystkich węzłach jest nieefektywne i kosztowne, ponieważ nie wszystkie obciążenia wymagają GPU. Tworzenie oddzielnego klastra Kubernetes na Compute Engine z węzłami obsługującymi GPU jest możliwe, ale zwiększa złożoność zarządzania i koszty operacyjne w porównaniu do dodania dedykowanej puli węzłów do istniejącego klastra GKE.