Gestisci un cluster GKE che serve più team. Il team ML necessita di GPU Nvidia Tesla P100 per l'addestramento dei modelli con il minimo sforzo e costo. Cosa dovresti fare?

Aggiungere un pool di nodi abilitato per GPU al cluster GKE esistente è la soluzione più efficiente. Questo permette di isolare i carichi di lavoro ML che richiedono GPU, ottimizzando i costi poiché solo i nodi con GPU vengono fatturati per tale hardware. L'uso di un nodeSelector garantisce che i pod del team ML vengano schedulati solo su questi nodi specifici, evitando sprechi di risorse. Chiedere al team ML di aggiungere un'annotazione accelerator: gpu non è sufficiente; GKE necessita di nodi fisici con GPU. Ricreare ogni nodo per abilitare le GPU su tutti i nodi sarebbe costoso e inefficiente, poiché non tutti i carichi di lavoro richiedono GPU. Creare un cluster Kubernetes separato su Compute Engine con nodi abilitati per GPU è una soluzione valida ma meno ottimale rispetto all'aggiunta di un pool di nodi, in quanto introduce complessità di gestione e costi aggiuntivi per un cluster separato.