Sie betreiben einen GKE-Cluster, der mehrere Teams bedient. Das ML-Team benötigt Nvidia Tesla P100 GPUs für das Modelltraining mit minimalem Aufwand und Kosten. Was sollten Sie tun?

Die beste Lösung ist, dem bestehenden GKE-Cluster einen GPU-fähigen Knotenpool hinzuzufügen. Dies ermöglicht es dem ML-Team, spezialisierte Ressourcen zu nutzen, ohne den gesamten Cluster neu konfigurieren oder einen separaten Cluster verwalten zu müssen. Durch die Verwendung eines nodeSelector in ihren Pod-Spezifikationen können die ML-Workloads gezielt auf die GPU-Knoten geleitet werden. Das Hinzufügen einer accelerator: gpu-Annotation ist keine standardmäßige Kubernetes-Funktion für die Zuweisung von GPUs. Das Neuerstellen des gesamten Clusters, um GPUs auf allen Knoten zu aktivieren, wäre ineffizient und kostspielig, da nicht alle Workloads GPUs benötigen. Das Erstellen eines separaten Kubernetes-Clusters für das ML-Team würde den Verwaltungsaufwand erhöhen und die Ressourcennutzung fragmentieren.