Gli scienziati dei dati necessitano occasionalmente di nodi GPU su un cluster GKE per lavori a lunga esecuzione e non riavviabili. Riduci al minimo i costi soddisfacendo questa esigenza. Cosa dovresti fare?

Abilitare il provisioning automatico dei nodi (Node Auto-Provisioning) sul cluster GKE è la soluzione più efficiente per soddisfare la richiesta di nodi GPU occasionali e a lunga esecuzione, minimizzando i costi. Questa funzionalità crea e gestisce automaticamente i pool di nodi in base ai requisiti dei pod in attesa, inclusa la necessità di GPU. Quando i pod GPU vengono schedulati, GKE provisionerà un pool di nodi GPU solo quando necessario e lo scalerà a zero quando non più utilizzato, garantendo un uso ottimale delle risorse e riducendo i costi. Creare un Vertical Pod Autoscaler (VPA) non è sufficiente perché regola solo le risorse (CPU/memoria) all'interno di un pod esistente, non provisiona nuovi nodi con GPU. Creare un pool di nodi con VM preemptible e GPU collegate potrebbe essere più economico, ma le VM preemptible vengono terminate dopo 24 ore o prima, rendendole inadatte per carichi di lavoro "non riavviabili" e a lunga esecuzione. Creare un pool di nodi con GPU e autoscaling con dimensione minima di 1 manterrebbe sempre un nodo GPU attivo, generando costi inutili quando non in uso.