Cientistas de dados ocasionalmente precisam de nós de GPU em um cluster GKE para trabalhos de longa duração e não reiniciáveis. Minimize os custos ao mesmo tempo em que atende a essa necessidade. O que você deve fazer?

Habilitar o provisionamento automático de nós (Node Auto-Provisioning - NAP) no GKE é a solução mais econômica para cargas de trabalho esporádicas e de longa duração que exigem GPUs. O NAP cria e exclui pools de nós automaticamente com base nas necessidades de agendamento dos pods, garantindo que os recursos de GPU sejam provisionados apenas quando necessário e removidos quando não estiverem em uso, minimizando custos. Criar um Vertical Pod Autoscaler (VPA) ajusta os recursos de um pod, não provisiona nós com GPUs. Criar um pool de nós com VMs preemptivas e GPUs anexadas é uma opção mais barata, mas VMs preemptivas podem ser encerradas a qualquer momento, o que não é adequado para trabalhos de longa duração e não reiniciáveis. Criar um pool de nós com GPUs e ajuste automático de escala com tamanho mínimo de 1 incorreria em custos contínuos para a GPU, mesmo quando não estivesse em uso.