Специалистам по данным иногда требуются узлы с GPU в кластере GKE для длительных, неперезапускаемых задач. Минимизируйте затраты, удовлетворяя эту потребность. Что следует сделать?

Автоматическое выделение узлов (Node auto-provisioning) в GKE — это наиболее эффективный способ минимизировать затраты, поскольку оно динамически создает узлы с необходимыми ресурсами (включая GPU) только тогда, когда это требуется рабочим нагрузкам. После завершения задач эти узлы автоматически удаляются, предотвращая излишние расходы. Vertical Pod Autoscaler (VPA) оптимизирует ресурсы подов, но не управляет созданием или удалением узлов с GPU. Создание пула узлов с вытесняемыми ВМ и GPU не подходит для "длительных, неперезапускаемых задач", так как вытесняемые ВМ могут быть остановлены в любой момент. Создание пула узлов с GPU и минимальным размером 1 приведет к постоянным затратам на GPU, даже когда они не используются, что противоречит цели минимизации затрат.