Специалист по машинному обучению обучает модели компьютерного зрения с глубоким обучением на инстансе EC2 с соотношением CPU:GPU 12:1 и обнаруживает, что GPU простаивает примерно половину времени. Ему необходимо сократить затраты на обучение без увеличения продолжительности заданий. Какой вариант соответствует этому требованию?

Правильный ответ — использование инстансов EC2 Spot, оптимизированных по памяти. Инстансы Spot значительно дешевле по сравнению с инстансами по требованию, что напрямую сокращает затраты на обучение. Поскольку GPU простаивает половину времени, это указывает на то, что узким местом является не вычислительная мощность GPU, а, вероятно, ввод/вывод данных или подготовка данных, что может быть улучшено инстансами с большим объемом памяти. Переключение на инстансы только с CPU замедлит обучение. Гетерогенный кластер не обязательно сократит затраты или время обучения. Изменение соотношения CPU:GPU на 6:1 может увеличить загрузку GPU, но не гарантирует сокращения затрат и может даже увеличить их, если общая производительность не улучшится пропорционально.