Специалист по машинному обучению (ML) запустил оптимизацию гиперпараметров (HPO) SageMaker в диапазоне скоростей обучения. Большинство испытаний использовали скорости обучения от 0,01 до 0,1, но лучшее испытание показало скорость обучения ниже 0,01. Задания на обучение будут регулярно выполняться на изменяющихся данных. Специалист хочет использовать подход, который более равномерно распределяет скорости обучения по указанному диапазону MinValue–MaxValue. Какой вариант является наиболее точным решением?

Правильный ответ — изменить конфигурацию HPO на логарифмическую шкалу для скорости обучения. Когда оптимальное значение гиперпараметра находится на краю заданного диапазона, это указывает на то, что диапазон, возможно, был слишком узким или распределение не было оптимальным. Логарифмическая шкала (logarithmic scale) позволяет более равномерно исследовать значения в широком диапазоне, особенно когда оптимальное значение может быть очень малым или очень большим, что характерно для скорости обучения. Это гарантирует, что HPO будет эффективно исследовать как малые, так и большие значения в пределах диапазона MinValue–MaxValue, а не концентрироваться на одном конце. Остальные варианты менее эффективны: Запуск нескольких отдельных заданий HPO с перекрывающимися или смежными диапазонами (как в двух других неверных вариантах) увеличивает сложность и вычислительные затраты без гарантии лучшего исследования, чем одно задание с правильно настроенной шкалой. Выбор конфигурации из текущего задания HPO не решает проблему неравномерного распределения.