Un científico de datos está ajustando un hiperparámetro x que es muy sensible; el valor óptimo se encuentra entre 0.5 y 1.0 y se cree que está cerca de 1.0. Necesita encontrar el valor óptimo con un número mínimo de ejecuciones y condiciones consistentes. ¿Qué tipo de escalado de hiperparámetros debería usar?

El escalado logarítmico inverso (o log-uniforme inverso) es ideal cuando el valor óptimo de un hiperparámetro está cerca de su límite superior y el rango es sensible. Este escalado asigna más densidad de búsqueda a los valores cercanos a 1.0, lo que permite una exploración más fina en esa región crítica con un número limitado de ejecuciones. El escalado automático no es un tipo de escalado de hiperparámetros estándar. El escalado lineal distribuiría las muestras uniformemente en todo el rango, lo que no es eficiente si el óptimo está sesgado hacia un extremo. El escalado logarítmico (o log-uniforme) sería apropiado si el óptimo estuviera cerca de 0.5 o si el rango fuera muy amplio y se esperaran cambios multiplicativos, pero no cuando el óptimo está cerca del límite superior de un rango [0.5, 1.0].