Un scientifique des données ajuste un hyperparamètre x très sensible ; la valeur optimale se situe entre 0,5 et 1,0 et est censée être proche de 1,0. Il doit trouver la valeur optimale avec un minimum d'exécutions et des conditions cohérentes. Quel type de mise à l'échelle d'hyperparamètre doit-il utiliser ?

La mise à l'échelle logarithmique inverse (ou échelle log-inverse) est la plus appropriée car elle permet d'explorer plus finement les valeurs proches de 1,0. Puisque l'hyperparamètre est très sensible et que la valeur optimale est attendue près de 1,0, cette échelle concentre les points d'échantillonnage dans la région d'intérêt (par exemple, 1/x pour x entre 0,5 et 1,0, ce qui donne des valeurs entre 1 et 2, puis on retransforme). La mise à l'échelle automatique n'est pas un type de mise à l'échelle d'hyperparamètre standard pour l'exploration. La mise à l'échelle linéaire distribuerait les points uniformément, ce qui serait inefficace pour une exploration ciblée près de 1,0. La mise à l'échelle logarithmique (base 10 ou naturelle) concentrerait les points vers les petites valeurs (par exemple, 0,5), ce qui est l'opposé de ce qui est recherché.