Um especialista em ML executou a otimização de hiperparâmetros (HPO) do SageMaker em um intervalo de taxa de aprendizado. A maioria dos testes usou taxas de aprendizado entre 0,01 e 0,1, mas o melhor teste teve uma taxa de aprendizado abaixo de 0,01. Os trabalhos de treinamento serão executados regularmente em dados variáveis. O especialista deseja uma abordagem que amostre as taxas de aprendizado de forma mais uniforme em todo o intervalo MinValue–MaxValue especificado. Qual escolha é a solução mais precisa?

A opção correta é modificar a configuração do HPO para usar uma escala logarítmica. A escala logarítmica (logarithmic scale) é ideal quando o valor ótimo de um hiperparâmetro pode estar em uma ordem de magnitude diferente da maioria das amostras iniciais, como neste caso onde o melhor resultado foi abaixo de 0,01, enquanto a maioria dos testes estava entre 0,01 e 0,1. Isso permite que o HPO explore o espaço de busca de forma mais eficiente, amostrando valores em diferentes ordens de magnitude de maneira mais uniforme, em vez de focar linearmente em uma faixa estreita. As outras opções são menos eficientes ou incorretas: A primeira opção é uma frase incompleta e não oferece uma solução técnica. As opções de executar múltiplos trabalhos de HPO com intervalos fixos são ineficientes, pois exigem mais recursos e não garantem que o espaço de busca será explorado de forma otimizada se o valor ideal estiver fora desses intervalos ou exigir uma granularidade diferente.