Uma empresa que está treinando um modelo de deep learning no SageMaker quer otimizar os hiperparâmetros para minimizar a perda de validação usando o menor tempo de computação. Qual estratégia de ajuste ela deve escolher?

Hyperband é a estratégia mais eficiente para otimizar hiperparâmetros com tempo de computação limitado, pois utiliza uma abordagem de alocação de recursos adaptativa. Ela executa várias configurações de hiperparâmetros em paralelo, mas interrompe as menos promissoras precocemente, focando os recursos nas configurações mais promissoras. Grid search e Random search são menos eficientes, pois não adaptam a alocação de recursos e podem gastar tempo excessivo em configurações ruins. Bayesian optimization é eficaz, mas pode ser mais lenta que Hyperband para encontrar uma boa solução em cenários com restrição de tempo, pois constrói um modelo probabilístico da função objetivo, o que pode ser computacionalmente intensivo.