Um engenheiro de ML usou otimização Bayesiana no SageMaker para ajuste de hiperparâmetros e otimizou para precisão. Agora, ele quer otimizar o recall e expandir o intervalo de busca para alguns hiperparâmetros, incluindo o intervalo anterior. Qual abordagem completará o novo trabalho de ajuste no menor tempo?

Iniciar um trabalho de ajuste de hiperparâmetros warm-start (inicialização a quente) é a abordagem mais eficiente. A otimização Bayesiana é um método sequencial que aprende com os resultados anteriores para guiar as próximas avaliações. Ao usar o warm-start, o SageMaker aproveita o conhecimento dos trabalhos de ajuste anteriores, incluindo os hiperparâmetros e suas métricas de desempenho, para informar a busca atual. Isso permite que o algoritmo explore o novo espaço de busca de forma mais inteligente e convergente mais rapidamente para a nova métrica-alvo (recall), minimizando o tempo e os recursos computacionais. Checkpointing é útil para retomar um trabalho interrompido, mas não para otimizar um novo objetivo ou expandir o espaço de busca. Usar a mesma seed aleatória não garante otimização mais rápida para um novo objetivo. Executar vários trabalhos em paralelo pode ser mais rápido que um único trabalho do zero, mas não aproveita o conhecimento prévio da mesma forma que o warm-start, sendo menos eficiente.