Una empresa que entrena un modelo de deep learning en SageMaker quiere optimizar los hiperparámetros para minimizar la pérdida de validación utilizando el menor tiempo de cómputo. ¿Qué estrategia de ajuste debería elegir?

Hyperband es la estrategia más eficiente en tiempo de cómputo para la optimización de hiperparámetros, especialmente en deep learning. Combina la búsqueda aleatoria con la eliminación temprana de configuraciones de bajo rendimiento, lo que permite explorar un gran espacio de hiperparámetros y converger rápidamente. Grid search es exhaustivo pero computacionalmente costoso, ya que prueba todas las combinaciones predefinidas. Bayesian optimization es más eficiente que grid search, pero puede ser más lento que Hyperband en escenarios con muchos recursos o entrenamientos largos, ya que dedica tiempo a modelar la función objetivo. Random search es más eficiente que grid search pero no elimina configuraciones deficientes, lo que lo hace menos óptimo que Hyperband para minimizar el tiempo.