Specjalista ds. danych dostraja model głębokiego uczenia do wykrywania obiektów i musi uruchomić wiele równoległych prób z hiperparametrami, wcześnie zatrzymywać słabo działające próby i przydzielać więcej zasobów obiecującym próbom. Jaka technika wyszukiwania hiperparametrów zminimalizuje całkowity czas obliczeń, spełniając jednocześnie te wymagania?

Hyperband to zaawansowana technika wyszukiwania hiperparametrów, która iteracyjnie przydziela zasoby (np. epoki treningowe) losowo wybranym konfiguracjom hiperparametrów. Jej kluczową zaletą jest wczesne przerywanie słabo działających prób i alokowanie większych zasobów obiecującym konfiguracjom, co minimalizuje całkowity czas obliczeń. Grid search i Random search są mniej efektywne, ponieważ nie przerywają wcześnie słabo działających prób i nie adaptują alokacji zasobów. Grid search testuje wszystkie kombinacje w zdefiniowanej siatce, a Random search losowo próbkuje przestrzeń, ale obie metody nie optymalizują wykorzystania zasobów w czasie. Bayesian optimization jest bardziej efektywna niż Grid/Random search, ponieważ buduje model prawdopodobieństwa funkcji celu, aby sugerować kolejne punkty do oceny, ale nie ma wbudowanego mechanizmu wczesnego przerywania i adaptacyjnego przydzielania zasobów w taki sposób jak Hyperband.