데이터 과학자가 매우 민감한 하이퍼파라미터 x를 튜닝하고 있습니다. 최적 값은 0.5에서 1.0 사이이며 1.0에 가까울 것으로 예상됩니다. 최소한의 실행과 일관된 조건으로 최적 값을 찾아야 합니다. 어떤 하이퍼파라미터 스케일링 유형을 사용해야 할까요?

하이퍼파라미터 x의 예상 최적값이 0.5에서 1.0 사이이며 1.0에 가깝다고 명시되어 있습니다. 이는 탐색 공간이 1.0 근처에 더 집중되어야 함을 의미합니다. 역로그 스케일링(Reverse log scaling)은 1.0에 가까운 값에 더 많은 탐색 가중치를 부여하여 이러한 요구사항을 충족합니다. 선형 스케일링은 모든 값에 균등한 가중치를 부여하므로 1.0 근처의 세밀한 탐색에 비효율적입니다. 로그 스케일링은 작은 값에 더 많은 가중치를 부여하므로 0.5 근처에 더 집중하게 되어 문제의 요구사항과 반대됩니다. 자동 스케일링은 일반적으로 사용되지만, 이 특정 시나리오에서는 역로그 스케일링이 최적의 탐색 효율성을 제공합니다.