AdMarketInc는 단일 p3.16xlarge에서 추천 모델 학습을 실행하며, 한 번의 시도에 약 12시간이 소요됩니다. 엄격한 예산 제약으로 인해 최대 약 20번의 전체 학습 시도만 실행할 수 있습니다. 모델 평가는 다소 노이즈가 있지만 각 시도는 비용이 많이 듭니다. 제한된 시도 예산 내에서 거의 최적의 하이퍼파라미터 구성을 가장 효율적으로 찾기 위해 어떤 SageMaker Automatic Model Tuning 전략을 선택해야 할까요?

베이지안 최적화는 비용이 많이 들고 노이즈가 있는 평가에 가장 적합한 전략입니다. 이는 이전 평가 결과를 바탕으로 목적 함수의 확률 모델을 구축하고, 이 모델을 사용하여 다음에 평가할 가장 유망한 하이퍼파라미터 조합을 지능적으로 선택합니다. 따라서 제한된 시도 횟수 내에서 최적의 하이퍼파라미터에 더 효율적으로 수렴할 수 있습니다. 랜덤 검색은 베이지안 최적화보다 샘플 효율성이 떨어지며, 특히 시도 횟수가 제한적일 때 최적값을 찾는 데 더 많은 시도가 필요할 수 있습니다. HyperBand는 조기 중단을 통해 효율성을 높이지만, 베이지안 최적화만큼 샘플 효율적이지는 않으며, 20번의 시도 내에 전역 최적값을 보장하지 않습니다. 그리드 검색은 모든 조합을 평가하므로, 시도 횟수가 20회로 제한된 상황에서는 비현실적이고 비효율적입니다.