AdMarketInc esegue un training di un modello di raccomandazione su una singola istanza p3.16xlarge che richiede circa 12 ore per prova. Hanno un budget rigoroso e possono eseguire al massimo circa 20 prove di training complete. Le valutazioni del modello sono moderatamente rumorose, ma ogni prova è costosa. Quale strategia di SageMaker Automatic Model Tuning dovrebbero scegliere per trovare in modo più efficiente una configurazione di iperparametri quasi ottimale entro il loro budget limitato di prove?

L'ottimizzazione bayesiana è la scelta migliore per questo scenario perché è progettata per essere efficiente dal punto di vista campionario, il che è cruciale quando le valutazioni sono costose e il budget di prove è limitato. Costruisce un modello probabilistico (spesso un processo gaussiano) della funzione obiettivo, utilizzando i risultati delle prove precedenti per guidare la selezione dei successivi set di iperparametri più promettenti. Questo riduce il numero di prove necessarie per trovare una configurazione quasi ottimale. La ricerca casuale è meno efficiente dal punto di vista campionario. HyperBand è utile per l'early stopping, ma l'ottimizzazione bayesiana è più efficace per trovare iperparametri ottimali con un budget fisso di prove. La ricerca a griglia è computazionalmente proibitiva per spazi di iperparametri ampi e costosi.