Een data scientist stemt een hyperparameter x af die erg gevoelig is; de optimale waarde ligt tussen 0.5 en 1.0 en ligt vermoedelijk dicht bij 1.0. Ze moeten de optimale waarde vinden met minimale runs en consistente condities. Welk type hyperparameter-schaling moeten ze gebruiken?

Reverse logarithmic scaling (omgekeerde logaritmische schaling) is de beste keuze omdat het meer waarden bemonstert aan het hogere uiteinde van de schaal, wat overeenkomt met de verwachting dat de optimale waarde dicht bij 1.0 ligt. Dit minimaliseert het aantal runs dat nodig is om de optimale waarde te vinden door de zoekruimte efficiënter te verkennen waar de optimale waarde waarschijnlijk is. Lineaire schaling zou de waarden gelijkmatig verdelen over het bereik, wat minder efficiënt is als de optimale waarde geconcentreerd is aan één uiteinde. Logaritmische schaling zou meer waarden bemonsteren aan de onderkant van het bereik (dichter bij 0.5), wat niet overeenkomt met de verwachting. Automatische schaling is geen standaard schaaltype voor hyperparameter tuning en biedt geen specifieke voordelen in dit scenario.