Un ingegnere ML configura l'auto scaling per un componente di inferenza dietro un endpoint Amazon SageMaker con una policy di target tracking di 100 invocazioni per modello al minuto. L'endpoint scala normalmente durante l'orario lavorativo, ma all'inizio di ogni giornata lavorativa non ci sono istanze disponibili per gestire le richieste, causando ritardi. Come dovrebbe l'ingegnere assicurarsi che l'endpoint possa gestire le richieste in arrivo all'inizio di ogni giornata lavorativa?

L'opzione corretta risolve il problema della mancanza di istanze all'inizio della giornata lavorativa pre-provisionando un'istanza. Una policy di step scaling basata su CloudWatch può aumentare il numero minimo di istanze da zero a uno prima dell'inizio delle richieste, garantendo disponibilità immediata. Le altre opzioni non risolvono il problema del cold start: ridurre il cooldown non crea istanze in anticipo; cambiare la metrica target non garantisce istanze all'avvio; impostare il valore target a uno è una metrica di scaling, non una strategia di pre-provisioning.