Uno specialista ha eseguito un load test su un'istanza e ha riscontrato un picco di richieste al secondo (RPS) senza degrado di circa 20 RPS. Per il deployment iniziale utilizzerà un fattore di sicurezza di invocazione di 0,5. SageMakerVariantInvocationsPerInstance è misurato al minuto. Quale valore dovrebbe impostare per SageMakerVariantInvocationsPerInstance?

Il test di carico ha mostrato un picco di 20 RPS (richieste al secondo). Per convertire questo in richieste al minuto, moltiplichiamo 20 RPS 60 secondi/minuto = 1200 richieste al minuto. Il fattore di sicurezza di invocazione è 0,5, il che significa che il sistema dovrebbe essere configurato per gestire solo la metà del carico massimo osservato per garantire stabilità e prevenire il sovraccarico. Quindi, 1200 richieste al minuto 0,5 = 600. Questo valore rappresenta il numero massimo di invocazioni al minuto che l'istanza dovrebbe gestire in produzione, tenendo conto del fattore di sicurezza. Le opzioni 10 e 30 sono troppo basse e non riflettono il carico testato. 2.400 è il doppio del carico massimo osservato, il che non tiene conto del fattore di sicurezza di 0,5.