Ein Spezialist führte einen Lasttest an einer Instanz durch und stellte fest, dass die Spitzenanfragen pro Sekunde (RPS) ohne Leistungsabfall bei ≈ 20 RPS lagen. Für die anfängliche Bereitstellung wird ein Invocation Safety Factor von 0,5 verwendet. SageMakerVariantInvocationsPerInstance wird pro Minute gemessen. Welchen Wert sollten sie für SageMakerVariantInvocationsPerInstance festlegen?

Der Invocation Safety Factor wird auf die maximale RPS angewendet, um die sichere Invocations pro Sekunde zu bestimmen. Bei 20 RPS und einem Faktor von 0,5 beträgt die sichere RPS 20 0,5 = 10 RPS. Da SageMakerVariantInvocationsPerInstance pro Minute gemessen wird, multiplizieren Sie diesen Wert mit 60 Sekunden: 10 RPS 60 Sekunden/Minute = 600. Daher sollte der Wert auf 600 gesetzt werden. Die Optionen 10 und 30 sind zu niedrig, da sie entweder die pro Sekunde oder einen falschen Minutenwert darstellen. 2.400 wäre zu hoch und würde den Sicherheitsfaktor ignorieren oder falsch anwenden.