Специалист провел нагрузочное тестирование одного экземпляра и обнаружил, что пиковое количество запросов в секунду (RPS) без деградации составляет ≈ 20 RPS. Для первоначального развертывания они будут использовать коэффициент безопасности вызова 0,5. SageMakerVariantInvocationsPerInstance измеряется в минуту. Какое значение они должны установить для SageMakerVariantInvocationsPerInstance?

SageMakerVariantInvocationsPerInstance — это метрика, измеряемая в запросах в минуту. Специалист определил пиковую производительность в 20 RPS (запросов в секунду). Чтобы перевести это в запросы в минуту, умножаем 20 RPS на 60 секунд/минуту, что дает 1200 запросов в минуту. Применяя коэффициент безопасности 0,5, мы умножаем 1200 на 0,5, получая 600. Таким образом, значение 600 запросов в минуту учитывает коэффициент безопасности и соответствует требуемой метрике. Варианты 10 и 30 слишком низки, а 2400 слишком высок и не учитывает коэффициент безопасности.