Авиакомпания использует конечную точку SageMaker в реальном времени для корректировки цен на билеты в зависимости от спроса. Предыдущие развертывания не смогли достаточно быстро масштабироваться при росте трафика веб-сайта. Инженер машинного обучения должен настроить автомасштабирование с отслеживанием целевого показателя, чтобы быстро реагировать на внезапные всплески трафика. Какая конфигурация будет наиболее отзывчивой?

Для наиболее быстрого реагирования на внезапные всплески трафика необходимо использовать метрику с высоким разрешением и коротким интервалом. Метрика SageMaker InvocationsPerInstance с высоким разрешением (High-Resolution) и 10-секундными интервалами позволяет CloudWatch получать данные чаще, что обеспечивает более оперативное срабатывание политики автомасштабирования. Сохранение времени ожидания уменьшения масштаба по умолчанию (300 секунд) является оптимальным, так как более длительное время (600 секунд) замедлит реакцию системы на снижение нагрузки, а слишком короткое может привести к нежелательным колебаниям. Использование стандартной метрики вместо метрики высокого разрешения приведет к менее оперативному масштабированию, поскольку данные будут собираться реже.