Перед полным выпуском новой модели компании необходимо протестировать ее онлайн на 10% производственного трафика. Модель обслуживается конечной точкой SageMaker за Application Load Balancer. Какая настройка обеспечивает необходимую 10% онлайн-валидацию с наименьшими операционными издержками?

Правильный ответ — добавить новую модель в качестве производственного варианта к существующей конечной точке SageMaker и установить вес варианта на 0.1; отслеживать вызовы с помощью Amazon CloudWatch. SageMaker Production Variants позволяют легко развертывать несколько версий модели за одной конечной точкой и направлять определенный процент трафика на каждую версию, что идеально подходит для A/B-тестирования или канареечных развертываний. Установка веса 0.1 (10%) направляет 10% трафика на новую модель. CloudWatch является стандартным сервисом для мониторинга метрик и логов в AWS. Неправильные варианты: Установка веса варианта на 1 направит 100% трафика на новую модель, что не соответствует требованию 10%. Создание отдельной конечной точки SageMaker для новой модели увеличивает операционные издержки и усложняет управление трафиком по сравнению с использованием Production Variants на одной конечной точке. Настройка ALB для перенаправления трафика на новую модель в существующей конечной точке SageMaker возможна, но менее интегрирована и более сложна в управлении, чем встроенные функции SageMaker Production Variants. Кроме того, CloudTrail используется для аудита действий API, а не для мониторинга метрик производительности или трафика модели, для чего лучше подходит CloudWatch.