DataWave Inc. запускает низколатентную модель обнаружения мошенничества на конечной точке SageMaker в реальном времени (один производственный вариант). Они хотят провести теневое тестирование, направляя 5% живого производственного трафика на новый вариант модели (тень), в то время как 95% продолжает поступать на текущий вариант; ответы от теневой модели не должны возвращаться клиентам (они будут регистрироваться для автономного сравнения). Какой наиболее подходящий и наименее интрузивный способ реализовать это в SageMaker?

Правильный ответ описывает стандартный и наименее интрузивный способ реализации теневого тестирования в SageMaker. Установка InitialVariantWeight для нового варианта на 0.05 направляет 5% трафика на теневую модель, а 95% — на основную, при этом ответы от теневой модели не возвращаются клиенту, что идеально подходит для автономного сравнения. Вариант с отбрасыванием ответов на клиенте требует изменения клиентской логики, что менее предпочтительно. Использование ALB или многомодельной конечной точки с Lambda-функцией усложняет архитектуру и увеличивает накладные расходы, тогда как SageMaker предоставляет встроенные механизмы для такого сценария.