Рабочая конечная точка SageMaker использует модель версии v1. Новая версия v2 должна быть протестирована в рабочей среде с минимальным риском и без прерывания текущего трафика. Какой подход лучше всего подходит для проверки v2 перед переключением?

Правильный ответ — развертывание v2 как теневого варианта. Этот подход позволяет протестировать новую модель (v2) на 100% реального трафика, не влияя на ответы, получаемые пользователями от текущей рабочей модели (v1). Выходные данные v2 сохраняются для оценки, и только после подтверждения ее производительности v2 может быть переведена в рабочую среду. Это минимизирует риск и обеспечивает непрерывность обслуживания. Остальные варианты предполагают направление части реального трафика на v2 (1% или 10%), что является стратегией A/B-тестирования. Хотя A/B-тестирование полезно, оно не является "теневым" развертыванием и не позволяет протестировать модель на 100% трафика без потенциального влияния на пользователей, если v2 работает некорректно. Развертывание v2 в новой конечной точке и отправка туда 100% входных данных скриптом также не является теневым развертыванием и может быть сложнее в реализации для точного воспроизведения рабочей нагрузки.