Команда электронной коммерции хочет развернуть новую модель SageMaker за своим существующим API рекомендаций реального времени без изменения клиентских приложений, и они хотят протестировать новую модель на части производственного трафика перед полным развертыванием. Какой подход обеспечивает это с наименьшими операционными издержками?

Использование производственных вариантов SageMaker (production variants) на существующей конечной точке — это наиболее эффективный способ для A/B-тестирования или канареечного развертывания. Этот подход позволяет направлять часть трафика к новой модели, сохраняя при этом тот же API и не требуя изменений в клиентских приложениях. Это минимизирует операционные издержки, поскольку не нужно управлять дополнительными балансировщиками нагрузки или изменять инфраструктуру. Создание новой конечной точки SageMaker с ALB или NLB требует дополнительных настроек и управления балансировщиками нагрузки, что увеличивает операционные издержки. SageMaker batch transform предназначен для пакетной обработки данных, а не для маршрутизации трафика в реальном времени.