Компания электронной коммерции развернула конечную точку SageMaker factorization machines (FM) для рекомендаций по продуктам. Команда обучила две новые модели (TensorFlow и PyTorch) и должна провести A/B-тестирование со следующими правилами маршрутизации: отправлять 70% трафика на модель FM, 15% на модель TensorFlow, 15% на модель PyTorch; но для клиентов из Европы весь трафик направлять на модель TensorFlow. Какая архитектура поддерживает такое поведение?

Правильный ответ позволяет использовать одну конечную точку SageMaker для A/B-тестирования, что упрощает управление. Создание производственных вариантов (Production Variants) для каждой модели и установка весов в конфигурации конечной точки SageMaker обеспечивает распределение трафика 70/15/15. Для европейских клиентов, установка заголовка TargetVariant в запросе явно направляет трафик на вариант TensorFlow, переопределяя веса, что соответствует требованиям. Первый и третий варианты неоптимальны, так как создают несколько конечных точек и требуют внешнего балансировщика нагрузки, усложняя архитектуру и увеличивая затраты. Второй вариант неверен, так как политика автомасштабирования не используется для A/B-тестирования, а заголовок TargetVariant применяется к запросам, а не к политике автомасштабирования.