Chcesz skierować niewielką część ruchu do nowej wersji modelu dla użytkowników podglądu, ocenić ją, a następnie stopniowo przenieść cały ruch do nowego modelu w ustalonym czasie przy minimalnym nakładzie pracy operacyjnej. Które podejście SageMaker realizuje to z najmniejszym nakładem pracy operacyjnej?

Prawidłowa odpowiedź to użycie UpdateEndpointWeightsAndCapacities. Pozwala to na modyfikację wag wariantów w istniejącym punkcie końcowym SageMaker bez konieczności tworzenia nowego. Ustawienie DesiredWeight na 0 dla nowego modelu i kierowanie użytkowników podglądu za pomocą TargetVariant w InvokeEndpoint jest efektywnym sposobem na testowanie. Następnie stopniowe zwiększanie DesiredWeight umożliwia płynne przejście całego ruchu, minimalizując nakład pracy operacyjnej. Pierwsza opcja jest nieprawidłowa, ponieważ tworzenie nowego EndpointConfig z InitialVariantWeight na 0, a następnie jego zwiększanie, wymagałoby aktualizacji całego punktu końcowego, co jest bardziej złożone niż modyfikacja wag istniejącego. Druga opcja jest nieprawidłowa, ponieważ użycie Application Load Balancer przed dwoma oddzielnymi punktami końcowymi SageMaker wprowadza dodatkową warstwę zarządzania i kosztów, zwiększając nakład pracy operacyjnej. Czwarta opcja jest nieprawidłowa, ponieważ zarządzanie dwoma punktami końcowymi i przełączanie routingu w Route 53 jest bardziej skomplikowane i wymaga większego nakładu pracy niż prosta aktualizacja wag w jednym punkcie końcowym SageMaker.