Trafiğin küçük bir bölümünü önizleme kullanıcıları için yeni bir model sürümüne yönlendirmek, onu değerlendirmek ve ardından minimum operasyonel yük ile belirli bir zaman diliminde tüm trafiği kademeli olarak yeni modele kaydırmak istiyorsunuz. Hangi SageMaker yaklaşımı bunu en az operasyonel iş yüküyle başarır?

Doğru seçenek, SageMaker'ın yerleşik A/B testi ve kademeli dağıtım özelliklerini en az operasyonel yükle kullanır. UpdateEndpointWeightsAndCapacities çağrısı, mevcut bir endpoint'in varyantları arasındaki trafik ağırlıklarını dinamik olarak ayarlamanıza olanak tanır. Başlangıçta yeni model için DesiredWeight değerini 0 olarak ayarlayarak, genel trafiğin yeni modele yönlendirilmesini engellersiniz. Ancak, InvokeEndpoint çağrılarında TargetVariant parametresini belirterek belirli önizleme kullanıcılarını yeni modele yönlendirebilirsiniz. Daha sonra, DesiredWeight değerini kademeli olarak artırarak tüm trafiği yeni modele sorunsuz bir şekilde kaydırabilirsiniz. Diğer seçenekler daha fazla operasyonel yük gerektirir: Yeni bir EndpointConfig oluşturmak, mevcut endpoint'i güncellemek yerine yeni bir endpoint oluşturmayı veya mevcut endpoint'i yeniden yapılandırmayı gerektirir, bu da daha fazla kesinti veya karmaşıklık anlamına gelebilir. İki ayrı SageMaker endpoint'i çalıştırmak ve bir Application Load Balancer kullanmak, ek bir hizmeti yönetme ve yapılandırma yükü getirir. İki SageMaker endpoint'i barındırmak ve Route 53 kullanmak, DNS yapılandırması ve yönetimi için ek adımlar gerektirir ve SageMaker'ın yerleşik yeteneklerini kullanmaz.