Yeni bir modeli tam olarak yayınlamadan önce, bir şirketin bunu üretim trafiğinin %10'unda çevrimiçi olarak doğrulaması gerekir. Model, bir Application Load Balancer'ın arkasındaki bir SageMaker endpoint'i tarafından sunulmaktadır. Hangi kurulum, en az operasyonel yük ile gerekli %10 çevrimiçi doğrulamayı sağlar?

Doğru seçenek, yeni modeli mevcut SageMaker endpoint'ine bir üretim varyantı olarak ekleyerek varyant ağırlığını 0.1 (%10) olarak ayarlamaktır. SageMaker'ın üretim varyantları özelliği, tek bir endpoint üzerinden farklı model sürümlerine trafik yönlendirmeyi ve A/B testi yapmayı kolaylaştırır. Bu yaklaşım, operasyonel yükü en aza indirir çünkü yeni bir endpoint oluşturmaya veya ALB'yi karmaşık bir şekilde yapılandırmaya gerek kalmaz. Amazon CloudWatch, model çağrılarını ve performansını izlemek için standart ve etkili bir yöntemdir. Diğer seçenekler ya yanlış varyant ağırlığı kullanır, gereksiz yere yeni bir endpoint oluşturur ya da izleme için yanlış hizmeti (CloudTrail) önerir.