Bir ekip, üretimde bir tahmin modelinin birden çok sürümünü uzun vadede çalıştırmak, her sürüm tarafından sunulan çıkarımların oranını kontrol etmek ve uygulama çabasını en aza indirmek istiyor. Bu ihtiyaçları en iyi karşılayan çözüm hangisidir?

Doğru seçenek, Amazon SageMaker'ın çoklu üretim varyantı özelliğini kullanarak aynı uç nokta altında birden fazla model sürümünü barındırmayı ve varyant ağırlıklarını ayarlayarak çıkarım trafiğini kontrol etmeyi önerir. Bu yaklaşım, A/B testi, kanarya dağıtımları veya mavi/yeşil dağıtımlar gibi stratejileri kolayca uygulayarak model sürümlerini uzun vadede yönetmeyi sağlar. Uygulama tarafında tek bir uç nokta çağrısı gerektiğinden, entegrasyon çabasını en aza indirir. Diğer seçenekler neden uygun değil: Her model için ayrı uç noktalar oluşturmak, uygulama tarafında daha karmaşık bir yönlendirme mantığı gerektirir ve yönetim yükünü artırır. SageMaker Neo, modelleri farklı cihaz türleri için optimize etmekle ilgilidir, model sürümlerini yönetmek veya trafiği kontrol etmekle değil. Batch Transform, toplu çıkarımlar için tasarlanmıştır, gerçek zamanlı tahmin modellerinin birden çok sürümünü yönetmek ve trafiği kontrol etmek için uygun değildir.