Bir şirket, hızlandırılmış instance'lar gerektiren ve farklı ölçeklendirme ihtiyaçları olan birden çok gerçek zamanlı SageMaker modeli barındırmaktadır. Her model için cold start'lar önlenmelidir. Hangi tasarım bu kısıtlamaları karşılar?
Bir cevap seçin
Cevabınızı kontrol etmek için bir seçeneğe dokunun.
Doğru cevap: Bir SageMaker endpoint'i oluşturun, bu endpoint'i işaret eden her model için bir inference component ekleyin, her inference component için auto scaling'i yapılandırın ve minimum kopya sayısını en az 1 olarak ayarlayın..
Neden bu cevap
Doğru cevap, hızlandırılmış instance'lar gerektiren, farklı ölçeklendirme ihtiyaçları olan ve cold start'lardan kaçınılması gereken birden çok gerçek zamanlı SageMaker modelini barındırmak için en uygun çözümdür. Tek bir SageMaker endpoint'i altında birden çok inference bileşeni kullanmak, her modelin kendi ölçeklendirme politikasına sahip olmasını sağlar ve minimum kopya sayısını 1 olarak ayarlamak cold start'ları önler. Yanlış seçenekler: SageMaker Serverless Inference, hızlandırılmış instance'ları desteklemez ve provisioned concurrency, farklı ölçeklendirme ihtiyaçlarına sahip birden çok model için uygun maliyetli olmayabilir. SageMaker Asynchronous Inference, gerçek zamanlı çıkarım için tasarlanmamıştır. Multi-model endpoint'ler, aynı instance üzerinde birden çok modeli barındırabilir ancak her model için ayrı ayrı hızlandırılmış instance'lar veya farklı ölçeklendirme politikaları gerektiren senaryolar için esnek değildir.
Sonsuz cevap arayışı olmadan sınavınızı geçin
Bu sınav için her doğrulanmış soruyu ve açıklamayı tek bir yerde edinin ve saatlerce süren hazırlıktan tasarruf edin. 1.000'den fazla sertifika · 20'den fazla dil · ücretsiz başlayın.
Sınavınızı daha hızlı geçin → Kart gerekmez