Bir e-ticaret sitesi, beklenen yoğun trafiği karşılamak için üç adet işlem optimize edilmiş instance kullanarak bir SageMaker endpoint'inde bir TensorFlow ürün öneri modeli barındırıyor. Her ayın başında yanıt süreleri aniden yükseliyor ve bazı kullanıcılar hatalar görüyor. Trafiğin çoğu hafta içi sabah 8'den akşam 6'ya kadar tek bir saat diliminde gerçekleşiyor. Maliyeti en aza indirirken sorunu en etkili şekilde çözen iki eylem hangisidir? (İki tane seçin.)
Bir cevap seçin
Cevabınızı kontrol etmek için bir seçeneğe dokunun.
Doğru cevap: Endpoint için Amazon Elastic Inference (EI) hızlandırıcılarını etkinleştirin., Endpoint'i InvocationsPerInstance metriğine göre otomatik ölçeklenecek şekilde yapılandırın..
Neden bu cevap
Amazon Elastic Inference (EI) hızlandırıcıları, maliyeti düşürürken çıkarım performansını artırarak yanıt sürelerini iyileştirebilir. Bu, özellikle modelin çıkarım için GPU hızlandırmasına ihtiyaç duyduğu ancak tam bir GPU instance'ının gereksiz olduğu durumlarda faydalıdır. InvocationsPerInstance metriğine göre otomatik ölçeklendirme, yoğun trafik zamanlarında endpoint'in otomatik olarak daha fazla instance eklemesini sağlar ve bu da yanıt sürelerinin artmasını ve hataların oluşmasını engeller. Trafiğin belirli saatlerde yoğunlaşması, otomatik ölçeklendirmenin maliyet etkin bir çözüm olmasını sağlar çünkü instance'lar yalnızca ihtiyaç duyulduğunda eklenir. Diğer seçenekler neden yanlış: İki üretim varyantı içeren yeni bir endpoint konfigürasyonu oluşturmak, mevcut sorunu doğrudan çözmez ve maliyeti artırabilir. Mavi/yeşil model dağıtımı için ikinci bir instance havuzu dağıtmak, dağıtım stratejisiyle ilgili olup performans sorununu doğrudan gidermez ve maliyeti artırır. Burstable instance türlerini kullanmak, sürekli yüksek performans gerektiren iş yükleri için uygun değildir ve ani trafik artışlarında yetersiz kalabilir.
Sonsuz cevap arayışı olmadan sınavınızı geçin
Bu sınav için her doğrulanmış soruyu ve açıklamayı tek bir yerde edinin ve saatlerce süren hazırlıktan tasarruf edin. 1.000'den fazla sertifika · 20'den fazla dil · ücretsiz başlayın.
Sınavınızı daha hızlı geçin → Kart gerekmez