Bir şirket iki model üretti: Model A sahte işlemleri tespit ediyor ve her işlemde çağrılacak; Model B ise gelecek ayın satışlarını tahmin ediyor ve ayda bir kez çağrılacak. Her ikisi de SageMaker AI kullanılarak üretime dağıtılmalıdır. Şirket hangi barındırma yaklaşımını kullanmalıdır?

Model A, her işlemde çağrılması gerektiğinden düşük gecikme süresi gerektirir. Gerçek zamanlı bir uç nokta, bu tür anlık tahminler için idealdir. Model B ise ayda bir kez çağrılacak ve gelecek ayın satışlarını tahmin edecektir. Bu tür periyodik ve potansiyel olarak büyük veri kümeleri üzerindeki tahminler için batch transform (toplu dönüşüm) daha uygun ve maliyet etkin bir çözümdür, çünkü sürekli çalışan bir uç nokta gerektirmez. Diğer seçenekler neden yanlış: Tek bir kapsayıcıda her iki modeli barındırmak, farklı kullanım durumları ve kaynak gereksinimleri nedeniyle verimsiz olabilir ve Model A'nın gecikme süresi gereksinimlerini karşılamayabilir. Model A'yı eşzamansız bir uç noktada barındırmak, her işlemde çağrılması gereken bir model için gecikme süresini artırır ve uygun değildir. Model B'yi gerçek zamanlı bir uç noktada barındırmak ise ayda bir kez çağrılan bir model için gereksiz yere maliyetli olur. Model A için batch transform kullanmak, her işlemde çağrılması gereken bir model için çok yavaş ve uygunsuz bir yaklaşımdır. Model B'yi eşzamansız bir uç noktada barındırmak ise batch transform'a kıyasla daha az maliyet etkin olabilir.