SageMaker sunucusuz bir uç noktaya dağıtılan bir model, üretimde testlerden daha yüksek gecikme süresi gösteriyor. Mühendis, ekstra gecikme süresinin model başlatma süresinden kaynaklandığından şüpheleniyor. Bunu doğrulamak için neyi kontrol etmelidir?

Doğru cevap, Amazon CloudWatch metriklerini etkinleştirmek ve SageMaker ad alanındaki ModelSetupTime metriğini incelemektir. ModelSetupTime metriği, sunucusuz uç noktanın bir modeli başlatmak için harcadığı süreyi doğrudan ölçer ve bu da gecikme süresindeki artışın temel nedeni olabilir. Bu metrik, modelin yüklenmesi, bağımlılıkların kurulması ve çıkarım için hazır hale gelmesi gibi başlangıç süreçlerini kapsar. Diğer seçenekler neden yanlış: Bir SageMaker Model Monitor işi planlamak ve model kalitesi metriklerini incelemek, modelin performansını veya doğruluğunu değerlendirir, ancak başlangıç gecikmesiyle doğrudan ilgili değildir. Amazon CloudWatch metrikleri etkinleştirilmiş bir SageMaker Model Monitor işi planlamak, yine model kalitesi izlemeye odaklanır ve başlangıç süresini doğrudan ölçmez. Amazon CloudWatch metriklerini etkinleştirmek ve SageMaker ad alanındaki ModelLoadingWaitTime metriğini incelemek, ModelLoadingWaitTime metriği mevcut değildir. ModelSetupTime, modelin kurulum süresini ölçen ilgili metriktir.