ShopRight'ın, gelen her çıkarım isteği için tek haneli milisaniyeler içinde özellik vektörlerini getirmesi gereken, gecikmeye duyarlı bir ürün öneri uç noktası vardır. Özellikler, sık sık değişen müşteri oturumu nitelikleridir. Yönetilen SageMaker hizmetleri dahilinde kalarak gerçek zamanlı çıkarım için en güvenilir düşük gecikmeli erişim modelini hangi kurulum sağlar?

Doğru cevap, SageMaker Feature Store'un çevrimiçi mağaza özelliğini kullanmaktır. Bu seçenek, düşük gecikmeli erişim için tasarlanmıştır ve tek haneli milisaniye gereksinimini karşılar. GetRecord API'si, belirli bir kayıt tanımlayıcısına göre özellikleri hızlı bir şekilde almayı sağlar. Modelin IAM rolünün gerekli izinlere sahip olması ve özellik gruplarının aynı bölgede olması, sorunsuz çalışmayı garanti eder. Diğer seçenekler neden yanlış: S3'ten Athena sorguları kullanmak ve önbelleğe almak, tek haneli milisaniye gecikme gereksinimini karşılamak için çok yavaş olacaktır. DynamoDB kullanmak, Feature Store'un sağladığı entegrasyon ve optimizasyonlardan yoksundur ve gereksiz karmaşıklık yaratır. Asenkron toplu çıkarım (Transform job), gerçek zamanlı çıkarım için uygun değildir çünkü öneriler önceden hesaplanır ve anlık müşteri oturumu değişikliklerine yanıt veremez.