ShopRight dispose d'un point de terminaison de recommandation de produits sensible à la latence qui doit récupérer des vecteurs de caractéristiques en quelques millisecondes pour chaque requête d'inférence entrante. Les caractéristiques sont des attributs de session client qui changent fréquemment. Quelle configuration offre le modèle de récupération à faible latence le plus fiable pour l'inférence en temps réel tout en restant dans les services SageMaker gérés ?

La bonne réponse est de créer des groupes de caractéristiques avec le magasin en ligne activé et d'utiliser l'API SageMaker Feature Store Runtime (GetRecord). SageMaker Feature Store est conçu pour le stockage et la récupération de caractéristiques à faible latence, ce qui est crucial pour les applications en temps réel. Le magasin en ligne est optimisé pour les requêtes rapides, et l'API GetRecord permet une récupération efficace des caractéristiques par ID d'enregistrement. Les autres options ne sont pas adaptées aux exigences de faible latence. S3 et Athena ne sont pas optimisés pour les requêtes en temps réel de quelques millisecondes. DynamoDB pourrait fonctionner, mais l'utilisation de Feature Store est la solution gérée et intégrée de SageMaker. L'inférence par lots ne répond pas aux besoins de recommandation sensible à la latence pour des attributs de session qui changent fréquemment.