ShopRight ma wrażliwy na opóźnienia punkt końcowy rekomendacji produktów, który musi pobierać wektory cech w ciągu kilku milisekund dla każdego przychodzącego żądania wnioskowania. Cechy to atrybuty sesji klienta, które często się zmieniają. Jaka konfiguracja zapewnia najbardziej niezawodny wzorzec pobierania o niskim opóźnieniu dla wnioskowania w czasie rzeczywistym, pozostając w ramach zarządzanych usług SageMaker?

Poprawna odpowiedź zapewnia niezawodne pobieranie cech z niskim opóźnieniem, ponieważ SageMaker Feature Store z włączonym sklepem online jest zaprojektowany do obsługi zapytań w czasie rzeczywistym z milisekundowymi opóźnieniami. Użycie GetRecord z API Feature Store Runtime jest zoptymalizowane pod kątem szybkiego dostępu do pojedynczych rekordów, co jest idealne dla wrażliwych na opóźnienia punktów końcowych. Uprawnienia IAM i ten sam region są kluczowe dla bezpieczeństwa i wydajności. Przechowywanie cech tylko w S3 i używanie Athena jest zbyt wolne dla wymagań milisekundowych. DynamoDB jest opcją, ale Feature Store jest zarządzaną usługą SageMaker, która upraszcza zarządzanie cechami i integrację z modelami ML. Asynchroniczne wnioskowanie wsadowe nie spełnia wymagań dotyczących wnioskowania w czasie rzeczywistym, ponieważ rekomendacje są wstępnie obliczane, a nie generowane na bieżąco.