ShopRight ha un endpoint di raccomandazione di prodotti sensibile alla latenza che deve recuperare i vettori di feature in pochi millisecondi per ogni richiesta di inferenza in entrata. Le feature sono attributi di sessione del cliente che cambiano frequentemente. Quale configurazione offre il modello di recupero a bassa latenza più affidabile per l'inferenza in tempo reale, rimanendo all'interno dei servizi gestiti di SageMaker?

L'opzione corretta descrive l'utilizzo di Amazon SageMaker Feature Store con lo store online abilitato, che è progettato specificamente per il recupero di feature a bassa latenza (millisecondi) per l'inferenza in tempo reale. L'API GetRecord è ottimizzata per questo scopo. Le opzioni errate sono: L'archiviazione delle feature solo in S3 e l'utilizzo di Athena non soddisfano i requisiti di bassa latenza per l'inferenza in tempo reale, poiché le query Athena sono troppo lente. L'esportazione delle feature in DynamoDB tramite un job SageMaker Processing introduce una complessità aggiuntiva e non sfrutta la soluzione gestita e ottimizzata per le feature store di SageMaker. Sebbene DynamoDB sia a bassa latenza, l'integrazione diretta con Feature Store è più efficiente. L'inferenza batch asincrona non è adatta per attributi di sessione del cliente che cambiano frequentemente e richiedono raccomandazioni in tempo reale basate sullo stato attuale della sessione.