ShopRight verfügt über einen latenzempfindlichen Endpunkt für Produktempfehlungen, der für jede eingehende Inferenzanfrage Feature-Vektoren im einstelligen Millisekundenbereich abrufen muss. Die Features sind kundenbezogene Attribute, die sich häufig ändern. Welches Setup bietet das zuverlässigste Abrufmuster mit geringer Latenz für Echtzeit-Inferenz, während es innerhalb der verwalteten SageMaker-Dienste bleibt?

Die korrekte Option ist die beste Wahl, da der SageMaker Feature Store mit aktiviertem Online-Speicher speziell für die Bereitstellung von Feature-Vektoren mit geringer Latenz für Echtzeit-Inferenz entwickelt wurde. Die GetRecord-API ist für schnelle Abrufe optimiert, und die Integration mit SageMaker-Modellcontainern ist nahtlos. Dies erfüllt die Anforderung von einstelligen Millisekunden. Die erste Option ist falsch, da das Abfragen von S3 über Athena für jede Inferenzanfrage zu hohe Latenzzeiten verursachen würde, selbst mit Caching. Athena ist für analytische Abfragen optimiert, nicht für Echtzeit-Punktabfragen. Die dritte Option ist falsch, da sie einen zusätzlichen Schritt und eine zusätzliche Abhängigkeit von DynamoDB einführt, obwohl der SageMaker Feature Store bereits die benötigte Funktionalität bietet. Dies ist unnötig komplex und könnte die Latenz erhöhen. Die vierte Option ist falsch, da asynchrone Batch-Inferenz nicht für latenzempfindliche Echtzeit-Endpunkte geeignet ist. Sie würde keine Echtzeit-Empfehlungen basierend auf sich häufig ändernden Kundenattributen liefern.