Firma musi wdrożyć niestandardowy model klasyfikacji w AWS, aby zapewnić przewidywania w czasie zbliżonym do rzeczywistego, o niskim opóźnieniu i obsługiwać zmienne wolumeny żądań. Która opcja wdrożenia spełnia te wymagania?

Wdrożenie modelu jako punktu końcowego Amazon SageMaker real-time z automatycznym skalowaniem jest optymalne dla przewidywań w czasie zbliżonym do rzeczywistego, niskiego opóźnienia i zmiennych wolumenów. SageMaker automatycznie zarządza infrastrukturą, skalując ją w górę i w dół w zależności od obciążenia, co zapewnia dostępność i efektywność kosztową. Zadania batch transform (przekształcanie wsadowe) nie nadają się do przewidywań w czasie zbliżonym do rzeczywistego, ponieważ przetwarzają dane w partiach. Umieszczenie modelu za API Gateway z plikami w S3 wymagałoby ręcznego zarządzania infrastrukturą wnioskowania, co jest bardziej złożone i mniej efektywne niż SageMaker. Uruchomienie instancji EC2 z Deep Learning AMIs za Application Load Balancer również wymagałoby ręcznego zarządzania skalowaniem i utrzymaniem, co jest mniej zoptymalizowane pod kątem ML niż SageMaker.