Firma wdroży model do wnioskowania produkcyjnego na punkcie końcowym SageMaker. Typowe ładunki żądań wynoszą od 100 MB do 300 MB, a każde żądanie musi zostać zakończone w ciągu 60 minut. Która opcja wnioskowania SageMaker powinna zostać użyta?

Asynchroniczne wnioskowanie jest najlepszym wyborem, ponieważ obsługuje duże ładunki żądań (do 1 GB) i długie czasy przetwarzania (do 1 godziny), co jest zgodne z wymaganiami firmy dotyczącymi ładunków 100-300 MB i 60-minutowego limitu czasu. Wnioskowanie w czasie rzeczywistym ma krótsze limity czasu i mniejsze ładunki. Wnioskowanie bezserwerowe jest przeznaczone dla sporadycznych obciążeń z krótkimi czasami przetwarzania. Przetwarzanie wsadowe jest używane do wnioskowania na dużych zbiorach danych, a nie do pojedynczych żądań.