MedScan Health potrzebuje punktu końcowego SageMaker, który sekwencyjnie uruchamia kontener do wstępnego przetwarzania obrazów, następnie kontener modelu TensorFlow, a następnie kontener do przetwarzania końcowego dla każdego żądania. Chcą jednego adresu URL punktu końcowego HTTP dla klientów. Które podejście do wdrożenia SageMaker najlepiej spełnia to wymaganie przy minimalnej dodatkowej konfiguracji sieci i prawidłowym zachowaniu cyklu życia modelu?

Poprawna odpowiedź to utworzenie potoku wnioskowania. Potoki wnioskowania SageMaker pozwalają na sekwencyjne łączenie wielu kontenerów (wstępne przetwarzanie, model, przetwarzanie końcowe) w ramach jednego punktu końcowego. SageMaker automatycznie zarządza wywoływaniem tych kontenerów w określonej kolejności dla każdego żądania, zapewniając pojedynczy adres URL HTTP i minimalizując dodatkową konfigurację sieci. Inne opcje są mniej odpowiednie: Wdrożenie trzech oddzielnych punktów końcowych z ALB i Lambdą wprowadza złożoność operacyjną i dodatkowe koszty. Punkty końcowe multi-model są przeznaczone do hostowania wielu modeli na jednym zestawie instancji, a nie do sekwencyjnego łączenia etapów przetwarzania w ramach jednego żądania. Użycie zadań SageMaker Processing do wstępnego i końcowego przetwarzania jest przeznaczone do zadań wsadowych, a nie do wnioskowania w czasie rzeczywistym z niskimi opóźnieniami.