Model rekomendacji dla witryny e-commerce musi wykorzystywać wszystkie dane interakcji klienta jako dane wejściowe. Wolumen ruchu zmienia się w ciągu dnia. Jaki typ punktu końcowego wnioskowania SageMaker jest najbardziej opłacalny dla tego wzorca użytkowania?

Punkt końcowy wnioskowania bezserwerowego (Serverless inference endpoint) jest najbardziej opłacalny, ponieważ automatycznie skaluje się w górę i w dół do zera w zależności od obciążenia, co jest idealne dla zmiennego ruchu w witrynie e-commerce. Płacisz tylko za czas, gdy punkt końcowy jest aktywny i przetwarza żądania. Punkt końcowy wnioskowania wsadowego (Batch transform inference endpoint) nie jest odpowiedni, ponieważ służy do przetwarzania dużych zbiorów danych offline, a nie do interakcji w czasie rzeczywistym. Punkt końcowy wnioskowania asynchronicznego (Asynchronous inference endpoint) jest przeznaczony do długotrwałych wnioskowań, gdzie odpowiedź nie jest wymagana natychmiast, a nie do interaktywnych rekomendacji. Punkt końcowy wnioskowania w czasie rzeczywistym (Real-time inference endpoint) zapewnia niskie opóźnienia, ale wymaga stałego utrzymywania instancji, co jest droższe przy zmiennym obciążeniu, ponieważ płacisz za instancje nawet, gdy nie są używane.