Należy hostować niestandardowy model prognozowania; obciążenie jest przewidywalne i stałe w tym samym 2-godzinnym oknie każdego dnia, z wieloma wywołaniami wymagającymi szybkich odpowiedzi. Firma chce, aby AWS zarządzał infrastrukturą i automatycznym skalowaniem. Która opcja hostingu spełnia te wymagania?

Amazon SageMaker Serverless Inference z provisioned concurrency to najlepsze rozwiązanie. Serverless Inference zapewnia w pełni zarządzaną infrastrukturę i automatyczne skalowanie, eliminując potrzebę zarządzania serwerami. Provisioned concurrency gwarantuje, że model jest zawsze gotowy do obsługi żądań bez opóźnień związanych z zimnym startem, co jest kluczowe dla szybkich odpowiedzi w przewidywalnym, stałym oknie czasowym. Inne opcje są mniej odpowiednie: Zadanie Amazon SageMaker batch transform jest przeznaczone do przetwarzania wsadowego, a nie do obsługi wielu wywołań wymagających szybkich odpowiedzi w czasie rzeczywistym. Grupa EC2 Auto Scaling z zaplanowanym skalowaniem wymaga zarządzania instancjami EC2, co jest sprzeczne z wymogiem AWS zarządzania infrastrukturą. Klaster Amazon EKS na EC2 z automatycznym skalowaniem podów również wymaga zarządzania klastrem Kubernetes i instancjami EC2, co zwiększa obciążenie operacyjne.