Model musi być uruchamiany raz na dobę, aby przewidywać wartości akcji na następny dzień. Dane wejściowe to 3 MB zebrane danego dnia, a wnioskowanie kończy się w mniej niż 1 minutę. Jak należy wdrożyć ten model w Amazon SageMaker, aby spełnić te wymagania?

Prawidłową odpowiedzią jest użycie bezserwerowego punktu końcowego wnioskowania i ustawienie MaxConcurrency na 1. Bezserwerowe punkty końcowe SageMaker są idealne dla sporadycznych obciążeń wnioskowania, takich jak codzienne uruchamianie modelu, ponieważ automatycznie skalują się w górę i w dół, eliminując koszty związane z utrzymywaniem zawsze aktywnych instancji. Ustawienie MaxConcurrency na 1 zapewnia, że model przetwarza tylko jedno żądanie na raz, co jest odpowiednie dla pojedynczego, dziennego uruchomienia. Pozostałe opcje są mniej odpowiednie: Bezserwerowy punkt końcowy dla wielu modeli z buforowaniem jest przeznaczony do hostowania wielu modeli na jednym punkcie końcowym, co nie jest wymagane w tym scenariuszu. Buforowanie nie jest kluczowe dla jednorazowego dziennego uruchomienia. Asynchroniczny punkt końcowy wnioskowania jest przeznaczony dla dużych ładunków danych (do 1 GB) i długotrwałego przetwarzania (do 1 godziny), co przekracza wymagania 3 MB i 1 minuty. Ustawienie InitialInstanceCount na 0 jest korzystne, ale typ punktu końcowego jest nieodpowiedni. Punkt końcowy czasu rzeczywistego z autoskalowaniem do 0 w stanie bezczynności jest możliwy, ale bezserwerowy punkt końcowy jest bardziej zoptymalizowany pod kątem sporadycznych obciążeń, oferując lepszą efektywność kosztową i prostotę zarządzania w tym konkretnym przypadku.