Model wdrożony na bezserwerowym punkcie końcowym SageMaker wykazuje większe opóźnienia w środowisku produkcyjnym niż w testach. Inżynier podejrzewa, że dodatkowe opóźnienie jest spowodowane czasem uruchamiania modelu. Co powinien sprawdzić, aby to zweryfikować?

Prawidłowa odpowiedź to włączenie metryk Amazon CloudWatch i sprawdzenie metryki ModelSetupTime w przestrzeni nazw SageMaker. Metryka ModelSetupTime mierzy czas potrzebny na załadowanie modelu i przygotowanie go do wnioskowania, co bezpośrednio odnosi się do podejrzeń inżyniera o opóźnienie związane z czasem uruchamiania modelu. Pozostałe opcje są nieprawidłowe: Zaplanowanie zadania SageMaker Model Monitor i przejrzenie metryk jakości modelu skupia się na wydajności modelu po jego załadowaniu, a nie na czasie jego uruchamiania. Zaplanowanie zadania SageMaker Model Monitor z włączonymi metrykami Amazon CloudWatch również koncentruje się na monitorowaniu jakości modelu i jego zachowania w czasie, a nie na początkowym czasie ładowania. Metryka ModelLoadingWaitTime nie istnieje w przestrzeni nazw SageMaker dla bezserwerowych punktów końcowych.