Linia lotnicza uruchamia punkt końcowy SageMaker w czasie rzeczywistym, aby dostosować ceny biletów w zależności od popytu. Poprzednie wdrożenia nie skalowały się wystarczająco szybko, gdy wzrastał ruch na stronie internetowej. Inżynier ML musi skonfigurować automatyczne skalowanie śledzenia celu, aby szybko reagować na nagłe skoki ruchu. Która konfiguracja będzie najbardziej responsywna?

Aby automatyczne skalowanie szybko reagowało na nagłe skoki ruchu, kluczowe jest użycie metryki o wysokiej rozdzielczości i krótkiego czasu oczekiwania na zmniejszenie skali. Metryka SageMaker InvocationsPerInstance z wysoką rozdzielczością 10-sekundowych interwałów pozwala na szybkie wykrywanie zmian obciążenia. Domyślny 300-sekundowy czas oczekiwania na zmniejszenie skali jest odpowiedni, ponieważ pozwala na szybkie usunięcie niepotrzebnych instancji, gdy ruch spada, jednocześnie zapobiegając zbyt szybkiemu zmniejszaniu skali, które mogłoby prowadzić do niestabilności. Dłuższy czas oczekiwania (600 sekund) opóźniłby reakcję na spadek ruchu, a użycie standardowej metryki bez wysokiej rozdzielczości nie zapewniłoby wystarczającej responsywności na nagłe wzrosty.