Witryna e-commerce hostuje model rekomendacji produktów TensorFlow na punkcie końcowym SageMaker, używając trzech instancji zoptymalizowanych pod kątem obliczeń, aby obsłużyć oczekiwany szczytowy ruch. Na początku każdego miesiąca czasy odpowiedzi gwałtownie rosną, a niektórzy użytkownicy widzą błędy. Większość ruchu występuje w dni powszednie od 8:00 do 18:00 w jednej strefie czasowej. Które dwie akcje najskuteczniej rozwiążą problem, minimalizując jednocześnie koszty? (Wybierz dwie.)

Włączenie akceleratorów Amazon Elastic Inference (EI) dla punktu końcowego jest skuteczne, ponieważ EI zapewnia przyspieszenie wnioskowania dla modeli TensorFlow przy niższych kosztach niż pełne instancje GPU, co bezpośrednio poprawia czasy odpowiedzi bez znaczącego zwiększania kosztów. Skonfigurowanie punktu końcowego do automatycznego skalowania w oparciu o metrykę InvocationsPerInstance jest kluczowe, ponieważ pozwala to na dynamiczne dostosowanie liczby instancji do rzeczywistego obciążenia, co zapobiega przeciążeniom w szczytowych momentach (początek miesiąca) i minimalizuje koszty w okresach niższego ruchu. Utworzenie nowej konfiguracji punktu końcowego z dwoma wariantami produkcyjnymi nie rozwiązuje problemu wydajności ani kosztów. Wdrożenie drugiej puli instancji dla wdrożenia blue/green jest dobre dla bezpiecznych wdrożeń, ale nie dla problemów z wydajnością ani kosztami. Ponowne skonfigurowanie punktu końcowego, aby używał instancji typu burstable, jest nieodpowiednie, ponieważ instancje burstable (np. T-series) są przeznaczone do obciążeń o niskim i umiarkowanym wykorzystaniu z możliwością krótkotrwałych skoków, a nie do przewidywalnych, wysokich obciążeń szczytowych.