Eine E-Commerce-Website hostet ein TensorFlow-Produktempfehlungsmodell auf einem SageMaker-Endpunkt, der drei rechenoptimierte Instanzen verwendet, um den erwarteten Spitzenverkehr zu bewältigen. Zu Beginn jedes Monats steigen die Antwortzeiten sprunghaft an, und einige Benutzer sehen Fehler. Der meiste Datenverkehr findet werktags von 8 bis 18 Uhr in einer einzigen Zeitzone statt. Welche zwei Maßnahmen beheben das Problem am effektivsten und minimieren gleichzeitig die Kosten? (Wählen Sie zwei.)
Wählen Sie eine Antwort
Tippen Sie auf eine Option, um Ihre Antwort zu überprüfen.
Richtige Antwort: Amazon Elastic Inference (EI)-Beschleuniger für den Endpunkt aktivieren., Den Endpunkt so konfigurieren, dass er basierend auf der Metrik InvocationsPerInstance automatisch skaliert wird..
Warum dies die Antwort ist
Die Aktivierung von Amazon Elastic Inference (EI)-Beschleunigern ist effektiv, da sie die Inferenzleistung von Deep-Learning-Modellen zu geringeren Kosten verbessert, indem sie GPU-Ressourcen nur bei Bedarf bereitstellt. Dies reduziert die Latenz bei Spitzenlasten, ohne ständig teure GPU-Instanzen vorhalten zu müssen. Die Konfiguration des Endpunkts zur automatischen Skalierung basierend auf InvocationsPerInstance ist entscheidend, da sie sicherstellt, dass die Anzahl der Instanzen dynamisch an die tatsächliche Arbeitslast angepasst wird. Bei steigendem Datenverkehr werden automatisch mehr Instanzen hinzugefügt, um die Antwortzeiten stabil zu halten, und bei sinkendem Datenverkehr werden Instanzen entfernt, um Kosten zu sparen. Eine neue Endpunktkonfiguration mit zwei Produktionsvarianten würde die Komplexität erhöhen und nicht direkt das Skalierungsproblem lösen. Ein zweiter Instanzpool für Blue/Green-Bereitstellung ist für risikofreie Updates gedacht, nicht für die Skalierung bei Spitzenlasten. Die Verwendung von Burstable-Instanztypen (wie T-Serien) ist für Workloads mit geringer Grundauslastung und gelegentlichen Spitzen gedacht, aber für kontinuierlich hohe Anforderungen während der Geschäftszeiten möglicherweise nicht ausreichend und kann zu CPU-Guthaben-Engpässen führen, was die Leistung beeinträchtigt.
Bestehen Sie Ihre Prüfung – ohne endlose Antwortsuche
Erhalten Sie jede verifizierte Frage und Erklärung für diese Prüfung an einem Ort und sparen Sie Stunden der Vorbereitung. Über 1.000 Zertifizierungen · Über 20 Sprachen · Kostenloser Start.
Bestehen Sie Ihre Prüfung schneller → Keine Karte erforderlich