Eine Fluggesellschaft betreibt einen SageMaker Echtzeit-Endpunkt, um Ticketpreise basierend auf der Nachfrage anzupassen. Frühere Bereitstellungen konnten bei steigendem Website-Traffic nicht schnell genug skaliert werden. Der ML-Ingenieur muss die Target-Tracking-Auto-Skalierung so konfigurieren, dass sie schnell auf plötzliche Verkehrsspitzen reagiert. Welche Konfiguration reagiert am schnellsten?

Um schnell auf plötzliche Verkehrsspitzen zu reagieren, ist die Verwendung von hochauflösenden Metriken entscheidend. Die Option "hochauflösende 10-Sekunden-Intervalle" für die InvocationsPerInstance-Metrik ermöglicht es SageMaker, Änderungen der Auslastung viel schneller zu erkennen als Standard-Metriken (die typischerweise 1-Minuten-Intervalle verwenden). Eine kürzere Scale-in-Abklingzeit (wie die Standardeinstellung von 300 Sekunden) ist ebenfalls vorteilhaft, da sie es dem System erlaubt, bei nachlassendem Traffic schneller Instanzen zu entfernen, was jedoch für die schnellste Reaktion auf Spitzen weniger kritisch ist als die Metrikauflösung selbst. Eine längere Abklingzeit von 600 Sekunden würde das Herunterskalieren verzögern, was zwar Kosten sparen kann, aber nicht die schnellste Reaktion auf Spitzen gewährleistet.