Nach dem Training eines Zeitreihen-Vorhersagemodells in SageMaker muss ein Spezialist Lasttests für den Endpunkt durchführen und dabei Latenz, Arbeitsspeicher und CPU überwachen. Welcher Ansatz bietet eine konsolidierte Ansicht dieser Metriken während des Lasttests?

Die Erstellung eines Amazon CloudWatch-Dashboards ist die effektivste Methode, um Latenz, Speichernutzung und CPU-Metriken während eines Lasttests für einen SageMaker-Endpunkt zu überwachen. SageMaker integriert sich nativ mit CloudWatch und sendet diese Metriken automatisch dorthin. Ein Dashboard bietet eine konsolidierte Echtzeitansicht dieser wichtigen Leistungsindikatoren. Das Schreiben von SageMaker-Protokollen nach S3 und die Verwendung von Athena/QuickSight ist für die Echtzeitüberwachung weniger geeignet, da es sich um eine Batch-Verarbeitungslösung handelt, die für die Analyse historischer Daten besser geeignet ist. Das Senden von CloudWatch Logs an Amazon Elasticsearch Service (ES) und die Verwendung von Kibana ist zwar eine leistungsstarke Option für die Protokollanalyse, aber für die Überwachung von Metriken wie CPU und Speicher, die bereits als Metriken in CloudWatch verfügbar sind, überdimensioniert und komplexer einzurichten. Die vierte Option ist im Wesentlichen dieselbe wie die dritte und leidet unter den gleichen Nachteilen für diesen spezifischen Anwendungsfall.