Ein ML-Ingenieur trainiert ein neuronales Netzwerk in einem SageMaker Studio-Notebook mithilfe eines Estimators. Das Python-Trainingsskript verwendet Distributed Data Parallel (DDP) auf einer einzelnen Instanz mit mehreren GPUs, aber die GPUs werden nicht ausgelastet. Der Ingenieur muss herausfinden, wo im Trainingsskript die Ressourcennutzung optimiert werden kann. Welcher Ansatz identifiziert diesen Punkt?

Die korrekte Antwort ist, SageMaker Profiler-Annotationen im Trainingsskript hinzuzufügen, es auszuführen und einen Profiler-Bericht zu generieren. SageMaker Profiler ist speziell dafür konzipiert, die Ressourcennutzung während des Trainings von Machine-Learning-Modellen zu analysieren und Engpässe zu identifizieren. Durch das Hinzufügen von Annotationen im Skript können detaillierte Metriken zur GPU-Auslastung, CPU-Nutzung, Speichernutzung und Datenladevorgängen gesammelt werden. Der generierte Bericht visualisiert diese Daten und hilft, ineffiziente Codeabschnitte zu lokalisieren, die zu einer geringen GPU-Auslastung führen. Die anderen Optionen sind weniger geeignet: Amazon CloudWatch-Metriken bieten zwar grundlegende GPU-Auslastungsdaten, aber nicht die detaillierte Code-Level-Analyse, die zur Identifizierung spezifischer Engpässe im Trainingsskript erforderlich ist. AWS CloudTrail ist ein Audit- und Protokollierungsdienst, der API-Aufrufe und Benutzeraktivitäten aufzeichnet, aber keine Leistungsmetriken zur GPU-Auslastung oder zum Speicherverbrauch liefert. Amazon SageMaker Model Monitor dient der Überwachung von Modellen nach der Bereitstellung (Post-Deployment) auf Daten- oder Modell-Drift, nicht der Optimierung der Ressourcennutzung während des Trainings.