Inżynier ML trenuje sieć neuronową w notatniku SageMaker Studio, używając estymatora. Skrypt treningowy w Pythonie używa Distributed Data Parallel (DDP) na pojedynczej instancji z wieloma procesorami GPU, ale procesory GPU są niedostatecznie wykorzystywane. Inżynier musi znaleźć miejsce w skrypcie treningowym, w którym należy zoptymalizować wykorzystanie zasobów. Które podejście pozwoli zidentyfikować ten punkt?

Dodanie adnotacji SageMaker Profiler do skryptu treningowego i wygenerowanie raportu profilera to najlepsze podejście. SageMaker Profiler jest zaprojektowany do identyfikowania wąskich gardeł w treningu modeli, w tym problemów z wykorzystaniem GPU, takich jak niedostateczne wykorzystanie. Raport profilera dostarcza szczegółowych informacji na temat wykorzystania zasobów na poziomie operacji, co pozwala zlokalizować konkretne fragmenty kodu odpowiedzialne za słabą wydajność. Metryki CloudWatch pokazują ogólne wykorzystanie GPU, ale nie wskazują, które części kodu powodują problem. AWS CloudTrail śledzi aktywność API i zdarzenia użytkownika, a nie metryki wykorzystania zasobów GPU. SageMaker Model Monitor służy do monitorowania wydajności modelu po wdrożeniu, a nie do profilowania treningu.