Un ingeniero de ML entrena una red neuronal en un notebook de SageMaker Studio utilizando un estimador. El script de entrenamiento de Python utiliza Distributed Data Parallel (DDP) en una única instancia que tiene múltiples GPU, pero las GPU están subutilizadas. El ingeniero necesita encontrar en qué parte del script de entrenamiento optimizar el uso de los recursos. ¿Qué enfoque identificará ese punto?

La opción correcta es añadir anotaciones de SageMaker Profiler. SageMaker Profiler está diseñado específicamente para analizar el uso de recursos durante el entrenamiento de modelos de ML, incluyendo la utilización de GPU, CPU, memoria y E/S. Al añadir anotaciones en el script, el profiler puede identificar cuellos de botella y secciones del código que causan la subutilización de las GPU, proporcionando un informe detallado para optimizar el rendimiento. Las métricas de CloudWatch ofrecen una visión general de la utilización de la GPU, pero no pueden señalar la línea de código específica o la operación que causa la subutilización. AWS CloudTrail registra la actividad de la API y los eventos de los servicios de AWS, no el uso de recursos a nivel de código dentro de una instancia de entrenamiento. Amazon SageMaker Model Monitor se utiliza para monitorear el rendimiento del modelo en producción y la deriva de datos, no para optimizar el uso de recursos durante el entrenamiento.