Un ingénieur ML entraîne un réseau neuronal dans un bloc-notes SageMaker Studio à l'aide d'un estimateur. Le script d'entraînement Python utilise Distributed Data Parallel (DDP) sur une seule instance dotée de plusieurs GPU, mais les GPU sont sous-utilisés. L'ingénieur doit trouver où, dans le script d'entraînement, optimiser l'utilisation des ressources. Quelle approche permettra d'identifier ce point ?

L'ajout d'annotations SageMaker Profiler au script d'entraînement est la méthode la plus efficace pour identifier les goulots d'étranglement qui entraînent une sous-utilisation du GPU. SageMaker Profiler fournit des informations détaillées sur l'utilisation des ressources (CPU, GPU, mémoire, E/S disque, réseau) et le temps d'exécution des opérations au sein du code d'entraînement. Cela permet de localiser précisément les sections du code qui ne parviennent pas à saturer les GPU, comme les goulots d'étranglement d'entrée de données ou les opérations CPU coûteuses. Les métriques CloudWatch donnent une vue d'ensemble de l'utilisation du GPU, mais ne pointent pas vers des lignes de code spécifiques. CloudTrail enregistre les appels d'API et n'est pas conçu pour le profilage des performances d'entraînement. SageMaker Model Monitor est utilisé pour la dérive de modèle en production, pas pour l'optimisation des performances d'entraînement.