Un ingegnere ML addestra una rete neurale in un notebook SageMaker Studio utilizzando un estimator. Lo script di addestramento Python usa Distributed Data Parallel (DDP) su una singola istanza che ha più GPU, ma le GPU sono sottoutilizzate. L'ingegnere deve trovare il punto nello script di addestramento in cui ottimizzare l'utilizzo delle risorse. Quale approccio identificherà quel punto?

L'aggiunta di annotazioni SageMaker Profiler allo script di training e la generazione di un report del profiler è l'approccio più efficace. SageMaker Profiler è specificamente progettato per analizzare l'utilizzo delle risorse (CPU, GPU, memoria) e identificare colli di bottiglia nelle pipeline di training di machine learning, fornendo insight dettagliati a livello di codice. Le metriche di CloudWatch mostrano l'utilizzo complessivo della GPU, ma non indicano il punto esatto nello script di training che causa la sottoutilizzazione. CloudTrail registra le chiamate API e gli eventi di gestione, non le metriche di utilizzo delle risorse a livello di training. SageMaker Model Monitor è utilizzato per il monitoraggio dei modelli in produzione, non per l'ottimizzazione delle risorse durante il training.