자율주행 차량 팀은 PyTorch와 SageMaker SDK를 사용하여 전이 학습을 수행합니다. 지연 시간이 짧은 자율주행 사용을 위해 추론 시간을 줄여야 합니다. 모델 추론 성능을 분석하고 개선하려면 어떤 프로세스를 사용해야 할까요?

정답은 SageMaker Debugger를 사용하여 모델의 내부 작동을 검사하고, 필터 가지치기(pruning)를 통해 모델 크기를 줄여 추론 시간을 단축하는 프로세스를 설명합니다. SageMaker Debugger는 훈련 중 가중치, 기울기, 편향, 활성화와 같은 텐서를 모니터링하여 모델의 성능 병목 현상을 식별하는 데 도움을 줍니다. 이 정보를 바탕으로 중요도가 낮은 필터를 제거(가지치기)하여 모델을 최적화하고, 이는 더 빠른 추론으로 이어집니다. 가지치기된 모델로 재훈련하면 정확도를 유지하면서도 효율성을 높일 수 있습니다. 오답인 CloudWatch는 알고리즘 지표를 제공하지만, Debugger처럼 훈련 텐서에 직접 접근하여 가지치기 전략을 세우는 데는 적합하지 않습니다. 두 번째 오답은 Debugger를 사용하지만 하이퍼파라미터 조정만 언급하며 가지치기라는 핵심 최적화 단계를 놓치고 있습니다. 네 번째 오답인 Model Monitor는 배포 후 모델 성능을 모니터링하는 데 사용되지만, 훈련 중 모델 구조를 최적화하는 데는 직접적인 역할을 하지 않습니다.