Otonom bir araç ekibi, PyTorch ve SageMaker SDK ile transfer öğrenimi kullanıyor. Düşük gecikmeli kendi kendine sürüş kullanımı için çıkarım süresini azaltmaları gerekiyor. Model çıkarım performansını analiz etmek ve iyileştirmek için hangi süreci kullanmalılar?

Doğru cevap, SageMaker Debugger'ı kullanarak model budama (pruning) sürecini açıklar. SageMaker Debugger, eğitim sırasında modelin iç durumunu (ağırlıklar, gradyanlar, bias'lar, aktivasyonlar) izlemenizi sağlar. Bu verilerle filtre sıralamaları hesaplanabilir ve düşük sıralamalı (önemsiz) filtreler budanarak model boyutu küçültülür. Bu, çıkarım süresini azaltır ve modelin daha verimli çalışmasını sağlar. Budanmış modelin yeniden eğitilmesi, performans kaybını en aza indirirken çıkarım verimliliğini artırır. Diğer seçenekler neden yanlış: Amazon CloudWatch algoritma metrikleri, modelin iç durumunu bu detayda incelemek ve budama yapmak için tasarlanmamıştır; daha çok genel metrikleri izler. Hiperparametre ayarlaması çıkarım süresini doğrudan azaltmak yerine modelin öğrenme sürecini optimize eder. SageMaker Debugger hiperparametre ayarlaması için birincil araç değildir. SageMaker Model Monitor, dağıtılmış modellerin performansını ve veri kaymasını izlemek içindir, modelin iç yapısını analiz edip budama yapmak için değildir.