Uma equipe de veículos autônomos usa aprendizado por transferência com PyTorch e o SageMaker SDK. Eles precisam reduzir o tempo de inferência para uso em direção autônoma de baixa latência. Qual processo eles devem usar para analisar e melhorar o desempenho da inferência do modelo?

A opção correta descreve o processo de otimização de modelos para inferência de baixa latência usando o SageMaker Debugger para poda de modelos. O SageMaker Debugger permite inspecionar tensores durante o treinamento, como pesos e ativações. Com esses dados, é possível calcular classificações de filtro e identificar filtros de baixa importância para poda. A poda remove conexões ou neurônios menos importantes, reduzindo o tamanho do modelo e, consequentemente, o tempo de inferência, sem comprometer significativamente a precisão. O retreinamento do modelo podado ajusta os pesos restantes. As opções incorretas são: Usar métricas do CloudWatch para poda: O CloudWatch fornece métricas de infraestrutura e aplicação, mas não oferece as ferramentas para inspecionar tensores internos do modelo e realizar a poda diretamente. Usar o SageMaker Debugger para ajustar hiperparâmetros: Embora o Debugger ajude a entender o treinamento, o ajuste de hiperparâmetros é uma etapa separada e não o método principal para reduzir o tempo de inferência via otimização da estrutura do modelo. Usar o SageMaker Model Monitor para visualizar latência e ajustar hiperparâmetros: O Model Monitor é para monitorar o desempenho do modelo em produção e detectar desvio de dados ou conceitos, não para otimização da estrutura do modelo para reduzir a latência de inferência durante o treinamento.