Un equipo de vehículos autónomos utiliza el aprendizaje por transferencia con PyTorch y el SDK de SageMaker. Necesitan reducir el tiempo de inferencia para un uso de conducción autónoma de baja latencia. ¿Qué proceso deberían usar para analizar y mejorar el rendimiento de la inferencia del modelo?

La opción correcta describe un proceso de optimización de modelos llamado poda (pruning), que es efectivo para reducir el tamaño del modelo y, por ende, el tiempo de inferencia. SageMaker Debugger es la herramienta adecuada para inspeccionar los tensores internos del modelo (pesos, gradientes, sesgos, activaciones) durante el entrenamiento, lo que permite identificar filtros de bajo rango que pueden ser eliminados sin afectar significativamente la precisión. Después de la poda, se reentrena el modelo para ajustar los pesos restantes. La primera opción es incorrecta porque CloudWatch no se usa para inspeccionar tensores internos de esta manera; es para métricas de alto nivel. La segunda opción es incorrecta porque, si bien SageMaker Debugger es útil, ajustar solo los hiperparámetros no es el método más directo para reducir el tiempo de inferencia de un modelo ya entrenado, y no aborda la reducción del tamaño del modelo. La cuarta opción es incorrecta porque SageMaker Model Monitor se utiliza para monitorear el rendimiento del modelo en producción, no para analizar y optimizar el modelo durante el entrenamiento o para realizar poda.