Команда разработчиков беспилотных автомобилей использует трансферное обучение с PyTorch и SageMaker SDK. Им необходимо сократить время инференса для использования в беспилотных автомобилях с низкой задержкой. Какой процесс они должны использовать для анализа и улучшения производительности инференса модели?

Правильный ответ описывает процесс прунинга (обрезки) модели, который является эффективным методом для уменьшения размера модели и ускорения инференса. SageMaker Debugger позволяет анализировать внутренние параметры модели (веса, градиенты, смещения, активации) во время обучения, что критически важно для определения наименее значимых фильтров, которые можно безопасно удалить. После обрезки модель переобучается, чтобы компенсировать потерю информации и восстановить производительность, но уже с меньшим количеством параметров, что приводит к сокращению времени инференса. Первый вариант неверен, так как CloudWatch не предназначен для анализа внутренних параметров модели таким образом, как SageMaker Debugger, и не поддерживает прямое вычисление рангов фильтров для прунинга. Второй вариант предлагает настройку гиперпараметров, что может улучшить производительность, но не является прямым методом для уменьшения сложности модели и времени инференса, как прунинг. Четвертый вариант с SageMaker Model Monitor используется для мониторинга производительности развернутой модели, а не для оптимизации ее структуры до развертывания.