Amazon AIF-C01: MLOps и развертывание — Руководство по подготовке

Часть AWS AI Practitioner AIF-C01 — Руководство по подготовке. Практикуйтесь с проверенными ответами в центре экзаменов Amazon, или пройдите тесты на время на ExamRoll.io.

Паттерны развёртывания и инференса: реальное время, пакетная обработка, бессерверные вычисления и edge-устройства

Выбор паттерна инференса начинается с компромиссов на уровне сервиса между задержкой, пропускной способностью, стоимостью и операционной сложностью. Для задач с низкой задержкой и высокой пропускной способностью обычно используют выделенные эндпоинты Amazon SageMaker для инференса в реальном времени (с одной или несколькими моделями) или SageMaker Real-Time Inference с автомасштабированием и инстансами GPU; используйте варианты эндпоинтов (endpoint variants) для реализации канареечных или сине-зелёных развёртываний. Для крупных офлайн-задач, где задержка не критична, экономически эффективным и простым в масштабировании решением является SageMaker Batch Transform или распределённая обработка на AWS Glue/EMR. Для непредсказуемых нагрузок или нагрузок с низким QPS (запросов в секунду) SageMaker Serverless Inference или вызов моделей из AWS Lambda (при необходимости с provisioned concurrency) снижает накладные расходы на управление и затраты. Развёртывания на edge-устройствах требуют упаковки моделей с помощью SageMaker Edge Manager и их распространения через AWS IoT Greengrass для устройств с прерывистым подключением к сети и строгими требованиями к задержке или конфиденциальности. Распространённые ошибки специалистов включают выбор эндпоинтов реального времени для спорадического трафика (что приводит к высокой стоимости), отказ от тестирования холодных стартов для бессерверных развёртываний и недооценку потребностей в памяти/GPU для эндпоинтов с несколькими моделями. Решения должны основываться на SLO (задержка p99, пропускная способность), размере модели, паттернах параллелизма и ожидаемой частоте обновлений; профилирование с использованием репрезентативного трафика имеет решающее значение перед выбором паттерна хостинга.

Реестр моделей, пайплайны и CI/CD для воспроизводимой доставки

Надёжный производственный процесс использует SageMaker Model Registry для версионирования артефактов, отслеживания происхождения моделей (lineage) и управления процессами утверждения, а SageMaker Pipelines — для создания воспроизводимых шагов обучения, валидации и развёртывания. Интеграция системы контроля версий на основе Git с AWS CodePipeline и CodeBuild позволяет реализовать CI для кода модели: модульные тесты, проверки схемы данных и автоматическую оценку модели, которая контролирует продвижение в реестр. Автоматизация развёртывания должна реализовывать поэтапные среды (dev → staging → prod) и поддерживать автоматические откаты или переключение трафика с помощью вариантов эндпоинтов, сине-зелёных развёртываний или маршрутизации на основе Lambda. Хранилища признаков (SageMaker Feature Store) обеспечивают согласованность между обучением и инференсом, сохраняя определения признаков и временные метки. Распространённые ошибки включают отказ от записи гиперпараметров и версий окружения, отсутствие автоматизации тестов валидации (схема данных, пороговые значения производительности) и отсутствие неизменяемых артефактов (храните артефакты модели в S3 или ECR). Используйте инфраструктуру как код (CloudFormation или CDK) для конфигурации эндпоинтов, обеспечивайте воспроизводимость путём фиксации версий библиотек и начальных значений (seeds) и планируйте триггеры для переобучения (дрейф данных, периодические расписания), интегрированные в тот же пайплайн.

Мониторинг, Model Monitor и операционный контроль

Операционный мониторинг должен охватывать дрейф данных (data drift), дрейф концепции (concept drift), снижение производительности, задержку и утилизацию ресурсов. Amazon SageMaker Model Monitor может создавать базовые распределения для обучающих данных и непрерывно профилировать трафик инференса на предмет дрейфа признаков, пропущенных значений и изменений схемы; при наличии эталонных данных (ground truth) Model Monitor также может отслеживать качество предсказаний и дрейф целевой переменной. Настройте логирование инференса в Amazon S3 и CloudWatch и передавайте логи в Amazon Kinesis или Amazon EventBridge для оповещений в реальном времени и автоматического запуска пайплайнов. Избегайте распространённых ошибок, таких как рассмотрение каждого оповещения о дрейфе как сигнала к переобучению — временные сдвиги и сезонность могут вызывать ложные срабатывания — или установка пороговых значений без понимания естественной дисперсии. Для несбалансированных классов отдавайте предпочтение метрикам precision, recall и F1 вместо accuracy для выявления значимого ухудшения качества. Внедряйте RBAC и шифрование (KMS) для артефактов модели, используйте VPC-эндпоинты и AWS PrivateLink для безопасного доступа к сервисам и собирайте аудиторские записи с помощью AWS CloudTrail. Поддерживайте операционные инструкции (playbooks) для устранения проблем: проверяйте пайплайны данных, сравнивайте производительность на недавних когортах и либо переобучайте, либо откатывайте модель, либо применяйте калибровку и исправления признаков.

Объяснимость, карточки моделей и средства контроля для соответствия требованиям

Объяснимость должна быть операционализированной, аудируемой и настроенной под нужды заинтересованных сторон. Amazon SageMaker Clarify предоставляет проверки на предвзятость до обучения, метрики предвзятости после обучения и атрибуцию признаков для каждого прогноза с помощью SHAP, которые можно получать во время вывода или в офлайн-режиме. Объяснения, полученные во время выполнения, следует регистрировать вместе с прогнозами и отпечатками входных данных для обеспечения прослеживаемости; храните объяснения в S3 и индексируйте их для последующего извлечения. Карточки моделей (Model Cards) документируют предполагаемое использование, происхождение данных, метрики оценки на релевантных срезах, известные ограничения и оговорки по производительности; для соблюдения политик управления поддерживайте версии карточек моделей в Model Registry. Финансовые и регулируемые сценарии использования требуют детерминированных журналов аудита: сохраняйте артефакты модели, гиперпараметры, данные оценки и журналы объяснений; внедряйте этапы утверждения с участием человека (human-in-the-loop) для решений с высоким уровнем влияния и поддерживайте контрфактические объяснения для сложных случаев. Для безопасной интеграции с управляемыми базовыми моделями используйте интерфейсные эндпоинты AWS PrivateLink для вызова Amazon Bedrock из VPC, шифруйте полезную нагрузку с помощью KMS и применяйте гранулярные средства контроля IAM и сети. Выбор сервисов для хранения эмбеддингов и векторного поиска зависит от требований к извлечению данных; сравните варианты по производительности и операционным затратам:

Практическая задача: сценарий использования

Сценарий: компания FinSight использует в AWS конвейер для принятия кредитных решений, применяя SageMaker для обучения моделей, Bedrock для вспомогательных генеративных объяснений и Amazon S3 для данных. Модели развернуты как real-time эндпоинты SageMaker внутри VPC, а для профилирования входящих признаков включен Model Monitor.

Проблема: Model Monitor зафиксировал дрейф признаков, превышающий пороговые значения, а бизнес-регуляторы требуют аудируемых и объяснимых решений для любых автоматических изменений кредитного лимита.

Рекомендуемый подход:

  1. Используйте оповещения SageMaker Model Monitor для запуска правила EventBridge, которое отправляет данные о дрейфе в рабочий процесс переобучения SageMaker Pipelines и создает снепшот текущих данных вывода и недавних входных данных в карантинный бакет S3.
  2. В рамках SageMaker Pipelines запустите автоматизированное задание валидации, которое сравнивает распределения последних данных с базовыми, вычисляет метрики оценки (precision/recall/F1) и генерирует SHAP-объяснения для каждого образца с помощью SageMaker Clarify для репрезентативной когорты.
  3. Если автоматические проверки пройдены, зарегистрируйте новую модель в SageMaker Model Registry с обновленной карточкой модели (Model Card), отражающей срезы производительности и объяснения; используйте варианты эндпоинта и переключение трафика для поэтапного развертывания. Если проверки не пройдены, создайте инцидент в операционной очереди и инициируйте этап ручной проверки перед любым развертыванием.
  4. Для безопасных вызовов Bedrock, генерирующих человекочитаемые объяснения, направляйте трафик Bedrock через AWS PrivateLink и шифруйте полезную нагрузку с помощью KMS; регистрируйте все выходные данные объяснений в S3 и связывайте их с записями о выводах для обеспечения аудируемости.

Обоснование: этот подход сочетает автоматическое обнаружение, воспроизводимую валидацию и защищенное развертывание с журналами аудита и объяснениями для каждого решения, что приводит операционные средства контроля в соответствие с требованиями регуляторов к прозрачности и минимизирует ложные действия по переобучению/откату.


Обучение · Все домены · Оптимизация затрат и ценообразование для AI

Отработать эти вопросы → · Тесты на время на ExamRoll.io →

Pass the whole exam — not just this question

You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.

Сдайте экзамен →

Просмотреть Amazon →

Related guides

Все включено

Одна подписка. Каждый экзамен.

Каждый план открывает неограниченный поиск ответов, практические тесты, объяснения AI и полную библиотеку ресурсов — на более чем 20 языках.

Ежемесячно
24.87
Just €0.83/day
Все включено:
  • Неограниченный поиск ответов
  • Неограниченные практические тесты
  • Объяснения на основе AI
  • Полная библиотека ресурсов
  • 20+ языков
  • Еженедельные обновления контента
  • Награды и рефералы
  • Приоритетная поддержка
Начать бесплатную пробную версию

Кредитная карта не требуется*

Лучшая цена
12 месяцев
179.87
Just €0.49/daySave 40%
Все включено:
  • Неограниченный поиск ответов
  • Неограниченные практические тесты
  • Объяснения на основе AI
  • Полная библиотека ресурсов
  • 20+ языков
  • Еженедельные обновления контента
  • Награды и рефералы
  • Приоритетная поддержка
Начать бесплатную пробную версию

Кредитная карта не требуется*

✓ Включен бесплатный план · ✓ Отмена в любое время · ✓ Все планы открывают полный продукт