Amazon AIF-C01: MLOps и развертывание — Руководство по подготовке
Часть AWS AI Practitioner AIF-C01 — Руководство по подготовке. Практикуйтесь с проверенными ответами в центре экзаменов Amazon, или пройдите тесты на время на ExamRoll.io.
Паттерны развёртывания и инференса: реальное время, пакетная обработка, бессерверные вычисления и edge-устройства
Выбор паттерна инференса начинается с компромиссов на уровне сервиса между задержкой, пропускной способностью, стоимостью и операционной сложностью. Для задач с низкой задержкой и высокой пропускной способностью обычно используют выделенные эндпоинты Amazon SageMaker для инференса в реальном времени (с одной или несколькими моделями) или SageMaker Real-Time Inference с автомасштабированием и инстансами GPU; используйте варианты эндпоинтов (endpoint variants) для реализации канареечных или сине-зелёных развёртываний. Для крупных офлайн-задач, где задержка не критична, экономически эффективным и простым в масштабировании решением является SageMaker Batch Transform или распределённая обработка на AWS Glue/EMR. Для непредсказуемых нагрузок или нагрузок с низким QPS (запросов в секунду) SageMaker Serverless Inference или вызов моделей из AWS Lambda (при необходимости с provisioned concurrency) снижает накладные расходы на управление и затраты. Развёртывания на edge-устройствах требуют упаковки моделей с помощью SageMaker Edge Manager и их распространения через AWS IoT Greengrass для устройств с прерывистым подключением к сети и строгими требованиями к задержке или конфиденциальности. Распространённые ошибки специалистов включают выбор эндпоинтов реального времени для спорадического трафика (что приводит к высокой стоимости), отказ от тестирования холодных стартов для бессерверных развёртываний и недооценку потребностей в памяти/GPU для эндпоинтов с несколькими моделями. Решения должны основываться на SLO (задержка p99, пропускная способность), размере модели, паттернах параллелизма и ожидаемой частоте обновлений; профилирование с использованием репрезентативного трафика имеет решающее значение перед выбором паттерна хостинга.
Реестр моделей, пайплайны и CI/CD для воспроизводимой доставки
Надёжный производственный процесс использует SageMaker Model Registry для версионирования артефактов, отслеживания происхождения моделей (lineage) и управления процессами утверждения, а SageMaker Pipelines — для создания воспроизводимых шагов обучения, валидации и развёртывания. Интеграция системы контроля версий на основе Git с AWS CodePipeline и CodeBuild позволяет реализовать CI для кода модели: модульные тесты, проверки схемы данных и автоматическую оценку модели, которая контролирует продвижение в реестр. Автоматизация развёртывания должна реализовывать поэтапные среды (dev → staging → prod) и поддерживать автоматические откаты или переключение трафика с помощью вариантов эндпоинтов, сине-зелёных развёртываний или маршрутизации на основе Lambda. Хранилища признаков (SageMaker Feature Store) обеспечивают согласованность между обучением и инференсом, сохраняя определения признаков и временные метки. Распространённые ошибки включают отказ от записи гиперпараметров и версий окружения, отсутствие автоматизации тестов валидации (схема данных, пороговые значения производительности) и отсутствие неизменяемых артефактов (храните артефакты модели в S3 или ECR). Используйте инфраструктуру как код (CloudFormation или CDK) для конфигурации эндпоинтов, обеспечивайте воспроизводимость путём фиксации версий библиотек и начальных значений (seeds) и планируйте триггеры для переобучения (дрейф данных, периодические расписания), интегрированные в тот же пайплайн.
Мониторинг, Model Monitor и операционный контроль
Операционный мониторинг должен охватывать дрейф данных (data drift), дрейф концепции (concept drift), снижение производительности, задержку и утилизацию ресурсов. Amazon SageMaker Model Monitor может создавать базовые распределения для обучающих данных и непрерывно профилировать трафик инференса на предмет дрейфа признаков, пропущенных значений и изменений схемы; при наличии эталонных данных (ground truth) Model Monitor также может отслеживать качество предсказаний и дрейф целевой переменной. Настройте логирование инференса в Amazon S3 и CloudWatch и передавайте логи в Amazon Kinesis или Amazon EventBridge для оповещений в реальном времени и автоматического запуска пайплайнов. Избегайте распространённых ошибок, таких как рассмотрение каждого оповещения о дрейфе как сигнала к переобучению — временные сдвиги и сезонность могут вызывать ложные срабатывания — или установка пороговых значений без понимания естественной дисперсии. Для несбалансированных классов отдавайте предпочтение метрикам precision, recall и F1 вместо accuracy для выявления значимого ухудшения качества. Внедряйте RBAC и шифрование (KMS) для артефактов модели, используйте VPC-эндпоинты и AWS PrivateLink для безопасного доступа к сервисам и собирайте аудиторские записи с помощью AWS CloudTrail. Поддерживайте операционные инструкции (playbooks) для устранения проблем: проверяйте пайплайны данных, сравнивайте производительность на недавних когортах и либо переобучайте, либо откатывайте модель, либо применяйте калибровку и исправления признаков.
- Ключевые метрики оценки и когда их использовать
- Accuracy: общая правильность; вводит в заблуждение на несбалансированных данных
- Precision: точность положительных предсказаний; используется, когда цена ложноположительных срабатываний высока
- Recall (Sensitivity): способность находить все положительные случаи; используется, когда цена ложноотрицательных срабатываний высока
- F1 score: гармоническое среднее между precision и recall; сбалансированный выбор для несбалансированных классов
- AUC-ROC: качество ранжирования при разных порогах; полезна для бинарных классификаторов независимо от порога
Объяснимость, карточки моделей и средства контроля для соответствия требованиям
Объяснимость должна быть операционализированной, аудируемой и настроенной под нужды заинтересованных сторон. Amazon SageMaker Clarify предоставляет проверки на предвзятость до обучения, метрики предвзятости после обучения и атрибуцию признаков для каждого прогноза с помощью SHAP, которые можно получать во время вывода или в офлайн-режиме. Объяснения, полученные во время выполнения, следует регистрировать вместе с прогнозами и отпечатками входных данных для обеспечения прослеживаемости; храните объяснения в S3 и индексируйте их для последующего извлечения. Карточки моделей (Model Cards) документируют предполагаемое использование, происхождение данных, метрики оценки на релевантных срезах, известные ограничения и оговорки по производительности; для соблюдения политик управления поддерживайте версии карточек моделей в Model Registry. Финансовые и регулируемые сценарии использования требуют детерминированных журналов аудита: сохраняйте артефакты модели, гиперпараметры, данные оценки и журналы объяснений; внедряйте этапы утверждения с участием человека (human-in-the-loop) для решений с высоким уровнем влияния и поддерживайте контрфактические объяснения для сложных случаев. Для безопасной интеграции с управляемыми базовыми моделями используйте интерфейсные эндпоинты AWS PrivateLink для вызова Amazon Bedrock из VPC, шифруйте полезную нагрузку с помощью KMS и применяйте гранулярные средства контроля IAM и сети. Выбор сервисов для хранения эмбеддингов и векторного поиска зависит от требований к извлечению данных; сравните варианты по производительности и операционным затратам:
- Amazon OpenSearch Service (k-NN): масштабируемый векторный поиск с интегрированной аналитикой
- Amazon Kendra: управляемый семантический поиск со встроенными коннекторами и корпоративными функциями
- Amazon RDS (Postgres + pgvector): транзакционное хранилище векторов, более простое решение для реляционных наборов данных
- Пользовательский ANN на Amazon EKS или ECS: максимальная гибкость для NMSLIB/FAISS, но более высокая операционная нагрузка
Практическая задача: сценарий использования
Сценарий: компания FinSight использует в AWS конвейер для принятия кредитных решений, применяя SageMaker для обучения моделей, Bedrock для вспомогательных генеративных объяснений и Amazon S3 для данных. Модели развернуты как real-time эндпоинты SageMaker внутри VPC, а для профилирования входящих признаков включен Model Monitor.
Проблема: Model Monitor зафиксировал дрейф признаков, превышающий пороговые значения, а бизнес-регуляторы требуют аудируемых и объяснимых решений для любых автоматических изменений кредитного лимита.
Рекомендуемый подход:
- Используйте оповещения SageMaker Model Monitor для запуска правила EventBridge, которое отправляет данные о дрейфе в рабочий процесс переобучения SageMaker Pipelines и создает снепшот текущих данных вывода и недавних входных данных в карантинный бакет S3.
- В рамках SageMaker Pipelines запустите автоматизированное задание валидации, которое сравнивает распределения последних данных с базовыми, вычисляет метрики оценки (precision/recall/F1) и генерирует SHAP-объяснения для каждого образца с помощью SageMaker Clarify для репрезентативной когорты.
- Если автоматические проверки пройдены, зарегистрируйте новую модель в SageMaker Model Registry с обновленной карточкой модели (Model Card), отражающей срезы производительности и объяснения; используйте варианты эндпоинта и переключение трафика для поэтапного развертывания. Если проверки не пройдены, создайте инцидент в операционной очереди и инициируйте этап ручной проверки перед любым развертыванием.
- Для безопасных вызовов Bedrock, генерирующих человекочитаемые объяснения, направляйте трафик Bedrock через AWS PrivateLink и шифруйте полезную нагрузку с помощью KMS; регистрируйте все выходные данные объяснений в S3 и связывайте их с записями о выводах для обеспечения аудируемости.
Обоснование: этот подход сочетает автоматическое обнаружение, воспроизводимую валидацию и защищенное развертывание с журналами аудита и объяснениями для каждого решения, что приводит операционные средства контроля в соответствие с требованиями регуляторов к прозрачности и минимизирует ложные действия по переобучению/откату.
← Обучение · Все домены · Оптимизация затрат и ценообразование для AI →
Отработать эти вопросы → · Тесты на время на ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Сдайте экзамен →