Amazon AIF-C01: Концепции генеративного ИИ — Руководство по подготовке

Часть AWS AI Practitioner AIF-C01 — Руководство по подготовке. Практикуйтесь с проверенными ответами в центре экзаменов Amazon, или пройдите тесты на время на ExamRoll.io.

Основы фундаментальных моделей, токенов, эмбеддингов и мультимодальности

Фундаментальные модели — это большие предварительно обученные нейронные сети, предоставляющие мощные, универсальные возможности для работы с текстом, изображениями и другими модальностями; примеры, доступные через AWS, включают доступ к моделям Titan и других поставщиков через Amazon Bedrock, а также среды SageMaker для обучения и хостинга пользовательских моделей. Токены — это атомарные единицы (части слов или символы), которые LLM используют для ввода и вывода; токенизация определяет использование окна контекста, стоимость и риск усечения. Эмбеддинги — это плотные числовые векторы, которые кодируют семантическое значение и служат связующим звеном для поиска по сходству, кластеризации и последующего извлечения данных; эмбеддинги могут генерироваться моделями в Bedrock или моделями, размещенными на SageMaker. Мультимодальные модели принимают и связывают текст, изображения и аудио; типичные строительные блоки на AWS включают Amazon Rekognition для извлечения визуальных признаков, Amazon Textract для отсканированных документов и Amazon Transcribe для преобразования аудио в текст, при этом модели Bedrock или SageMaker используются для объединения модальностей. Ключевые компромиссы для специалиста включают выбор между дообучением фундаментальной модели (более высокая стоимость, больше времени на реализацию, лучшее соответствие задаче) и промпт-инжинирингом с RAG (быстрее, дешевле, безопаснее для конфиденциальности данных). Распространенные ошибки: игнорирование лимитов токенов при составлении промпта, отказ от версионирования эмбеддингов или индексов и недооценка потребностей в предварительной обработке изображений и документов.

Промпт-инжиниринг, управление моделями и техники рассуждений

Промпт-инжиниринг структурирует инструкции и контекст для получения надежных результатов; эффективные промпты разделяют системные инструкции (роль, ограничения), пользовательский контент и необязательные few-shot примеры. Используйте краткие системные промпты для определения стиля, ограничений и формата вывода, а также храните канонические шаблоны, чтобы избежать расхождений. Настройка параметров вывода (inference), таких как temperature, top-p и max_tokens в Bedrock или SageMaker, влияет на креативность и детерминизм — более низкая температура и меньший top-p дают более последовательные ответы за счет снижения креативности. Техники рассуждений включают «цепочку рассуждений» (chain-of-thought) (явные промежуточные рассуждения для улучшения многошаговых задач), самосогласованность (self-consistency) (выборка нескольких путей рассуждений и их агрегация) и циклы верификации (просьба к модели проверить или процитировать источники). Распространенные ошибки: промпт-инъекции (недоверенные входные данные изменяют поведение системы), хрупкие few-shot примеры, которые переобучаются на стиль, а не на намерение, и пренебрежение логированием промптов для аудита. Критерии выбора техник: используйте «цепочку рассуждений» для сложных задач, где важна прозрачность, но добавляйте верификацию, когда результаты имеют реальные последствия; для пользовательских интерфейсов в продакшене предпочитайте детерминированные настройки, чтобы обеспечить повторяемость.

Retrieval-Augmented Generation (RAG), векторные хранилища, агенты и архитектуры

RAG (Retrieval-Augmented Generation) объединяет слой извлечения данных с генеративной моделью: индексируйте документы, вычисляйте эмбеддинги, выполняйте поиск по сходству для извлечения контекста, а затем передавайте полученные фрагменты в LLM. На AWS источники документов обычно хранятся в Amazon S3, извлечение выполняется с помощью Textract или пользовательских конвейеров, эмбеддинги генерируются через Bedrock или SageMaker, а векторы хранятся в Amazon OpenSearch Service с использованием k-NN или в специализированных векторных хранилищах на базе DynamoDB или OpenSearch; Amazon Kendra можно использовать, когда требуются корпоративный семантический поиск и коннекторы. Агенты — это контроллеры на базе LLM, которые решают, когда вызывать инструменты (поиск, запросы к базам данных, калькуляторы), и могут быть реализованы путем оркестрации вызовов модели с помощью AWS Lambda или Step Functions для безопасного выполнения инструментов. Архитектурные паттерны включают синхронный RAG для чат-ботов и асинхронный пакетный RAG для задач суммирования (используя Athena или EMR для предварительной обработки больших корпусов данных). Ошибки специалистов: устаревшие индексы (отсутствие обновления эмбеддингов), включение слишком длинного контекста, превышающего окно токенов, и отсутствие ссылок на источник для извлеченного контента. Выбирайте между Kendra и OpenSearch в зависимости от наличия коннекторов, требований к безопасности и необходимости в семантическом ранжировании.

Галлюцинации, предвзятость, объяснимость, мониторинг и управление

Галлюцинации возникают, когда модели выдумывают правдоподобно звучащие, но неверные факты; стратегии смягчения последствий сосредоточены на заземлении ответов (RAG), явном цитировании извлеченных источников, моделях верификации, которые проверяют факты в выходных данных, и проверке человеком (human-in-the-loop) для областей с высоким риском. Предвзятость (bias) возникает из-за искаженных обучающих данных или распределений меток; используйте Amazon SageMaker Clarify для обнаружения предвзятости в наборах данных, изучения важности признаков и создания артефактов объяснимости. Для отслеживания производительности и дрейфа модели разверните Amazon SageMaker Model Monitor для обнаружения дрейфа данных и прогнозов, логируйте входные и выходные данные инференса в CloudWatch и S3 для аудита и сохраняйте происхождение (provenance) промптов и извлеченных источников. Оценка должна сочетать технические метрики (точность/полнота, F1, mAP для обнаружения, ROUGE для суммаризации, перплексия, где это применимо) с метриками, ориентированными на человека, такими как полезность, безопасность и задержка. Практические методы управления включают red-teaming выходных данных, автоматические фильтры контента, обнаружение и удаление персональных данных (PII) с помощью Amazon Comprehend PII, версионирование моделей и эмбеддингов, а также документирование предполагаемого использования и ограничений. Распространенные ошибки включают опору исключительно на синтетические тесты, недостаточное логирование для соответствия требованиям (compliance) и отказ от мер по снижению предвзятости перед развертыванием в регулируемых средах.

Практическая задача: сценарий использования

Сценарий: MedData Analytics использует внутреннего ассистента для диагностики, который применяет Amazon Bedrock для генерации, руководства для пациентов и отчеты по медицинской визуализации, хранящиеся в Amazon S3, а также конвейер обучения SageMaker для экспериментов с моделями. Компания должна предоставлять прозрачные, проверяемые диагностические предложения, минимизируя при этом галлюцинации и предвзятость для клиницистов.

Задача: Заземлить выходные данные модели на доверенных документах, обеспечить объяснимость и проверку на предвзятость, а также создать производственный конвейер RAG, который поддерживает отслеживание происхождения данных и контроль со стороны человека.

Рекомендуемый подход:

  1. Используйте Amazon Textract для извлечения структурированного текста из PDF-файлов и Amazon Comprehend PII для удаления конфиденциальных полей; храните очищенные документы в Amazon S3 и отслеживайте версии с помощью тегов объектов.
  2. Сгенерируйте эмбеддинги с помощью модели эмбеддингов Amazon Bedrock (или кодировщика, размещенного на SageMaker), проиндексируйте векторы в Amazon OpenSearch Service с помощью k-NN и храните метаданные в DynamoDB для отслеживания происхождения.
  3. Создайте оркестрацию RAG, где Lambda (или Step Functions) извлекает top_k фрагментов, собирает шаблон системного промпта и вызывает Amazon Bedrock для генерации с низкой температурой и явными инструкциями «цитировать источники».
  4. Примените SageMaker Clarify к обучающим данным/меткам для обнаружения предвзятости, используйте SageMaker Model Monitor для оповещений о дрейфе, логируйте промпты и идентификаторы извлеченных данных в CloudWatch/S3 и направляйте выходные данные с высоким риском через Amazon A2I для проверки клиницистом.

Обоснование: Заземление выходных данных с помощью RAG и явное цитирование источников уменьшает галлюцинации; сочетание Clarify, Model Monitor и проверки человеком обеспечивает объяснимость, обнаружение предвзятости и безопасное операционное управление в соответствии с лучшими практиками.


Основы ИИ и машинного обучения · Все домены · Сервисы AWS для AI

Отработать эти вопросы → · Тесты на время на ExamRoll.io →

Pass the whole exam — not just this question

You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.

Сдайте экзамен →

Просмотреть Amazon →

Related guides

Все включено

Одна подписка. Каждый экзамен.

Каждый план открывает неограниченный поиск ответов, практические тесты, объяснения AI и полную библиотеку ресурсов — на более чем 20 языках.

Ежемесячно
24.87
Just €0.83/day
Все включено:
  • Неограниченный поиск ответов
  • Неограниченные практические тесты
  • Объяснения на основе AI
  • Полная библиотека ресурсов
  • 20+ языков
  • Еженедельные обновления контента
  • Награды и рефералы
  • Приоритетная поддержка
Начать бесплатную пробную версию

Кредитная карта не требуется*

Лучшая цена
12 месяцев
179.87
Just €0.49/daySave 40%
Все включено:
  • Неограниченный поиск ответов
  • Неограниченные практические тесты
  • Объяснения на основе AI
  • Полная библиотека ресурсов
  • 20+ языков
  • Еженедельные обновления контента
  • Награды и рефералы
  • Приоритетная поддержка
Начать бесплатную пробную версию

Кредитная карта не требуется*

✓ Включен бесплатный план · ✓ Отмена в любое время · ✓ Все планы открывают полный продукт