Amazon AIF-C01: Концепции генеративного ИИ — Руководство по подготовке
Часть AWS AI Practitioner AIF-C01 — Руководство по подготовке. Практикуйтесь с проверенными ответами в центре экзаменов Amazon, или пройдите тесты на время на ExamRoll.io.
Основы фундаментальных моделей, токенов, эмбеддингов и мультимодальности
Фундаментальные модели — это большие предварительно обученные нейронные сети, предоставляющие мощные, универсальные возможности для работы с текстом, изображениями и другими модальностями; примеры, доступные через AWS, включают доступ к моделям Titan и других поставщиков через Amazon Bedrock, а также среды SageMaker для обучения и хостинга пользовательских моделей. Токены — это атомарные единицы (части слов или символы), которые LLM используют для ввода и вывода; токенизация определяет использование окна контекста, стоимость и риск усечения. Эмбеддинги — это плотные числовые векторы, которые кодируют семантическое значение и служат связующим звеном для поиска по сходству, кластеризации и последующего извлечения данных; эмбеддинги могут генерироваться моделями в Bedrock или моделями, размещенными на SageMaker. Мультимодальные модели принимают и связывают текст, изображения и аудио; типичные строительные блоки на AWS включают Amazon Rekognition для извлечения визуальных признаков, Amazon Textract для отсканированных документов и Amazon Transcribe для преобразования аудио в текст, при этом модели Bedrock или SageMaker используются для объединения модальностей. Ключевые компромиссы для специалиста включают выбор между дообучением фундаментальной модели (более высокая стоимость, больше времени на реализацию, лучшее соответствие задаче) и промпт-инжинирингом с RAG (быстрее, дешевле, безопаснее для конфиденциальности данных). Распространенные ошибки: игнорирование лимитов токенов при составлении промпта, отказ от версионирования эмбеддингов или индексов и недооценка потребностей в предварительной обработке изображений и документов.
Промпт-инжиниринг, управление моделями и техники рассуждений
Промпт-инжиниринг структурирует инструкции и контекст для получения надежных результатов; эффективные промпты разделяют системные инструкции (роль, ограничения), пользовательский контент и необязательные few-shot примеры. Используйте краткие системные промпты для определения стиля, ограничений и формата вывода, а также храните канонические шаблоны, чтобы избежать расхождений. Настройка параметров вывода (inference), таких как temperature, top-p и max_tokens в Bedrock или SageMaker, влияет на креативность и детерминизм — более низкая температура и меньший top-p дают более последовательные ответы за счет снижения креативности. Техники рассуждений включают «цепочку рассуждений» (chain-of-thought) (явные промежуточные рассуждения для улучшения многошаговых задач), самосогласованность (self-consistency) (выборка нескольких путей рассуждений и их агрегация) и циклы верификации (просьба к модели проверить или процитировать источники). Распространенные ошибки: промпт-инъекции (недоверенные входные данные изменяют поведение системы), хрупкие few-shot примеры, которые переобучаются на стиль, а не на намерение, и пренебрежение логированием промптов для аудита. Критерии выбора техник: используйте «цепочку рассуждений» для сложных задач, где важна прозрачность, но добавляйте верификацию, когда результаты имеют реальные последствия; для пользовательских интерфейсов в продакшене предпочитайте детерминированные настройки, чтобы обеспечить повторяемость.
Retrieval-Augmented Generation (RAG), векторные хранилища, агенты и архитектуры
RAG (Retrieval-Augmented Generation) объединяет слой извлечения данных с генеративной моделью: индексируйте документы, вычисляйте эмбеддинги, выполняйте поиск по сходству для извлечения контекста, а затем передавайте полученные фрагменты в LLM. На AWS источники документов обычно хранятся в Amazon S3, извлечение выполняется с помощью Textract или пользовательских конвейеров, эмбеддинги генерируются через Bedrock или SageMaker, а векторы хранятся в Amazon OpenSearch Service с использованием k-NN или в специализированных векторных хранилищах на базе DynamoDB или OpenSearch; Amazon Kendra можно использовать, когда требуются корпоративный семантический поиск и коннекторы. Агенты — это контроллеры на базе LLM, которые решают, когда вызывать инструменты (поиск, запросы к базам данных, калькуляторы), и могут быть реализованы путем оркестрации вызовов модели с помощью AWS Lambda или Step Functions для безопасного выполнения инструментов. Архитектурные паттерны включают синхронный RAG для чат-ботов и асинхронный пакетный RAG для задач суммирования (используя Athena или EMR для предварительной обработки больших корпусов данных). Ошибки специалистов: устаревшие индексы (отсутствие обновления эмбеддингов), включение слишком длинного контекста, превышающего окно токенов, и отсутствие ссылок на источник для извлеченного контента. Выбирайте между Kendra и OpenSearch в зависимости от наличия коннекторов, требований к безопасности и необходимости в семантическом ранжировании.
Галлюцинации, предвзятость, объяснимость, мониторинг и управление
Галлюцинации возникают, когда модели выдумывают правдоподобно звучащие, но неверные факты; стратегии смягчения последствий сосредоточены на заземлении ответов (RAG), явном цитировании извлеченных источников, моделях верификации, которые проверяют факты в выходных данных, и проверке человеком (human-in-the-loop) для областей с высоким риском. Предвзятость (bias) возникает из-за искаженных обучающих данных или распределений меток; используйте Amazon SageMaker Clarify для обнаружения предвзятости в наборах данных, изучения важности признаков и создания артефактов объяснимости. Для отслеживания производительности и дрейфа модели разверните Amazon SageMaker Model Monitor для обнаружения дрейфа данных и прогнозов, логируйте входные и выходные данные инференса в CloudWatch и S3 для аудита и сохраняйте происхождение (provenance) промптов и извлеченных источников. Оценка должна сочетать технические метрики (точность/полнота, F1, mAP для обнаружения, ROUGE для суммаризации, перплексия, где это применимо) с метриками, ориентированными на человека, такими как полезность, безопасность и задержка. Практические методы управления включают red-teaming выходных данных, автоматические фильтры контента, обнаружение и удаление персональных данных (PII) с помощью Amazon Comprehend PII, версионирование моделей и эмбеддингов, а также документирование предполагаемого использования и ограничений. Распространенные ошибки включают опору исключительно на синтетические тесты, недостаточное логирование для соответствия требованиям (compliance) и отказ от мер по снижению предвзятости перед развертыванием в регулируемых средах.
Практическая задача: сценарий использования
Сценарий: MedData Analytics использует внутреннего ассистента для диагностики, который применяет Amazon Bedrock для генерации, руководства для пациентов и отчеты по медицинской визуализации, хранящиеся в Amazon S3, а также конвейер обучения SageMaker для экспериментов с моделями. Компания должна предоставлять прозрачные, проверяемые диагностические предложения, минимизируя при этом галлюцинации и предвзятость для клиницистов.
Задача: Заземлить выходные данные модели на доверенных документах, обеспечить объяснимость и проверку на предвзятость, а также создать производственный конвейер RAG, который поддерживает отслеживание происхождения данных и контроль со стороны человека.
Рекомендуемый подход:
- Используйте Amazon Textract для извлечения структурированного текста из PDF-файлов и Amazon Comprehend PII для удаления конфиденциальных полей; храните очищенные документы в Amazon S3 и отслеживайте версии с помощью тегов объектов.
- Сгенерируйте эмбеддинги с помощью модели эмбеддингов Amazon Bedrock (или кодировщика, размещенного на SageMaker), проиндексируйте векторы в Amazon OpenSearch Service с помощью k-NN и храните метаданные в DynamoDB для отслеживания происхождения.
- Создайте оркестрацию RAG, где Lambda (или Step Functions) извлекает top_k фрагментов, собирает шаблон системного промпта и вызывает Amazon Bedrock для генерации с низкой температурой и явными инструкциями «цитировать источники».
- Примените SageMaker Clarify к обучающим данным/меткам для обнаружения предвзятости, используйте SageMaker Model Monitor для оповещений о дрейфе, логируйте промпты и идентификаторы извлеченных данных в CloudWatch/S3 и направляйте выходные данные с высоким риском через Amazon A2I для проверки клиницистом.
Обоснование: Заземление выходных данных с помощью RAG и явное цитирование источников уменьшает галлюцинации; сочетание Clarify, Model Monitor и проверки человеком обеспечивает объяснимость, обнаружение предвзятости и безопасное операционное управление в соответствии с лучшими практиками.
← Основы ИИ и машинного обучения · Все домены · Сервисы AWS для AI →
Отработать эти вопросы → · Тесты на время на ExamRoll.io →
Pass the whole exam — not just this question
You found this answer. Get every verified question and explanation in one place, and save hours of prep. Free to start.
Сдайте экзамен →