Финансовой фирме требуется, чтобы ее чат-бот с генеративным ИИ выдавал точные, проверяемые ответы для соблюдения нормативных требований. Какое решение помогает предотвратить выдачу базовой моделью галлюцинаторных (фактически неверных) ответов?

Правильный ответ — Настроить Amazon Bedrock Guardrails для оценки пользовательских вводов и ответов модели. Amazon Bedrock Guardrails специально разработан для реализации политик безопасности и модерации контента для генеративных моделей ИИ. Он позволяет определять запрещенные темы, фильтровать конфиденциальную информацию и устанавливать пороговые значения для нежелательного контента, тем самым снижая риск галлюцинаций и обеспечивая выдачу точных и проверяемых ответов, что критически важно для соблюдения нормативных требований в финансовой сфере. Использование AWS Config для запроса метаданных соответствия не относится к предотвращению галлюцинаций модели, а скорее к управлению конфигурациями ресурсов. Amazon Fraud Detector предназначен для обнаружения мошенничества, а не для контроля вывода генеративного ИИ. AWS Audit Manager используется для автоматизации аудита и отчетности по соответствию, но не влияет на поведение или точность ответов ИИ-модели.