Команда создает генеративный ИИ-чат-бот, используя базовую модель (FM) из Amazon Bedrock. Во время тестирования чат-бот оказался уязвим для атак с внедрением промптов. Какой подход обеспечит безопасность чат-бота с наименьшими усилиями по реализации?

Правильный ответ — включить фильтры содержимого Amazon Bedrock Guardrails. Guardrails специально разработаны для обеспечения безопасности и соответствия требованиям при работе с FM, позволяя определять запрещенные темы и фильтровать вредоносный контент с минимальными усилиями по реализации. Тонкая настройка базовой модели (FM) может быть трудоемкой и не гарантирует полного устранения уязвимостей к внедрению промптов. Замена FM на другую может не решить проблему, так как многие модели могут быть уязвимы, и это также требует значительных усилий. Использование промптинга chain-of-thought направлено на улучшение качества и логики ответов, а не на предотвращение атак с внедрением промптов.