Une équipe développe un chatbot d'IA générative en utilisant un modèle de fondation (FM) d'Amazon Bedrock. Pendant les tests, le chatbot est vulnérable aux attaques par injection de prompt. Quelle approche permettra de sécuriser le chatbot avec le moins d'effort de mise en œuvre ?

L'activation des filtres de contenu Amazon Bedrock Guardrails est la solution la plus efficace et la moins coûteuse en termes d'effort de mise en œuvre. Les Guardrails sont conçus spécifiquement pour détecter et bloquer les entrées et sorties indésirables, y compris les attaques par injection de prompt, en spécifiant des sujets interdits et des filtres de contenu. L'affinage du modèle de fondation (FM) est une tâche complexe et chronophage qui ne garantit pas une protection complète contre toutes les formes d'injection de prompt. Remplacer le FM par un autre modèle plus sécurisé implique un effort de développement et de test considérable, sans certitude d'éliminer toutes les vulnérabilités. L'utilisation du prompt chain-of-thought est une technique pour améliorer la qualité des réponses du modèle, mais elle n'est pas une mesure de sécurité directe contre l'injection de prompt.