Une entreprise financière exige que son chatbot d'IA générative produise des réponses précises et vérifiables pour la conformité réglementaire. Quelle solution permet d'éviter que le modèle de fondation sous-jacent ne produise des réponses "hallucinées" (factuellement incorrectes) ?

La bonne réponse est de configurer Amazon Bedrock Guardrails. Les Guardrails de Bedrock sont conçus spécifiquement pour aider à bloquer le contenu indésirable et à garantir la sécurité et la pertinence des réponses des modèles de fondation. Ils permettent de définir des politiques pour filtrer les entrées utilisateur et les réponses du modèle, réduisant ainsi le risque de "hallucinations" ou de contenu factuellement incorrect, ce qui est crucial pour la conformité réglementaire dans le secteur financier. Les autres options sont incorrectes car elles ne répondent pas directement au problème des hallucinations des modèles de fondation : AWS Config est utilisé pour évaluer, auditer et évaluer les configurations de vos ressources AWS, pas pour contrôler les sorties des modèles d'IA. Amazon Fraud Detector est un service de détection des fraudes, sans rapport avec la véracité des réponses d'un chatbot. AWS Audit Manager aide à automatiser la collecte de preuves pour les audits, mais ne gère pas le comportement des modèles d'IA en temps réel.