Un'azienda finanziaria richiede che il suo chatbot di intelligenza artificiale generativa produca risposte accurate e verificabili per la conformità normativa. Quale soluzione aiuta a impedire al modello di base sottostante di produrre risposte allucinate (fattualmente errate)?

Amazon Bedrock Guardrails è la soluzione corretta perché è specificamente progettato per implementare politiche di sicurezza e conformità per le applicazioni di intelligenza artificiale generativa. Guardrails può filtrare sia gli input dell'utente che le risposte del modello per bloccare contenuti indesiderati, inclusi quelli che potrebbero essere fattualmente errati o "allucinati", garantendo che il chatbot produca risposte accurate e verificabili, essenziale per la conformità normativa. Le opzioni errate sono: AWS Config è un servizio per valutare, controllare e monitorare le configurazioni delle risorse AWS, non per prevenire allucinazioni nei modelli AI. Amazon Fraud Detector è un servizio per identificare attività fraudolente online, non per la gestione dell'accuratezza delle risposte dei modelli AI. AWS Audit Manager aiuta a preparare report di audit e conformità, ma non previene direttamente le allucinazioni del modello AI.