Ein Finanzunternehmen verlangt von seinem generativen KI-Chatbot, dass er genaue, überprüfbare Antworten für die Einhaltung gesetzlicher Vorschriften liefert. Welche Lösung hilft, zu verhindern, dass das zugrunde liegende Basismodell halluzinierte (faktisch falsche) Antworten erzeugt?

Amazon Bedrock Guardrails sind darauf ausgelegt, generative KI-Modelle sicherer und zuverlässiger zu machen. Sie ermöglichen es, Richtlinien zu definieren, die unerwünschte Inhalte in Benutzereingaben filtern und die Antworten des Modells auf bestimmte Themen, die Einhaltung von Sicherheitsrichtlinien und die Vermeidung von Halluzinationen beschränken. Dies ist entscheidend für Anwendungen, die genaue, überprüfbare Antworten erfordern, wie im Finanzsektor. AWS Config dient der Bewertung, Überwachung und Aufzeichnung von Konfigurationen von AWS-Ressourcen und der Einhaltung von Regeln, nicht der direkten Kontrolle von KI-Modellausgaben. Amazon Fraud Detector ist ein vollständig verwalteter Betrugserkennungsdienst. AWS Audit Manager hilft bei der Automatisierung von Audit-Nachweisen und der Erstellung von Compliance-Berichten. Keiner dieser Dienste adressiert direkt das Problem von Halluzinationen in generativen KI-Modellen.