Firma finansowa wymaga, aby jej chatbot generatywnej sztucznej inteligencji udzielał dokładnych, weryfikowalnych odpowiedzi w celu zapewnienia zgodności z przepisami. Które rozwiązanie pomaga zapobiec generowaniu halucynacji (nieprawidłowych pod względem faktów) odpowiedzi przez podstawowy model bazowy?

Prawidłowa odpowiedź to skonfigurowanie Amazon Bedrock Guardrails do oceny danych wejściowych użytkownika i odpowiedzi modelu. Amazon Bedrock Guardrails to funkcja zaprojektowana specjalnie do implementacji zasad bezpieczeństwa i zgodności w aplikacjach generatywnej sztucznej inteligencji. Pozwala na definiowanie tematów, których model powinien unikać, oraz na filtrowanie treści niebezpiecznych lub niezgodnych z polityką firmy, co bezpośrednio pomaga w zapobieganiu halucynacjom i zapewnia weryfikowalność odpowiedzi. Użycie AWS Config do wysyłania zapytań o metadane zgodności za pomocą języka naturalnego służy do zarządzania konfiguracją zasobów AWS i monitorowania zgodności, a nie do kontrolowania treści generowanych przez modele AI. Amazon Fraud Detector jest przeznaczony do wykrywania oszustw, a nie do zarządzania poprawnością odpowiedzi modeli językowych. AWS Audit Manager pomaga w automatyzacji audytów zgodności, ale nie wpływa bezpośrednio na proces generowania odpowiedzi przez model AI.