Zespół tworzy chatbota generatywnej sztucznej inteligencji, używając modelu podstawowego (FM) z Amazon Bedrock. Podczas testowania chatbot jest podatny na ataki typu prompt injection. Które podejście zabezpieczy chatbota przy najmniejszym wysiłku implementacyjnym?
Wybierz odpowiedź
Dotknij opcji, aby sprawdzić swoją odpowiedź.
Poprawna odpowiedź: Włączenie filtrów treści Amazon Bedrock Guardrails i określenie zabronionych tematów..
Dlaczego to jest odpowiedź
Włączenie filtrów treści Amazon Bedrock Guardrails i określenie zabronionych tematów jest najmniej pracochłonnym rozwiązaniem. Guardrails w Bedrock to wbudowana funkcja bezpieczeństwa, która pozwala definiować zasady i filtry treści, aby zapobiegać niepożądanym lub szkodliwym odpowiedziom, w tym atakom typu prompt injection, bez konieczności modyfikowania samego modelu. Dostosowanie modelu podstawowego wymagałoby znacznego wysiłku w zakresie danych treningowych i uczenia. Zastąpienie modelu innym FM nie gwarantuje rozwiązania problemu i może wymagać dalszych modyfikacji. Użycie promptingu chain-of-thought to technika inżynierii promptów, która poprawia jakość odpowiedzi, ale nie jest podstawowym mechanizmem obrony przed prompt injection.
Zdaj egzamin — bez niekończącego się szukania odpowiedzi
Uzyskaj wszystkie zweryfikowane pytania i wyjaśnienia do tego egzaminu w jednym miejscu i zaoszczędź godziny przygotowań. Ponad 1000 certyfikacji · Ponad 20 języków · Zacznij za darmo.
Zdaj egzamin szybciej → Karta nie jest wymagana