Firma tworząca agenta konwersacyjnego chce zmniejszyć ryzyko, że LLM zostanie zmanipulowany przez ataki prompt injection w celu wykonania szkodliwych działań lub ujawnienia tajemnic. Które działanie pomaga zmniejszyć to ryzyko?
Wybierz odpowiedź
Dotknij opcji, aby sprawdzić swoją odpowiedź.
Poprawna odpowiedź: Tworzenie szablonów promptów, które uczą model rozpoznawania i oznaczania wzorców ataków..
Dlaczego to jest odpowiedź
Tworzenie szablonów promptów, które uczą model rozpoznawania i oznaczania wzorców ataków, jest skuteczną strategią obrony przed atakami typu prompt injection. Pozwala to na wbudowanie mechanizmów obronnych bezpośrednio w proces przetwarzania promptów, ucząc model identyfikowania i neutralizowania złośliwych instrukcji lub próśb o ujawnienie wrażliwych danych. Zwiększenie parametru temperature zwiększa losowość odpowiedzi, co nie chroni przed atakami. Unikanie LLM-ów spoza SageMakera nie jest strategią bezpieczeństwa, a zmniejszenie liczby tokenów wejściowych nie zapobiega manipulacji, jeśli złośliwy prompt jest krótki.
Zdaj egzamin — bez niekończącego się szukania odpowiedzi
Uzyskaj wszystkie zweryfikowane pytania i wyjaśnienia do tego egzaminu w jednym miejscu i zaoszczędź godziny przygotowań. Ponad 1000 certyfikacji · Ponad 20 języków · Zacznij za darmo.
Zdaj egzamin szybciej → Karta nie jest wymagana