Który atak oparty na promptach ujawnia skonfigurowane zachowanie modelu lub bazowy szablon promptu?
Wybierz odpowiedź
Dotknij opcji, aby sprawdzić swoją odpowiedź.
Poprawna odpowiedź: Ekstrakcja szablonu promptu.
Dlaczego to jest odpowiedź
Ekstrakcja szablonu promptu (Prompt Template Extraction) jest poprawną odpowiedzią, ponieważ ten atak polega na manipulowaniu modelem w celu ujawnienia jego wewnętrznej konfiguracji, w tym początkowego promptu systemowego lub szablonu, który kieruje jego zachowaniem. Celem jest zrozumienie, jak model został skonfigurowany, aby następnie móc go skuteczniej omijać lub wykorzystywać. Pozostałe opcje są niepoprawne: Przełączanie osobowości promptu (Prompt Personality Switching) odnosi się do zmiany zachowania modelu na inne, ale niekoniecznie ujawnia bazowy szablon. Wykorzystywanie życzliwości i zaufania (Exploiting Kindness and Trust) to technika socjotechniczna, która skłania model do wykonania niepożądanych działań, ale nie koncentruje się na ujawnianiu jego wewnętrznej konfiguracji. Ignorowanie szablonu promptu (Prompt Template Ignoring) to zdolność modelu do ignorowania części instrukcji, ale nie jest to atak mający na celu ujawnienie samego szablonu.
Zdaj egzamin — bez niekończącego się szukania odpowiedzi
Uzyskaj wszystkie zweryfikowane pytania i wyjaśnienia do tego egzaminu w jednym miejscu i zaoszczędź godziny przygotowań. Ponad 1000 certyfikacji · Ponad 20 języków · Zacznij za darmo.
Zdaj egzamin szybciej → Karta nie jest wymagana