Podczas testowania bezpieczeństwa modelu podstawowego, testerzy celowo omijają zabezpieczenia modelu, aby wygenerować szkodliwe treści. Jak nazywa się ta technika?

Poprawna odpowiedź to Jailbreak. Jailbreaking to technika, w której testerzy celowo manipulują modelem podstawowym, aby ominąć jego wbudowane zabezpieczenia i wygenerować treści, które normalnie byłyby zablokowane (np. szkodliwe, nieetyczne lub niezgodne z zasadami). Jest to kluczowy element testowania bezpieczeństwa, mający na celu identyfikację luk w obronie modelu. Fuzzing danych treningowych (A) polega na wprowadzaniu zniekształconych lub nieoczekiwanych danych do modelu podczas treningu, aby znaleźć błędy, ale nie jest to bezpośrednie omijanie zabezpieczeń w celu generowania szkodliwych treści. Atak typu "odmowa usługi" (DoS) (B) ma na celu przeciążenie systemu i uniemożliwienie jego działania, a nie generowanie specyficznych treści. Autoryzowane testy penetracyjne (C) to szerszy termin obejmujący wiele technik testowania bezpieczeństwa, ale "jailbreak" jest specyficzną techniką stosowaną w kontekście modeli AI do omijania ich wewnętrznych zabezpieczeń.