Во время тестирования безопасности базовой модели тестировщики намеренно обходят средства защиты модели, чтобы получить вредоносный контент. Как называется такой метод?

Джейлбрейк (Jailbreaking) — это метод, при котором пользователи намеренно обходят встроенные меры безопасности базовой модели, чтобы заставить ее генерировать контент, который она обычно отказывается производить (например, вредоносный, неэтичный или запрещенный контент). Этот метод используется для выявления уязвимостей в системе безопасности модели. Фаззинг обучающих данных направлен на поиск уязвимостей в процессе обучения, а не в развернутой модели. Отказ в обслуживании (DoS) — это атака, направленная на нарушение доступности сервиса, а не на извлечение вредоносного контента. Авторизованное пентестирование — это более широкий термин для санкционированного тестирования безопасности, но "джейлбрейк" точнее описывает конкретный метод обхода ограничений языковой модели.