Какая атака на основе промпта специально раскрывает сконфигурированное поведение модели или базовый шаблон промпта?

Извлечение шаблона промпта (Prompt Template Extraction) — это атака, при которой злоумышленник манипулирует входными данными, чтобы заставить модель раскрыть части своего внутреннего шаблона промпта или сконфигурированного поведения. Это отличается от других атак, поскольку цель состоит именно в получении информации о том, как модель была изначально настроена или какой шаблон промпта использовался для ее инициализации. Переключение на заданную персону и использование дружелюбия/доверия — это методы социальной инженерии, направленные на изменение поведения модели, а не на извлечение ее внутренних конфигураций. Игнорирование шаблона промпта — это скорее результат успешной инъекции промпта, а не метод извлечения самого шаблона.