다음 프롬프트 기반 공격 중 모델의 구성된 동작 또는 기본 프롬프트 템플릿을 특별히 드러내는 것은 무엇입니까?

프롬프트 템플릿 추출은 모델의 기본 프롬프트 템플릿이나 구성된 동작을 드러내도록 설계된 공격입니다. 공격자는 특정 입력을 통해 모델이 내부적으로 사용하는 프롬프트 구조를 유추하거나 직접 노출시키려 합니다. 이는 모델의 취약점을 파악하거나, 모델이 특정 작업을 수행하는 방식을 이해하는 데 사용될 수 있습니다. 다른 옵션들은 다음과 같습니다. 프롬프트된 페르소나 전환은 모델이 의도된 페르소나를 벗어나 다른 역할을 수행하도록 유도하는 공격입니다. 친근함과 신뢰 악용은 모델이 사용자에게 친근하거나 신뢰할 수 있는 것처럼 보이도록 유도하여 정보를 얻거나 특정 행동을 유발하는 공격입니다. 프롬프트 템플릿 무시는 모델이 제공된 프롬프트 지침을 따르지 않도록 하는 공격입니다.