Qual ataque baseado em prompt revela especificamente o comportamento configurado do modelo ou o modelo de prompt subjacente?

A extração do modelo de prompt é um ataque onde o invasor tenta obter informações sobre o prompt original ou a configuração interna do modelo. Isso pode revelar detalhes sobre como o modelo foi instruído a se comportar, suas restrições ou até mesmo dados sensíveis usados em seu treinamento. As trocas de persona solicitadas e a exploração da amizade e confiança são técnicas de engenharia social que visam manipular o modelo para gerar respostas específicas, mas não focam na revelação do prompt subjacente. Ignorar o modelo de prompt é uma forma de jailbreaking, onde o objetivo é fazer com que o modelo desobedeça suas instruções, mas não necessariamente extrair o prompt em si.