Quelle attaque basée sur l'ingénierie de prompt révèle spécifiquement le comportement configuré du modèle ou le modèle de prompt sous-jacent ?

L'extraction du modèle de prompt (Prompt Pattern Extraction) est une attaque par ingénierie de prompt où l'attaquant tente de révéler le prompt système original ou le comportement configuré du modèle. Cela peut se faire en posant des questions spécifiques qui incitent le modèle à divulguer des informations sur sa configuration interne ou les instructions qui lui ont été données. Les changements de persona provoqués par le prompt visent à modifier le rôle du modèle. L'exploitation de la convivialité et de la confiance cherche à manipuler le modèle pour qu'il agisse contre ses instructions. Ignorer le modèle de prompt est une technique plus générale pour contourner les garde-fous, mais ne se concentre pas spécifiquement sur la révélation du prompt sous-jacent.