Welke prompting-aanpak kan helpen beschermen tegen prompt-injection-aanvallen?

Adversarial prompting is correct omdat het een techniek is waarbij je opzettelijk schadelijke of misleidende prompts gebruikt om de kwetsbaarheden van een model te testen. Door het model te trainen of te testen met deze 'vijandige' prompts, kun je zwakke punten identificeren en versterken tegen prompt-injection-aanvallen, waarbij een aanvaller probeert de instructies van het model te overschrijven. Zero-shot prompting is onjuist omdat het verwijst naar het vermogen van een model om taken uit te voeren waarvoor het niet expliciet is getraind, zonder voorbeelden. Least-to-most prompting is onjuist omdat het een methode is om complexe problemen op te splitsen in kleinere, beheersbare stappen. Chain-of-thought prompting is onjuist omdat het het model aanmoedigt om een reeks tussenliggende redeneerstappen te genereren om tot een antwoord te komen. Geen van deze methoden richt zich direct op het beveiligen tegen prompt-injection.