¿Qué enfoque de prompting puede ayudar a defenderse contra ataques de inyección de prompt?

El prompting adversario (Adversarial prompting) implica probar el modelo con prompts diseñados para explotar vulnerabilidades, como los ataques de inyección de prompt. Al identificar estas debilidades, se pueden implementar contramedidas para mejorar la robustez del modelo. Zero-shot prompting es una técnica donde el modelo responde a una pregunta sin ejemplos previos, lo que no aborda la seguridad. Least-to-most prompting descompone problemas complejos en subproblemas, y Chain-of-thought prompting guía al modelo a través de un razonamiento paso a paso; ninguna de estas técnicas está diseñada para la defensa contra ataques de inyección.