Qual abordagem de prompt pode ajudar a defender contra ataques de injeção de prompt?

Prompting adversarial (ou adversarial prompting) é uma técnica que envolve testar o modelo com prompts maliciosos ou enganosos para identificar vulnerabilidades e, assim, desenvolver defesas contra ataques de injeção de prompt. Ao simular esses ataques, os desenvolvedores podem entender como o modelo reage e implementar estratégias para mitigar riscos. As outras opções são técnicas de prompting para melhorar o desempenho ou a capacidade de raciocínio do modelo: Prompting zero-shot: O modelo gera uma resposta sem exemplos prévios. Prompting least-to-most: O modelo resolve problemas complexos decompondo-os em etapas mais simples. Prompting chain-of-thought: O modelo é instruído a mostrar seu raciocínio passo a passo para chegar a uma resposta.