Uma equipe está desenvolvendo um chatbot de IA generativa usando um modelo de base (FM) do Amazon Bedrock. Durante os testes, o chatbot se mostra vulnerável a ataques de injeção de prompt. Qual abordagem protegerá o chatbot com o menor esforço de implementação?

Habilitar os filtros de conteúdo do Amazon Bedrock Guardrails é a solução mais eficiente porque Guardrails foi projetado especificamente para mitigar ataques de injeção de prompt e outras vulnerabilidades de segurança, oferecendo uma camada de proteção configurável com baixo esforço de implementação. Guardrails permite definir tópicos negados e filtros de conteúdo para a entrada e saída do modelo. Ajustar o modelo de base exigiria um esforço significativo de re-treinamento e não garante a eliminação completa das vulnerabilidades. Substituir o modelo de base por outro não garante maior segurança e pode introduzir novos desafios. O prompt de cadeia de pensamento melhora a qualidade da resposta, mas não é uma medida de segurança contra injeção de prompt.