Un equipo está creando un chatbot de IA generativa utilizando un modelo fundacional (FM) de Amazon Bedrock. Durante las pruebas, el chatbot es vulnerable a ataques de inyección de prompts. ¿Qué enfoque protegerá el chatbot con el menor esfuerzo de implementación?

La opción correcta es habilitar los filtros de contenido de Amazon Bedrock Guardrails y especificar temas denegados. Amazon Bedrock Guardrails está diseñado específicamente para aplicar políticas de seguridad y filtrar contenido no deseado, incluyendo la protección contra ataques de inyección de prompts, con un esfuerzo de implementación mínimo. Ajustar el modelo fundacional (fine-tuning) requeriría un esfuerzo considerable y no garantiza una protección completa contra nuevas inyecciones. Reemplazar el modelo fundacional por otro más seguro no es una solución práctica ni garantiza la inmunidad, ya que muchos FMs pueden ser vulnerables. Usar el prompting de cadena de pensamiento (chain-of-thought prompting) mejora la calidad de la respuesta pero no es una medida de seguridad directa contra inyecciones maliciosas.