Un sitio de comercio electrónico publicará un chatbot impulsado por IA que acepta la entrada de clientes las 24 horas del día. ¿Qué vulnerabilidad del lado de la entrada debe abordarse antes del lanzamiento?

La inyección de prompt (prompt injection) es una vulnerabilidad crítica donde un atacante manipula el modelo de IA con entradas maliciosas para que realice acciones no deseadas o revele información confidencial. En un chatbot de comercio electrónico 24/7, esto podría llevar a la divulgación de datos de clientes, la generación de contenido inapropiado o la ejecución de comandos no autorizados. Las alucinaciones de LLM (LLM hallucinations) son respuestas incorrectas o sin sentido generadas por el modelo, pero no son una vulnerabilidad de seguridad directa. La fuga de datos (data leakage) es la exposición no intencionada de información, que podría ser una consecuencia de la inyección de prompt, pero no es la vulnerabilidad inicial del lado de la entrada. La deriva conceptual (concept drift) se refiere a cambios en la relación entre los datos de entrada y salida a lo largo del tiempo, afectando la precisión del modelo, pero no es una vulnerabilidad de seguridad del lado de la entrada.