¿Cuál de las siguientes opciones describe un riesgo o limitación realista asociado con la ingeniería de prompts para modelos generativos?

La ingeniería de prompts, aunque poderosa, puede introducir vulnerabilidades significativas. Un riesgo clave es la inyección de prompts, donde usuarios malintencionados insertan instrucciones ocultas o contradictorias dentro de un prompt para manipular el modelo y generar contenido inapropiado, divulgar información sensible o ejecutar acciones no deseadas. Las otras opciones son incorrectas porque: La ingeniería de prompts no garantiza salidas consistentes o deterministas; los modelos generativos son inherentemente estocásticos y requieren validación continua. La ingeniería de prompts no asegura que los modelos producirán repetidamente salidas altamente confiables en datos del mundo real sin errores o sesgos. Si bien la ingeniería de prompts no puede eliminar completamente riesgos como el envenenamiento de datos, la opción correcta se enfoca en un riesgo directamente introducido por la propia técnica de ingeniería de prompts.