Lequel des énoncés suivants décrit un risque ou une limitation réaliste associé à l'ingénierie des invites (prompt engineering) pour les modèles génératifs ?

L'ingénierie des invites, bien qu'efficace pour guider les modèles génératifs, introduit des vulnérabilités. Les attaques par injection d'invite exploitent la capacité du modèle à interpréter les instructions de l'utilisateur, permettant à un attaquant de manipuler le comportement du modèle ou d'extraire des informations sensibles en insérant des commandes malveillantes dans l'invite. Les autres options sont incorrectes car : L'ingénierie des invites ne garantit pas des sorties cohérentes et déterministes ; les modèles génératifs restent stochastiques et nécessitent une validation continue. L'ingénierie des invites est une technique post-déploiement et n'a pas d'impact direct sur la prévention du data poisoning (qui se produit lors de l'entraînement) ou du model hijacking (qui est une compromission plus large du système). L'ingénierie des invites améliore la fiabilité mais ne la garantit pas "répétitivement" et "très" sur des données du monde réel, qui sont souvent imprévisibles et complexes.