Welke van de volgende beschrijft een realistisch risico of een beperking die geassocieerd wordt met prompt engineering voor generatieve modellen?

Prompt engineering omvat het ontwerpen van inputs (prompts) om gewenste outputs van generatieve modellen te verkrijgen. Helaas kan dit proces kwetsbaarheden introduceren, zoals prompt-injection aanvallen. Hierbij probeert een kwaadwillende gebruiker de prompt te manipuleren om het model ongewenste acties te laten uitvoeren of gevoelige informatie te onthullen, wat een significant risico vormt. De andere opties zijn onjuist: Prompt engineering garandeert geen consistente, deterministische outputs; generatieve modellen zijn inherent stochastisch. Zelfs goed geformuleerde prompts kunnen risico's zoals data poisoning of model hijacking niet volledig wegnemen, omdat dit fundamentele kwetsbaarheden van het model of de trainingsdata zijn die verder gaan dan alleen de prompt. Prompt engineering zorgt er niet voor dat modellen herhaaldelijk zeer betrouwbare outputs zullen produceren op real-world data; de prestaties zijn afhankelijk van vele factoren, waaronder de kwaliteit en diversiteit van de trainingsdata en de complexiteit van de taak.