Quale delle seguenti affermazioni descrive un rischio o una limitazione realistica associata al prompt engineering per i modelli generativi?

Il prompt engineering, pur essendo una tecnica potente per guidare i modelli generativi, introduce il rischio di prompt injection. Questo tipo di attacco si verifica quando un utente malintenzionato inserisce istruzioni dannose all'interno di un prompt, sovrascrivendo o manipolando le istruzioni originali del sistema per indurre il modello a generare contenuti inappropriati, divulgare informazioni sensibili o eseguire azioni non autorizzate. Le altre opzioni sono errate perché: Il prompt engineering non garantisce output coerenti e deterministici; i modelli generativi sono intrinsecamente stocastici e richiedono sempre convalida. I prompt ben formulati non eliminano completamente rischi come il data poisoning (che riguarda i dati di training) o il dirottamento del modello (che può avvenire anche con prompt sicuri). Il prompt engineering non assicura output altamente affidabili su dati del mondo reale; la performance dipende da molti fattori, inclusa la qualità del modello e dei dati di input.