Które z poniższych opisuje realistyczne ryzyko lub ograniczenie związane z inżynierią promptów (prompt engineering) dla modeli generatywnych?

Prawidłowa odpowiedź wskazuje na realistyczne ryzyko. Inżynieria promptów, choć potężna, otwiera drogę do ataków typu prompt-injection, gdzie złośliwe instrukcje w promptach mogą manipulować zachowaniem modelu, prowadząc do niepożądanych wyników, ujawnienia danych lub ominięcia zabezpieczeń. Pierwsza opcja jest nieprawidłowa, ponieważ inżynieria promptów nie gwarantuje deterministycznych wyników; modele generatywne są z natury stochastyczne, a ich wyjścia mogą się różnić nawet przy identycznych promptach. Trzecia opcja jest częściowo prawdziwa (prompty nie eliminują wszystkich ryzyk), ale nie opisuje bezpośredniego ryzyka wprowadzonego przez inżynierię promptów, lecz ogólne ryzyka modeli AI. Czwarta opcja jest błędna, ponieważ nawet dobrze zaprojektowane prompty nie gwarantują niezmiennie wiarygodnych wyników, a modele mogą nadal generować halucynacje lub nieścisłości.