다음 중 생성 모델을 위한 프롬프트 엔지니어링과 관련된 현실적인 위험 또는 한계를 설명하는 것은 무엇입니까?

프롬프트 엔지니어링은 모델의 동작을 유도하는 강력한 도구이지만, 악의적인 사용자가 모델의 의도된 기능을 우회하거나 조작하여 민감한 정보를 추출하거나 부적절한 콘텐츠를 생성하게 만드는 프롬프트 주입 공격과 같은 보안 취약점을 초래할 수 있습니다. 다른 옵션들은 다음과 같은 이유로 올바르지 않습니다. 프롬프트 엔지니어링이 일관되고 결정론적인 출력을 보장한다는 주장은 사실이 아닙니다. 생성 모델은 본질적으로 확률적이며, 동일한 프롬프트에 대해서도 다양한 출력을 생성할 수 있습니다. 잘 만들어진 프롬프트도 데이터 중독이나 모델 하이재킹과 같은 근본적인 모델의 취약점을 완전히 제거할 수는 없습니다. 이러한 문제는 주로 학습 데이터나 모델 아키텍처와 관련이 있습니다. 프롬프트 엔지니어링이 모델이 실제 데이터에서 항상 신뢰할 수 있는 출력을 생성하도록 보장한다는 주장도 사실이 아닙니다. 모델은 여전히 '환각'을 일으키거나 부정확한 정보를 생성할 수 있습니다.