Что из перечисленного описывает реалистичный риск или ограничение, связанное с проектированием промптов (prompt engineering) для генеративных моделей?

Проектирование промптов, хотя и является мощным инструментом, может создавать уязвимости. Атаки с внедрением промптов (prompt-injection attacks) — это когда злоумышленник манипулирует промптом, чтобы заставить модель выполнить нежелательные действия или выдать конфиденциальную информацию. Это реалистичный риск при работе с генеративными моделями. Другие варианты неверны: Проектирование промптов не гарантирует детерминированные результаты; генеративные модели по своей природе стохастичны. Хотя проектирование промптов не может полностью устранить все риски, такие как отравление данных (data poisoning) или захват модели (model hijacking), оно может помочь снизить некоторые из них. Однако утверждение, что оно не может устранить такие риски, не является основной проблемой, связанной с самим проектированием промптов. Проектирование промптов не гарантирует высокой надежности на реальных данных; для этого требуется постоянная оценка и доработка.