Üretken modeller için prompt engineering ile ilişkili gerçekçi bir riski veya sınırlamayı aşağıdakilerden hangisi açıklamaktadır?

Doğru cevap, prompt engineering'in prompt-injection saldırıları gibi güvenlik açıklarını ortaya çıkarabilmesidir. Prompt engineering, modelin davranışını yönlendirmek için prompt'ların dikkatli bir şekilde tasarlanmasını içerir, ancak kötü niyetli kullanıcılar bu prompt'ları modelin istenmeyen eylemler gerçekleştirmesi veya hassas bilgileri ifşa etmesi için manipüle edebilir. Diğer seçenekler yanlıştır çünkü prompt engineering tutarlı veya deterministik çıktılar garanti etmez, veri zehirlenmesi gibi riskleri tamamen ortadan kaldırmaz ve modellerin her zaman yüksek düzeyde güvenilir çıktılar üretmesini sağlamaz. Üretken modeller doğası gereği olasılıksaldır ve dış tehditlere karşı savunmasızdır.