Bir ekip, Amazon Bedrock'taki bir temel model (FM) kullanarak üretken bir yapay zeka sohbet robotu geliştiriyor. Test sırasında sohbet robotunun prompt injection saldırılarına karşı savunmasız olduğu görüldü. Sohbet robotunu en az implementasyon çabasıyla güvence altına almak için hangi yaklaşım kullanılmalıdır?

Amazon Bedrock Guardrails, üretken yapay zeka uygulamalarını prompt injection gibi saldırılardan korumak için tasarlanmış yönetilen bir güvenlik özelliğidir. Guardrails'i etkinleştirerek ve yasaklı konuları, hassas bilgileri veya istenmeyen davranışları belirterek, modelin bu tür içerikleri içeren yanıtlar üretmesi engellenir. Bu, en az implementasyon çabasıyla etkili bir güvenlik katmanı sağlar. Temel modeli fine-tune etmek daha fazla zaman ve veri gerektirir ve prompt injection'a karşı tam koruma sağlamayabilir. Farklı bir FM ile değiştirmek, uyumluluk sorunlarına ve yeniden geliştirme çabasına yol açabilir. Chain-of-thought prompting, modelin akıl yürütme yeteneğini artırsa da, doğrudan bir güvenlik mekanizması değildir ve prompt injection'a karşı koruma sağlamaz.