Un team sta creando un chatbot di intelligenza artificiale generativa utilizzando un modello di base (FM) di Amazon Bedrock. Durante i test, il chatbot è vulnerabile agli attacchi di prompt injection. Quale approccio proteggerà il chatbot con il minimo sforzo di implementazione?

Abilitare i filtri di contenuto Amazon Bedrock Guardrails e specificare gli argomenti negati è l'approccio più efficace e con il minimo sforzo per proteggere un chatbot da attacchi di prompt injection. Guardrails consente di definire politiche di sicurezza e di filtrare input e output, bloccando contenuti indesiderati o dannosi prima che raggiungano il modello o l'utente. Ottimizzare il modello di base richiederebbe un addestramento o fine-tuning significativo, che è dispendioso in termini di tempo e risorse. Sostituire il modello di base con un altro non garantisce una maggiore sicurezza contro la prompt injection senza meccanismi di protezione aggiuntivi. Il prompting chain-of-thought migliora la qualità delle risposte ma non è una misura di sicurezza contro attacchi malevoli.