Een team bouwt een generatieve AI-chatbot met behulp van een foundation model (FM) van Amazon Bedrock. Tijdens het testen blijkt de chatbot kwetsbaar voor prompt injection-aanvallen. Welke aanpak beveiligt de chatbot met de minste implementatie-inspanning?

De juiste aanpak is om Amazon Bedrock Guardrails contentfilters in te schakelen en geweigerde onderwerpen te specificeren. Guardrails zijn ontworpen om de veiligheid van generatieve AI-applicaties te verbeteren door ongewenste of schadelijke output te filteren, inclusief die voortkomend uit prompt injection. Dit is de meest efficiënte oplossing met de minste implementatie-inspanning, omdat het een ingebouwde functionaliteit van Bedrock is. Fine-tuning is een complexere en tijdrovendere taak die niet primair gericht is op het voorkomen van prompt injection, maar eerder op het aanpassen van het modelgedrag. Het vervangen van het foundation model is een drastische maatregel die geen garantie biedt op immuniteit tegen prompt injection en veel inspanning vergt. Chain-of-thought prompting is een techniek om de redenering van het model te verbeteren, niet om prompt injection te beveiligen.