Ein Team entwickelt einen generativen KI-Chatbot unter Verwendung eines Foundation Models (FM) von Amazon Bedrock. Während des Tests ist der Chatbot anfällig für Prompt-Injection-Angriffe. Welcher Ansatz sichert den Chatbot mit dem geringsten Implementierungsaufwand?

Die Aktivierung von Amazon Bedrock Guardrails mit festgelegten abgelehnten Themen ist die effektivste Methode, um Prompt-Injection-Angriffe mit dem geringsten Implementierungsaufwand zu mindern. Guardrails sind speziell dafür konzipiert, schädliche Inhalte und unerwünschte Verhaltensweisen in generativen KI-Anwendungen zu filtern, indem sie Eingaben und Ausgaben überwachen und blockieren, die gegen definierte Richtlinien verstoßen. Das Feinabstimmen des Foundation Models wäre aufwendiger und würde nicht direkt die Prompt-Injection-Angriffe adressieren, da es eher die Modellantworten als die Eingabevalidierung beeinflusst. Das Ersetzen des Foundation Models ist ebenfalls mit hohem Aufwand verbunden und bietet keine Garantie für eine höhere Sicherheit gegen Prompt Injection. Chain-of-Thought-Prompting verbessert die Argumentationsfähigkeit des Modells, schützt aber nicht direkt vor böswilligen Eingaben oder deren Umgehung der Sicherheitsmechanismen.