Ein Unternehmen, das einen Konversationsagenten entwickelt, möchte das Risiko verringern, dass ein LLM durch Prompt-Angriffe manipuliert wird, um schädliche Dinge zu tun oder Geheimnisse preiszugeben. Welche Maßnahme hilft, dieses Risiko zu mindern?

Die Erstellung von Prompt-Vorlagen, die das Modell trainieren, Angriffsmuster zu erkennen und zu kennzeichnen, ist eine Form des Prompt Engineering, die als "Guardrails" oder "Safety Prompts" dient. Diese Vorlagen weisen das LLM an, auf bestimmte Arten von Eingaben zu achten, die auf einen Prompt-Angriff hindeuten könnten (z. B. Anweisungen zum Ignorieren früherer Anweisungen, Anfragen nach vertraulichen Informationen) und entsprechend zu reagieren, oft indem es die Anfrage ablehnt oder eine Warnung ausgibt. Dies hilft, das Modell gegen Manipulationen zu härten. Die Erhöhung des Temperaturparameters würde die Kreativität und Zufälligkeit der Ausgabe erhöhen, was das Risiko unvorhersehbarer und potenziell schädlicher Antworten bei einem Angriff sogar noch verstärken könnte. Die Vermeidung von LLMs außerhalb von SageMaker ist keine direkte Sicherheitsmaßnahme gegen Prompt-Angriffe, sondern eine Plattformpräferenz. Die Reduzierung der Eingabetokenanzahl hat keinen direkten Einfluss auf die Anfälligkeit für Prompt-Angriffe, da die Angriffe oft in der Struktur oder dem Inhalt der Eingabe liegen, nicht unbedingt in deren Länge.