Eine E-Commerce-Website wird einen KI-gestützten Chatbot veröffentlichen, der rund um die Uhr Kundeneingaben entgegennimmt. Welche Schwachstelle auf der Eingabeseite muss vor dem Start behoben werden?

Prompt Injection ist eine Schwachstelle, bei der böswillige Benutzer den Chatbot manipulieren, um unerwünschte Aktionen auszuführen oder vertrauliche Informationen preiszugeben, indem sie speziell gestaltete Eingabeaufforderungen verwenden. Da der Chatbot rund um die Uhr Kundeneingaben entgegennimmt, ist er anfällig für solche Angriffe. Datenlecks sind eine Folge von Prompt Injection, nicht die Schwachstelle selbst. LLM-Halluzinationen sind ein Problem der Modellgenauigkeit, bei dem das Modell falsche Informationen generiert, aber keine direkte Eingabeschwachstelle. Konzeptdrift bezieht sich auf Änderungen in der Datenverteilung im Laufe der Zeit, was die Modellleistung beeinträchtigt, aber keine unmittelbare Eingabesicherheitsschwachstelle darstellt.