Witryna e-commerce opublikuje chatbota opartego na sztucznej inteligencji, który będzie przyjmował dane od klientów przez całą dobę. Jaka podatność po stronie wejścia musi zostać usunięta przed uruchomieniem?

Wstrzyknięcie promptu (prompt injection) to podatność, w której złośliwe dane wejściowe (prompt) mogą skłonić model AI do wykonania niepożądanych działań, takich jak ujawnienie poufnych informacji lub wygenerowanie szkodliwych treści. W przypadku chatbota e-commerce, który przyjmuje dane od klientów, jest to krytyczne ryzyko, ponieważ atakujący mógłby manipulować chatbotem, aby uzyskać dostęp do danych klientów lub zakłócić działanie systemu. Wyciek danych to ogólny problem bezpieczeństwa, a nie podatność po stronie wejścia. Halucynacje LLM to generowanie nieprawdziwych informacji, co jest problemem jakościowym, a nie bezpieczeństwa wejścia. Dryf koncepcji odnosi się do pogarszania się wydajności modelu w czasie, co również nie jest podatnością po stronie wejścia.