한 전자상거래 사이트에서 24시간 고객 입력을 받는 AI 기반 챗봇을 출시할 예정입니다. 출시 전에 해결해야 할 입력 측 취약점은 무엇입니까?

정답은 프롬프트 인젝션입니다. 챗봇은 고객 입력을 직접 받기 때문에 악의적인 사용자가 챗봇의 지침을 재정의하거나 의도하지 않은 작업을 수행하도록 조작할 수 있는 프롬프트 인젝션 공격에 취약합니다. 이는 챗봇 출시 전에 반드시 해결해야 할 입력 측 취약점입니다. 데이터 유출은 시스템에 저장된 민감한 정보가 무단으로 노출되는 것이며, 입력 측 취약점이라기보다는 보안 취약점에 가깝습니다. LLM 환각은 모델이 사실과 다른 정보를 생성하는 문제로, 출력 측 문제에 가깝습니다. 개념 드리프트는 시간이 지남에 따라 데이터 분포가 변하여 모델 성능이 저하되는 것으로, 모델 유지 관리 문제입니다.