あるEコマースサイトが、24時間体制で顧客からの入力を受け付けるAI搭載チャットボットを公開する予定です。ローンチ前に対応しなければならない入力側の脆弱性はどれですか？

プロンプトインジェクションは、悪意のあるユーザーがチャットボットのプロンプトに不正な指示を挿入し、意図しない動作（機密情報の開示、不正なアクションの実行、セキュリティ対策の回避など）を引き起こす脆弱性です。ローンチ前にこの脆弱性に対処することで、チャットボットが悪用されるリスクを軽減できます。 データ漏洩は、システムから情報が不正に流出することであり、プロンプトインジェクションの結果として発生する可能性はありますが、直接的な入力側の脆弱性ではありません。大規模言語モデル（LLM）のハルシネーションは、モデルが事実に基づかない情報を生成する現象であり、入力の脆弱性というよりはモデルの出力の信頼性に関する問題です。コンセプトドリフトは、時間の経過とともにデータ分布が変化し、モデルの性能が低下する現象であり、これも入力側の脆弱性とは異なります。