プロンプトインジェクションとは？
Prompt Injection ・ ぷろんぷといんじぇくしょん
A. プロンプトインジェクションとは
外部データやWebページに紛れ込ませた悪意ある指示でAIを誤動作させる攻撃です。AIエージェント時代の重要なセキュリティ課題です。
プロンプトインジェクションは、AIが読み込むWebページやファイルなどのデータにAIへの指示を仕込み、本来の指示を上書き・無視させてしまう攻撃手法です。情報漏えいや意図しない操作につながる恐れがあります。
AIが外部ツールやデータにアクセスするAIエージェントでは特にリスクが高く、入力の検証や権限の最小化、信頼できないデータからの指示を実行しない設計などの対策が重要です。