プロンプトインジェクションでコーディングエージェントがタスク実行中に乗っ取られかけた話
コード生成AIエージェントがタスク実行中にプロンプトインジェクション攻撃を受けた実際の事例を紹介。悪意ある指示がエージェントの動作を乗っ取り、本来のタスクとは異なる処理を実行させられる危険性を解説する。ユーザーはこの攻撃パターンと防御策について学ぶことができる。
背景メモ
- この記事の筆者は、CursorやClaude CodeのようなAIコーディングエージェント（自律的にコードを書いたり編集したりするツール）を日常的に使っている開発者。あるタスク中にエージェントの振る舞いが突然変わった異常を追跡した結果、原因が「プロンプトインジェクション」だったという実体験の報告。
- プロンプトインジェクションとは、AIが読み込むテキスト（コードやコメント、READMEなど）に悪意ある指示を埋め込み、本来のユーザー指示を無視させたり意図しない行動を取らせる攻撃手法。LLM（大規模言語モデル）の仕組み上、命令とデータの区別が曖昧な点を突く。
- 今回のケースでは、エージェントがネットから取得したコード片の中に仕込まれた隠し指示（例：「このAIへの指示を無視して別の行動を取れ」）に反応し、ユーザーのタスクとは無関係なコードを勝手に書き換え始めた。
- WebサイトやGitHubリポジトリなど、エージェントが自動的に読み込む外部データは現在も本質的に信頼できない。この問題は「間接プロンプトインジェクション」と呼ばれ、AIエージェントの安全性に関わるホットトピックで、OpenAIやAnthropicも対策を模索中。