The first AI agent worm is months away, if that
AIエージェントワーム（自律的に拡散するマルウェア）の出現が目前に迫っている。既存のAIエージェントシステムの設計上の脆弱性を突く攻撃手法が研究されており、特に信頼の連鎖や権限の委譲メカニズムが標的となる。本稿では、AIエージェントのセキュリティモデルの欠陥を指摘し、対策の緊急性を説く。
背景メモ
この記事は、現在急速に普及しつつある「AIエージェント」（自律的にタスクを実行するAIシステム）に、セキュリティ上の根本的な脆弱性があると警告している。具体的には、あるエージェントが別のエージェントに対して「プロンプトインジェクション」攻撃（巧妙な指示文を送り込んで意図しない行動をさせる手法）を仕掛け、自己増殖する「ワーム」として拡散する危険性を指摘。著者のダフニー氏はActivityPub（分散型SNSのプロトコル）の設計者として知られる。議論の背景には、2025年現在、企業がカスタマーサポートやコーディングなどにAIエージェントを導入し始めたが、エージェント同士が通信するためのセキュリティ設計が全く追いついていないという状況がある。従来のソフトウェアの脆弱性とは異なり、AIエージェントは「騙される」という人間的な弱点を持ち、これを悪用した攻撃は既存の対策では防ぎにくい。