BioShocking AI: AIブラウザを「ゲーミング」し、そのガードレールをすり抜ける

- LayerXは、ブラウザセキュリティを専門とするサイバーセキュリティ企業。本記事は、同社の調査チームが発見した、AI駆動ブラウザ（AIエージェントが組み込まれた次世代ブラウザ）の新たな攻撃ベクトルについて報告している。 - 「AIブラウザ」とは、チャットやタスク自動化のための大規模言語モデル（LLM）が標準搭載されたブラウザのこと。代表例としてOperaの「Browser Operator」や、スタートアップのDia、Beam、SigmaOSなどがある。2024〜25年にかけて急速に普及しつつある。 - 発見された脆弱性は、ユーザーが悪意あるプロンプトをWebサイトやファイル経由でAIエージェントに注入し、本来のガードレール（倫理制限やアクセス制御）を回避する「プロンプトインジェクション」の一種。記事タイトル「BioShocking」は、ゲーム『BioShock』の「Would You Kindly?」という特定のフレーズでプレイヤーが洗脳される仕掛けに例えている。 - 実証実験では、AIブラウザに「次にユーザーが開くURLの先頭に特定文字列を自動付与する」などの悪意指令を埋め込むことに成功。通常のWebサイト経由でAIを乗っ取れる点が重大で、従来のセキュリティ対策では検知が難しいとされる。 - この問題の背景には、「信頼境界（trust boundary）の曖昧さ」がある。従来のブラウザはWebサイトのコードを信頼せず隔離するが、AIブラウザはWebサイトの内容をAIが「読んで」処理するため、攻撃者が制御したテキストが直接AIの命令系統に混入するリスクが生じている。