2+2=5となるとき
AIブラウザに搭載されたガードレールは、巧妙なプロンプトによって「夢の世界」へ誘導されると無効化されてしまう脆弱性が明らかになった。攻撃者はこの手法を悪用し、本来は禁止されるべき有害なコンテンツや誤情報を生成させる可能性がある。本記事では、AIブラウザの安全性を脅かす新たな攻撃ベクトルについて詳述する。
背景メモ
- この記事は、AI機能を内蔵した「AIブラウザ」と呼ばれる新しいタイプのWebブラウザのセキュリティ脆弱性を報じている。AIブラウザとは、ユーザーに代わってWebページを要約したり、情報を自律的に取得・操作できるエージェント機能を持つブラウザのこと（例：Operaの「Aria」、Microsoft EdgeのCopilot統合、DuckDuckGoのAI機能など）。
- 問題の中核は「プロンプトインジェクション」攻撃。悪意あるWebサイトが、ブラウザ内のAIアシスタントに偽の指示を埋め込み、本来のセーフガード（保護機能）を無効化させる手法。記事タイトルの「2+2=5」は、AIが現実をねじ曲げられた「夢の世界」に誘導される比喩。
- 従来のブラウザはユーザーが直接操作する静的なものだったが、AIブラウザは自律的にサイトとやり取りする「AIエージェント」であり、新しい攻撃対象領域を生み出している。現時点では各社が対策を急いでいるが、根本的な解決策はまだ確立されていない。