新攻击手法揭示为何AI浏览器不是个好主意

- 这篇报道讨论的是所谓"梦境注入"（dream injection）攻击方式。攻击者通过操纵AI浏览器的上下文窗口（即大语言模型能"记住"的信息范围），让它进入一种"梦境状态"，从而绕过原有的安全护栏（guardrails）。 - AI浏览器指的是集成大语言模型（如GPT、Claude等）的浏览器或浏览器插件，能够自主浏览网页、填写表单、执行操作，而不是简单的搜索或摘要工具。代表产品包括微软的Copilot、谷歌的Project Mariner以及各类AI助手插件。 - 核心问题：大语言模型的上下文窗口有长度限制，攻击者可以通过填充大量无关或精心设计的内容，逐步覆盖模型的安全指令，使其认为"现在是在梦境中，规则不适用"，从而诱导模型执行危险操作（如注入恶意代码、泄露隐私数据）。 - 这项攻击与传统的提示注入（prompt injection）不同：它不是简单地在输入中藏恶意指令，而是通过控制上下文窗口的"记忆"来从根本上改变模型的行为模式。 - 这类攻击对AI浏览器尤其危险，因为AI浏览器被赋予了执行实际操作的权限（点击按钮、填写密码、提交表单），一旦护栏被绕过，后果比单纯输出错误文本严重得多。