野外发现基于网页的间接提示注入攻击
Unit 42 研究团队在现实网络环境中发现一起针对 AI 智能体的新型间接提示注入攻击案例。攻击者通过在网页中嵌入恶意指令，诱导 AI 系统执行非预期的操作，例如泄露敏感数据或绕过安全限制。这一发现凸显了 AI 应用在解析外部内容时面临的安全挑战，也为防御此类攻击提供了重要参考。
背景速读
- Unit 42 是网络安全公司 Palo Alto Networks 旗下的威胁情报团队，长期跟踪黑客攻击手法。
- 提示注入（Prompt Injection）是一种针对大语言模型（LLM）的攻击：攻击者把恶意指令藏在数据（如网页、邮件）中，诱使 AI 代理执行非预期的操作。
- "间接提示注入"（Indirect Prompt Injection）指攻击者并非直接跟 AI 对话，而是通过 AI 能读取的外部内容（例如一条网页评论、一封邮件）来植入恶意指令。
- 本文报告的是"野外的"（in the wild）案例，即该攻击已不在实验室或理论层面，而是被真实黑客在互联网上实际使用。
- 对 AI 代理（AI Agent）而言风险尤其高，因为它们能自主调用工具、读取网页、操作 API，一旦被注入指令，可能导致数据泄露或越权操作。