Snyk研究发现 ToxicSkills 研究中36%的载荷存在提示注入
Snyk 在 ToxicSkills 研究中发现，ClawHub 平台上 36% 的恶意 AI 代理技能载荷存在提示注入漏洞。该研究揭示了攻击者如何通过注入恶意指令操控 AI 代理，并分析了这些安全威胁对 AI 供应链的影响，提醒开发者在使用第三方 AI 技能时需加强安全审查。
背景速读
- Snyk 是一家知名的网络安全公司，专注于开源软件和供应链安全，经常发布针对开发者生态系统的安全研究报告。
- "Prompt Injection"（提示注入）是一种针对AI模型的攻击方式：攻击者通过构造恶意输入，欺骗AI忽略原本的指令或执行未经授权的操作。
- "Skills" 在AI语境下指的是可被AI助手调用的第三方插件或工具模块，例如让AI读取文件、发送邮件等。
- ClawHub 是研究中提及的一个托管恶意AI "Skills" 的在线平台，类似AI模型的“应用商店”，但缺乏安全审查。
- 这项研究警示：随着AI Agent（能自主执行任务的AI系统）的普及，开发者如果随意安装第三方Skills，可能会将提示注入漏洞带入自身应用，导致数据泄露或权限滥用。