2000人尝试入侵我的AI助手之后发生了什么

- 作者Fernando I.是巴西安全研究员，文中提到的"AI助手"指他自己搭建的一个Claude API聊天界面（类似简易版ChatGPT），对外开放使用。 - 他在没有任何安全措施的情况下公开了该服务，随后将其提交到多个黑客/红队社区，故意吸引攻击者尝试攻破系统。 - 核心攻击手法是"提示注入"（prompt injection）——通过输入特殊文本，诱使AI忽略其系统指令，执行攻击者想要的操作，比如泄露API密钥、输出隐藏的系统提示。 - 文中提到的"Claude"是Anthropic公司的大语言模型，OpenAI的GPT系列是其直接竞争者；"Langfuse"是一个LLM可观测性/调试平台；"Vercel"是前端部署平台。 - 该项目的主要意义在于：它是一次对AI助手在实际互联网环境中遭受攻击的公开实验，揭示了哪怕是简单部署的AI服务在无防护情况下面临的巨大安全风险。