白宫希望Anthropic封堵所有越狱手段，但这或许不可能实现
白宫要求人工智能公司Anthropic采取更严格措施，阻止用户绕过其AI模型的安全限制（即"越狱"行为）。然而，完全封堵所有越狱手段在技术上极具挑战性，甚至可能无法实现，因为攻击者总能找到新的漏洞和绕过方式。这凸显了AI安全监管与现实防御能力之间的核心矛盾。
背景速读
- Anthropic是一家人工智能安全公司，由前OpenAI员工创立，主打"负责任"的AI开发，其产品包括聊天机器人Claude。
- "越狱"（jailbreak）指用户通过特殊提示词绕过AI内置的安全限制，迫使模型生成本应被禁止的内容（如仇恨言论、危险指令）。
- 白宫近期加大了对AI安全的关注，试图让企业对模型被滥用的可能性承担更大责任——这起事件反映了政府监管与AI技术现实之间的张力。
- 核心冲突：白宫要求Anthropic彻底消除所有越狱可能，但AI领域的共识是，基于大语言模型的系统本质上无法做到100%安全——总会有新的提示技巧绕过防护。这不是态度问题，而是技术极限。