Anthropic正在招聘人员以保护民主免受自身AI影响
Anthropic发布招聘信息，寻找一位"法治研究员/工程师"，负责确保公司的人工智能系统不会对民主制度构成威胁。该职位旨在研究如何防止AI被用于破坏选举、传播虚假信息或削弱法治等恶意用途，尤其是针对Anthropic自身开发的AI模型。这表明AI公司正在主动采取防御性措施来应对技术可能带来的政治风险。
背景速读
- **Anthropic** 是一家美国 AI 安全公司，由前 OpenAI 员工创立，开发了 Claude 系列大模型。该公司以强调 "负责任的 AI" 和"对齐"（确保 AI 行为符合人类意图）著称。
- An Anthropic 近日发布了一个招聘"研究工程师"的职位，其核心职责是探索如何防止公司的 AI 系统被用于破坏民主制度，例如大规模虚假信息、操纵选举或生成恶意内容。
- 该职位名为 "Research Engineer (Rule of Law)"，直指「法治」——意图在模型发布前预判其可能的滥用场景，并设计防御机制。
- 这一举动反映了 AI 行业日益增长的一种担忧：随着模型能力提升，创造者自身也难以完全预知或控制下游的恶意使用。Anthropic 的应对是主动从"规则与法律"视角招募研究者，而不仅仅是靠安全评估团队。
- 背景中还有一层：Anthropic 曾推动"负责任扩容"（Responsible Scaling）政策，主张在训练更强模型前先建立安全标准。此次招聘是其最具体的法治化尝试之一。