Anthropic CEO：开源AI正变得危险
Anthropic CEO警告称，开源人工智能的发展正变得日益危险。他指出，随着AI能力不断增强，开源模型若被恶意利用，可能带来严重的安全风险，呼吁行业加强监管和安全措施。
背景速读
- Dario Amodei是Anthropic的CEO。Anthropic是一家美国AI公司，以开发Claude系列模型闻名，强调AI安全与对齐研究。
- "开源AI"在此语境下指模型权重公开、可自由修改和部署的AI系统，如Meta的Llama系列。这与Anthropic等公司采用的封闭API模式形成对比。
- 该言论的背景是开源大语言模型（如Llama、Mistral等）性能快速提升，几乎追平闭源模型。Amodei担忧这些模型可能被恶意使用（如制造生物武器、大规模钓鱼等），且缺乏监管和安全护栏。
- 这场辩论的核心张力：开源促进创新与民主化，但也增加了"不可控"滥用风险；闭源便于集中管控，但权力过于集中。硅谷内部对此分歧严重。