当务之急

- 本文作者是 Scott Alexander（化名），知名博客 Astral Codex Ten（前身为 Slate Star Codex）的作者。他的写作内容涵盖心理学、医学、人工智能风险、理性主义社群等，在硅谷和科技圈有大量读者。 - 标题 "What Should Be Done" 是一个经典政治哲学问题，但在此语境下讨论的是一套针对人工智能（AI）快速发展的公共政策建议——即当 AI 可能带来巨大变革甚至风险时，社会应如何应对。 - 这篇文章出现在 AI 安全（AI safety）和有效利他主义（Effective Altruism）社群内部激烈辩论的背景下。近年来，随着 ChatGPT、GPT-4、Claude 等大语言模型的爆发，关于 AI 失控风险、"对齐问题"（让 AI 目标与人类价值观一致）以及政府监管的讨论迅速升温。 - Scott Alexander 此前以长篇逻辑论证而闻名，常对 AI 末日论持谨慎态度。本文标题致敬了列宁的同名著作《怎么办？》，暗示他在试图提出一个务实的、可操作的行动纲领，而非纯理论讨论。