LawZero：在无私的AI预测者中通过诚实实现安全

本文提出了一种名为LawZero的AI安全框架，其核心思想是构建一个无私的AI预测者——即AI模型仅对世界状态进行客观预测，而不具有自身目标或偏好。通过将诚实性作为系统的基本约束，LawZero试图解决AI对齐问题中的根本性挑战，即在没有明确奖励函数的情况下，如何确保高级AI系统以安全、可预测的方式运行。该框架探讨了在预测模型中嵌入诚实机制的可能路径，为构建本质上安全的AI系统提供了新的理论视角。

背景速读

- 这是一篇 arXiv 上的预印本论文（编号 2606.29657），主题涉及 AI 安全与对齐（AI safety and alignment）——即如何确保强大的人工智能系统不会做出伤害人类的举动，是当前 AI 领域最受关注的前沿议题之一。 - "LawZero" 是作者提出的一个框架或方法，核心理念是：通过让 AI 成为一个“无利害关系”的预测器（disinterested predictor），并基于该预测器的诚实输出来实现安全性。换句话说，它试图绕过传统的价值观对齐（value alignment）难题，转而靠结构设计来保证安全。 - 这篇论文值得关注，因为它代表了一种与主流“训练 AI 服从人类价值观”不同的思路，可能为 AI 治理提供新的理论依据。arXiv 是学术预印本平台，这篇尚未经过正式同行评审。