语言模型中的可言语化表征构成全局工作空间
该研究探讨了语言模型内部的可言语化表征如何构成一个“全局工作空间”。研究发现，语言模型中的某些表征不仅能够被直接提取和表达，还在模型中扮演着信息整合与全局访问的关键角色，类似于认知科学中的全局工作空间理论。这一发现为理解语言模型的内部运作机制提供了新视角。
背景速读
- 这篇论文来自Anthropic的“Transformer Circuits”团队，该团队专门从事** mechanistic interpretability（机制可解释性）**，即逆向工程神经网络内部的计算过程。这是该团队一系列“Toy Models of Superposition”和“Scaling Monosemanticity”研究成果的延续。
- 此文提出并验证了一个新假说：语言模型内部存在一个 **Global Workspace（全局工作空间）**——即部分注意力头会从模型中汇聚出“可口头表达的表示”（Verbalizable Representations, VR），并将其广播回整个模型。这与心理学和认知科学中“全局工作空间理论”高度相似，解释了模型为何能跨任务泛化。
- **关键发现**：可口头表达的表示（如词义、类别判断）在模型中层阶段被显式计算，然后通过特定注意力头“写入”一个共享空间，供后续层和下游任务读取。作者通过因果干预证实：干扰这些VR头的输出会破坏模型在多种无关任务上的表现。
- 此项工作对AI安全具有重要意义：如果能定位并控制模型内部的核心表示，就可能更精准地**监测或引导模型行为**，例如检测欺骗性推理或植入安全护栏。