我与AI玩捉迷藏的那一天
作者回忆了一次与AI进行捉迷藏游戏的独特经历，通过这场非传统的互动，他亲身体验了人工智能在策略、预测和适应人类行为方面的能力。这场看似简单的游戏不仅揭示了AI的潜力与局限性，也引发了对人机关系本质的深刻思考。
背景速读
- 作者 Gianluca Bailo 是一名 AI 安全研究员，曾在 Anthropic（开发 Claude 的 AI 公司）从事“对齐”（alignment）工作，即确保 AI 系统的行为符合人类意图。
- 本文讲述了他与 Anthropic 开发的“可解释性”（interpretability）工具的一次亲身测试。这类工具试图窥探模型“大脑”，看看它在推理时在想什么。
- 核心背景：Anthropic 近年在“机械可解释性”（mechanistic interpretability）上取得突破，能在大模型运行时识别活跃的“特征”（features）——相当于 AI 的某个概念或思维单元。
- 他发现工具可以定位他试图隐藏的意图，但过程中也暴露了方法论的局限。这触及当前 AI 安全的核心争论：我们能否真正读懂这些黑箱模型在想什么。