机器中的鹦鹉

- 本文是哲学家 Emily Bender 和语言学家 Alexander Koller 对当前大型语言模型（LLM）的深度批评。他们早在2020年就提出了"随机鹦鹉"（Stochastic Parrots）这一著名比喻，指出AI系统只是对训练数据中的统计模式进行复述，并不真正理解语义。 - Bender 是华盛顿大学计算语言学教授，也是2020年那篇引发巨大争议的论文《On the Dangers of Stochastic Parrots》的第一作者。该文导致Google解雇了共同作者 Timnit Gebru，成为AI伦理领域的标志性事件。 - 作者的核心论点：当前AI行业吹嘘的"推理能力"和"通用人工智能"是营销炒作。LLM本质上是"文字生成器"，通过预测下一个词来运作，没有世界模型、没有意图、没有对真假的判断力。 - 文章批评了"扩展主义"（Scaling）信仰——即认为只要模型更大、数据更多，智能就会"涌现"。作者认为这是一种伪科学，缺乏理论支撑，且浪费巨大资源。 - 这场辩论关乎AI的未来方向：是继续追求更大的黑箱模型，还是回归可解释、有理论基础的方法？错误地将LLM当作"思考者"来部署，可能对社会决策、司法、医疗等领域带来严重风险。