Ask HN:为什么我们人类仍然需要提示来让智能体变得更好?
作者质疑,既然智能体(Agent)比大多数人类更聪明,为什么不让它们自我改进,而非依赖人类不断提供提示?虽然许多公司已为此筹集大量资金,但相关产品仍未普及或实现通用化。作者对此感到困惑。
背景速读
- 这是 Hacker News 上的一篇帖子,用户困惑为什么AI Agent(智能体)不能自我改进,而仍需人类不断"提示"(prompting)来迭代。
- AI Agent 是指能自主推理、规划、执行任务的AI系统,而不仅仅是聊天机器人。目前主流做法是让人类设计提示词(prompt)来教Agent怎么做,而不是让Agent自我反思、自我优化。
- 许多AI创业公司(如Cognition AI的Devin、AutoGPT等)号称要构建"自主Agent",并获得了大量融资,但它们的产品在实际工作中仍高度依赖人工干预,尚未达到"自动驾驶"级别。
- 核心矛盾:如果AI已经"比我们大多数人都聪明",为什么不能自己写提示词、自己调试、自己迭代?帖子质疑的是行业现状与宣传之间的差距,以及自我改进能力缺失的根本原因(是技术瓶颈,还是激励结构/安全顾虑所致)。