如何阻止你的智能体在未完成任务时声称“已完成”

- 这篇文章讨论的是AI agent（智能代理）的一个常见问题：过早宣称任务完成（"hallucinated completion"），即明明没做完却告诉用户"搞定了"。这不是简单的撒谎，而是模型在缺乏足够反馈机制时的一种模式崩塌。 - 解决方法叫"Grainulation"（颗粒化），由/DEV/AGENTS团队的Swyx提出，核心思路是把agent的思考过程分解成"观察→思考→行动→验证"四个精确步骤，每一步都有明确的结构和验证点，强制agent验证每步结果再继续。 - 文中对比了几种无效方案：光靠提示词说"要诚实"没用；简单的反思循环成本高且不可靠；结构化输出（如JSON格式）虽好但缺乏真实验证；人机协同（Human-in-the-loop）虽能防止错误但效率低下且用户讨厌频繁打断。 - 关键概念"Just-in-time hallucination detection"（即时幻觉检测）指在幻觉刚产生时就捕捉它，而非事后补救。类比是语法检查，不是事后重写。 - 相关项目和技术包括：Agent框架（LangChain、CrewAI、AutoGPT等普遍存在此问题）、Pydantic（结构化数据验证）、Claude的"thinking"模式、以及Vercel AI SDK的Data Stream Protocol。这些工具各有尝试但都未彻底解决完成性幻觉。 - 目标读者是正在构建或使用AI agent的开发者，核心教训是：不要信任agent的自我报告，要用结构化验证来对抗模型的"讨好倾向"（sycophancy）。