为什么仅有记忆是不够的：你需要上下文管理
本文探讨了在大语言模型应用中，仅依赖记忆（memory）功能的局限性，并提出了更关键的“上下文管理”（context management）概念。作者指出，有效的上下文管理能帮助AI系统更好地理解任务背景、用户意图和历史交互，从而提供更准确、连贯的响应。文章强调了区分短期上下文与长期记忆的重要性，并给出了实际应用建议。
背景速读
- 大型语言模型（LLM，如ChatGPT、Claude）的核心局限：它们没有真正的"记忆"，每次对话都是独立计算，无法自动记住之前的交流内容。
- 为解决这个问题，业界出现了"记忆"方案——把历史对话存下来，下次提问时一并塞给模型。但这只是原始数据的堆砌，模型仍然不知道哪些信息重要、哪些已过时。
- 本文提出"上下文管理"（Context Management）这个概念，强调需要一套机制来决定：保留什么、丢弃什么、何时更新——而不是把所有历史都倒给模型。
- 作者所在的Lore公司正在做这个方向的工具：让AI助手能真正"理解"哪些信息对当前任务有用，而不是单纯地"记住"所有说过的话。