提示缓存 – Claude 平台文档

- Anthropic 是开发 Claude 的 AI 公司，与 OpenAI、Google 等竞争。Prompt Caching（提示缓存）是其平台的一项功能，允许开发者重复使用已处理过的提示（即用户输入给 AI 的指令文本）的部分内容，从而节省成本和加速响应。 - 其原理是：当多个 API 调用中包含相同的前缀（如长篇背景说明、系统指令或文档），Claude 会缓存该部分的处理结果，后续请求只需计算新增的少量输入。 - 这项功能对需要重复提交大量上下文的应用场景尤为有用——例如 AI 编程助手每次都要附带整个代码库摘要，或客服机器人每次都包含长篇产品手册。 - 技术门槛：开发者需要在 API 请求中显式标记哪些部分可缓存，且有最小缓存长度要求（通常数百 token 以上）。缓存本身有生存时间（如 5 分钟内无命中则失效）。 - 经济意义：缓存命中率越高，每次查询的平均成本和延迟越低。这对将 AI 集成到高频调用产品的团队是重要的成本优化手段。