Show HN: 无需修改代码即可免费获得语义缓存？
Khazad 是一个零代码更改、免费的语义缓存方案，专为 LLM 应用设计。它能自动缓存查询结果，减少 API 调用次数，从而降低成本并提升响应速度。开发者无需修改现有代码即可集成使用。
背景速读
- 这是一个名为 Khazad 的开源工具，位于 GitHub，宣传语是“免费、零代码变更的语义缓存”。所谓语义缓存，是指不仅缓存完全相同的查询结果，还能识别语义相似的查询并直接返回已缓存的结果，从而大幅减少对后端数据库或 API 的重复调用，降低延迟和成本。
- 核心概念：传统缓存（如 Redis）依赖键值精确匹配（key-value exact match），而语义缓存利用向量嵌入（vector embeddings）和近似最近邻搜索（ANN）来判断两条查询是否“意思相近”，从而复用结果。这对于 LLM 应用（比如重复调用大模型生成相似回答）尤其有价值。
- Khazad 宣称能做到“零代码变更”，意味着它可能设计为一个中间层代理（proxy）或 SDK，用户无需修改现有代码即可接入。不过具体实现细节（如支持的数据库后端、向量检索方式）需要看仓库文档。
- 该项目属于 AI Infra / LLM 工程优化方向，目标用户是正在构建或使用 LLM 产品、面临高调用成本和延迟问题的开发者或团队。