Ask HN: 最佳 AI 网关是什么？
本文探讨了当前市场上主流 AI 网关方案的选择。作者目前直接使用 Anthropic 的路由器运行 AI 代理，但正在考虑是否切换到 OpenRouter、Vercel AI Gateway 或 Cloudflare 的 AI 网关。作者初步研究发现 OpenRouter 模型和提供商最多，但会收取 5.5% 的即用即付平台费用，且不支持提示缓存等特性。由于作者团队主要使用 Cloudflare 生态，也注意到了其 AI 网关，但指出目前关于“最佳 LLM 网关”的评测文章多由拥有自家网关的公司发布，中立性存疑。
背景速读
- AI Gateway 是一个 API 代理层，位于你的应用和各大 AI 模型提供商（如 Anthropic、OpenAI）之间。它负责路由请求、处理密钥管理、记录使用量、控制费用等。类似 Stripe 之于支付网关，但针对的是大语言模型（LLM）调用。
- 文中提到的企业：Anthropic 是 Claude 模型的公司；OpenRouter 是一个聚合了数百个模型/提供商的代理服务，但收取 5.5% 的平台费且不支持提示缓存（prompt caching，即复用已计算过的对话上下文以降低成本）；Vercel AI Gateway 是前端部署平台 Vercel 提供的代理服务；Cloudflare 也推出了自家的 AI Gateway，因为用户主要使用 Cloudflare 生态。
- “VS Code forks 翻版”是个类比：过去几年几乎每个公司都推出了 VS Code 的分支版，如今每家公司都在做自己的 AI Gateway，市场极其拥挤且同质化严重。
- 用户的核心矛盾是：想找一个支持提示缓存、不增加额外抽成、不卖自己产品的第三方文章来评估。但能搜到的 “2026 年最佳 LLM 网关” 评测文章，发文的公司自己就是卖网关的，信息可信度存疑。