Show HN: Foreman，一个用于成本感知模型路由的自托管LLM网关

Foreman 是一个自托管的大型语言模型（LLM）网关，专注于成本感知的模型路由。它允许用户根据成本、性能等指标智能地将请求分发到不同的LLM后端，从而优化资源使用和降低运营成本。该项目位于 GitHub 上，采用开源方式发布。

背景速读

- **Foreman** 是一个开源的、可自托管的 LLM（大型语言模型）网关，核心功能是 "成本感知模型路由"：当用户发送请求时，它会根据任务自动选择性能足够且成本最低的模型。 - 例如，简单问题走廉价模型（如 GPT-4o-mini、Claude Haiku），复杂推理或编程问题走高端模型（如 GPT-4o、Claude Opus），从而在质量和费用之间取得平衡。 - 该项目针对的是企业在使用多个 AI 模型 API（如 OpenAI、Anthropic、Google）时面临的痛点：不同模型价格差异巨大，手动选择既繁琐又容易浪费预算。 - 背景：2024 年以来，随着大模型数量激增，"模型路由"（LLM routing）成为新兴技术方向，类似商业产品包括 OpenRouter、Portkey、LiteLLM 等。Foreman 的差别是强调自托管（self-hosted），适合对数据隐私有要求的团队。