AI推理服务显然有利可图
许多人声称AI推理服务无利可图，只能靠投资者补贴生存。但实际计算和开源模型定价都表明，推理服务的毛利率可达70%-80%。前沿模型每百万Token的推理成本约1美元，而API定价为4.50美元或更高，利润空间充足。虽然OpenAI等AI实验室需要以推理利润补贴训练成本，但独立的推理服务提供商完全可以持续盈利。即便AI泡沫破裂，推理业务也不会消失。
背景速读
- 本文作者Sean Goedecke是一名硅谷工程师，长期撰写关于AI基础设施与软件工程的评论。文章反驳一种常见观点：AI公司都在赔本赚吆喝，靠投资人的"傻钱"续命。
- "推理(inference)"指用户向已训练好的AI模型提问时，背后GPU计算回答的过程；"训练(training)"指用海量数据从头打造模型，成本高得多。"推理"是AI产品的日常运行环节。
- 市场主流观点（如《卫报》/科技媒体）常称LLM太贵、不环保、无利可图，靠风投和ETF散户输血。Goedecke用公开硬件规格和电价估算，论证推理本身利润可达70-80%。
- 关键证据：中国开源模型公司DeepSeek公开宣称其推理利润率超过80%，且其API定价只有OpenAI/Anthropic的一半不到——说明后者的利润空间更大。
- 作者区分两类公司：AI实验室（OpenAI/Anthropic）需要靠推理利润补贴训练新模型的巨额支出；纯粹做推理服务的公司（只跑别人已训练好的模型）则没有这笔负担，因此即便实验室倒闭，使用权转手后推理依然赚钱。