前沿推理集群

- Etched 是一家硅谷 AI 芯片初创公司，主打产品叫 Sohu（以一款经典桌游命名），是一款专为 Transformer 模型（当前大语言模型的底层架构）推理加速设计的专用集成电路（ASIC）。 - 传统 GPU（如 NVIDIA H100）是通用计算芯片，能跑多种任务但效率未必最高；Etched 的 Sohu 把整块芯片的晶体管全部优化来跑 Transformer 的“注意力机制”，宣称在推理（模型实际运行、生成回答）时比 GPU 快数个数量级，且能效更高。 - 该公司的核心论点是：AI 行业已经“All-In on Transformer”（所有主流模型如 GPT、Claude、Gemini 都基于 Transformer），因此没必要再做通用加速器，专用硬件在吞吐量和成本上会碾压 GPU。 - “Frontier Inference Clusters” 页面展示的是 Etched 提供的集群级解决方案——将大量 Sohu 芯片组成服务器集群，直接对标 NVIDIA DGX 或云厂自建推理集群，目标客户是需要大规模部署 AI 服务的公司和云平台。 - 关键风险与争议：Sohu 只支持 Transformer，一旦未来出现非 Transformer 的新架构（如 State Space Models 或 RWKV），芯片可能迅速贬值；此外，Etched 是从零开始造芯片，流片、软件栈和生态成熟度远不及 NVIDIA，能否按时交付并拿到客户是最大悬念。