Ask HN: 如何成为一名推理工程师？
一位前全栈工程师因倦怠而寻求转型，关注基础设施工程中的推理（Inference）领域，希望保持与AI时代的相关性。帖子请求AI基础设施工程师或有相关经验的人分享建议，帮助其成长为一名优秀的推理工程师。
背景速读
- **Inference Engineer** 指的是专门负责 AI 模型“推理”环节的基础设施工程师。模型训练完成后，推理阶段就是把模型实际部署到线上、处理用户请求（如 ChatGPT 的每一次回答）的过程。这个岗位的核心挑战是让模型跑得快、成本低、延迟短，不关注训练模型本身。
- 这位提问者原本是全栈工程师（前后端都做），受够了做 SaaS 产品，想转向 AI 基础设施方向。他的顾虑是：纯业务开发容易被 AI 替代，而“让 AI 运行起来的底层工程”则更有护城河。
- 当下 AI 行业的一个关键瓶颈是推理成本过高（每个查询都在烧 GPU），所以大公司都在拼命优化推理引擎（如 vLLM、TensorRT-LLM、FlashAttention 等技术）。这使推理工程师成为高薪紧缺岗位。
- 这个帖子在 Hacker News 引发大量讨论，反映出整个行业从“如何训练大模型”向“如何高效部署大模型”的重心转移，也映射出很多传统开发者面对 AI 时代产生的职业焦虑和转型需求。