使用人工智能面临的最大问题

- 作者 Dan Shearer 是资深开源系统管理员，长期关注 AI 系统在实际部署中的工程与管理挑战，本文代表了一线运维人员的视角。 - 文章的核心观点是：当前 AI 领域过度关注模型能力提升，却严重忽视了部署、维护、治理等系统工程问题，导致许多 AI 项目在生产中失败。 - 关键缺失包括：AI 系统难以监控和调试、输出不可复现、缺乏可审计性、供应链不透明（数据与模型溯源困难），以及高昂的持续运营成本。 - 这些问题的根源在于 AI 与传统软件有本质区别——模型行为不可枚举、性能随输入分布变化而漂移，无法用传统的单元测试和确定性调试来保证质量。 - 文中提到的"AI 工程化"困境与行业趋势直接相关：Gartner 等机构报告大量 AI 项目无法落地，欧盟 AI 法案等法规要求可解释性与可审计性，但现有技术栈尚未跟上。