启发我思考的事物:开源信任关系、无溯源的知识,以及理论构建
本文汇集了三篇引发深思的文章。首先,AI智能体能够快速生成看似可信的GitHub档案,通过冷邮件在大型开源项目中提交合并请求,这彻底破坏了现有的声誉与信任体系。其次,缺乏溯源信息让用户无法有效质疑LLM给出的答案,而引文并不等同于溯源——训练集才是理解答案语境的关键。最后,编程应被视为理论构建过程,而非代码文本的生产;人员流失和团队频繁变动会导致理论(即真正构建的东西)遭到破坏,但团队追求的理论与公司兜售的产品之间存在张力,且产品本身也不等同于文本——用户教育、文档、培训等均是其组成部分。