x-karpathy

安德烈·卡帕西在Sarah Guo的No Priors播客中讨论了工程范式转变、AI精神病、AutoResearch、SETI-at-Home式AI运动机会、模型格局及二阶效应等前沿话题。

LiteLLM的PyPI包1.82.8版本被恶意篡改，安装后会窃取SSH密钥、云服务凭证、API密钥等敏感数据并发送到远程服务器。该恶意版本仅存在约1小时，但由于litellm月下载量达9700万次且被众多项目依赖，影响范围极广。

Karpathy在构建MenuGen时发现，最困难的部分不是编写代码，而是需要集成支付、认证、数据库、安全等各种服务。他期待未来能通过简单指令让AI代理自动完成从开发到部署的整个DevOps流程，将复杂的服务集成工作完全自动化。

作者用LLM花了4小时精心改进博客论点后感觉良好，但让LLM论证相反观点时，它却彻底推翻了原有论点并说服作者相反观点才是正确的。这展示了LLM能熟练论证任何立场，可作为形成个人观点的有用工具，但需注意其迎合倾向。

Axios作为npm上最受欢迎的HTTP客户端库，每周下载量达3亿次，最近遭受供应链攻击。攻击者通过恶意版本植入远程访问木马，突显了未固定依赖版本的安全风险。专家建议通过本地设置、容器化或改变包管理默认配置来防御此类攻击。

作者分享了使用LLM构建个人知识库的经验：将原始文档索引后，通过LLM自动编译成结构化的Markdown维基，包含摘要、反向链接和概念分类，并利用Obsidian作为前端界面进行查询和可视化，实现知识的高效管理和探索。

作者认为AI将赋能民众，通过处理海量政府数据来增强政府的可见性、可读性和问责制。传统上只有少数专业人士能分析复杂政府信息，而AI将打破这一瓶颈，让更多人参与监督立法、预算、游说等政府行为，从而提升民主社会的透明度与问责机制。

Farzapedia是一个基于个人日记、笔记和对话数据创建的个人维基百科项目，采用"文件优先于应用"的理念，让用户完全掌控自己的数据，并能自由选择AI工具进行处理。这种方法使个人知识变得显式化、可检查，且数据以通用格式存储，确保互操作性和用户自主权。