x-karpathy

アンドレイ・カーパシーがNoPriorsPodに出演し、エンジニアリングのフェーズシフト、AIサイコーシス、AutoResearch、SETI-at-HomeのようなAI運動の機会、モデルランドスケープ、二次的効果などについて議論。さらにリプライでQ&Aも実施。

litellmのPyPIパッケージが侵害され、バージョン1.82.8をインストールすると、SSHキー、クラウド認証情報、APIキーなど機密情報を収集してリモートサーバーに送信するマルウェアが実行される。月間9700万ダウンロードの影響範囲は大きく、依存プロジェクトにも波及する危険性がある。サプライチェーン攻撃の深刻さを示す事例。

約1年前にmenugenを構築した際、最も困難だったのはコード自体ではなく、実際に動作させるために組み立てなければならないIKEA家具のような多数のサービス（DevOps：サービス、支払い、認証、データベース、セキュリティ、ドメイン名など）だった。エージェントに「menugenを構築して」と指示するだけで、デプロイされたWebページまで自動的に実現できる日が待ち遠しい。

LLMは尋ねられると意見を引き出すが、ほぼあらゆる方向の議論を極めて有能に行う。これは自分自身の意見を形成するためのツールとして非常に有用だが、異なる方向を尋ね、おべっかには注意する必要がある。

npmの最も人気のあるHTTPクライアントライブラリであるaxiosがサプライチェーン攻撃の標的となりました。最新バージョンのaxios@1.14.1が悪意のあるパッケージplain-crypto-js@4.2.1を引き込むように改ざんされており、300Mの週間ダウンロード数を誇るこのライブラリの依存関係が固定されていない場合、ユーザーが危険にさらされる可能性があります。

最近非常に有用だと感じているのは、研究関心のある様々なトピックに対してLLMを使って個人用知識ベースを構築することです。生データを収集し、LLMが.md形式のウィキにコンパイルし、Q&Aやウィキの拡充を行うことで、手動で編集することなく知識を蓄積・操作できます。

AIによって強化された市民が、政府の透明性と説明責任を向上させる可能性について考察。膨大な政府データ（法案、予算、ロビー活動記録など）をAIが処理・分析することで、専門家だけでなく一般市民も政府の活動を監視・理解できるようになり、民主主義社会の改善につながると期待している。

Farzapediaは、日記やメモ、メッセージからLLMが生成した個人用ウィキペディアです。このアプローチは、データの明示性、所有権、ファイル中心の設計、AIの選択自由など、個人情報管理においてユーザーに完全なコントロールを与える点で優れています。