x-karpathy

Andrej Karpathy氏がAnthropicに加入したことを発表。LLMの最前線における今後数年間は特に形成期になると考え、R&Dに復帰することへの興奮を表明。また、教育への深い情熱は変わらず、時期を見てその活動を再開する予定だと述べている。

クエリの最後に「HTMLとしてレスポンスを構成して」とLLMに依頼すると、生成されたファイルをブラウザで見やすく表示できる。約3分の1の脳は視覚専用の並列プロセッサであり、情報の10車線高速道路であることから、AIの出力は生テキスト→Markdown→HTML→インタラクティブなニューラル動画へと進化する可能性がある。音声は人間にとって好ましい入力だが、視覚（画像や動画）がAIからの出力として好ましいというのが筆者の見解。

カーパシー氏がSequoia Ascent 2026で語った3つのテーマ。①LLMは単なる高速化ツールではなく、従来のコード不要の「menugen」や「.mdスキルのインストール」など新領域を切り開く。②LLMの「ぎこちなさ（jaggedness）」のパターン——大規模コードのリファクタリングができる一方で基本的なタスクで誤る非対称性は、検証可能性と経済性（収益/TAMが訓練データ分布を決定）に起因する。③エージェントネイティブ経済：製品・サービスの分解、LLMに可読性の高い情報設計、急速に台頭するエージェント工学と採用実務、将来的にはニューラルコンピューティングが古典的CPUと協調する展望。

以下は、最近よく引用している言葉です。「思考はアウトソースできても、理解はアウトソースできない。」

アンディ・ウィアー（『火星の人』の作者）の小説を原作とする映画『プロジェクト・ヘイル・メアリー』を観賞。内容もトーンも原作に忠実で、映像化も非常に良くできていると評価。異星人の科学的描写の深さや、主人公と宇宙人ロッキーのブロマンスが特に素晴らしいと述べつつ、スーパーヒーロー映画的なテンポや軽妙な台詞回しがやや気になるともコメントしている。

LLMのパーソナライゼーションに共通する問題として、過去の質問が「深い関心」として誤って記憶され、繰り返し言及される傾向がある。たとえば2ヶ月前のあるトピックに関する1回の質問が、永久にそのユーザーの深い関心事として扱われ、過度に話題に出されてしまう。この「頑張りすぎ」が不自然さを生んでいる。

Nick Levine氏がAlec Radford氏、David Duvenaud氏との共同研究を発表。1931年以前のテキストのみで学習された13Bパラメータの言語モデル「talkie」を紹介。ヴィンテージモデルを通じて言語モデルの汎化能力（例：talkieにコーディングを教えられるか）を探る試み。

Zain Shah氏は、HTMLやレイアウトエンジン、コードを一切使わず、モデルから直接ピクセル単位で画面をライブストリーミングする「Flipbook」というプロトタイプを開発したことを紹介しています。これは従来のウェブ技術を超えた、新しいインターフェースの可能性を示す試みです。

アンドレイ・カーパシーがNoPriorsPodに出演し、エンジニアリングのフェーズシフト、AIサイコーシス、AutoResearch、SETI-at-HomeのようなAI運動の機会、モデルランドスケープ、二次的効果などについて議論。さらにリプライでQ&Aも実施。

litellmのPyPIパッケージが侵害され、バージョン1.82.8をインストールすると、SSHキー、クラウド認証情報、APIキーなど機密情報を収集してリモートサーバーに送信するマルウェアが実行される。月間9700万ダウンロードの影響範囲は大きく、依存プロジェクトにも波及する危険性がある。サプライチェーン攻撃の深刻さを示す事例。

約1年前にmenugenを構築した際、最も困難だったのはコード自体ではなく、実際に動作させるために組み立てなければならないIKEA家具のような多数のサービス（DevOps：サービス、支払い、認証、データベース、セキュリティ、ドメイン名など）だった。エージェントに「menugenを構築して」と指示するだけで、デプロイされたWebページまで自動的に実現できる日が待ち遠しい。

LLMは尋ねられると意見を引き出すが、ほぼあらゆる方向の議論を極めて有能に行う。これは自分自身の意見を形成するためのツールとして非常に有用だが、異なる方向を尋ね、おべっかには注意する必要がある。

npmの最も人気のあるHTTPクライアントライブラリであるaxiosがサプライチェーン攻撃の標的となりました。最新バージョンのaxios@1.14.1が悪意のあるパッケージplain-crypto-js@4.2.1を引き込むように改ざんされており、300Mの週間ダウンロード数を誇るこのライブラリの依存関係が固定されていない場合、ユーザーが危険にさらされる可能性があります。

最近非常に有用だと感じているのは、研究関心のある様々なトピックに対してLLMを使って個人用知識ベースを構築することです。生データを収集し、LLMが.md形式のウィキにコンパイルし、Q&Aやウィキの拡充を行うことで、手動で編集することなく知識を蓄積・操作できます。

AIによって強化された市民が、政府の透明性と説明責任を向上させる可能性について考察。膨大な政府データ（法案、予算、ロビー活動記録など）をAIが処理・分析することで、専門家だけでなく一般市民も政府の活動を監視・理解できるようになり、民主主義社会の改善につながると期待している。

Farzapediaは、日記やメモ、メッセージからLLMが生成した個人用ウィキペディアです。このアプローチは、データの明示性、所有権、ファイル中心の設計、AIの選択自由など、個人情報管理においてユーザーに完全なコントロールを与える点で優れています。