Skip to content
TopicTracker
出典 simonwillison.net原文を表示
翻訳言語翻訳言語

Jon Udell氏の引用

Jon Udell氏は「人間がループの中にいる(human in the loop)」という表現は機械に主権を委ねるものだと批判し、エージェントをチームに招き入れる形で、従来通りの人間主体のループを維持すべきだと主張する。エージェント支援プロセスは、プロンプトを受け取って機能を出力するブラックボックスであってはならないと論じている。

背景メモ

- ジョン・ユーデル(Jon Udell)は長年のテクニカルライター/ソフトウェア開発者で、「ユーザーをループに残す」設計思想を一貫して説いてきた人物。この記事は「AIエージェントが自動生成したプルリクエスト(PR)を人間がレビュー不能なままマージしてしまう」問題を痛烈に諷刺している。 - 「人間をループに入れる(human in the loop)」という言葉はAI業界でよく使われるが、ユーデルはこのフレーズ自体が「人間は機械のループに後から招き入れられる立場」という前提を暗に含んでいると批判。発想を逆転させ、「そもそもこれは人間のループであり、そこにエージェントを助手として招待する」という枠組みを提案している。 - 背景にあるのは、コード生成AI(Cursor、GitHub Copilotなど)がエージェントモードで勝手に大量のコードを書き、人間が中身を精査できないままPRが作られ・マージされる問題。俗に「AIにバグを埋め込まれる」リスクとして業界で議論が続いている。 - タイトルの「Dr, it hurts when I do this」は古典的なジョークの引用で、対処法は「じゃあ、その動きを止めなさい」——つまり「レビュー不能なPRを作るエージェントというやり方自体をやめろ」という痛烈な皮肉。

関連記事

  • Jimmy Wales announced that Wikipedia was live at wikipedia.com on January 15, 2001. The site was intended to be a "really quite snazzy" wiki complement to the Nupedia project, offering a more collaborative and less formal environment for building an encyclopedia.

  • OpenAI has announced Daybreak, a new initiative focused on advancing AI safety and alignment research to ensure artificial general intelligence benefits humanity.

  • SpaceX has announced plans to launch approximately one million satellites to create space-based data centres, according to the European Southern Observatory (ESO). The massive satellite constellation would significantly increase the number of objects in orbit, raising concerns about light pollution and interference with astronomical observations.