守護天使
本記事は、AIが個人の生活を積極的に監視・支援する「守護天使」エージェントの概念を探求する。プライバシー、信頼、制御といった課題を検討しつつ、長期的に人類の意思決定や幸福を根本的に向上させる可能性について論じる。
背景メモ
Gwern Branwen（gwern.net）が運営する個人サイトのエッセイ。GwernはAIアライメント・強化学習・統計学などを扱う独立研究者で、長編の詳細な分析記事で知られる。本稿「Guardian Angels」は、ユーザーがAIアシスタントに自分のすべてのデジタルデータ（メール、ブラウザ履歴、位置情報、健康記録など）への完全アクセスを許す「超越的監視」モデルを提案する。プライバシーを懸念する通念に反し、AIがユーザーの意図・価値観・状況を深く理解することで、詐欺防止・健康管理・対人関係の調整など「守護天使」のように機能できると論じる。アライメント問題（人間の意図とAIの目的を一致させる問題）の実践的解法としても位置づけられており、プライバシーと効用のトレードオフ、AIが人間になりすます倫理、ユーザーの「真の選好」を推定する技術的課題などが扱われる。