エージェンティックAIの現在地、そして私たちはそれをどうありたいのか
MITが公開した本記事では、自律的に行動・判断・学習を行う「エージェンティックAI」の現状と展望を考察。現時点での技術的課題や倫理的懸念を整理し、人間の意図を正しく理解・実行できるAIの理想像について議論している。今後のAI開発において、私たちが何を目指すべきかを問いかける内容となっている。
背景メモ
- エージェンティックAIとは、ユーザーからの指示を待たずに自律的に計画・判断・実行するAIシステムのこと。従来のチャット型AI（単発の質問応答）とは異なり、複数ステップのタスクを自ら進める点が特徴。
- MITの研究チームが、現状のエージェンティックAIは「実際にはまだ自律的ではない」と指摘。現在の主流は、同じプロンプトで同じ結果が出るとは限らない「非決定論的」な振る舞いをするプロトタイプ段階だと評価。
- 安全面の課題も大きい。誤った情報を元に強硬に行動を続ける「ハルシネーションの連鎖」や、AIが環境に不可逆的な影響を与えるリスクが指摘されている。
- 本来あるべき姿として、決定論的な保証（同じ入力→同じ出力）、透明性（なぜその行動を選んだか説明可能）、人間による確実な介入手段を備えたシステムを提唱。つまり、空想上の「超自律AI」ではなく、検証可能で制御可能な道具としてのAI設計を求めている。