AIによる行政に対する司法の警鐘
本記事は、政府によるAI活用に対して司法が発した警告的な判断を取り上げ、行政上の意思決定や手続きにAIシステムが用いられることの法的・制度的リスクを分析する。AIによる政府運営が進む中で、説明責任や適正手続きの確保が喫緊の課題となっていることを指摘する。
背景メモ
- 米連邦控訴裁判所が、ソーシャルセキュリティ庁（SSA）が特許審査で用いるAIシステム「ARTU」（参照用文章自動評価ツール）の使用を、連邦の規則制定手続きに違反するとして差し止めた事件の分析。
- 問題となったのは、AIが審査官の「合理的な判断」を事実上代替し、人間の裁量を排除している点。裁判所は、AIの判断基準や検証可能性が不透明なまま行政判断に使われることへの懸念を表明。
- 背景として、米国政府内でAIの行政判断への応用が急速に進む中、本判決は「アルゴリズムによる行政（Government by AI）」に対する初の本格的な司法的歯止めと位置づけられる。
- 特に「機械可読ルール」の概念が注目される。AIが法律や規則の解釈をコード化して判断する場合、それが連邦行政手続法（APA）が求める「公衆参加と説明責任のプロセス」を迂回してしまう危険性を、裁判所が警告した形。
- SSAはARTUを「補助ツール」と説明したが、実態は特許審査の重要な部分を自動化しており、そのギャップが司法の判断を招いた。