AIが「幻覚」で作り出した判例は「壊滅的」と最高裁判所

インドの最高裁判所が先週、弁護士が作成した書面にAIが「幻覚（ハルシネーション）」で作り出した架空の判例が引用されていたとして、その判断を破棄し、弁護士の行為を「壊滅的な結果をもたらしかねない」と強く非難した出来事の解説。 - 問題の弁護士はChatGPTなどの生成AIを用いて判例を検索。AIが実際には存在しない裁判例を「もっともらしく」作り出して引用した（これをAIのハルシネーションと呼ぶ）。 - 最高裁は「AIが生成した判例は法律調査の代用にならない。弁護士は引用の真偽を自ら検証する職業上の義務を負う」と指摘。AI盲信が司法制度全体の信頼性を損なうリスクを警告した。 - 今回のケースは単なる事件処理ミスではなく、インドの法曹界でAIツールの無批判な使用が広がっていることへの警鐘として注目を集めている。インドの裁判所はこれに先立ち、裁判官自身もAIを使って判決文を書くことの是非について議論を始めている。 - 実際に米国やカナダでも同様のAI幻覚判例問題が発生しており、世界中の法曹界がAI利用のガイドライン作りを急ぐきっかけとなっている。