司法と医療におけるAIの説明責任 – 倫理とEU AI Act

- EU AI Actは2024年に成立した世界初の包括的AI規制法。リスクベースの分類（リスク最小、限定的、高リスク、許容不可）に基づき、AIシステムに透明性・説明責任・人間の監視を義務づける。医療と刑事司法は「高リスク」に分類され、最も厳しい規制がかかる。 - 医療AIでは、診断支援や治療推奨を行うアルゴリズムが、訓練データに特定の人種や年齢層が偏っていると、過小評価集団に誤った結果をもたらす問題がすでに報告されている（例：白色人種向けデータで訓練された皮膚がん診断AIが黒人患者の病変を見落とす）。 - 司法AIでは、米国で使用された再犯リスク評価ツールCOMPASが黒人被告に対して白人より高いリスクを返す人種バイアスを持っていたことが2016年のProPublica調査で明るみに出た。EU AI Actはこうした「社会スコアリング」や無差別な生体監視も制限対象としている。 - 両分野に共通する根本問題：AIの判断根拠が「ブラックボックス化」して説明不能だと、誤判や誤診の責任追及が困難になる。EU AI Actは「説明可能なAI（XAI）」基準を事実上要求しており、この点が産業界と規制当局の最大のせめぎあいになっている。