英国警察が構築した広範な犯罪予測マシン
英国警察は、膨大なデータを用いて犯罪発生を予測するシステムを構築したが、その一部の結果は信頼性に欠けることが指摘されている。本記事では、この犯罪予測マシンの仕組みと、その精度や倫理的問題について詳しく検証している。
背景メモ
- 英国内務省が主導した「NDAS（National Data Analytics Solution）」は、警察が集めた膨大なデータから将来の犯罪を予測し、介入対象を自動スコアリングするシステム。2019年から複数の警察組織で試験運用された。
- 発端は「Gang Matrix」スキャンダル。ロンドン警視庁が暴徒化リスクを数値化するシステムを運用したところ、黒人や若年層に偏ったタグ付けが発覚。NDASはその後継・改善版として構想された。
- しかし本記事によると、NDASの予測モデルは再現性や妥当性の検証（バリデーション）を適切に実施されておらず、スコアの信頼性が担保できない状態で現場に配備された。ある警察組織では、システムが「将来の加害者」とフラグを立てた人のうち、実際に起訴に至ったのは数％にとどまった。
- 背景には、警察の「データ主導の予防警务（predictive policing）」への強い期待と、予測技術を導入するための法制度（特に2018年データ保護法）の整備がある。しかし、民間の信用スコアリングとは異なり、警察の予測は人の自由やプライバシーに直接的な制約をかける可能性がある点が問題視されている。
- 本件は、AIによる判断の説明責任（アカウンタビリティ）や公正性をめぐる英国の先行事例として、欧米の監視技術規制の議論にも影響を与えている。