「倫理的AI」に反対する
本稿は、大手テクノロジー企業が提唱する「倫理的AI」という概念自体が、AI開発にまつわる根本的な倫理的問題を覆い隠す方便に過ぎないと批判する。AIの倫理を論じる前に、そもそもAIシステムの構築と運用がはらむ社会的・環境的コストや、搾取的な労働構造に目を向けるべきだと主張する。
背景メモ
- 本稿は、倫理的AI（Ethical AI）に対する批判を展開する論考。データサイエンティストでありフェミニストでもあるCatherine D'Ignazioと、地理学者・データ倫理学者のLauren F. Kleinの共著『Data Feminism』（2020年）の思想を下敷きにしている。
- 筆者は、AIの「バイアス除去」や「公平性」を謳う取り組みは表面的な修正に過ぎず、そもそものデータ収集の権力構造や資本主義的な監視・搾取体制を問い直さない限り問題は解決しないと主張。こうした立場は「データフェミニズム」と呼ばれる潮流に連なる。
- タイトルの「Against Ethical AI」は、AIに倫理を「組み込む」ことそのものが、システム全体の倫理的な問いを矮小化するという批判的な立場を示している。具体例として、フェイスブックのコンテンツモデレーションや検索アルゴリズムにおける人種・ジェンダー差別などが引き合いに出されている。
- この論考が掲載されている『The Literate Woman』は、フェミニズムとテクノロジーの交差点を扱うSubstack上のニュースレター。