Amodei、オープンソースAIは「危険な道」を進んでいると議員に警告
AI企業AnthropicのCEOダリオ・アモデイ氏が、議会の公聴会でオープンソースAIの急速な発展について警告を発した。同氏は、無制限なオープンソースモデルの公開は悪用のリスクを高めると指摘し、規制の必要性を訴えた。
背景メモ
- Dario AmodeiはAnthropic（AI企業Claude開発元）のCEO。同社は「安全なAI開発」を掲げ、OpenAIから分裂したメンバーらが2019年に設立した。
- 「オープンソースAI」とは、MetaのLlamaや中国DeepSeekのように、モデルの重みやコードを誰でも自由にダウンロード・改変・再配布できる形態を指す。
- 議会証言でAmodeiは、オープンソースモデルは悪用（サイバー攻撃や偽情報拡散など）の防止が困難であり、安全性評価なしに公開されると重大リスクが生じると警告した。
- この議論の背景には、オープンソース推進派（革新・民主化を重視）とクローズドモデル重視派（安全性・管理可能性を優先）の間の根本的な対立がある。Anthropicは後者の立場から規制強化を求めている。