アンソロピック寓話の禁止は終わった。AIを飼いならす方法をめぐる戦いが始まったばかりだ
AI安全企業アンソロピック（Anthropic）が公開した「寓話」と称する実験的AIモデルは短期間で禁止されたが、その背後にあるAI規制をめぐる議論はむしろ激化している。安全性と革新性のバランスをどう取るかという根本的な問題に対し、業界と規制当局の間で新たな戦いが始まろうとしている。
背景メモ
米AIスタートアップAnthropicを巡る「寓話」規制が終わり、AIの安全な開発を巡る本格的な攻防が始まった。AnthropicはOpenAIの元社員らが設立した企業で、安全性重視の姿勢を掲げClaudeというAIモデルを手がける。同社が開発した「憲法型AI」は、AIに人間の価値観を組み込む手法として注目される。
- 本稿の背景には、AI規制を巡る米国での激しいロビー活動と、業界主導の自主規制か政府の強制規制かを問う根本的な対立がある。
- 「寓話（fable）」とは、Anthropicが自社の安全性向上策を政府に示した文書を指すと言われ、この取り組みが終了したことで規制論議が新たな段階に入った。
- カリフォルニア州のSB 1047法案（大規模AIモデルへの安全性試験義務付け）やOpenAIの内部対立など、業界全体で安全性と商業化の緊張が高まっている。