速報：トランプ大統領、Anthropicに不可能な要求
AI企業Anthropicが、トランプ前大統領から実現不可能な要請を受けた。この出来事を受けて、今後の方向性について考察する。
背景メモ
- ゲイリー・マーカスはニューヨーク大学の名誉教授で、AIの安全性や汎用人工知能（AGI）のリスクについて厳しい警告を発することで知られる著名な批評家。スタートアップ「Robust.AI」の創業者でもある。
- AnthropicはOpenAIの元社員らが設立したAI企業で、 Claudeという安全性重視の大規模言語モデルを開発。同社は「憲法的AI」という独自の安全アプローチを掲げ、利益より安全性を優先する構造を標榜している。
- ドナルド・トランプ前大統領のAI政策スタンスは一貫していない。政権時代は規制緩和を推進した一方、最近はAIの「危険性」に言及し、中国との競争を強調している。
- 本記事でマーカスが論じているのは、トランプ政権がAnthropicに対し、安全対策を緩めてでも「検閲なし」のモデルを要求しているという動き。マーカスはこれを、安全性を看板にするAnthropicにとって困難で矛盾した要請だと批判している。
- 背景として、Anthropicは従来、過度なコンテンツフィルタリングを嫌う自由意志主義的なAIコミュニティから「過度に安全志向」「言論の自由を制限している」と批判されてきた経緯がある。