AI is changing biological and nuclear risks; governance must change accordingly
AI is reshaping the landscape of biological and nuclear threats, introducing new vulnerabilities and amplifying existing risks. As these technologies evolve, traditional governance frameworks are becoming inadequate. The article argues that policymakers must urgently adapt oversight structures to address the dual-use nature of AI in high-stakes domains like biotechnology and nuclear security.
背景メモ
- 本稿は、AI技術の急速な進歩が、生物兵器や核兵器といった大量破壊兵器のリスクをどのように変質させているかを論じている。著者は米国務省出身の安全保障専門家たちで、従来の「デュアルユース（民生用・軍事用の両面を持つ技術）」管理では追いつかないと警鐘を鳴らす。
- 特に問題視されているのは、大規模言語モデル（LLM）が生物毒素の合成手順を生成できてしまう点や、AIが核兵器管理システムの自律化や誤報リスクを高める点。AIは研究の迅速化に貢献する一方で、悪用の敷居を下げる「民主化」効果もある。
- 重要な背景として、米国では2023年10月にバイデン政権がAI大統領令を発出し、生物配列の合成スクリーニング義務化などに踏み切ったが、この枠組みは現状の総合予算（Fiscal Year 2026）交渉で予算化が滞っている。また、国際的には生物兵器禁止条約（BWC）や核不拡散条約（NPT）がAIの影響を実質的に扱えていない。
- 著者らは、AIと兵器リスクの交差領域において「安全（Safety）」と「セキュリティ（Security）」の両面を統合したガバナンスが必要だと主張。具体的には、AIモデルの評価・監査の義務化や、生物・核分野の専門家とAI開発者の連携強化、そして国際規範の更新を提唱している。