ホワイトハウス、Anthropicにすべての脱獄（ジェイルブレイク）を阻止するよう要請──実現は困難か
ホワイトハウスがAI企業Anthropicに対し、AIモデルに対するすべての「脱獄（ジェイルブレイク）」攻撃を阻止するよう求めているが、専門家は完全な防止は技術的にほぼ不可能だと指摘。Anthropicは安全性向上に取り組むものの、万能な防御策の開発は困難な課題となっている。
背景メモ
• ホワイトハウスがAI企業Anthropicに対し、同社のAIモデル「Claude」に対する「脱獄（ジェイルブレイク）」攻撃を完全にブロックするよう求める国家安全保障覚書（NSM）を発出した。脱獄とは、AIの安全ガードレールを回避させ、本来禁止されている回答（兵器の作り方など）を引き出せるようにするプロンプト手法のこと。
• AnthropicはOpenAIの元メンバーが創業した安全性重視のAI企業。ClaudeはGPT-4などと並ぶ高性能AIモデルだが、Anthropicは「憲法によるAI（Constitutional AI）」という独自の安全手法を売りにしている。
• 問題は「完全な脱獄防止が技術的に不可能に近い」点にある。脱獄は無限にパターンが存在し、一つの対策を施すと別の抜け道が現れる「いたちごっこ」構造。ホワイトハウスの要求は、現在のAIの限界を超えた絶対的な安全性を求めている。
• この緊張関係は、AI規制をめぐる根本問題を象徴する。政府は安全を求めるが、完璧な防御は存在せず、過度な規制は企業の開発を停滞させるリスクもはらむ。