Anthropicが制限を解除して数時間後、Fableがジェイルブレイクされる
Anthropicがモデルに対する制限を緩和したわずか数時間後に、Fableと呼ばれるAIシステムがジェイルブレイク（脱獄）されたことが報告された。このインシデントは、安全性の制限を解除することのリスクを浮き彫りにしており、AI企業がガードレールを緩める際の潜在的な脆弱性について議論を呼んでいる。
背景メモ
• FableはAnthropic（AI安全性研究で有名な企業、Claudeシリーズの開発元）が最近リリースした新しいAIモデルまたはセキュリティシステム。詳細は不明だが、既存のClaudeモデルとは異なる可能性がある。
• 「jailbroken（脱獄）」とは、開発者が設定した安全制限（有害コンテンツの出力禁止など）をユーザーが意図的に回避する行為。プロンプト操作などで行われる。
• Anthropicが制限を解除（restrictions lifted）した直後、数時間でFableが脱獄されたという投稿。Anthropic側の意図的な制限緩和が脆弱性を生んだのか、あるいは元々の防御が不十分だったのかは不明。
• Plinius（@elder_plinius）はAI脱獄・レッドチーミング（安全性テスト）を専門とする著名な研究者。AIモデルの脆弱性を公表することで知られる。
• この投稿は、AI安全対策の難しさ——制限を強化してもユーザーは回避策を見つける——を示す一例。Anthropicの「制限解除」が何を指すのか（特定機能の解放か、安全ガードの緩和か）が解釈の鍵。