Redeploying Fable 5
Anthropic has redeployed Fable 5, an AI system developed to enhance safety and alignment research. The redeployment focuses on improving the model's capabilities while ensuring robust safety measures are in place. This move reflects Anthropic's ongoing commitment to responsible AI development and deployment.
背景メモ
- Anthropic（AI企業）が開発したFable 5は、同社の安全研究チームが構築したAI評価・訓練用のシミュレーション環境。もともと「Silly Putty」という仮名で内部開発されていた。
- Fable 5はAIエージェント（AIが自律的に行動するシステム）の安全性を検証するためのツールで、複数のAIモデルが登場するロールプレイングシナリオを通じて、モデルの出力を評価する。
- Anthropicはこの技術を外部公開し、他のAI企業や研究者も自社のモデル安全性評価に使えるようにした。
- 本発表は、AI安全性をめぐる業界全体の取り組みの一環。Anthropicは以前から「責任あるスケーリング」を掲げ、安全評価の透明性を重視している。