GLM-5.2、Mythosではなく、これこそが本当のセキュリティ危機
本記事では、広く懸念されているMythosの問題よりも、GLM-5.2と呼ばれる新たなセキュリティ上の緊急事態の方がはるかに深刻であると指摘する。GLM-5.2は既存の防御策を無力化する高度な脅威であり、見過ごされてきたこの脆弱性に早急に対処すべきだと警鐘を鳴らしている。
背景メモ
- 著者のジョシュア・セイクスは、AI企業Anthropicでセキュリティ研究に携わる人物。同社のClaudeシリーズなど、最新AIモデルの安全性評価を専門とする。
- 「GLM-5.2」は中国のAI企業智譜AI（Zhipu AI）が開発した大規模言語モデル。米国の輸出規制対象となる高性能チップを使わずに、GPT-4相当以上の性能を達成したとされる。
- 「Mythos」はAnthropicが開発した、AIモデルの「脱獄」（有害な出力を引き出すプロンプト）を防止する防御技術。同社はこれを「決定的解決策」と位置づけていた。
- セイクスは、Mythosのような防御手法の議論に注目が集まる一方、GLM-5.2が示す「中国によるチップ規制の回避」という地政学的インパクトの方が、実際にははるかに重大なセキュリティ問題だと主張する。つまり、AIガバナンスにおいて「敵対的プロンプト対策」より「技術主権と規制の実効性」を議論すべきだという論点。