DeepSWEベンチマークがGLM 5.2対応と他モデルの結果更新を実施
DeepSWEベンチマークが更新され、GLM 5.2の新規追加とともに他モデルの評価結果が最新化されました。本ベンチマークはソフトウェアエンジニアリングタスクにおけるモデル性能を評価するもので、今回のアップデートによりGLM 5.2のベンチマークスコアが初めて掲載され、既存モデルのスコアも再評価・更新されています。
背景メモ
• **DeepSWE Benchmark**(Deep Software Engineering Benchmark)は、AIエージェントが実際のソフトウェアエンジニアリングタスクをどれだけ遂行できるかを測る評価指標。単なるコード生成ではなく、バグ修正・機能追加・リファクタリングなどを含む実務的な課題でモデルをテストする。
• **GLM 5.2**は、中国のAI企業Zhipu AI(智譜AI)が開発した大規模言語モデル。Zhipuは清華大学発のスタートアップで、OpenAIのGPTシリーズに対抗する中国勢の一角。
• このベンチマークが注目される背景:SWE-bench(プリンストン大発の類似ベンチマーク)が業界標準になりつつある中、DeepSWEは異なるデータセットと評価手法で独自の比較を提供。ClaudeやGPT-4などの西洋モデルだけでなく、中国モデル(GLM、Qwen、DeepSeekなど)も同一条件でテストしている点が特徴。
• DataCurve.aiはベンチマーク運営組織。今回の更新ではGLM 5.2の新結果と、他のモデルのスコア再計算が行われた。