Intelligence per Watt: A Unified Metric for the AI Era
This article introduces "Intelligence per Watt" as a unified metric to evaluate AI systems by balancing computational performance against energy consumption. It argues that as AI scales, focusing solely on raw capability ignores the critical dimension of energy efficiency, which is essential for sustainable deployment and true progress in the AI era.
背景メモ
この記事は、AIの性能を従来のような推論速度やモデルパラメータ数だけで測るのではなく、「Intelligence per Watt」（ワットあたりの知能）という統一指標で評価しよう、という提案をしている。背景として、AI業界ではGPU不足や電力消費の爆発的増加が深刻な問題になっており、特に推論（モデルが実際に使われる段階）のエネルギー効率が重要視されつつある。この指標が注目されるようになったきっかけの一つが、2024年後半に登場したDeepSeekのR1モデル。従来の巨人モデル（OpenAIのGPT-4など）より遥かに少ない計算資源で同等以上の推論性能を達成したことで、「性能 vs 消費電力」という新しい軸での評価が現実味を帯びた。Inteligencer Per Wattという概念は、単にベンチマークスコアが高いモデルだけでなく、省電力で実用的なAIを選ぶ基準として、データセンター運用者やエッジデバイス開発者の間で議論が始まっている。