AI推論は明らかに儲かる
AI推論は採算が取れず、投資家の投機マネーで成り立っているという主張があるが、実際の計算やオープンなLLMの事例はこれに反する。NVIDIA A100を用いた70Bモデルの推論コストは出力トークン100万あたり約1ドルで、OpenAIやAnthropicの価格設定（$4.50〜）は70〜80％の粗利率と整合する。DeepSeekの事例も同様の利益率を示しており、AIラボが高いマージンを取る理由は推論利益で新モデルの訓練コストを賄うためだが、純粋な推論プロバイダーは訓練不要で利益を出し続けられる。AIバブルが弾けても推論ビジネスは終わらない。
背景メモ
AI業界をめぐる議論のひとつに「推論（inference）はコスト割れしている」という主張がある。この記事はそれに反論するもの。ポイント：
- AI推論とは、学習済みモデルに質問を投げて回答を生成する処理のこと。OpenAIのChatGPTやAnthropicのClaudeのAPI利用料がこれにあたる。
- 批判派は「推論には電力・GPU代がかかりすぎる。VCの投機マネーで赤字を埋めているだけだ」と主張。この記事はGPUコストの実計算やDeepSeek（中国のAI企業、オープンウェイトモデルで有名）の事例を用いて、推論は十分に利益が出ると論じている。
- ただしOpenAIやAnthropic自体は巨額の学習費やインフラ投資を抱えており、全体としては赤字。それでも、仮にそれらが倒産しても、モデルの権利を引き継ぐ企業が推論ビジネスだけで利益を出せる構造だ、というのが記事の核心。