Ask HN: 最適なAIゲートウェイは？
AIエージェント向けの最適なゲートウェイについて議論。現在はAnthropicのルーターを直接使用しているが、OpenRouter（5.5％の手数料とプロンプトキャッシュ非対応）やVercel AI Gateway、Cloudflareのゲートウェイなどを検討中。「ベストLLMゲートウェイ2026」系の記事はゲートウェイ企業が自社製品を宣伝しているケースが多く、中立的な情報が得にくい状況を嘆く声も。
背景メモ
AIゲートウェイ（AI Gateway）とは、OpenAIやAnthropicなど複数のLLMプロバイダーへのアクセスを一元管理し、負荷分散・フォールバック・コスト管理・ログ記録などを担うミドルウェア。
- このスレッドの投稿者はval.town（サーバーレスJS実行環境）上でAIエージェントを運用中で、現在はAnthropicのルーターを直接使っている
- OpenRouterは最も多くのモデルを扱うサードパーティゲートウェイだが、5.5%の従量手数料がかかり、プロンプトキャッシング（同じ入力の再計算を省く機能）に対応していない
- Vercel AI GatewayはVercel社が提供するゲートウェイで、同社のサーバーレスプラットフォームと密統合
- Cloudflareも独自のAI Gatewayを提供しているが、投稿者はCloudflareを主なインフラとして利用している（Cloudflare Workersなど）
- 2025〜2026年にかけて「最強のLLMゲートウェイは何か」という比較記事が急増しているが、その多くが自社製品を売りたい企業によるもの（＝客観的なレビューではない）
- 投稿者の核心的な悩み：OpenRouterは手数料が高く、機能も不足。Vercel／Cloudflareは自社エコシステム内で完結できるが、ベンダーロックインが心配。「みんなが作っているから」という理由で乱立気味のGateway製品の中から、実際に使えるものをどう選ぶか。