Show HN: Aitori – open-source tool to inspect Claude and ChatGPT traffic
Aitori is an open-source tool that allows users to inspect and analyze network traffic between their applications and AI services like Claude and ChatGPT. It provides visibility into API calls, helping developers debug, monitor, and optimize their interactions with these large language models.
背景メモ
- Aitoriは、AnthropicのClaudeとOpenAIのChatGPTがユーザーのPCとサーバー間でやり取りするHTTPSトラフィックを可視化・検査できるオープンソースツール。GitHubで公開中。
- 多くのLLMサービスはMITM（man-in-the-middle）攻撃を防ぐため証明書ピンニング（Certificate Pinning）を採用しており、従来のプロキシツール（Charlesやmitmproxy）ではトラフィックを復号できないという課題があった。
- Aitoriはこの制限を回避する「TLS迂回機能」を備え、ユーザーが自分のトラフィックを監視できるようにする一方、同様の技術が悪用されるリスクへの懸念も存在する。
- TrueFoundryはMLOpsプラットフォームを提供する企業。背景として、LLMの普及に伴い、ユーザーが自分のAPI使用状況やプロンプト送信内容を詳細に把握したいという需要が高まっている。