Show HN: ChatGPT/Geminiのユーザークエリをリバースエンジニアリング
ChatGPTやGeminiといったAIサービスのウェブトラフィックを分析し、ユーザーが実際に入力したクエリを可視化するツール「AI Visibility Audit」を公開。ネットワークパケットの傍受ではなく、公開トラフィックデータを活用してユーザーの意図や利用傾向を推測する手法を採用している。
背景メモ
- GitHub上で公開されたオープンソースツール。ブラウザの開発者ツールを通じて、ChatGPTやGeminiなどの生成AIサービスに送信されている内部的なメタデータ(ユーザーが入力する前にプリフィルされているプロンプトの一部、システムプロンプト、クライアント側のルールなど)を可視化・解析する。
- LLM(大規模言語モデル)のフロントエンドは、ユーザーが直接打ち込むテキスト以外にも、サービスの振る舞いを制御する「隠れた指示」をリクエストに含めていることが多い。このツールはそれらを「リバースエンジニアリング」して覗き見るもの。
- 作成者は"AI透明性"に関心を持つ開発者コミュニティの一員。プロプライエタリなAIサービスのブラックボックス化が進む中、ユーザーが知らないうちに適用されているフィルタリングやガードレールを暴く目的がある。
- 同種の試みとしては、システムプロンプトを漏洩させるジェイルブレイク手法や、WebSocketのトラフィックをキャプチャする研究が過去にも存在する。