Claude Code はステガノグラフィーでリクエストにマーキングを行っている
ブログ投稿「Claude Code Is Steganographically Marking Requests」では、Claude Code が出力にステガノグラフィー(画像やテキストに秘密情報を埋め込む技術)を用いてリクエストをマーキングしていると指摘。これにより、AI が生成したコードや応答を識別できる仕組みが導入されている可能性が示唆されている。
背景メモ
Anthropic社のAIアシスタント「Claude」のCLI版「Claude Code」が、ユーザーのリクエストに気づかれにくい形で識別情報を埋め込んでいる、というセキュリティ研究者による検証記事。以下が背景:
- Claude CodeはAnthropicが提供する、ターミナル上で動作するコーディング支援AI。2025年にリリースされた比較的新しいツールで、コード生成やデバッグを直接CLI上で行える。
- 「ステガノグラフィ(steganography)」とは、ファイルやメッセージに秘密のデータを目立たない形で隠す技術。暗号と違い「隠していること自体を隠す」点が特徴。ここでは、ユーザーが送信したコードやプロンプトに、Claude自身が後で識別できるような透かし的情報をこっそり追加している可能性が指摘されている。
- 著者のLoïc(loick)はAIの安全性やプライバシーを専門に調査する独立研究者。同氏は以前も他社のAIツールで同様の透かし検知を行っている。
- この件が重要なのは、(1) AI企業がユーザー入力を検閲や追跡に使う可能性への懸念、(2) オープンなAIツールに監視的仕組みが組み込まれているかどうかの透明性問題、(3) 透かしが事実なら、Anthropicがそれをユーザーに開示していない点。Anthropicは同社の安全性への取り組み("Constitutional AI"など)で知られるが、この隠蔽的アプローチはその姿勢と矛盾するのでは、という論点をはらんでいる。