あなたの発言はすべて、あなたに不利な証拠として使用される可能性があり、実際に使用されます
現実世界でミランダ警告が自己保身のために黙秘権を保障するのに対し、デジタル世界の利用規約は企業の権限を拡大するために存在する。ID認証を求められて同意すれば、あらゆるプロンプトや行動が永遠に本人に紐づき、将来の法律や監査で不利に使われるリスクがある。裁判所での黙秘権とは異なり、デジタル上では沈黙は存在せず、すべてのクリックが証言となることを認識すべきだと論じている。
背景メモ
- ミランダ警告（Miranda rights）は、米国で逮捕時に被疑者に読み上げられる権利告知。「黙秘権」「弁護士依頼権」などを知らせ、供述が証拠として使われることを伝える。本来は国家権力から市民を守るためのもの。
- 本記事の筆者はイブラヒマ・ディアロ（Ibrahim Diallo）。ソフトウェアエンジニアで、テクノロジーと社会の交差点について執筆している。この記事は個人ブログ。
- 「Fableの騒動」とは、AI小説作成ツール「Fable」がユーザー生成コンテンツを巡って物議をかもした事件を指す。これを受け、Anthropic（Claudeの開発企業）が本人確認（ID提出）機能を導入した。
- アレックス・カープ（Alex Karp）はPalantir（データ分析・監査技術企業）のCEO。記事内で「AI監視テロ対策指令」の長官という架空の役職で登場し、将来的に会話ログが遡及的に悪用されるシナリオを描く。
- ディズニーがDisney+の利用規約を根拠に、レストランでの食中毒訴訟を仲裁に回そうとした実例も引用。ToSが想定外の文脈で使われる危険性を示している。