Skip to content
TopicTracker
出典 seangoedecke.com原文を表示
翻訳言語翻訳言語

テキストAIの透かしは常に簡単に除去可能

EUのAI法ではAI出力に透かしを入れることが義務付けられるが、テキストの透かしは原理的に簡単に除去できる。LLMのトークン生成に影響を与えるSynthID方式や、Unicodeの同形文字(ホモグリフ)を使った方式があるが、言い換えやUnicode正規化で容易に除去可能。技術的ユーザーはもちろん、非技術者でも簡単に使える除去ツールが登場するだろう。

背景メモ

EU AI Act(2026年8月施行)は、AI出力に「人工生成であることが検出可能」な透かし(ウォーターマーク)の埋め込みを義務づける。しかしテキストの透かしは画像と違い本質的に脆弱だ。GoogleのSynthIDはトークン選択時に確率的スコアを操作する方式だが、別のLLMで言い換えれば簡単に除去できる。OpenAIやAnthropicはUnicodeの異形文字(ホモグリフ)を利用している可能性があるが、これも正規化で剥がせる。C2PAメタデータ署名(ファイル単位の改ざん防止策)も、チャットのプレーンテキスト出力には適用できない。要するに、EU規制が求める「除去が困難な透かし」をテキストで実現するのは技術的にほぼ不可能というのが筆者の主張。

関連記事

  • Jimmy Wales announced that Wikipedia was live at wikipedia.com on January 15, 2001. The site was intended to be a "really quite snazzy" wiki complement to the Nupedia project, offering a more collaborative and less formal environment for building an encyclopedia.

  • OpenAI has announced Daybreak, a new initiative focused on advancing AI safety and alignment research to ensure artificial general intelligence benefits humanity.

  • SpaceX has announced plans to launch approximately one million satellites to create space-based data centres, according to the European Southern Observatory (ESO). The massive satellite constellation would significantly increase the number of objects in orbit, raising concerns about light pollution and interference with astronomical observations.

  • Ars Technica reports on the aftermath of the catastrophic failure of Blue Origin's New Glenn rocket, examining the investigation into the cause of the anomaly, the impact on the company's launch schedule and contracts, and the broader implications for the commercial space industry.