Anthropic、Claudeが処理したすべてのコンテンツに不可視の透かしを付与へ

Anthropicは、同社のいずれかのモデルで処理されたコンテンツに、まもなく機械可読な透かしを追加すると発表した。これは欧州連合（EU）のAI法への適合を図る動きだ。透かしの対象はAIが生成した出力だけでなく、Claudeが単に編集しただけの人間の文章にも及ぶ。

透かしの仕組み

Anthropicはサポート記事で、EUのAI法に準拠するため機械可読な透かしを展開していると説明した。AI法は、すべてのAIシステム提供者に対し、AIが生成または改変した音声、画像、テキスト、動画の出力に透かしを付けることを義務付けている。この法律は8月2日以降にリリースされたすべてのAIモデルに適用され、それ以前にリリースされたモデルを更新するための猶予期間は2026年12月までとなっている。

Anthropicは、世界中で提供されるすべての新モデルが初日からAI生成コンテンツに透かしを付けると確認した。テキスト出力にはユーザーには見えない透かしが埋め込まれ、その他の生成ファイルには、対応する環境ではデジタル署名付きの来歴メタデータが含まれる。テキスト以外のコンテンツについては、AnthropicはC2PAメタデータ方式を採用する。

法的要件を超える適用範囲

Anthropicの取り組みは、規制が求める範囲を超えている。EUのガイダンスは、文法修正などの標準的な編集においてAIシステムが補助的な役割を果たす場合や、ユーザーのテキストを実質的に変更しない場合を明確に免除している。しかし、モデルレベルで適用される透かしは、全面生成とコンマ修正を区別できないため、Claudeが、法律が対象外と定めたコンテンツにまで透かしを付けてしまう可能性がある。

同社はこの状況を認めている。人々は校正、翻訳、要約、ファイル変換にClaudeを使うことが多く、たとえ基になるアイデアやテキスト、データが別の出典に由来する場合でも、出力にClaudeの透かしが付く可能性がある。

回避も誤解も簡単

テキストの透かしは、モデルの語彙選択を文書全体に分散したパターンで偏らせることで機能し、適切なツールを使わなければ集合的にしか検出できない。Anthropicは、透かしはテキストとともにコピー＆ペーストされ、一部の編集後も残る可能性があると指摘した。ただし、透かし入りのテキストを別のチャットボットシステムに貼り付けて編集すると、透かしが壊れる可能性がある。画像や動画の場合、スクリーンショットや標準的なメタデータ編集ツールで情報を削除できる。

また、この信号は決定的でもない。Anthropicは、検出された透かしはコンテンツがClaudeによって処理されたことを示す手がかりとなるが、完全に決定的なものではなく、Claudeが生成していないコンテンツに透かしが現れる可能性さえあると述べた。透かしが検出されないからといって、コンテンツがAIによって生成または処理されていないことを意味するわけではない。

検出ツールと罰則

Anthropicは、ユーザーが自分で透かしを識別できるよう、テキスト検出APIを提供する計画だ。EU AI法では、違反に対して最大1500万ユーロ、または企業の全世界年間売上高の3パーセントの罰金が科される可能性がある。

出典: Ars Technica