「AIが生成した文章であることを示す電子透かし」についてAnthropicが公式解説

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

EUの法律に準拠するため、AnthropicはClaudeが生成したコンテンツに「透かし(ウォーターマーク)」を追加する予定です。Anthropicが、「文章」に追加する透かしの仕組みを解説しました。 How Claude's text watermarking works \ Anthropic https://www.anthropic.com/news/claude-text-watermark 文章の透かしは肉眼で確認できる何かではなく、単語の選択パターンです。技術的にはGoogle DeepMindの「 SynthIDテキスト 」が使われます。 そもそもClaudeのような大規模言語モデルは文章を生成する際に複数の単語の候補から最も適切だと思われる単語を順番に選んでいます。例えば「今日のお弁当はから揚げと……」という文章に続く単語の候補に「おにぎり」「おむすび」「ラーメン」があった場合、ラーメンが選ばれる可能性は低く、大抵の場合は前2つが適切だと判断されます。前2つはどちらを選んでも文章の意味自体が変わることはなく、どちらが選ばれるかは乱数によって決定されます。

文章に透かしを追加する場合、乱数生成器ではなく、前にある単語と特殊な「鍵(選択の傾向)」を用いて単語が選択されます。AIが選択する単語は依然としてランダムですが、鍵と一致する単語のパターンが何度も何度も文章中に表れた場合、AIによって生成された可能性が高い、と判断できます。 ただ、あくまで可能性の問題で、透かしが検出されたからといって必ずしもAI製であるとは限らないという点に注意が必要です。反対に検出されないからAI製ではないと断定できるものでもありません。

透かしを検出する仕組みは近日中に「透かし検出API」として提供される予定。これはAnthropicが管理する鍵を文章から検出するもので、単にAIっぽい単語のパターンを検出する外部のツールとは根本的に仕組みが異なるものです。 なお、このような透かしが出力の品質に影響を与えることはないそうです。Anthropicの社内テストでは、透かしによるコンテンツの内容、創造性のレベル、読みやすさへの影響は確認されていない、と報告されています。処理速度は無視できる程度で、追加のトークンを消費することもありません。

Anthropicの透かしにはいくつかの制限があります。前述の可能性の話に加え、Claude以外のAIが生成したコンテンツはそのAIが使用する鍵をAnthropicが把握していないため判定できないこと、単語の選択パターンが限定される短い文章や事実に関する文章、単純な誤字脱字修正だけをAIで実行した文章の判定が困難なことなどです。 また、AIが生成した文章を人間が編集することで検出を回避することもできます。Anthropicは「軽微な編集では透かしを完全に除去できない可能性がありますが、すべての単語を置き換えるような完全な書き直しなら除去できます。もちろん後者の場合、そのテキストをもはやAI生成と呼べるのかについては議論の余地があります」と指摘しました。 注意事項として、Anthropicは「透かしによって判断できるのは、Claudeがコンテンツに関与した可能性が高いということだけです。Claudeが書いたのか、Claudeが大幅に編集したのかを区別することはできません。また、Claudeが文章を翻訳する場合、すべての単語をClaudeが選択するため、透かしが明確になります」と述べました。

・関連記事 Google DeepMindがAI生成テキストを識別するための「SynthIDテキスト」をオープンソース化 - GIGAZINE AI生成テキストの「透かし」が埋め込まれる仕組み - GIGAZINE ClaudeにAI透かしが追加されることで職場や学校でAIを使用していることがバレてしまうかもとユーザーが不満げ - GIGAZINE Claudeの生成した文章に「目に見えない透かし」を埋め込むとAnthropicが発表、日本を含めた全世界で適用される予定 - GIGAZINE

You can read the machine translated English article Anthropic provides an official explanati… .