WindowsのペイントやMicrosoftフォトのAI生成画像に電子透かしが埋め込まれていることが判明

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

Windowsのお絵描きアプリ「ペイント」や画像管理アプリ「Microsoftフォト」にはAIを利用した画像生成・編集機能が搭載されています。これらのAI機能を使うと、サーバーから GUID(グローバル一意識別子) が発行されて目に見えない電子透かしとして画像に埋め込まれることがわかりました。 Microsoft Paint and Photos Embed Server-Issued GUIDs as Invisible Watermarks in Locally-Generated Images :: Xusheng Li https://xusheng.dev/posts/reversing/mspaint_invisible_watermark/main/

ソフトウェア開発者でセキュリティ研究者としても活動しているシュシェン・リー氏は、MicrosoftペイントによるAI画像生成が正確にどのように機能しているかに興味を持ち、調査を行いました。 調査を行う前、リー氏は画像生成がリモートAPIによって行われているのではないかと予想していましたが、実際には、MicrosoftがCopilot+ PCの一機能としてWindowsにローカルモデルを搭載しているため、ローカルでもリモートでも画像生成が可能だったとのこと。 調べを進めると、AIによる画像生成を行うMicrosoftペイント、およびAIによる画像編集ができるMicrosoftフォトは、ともにプロンプトをリモートサーバーに送信してモデレーションを行い、サーバーからはモデレーション後のプロンプトとともにGUIDが送られていました。

画像生成・編集を完全にローカルで行えるCopilot+ PCでも、プロンプトのモデレーションはリモートで行われていました。 もともとMicrosoftペイントには、AI生成であることを示す透かしを表示する設定が存在していて、表示する場合は画像右下にCopilotロゴが表示されます。しかし、このGUIDは不可視、つまり目には見えない透かしとして埋め込まれていました。 Microsoftは画像生成時、AI生成画像であることを認識できるように C2PAマニフェスト が組み込まれると 説明 していますが、リー氏はC2PAマニフェストに不可視の透かしを識別するGUIDが含まれていることや、ローカル生成でもリモートサーバーから透かしのGUIDを受け取っていることが説明されていないと指摘しています。

・関連記事 「AIが生成した文章であることを示す電子透かし」についてAnthropicが公式解説 - GIGAZINE AI生成テキストの「透かし」が埋め込まれる仕組み - GIGAZINE ClaudeにAI透かしが追加されることで職場や学校でAIを使用していることがバレてしまうかもとユーザーが不満げ - GIGAZINE Claudeの生成した文章に「目に見えない透かし」を埋め込むとAnthropicが発表、日本を含めた全世界で適用される予定 - GIGAZINE 無料でAI透かしを除去できる「Remove-AI-Watermarks」、画像から可視（Gemini）および不可視（SynthID、C2PA、EXIF）のいずれも削除可能 - GIGAZINE GoogleのAI透かし技術「SynthID」がOpenAIに採用される - GIGAZINE Geminiの生成したコンテンツに埋め込まれたSynthIDの電子透かしは除去可能 - GIGAZINE 「Gemini」アプリでGoogleのAI生成画像を見分けられるようになったそうなので実際にやってみた - GIGAZINE GoogleがAI生成コンテンツに電子透かしを入れてフェイク拡散を防ぐ「SynthID」をテキストと動画にも拡張、一体どうやって文章に透かしを入れるのか？ - GIGAZINE Stable Diffusionなどの画像生成AIが出力する画像に電子透かしを埋め込んで追跡可能にする技術「Tree-Ring Watermarks」が提案される - GIGAZINE

You can read the machine translated English article It has been discovered that AI-generated… .