生成AI関連
生成AIシステムへのガードレール導入のポイント
Anthropicは2026年8月11日に更新したヘルプ記事で、Claudeが生成・処理したコンテンツへ機械判読可能なマークを付ける方針を明らかにしました。テキストには目に見えないウォーターマークを埋め込み、対応する画像などのファイルにはC2PA準拠の署名付き来歴情報を付与します。
背景にあるのは、2026年8月2日に適用が始まったEU AI Actの透明性規則です。発表を読んで気になったのは、「見えない透かし」が何を指すのか、そしてClaude Codeで生成したコードまで判定対象になるのかという点でした。本記事では、公開情報とテキストウォーターマークの研究を手掛かりに、開発現場への影響まで掘り下げます。
Anthropicのヘルプ記事によると、2026年8月2日以降にEUで提供を始めたClaudeモデルは、リリース時点からマーキングに対応します。それ以前のモデルについても順次対応中です。
適用先はClaudeのチャット画面に限りません。Claude Platform（API）、Claude Code、Claude Cowork、Claude Tagに加え、AWS、Google Cloud、Microsoft Foundry経由の利用も対象です。EU向けモデルだけに閉じた機能ではなく、対応モデルの出力には世界中でマークが付きます。ファイルの署名付き来歴情報については、プラットフォームや機能ごとに対応状況が異なります。
Claudeが使うのは、テキストとファイルで別の仕組みです。両方を「透かし」と呼ぶと混同しやすいため、違いを先に見ておきます。
| コンテンツ | Claudeの方式 | Anthropicが説明している特徴 |
|---|---|---|
| テキスト | 文章そのものに埋め込む不可視ウォーターマーク | コピー＆ペースト後も引き継がれ、一部の編集後にも残る可能性がある |
| SVG、PNG、JPGなどの対応ファイル | C2PA準拠の署名付き来歴メタデータ | Claudeで処理されたことを示し、ファイルの改変検知にも利用できる |
C2PAは、デジタルコンテンツの来歴を署名付きで記録するオープン標準です。メタデータが残っているファイルなら、Claudeで処理されたことや署名後の改変を検証する手掛かりになります。
代表的な研究は、KirchenbauerらがICML 2023で発表したA Watermark for Large Language Modelsです。次のトークンを選ぶたびに、直前の文脈と鍵から語彙を2群に分け、一方の選択確率をわずかに上げます。検出時は同じ分割を再現し、トークンの偏りを統計的に検定します。
特殊な文字列を足す方式ではないため、コピーしても信号は残ります。一方、短文では検定の標本が足りず、言い換えでトークン列が変われば信号は薄まります。Anthropicが挙げる検出上の制約ともよく似た性質です。
実運用の例では、Google DeepMindのSynthID-Textに関するNature論文があります。生成時のサンプリングへ信号を加える方式で、約2,000万件のGemini応答を用いた評価では、透かしの有無によるユーザー評価の差は統計的に有意でなかったと報告されました。
ただし、これらはClaudeの方式を説明した論文ではありません。Anthropicが明かしたのは「テキスト自体に埋め込み、コピー後や一部の編集後にも残り得る」という仕様までです。ゼロ幅文字や既存の方式を使っているとは、現段階では判断できません。
EU AI ActのArticle 50は、生成・加工したテキスト、画像、音声、動画などに機械判読可能なマークを付け、検出できるようAIシステムの提供者へ求めています。校正のような標準的な編集補助や、入力の内容を実質的に変えない処理には例外があります。
欧州委員会の案内によると、この透明性規則は2026年8月2日から適用されています。AnthropicはArticle 50（2）の「AI生成コンテンツの透明性に関する行動規範」に署名し、今回のマーキングをその実装として発表しました。
ここで、すべての既存モデルが8月2日に一斉対応したわけではない点には注意が要ります。それ以前に市場投入された生成AIシステムのマーキング義務には、2026年12月2日まで猶予があります。法令の適用開始に合わせて、これまで研究テーマだったマーキングが製品機能として表に出てきた、というのが今回の位置付けです。
検出器が返すのは「Claudeのマークと整合する信号があるか」であって、著者名や作成工程ではありません。Anthropic自身も、次の条件ではマークを検出できない場合があると説明しています。
逆向きの誤解も起こり得ます。人が書いた原稿をClaudeで校正、翻訳、要約しただけでも、出力にはマークが付く可能性があります。検出された事実から「Claudeがゼロから書いた」までは導けません。
| 検出結果 | 判断できること | 判断できないこと |
|---|---|---|
| マークあり | Claudeで処理された可能性がある | Claudeが全文を作成した、AI利用が不正だった、という断定 |
| マークなし | 対応するClaudeのマークを検出できなかった | 人間だけで作成した、AIを使っていない、という断定 |
検出精度は文章量と編集の強さに左右されます。ICLR 2024の後続研究では、人やLLMによる言い換え後にも信号が残った一方、強い人手の言い換えでは、偽陽性率を10万分の1に設定すると平均800トークンの観測が必要でした。Claudeの性能値ではありませんが、一節だけで白黒を付ける運用が危ういことは分かります。
実際の判定では、利用モデル、編集履歴、人によるレビュー記録も一緒に見るべきです。ウォーターマーク単独で著者や不正利用を自動判定する設計は、誤判定時の説明がつきません。
SIerの立場で見ると、現時点の情報だけを理由にClaudeの開発利用を止める必要はなさそうです。ただし、「影響なし」と片付けるにも情報が足りません。法令が求める範囲、Claudeの製品仕様、顧客との契約は、それぞれ別の話として扱うのが実務的です。
欧州委員会のFAQは、ソースコードをArticle 50（2）のマーキング義務から外しています。つまり、EU AI Actが生成コードへの透かしを直接要求しているわけではありません。
一方、Anthropicは適用先にClaude Codeを挙げ、対応モデルが生成するすべてのテキストへウォーターマークを入れると説明しています。ソースコードを自然言語と同じ方式で扱うのか、構文や生成品質へ影響するのかは技術文書待ちです。法令上の除外と、製品仕様としてコードにマークが付くかどうかは切り分けて読まなければなりません。
開発現場で先に問題になりそうなのは、マークそのものよりも結果の読み方です。納品物から検出されたというだけで、「全編をAIが作った」「レビューしていない」「契約外の方法で開発した」と受け取られる恐れがあります。Anthropicの仕様を読む限り、検出結果はそこまでの情報を持ちません。
| 視点 | 考えられる論点 | 現時点での捉え方 |
|---|---|---|
| ソースコード | マークが構文や動作へ影響するか | 方式が未公開のため、コンパイルやテスト結果で実測する |
| 設計書・試験報告書 | AI利用が顧客の想定と異なると受け取られるか | AI利用方針と人によるレビュー範囲を事前に共有する余地がある |
| 著者・責任の判断 | マークを根拠に作成者を断定されないか | マークはClaudeが処理した可能性を示す補助情報として扱う |
| セキュリティ・権利 | マークがあれば安全性や権利関係も確認済みか | 脆弱性、ライセンス、著作権は従来どおり別途確認する |
| 顧客向け生成AI | Claudeのマークだけで透明性対応が完了するか | サービス提供者として表示や運用を別途評価する必要がある |
NISTの合成コンテンツ透明性レポートも、マークの除去や偽装、方式ごとに検出手段が分かれる問題を指摘しています。透かしは有用な来歴信号ですが、品質証明や本人確認には使えません。
当面の実務では、マークを消す方法や利用禁止を急いで探すより、「どこでClaudeを使い、誰が何を確認したか」を追える状態にしておくほうが有効です。
とくにClaude APIを自社サービスへ組み込む場合、モデルがマークを付けることと、自社が果たす透明性対応は同義ではありません。Anthropicも、製品やサービスに適用される義務は開発者側で評価するよう案内しています。
ウォーターマークが担うのは来歴の補助です。テストやレビュー、責任分界を置き換えるものではありません。生成AIの出力を確認する設計は、以下の記事でも紹介しています。
今回の発表で押さえておきたい点は、次の5つです。
SIerとして当面やることは、生成AIを使う範囲を把握し、顧客との合意やレビュー記録を残し、これまでの品質保証を続けることです。検出方法が公開された段階で、対応モデルやプラットフォームごとの差を実際の出力で確かめるのがよいでしょう。
Tech Funでは、お客様のフェーズに合わせ、生成AI活用に向けた様々な支援をご提供しています。
生成AIに限らず、Web・業務システム開発やインフラ設計など、技術領域を問わずご相談を承っています。「何から始めれば良いか分からない」という段階でも構いませんので、ぜひお気軽にお問い合わせください。
