EU AI Act、透明性の執行開始へ――ただしラベルだけでは不十分

EU AI Actは8月2日に重要な期限を迎え、チャットボットの開示とAIコンテンツのラベル表示がEU全域で実際の執行対象となる。これらの規則は、人々がソフトウェアと会話しているのか、合成メディアを見ているのかを判別できないことが多いという、基本的な情報格差に対応するものだ。

当面の要件はシンプルに聞こえる。人工的な存在であることがすでに明白でない場合、チャットボットは自身を明示しなければならない。生成AIシステムの提供者は、合成または操作された出力を機械可読な形式で検出可能にしなければならない。

導入者には、ディープフェイクや一部の公益性の高い素材について、目に見える開示義務も課される。しかし本当の競争は、AI企業同士の争いではない。識別可能な合成メディアという約束と、識別情報が消失し、競合し、あるいは無意味になり得る技術的現実とのせめぎ合いだ。

欧州委員会は期限前に最終ガイダンスを公表し、企業に第50条のより明確な解釈を示した。執行の大部分は各国の市場監視当局が担い、European AI Officeの権限はより限定的なシステム群に及ぶ。

この区別は、開発者、出版社、プラットフォーム、企業の購買担当者にとって重要だ。8月2日は、プライバシーポリシーの横に新たな通知を追加するだけの日ではない。来歴情報と開示に関する判断を、製品インターフェース、メディアの処理工程、ベンダー契約、監査記録へと持ち込むことになる。

8月2日にEU AI Actの下で変わること

第50条により、AIの身元表示と合成メディアの来歴情報は、製品上の選択肢から法的義務へと変わる。

EU AI Actは2024年8月1日に発効したが、その規定は段階的な適用スケジュールに従う。第50条と大半の残りの規則は、2026年8月2日から適用される。

施行文は、AIのあらゆる利用ではなく、4つの状況を対象とする。最初の規則は、人と直接やり取りするよう設計されたシステムに関するものだ。AIと対話している事実がすでに明白でない限り、提供者は利用者がAIと対話していることを認識できるようにしなければならない。

カスタマーサービスアシスタント、採用ボット、バーチャルコンパニオン、自動サポートエージェントは、この要件の対象となり得る。開示は対話の中で示される必要があり、遠い場所にある利用規約に埋もれていてはならない。

判断は文脈にも左右される。法律は、その状況において合理的に情報を得て注意を払う人が何を認識できるかを問う。明らかに架空のゲームキャラクターと、人間に見える金融サポートエージェントは異なるケースとなる。

2つ目の要件は、テキスト、画像、音声、動画を生成または操作するシステムを対象とする。提供者は、出力に人工的な由来を示す機械可読な表示が付されるよう、システムを設計しなければならない。

法文は、技術的に実現可能な範囲で、これらの技術的措置が有効で、相互運用可能かつ堅牢で信頼性の高いものであることを求めている。また、規制当局が実装コストや一般に受け入れられた技術標準を考慮することも認めている。

この提供者の義務は、特定の導入シナリオで求められる可視ラベルとは異なる。機械可読な識別情報はソフトウェアや検証ツールのためのものであり、視覚的または聴覚的な開示は、コンテンツに接する人のためのものだ。

3つ目のカテゴリーは、感情認識システムと生体認証カテゴリー分類システムを対象とする。こうしたシステムを利用する組織は、限定的な法執行上の例外を除き、対象となる人々に通知しなければならない。

4つ目のカテゴリーは、導入者がディープフェイク、または公益に関わるAI生成テキストを公開する場合に適用される。ディープフェイクの画像、音声、動画には通常、その素材が人工的に生成または操作されたものであることを明確に開示する必要がある。

公益に関するテキストには、より限定的な規則が適用される。AI生成または操作されたテキストが、人によるレビューや編集上の責任なしに公衆への情報提供を目的として公開される場合、開示が必要となる。

この例外は、通常の編集ワークフローが完全自動の出版と同様に扱われることを防ぐものだ。ただし、誰が素材をレビューし、誰が公開の責任を引き受けたかを検討する必要はなくならない。

委員会は、その目標を、人々が十分な情報に基づく判断を下せるよう支援しながら、欺瞞や操作を減らすことだとしている。透明性に関するガイダンスは、この原則を提供者と導入者に対するより具体的な期待へと落とし込んでいる。

期限が圧力をかけるのはチャットボット開発者だけではない

コンプライアンス負担は、AIシステムの開発者から、その出力を公衆の前に出す組織まで追跡される。

モデル開発者に最も注目が集まるが、第50条は提供者と導入者の間で責任を分けている。提供者とは、AIシステムを開発する、または自社名で市場に投入する者を指す。導入者は、その権限の下でシステムを利用する者だ。

この区分は、ソフトウェアベンダー、小売業者、銀行、出版社、広告主、政府機関、職場向けテクノロジーチームに圧力をかける。どの義務がベンダーに属し、どの義務が顧客側に残るのかを判断しなければならない。

会話型アシスタントを追加するオンライン小売業者を考えてみよう。ソフトウェア提供者は、必要な場合にAIであることを開示するようシステムを設計しなければならない。小売業者は、ボットを従業員として見せかけるのではなく、その開示を維持する必要がある。

メディアエージェンシーは別の責任連鎖に直面する。画像生成ツールは検出可能な合成出力を生み出すべきであり、最終キャンペーンを公開する際にはエージェンシー側にディープフェイクのラベル表示が必要となる可能性がある。

同じファイルに複数のツールが関与すると、要件はさらに難しくなる。画像は、生成、レタッチ、リサイズ、ソーシャル投稿の予約、コンテンツ配信を経て、視聴者に届く場合がある。

各工程でメタデータが変更されたり、技術的なシグナルが失われたりする可能性がある。そのため、最終的なラベルがシンプルに見える場合でも、調達とパイプラインのテストはコンプライアンスの中核業務となる。

企業の購買担当者は今後、機械可読な識別情報がエクスポート、編集、トランスコード、一般的な公開システムを経ても維持されるかをベンダーに確認すべきだ。また、その主張を裏付ける証拠も必要になる。

「責任あるAI」に関するマーケティング文言は、監査上ほとんど価値を持たない。技術文書、サンプルファイル、バージョン履歴、再現可能なテストの方が、システムが約束どおりに動作することの強い証拠となる。

組織には、対外的なAIインタラクションの棚卸しも必要だ。主力チャットボットは把握していても、自動営業エージェント、音声システム、オンボーディングアシスタント、請負業者が組み込んだAI機能を見落とす可能性がある。

同じ問題は出版にも現れる。チームは、どのワークフローがディープフェイクを作成するのか、どのワークフローが公益に関するテキストを生み出すのか、そして意味のある人間によるレビューがどこで行われるのかを特定する必要がある。

人間によるレビューは、形式的なチェックボックスに成り下がってはならない。組織は、誰が出力を確認し、何を評価し、誰が編集上の責任を受け入れたのかを記録すべきだ。

こうした記録管理は、委員会が唯一の最前線の規制当局ではないため、とりわけ重要となる。執行の大部分は各国の市場監視当局が担うため、監督体制は分散する。

European AI Officeの執行上の役割はより限定的だ。提供者がシステムと基盤モデルの両方を提供する場合、汎用AIモデルに基づく関連システムを監督できる。

また、非常に大規模なオンラインプラットフォームや検索エンジンが関与する一部のケースでも権限を持つ。European Data Protection Supervisorは、EU機関が使用する対象システムを担当する。

したがって企業は共通のルールブックに従う一方で、異なる監督関係に直面する可能性がある。そのことは、製品群や加盟国市場をまたいで一貫した社内文書を整備する価値を高める。

委員会の第50条に関する回答によれば、制裁金は1,500万ユーロまたは世界全体の年間売上高の3％に達し得る。小規模企業には比例原則が適用される。

執行リスクだけが懸念事項ではない。不十分な開示は、規制当局が罰則を科す前から、消費者保護、評判、契約、プラットフォームポリシー上の問題を引き起こす可能性がある。

ラベルはコンテンツのサプライチェーンを生き残らなければならない

中心的なトレードオフは明確だ。分断されたメディアシステムが来歴情報を取り除いたり不明瞭にしたりする現実に対し、明確な開示をどう実現するかである。

第50条は、相互補完的な2つの仕組みを用いる。人間向けのラベルは、オーディエンスが何を見ているのかを伝える。機械可読な識別情報は、ソフトウェアが人工コンテンツを大規模に認識・追跡することを可能にする。

どちらの仕組みも単独では十分ではない。可視ラベルは画像から切り取られたり、再投稿された動画から切り離されたり、スクリーンショットで省かれたりする可能性がある。機械可読なシグナルは、その作品を見る人にはアクセスできないことがある。

技術的な来歴情報は、意図せず壊れることもある。ソーシャルプラットフォームは画像を再圧縮し、メッセージアプリはファイルを変更し、動画サービスはアップロードされた動画を新たな形式にトランスコードする。

編集ツールも別の障害点となる。生成時点で有効な来歴記録があっても、最終エクスポートファイルに同じ情報が保持されるとは限らない。

そのため委員会は、コンテンツのライフサイクル全体にわたる信頼性を重視している。提供者は、出力が保存、編集、配信、検出される予見可能な方法を考慮しなければならない。

機械可読であることは、法律がすべてのケースで単一の普遍的な技術を要求していることを意味しない。義務は結果に焦点を当てており、標準や業界慣行が実装の指針となり得る。

ある手法では、ファイルの出所と編集履歴を記録する署名付き来歴メタデータを利用する。別の手法では、メディアそのものに知覚できないシグナルを埋め込む。

メタデータは詳細な情報を保持できるが、通常の処理で削除される可能性がある。埋め込み型のウォーターマーキングは一部の変換に耐えられるが、検出精度と耐久性はメディアの種類によって異なる。

多層設計では、これらの手法と可視の開示を組み合わせられる。利点は冗長性にある。あるシグナルが消えても、別のシグナルがコンテンツの出所を伝えられる。

この手法にはコストと設計上の妥協が伴う。ウォーターマークは、正当な出力を目立って損なうことなく検出可能でなければならない。来歴記録は、不必要な個人情報や商業情報を公開せずに改ざんへ耐える必要がある。

検出ツールは、関連する検証データへ確実にアクセスできる必要もある。作成者だけが解釈できる識別情報では、プラットフォーム、研究者、ジャーナリスト、下流の顧客にとっての価値は限られる。

偽陽性も別の懸念だ。本物のメディアを誤って合成と判定する検出器は、クリエイターに害を及ぼし、システム全体への信頼を弱めかねない。

偽陰性は逆の問題を生む。準拠した生成ツールが当初は識別情報を追加していても、操作されたメディアが検出されないまま流通する可能性がある。

AI Actは、技術的実現可能性に関する文言を通じて、こうした制約を認めている。この限定は実務的だが、同時に執行上の疑問も生む。どの程度の耐性があれば十分と見なされるのか。

企業は自らの判断を示す必要がある。防御可能なプロセスでは、想定される変換を特定し、識別情報がそれらを経ても維持されるかをテストし、失敗と是正措置を記録すべきだ。

任意の透明性コードは、コンプライアンスを実証するための体系的な道筋を示している。これは第50条に取って代わるものではなく、基礎となる法律を任意のものにするわけでもない。

組織は、この行動規範に署名する必要はない。非署名者も、他の十分な手段によって遵守を示す必要があり、採用したアプローチについてより厳しい質問を受けることを想定すべきだ。

欧州委員会は、当局が非署名者に対してより詳細な情報を求める場合があると述べている。行動規範との比較を文書化しておけば、別の実装がなぜ同等の保護を提供するのかを説明する助けになる。

ここで8月の期限がプロダクトエンジニアリングを変える。来歴情報は、もはや単なるプラットフォーム機能ではない。実際の配信環境でも維持されるべき、エンドツーエンドの性質となる。

ディープフェイク開示には重要な境界がある

規則が対象とするのは欺瞞につながる曖昧さであり、AI支援を受けたすべての作品に同じ目立つ警告を求めるものではない。

AI Actにおけるディープフェイクとは、既存の人物、物体、場所、組織、または出来事に似せた、AIによって生成または操作された画像、音声、動画を指す。その素材は、真正または真実であるかのように誤って見せかけるものでなければならない。

この定義には、声のクローン、捏造された政治動画、実際には起きなかった出来事を描く写実的な画像といった、よく知られたリスクが含まれる。これは「AIで作られたコンテンツ」よりも限定的な概念だ。

明らかに空想的なイラストが、自動的にディープフェイクになるわけではない。一方、支払い依頼の最中に最高経営責任者になりすます合成音声は、はるかに明確な事例となる。

デプロイヤーは、対象となるディープフェイク素材が人工的に生成または操作されたものであることを開示しなければならない。開示は、受け手がコンテンツに初めて接した時点で明確かつ識別可能である必要がある。

芸術、創作、風刺、フィクション、およびこれらに類する作品には、調整された扱いが適用される。開示は引き続き必要だが、作品の鑑賞や表示を妨げるものであってはならない。

この規定は、難しい設計上の問題を認識している。目立つ警告は欺瞞を防げる一方、過度に干渉的な表示は映画、パフォーマンス、ゲーム、または視覚芸術作品を損なう可能性がある。

文脈が不可欠になる。ニュース映像に適したラベルが劇場公開作品に適するとは限らず、音声による開示は画像キャプションとは異なる形で機能する場合がある。

公益性のあるテキストに関する規則も、もう一つの重要な境界を設けている。公衆に情報を提供する目的で公開される完全自動生成テキストは、一般にAIが生成または操作したものであれば開示が求められる。

ただし、人がテキストをレビューするか編集上の管理を行い、誰かが公開責任を負う場合、この要件は適用されない。

この例外は、編集者が関与したあらゆるコンテンツに対する万能の免除と解釈すべきではない。根底にある論点は、実質的なレビュー、管理、説明責任である。

文字起こしや原稿提案にAIを利用する報道機関と、レビューなしの政治要約を公開する自動化サイトとでは立場が異なる。一般的な「AI支援」ラベルよりも、最終的なワークフローが重要だ。

この法律には、法律で認められた特定の法執行システムに関する例外も含まれる。これらの例外には保護措置が伴い、一般向けの犯罪通報ツールを隠れたAIインターフェースへと変えるものではない。

組織は、防御的な対応としてすべてに過剰なラベルを付けることを避けるべきだ。一律の警告は、意味のある通知をかえって見えにくくし、利用者に無視する習慣を身につけさせかねない。

より良い開示は、その時点で重要な事実を受け手に伝える。技術的な詳細で利用者を埋もれさせることなく、人工的な対話または操作を明示する。

欧州委員会のquick factsは、プロバイダーの義務とデプロイヤーの義務を分けている。この区別は、単一の一般的なラベルを完全なコンプライアンス・プログラムとして扱うことをチームが避ける助けになる。

例えば、動画プラットフォームは、上流の生成ツールから得た技術的な来歴情報を維持する必要があるかもしれない。欺瞞的な合成動画を公開する者には、別途、目に見える形での開示義務が課される可能性がある。

責任は重複することもある。システムを開発し、自らの権限でデプロイする企業は、両方の役割における義務を負う可能性がある。

実務上の教訓は、組織がベンダーだけでなく利用方法を分類しなければならないということだ。同じ生成モデルでも、低リスクの画像補正、フィクション作品、または誤解を招くなりすましに用いられ得る。

有用なレビュー手順では、目的、対象者、写実性の程度、表現された対象、人による監督、公開文脈を記録すべきだ。これらの事実によって、どの開示が適切かが決まる。

最大の不確実性は、透明性が機能するかどうかだ

コンプライアンスによって合成メディアを識別しやすくすることはできるが、欺瞞そのものを消し去ることはできない。

強い意図を持つ行為者は、非準拠のツールを使い、可視の開示を削除し、別の機器で出力を録画し、協力的でないプラットフォームの外部で素材を配布できる。第50条は、こうした手法をなくすことはできない。

その代わりに、この法律はインセンティブを変え、正当なプロバイダーとデプロイヤーのための基準線を確立する。欧州で事業を行う主要サービスは、通常のプロダクト動作に開示と来歴情報を組み込まなければならない。

これにより、プラットフォーム、調査担当者、受け手が利用できる情報を改善できる。また、期待される来歴情報がないこと自体が、有用な警告シグナルとなり得る。

ただし、来歴情報がないことは捏造の証拠ではない。古いファイル、スクリーンショット、旧式のカメラ、プライバシー保護を重視するワークフローには、完全に正当な理由で来歴情報がない場合がある。

信頼できる検出システムは、不確実性を伝えなければならない。確認済みの来歴情報、情報の欠落、破損した認証情報、操作の疑いを区別すべきだ。

同じ注意は利用者にも当てはまる。目に見えるAIラベルは人工的な関与を確認するが、主張が虚偽または有害であることを立証するものではない。

反対に、本物のメディアでも出来事を選択的に、または文脈なしに提示することがある。来歴情報は評価を支えるが、ジャーナリズム、情報源の検証、批判的判断の代わりにはならない。

国境をまたぐ執行も、もう一つの不確実性を生む。各国当局は同じ規則を共有しているものの、初期の調査では優先順位、人員、技術力が異なる可能性がある。

欧州委員会のガイダンスは解釈の不一致を減らすはずだが、難しい事例では依然として監督上の判断や、場合によっては訴訟が必要となる。プロダクトチームは、実装慣行が進化していくことを想定すべきだ。

既存システムには、タイミングに関する別の論点もある。8月2日より前に市場に投入された生成AIシステムには、機械可読なマーキング義務について限定的な移行措置が与えられる。

これらのシステムは、2026年12月2日までにこの特定の義務を遵守しなければならない。この猶予期間は、第50条を広く先送りするものでも、その他の適用される開示義務を免除するものでもない。

8月2日より前に生成され、利用可能とされたコンテンツには、遡及的なラベル付けは求められない。欧州委員会は可能な場合の自主的なラベル付けを推奨しているが、義務ではない。

この限定的な移行措置は、EUの簡素化プロセスの中で、より広範なAI Actの期限が変更されたため重要である。一部の高リスクシステム要件は、現在ではより後の日付に従う。

組織は、こうした変更をすべての透明性規則の延期と解釈すべきではない。公式のimplementation timelineでは、第50条の8月2日の適用開始日は維持されている。

執行における判断は、合理的なシステム設計、明確な通知、技術的な堅牢性、そして組織が自らの義務を評価した証拠に焦点を当てる可能性が高い。表面的なコンプライアンスは、より容易に問題視される。

長い会話の後にしか表示されないチャットボットの開示は、その目的を果たせない可能性がある。プロバイダーの通常のエクスポート処理で消える来歴マークは、別の懸念を生む。

任意の行動規範も、期限直前に公表される。企業は以前から規制の中核文を利用できたが、詳細な運用ガイダンスにより、最終調整に使える時間は限られている。

このタイミングは、段階的な是正の必要性を強める。チームはまず利用者への直接的な欺瞞に対処し、その後、最も利用量の多いメディアワークフロー全体で来歴情報を検証すべきだ。

また、意思決定の証拠と未解決の制約を保存すべきである。規制当局は、文書化された技術的制約を、マーキングが不可能だったという裏付けのない主張とは異なる形で評価できる。

規則に実効性があるかを示す三つのシグナル

今後3か月で、第50条が実働するインフラになるのか、それとも利用者が見なくなる単なる通知になるのかが明らかになる。

第一のシグナルは、各国の市場監視当局による執行ガイダンスだ。初期の通知、調査、連携慣行は、当局が十分な開示をどのように解釈するかを示す。

初期の事例は、どの失敗が注目を集めるかも明らかにする。隠されたチャットボットの正体、ラベルのないディープフェイク、脆弱な機械可読マークは、それぞれ異なる証拠および執行上の課題を生む。

各国で一貫した対応が取られれば、第50条が実務的な欧州共通の基準線を確立するという主張は強まる。大きなばらつきがあれば、コンプライアンスのコストは上がり、結果の予測可能性は低下する。

第二のシグナルは、主要コンテンツプラットフォームをまたぐ技術的な維持性である。プロバイダーとデプロイヤーは、一般的な画像、音声、動画のワークフローを通じて来歴情報が保持されるかを検証すべきだ。

ファイルは、編集、圧縮、アップロード、ダウンロード、スクリーンショット取得、トランスコードの後に確認すべきである。ベンダーが特定の形式への対応を主張しているかどうかより、結果のほうが重要だ。

主要プラットフォームが来歴情報を一貫して保持・表示すれば、機械可読なマーキングの実用的価値は高まる。日常的に削除されるなら、可視の開示がより大きな負担を担うことになる。

第三のシグナルは、旧世代の生成システムに関する12月2日の移行期限だ。この日付は、レガシー製品が大きな互換性問題なしにマーキングを採用できるかを示す。

プロバイダーは、どの製品が移行措置の対象となるか、いつ更新が提供されるかを開示すべきだ。エンタープライズ顧客は、自らのリスク計画のためにそれらの日程を必要としている。

アップグレードが成功すれば、EUの多層的なアプローチは強化される。広範な遅延や弱い相互運用性は、法的要件と利用可能なインフラの間にある隔たりを露呈させる。

読者はプロダクトのインターフェースにも注目すべきだ。最も示唆的な変更は、小さな本人性通知、来歴情報パネル、エクスポート設定、開示プロンプトとして現れるかもしれない。

こうした細部は、企業がコンプライアンスをプロダクト設計に統合したのか、それとも開発後に付け足したのかを示す。また、利用者が適切なタイミングで有用な情報を受け取れるかどうかも左右する。

ナレッジワーカーにとって、この期限はAI支援素材とともに情報源の文脈を保存する理由となる。検索可能なAI knowledge baseは、元ファイル、レビュー記録、公開判断を保持する助けになる。

この実践だけで法的コンプライアンスが成立するわけではない。ただし、コンテンツが複数の人やツールを経由する場合に、後から検証しやすくなる。

開発者は、生成エンドポイントだけでなく、出力経路全体をテストすべきだ。エンタープライズの購入者は、開示と来歴情報が通常の利用を経ても維持される証拠を求めるべきである。

出版社は、実質的な人によるレビューを定義し、編集上の責任を文書化すべきだ。AI利用者は、ラベルを真実性に関する自動的な判断ではなく、出所に関する証拠として扱うべきである。

8月2日以降の問いは、欧州がAIの透明性を望んでいるかどうかではない。プロダクト、プラットフォーム、組織が、その透明性を現実のインターネットに接しても維持できるかどうかだ。