欧盟《人工智能法案》开始执行透明度要求，但标签只是考验的一半

欧盟《人工智能法案》将在8月2日迎来关键节点，聊天机器人披露义务和 AI 内容标记将在整个欧盟进入实际执行阶段。这些规则旨在弥补一个基础的信息缺口：人们往往无法判断自己是在与软件交谈，还是在观看合成媒体。

眼下的要求听起来并不复杂。当聊天机器人的人工属性并非一目了然时，它们必须表明身份。生成式系统的提供方则必须让合成或篡改后的输出能够以机器可读的形式被识别。

深度伪造内容以及某些涉及公共利益的材料，其部署者还需履行显著披露义务。但真正的较量并非 AI 公司彼此竞争，而是可识别合成媒体的承诺，与标记可能消失、相互冲突或失去意义这一技术现实之间的碰撞。

欧盟委员会在截止日期前发布了最终指南，为企业如何理解第50条提供了更清晰的解释。执法将主要由各国市场监管机构负责，而欧洲 AI 办公室仅对范围较窄的一类系统拥有监管权。

这一区分对开发者、出版商、平台和企业采购方至关重要。8月2日并不只是新增一则可放在隐私政策旁边的通知，而是将溯源和披露决策推入产品界面、媒体处理流程、供应商合同和审计记录之中。

8月2日欧盟《人工智能法案》下将发生哪些变化

第50条将 AI 身份识别和合成媒体溯源从产品选择转变为法律义务。

欧盟《人工智能法案》于2024年8月1日生效，但其条款按分阶段时间表适用。第50条及大多数其余规则将于2026年8月2日开始适用。

现行条文覆盖四类情形，而非人工智能的所有使用场景。第一项规则涉及旨在直接与人互动的系统。除非这一事实本已显而易见，否则提供方必须确保用户知道自己正在与 AI 互动。

客服助手、招聘机器人、虚拟伴侣或自动化支持代理都可能落入这一要求。披露必须在互动过程中出现，而不能被埋藏在遥远的条款与条件中。

这一判断也取决于具体语境。法律要求考量，在当时情况下，一个具有合理认知并保持注意的人能够识别什么。明显虚构的游戏角色，与外观如真人的金融支持代理，属于不同情形。

第二项要求针对生成或操纵文本、图像、音频或视频的系统。提供方必须设计其系统，使输出携带表明其人工来源的机器可读标识。

法律文本要求，在技术可行的范围内，这些技术措施应当有效、可互操作、稳健且可靠。监管机构也可以考虑实施成本和普遍接受的技术标准。

这项提供方义务不同于某些部署场景中所要求的可见标签。机器可读标记服务于软件和验证工具；可见或可听的披露则服务于接触内容的人。

第三类涵盖情绪识别和生物特征分类系统。使用这类系统的组织必须告知受其影响的人，但执法领域存在有限例外。

第四类适用于部署者发布深度伪造内容，或发布涉及公共利益的 AI 生成文本时。深度伪造图像、音频和视频通常需要明确披露该材料由人工生成或操纵。

涉及公共利益的文本适用更狭窄的规则。当 AI 生成或操纵的文本在未经人工审核或编辑责任承担的情况下发布以告知公众时，必须进行披露。

这一例外避免将普通编辑工作流程视同完全自动化出版。它并未免除对谁审核了材料、谁承担发布责任的审查。

欧盟委员会表示，其目标是在帮助人们作出知情判断的同时，减少欺骗和操纵。透明度指南将这一原则转化为对提供方和部署者更具体的预期。

截止日期带来的压力不止针对聊天机器人开发者

合规负担会沿着 AI 系统，从开发者延伸至将其输出呈现在公众面前的组织。

模型开发者最受关注，但第50条将责任划分给提供方和部署者。提供方开发 AI 系统，或以自身名义将其投放市场。部署者则在其权限范围内使用该系统。

这种划分对软件供应商、零售商、银行、出版商、广告商、政府机构和职场技术团队都带来压力。他们必须确定哪些义务属于供应商，哪些仍由客户承担。

以一家引入对话式助手的在线零售商为例。软件提供方必须在必要时设计系统以披露其 AI 身份；零售商则必须保留这一披露，而不能将机器人包装成员工。

媒体代理机构面临另一条责任链。其图像生成器应当生成可检测的合成输出，而该机构在发布最终广告活动时，可能需要为深度伪造内容加注标签。

当多个工具处理同一文件时，要求会变得更难满足。一张图像可能经历生成、修图、调整尺寸、社交媒体排期和内容分发，才最终到达观众面前。

每一步都可能改变元数据或移除技术信号。因此，即使最终标签看起来很简单，采购和流程测试仍成为核心合规任务。

企业采购方现在应询问供应商：机器可读标记能否在导出、编辑、转码和常见发布系统中保留。他们还需要能够支撑这些主张的证据。

有关“负责任 AI”的营销表述几乎没有审计价值。技术文档、样本文件、版本历史和可重复测试，能更有力地证明系统是否如其承诺般运行。

组织还需要盘点所有面向公众的 AI 互动。一家公司可能会跟踪其主要聊天机器人，却忽略自动化销售代理、语音系统、入职助手，或承包商嵌入的 AI 功能。

出版领域同样存在这一问题。团队需要识别哪些工作流程会创建深度伪造内容，哪些会生成涉及公共利益的文本，以及有意义的人工审核发生在哪里。

人工审核不能沦为仪式化的勾选框。组织应记录谁审阅了输出、审查了什么，以及谁承担了编辑责任。

这种记录保存尤为重要，因为欧盟委员会并非唯一的一线监管机构。各国市场监管机构将处理大部分执法事项，由此形成分布式监管结构。

欧洲 AI 办公室的执法角色更为有限。当提供方同时提供系统及其底层模型时，它可以监管基于通用 AI 模型构建的相关系统。

在涉及超大型在线平台或搜索引擎的某些情形下，该办公室也拥有监管权。欧洲数据保护监督机构负责处理欧盟机构使用的受覆盖系统。

因此，企业面对的是一套共同规则，但可能对应不同的监管关系。这提高了在各产品和成员国市场之间保持内部文档一致性的价值。

欧盟委员会的第50条问答指出，罚款最高可达1500万欧元，或全球年度营业额的3%。对较小企业适用比例原则。

执法风险并非唯一担忧。在监管机构开出任何处罚之前，披露不当还可能引发消费者保护、声誉、合同或平台政策方面的问题。

标签必须穿越内容供应链而不失效

核心权衡很明确：一方面是清晰披露，另一方面则是可能剥离或遮蔽溯源信息的碎片化媒体系统。

第50条采用两种互补机制。面向人的标签告诉受众他们正在看到什么；机器可读标记则让软件能够大规模识别和追踪人工内容。

任何一种机制单独使用都不够。可见标签可能被从图像中裁掉、与转发视频分离，或在截图中遗漏。机器可读信号也可能无法被观看作品的人获取。

技术溯源也可能在无意中中断。社交平台会重新压缩图像，消息应用会更改文件，视频服务会将上传内容转码为新格式。

编辑工具又引入了另一个失效点。生成时有效的溯源记录，并不能保证最终导出的文件会保留相同信息。

因此，欧盟委员会强调内容生命周期中的可靠性。提供方必须考虑其输出可以预见的存储、编辑、分发和检测方式。

机器可读并不意味着法律要求所有情形都使用一种通用技术。这项义务关注的是结果，而标准和行业实践可以为实施提供指引。

一种方法是使用带签名的溯源元数据，记录文件的来源和编辑历史。另一种方法是在媒体本身嵌入不可感知的信号。

元数据可以携带详细信息，但常规处理可能将其移除。嵌入式水印能够经受部分转换，但其检测准确性和耐久性因媒体类型而异。

分层设计可以将这些方法与可见披露结合。其优势在于冗余：如果一种信号消失，另一种仍可传达内容来源。

这种方法也会带来成本和设计妥协。水印必须在不明显损害合法输出的前提下保持可检测性。溯源记录必须能够抵御篡改，同时不暴露不必要的个人或商业信息。

检测工具还需要可靠地访问相关验证数据。一个只有其创建者能解读的标记，对平台、研究人员、记者和下游客户的价值有限。

误报是另一项担忧。错误地将真实媒体标记为合成内容的检测器，可能伤害创作者并削弱整个系统的信任。

漏报则带来相反的问题。即便合规的生成器最初添加了标记，遭操纵的媒体仍可能在未被检测的情况下传播。

该法案通过“技术可行性”措辞承认这些限制。这一限定具有实际意义，但也带来了执法问题：多大的韧性才算足够？

企业需要展示其判断过程。一个可辩护的流程应识别预期的转换方式，测试标记能否在这些转换中留存，并记录失败情况及纠正措施。

自愿性的透明度行为准则为证明合规提供了一条结构化路径。它并不取代第50条，也不会让底层法律变为可选项。

组织无需签署该准则。未签署方仍须通过其他充分措施证明合规，并应预期监管机构会更深入地询问其所选方案。

委员会表示，主管部门可要求未签署方提供更详细的信息。将自身做法与该准则进行书面对比，有助于说明为何另一种实施方式可提供等同保护。

这正是 8 月截止日期改变产品工程的地方。溯源不再只是平台功能，而成为必须经受真实分发环境考验的端到端属性。

深度伪造披露存在重要边界

这些规则针对的是具有欺骗性的模糊性，但并不要求所有 AI 辅助创作都携带同样醒目的警告。

根据该法案，深度伪造是指由 AI 生成或操纵的图像、音频或视频，其内容模仿现有的人物、物体、地点、实体或事件。该材料必须虚假地呈现为真实或可信。

这一定义涵盖了人们熟悉的风险，例如克隆语音、伪造的政治视频，以及描绘从未发生事件的逼真图像。它比“由 AI 制作的内容”更为具体。

一幅明显带有幻想色彩的插画并不会自动构成深度伪造。但在付款请求中冒充首席执行官的合成录音，则是更明确的情形。

部署者必须披露受规制的深度伪造材料是人工生成或操纵的。当受众首次接触内容时，该披露必须清晰且易于区分。

艺术、创意、讽刺、虚构及类似作品适用经调整的处理方式。披露仍然必要，但不应妨碍作品的展示或欣赏。

这一规定承认了一个棘手的设计问题。醒目的警告可以防止欺骗，但侵入式提示也可能破坏电影、表演、游戏或视觉艺术作品的呈现。

语境因此至关重要。适合新闻片段的标签未必适合院线发行，而音频披露的运作方式也可能不同于图片说明。

面向公共利益的文本规则又划出了一条重要边界。为告知公众而发布的全自动文本，通常在由 AI 生成或操纵时需要披露。

不过，如果有人审阅文本或行使编辑控制，并且有人对发布承担责任，则该要求不适用。

不应将这一例外理解为只要编辑参与过的内容就一概豁免。核心问题在于是否存在实质性审阅、控制和问责。

使用 AI 进行转录或提供文案建议的新闻编辑室，与自动发布未经审阅的政治摘要的网站，处境并不相同。最终工作流程比笼统的“AI 辅助”标签更重要。

该法律还对某些依法获授权的执法系统设有例外。这些例外附带保障措施，并不会将面向公众的犯罪举报工具变成隐藏式 AI 界面。

组织不应出于防御目的而对所有内容过度标注。泛滥的警告会让真正重要的提示更难被注意到，也会让用户学会忽视它们。

更好的披露应在相关时刻告诉受众真正重要的信息。它应识别人工交互或操纵行为，而不是用技术细节淹没用户。

委员会的速览区分了提供者义务与部署者义务。这一区分有助于团队避免将一个通用标签误当作完整的合规方案。

例如，视频平台可能需要保留来自上游生成器的技术溯源信息。发布欺骗性合成视频的人，则可能另外承担显著披露义务。

责任也可能重叠。一家公司若开发某系统并以自身权限部署该系统，可能同时承担两种角色下的义务。

实际教训是，组织必须对使用场景进行分类，而不只是对供应商分类。同一个生成式模型可用于低风险图像修复、虚构娱乐，或误导性冒充。

一套有用的审查流程应记录用途、受众、逼真程度、所呈现的对象、人工监督以及发布语境。这些事实决定了何种披露具有相关性。

最大的不确定性在于透明度是否有效

合规可以让合成媒体更容易识别，但无法让欺骗行为消失。

有意作恶者可以使用不合规工具、移除可见披露、通过另一台设备录制输出内容，或在不合作的平台之外分发材料。第 50 条无法消除这些手段。

该法律转而改变激励机制，并为合法提供者和部署者建立基线。在欧洲运营的大型服务必须将披露和溯源纳入日常产品行为。

这可改善平台、调查人员和受众获得的信息。它也能让缺少预期溯源信息成为一个有用的警示信号。

但缺失并不等于伪造的证据。旧文件、截图、传统相机以及保护隐私的工作流程，完全可能因正当原因而缺少溯源信息。

值得信赖的检测系统必须传达不确定性。它应区分已确认的溯源、信息缺失、凭证受损和疑似操纵。

同样的谨慎也适用于用户。可见的 AI 标签确认了人工参与，但并不能证明某项主张是虚假的或有害的。

反过来，真实媒体也可能选择性地呈现事件，或缺乏语境。溯源有助于评估，但无法取代新闻工作、来源核查或批判性判断。

跨境执法带来另一项不确定性。各国主管部门适用同一法规，但早期调查在优先事项、人员配备和技术能力上可能有所不同。

委员会的指导应能减少不一致的解释，但棘手案例仍需要监管决定，甚至可能诉诸诉讼。产品团队应预期实施实践会不断演变。

现有系统还存在时间上的细节。8 月 2 日前投放市场的生成式 AI 系统，在机器可读标记义务方面获得有限过渡期。

这些系统必须在 2026 年 12 月 2 日前遵守这一特定义务。宽限期并不会普遍推迟第 50 条，也不会免除其他适用的披露义务。

8 月 2 日前生成并提供的内容无需追溯标注。委员会鼓励在可行时自愿标注，但这并非强制要求。

这一狭窄的过渡安排之所以重要，是因为更广泛的 AI 法案截止日期在欧盟简化流程中发生了变化。一些高风险系统要求如今适用更晚的日期。

组织不应将这些变化理解为所有透明度规则都被推迟。官方实施时间表仍维持第 50 条于 8 月 2 日适用的日期。

执法测试很可能聚焦于合理的系统设计、清晰的提示、技术韧性，以及组织已评估其义务的证据。表面化的合规将更容易受到质疑。

仅在长时间对话后才出现的聊天机器人披露，可能无法实现其目的。在提供者正常导出流程中消失的溯源标记，则会引发另一类担忧。

自愿准则也在临近截止日期时才出台。企业较早便获得了法规的核心文本，但详细的操作指引留给最终调整的时间有限。

这一时间安排强化了分阶段整改的理由。团队应先处理直接面向用户的欺骗风险，再测试其最高量级媒体工作流程中的全程溯源。

他们还应保留有关决策和未解决限制的证据。监管机构可能会以不同方式评估一项有书面记录的技术限制，以及一项缺乏依据、声称无法标记的说法。

三个信号将显示规则是否真正有效

未来三个月将揭示，第 50 条会成为可运作的基础设施，还是另一种用户最终不再注意的提示。

第一个信号来自国家市场监管机构的执法指导。它们最初的通知、调查和协调实践将显示其如何理解充分披露。

早期案件也将揭示哪些失误会受到关注。隐藏聊天机器人身份、未标注的深度伪造，以及脆弱的机器可读标记，带来了不同的证据和执法挑战。

一致的国家行动将强化这样一种观点：第 50 条建立了实用的欧洲基线。广泛分歧则会提高合规成本，并让结果更难预测。

第二个信号是主要内容平台之间的技术存续性。提供者和部署者应测试溯源信息能否在常见的图像、音频和视频工作流程中保留。

文件应在编辑、压缩、上传、下载、截图和转码后进行检查。结果比供应商是否声称支持某种特定格式更重要。

如果主要平台能够一致地保留并展示溯源信息，机器可读标记就会获得实际价值。若它们经常将其剥离，可见披露将承担更多责任。

第三个信号是旧版生成式系统在 12 月 2 日到期的过渡期限。该日期将显示旧产品能否在不引发重大兼容性问题的情况下采用标记。

提供者应披露哪些产品符合过渡条件，以及何时推出更新。企业客户需要这些日期来规划自身风险。

成功升级将强化欧盟的分层方法。大范围延迟或互操作性薄弱，则会暴露法律要求与可用基础设施之间的缺口。

读者还应关注产品界面。最具启示性的变化可能体现为细微的身份提示、溯源面板、导出设置和披露提醒。

这些细节显示企业是将合规融入产品设计，还是在开发完成后才附加上去。它们也决定用户是否在恰当时刻获得有用信息。

对于知识工作者而言，这一期限提供了一个理由：在 AI 辅助材料旁保留来源语境。可搜索的AI 知识库有助于保留原始文件、审阅记录和发布决策。

这一做法本身并不能确立法律合规性。但当内容经过多人和多种工具流转时，它会让后续核查更容易。

开发者应测试完整的输出路径，而不仅是生成端点。企业采购方应要求提供证据，证明披露和溯源能够在正常使用中存续。

出版方应界定有意义的人工审阅，并记录编辑责任。AI 用户应将标签视为有关来源的证据，而非对真实性的自动判断。

8 月 2 日之后的问题不再是欧洲是否希望实现 AI 透明度，而是产品、平台和组织能否让这种透明度经受真实互联网的考验。