欧盟委员会加强 AI 监管，应对深度伪造与网络威胁

欧盟委员会已启用新的 AI 监管权力，使 Google News 和主要模型提供商进入更严格的欧洲执法环境。

这一变化于 2026 年 8 月 2 日生效，欧盟《AI 法案》中的关键透明度规则与执法条款开始适用。监管机构如今可以审查提供商如何记录、评估、保护及解释特定 AI 系统和通用 AI 模型。

这并非只是再次要求网站在合成图像旁添加标签。欧盟委员会正将内容透明度与对模型的直接审查结合起来，而这些模型可能生成深度伪造内容、自动实施网络攻击，或大规模操纵用户。

Google 正面临多方压力。它开发通用模型、提供 AI 功能、运营大型搜索引擎，并通过 Google News 整理新闻。每一种角色都会带来不同的法律与运营问题。

核心冲突如今已十分明确：AI 公司希望采用一套模型和一套产品架构服务全球市场，而欧洲监管机构则期待保障措施能够在模型、平台、出版商和下游应用之间持续有效。

最初的检验标准不会是每一项合成内容是否都获得完美标签，而是监管机构能否沿着这条复杂的责任链追溯有害输出的源头。

Google News 进入新的 AI 透明度时期

眼前的变化是：合成内容及其背后模型都将受到可执行的问责。

《AI 法案》第 50 条要求提供商和部署者披露多种形式的自动化或人工生成内容。其规则涵盖聊天机器人互动、深度伪造、情绪识别、生物特征分类，以及部分涉及公共利益事项的文本。

深度伪造是指经操纵或生成、却被错误呈现为真实的音频、视频或图像。该定义不止涵盖伪造的政治视频，也可能包括克隆语音、篡改照片，以及模仿真实事件的合成录音。

在相关义务适用时，提供商必须使受覆盖的合成输出能以机器可读形式被识别。部署者则负有单独义务，须披露深度伪造内容及特定 AI 生成的公共利益文本。

欧盟委员会最终发布的透明度行为准则提供了满足这些要求的实务方法。该准则属自愿性质，但其背后的法律义务并非如此。

这一区别对 Google News 至关重要。该服务汇集并排序外部出版商的内容，而 Google 同时也提供能够生成或修改内容的 AI 系统。责任取决于相关实体在输出内容的创建、部署、分发或呈现环节中扮演了何种角色。

在编辑控制下撰写的传统文章，不会仅仅因为制作过程中使用了 AI 工具就成为深度伪造。经过人工审核并承担编辑责任的公共利益文本，也会获得不同对待。

这些边界可避免规则沦为所有涉及自动化内容的一概标签。但同时，它们也提高了执法难度，因为监管机构必须审查工作流程，而非只看可见输出。

欧盟委员会还澄清了另一项重要限制：8 月 2 日前生成的内容无需追溯标注，不过仍鼓励自愿披露。

对于已投放市场的部分系统，其机器可读标记义务享有有限过渡期。根据欧盟委员会的第 50 条指引，这些提供商在该项具体要求上可延至 2026 年 12 月 2 日。

这一宽限期并未暂停所有透明度义务。它仅适用于 8 月 2 日前投放市场系统的标记与检测义务。

这种细微差别很容易在 Google News 的标题中被忽略。欧盟并未为每家出版商、每个模型和每项内容设定统一的水印截止日期。

相反，它根据系统、行为主体和输出内容设立了相互重叠的义务。合规团队必须先确定自身组织所处角色，再选择技术控制措施。

对读者而言，最终可见的结果应是围绕合成媒体的更清晰披露。在这一界面背后，企业则必须建立来源记录、检测方法、审核程序和升级处理路径。

因此，标签只是一个更庞大合规体系的终点。欧盟委员会希望在有害内容触及欧洲用户之前，看到该体系有效运行的证据。

欧盟委员会如今可审查模型，而不只是输出内容

欧洲更严格的路径延伸至上游，在那里，模型设计和风险控制会塑造数百万次下游互动。

《AI 法案》赋予欧盟委员会对通用 AI 模型的直接执法责任。这类模型能够执行许多彼此无关的任务，并常为其他公司打造的产品提供支持。

自 2025 年 8 月 2 日起，提供商便已面临通用 AI 义务。随后一年是过渡期，直至欧盟委员会的执法权开始适用。

自 2026 年 8 月 2 日起，欧盟委员会可执行这些义务并处以罚款。其发布的提供商指引还要求具有系统性风险的模型提供商通知 AI Office。

系统性风险是指可能在欧洲市场造成广泛损害的模型能力或影响。相关领域包括网络安全、有害操纵、基本权利，以及化学或生物危险。

受覆盖模型的提供商必须维护技术文档，并与下游开发者共享指定信息。他们还必须制定遵守欧洲版权法的政策。

能力最强的模型还面临额外义务。其提供商必须评估系统性风险、测试模型行为、报告严重事件，并保护模型及其支撑基础设施。

这些要求使 OpenAI、Google、Anthropic、Meta、DeepSeek 等开发商受到一套共同监管逻辑的约束。当它们将受覆盖模型投放欧洲市场时，其公司总部所在地并不能免除相应义务。

欧盟委员会正通过扩充后的 AI Office 支持这项工作。其官方AI Office 概览称，该机构现已在六个部门中雇用超过 125 人。

该办公室包括技术专家、律师、经济学家、政策专家及行政人员。其职责包括制定评估方法，并判断模型是否带来系统性风险。

美联社报道称，另有一支由 38 人组成的团队将负责监控 AI 公司。这支执法团队可在调查期间索取文件并访谈公司人员。

这使开发商与监管机构之间形成了不同的关系。企业不能再将安全报告视为完全自愿、围绕产品发布节奏塑造的出版物。

监管机构可以将提供商的公开声明与内部测试、事件记录、技术文档和风险评估进行比对。这些材料之间的差异可能成为执法证据。

这种压力并不止于深度伪造。前沿模型可能协助用户编写恶意代码、识别软件漏洞，或自动对公共基础设施发起攻击。

模型也可能生成具有说服力的冒充内容，用于实施欺诈。同一项底层能力，可能将合成语音、网络钓鱼活动与未经授权的网络入侵联系起来。

这正是欧盟委员会在更广泛的系统性风险框架下，将深度伪造和网络威胁并列处理的原因。两者都可能利用规模化、自动化，以及日益逼真的模型输出。

Google 的位置格外复杂。它开发 Gemini 模型，将 AI 嵌入消费者产品，运营广告和云业务，并掌控重要的信息分发界面。

Google News 又增添了一层复杂性，因为用户可能在传统新闻报道旁看到合成或被操纵的说法。即使制作精良的内容看似合法新闻，排序系统也必须区分相关性与真实性。

因此，欧盟的干预同时向模型构建者和信息分发者施压。模型安全不能止步于研究实验室，内容标签本身也无法独自解决不安全的模型行为。

核心权衡在于可追溯性与全球规模

欧盟希望建立可追溯的责任链，而 AI 企业依赖于跨境传播、并在独立应用中落地的产品。

通用模型很少通过单一、受控的界面触达用户。云服务客户、应用开发者、出版商、公共机构和个人，都可以围绕同一模型构建不同体验。

这种分发模式创造了经济价值。但当某项输出变得具有欺骗性、违法或在运营上危险时，也使责任归属变得困难。

模型提供商可能称其已提供保障措施和文档。下游开发者可能辩称，基础模型产生了有害能力。平台则可能声称自己只是托管或排序了最终内容。

《AI 法案》试图阻止这些空白成为永久性的逃避责任通道。它在模型、系统、部署和平台等多个环节分配义务。

对于 Google News 而言，内容来源尤其重要。来源是指内容起源于何处，以及人员或软件如何对其进行修改的记录。

显眼提示可以告知读者，一张图像是生成的。机器可读元数据则可帮助平台和验证服务自动核查这一说法。

两种方法都并不完美。当有人截屏、压缩文件，或通过会删除嵌入信息的系统上传内容时，元数据可能消失。

不可见水印也可能在裁剪、编辑或反复编码后失效。检测工具可能产生误报，尤其是在评估经过压缩或低质量媒体时。

因此，欧盟委员会的方法倾向于采用多层机制。技术标记、可见披露、文档、风险管理和人工审核分别服务于不同目的。

这种分层结构增加了实施成本。提供商必须设计能够经受工具、平台和媒体格式之间转移的控制措施。

下游企业必须判断接收到的输出是否带有可靠来源信息。出版商需要为存在争议的内容建立编辑流程，而平台则需要为疑似操纵建立升级处理路径。

这与行业偏好简单的全球发布方式相冲突。一家公司可能在全球使用同一版本的模型，但欧洲的文档与披露规则可能要求区域化工作流程。

规模较小的提供商面临更严峻的资源限制。它们可用于合规计划的律师、政策专家、安全研究人员和安全工程师更少。

大型企业拥有这些资源，但其系统带来的风险暴露也更为复杂。Google 无法将模型治理与 Search、YouTube、云服务、广告或 Google News 分割开来。

欧盟试图通过自愿性准则和详细指引降低不确定性。签署准则可帮助提供方证明其采取了结构化的合规方法。

但这并不意味着自动获得豁免。监管机构仍可调查实际行为是否符合法律要求。

委员会还通过已于 2026 年 7 月 27 日生效的 AI Omnibus 调整了实施安排。该法案延长了部分时间表，并明确了监管安排。

这些修订表明，执法不会遵循一份固定不变的日程表。部分高风险系统的规则现将更晚出台，而透明度和通用用途模型条款则继续按当前路径推进。

因此，企业必须逐项跟踪义务。将“AI Act 截止日期”视为单一日期，可能导致不必要的工作，或造成严重的合规缺口。

这种权衡也延伸至用户。更强的可追溯性有助于识别操纵行为，但设计不当的标签同样可能制造虚假的信心。

标签只能确认系统以某种方式对内容进行了分类。它并不能证明未标注的图像真实可信，也不能证明被标注的作品缺乏正当的艺术价值。

最有力的实施方式将保留这一区别。披露应当提供证据，而非取代批判性判断。

执法仍存在管辖权与技术缺口

委员会拥有了更强的权力，但分散的管辖机构和不完善的检测能力，可能限制欧洲执法的一致性。

首要的不确定性在于每项规则由谁执法。委员会直接监管通用用途 AI 模型义务，但 Article 50 的大部分执行工作由各国市场监管机构负责。

AI Office 在 Article 50 中的角色比一些新闻标题所暗示的更为有限。当同一组织同时提供通用用途模型及相关系统组件时，它可以监管某些建立在通用用途模型之上的系统。

其权限也可覆盖被整合进超大型在线平台或搜索引擎的符合条件系统。这使由大型科技集团运营的服务尤其值得关注。

各国主管机构仍将作出许多一线决定。27 个成员国在人员配备、技术经验、优先事项和调查速度方面可能各不相同。

AI Office 可以推动协调，但协调并不保证结果完全一致。一家公司可能在多个市场就相似系统面对不同的问题。

第二个缺口涉及技术验证。没有任何一种水印方法能够在所有格式和分发渠道中确立普遍真实性。

不法行为者有动机去除标记、模糊来源信息，或对真实材料作出虚假标注。开源编辑工具使反复转换变得容易。

监管机构必须避免将检测失败视为自动证明不合规。他们需要审查提供方是否采用了适当方法、监测了性能，并对已知弱点作出回应。

同样的谨慎也适用于网络安全评估。模型在微调、工具集成、提示词变更或获得私有数据访问权限后，可能表现出不同的行为。

一次实验室测试无法代表所有下游配置。提供方需要可重复的评估，而调查人员则需要获得足够的访问权限，以测试具有实际意义的场景。

监管表述过度也存在风险。深度伪造标签可以减少欺骗，但无法阻止滥用性合成媒体的产生。

当犯罪分子匿名分发内容，或在不合作的平台之外传播内容时，披露规则的作用就很有限。现有法律、平台执法、受害者支持和刑事调查仍然必不可少。

言论自由方面的担忧又增加了一项挑战。讽刺、戏仿、虚构作品和艺术创作都可能使用合成媒体，而并无欺骗意图。

AI Act 包含与具体语境相关的条款，但平台仍可能为降低其感知风险而过度标注或删除合法内容。自动化审核可能放大这种倾向。

新闻机构面临相关问题。记者有时会发布被操纵的材料，以记录宣传、欺诈或网络滥用。

一篇负责任的报道可能展示深度伪造内容，同时清楚解释其来源。系统必须将这种编辑用途与欺骗性呈现区分开来。

Google News 正处于这些决策的交汇点。它可以对关于深度伪造的报道、出版商的更正、原始欺骗性上传内容，以及针对每一项内容生成的 AI 摘要进行排序。

粗略的标签可能混淆这些类别。更详细的来源信息界面将提供更大价值，但也要求出版商和平台持续提供一致的信息。

最后一个不确定性涉及证据获取。有效执法依赖技术记录、内部事件报告、模型评估，以及跨国公司的配合。

监管机构需要能够质疑提供方主张、同时不泄露机密信息的专家。企业则需要建立安全流程，以共享敏感的模型和网络安全数据。

委员会扩充人员在一定程度上解决了这一问题。其成效将取决于调查质量，而不仅仅是员工数量或正式权限。

早期案件应能揭示监管机构要求多少证据。它们也将显示，主管机构是聚焦于明显的披露失误，还是模型治理中更深层的弱点。

在这些决定出台前，合规团队将通过指引、自愿性准则以及与监管机构的直接沟通来理解广泛义务。

Google News 读者接下来应关注什么

三个信号将显示，欧洲新的 AI 监管是否改变了真实产品，还是大多仍停留在文档工作层面。

第一个信号是委员会首次针对通用用途模型的调查。调查对象、证据要求和被指控的失误，将界定执法的实际含义。

若案件聚焦于缺失文件，将促使企业强化报告系统。若案件涉及不安全能力，则会推动开发者开展更广泛的评估和缓解措施。

这种区别很重要。文书合规可以迅速衡量，而证明系统性风险控制不足则需要更深入的技术分析。

读者应关注委员会是否要求提供内部模型测试、事件历史，或允许独立评估的访问权限。这些要求将表明审查范围超出了已发布的安全摘要。

第二个信号是主要平台上是否出现一致的合成内容标签。Google News、Search、YouTube、社交网络和出版商网站都是有用的比较点。

一致性并不要求使用完全相同的图标。它要求披露内容能让用户识别，并让机器能够跨服务解读。

针对已投放市场系统的部分标记义务，其有限过渡期将于 12 月 2 日结束。这一日期为技术实施提供了具体检验。

如果标签只出现在第一方生成工具内部，来源信息仍将十分脆弱。合成内容往往在有人将其导出并转发到其他地方后，才触及最大规模的受众。

如果平台保留并展示可靠的元数据，欧盟的可追溯性方法将获得可信度。如果元数据经常消失，监管机构就需要不同的证据要求。

第三个信号是涉及网络攻击或有害操纵的严重事件报告。此类报告将检验提供方是否会在记者或研究人员发现问题之前披露相关情况。

AI Act 要求系统性风险模型的提供方识别并缓解重大危险。事件报告让监管机构能够将这些承诺与实际事件进行对照。

透明的回应将强化委员会的协作模式。延迟或不完整的披露将加大对正式调查和整改命令的压力。

企业还应披露足够的信息，让用户了解风险，同时避免公开会帮助攻击者的操作细节。这一平衡仍将难以把握。

对开发者而言，眼下的教训是保留能够关联模型选择、测试、部署设置和事件响应的记录。没有支持证据的安全主张，在调查期间几乎无法提供保护。

企业采购方应询问供应商由谁承担各项合规义务。合同需要明确模型更新、生成内容标记、安全事件和监管请求的责任归属。

当 AI 协助开展公共利益报道时，出版商应记录人工审核过程。编辑控制会影响透明度义务的适用方式，但未经记录的审核日后将难以证明。

知识工作者应将标签视为有用信号，而非真实性证书。未标注的录音仍可能是合成内容，而被标注的媒体仍可能包含准确信息。

当合成媒体推动快速发展的新闻事件时，Google News 用户应对照不同报道、检查原始来源，并寻找更正信息。聚合改善了发现能力，但并不能消除核验工作。

委员会的新权限改变了围绕这种核验的激励机制。当薄弱的文档记录、不安全的模型或缺失的披露违反适用义务时，提供方如今将面临后果。

欧洲已从制定预期转向检验这些预期。决定性问题在于，调查人员能否沿着一项有害输出，追溯穿过模型、应用、平台和出版商的全链路。

关注首批执法案件、12 月的标记截止日期，以及对严重 AI 事件的处理。这些信号将共同显示，Google News 是否进入了一个真正更具可追溯性的信息环境。