乌尔苏拉·冯德莱恩的 AI 放缓计划将行业警告转化为欧盟考验

尽管面临加速全球竞赛的强大压力，乌尔苏拉·冯德莱恩仍于 9 月 16 日支持放缓 AI 发展。欧盟委员会主席还承诺邀请主要前沿实验室，就如何控制先进模型开发速度展开讨论。

她的介入将一场行业争论转化为欧洲的政治考验。Anthropic CEO Dario Amodei 一直敦促企业在独立安全研究赶上进度前放缓能力提升。OpenAI CEO Sam Altman 和 Elon Musk 也支持这一总体方向。

如今，分歧已超出对人工智能前景的不同预测。一方希望协调发展节奏、开展外部评估，并建立共享预警系统。另一方则认为，每个实验室都应自行管理风险，不应让竞争对手或政府控制开发进程。

这场冲突给布鲁塞尔带来了艰巨任务。欧盟已经对通用 AI 模型实施监管，其中包括具有系统性风险的模型。然而，现有规则并不会自动促成协调一致的全球放缓。

冯德莱恩提出让欧洲成为会面地点。但她尚未公布参与者名单、技术阈值、执法机制或使该提议具备可操作性的时间表。

乌尔苏拉·冯德莱恩的 AI 放缓计划究竟改变了什么

该声明为行业放缓提供了政治支持，但并未命令任何实验室停止训练模型。

冯德莱恩在法国斯特拉斯堡向欧洲议会发表年度国情咨文时作出这一承诺。她表示，委员会将邀请主要前沿实验室，讨论如何支持“放缓前沿发展”的努力。

前沿模型是指处于当前 AI 发展最前沿、能力极强的通用系统。这一术语描述的是不断变化的技术边界，而非固定的产品类别。

放缓也并不意味着永久停止。根据 Amodei 的提议，实验室应适度减缓能力开发，以便评估、安全措施和外部监督能够跟上进度。

冯德莱恩将这一提议与网络威胁、自我改进系统以及涉及自主智能体的事件联系起来。她警告称，正在开发的模型将使黑客攻击达到此前无法实现的水平。

欧盟委员会主席还提到，开发者在据报涉及 Hugging Face 的事件后发出了警报。她的演讲并未提供该事件完整的技术说明。

核心政治表态可见于委员会已发布的国情咨文。冯德莱恩表示，当构建先进系统的领导者自己呼吁放慢步伐时，欧洲应作出明确回应。

这一逻辑之所以重要，是因为它颠倒了通常的游说关系。科技公司通常会要求监管机构给予灵活性、加快速度并减少限制。如今，多位领先高管正呼吁开展协调，而单个企业表示自己无法独自实现这一点。

冯德莱恩提议与加拿大、英国及其他理念相近的伙伴合作。她将模型评估、验证、早期预警和 AI 安全列为联合工作的领域。

这些领域勾勒出一个安全体系的雏形。但它们尚未界定哪些能力应触发干预，也未说明评估者将如何验证合规性。

演讲还强调，欧洲必须保留自身的 AI 能力。冯德莱恩呼吁增加算力，并加大对有前景欧洲企业的投资。

因此，她的立场并非反对 AI 发展。它将最危险前沿领域的放缓，与更快的应用、基础设施投资和本土能力建设结合起来。

这种平衡在政治上颇具实用性，但在技术上要求极高。欧洲希望降低灾难性风险，同时不放弃经济独立性，也不沦为美国模型的单纯客户。

根据独立报道，该声明没有附带会议日期或确认的嘉宾名单。委员会也没有明确具有约束力的发布规则。

眼下的变化是政治合法性。协调放缓已从高管层的提议，进入一个能够监管大型市场准入的机构议程。

缺失的细节仍比邀请本身更为重要。在布鲁塞尔明确可衡量的承诺之前，乌尔苏拉·冯德莱恩的 AI 放缓计划仍是一项获得认可的方向，而非可执行的政策。

欧洲为何现在采取行动

这一时机反映出，行业领导者的安全警告与欧盟新近启动的执法机制罕见地形成一致。

Amodei 在冯德莱恩演讲前数日发表了“We Must Pace the Frontier”。他认为，能力增长应放缓到足以让对齐、安全和公众监督跟上进度的程度。

他的放缓提议提出了三大行动层面。第一项是让独立评估者永久进入前沿实验室。

第二项呼吁主要开发者在国内开展协调。由于竞争对手之间的协议可能引发反垄断担忧，此类协调需要谨慎处理。

第三项寻求国际合作。若其他主要 AI 强国不参与，一项国家或区域性的限制协议可能只会推动开发活动转移到其他地区。

Anthropic 表示，将通过向外部评估者提供与员工同等的访问权限来推进第一层行动。这些评估者将检查系统、评估安全措施、报告事件，并审查开发过程中的模型行为。

这一承诺目前仍是一项已公布的计划。Anthropic 尚未根据拟议安排发布完成的独立评估。

Altman 公开支持放缓和外部评估者这两个概念。Musk 也同意 Amodei 的核心警告，使这些经常在 AI 战略上发生冲突的领导者形成了罕见共识。

这些呼声出现在前 Anthropic 研究员 Jacob Coxon 辞职之后，他此前曾在 OpenAI 工作。Coxon 指责领先实验室在没有足够责任机制的情况下追求自我改进 AI。

他的说法加剧了外界关注，但并不能独立证明当前模型可以在无人类控制下递归式自我改进。它们反映了部分内部人士对风险的强烈判断。

冯德莱恩将这些警告视为政府介入的理由。如果实验室认为单方面克制会使自己处于不利地位，协调便成为核心政策问题。

一家独自放缓的公司，可能失去研究人员、客户、投资和基准测试领先地位。只有当竞争对手同样受到可比承诺和有意义验证的约束时，其克制才会有效。

这一激励问题解释了为何自愿承诺往往会在竞争压力下弱化。如果所有人都放缓，每家公司都能从中受益；但若自己加快发展，它仍可获得优势。

欧洲带着既有法律框架加入这场讨论。AI Act 对将通用模型投放欧洲市场的提供商施加义务，其中也包括总部设在欧盟以外的提供商。

对于具有系统性风险的模型，该框架包括风险评估、测试、事件报告和网络安全义务。委员会于 2026 年 8 月开始全面执行通用 AI 义务。

官方AI Act 指引确认，执法可包括罚款。这为布鲁塞尔提供了一个非正式行业联盟所不具备的监管基础。

但遵守 AI Act 并不等同于放缓前沿开发。实验室可能完成所需评估，同时仍以全速训练能力日益强大的系统。

该法案聚焦于与模型及其在欧洲部署相关的义务。放缓协议则会管理能力开发本身的速度、顺序或条件。

这一区别解释了为何需要新的会谈。既有监管能够要求提供证据和采取风险控制措施，但不会自动形成共同的刹车机制。

欧洲现在采取行动也有战略原因。华盛顿一直将与中国的竞争置于优先位置，而 President Donald Trump 已拒绝要求全面放缓的呼声。

这为布鲁塞尔塑造国际安全协调留下了空间。加拿大和英国都是技术能力较强的伙伴，无需华盛顿与北京立即达成一致。

不过，即使两国共同参与，也无法控制全球前沿。大多数领先实验室、计算资源和半导体供应链仍与美国紧密关联。

欧洲的影响力来自其市场、法律权力、研究基础和设定合规预期的能力，而非来自生产最强大商业模型的主导地位。

因此，乌尔苏拉·冯德莱恩的 AI 放缓计划考验着一项熟悉的欧洲战略。布鲁塞尔正试图将监管信誉转化为对主要在其他地区开发技术的影响力。

核心分歧在于协调放缓还是由企业自行掌控

核心争议是，前沿实验室是否需要共同限制，还是应继续自行决定发展速度。

协调的支持者认为，竞争阻碍了可信的单方面克制。如果另一家开发者能够夺取客户和战略地位，实验室便无法安全地推迟发布。

他们还认为，可比的外部评估将带来更好的信息。政府和公众目前在能力提升、事件和安全措施方面，仍高度依赖实验室的披露。

独立评估者可以缩小这一信息差距。其价值取决于访问权限、技术能力、机构独立性，以及发布令人不适的发现的许可。

Amodei 提出的员工级访问权限解决了这一问题的一部分。它将允许评估者在系统公开发布前检查系统，而非仅评判成品。

据报道，OpenAI 愿意采取类似做法，这提高了该方案的潜在重要性。若多家主要实验室提供可比访问权限，跨公司的评估将更具可信度。

政府参与还可能解决法律障碍。竞争对手若讨论训练时间表、算力限制或发布计划，在没有审慎界定的框架下可能面临反垄断审查。

冯德莱恩的邀请为讨论这一框架提供了场所。它并未赋予法律豁免、批准协调，也未决定竞争对手可以共享哪些信息。

反对观点建立在不同的激励逻辑之上。Meta CEO Mark Zuckerberg 认为，每家实验室都可以在安全需要时自行放缓工作。

他表示，安全和信任可以成为竞争优势。根据他的公开说法，Meta 曾为进行额外安全工作而推迟其一款智能体。

该案例支持暂时性的公司层面克制，但无法说明单方面暂停是否能够应对多个相互竞争的前沿项目同时出现的风险。

Zuckerberg 同样反对达成全行业协议的必要性。他的立场保留了管理层的控制权，也避免让既有竞争对手协商共同限制。

Nvidia CEO Jensen Huang 也一直反对广泛放缓的主张。他的立场反映出一种担忧：夸大威胁的说法可能限制有益的发展，并助长安全服务商的商业利益。

Trump 总统则从与中国竞争的角度界定这一问题。从这一视角看，西方协调放缓可能削弱战略领先地位，而竞争对手仍在持续推进。

这些反对意见并非仅出于意识形态。一项设计不当的协议可能会固化当今的市场格局，并保护那些已最接近前沿的实验室。

规模较小的挑战者可能面临高昂的评估要求，而成熟企业更容易承担这些成本。统一的计算阈值也可能令采用不同技术路径的开发者处于不利地位。

行业分歧在 AI slowdown reactions 中变得明显。Anthropic、OpenAI 和 Musk 支持放缓节奏，而 Meta 拒绝加入这一协调行动。

据报道，Google 和 Microsoft 支持开展讨论，尽管支持一项原则并不等于接受某项具体限制。它们作出的具体承诺仍然至关重要。

这一分歧削弱了行业已达成共识的任何说法。多位有影响力的领导者都认同存在严重风险，但他们对谁应掌控应对方式存在分歧。

这正是 von der Leyen 倡议背后的主要对立结构。协调放缓承诺提供共同保护，而公司自主控制则承诺灵活性与持续竞争。

任何一方都不能仅仅依赖善意。缺乏透明度的协调可能沦为卡特尔，而单方面负责也可能成为无法验证的自我监管借口。

因此，一个可信的欧盟流程必须将正当的安全协调与商业协调区分开来。参与者应共享风险信号，而非分割市场、操纵价格或阻挡新进入者。

它还必须将模型评估与政治审批区分开来。评估者应衡量明确界定的能力与保障措施，而不是决定哪些公司有资格参与竞争。

欧洲可以提供法律框架，但无法制造信任。实验室需要接受可比测试，披露重大事件，并容忍可能延迟盈利性发布的评估结论。

只有当这些承诺适用于所有公司时，Ursula von der Leyen 的 AI 放缓才具有意义。如果一次会议为每家实验室产出不同的私下承诺，就会延续当前的问题。

最难的部分是建立可验证的刹车机制

真正的放缓需要触发条件、测试、独立决策流程，以及证明开发确实发生改变的证据。

首要挑战是界定被放缓的活动。“AI 开发”可以指训练运行、后训练、智能体部署、自主研究、计算支出或公开发布。

停止所有研究将比多数支持者主张的范围更广。若允许无限制训练、仅延迟公开发布，内部能力风险可能依然不变。

一个可行的体系需要将范围限定在可衡量的危害之上。它可能聚焦于在网络能力、生物协助、自主性或自我改进方面跨越特定阈值的模型。

仅基于计算投入的阈值更易于观察。然而，算法改进可以在计算能力没有相应增加的情况下产生更强的能力。

能力测试提供更直接的证据，但基准测试可能过时或被操纵。实验室也可能针对已知评估进行优化，却不解决更广泛的行为问题。

第二项挑战是选择评估者。他们需要深入的技术访问权限，但不能因此依赖于其审查的实验室。

员工层级的访问听起来意义重大，但访问本身并不能保证独立性。评估者需要稳定资金、发表权、利益冲突规则以及免受报复的保护。

他们还需要有权依据训练记录、模型检查点、安全缓解措施和内部事件报告追踪证据。分阶段演示提供的保障将弱得多。

第三项挑战是决定模型未通过评估后会发生什么。没有后果的评估可能沦为文档工作。

可能的应对措施包括增加测试、强化保障、限制访问、延迟部署，或暂时停止进一步扩展。委员会尚未在这些选项中作出选择。

第四项挑战是跨境验证。一个实验室可能在欧洲遵守规定，却通过其他司法辖区进行训练或发布。

欧盟可以监管投放其市场的产品，但全球能力开发并不能被整齐地纳入区域边界。模型无需以传统方式在当地发布，也可能影响欧洲用户。

因此，国际协调至关重要。Canada 和 United Kingdom 可以贡献专业知识、测试机构和外交支持。

但它们的参与仍会留下重大缺口。United States 拥有数家领先实验室，而 China 是全球 AI 竞争中的核心参与者。

第五项挑战是紧急事件报告。von der Leyen 将预警列为合作领域，但该提案缺乏统一的事件定义。

实验室需要明确规则，以报告模型逃逸、未经授权的持续运行、恶意代码生成、控制失效或危险能力发现等情况。

报告应迅速送达具备资格的主管机构，同时避免泄露敏感安全信息。在即时的技术和法律风险得到控制后，可以发布公开摘要。

第六项挑战是防止监管俘获。前沿公司掌握设计评估所需的大量专业知识，但它们也对最终形成的规则拥有商业利益。

Brussels 应征询实验室意见，但不应让它们单独界定边界。独立研究者、民间社会、网络安全专家和较小开发者都需要获得有意义的参与机会。

欧盟还必须避免将高管之间的共识视为科学证据。领导者可能真诚担忧灾难性风险，同时仍可从提高进入门槛的规则中获益。

这一怀疑视角很重要，因为拟议的放缓来自已经拥有大量资本、计算资源和市场认知度的公司。

一套节奏控制框架可能提升安全性，同时巩固既有企业。这两种结果可以同时发生。

答案不是将每一次警告都视为自利行为而予以驳回，而是通过透明、可比的证据来揭示动机与表现。

公布评估方法会有所帮助，尽管敏感的测试细节可能需要受控披露。公开报告应在不助长攻击的前提下，说明结果、阈值和纠正措施。

委员会还应澄清新一轮谈判与现行法律之间的关系。AI Act 已为系统性风险模型设定义务，包括评估和事件报告。

重复的体系会增加合规成本，却未必提升安全性。更有力的做法是，在适用之处扩展现有机构，并识别具体缺口。

最重要的缺口是发布决策。现行义务可以要求公司管理风险，但未必规定它们何时必须暂停能力进展。

这一决策不能建立在模型正变得危险这一模糊感觉之上。它需要可重复的证据、可追责的决策者以及复审路径。

缺少这些要素，“放缓前沿”仍只是一句口号。实验室可以声称合规，同时以彼此不兼容的方式解释放缓。

具备这些要素后，该提案将成为一种治理机制。它只会在明确证据出现后放缓明确的活动，并在明确条件下恢复。

这种精确性将决定持怀疑态度的公司是否参与，也将决定公众看到的是安全协调，还是既有企业之间的协议。

三个信号将表明 AI 放缓是否真实

下一项检验不是再发布一份关切声明，而是 Brussels 是否将关切转化为参与者、衡量标准和后果。

第一个信号是发布载明实验室名称和固定日期的正式会议通知。Anthropic 和 OpenAI 的参与将符合预期，因为它们的领导者支持控制节奏。

来自 Google、Microsoft、xAI 和欧洲开发商 Mistral 的承诺将扩大该倡议的覆盖面。Meta 的参与尤为重要，因为 Zuckerberg 反对协调限制。

没有异议实验室参与的会议，主要只会汇集已持相同观点的组织。它无法解决该提案背后的竞争激励问题。

还应关注委员会是否邀请 Canada 和 United Kingdom 的代表以监管者、技术合作伙伴或观察员身份参与。这些角色意味着不同程度的影响力。

也应关注 United States 是否会在 Trump 政府反对的情况下加入。即使未立即支持放缓，联邦层面的参与也会强化这一流程。

第二个信号是发布共同评估框架。该框架应明确哪些模型能力会触发额外审查，并说明由谁执行测试。

网络安全可能立即受到关注，因为 von der Leyen 强调了高级黑客攻击能力。自主运行和自我改进则需要更清晰的定义。

该框架应说明实验室将在训练期间、部署前还是发布后测试模型。仅测试已完成的公开模型会错过重要的开发决策。

它还应明确评估者如何获得访问权限。引导式演示与持续性的内部访问之间存在实质差异。

可比的报告与可比的测试同样重要。每家实验室都应通过统一结构披露结果，包括重要限制和未解决发现。

如果 Brussels 只发布高层原则，该倡议在政治上仍有意义，但在操作层面较为薄弱。一个可衡量的框架将强化放缓可被验证的论点。

第三个信号是明确模型跨越阈值时的应对措施。这正是广泛支持将变得困难的地方。

应对措施可能要求增加保障、接受外部审查、限制部署或暂时延迟。具体选择不如是否预先决定重要。

一项对失败没有后果的协议将削弱 von der Leyen 的核心主张。它会提供安慰，却不会改变开发激励。

相反，自动且僵化的限制可能抑制参与，或将开发推向不合作的司法辖区之外。该机制需要与风险相称的应对措施和申诉程序。

欧洲应公布谁作出最终决定，以及依据何种法律权限。实验室不应是有关其自身模型证据的唯一裁判。

委员会还必须说明参与是自愿的、与 AI Act 合规挂钩，还是由新立法支持。每种路径都有不同的执行力与正当性。

如果这项宣布不只是议程设定，那么这些信号应会在未来一至三个月内出现。若始终保持沉默，则可能意味着政治时机的推进速度快于政策机制。

对开发者和企业采购方而言，结果将影响模型路线图、安全保障和采购决策。采购方在采用先进智能体之前，可能会开始要求供应商提供独立评估结果。

对知识工作者而言，他们当前使用的服务不太可能一夜之间停止。更大的影响可能体现为发布节奏放缓、访问范围收窄，或对高级功能施加更严格的控制。

对前沿实验室而言，利害关系更高。一项可信的协议可能会改变它们训练、测试和发布最强大系统的时间安排。

乌尔苏拉·冯德莱恩推动的 AI 放缓措施，为国际治理创造了真正的机会窗口。但它尚未形成支持者所描述的那种“刹车”。

下一个问题很具体：受邀实验室会接受共同测试与相应后果，还是会带着另一份自愿声明离开布鲁塞尔？答案将表明，欧洲能否治理前沿 AI，还是仅仅充当对话的主办方。