Anthropic 和 Google 领导者呼吁华盛顿为自动化 AI 按下刹车

Anthropic 和 Google 的领导者与超过 1,200 名前沿 AI 从业者提出了一项不同寻常的请求：准备一套协调机制，以放缓自动化 AI 的发展。签署者包括来自 OpenAI、Meta、Thinking Machines、Microsoft、Mistral 及其他实验室的资深研究人员。他们担忧的并非普通聊天机器人的普及，而是 AI 系统很快将帮助设计更强的后继系统，其速度可能超过人类的评估能力。

这份 7 月声明名为“Pacing the Frontier”，并未要求立即暂停。它要求美国政府支持一项国际行动，以控制先进 AI 开发的节奏。组织者表示，企业和国家无法独自安全地放缓脚步，因为每个参与者都承受着继续竞逐的压力。

这一区别至关重要。这些研究人员并不是要求华盛顿今天就叫停某个特定模型的发布。他们希望在自动化 AI 研究引发紧急状况之前，相关机构、技术控制措施和国际协议就已准备就绪。这一请求将集体风险管理与支配 OpenAI、Anthropic、Google、Meta 及其国际竞争者的竞争逻辑置于对立面。

Anthropic 和 Google 研究人员加入跨行业警示

这份声明将前沿实验室内部的私下担忧，转化为要求政府协调的公开呼吁。

截至 2026 年 7 月 30 日访问时，这份实时更新的前沿声明列出了 1,293 名已验证员工。由于符合资格的从业者仍可签署，这一数字可能继续变化。组织者要求参与者提供公司电子邮箱或其他就业证明，随后才会进行验证。

签署者来自彼此争夺研究人员、客户、算力和技术领导地位的公司。其中包括 Anthropic CEO Dario Amodei，以及联合创始人 Jared Kaplan、Jack Clark、Chris Olah 和 Benjamin Mann。OpenAI 首席科学家 Jakub Pachocki 和首席研究官 Mark Chen 也参与了签署。

Google 的代表包括 DeepMind 联合创始人 Shane Legg、战略主管 Jasjeet Sekhon，以及 AI 安全副总裁 Anca Dragan。Meta 首席科学家 Shengjia Zhao 和 AI 研究副总裁 Dawn Song 也在名单中。Thinking Machines 首席科学家 John Schulman 和 Safe Superintelligence CEO Ilya Sutskever 则进一步增加了这份声明的机构分量。

高管和研究负责人参与其中，使这份文件更难被视为远离模型开发一线的员工抗议。然而，这仍是一个自行选择加入的群体。该人数并不代表 Anthropic、Google、OpenAI、Meta 或任何其他公司的员工投票结果。

声明中的评论明确属于个人观点，并不一定反映雇主立场。这一限定将个人参与与正式的企业政策区分开来，也避免这些签名成为任何实验室具有约束力的承诺。

声明提出了一项核心要求：要求华盛顿支持一项国际行动，开发用于有意调控自动化前沿 AI 节奏的技术与治理工具。“调控节奏”意味着，当证据显示监管无法跟上时，仍保有放缓能力发展速度的能力。

其目标范围比整个 AI 开发领域更窄。自动化 AI 研究，是指利用 AI 系统完成创造更好 AI 所需工作的重要部分。这类工作可能包括编写实验代码、设计评估方案、发现软件漏洞、解读结果，以及提出模型改进建议。

组织者认为，这一反馈循环带来了独特风险。加速日常办公室工作的 AI 系统会改变生产率；而加速自身所在领域研究的系统，则可能缩短重大能力进展之间的时间间隔。

这也是为什么这封信比又一次泛泛呼吁负责任 AI 更具影响力。它指出了一个潜在的转折点，并要求各国政府在越过这一节点前做好准备。签署者认为，不能等到危险系统已经运行后才开始准备。

这一请求也出现在华盛顿更广泛的政策转向之中。美国政府已从一般性的 AI 原则，转向直接访问、测试和国家安全审查。这可能提供制度基础，但尚未形成国际性的节奏调控机制。

为什么自动化 AI 研究会改变风险

自动化 AI 研究压缩了测试、公众讨论和政府响应所能利用的时间。

当前的前沿模型已经能够协助研究人员进行编程、文献分析、数学推理和实验设计。这些工具仍不稳定，人类研究人员依然主导着重要工作。声明并未证明一个能够自我改进的系统已经存在。

相反，它聚焦于这样一种情形：当这些能力足够可靠，能够自动化开发工作的大部分环节时，会发生什么。实验室可以利用一代模型改进训练软件，或识别新的研究方向。由此产生的模型又能更有效地参与下一代模型的研发。

这一过程并不需要机器在没有人类参与的情况下重写自身。企业可以保留人类审批，同时仍加快每一轮研究周期。更快的周期会让评估人员、安全团队和政策制定者更少时间研究陌生行为。

这封信称，领先企业认为自己正接近 AI 研究自动化。它也承认，不确定这一转变将以多大程度加快进展。这种不确定性并非附带因素，而是其论证的核心。

如果自动化只带来渐进式生产率提升，激进的节奏调控规则可能造成不必要的成本。它们可能延缓医疗、科学、无障碍和网络安全领域的有益应用，也可能让影响力进一步集中于那些已经富裕到足以满足复杂要求的公司手中。

如果自动化大幅加速能力进展，等待确定性本身就成了一场赌博。政府可能发现，其评估方法、法律权力和国际协调渠道需要数年才能建立，而模型开发的推进速度可能快得多。

这种时间错配解释了“争取时间”的请求。该表述并不将延迟本身视为目的，而是指为调查新兴风险、提升安全性并加强监管而争取一段暂时的窗口期。

John Schulman 表示，他签署的用意是让人们共同认识到可能需要协调。他还认为，实验室应在美国政府介入前，主动开始设计相关机制。他的评论指向的是准备，而非无条件的停摆。

Ilya Sutskever 则提出了更尖锐的警告。他表示，未来的 AI 将需要前所未有的措施，并强调国际实施必须做到位。他警告称，设计不当的体系可能令局面进一步恶化。

他们的立场揭示了两类不同的不确定性。研究人员并不清楚自动化研究何时会带来变革性影响；政策制定者同样不清楚，为控制它而建立的机构是否能保持有效、合法并在国际上具有可信度。

这正是担忧背后的机制。更强大的 AI 支持更快的 AI 研究，进而产生更强大的 AI。风险来自这一循环的速度和不可预测性，而非任何单一聊天机器人功能。

因此，公众应避免得出两个简单结论。这份声明并不能证明智能爆炸迫在眉睫；同样，也不能仅因确切的加速速度尚不清楚，就将其轻易驳回。

一个有用的检验将涉及可衡量的研究表现。独立评估者需要证据证明，模型能够在有限干预下完成长期、全新的研究任务。仅靠基准测试无法解决这一问题，因为实验室可以针对已知测试进行优化。

真实项目更为重要。若一个模型能独立识别有价值的研究问题、开展实验并验证结果，将支持签署者的担忧；偶尔在编程上的成功则不足以构成同等程度的证据。

Anthropic 和 Google 联盟面临协调陷阱

核心冲突并非安全与创新之争，而是集体克制与惩罚首个放缓者的激励机制之间的矛盾。

Anthropic 和 Google 的研究人员可以认同准备工作有必要，同时其雇主仍在激烈竞争。同样的张力也适用于 OpenAI、Meta、Microsoft、Mistral 和 Thinking Machines。每家公司都希望开发更安全，但没有一家公司愿意让竞争对手获得不受挑战的领先地位。

声明将这种压力同时称为企业层面和国家层面的压力。推迟发布的实验室可能失去客户、投资、人才以及对技术标准的影响力；限制国内实验室的国家，则可能担心在战略上落后于外国开发者。

这形成了一个协调陷阱。如果整个前沿领域能够共同管理严重风险，每个参与者都会受益；但当某一方单独行动时，它却要立即承担成本。

只有当企业能够观察合规情况并信任测量结果时，自愿承诺才会有帮助。前沿开发发生在封闭环境中，使用不同的架构、数据、计算系统和内部评估。一家公司无法轻易验证竞争对手是否遵守了私下的放缓承诺。

各国政府在国际层面面临同样的问题。协议需要界定受覆盖的开发活动，建立可信的监测机制，并为违规行为设定后果。它还需要为学术研究、开放权重模型、军事系统和小型实验室制定规则。

“Frontier AI”指的是某一时点能力最强的一类模型。随着技术进步，这一类别也会变化。固定的受覆盖系统清单会很快过时，从而留下漏洞，或不必要地将普通产品纳入监管。

算力监测提供了一种可能的信号，因为先进训练需要大量硬件和能源。但训练规模与能力并不完全对应。算法改进可以在算力资源并未按比例增加的情况下，产生更强的结果。

能力评估则提供了另一条路径。当系统在网络行动、生物协助、欺骗或 AI 研究方面跨过阈值时，监管机构可以施加更严格的控制。然而，评估仍容易受到覆盖不完整、投机取巧，以及仅在部署后才显现的行为影响。

华盛顿已开始推进有限审查。6 月的一项行政命令设立了自愿程序，让某些美国实验室在发布前分享先进网络模型。根据联邦审查细节，政府审查最长可持续 30 天。

该命令的范围比签署者的请求更窄。它聚焦于特定国家安全能力和自愿参与，并未建立一项跨国调控自动化 AI 研究节奏的普遍权力。

美国总统 Donald Trump 也清楚地表达了相互竞争的担忧。他表示，不希望监管干扰美国相对于中国和其他国家的领先地位。即使华盛顿接受一定程度的国内审查，这一立场仍使国际性请求在政治上面临困难。

美国希望在保持国家领先地位的同时，更深入地掌握前沿系统的情况。开发者希望规则可预测，同时不暴露宝贵的知识产权或牺牲发布速度。国际竞争者则希望得到保证：“安全”不会沦为维护美国优势的工具。

这些激励因素解释了为何声明要求建立工具，而非立即采取限制措施。在协调步调变得可信之前，技术监测、共享评估和外交渠道必须先行具备。否则，放慢速度的呼吁仍只是竞争者之间的一次信任请求。

这种权衡是控制与权力集中之间的取舍

一个能够放缓前沿 AI 的政府机制，既可以降低真实风险，也可能为政治控制和监管俘获创造新的机会。

签署者描述了一个缺乏足够节奏管控工具的世界，但他们提出的目标状态仍不够明确。声明没有说明由谁触发放缓、哪些证据可以作为依据，或限制会持续多久。

它也没有解决执行问题。国际协议需要针对拒绝参与的实验室制定规则。仅限于美国公司的管控无法实现覆盖整个前沿领域的节奏协调，尤其是在其他地区仍持续开展研发的情况下。

缺乏操作细节并不意味着警告无效。简短的公开声明往往先围绕问题寻求共识，再展开政策谈判。不过，细节不足会使读者无法评估措施的相称性、问责性或技术可行性。

其中一项风险是监管俘获。大型实验室已经拥有庞大的政策团队、安全人员和政府关系网络。复杂的审批制度可能会抬高小型竞争者的门槛，同时让既有企业影响合规标准的制定。

节奏管控机制也可能保护封闭式实验室，使其免受开放模型的竞争。政府可能会更严格地限制可下载系统，因为这类系统一旦传播便难以收回。这或许会减少公众获取研究成果的机会，同时强化少数获批准供应商的地位。

反向风险同样存在。如果开放模型获得豁免，那么一旦可下载系统达到危险能力阈值，就会留下重大漏洞。任何可行制度都必须一致地处理能力问题，不能把许可模式当作证据的替代品。

公民自由也带来另一层担忧。先进 AI 研究涉及代码、科学交流和出版。宽泛的限制可能影响言论、学术探究和国际合作。因此，狭窄的定义和独立审查将十分重要。

政府自由裁量权同样伴随政治风险。现行的审查框架已经引发疑问：哪些模型符合条件，哪些合作伙伴能够获得优先访问权。模糊的授权可能偏袒盟友，或惩罚卷入争端的公司。

这种担忧并非纯属理论。前沿模型可能影响网络安全、国防、情报和经济竞争力。即便监管流程最初是自愿的，这些利益也会为保密和行政控制提供强烈动机。

Demis Hassabis 提出了一个更具结构性的替代方案。这位 Google DeepMind CEO 希望建立一个由行业资助、在政府监督下运作的标准机构。他的监督机构提案将从自愿测试开始，之后可能支持强制性要求。

Hassabis 设想由独立专家与行业、政府和开源代表共同参与。无论系统来自何方，也无论其模型权重是否公开，纳入范围的系统都将在发布前接受测试。阈值将随能力进展而调整。

OpenAI 提出了另一条制度路径。其治理蓝图呼吁建立国家框架、强化联邦 AI 安全研究机构，并扩大政府韧性规划。这种做法强调持久性制度，而不是单一的紧急权力。

这些提案比员工声明提供了更多细节，但困难的问题仍然存在。谁来任命独立专家？哪些信息会公开？实验室能否对决定提出申诉？如何防止临时管控演变为永久性的产业政策？

最可信的制度应当将评估与政治性执法分离。它应在公司跨越阈值前公布阈值和程序，还应要求定期审查、独立审计和明确的到期条件。

国际合法性同样重要。由美国设计的流程不能自行宣称具有全球效力。其他政府需要切实参与标准制定、证据审查和执行。

因此，签署者所面对的核心取舍远比“放慢速度或失去控制”更复杂。社会必须比较技术风险与制度性权力集中的风险。两方面都需要保障措施。

这份声明并未证明什么

这些签名表明知情员工存在严肃担忧，但并不能证明失控发展的概率、时间节点或可控性。

这 1,293 名参与者包括直接了解前沿系统的研究人员。这使他们的警告成为关于内部预期的有价值证据，但并不会将这些预期转化为经独立验证的预测。

该群体是自我选择形成的。从事对齐、安全、评估和治理工作的员工，可能比专注于产品或基础设施的同事更愿意签署。读者不应把总人数视为具有代表性的民意调查。

签署名单还汇集了多家公司的现任员工。庞大的合计人数可能掩盖各雇主内部实际代表的比例。在解读表面上的内部支持时，公司规模、岗位职能和资历都很重要。

声明的核心前提使用了谨慎措辞。它称公司认为自己“可能接近”实现 AI 研究自动化，但没有定义“接近”的含义、量化预期加速幅度，或提供支持这一时间线的评估结果。

一些个人评论使用了更强烈的措辞。一名 OpenAI 员工将这场竞争比作一场通往智能爆炸的致命竞赛。该评论说明了担忧，但并非声明共同认可的事实结论。

这种差异很重要，因为在独立证据出现之前，戏剧性的预测就可能塑造监管。实验室也会在客户、政府和投资者认为其系统正接近非凡能力时获得商业利益。安全警告与营销激励可以同时存在。

这并不意味着这种担忧不真诚。员工可能真心害怕某项技术，同时公司也会从将其描述为先进技术中获益。因此，政策应依赖可复现的证据，而不是信心、声誉或耸人听闻的比喻。

自动化研究本身也是一个连续谱系。AI 可以改进代码补全，却未必能够选择研究目标；它可以完成基准任务，却未必能管理一个历时数月的项目；它可以提出实验建议，却未必能可靠识别存在缺陷的证据。

放缓触发条件需要区分这些阶段。否则，普通的生产率提升可能触发非常规管控。反过来，定义过于狭窄也可能错过由单项能力看似有限、但组合后具有危险性的情况。

研究评估还面临另一项障碍。实验室控制着对其最强模型和内部数据的访问。独立评估者可能只获得有限的测试时间、经过筛选的接口，或关于系统行为的不完整信息。

由于开发者会针对公开基准进行训练，它们作为证据的价值会下降。保密测试可减少“刷题”，却会削弱外部监督。真实世界试验提供更丰富的信息，但可能让人员和基础设施面临风险。

声明还假定节奏管控能够争取到有用时间。这取决于政府和机构是否能有效利用这一窗口期。若不投资于评估、安全、应急规划和国际外交，暂停只会推迟同一个问题。

执行可能将研发转移到更难察觉的环境中。限制措施可能鼓励企业或国家隐瞒训练活动、将项目拆分到不同实体，或虚报能力。监测工具必须预见规避行为，同时避免建立全面监控。

中国仍是美国政策中的核心地缘政治不确定因素。美国官员经常将前沿 AI 描绘为战略竞争。任何全球机制都必须为双方提供可信的核验，以及防范产业间谍活动的保护措施。

美国实验室员工之间的共识并不能证明国际共识。但它确实表明，为何单个公司的单边承诺并不足够。相关的行动单位是前沿领域，而不是单一雇主。

因此，读者应将这封信理解为对做好准备的要求，而非危机已经开始的证明。其最有力的主张关乎制度准备度：如果未来证据要求放缓自动化 AI 研究，世界目前缺乏一套达成共识的程序。

三个信号将显示节奏管控是否成为政策

下一项考验在于，这份三段式声明是否会催生可衡量的评估、正式制度和国际参与。

第一个信号是建立一个具体的联邦标准机构。Hassabis 希望这样的组织能在 2026 年底前投入运作。其设计将表明华盛顿是倾向于独立技术审查，还是直接的行政控制。

可信的提案应明确任命、资金、披露、申诉和利益冲突规则，也应解释阈值如何随时间变化。模糊的授权会削弱这样一种论点：政府参与能够带来可预测的监督。

强制参与将标志着重大转变。6 月的审查流程仍是自愿的，且聚焦于特定网络能力。将其扩展至自动化研究，将使政府更深地介入实验室的研发时间表。

这一变化会增强声明的影响力，但未必提升其政策质量。关键问题在于，授权是否伴随公开标准和独立问责。一个不透明的流程只会用政治不确定性替代技术不确定性。

第二个信号来自真实 AI 研究任务的证据。实验室和独立评估者需要展示模型在长期项目中的表现，而不只是孤立的编程测试。结果应衡量自主性、新颖性、可靠性，以及所需人工纠正的程度。

模型完成实质性研究周期的证据，将支持提前协调的理由。若模型仍持续依赖密切的人类指导，则会削弱不可控加速已近在眼前的主张。无论哪种结果，都会改善政策辩论。

报告失败与公布成功同样重要。评估者应记录被放弃的实验、伪造的结果、安全违规和干预措施。选择性展示无法证明自动化研究所需的操作可靠性。

第三个信号是国际参与，尤其是来自其他主要 AI 生产国的参与。仅限美国的框架无法实现覆盖整个前沿领域的节奏管控。它可以建立国内可见性，但竞争者仍将决定克制是否能够持续。

早期外交进展并不需要一项全面条约。建立共享评估方法、事件报告机制、研究人员交流和紧急通信渠道，都会是有意义的开端。就狭义的网络或生物安全阈值达成一致，也可以检验更广泛协调的可行性。

欧盟的参与将带来监管经验和市场影响力。与英国、日本、韩国和加拿大合作，则可拓宽技术能力。最艰巨的考验仍然是与中国接触。

国际参与将强化签署方的核心判断：竞争压力需要集体行动来应对。若无法吸引其他主要开发者加入，也将暴露出由华盛顿主导的节奏管控策略的局限。

开发者和企业采购方应密切关注这些信号。新的评估规则可能改变发布时间表、模型访问权限、审计义务和采购要求。它们还可能决定哪些系统仍可用于敏感研究或安全工作。

知识工作者也应关注，因为更快的 AI 研究最终会影响所有下游模型。压缩开发周期或许能更早带来更好的工具，但也可能减少理解故障的时间。产品团队可能会承接前沿实验室尚未完全厘清的风险。

组织应保留有关模型行为、审批决策和意外结果的记录。可检索的 AI 知识库 可以帮助团队比较不同模型版本之间的事件。如果外部规则开始要求更完善的文档记录，内部证据将变得至关重要。

Anthropic 与 Google 的联盟尚未促成减速，也尚未界定何为减速。但它已让人更难忽视一个事实：目前缺乏可信的节奏管控机制。构建先进系统的人们正在要求政府准备一项其雇主无法独自采取的选项。

未来三个月将显示，这一诉求会成为一种制度，还是仍只是一封象征性的公开信。请关注已公布的阈值、独立研究评估和国际承诺。如果这些要素没有出现，“节奏管控”仍将只是一个有吸引力的词，而缺乏可操作的含义。

对政策制定者而言，问题已不再是每项预测是否都确定无疑，而是不确定性是否足以证明，应在自动化研究到来之前建立可逆的保障措施。对 Anthropic、Google、OpenAI 及其竞争对手而言，更艰难的问题是：当竞争变得代价高昂时，他们是否会接受这些保障措施。