AI 从业者敦促华盛顿为有意放缓前沿发展做好准备

Anthropic 加入了一项由 1,293 名 AI 从业者支持的请愿，要求华盛顿为有意放缓自动化 AI 发展做好准备。因此，这篇关于 Anthropic 的 Engadget 报道不只是又一封员工公开信。它揭示了那些竞相打造日益自主系统的公司内部存在的冲突。

签署者包括来自 Anthropic、OpenAI、Google DeepMind、Meta、Thinking Machines 及其他前沿 AI 机构的员工和领导者。他们希望美国支持一项国际行动：一旦自动化研究开始以超出人类控制的速度加快发展，就能够对其节奏加以调控。

这一请求并非要求立即暂停。它要求政府和实验室在相关机制变得迫切需要之前，先建立技术与治理机制。这个区别很重要，因为该行业目前尚未就协调性克制达成一致的触发条件、监测体系或执行程序。

核心冲突很直接。AI 实验室表示，其系统可能很快会帮助自动化研发工作，从而构建更强大的系统。然而，竞争压力使任何公司或国家都不愿单独放慢脚步。

这份 Anthropic Engadget 请愿实际提出了什么请求

这封信呼吁建立可行的紧急制动机制，而不是立即停止前沿 AI 研究。

这份题为 Pacing the Frontier 的公开声明于 2026 年 7 月 28 日发布。发布后，签名数量仍在增加，截至 7 月 30 日核查时已达到 1,293 人。

名单中包括对前沿模型开发有着异常直接了解的人士。签署者包括 Anthropic CEO Dario Amodei、Anthropic 联合创始人 Jared Kaplan，以及 OpenAI 首席科学家 Jakub Pachocki。

其他知名人士包括 Google DeepMind 联合创始人 Shane Legg、Meta AI 首席科学家 Shengjia Zhao，以及 Safe Superintelligence CEO Ilya Sutskever。OpenAI 研究负责人 Mark Chen 和 Anthropic 联合创始人 Jack Clark 也在名单之列。

多名参与者以个人身份签署。声明指出，个人评论不一定代表其雇主的立场。不过，OpenAI 和 Anthropic 随后都发表了组织层面的支持声明，使这项行动比常规员工请愿更具分量。

该信聚焦于自动化 AI 开发。这一说法指的是能够完成 AI 研究中重要环节的系统，包括编写实验、改进训练方法、评估模型，以及提出新架构。

其作者认为，这一转变可能形成反馈循环。更强大的 AI 系统将协助研究人员构建能力更强的后继系统，潜在地将原本需要数年的开发压缩到更短时间内。

该声明并未声称失控的智能爆炸已经开始。它表示，领先公司认为自己正在接近能够自动化重要研究任务的系统。

这种不确定性塑造了其诉求。签署者希望，如果能力增长开始超越安全实践、政府监管和科学理解，社会仍能保留争取时间的选择。

他们提出的应对方案仍然有意保持宽泛。他们要求美国支持一项国际行动，同时开发技术控制手段和治理工具。

技术控制手段可能包括模型评估、安全计算环境、部署限制，以及针对危险能力的监测。治理工具可能包括共同阈值、报告要求、独立审计，或政府与实验室之间的协议。

这封信没有支持某一种具体机制，也避免精确定义协调性放缓应在何时启动。

这种克制使持不同政策观点的人更容易支持该声明，但也让最棘手的问题仍未得到解答。

原始的 Engadget 报道 将这项行动描述为呼吁监管的请愿。更准确地说，它要求为可能的节奏调控预先做好准备。

监管最终或许会提供这种机制。国际协议、实验室自愿协调、算力监测或政府紧急行动，则是其他可能路径。

因此，眼下的变化是政治性的，而非操作性的。来自竞争实验室的有影响力人士已公开认同：不受约束的竞争可能变得不安全，即使他们对于最终补救措施仍有分歧。

为什么自动化 AI 研究改变了安全辩论

能够改进研究流程的模型，会改变能力推进的速度，也会减少外界获得预警的时间。

此前大多数 AI 监管讨论都集中在模型输出上。政策制定者审视歧视、隐私、版权、虚假信息、欺诈和有害应用。

这份新请愿将关注点转向开发过程本身。其核心担忧不只是单个模型发布后能做什么，而是 AI 如何可能加速其后继模型的诞生。

研究人员已经在使用 AI 进行编程、文献综述、数据分析、实验设计和调试。这些任务仍受人类指挥、验证和访问控制约束。

当系统能够以更少监督完成更长的研究工作流时，风险就会改变。一个有能力的代理可能提出假设、修改训练代码、运行测试、评估结果，并建议下一项实验。

每一项单独行动看起来都很熟悉。真正的重要差异在于速度、规模和重复性。

实验室可以并行运行大量这类代理。成功的方法可以立即为下一轮开发提供信息。人类研究人员可能难以检查每一项决策，或复现每一个结果。

这种情形有时被称为递归自我改进。该术语指的是，AI 系统参与推动改进，帮助产出更强的系统，而后者再进一步推动后续改进。

没有公开证据表明，当前模型能够维持这一过程的失控版本。相反，这份请愿主张，实验室应在这种可能性演变成操作危机之前做好准备。

这一立场反映了一个艰难的预测问题。等待确凿证据，可能会让建立监测、国际协调和安全控制的时间所剩无几。

过早行动同样会带来代价。过早的限制可能放慢有益研究、保护既有实验室，并将开发活动推向透明度更低的组织或司法辖区。

签署者要求政府在必须在这些结果之间作出选择之前，先准备好各种选项。他们将节奏调控视为应急规划，而非永久默认政策。

Meta AI 首席科学家 Shengjia Zhao 表示，这份声明有助于建立对潜在协调需求的共同认知。他还敦促实验室在政府介入之前设计自愿机制。

这番评论凸显了共同知识的价值。实验室可能私下担心发展加速，却假设每个竞争对手都打算不顾一切地继续推进。

公开承诺表明，类似担忧跨越了组织边界。这可能让未来的协调看起来不再那么不可能，无论是在政治上还是商业上。

然而，共同担忧并不能形成可执行的体系。实验室仍需要就自动化研究能力、危险行为和安全失效建立一致的衡量标准。

这些衡量标准必须经受商业压力的考验。一家公司不应能够自行选择方便的测试，或隐藏不利发现，而竞争对手却面临更严格的审查。

独立评估可以提供帮助，但评估者需要获得模型、测试环境以及内部部署信息的访问权限。政府也需要能够解读快速变化证据的专业人员。

对于开发者和企业采购方而言，这场讨论的影响远不止遥远的超级智能情景。研究自动化可能缩短产品周期，并以快于部署团队更新防护措施的速度改变模型行为。

组织已经难以追踪模型版本、权限、提示词和评估结果。更快的发布周期提高了维护可检索 AI 知识库 的价值，用于记录政策、测试、事件和供应商决策。

这份请愿更深层的信息是，能力增长与制度适应遵循不同的时钟。除非监测和治理先得到改善，自动化研究将扩大这种错配。

真正的对手是协调失灵

主要冲突不是 Anthropic 对阵 OpenAI，而是集体克制对阵一场惩罚单方面克制的竞赛。

Anthropic、OpenAI、Google 和 Meta 正在争夺研究人员、客户、计算资源和影响力。它们的领导者面临强烈激励，要在竞争对手之前推出更好的系统。

各国政府也面临类似问题。美国政策制定者希望本国实验室保持相对于中国竞争对手及其他战略挑战者的优势。

即使每个参与者都意识到共同风险，这些激励也可能削弱安全措施。延迟一次发布的实验室可能失去客户、人才或投资者信心。

实施严格管控的国家可能担心开发活动会迁往其他地区。竞争对手随后便可能在不承担同等义务的情况下获得能力。

这种结构类似于集体行动问题。每个参与者都会从所有人遵守可信的保障措施中获益，但也都能通过率先行动获得短期优势。

这份请愿明确指出了这种压力。它表示，当竞争对手仍可自由继续推进时，不能期待公司和国家独立放缓加速进程。

这正是该请求面向美国政府的原因。私营公司通常无法谈判具有约束力的国际协议，也无法对外国竞争对手施加共同规则。

它们在协调市场行为时还面临法律顾虑。除非政府政策明确授权并监督，否则行业间延迟产品的协议可能引发审查。

OpenAI 的组织回应承认了这一挑战。该公司表示，政府领导的相关工作在开发可能的节奏调控工具时，应纳入其他实验室和开源社区。

Anthropic 也支持该声明。该公司将其与自身关于递归改进的研究联系起来，并表示社会需要时间做好准备。

这些支持声明缩小了一项分歧，同时暴露了另一项分歧。这些公司似乎愿意讨论节奏调控，但尚未就阈值、验证或执行达成一致。

开放权重模型带来了另一层复杂性。这些系统会分发模型参数，使独立运营者能够在提供商控制的接口之外运行或修改它们。

开放访问可以支持研究、竞争和本地部署。但在模型发布后，它也会使能力限制更难执行。

Anthropic 对高能力开放模型的态度比一些竞争对手更谨慎。Meta、Nvidia 和其他公司认为，开放权重系统有助于美国创新与技术影响力。

这场争议不应取代文章的核心冲突。它说明，一旦各机构对于可接受的分发方式存在分歧，协调就会变得困难。

这一挑战不止涉及请愿书中的公司。一个可信的节奏控制系统必须考虑新实验室、私有部署、被盗模型权重以及未披露的计算集群。

它还必须应对将限制视为战略机会的国家。缺乏可靠核查的国际协议，可能会奖励那些隐瞒开发活动的参与者。

批评者很快聚焦于这个问题。有人质疑，当美国实验室处于领先地位时，中国为何会接受限制。

这一反对意见分量很重，但并不意味着准备工作毫无用处。军备控制、航空安全、核监测和网络安全协议，都是在信任并不完美的情况下运行的。

关键检验在于，监测是否能让违规行为代价高昂且可被发现。缺乏这种能力的象征性承诺几乎无法提供保护。

算力治理代表了一种可能的工具。训练最大的模型需要先进芯片、能源、数据中心、网络设备以及专业工程团队。

政府可以监测这一供应链的部分环节。然而，推理、微调、分布式计算和更高效的算法，使得单纯的芯片数量成为不完整的衡量指标。

能力评估提供了另一种方法。当系统跨越在自主性、网络操作、生物研究或自动化 AI 开发方面设定的门槛时，实验室可能需要承担额外义务。

评估同样存在弱点。模型在部署后可能表现不同，能够从新工具中学习，或在测试期间隐藏能力。

一个有用的系统很可能会结合多种信号。它可能追踪计算资源、模型能力、安全事件以及自主研究活动的程度。

这篇 anthropic engadget 报道的重要性在于，它表明业内人士如今希望在危机发生前讨论这类基础设施。它并不表明有人已经解决了协调问题。

请愿书最大的弱点是缺乏机制

该声明指出了一个可信的治理缺口，但其宽泛表述将每一项艰难的执行选择都推迟了。

请愿书呼吁建立能够有意控制开发节奏的工具。它没有定义“控制节奏”，没有明确法律授权，也没有说明何种条件会触发限制。

节奏控制的决定可能意味着推迟模型发布。它也可能限制训练运行、限制获取计算资源，或要求在继续开发前加强安全保障。

这些行动带来的风险不同，所需法律也不同。暂时延后部署，并不等同于在多个国家停止研究。

该文件同样未解决决策权归属。国会、行政部门、独立监管机构、国际检查人员或参与实验室都可能发挥作用。

每一种选择都会引发问责担忧。技术专家了解模型行为，但公司员工也拥有商业利益。

政府官员拥有法律权力，但可能缺乏技术专长。国际机构可以扩大合法性，却可能在能力快速跃迁期间行动过慢。

这封信的灵活措辞有助于解释其广泛的联盟。人们可以支持做好准备，而无需认可任何特定干预措施。

然而，广泛支持可能制造一致意见的假象。签署者对于开放模型、出口管制、监控、军事用途和可接受风险，可能持有彼此不相容的观点。

这些知名签署者也带来了可信度挑战。许多签署者在其希望政府协调行为的组织内部拥有影响力。

批评者可以合理追问，为何这些领导者现在不自行施加更严格的内部限制。认为开发速度危险地过快的员工，也可以选择不同的工作。

这种批评忽视了请愿书关于集体行动的论点。一个实验室的内部克制，并不会减缓竞争对手或外国项目。

不过，这些公司应证明其请求并非只是转移责任的策略。自愿措施可以揭示它们是否接受真正的约束。

有用的措施包括公布评估方法、报告重大事件、支持独立审计，以及设定预先宣布的能力门槛。

实验室还可以加强对举报人的保护，并披露安全团队如何影响发布决定。这些措施不需要国际条约。

请愿书还必须面对监管俘获问题。围绕既有实验室资源设计的规则，可能会形成较小竞争对手无力承担的壁垒。

复杂的许可制度或许会保护既有企业，却对危险能力无所作为。最大的公司随后可能将市场保护包装成公共安全。

OpenAI 在讨论节奏控制时承认了这一担忧。该公司表示，任何未来方案都应避免给人以串通或监管俘获的感觉。

避免这一结果，需要以可衡量的风险而非公司身份为基础制定规则。义务应随能力、访问级别和部署条件而定。

公众还需要看到支持任何触发决定的证据。政府不应仅因一家公司声称其最新内部模型非同寻常，就限制研究。

由于前沿训练运行需要稀缺资源，独立复现往往不可能。这使透明的评估协议和外部访问变得更加重要。

另一个不确定性涉及时间节点。这封信警告称，自动化 AI 研究可能造成快速加速，但并未说明当前系统距离这一门槛究竟有多近。

公开演示显示，编程和研究辅助能力正在提升。但这并不能证明系统能够在完整 AI 开发周期内实现可靠、自主的执行。

实验室领导者的预测值得关注，因为他们能够看到内部系统。但不应将其视为独立确认。

这一区分对于 Anthropic AI 监管论点至关重要。基于推测性时间线制定严格规则，可能会在今天带来成本，却无法降低最可能出现的风险。

宽松规则则会造成相反的问题。它们可能让公众安心，同时让实验室自行定义安全标准。

因此，一个可信的提案必须明确触发条件、证据标准、审查流程和申诉权。它还必须说明，在条件改善后限制将如何解除。

在这些细节出现之前，最好将该请愿书理解为议程设定。它表明，来自数个相互竞争实验室的高层支持做好准备。

它并未证明今天有必要放缓 AI 开发。它表明，行业领导者希望政府使这类回应在技术和法律上成为可能。

为什么华盛顿如今面临来自两方的压力

美国被要求在保持 AI 领先地位的同时，建立一套能够有意限制竞赛的机制。

美国 AI 政策长期以来结合了安全、经济和公民权利方面的考量。前沿系统如今将这些讨论与国家竞争和关键基础设施联系起来。

华盛顿希望国内公司开发领先模型。同时，它也希望防止先进芯片、模型权重和敏感研究增强战略对手的实力。

请愿书增加了一项不同的要求。政府必须为这样的情况做好准备：持续加速本身成为安全问题。

这会在任何国家战略内部制造紧张关系。奖励速度的政策，可能与评估期、安全审查或国际节奏控制协议发生冲突。

一份独立报道称，Anthropic 在多项政策争议中显得格外孤立。该公司比许多竞争对手更积极推动政府监管。

然而，这份请愿书显示，Anthropic 的核心警告已不再局限于一家实验室。来自 OpenAI、Google、Meta 和其他机构的高级人员签署了同一份声明。

政治回应迅速出现。纽约州州长 Kathy Hochul 表示，联邦政府应建立防护栏；与此同时，国会议员将这封信视为支持更严格规则的证据。

这些反应可能过度简化了请求。传统内容监管并不必然能够应对自动化 AI 研究。

例如，一项管理聊天机器人披露要求的法律，并不会建立监测自主研究或在国际范围内协调开发限制所需的基础设施。

国会必须先确定希望衡量什么。随后，各机构需要获得授权、技术人员、安全访问权限和资金来开展这项工作。

联邦政府还需要与现有实验室安全团队建立明确关系。完全依赖公司会削弱独立性。

但排除它们的专业知识同样不明智。前沿评估通常需要模型访问、专门环境以及开发者之外无法获得的知识。

平衡的方法可以要求标准化报告，同时授权独立测试。实验室可以在保密保护下提交证据，并通过公开摘要说明重大决定。

安全保密级别带来了另一项复杂因素。政府可能会将有关网络、生物或军事能力的证据列为机密，从而限制公众问责。

过度保密可能阻止研究人员质疑薄弱评估。它还可能掩盖政策失败，或在缺乏充分审查的情况下扩大政府监控。

国际层面则带来外交问题。美国不能仅仅宣布一套全球节奏控制机制，就期待各方遵守。

伙伴国会询问谁来设定门槛、谁来进行检查，以及美国企业是否会获得优惠待遇。AI 产业规模较小的国家，可能反对将现有领先者地位固化的规则。

中国的参与仍是最困难的考验。任何严肃框架都必须提供互惠利益，以及发现重大违规行为的可信方法。

初步合作可以聚焦于狭窄风险。各国政府可以建立事件热线、通用评估术语，以及围绕特别危险的自主行为作出的承诺。

它们还可以支持对核查的共同研究。监测硬件、大规模训练运行和模型行为在技术上仍然困难，但准备工作可以改善这些工具。

此前的前沿 AI 辩论经常将加速与安全视为相互竞争的政治阵营。这个联盟使这种框架变得更复杂。

数位签署者仍在推进 AI 能力发展。他们的立场是，在社会保留控制发展速度选择权的同时，开发仍然可以带来益处。

这一论点将遭到那些将监管视为保护主义的人抵制。它也会令要求立即暂停的倡导者失望。

华盛顿必须决定，这一中间立场能否转化为可执行的政策。没有可衡量的规则，“节奏控制”可以被每个参与者解释为任何想要的含义。

三个信号将显示节奏控制是否成为真正政策

这份请愿书只有在促成可衡量的阈值、互惠协调，以及实验室自身的自愿行动时，才真正具有意义。

第一个信号应是一项针对自动化 AI 研究评估的具体联邦提案。它应明确界定所衡量的能力，以及何种证据将触发干预。

一项严肃的提案会确定负责机构、独立评估方、报告义务和审查程序，并区分研究辅助与持续性的自主开发。

如果华盛顿公布这些细节，这份请愿书就将超越象征性的担忧。另一份关于负责任创新的笼统声明，则几乎不会显示任何进展。

第二个信号是国际层面的参与，尤其是与掌控先进实验室、芯片或计算基础设施的国家开展合作。

一个务实的起步措施可能包括共享事故报告或采用共同评估标准。这些措施比全球开发限制更为有限，但能够建立信任。

任何提案都必须说明参与者如何核查合规情况，还必须应对隐蔽的计算能力、算法效率，以及大型企业实验室之外的开发活动。

可见的外交工作将强化这样一种判断：协调一致地放缓步伐是可行的。若框架仅限于美国公司，反而会因保留迁移或隐瞒活动的动机而削弱其效力。

第三个信号是，Anthropic、OpenAI、Google 和 Meta 是否会在立法到来前采取自愿措施。

它们可以公布自动化研究评估结果，支持合格的外部测试，并披露能力阈值如何影响内部决策。

它们还可以记录重大安全事件，并为员工提供受保护的关切反馈渠道。这些举措将为公众提供证据，表明请愿书反映的是实际运营优先事项。

企业行动不能替代监管，但能表明签署者接受约束，而不是要求政府承担全部负担。

若不采取行动，就会强化一种批评：这封信主要是在管理声誉。最具影响力的签署者已经对研究、安全或组织战略拥有一定权力。

读者还应谨慎看待签名数量的变化。增长显示了广泛关切，但资历、公司代表性和技术岗位的重要性，高于单纯的签名总数。

签名数已从早期报道中约 1,100 人，上升至 7 月 30 日的 1,293 人。这一变化表明，在最初的新闻周期过去后，关注仍在持续。

但这并不能证明大多数 AI 从业者支持放缓步伐。行业总就业人数远高于此，而持不同意见的人也没有同等的理由去签名。

最有力的证据将来自政策设计和实验室行为。这些结果能够揭示，该联盟是否接受明确的触发条件、独立监督和互惠义务。

对开发者而言，眼下的教训并不是停止所有 AI 项目，而是为更快的模型变化、更严格的评估要求，以及对自主系统更严密的审视做好准备。

企业采购方应询问供应商：他们如何测试智能体、报告事故，以及控制对敏感工具的访问。团队应保留模型版本、提示词、权限和评估结果的记录。

知识工作者应区分当前能力与预测。即使这些公开说法来自接近前沿开发的人士，关于自动化研究的主张仍存在不确定性。

这则关于 Anthropic 的 Engadget 报道标志着竞争对手之间形成了重要共识，但就警告达成一致，比就执行达成一致更容易。

这些实验室会公布希望政府采用的测试和阈值，还是“放缓步伐”仍将是一个未被定义的选项？这是读者在下一次政策公告中应持续关注的问题。

请关注联邦政府的回应、国际参与情况和实验室的自愿承诺。这三个信号将显示，这封信究竟创造了一个可用的安全机制，还是又一次短暂的 AI 监管争论。