Anthropic 支持 AI 放缓发展请愿，但这场竞赛仍未刹车

Anthropic 已支持一项由 1,293 名前沿 AI 从业者签署的请愿，尽管各大实验室都承受着持续推进的巨大压力。CEO Dario Amodei、多位联合创始人及高级员工都签署了这项请愿。该公司表示，如果风险变得不可接受，政府应准备好能够放缓自动化 AI 开发的工具。

这一支持之所以重要，是因为请愿并未要求立即停摆。它呼吁美国支持一项国际行动，使审慎放缓成为可能。这一区别令该倡议有别于先前要求固定暂停期的公开信。

它也揭示了核心矛盾。Anthropic 认为社会需要一套紧急刹车机制，同时承认任何负责任的实验室都无法单独安全地启用它。即使 OpenAI、Google DeepMind、Meta 及其他前沿开发者的员工也有相同担忧，它们仍面临同一场竞赛。

Anthropic 将员工请愿转化为公司立场

Anthropic 已将有关放缓发展的讨论，从员工异议提升为获得其领导层支持的官方立场。

这份放缓发展声明称，领先的 AI 公司相信，它们正接近实现 AI 研究自动化。签署者警告，这一转变可能令能力发展加速，超出社会理解或控制相关系统的能力。

这封信的诉求范围有限。它要求美国政府支持一项国际行动，以开发技术与治理工具。这些工具将帮助参与国审慎放缓自动化前沿 AI 的开发。

“前沿 AI”指的是正在开发的、能力最强的通用系统。“自动化 AI 开发”则不只是使用聊天机器人获取代码建议，而是指模型承担创造其后继系统所需研究与工程工作的重要部分。

Anthropic 通过一份官方公司支持声明确认了其支持。该帖称，Amodei、多位联合创始人和高级员工已签署请愿，并将此支持直接与 Anthropic 近期关于递归自我改进的研究联系起来。

这一支持赋予请愿不同寻常的机构分量。员工通常以个人身份签署公开信，其雇主仍可保持中立；而 Anthropic 则将请愿的基本判断采纳为自身立场。

据公开信发布后的报道，OpenAI 也支持这一倡议。来自 Google DeepMind、Meta、Microsoft、Thinking Machines 及多家其他机构的员工则以个人身份签署。

请愿发布后，签署总人数仍在上升。网站在 7 月 30 日查看时列出 1,293 名员工，高于新闻机构最初报道时约 1,100 人的数字。由于名单仍向外开放，这一数字代表的是持续变化的计数，而非固定的发布时总数。

签署者中包括在许多其他政策问题上存在分歧的研究人员和领导者。Thinking Machines 首席科学家 John Schulman 表示，这份声明有助于建立对潜在协调需求的共同认知。Meta AI 首席科学家 Shengjia Zhao 也签署了请愿。

Safe Superintelligence 联合创始人 Ilya Sutskever 警告称，任何干预措施都必须在国际层面发挥作用。他还承认，不当实施可能使局面恶化。这一保留意见触及了请愿最深层的问题。

声明未指出哪一种具体模型应触发放缓，也没有提供具约束力的门槛、监测机构、检查体系或执行机制。它要求政府在紧急情况迫使其仓促应对之前，开始建设这些工具。

这使 Anthropic 的行动比一般性的安全声明更具后果。该公司是在说，国际刹车体系应当存在，尽管其尚未界定完整的运作机制。

为什么 Anthropic 的 AI 研究改变了时机

请愿此时出现，是因为 AI 已不再只是协助模型开发者，而是开始承担其工作中更大的一部分。

Anthropic 6 月发布的报告 AI builds itself，提供了其立场背后的证据。该公司将递归自我改进描述为：一个系统自主设计和开发自己的后继者。

Anthropic 强调，当前系统尚未达到这一阶段，也表示完整的递归改进并非必然发生。不过，内部数据表明，开发过程正在日益自动化。

据称，截至 2026 年 5 月，Claude 编写了合并进 Anthropic 代码库的逾 80% 代码。在 Claude Code 于 2025 年 2 月进入研究预览前，这一比例仅为个位数低段。

Anthropic 表示，2026 年第二季度，其普通工程师每日合并的代码量约为 2024 年的八倍。该公司公开警告，代码量并不是完美的生产力指标。更多代码行并不自动意味着更好的软件，或价值高出八倍的工作。

这一保留很重要。AI 可以生成重复性的代码、测试、迁移和文档，而不会带来同等幅度的高难度推理增长。因此，实验室可能报告大幅提升的产出，却在核心研究问题上进展更慢。

另一项内部测量提供了不同视角。在 2026 年 3 月对 130 名 Anthropic 研究员工进行的调查中，受访者估计，使用 Mythos Preview 后的产出中位数提高了四倍。Anthropic 再次警告，实际提升可能更低。

该公司最有力的证据涉及目标明确的工作。在一项重复进行的优化练习中，Claude Opus 4 在 2025 年 5 月实现了平均三倍的加速。据称，到 2026 年 4 月，Mythos Preview 的性能约达到起始水平的 52 倍。

一名熟练的人类研究员通常需要在该练习上投入四到八小时，才能实现约四倍的提升。Anthropic 警告，不应将这一结果解读为真实模型训练中可比的整体提升。

这一进展仍然重要，因为它展示了一个封闭的实验循环：模型修改代码、运行实验、衡量结果，然后再次尝试。人类设定目标和评估规则，但不指挥每一步。

这还不是完整的递归自我改进。系统是在优化由人选定的目标，而不是自行决定要构建哪一个后继系统。Anthropic 表示，当模型必须运用判断力、选择目标，或识别最有价值的研究方向时，仍存在重大差距。

然而，在完全自主性到来前，部分自动化就可能加速这场竞赛。更快完成实验的实验室可以测试更多想法、更早淘汰较弱路线，并更早开始训练下一代系统。

同样的能力也能帮助对齐研究。对齐是让模型行为遵循人类目标和约束的努力。更快的实验可以在通用能力提升的同时，改进评估、可解释性方法和安全措施。

这种双重用途造成了时机问题。研究先进系统所需的工具，往往也是帮助构建它们的工具。更强的研究代理可以同时加速安全工作和能力工作。

因此，Anthropic 的论点并不是失控的智能爆发已经开始，而是社会应在自动化研究令每个开发周期显著缩短之前做好准备。

真正的对手是协调失灵

主要竞争并非 Anthropic 对阵 OpenAI，而是集体谨慎对抗一场惩罚任何单独行动实验室的竞赛。

每一家前沿开发者都有继续推进的动力。新模型会吸引用户、企业合同、技术人才、资本和战略合作伙伴。落后可能削弱一家公司对最终采用的安全标准的影响力。

国家竞争又增加了一层因素。美国政策制定者希望本国公司保持相对于中国实验室的优势。任何放缓美国开发者的提议，都会面对其他地区的竞争对手是否也会跟进的问题。

Anthropic 直接承认了这一点。其研究称，孤立的暂停可能让不那么谨慎的参与者赶上来。这种结果或许会替换一个领跑者，却无法降低整体风险。

有意义的干预需要多个国家中数家资源充足的实验室在相近条件下行动。参与者需要知道，竞争对手确实放缓了工作。

AI 的核查比许多武器计划都更困难。导弹设施拥有专用设备和可见基础设施。AI 开发使用的数据中心、芯片、软件和网络设备，也服务于普通商业用途。

训练运行也可以被隐藏或拆分。政府将需要能够区分被禁止的开发与被允许的部署、评估、学术研究和小规模实验的监测方法。

该体系还需要触发条件。政府可能会在模型通过危险网络安全评估、自动化 AI 研究的特定部分，或在更长时间段内完成复杂任务时采取行动。每一种选择都会引发衡量与执行争议。

它还需要退出规则。若暂停没有恢复开发的明确条件，可能会因政治惰性而变成永久性措施。过于宽松的退出规则，则可能让参与者在底层风险尚未改变前重新启动。

最后，必须有一个机构决定触发条件是否已经达到。实验室无法可信地担任自身模型的唯一裁判。国家机构可能无法获得境外信息，而国际机构则需要时间谈判和筹措资金。

这些细节解释了为何请愿要求的是工具，而非立即放缓。其作者正试图创造一个当前尚不存在的选择。

这一提议更像军控准备，而非常规产品监管。它需要共享测量标准、检查程序、沟通渠道以及对隐瞒行为的后果。这些组成部分无法在快速发展的技术危机中临时拼凑。

Anthropic 自身的立场清楚包含这一权衡。该公司称，如果其他接近前沿的开发者以可核查的方式采取同样行动，它将考虑放缓或暂时暂停。

这一条件可以理解，但要求很高。一个只有在每个重要竞争对手都合作时才能运作的机制，可能因一个拒绝参与者、一个隐蔽项目，或一次围绕能力测量的分歧而失效。

替代方案同样并不容易。单边克制可能成为从最谨慎的组织向最不谨慎组织的竞争性转移。结果可能是在更弱的保障措施下实现更快开发。

请愿获得广泛支持表明，研究人员认识到了这一集体行动问题。但这并不意味着政府或公司已经解决了它。

请愿不是 AI 刹车

最有力的批评很直接：Anthropic 支持的是一个选项，却没有说明这一选项将如何运作。

这封信没有包含详细的政策提案。它没有界定哪些开发活动应受到减速约束、涉及哪些能力阈值，或哪些国家必须参与才能达成可信的协议。

它也没有说明“减速”究竟是指推迟公开发布、限制一次训练运行、约束算力容量，还是暂停研究自动化。这些干预措施的成本和执行要求各不相同。

推迟发布会让实验室获得更多评估时间，但未必会放缓内部能力增长。训练限制会更深入地介入研发，但需要侵入式监测。

对自动化研究的限制将面临分类难题。编程助手已经参与日常工程工作、安全审查和模型评估。监管机构需要区分无害的辅助工具与那些能够显著加速下一代系统开发的系统。

批评者还质疑，为什么实验室需要政府来约束自己能够控制的工作。微软前高管 Steven Sinofsky 认为，对公司发展方向感到担忧的员工可以离开，或寻找其他工作。

这种批评忽略了请愿书逻辑的一部分。单个员工或公司无法阻止一场多家公司参与的竞赛。但如果支持者要求公共干预，却不在自身组织内部提出自愿措施，这确实暴露了问责缺口。

在政府采取行动前，实验室可以发布共同评估标准，披露更多关于 AI 辅助研究的信息，并建立共享事件报告机制。它们也可以在不立即限制开发的情况下，就初步预警阈值达成一致。

Schulman 对请愿书的评论支持这一方向。他表示，实验室应在美国政府介入之前，就开始自愿设计协调机制。

另一个担忧涉及市场力量。复杂的许可制度、算力监测和强制评估系统，可能会偏向那些已经掌控庞大基础设施的公司。较小的实验室和独立研究人员可能难以满足合规要求。

因此，减速机制可能会削弱竞争，同时让最大的公司继续掌控先进系统。这种可能性值得关注，因为对前沿风险发出警告的公司，同样拥有强烈的商业利益。

Anthropic 更广泛的政策立场加剧了这种审视。该公司一直支持对先进模型实施更严格的控制，同时继续发布能力更强的 Claude 系统。

这种行为未必自相矛盾。一家公司可以认为，在存在协调一致的替代方案之前，竞争性开发应当继续。它也可以倡导同样适用于竞争对手的规则。

不过，这种安排带来了显而易见的可信度考验。Anthropic 必须证明，其偏好的控制措施针对的是可衡量的风险，而不是威胁其市场地位的技术或竞争对手。

该公司近期针对开放权重模型的立场说明了这种张力。开放权重系统允许用户下载和修改模型参数。支持者认为，它们改善了获取渠道、研究、竞争以及对技术的国家自主控制。

Anthropic 认为，能力最强的开放系统在发布后可能会变得难以控制。该公司没有加入另一封反对广泛限制开放权重的行业联名信，因此与多家大型科技公司保持了距离。

一场行业政策分歧并不能否定 Anthropic 的安全论证。但它表明，“负责任减速”的含义将存在争议。

Meta、Nvidia 以及开放模型倡导者将反对那些让可下载系统在结构上处于不利地位的规则。闭源模型实验室则会主张，不可逆的发布需要受到特殊对待。

政府必须在解决这一分歧时避免让公司围绕自身商业模式制定规则。否则，安全框架可能会沦为一项产业政策，偏向于最能接触监管者的群体。

因此，这份请愿书应被理解为开始制度设计的请求，而不是现成可行机制存在的证据。它的价值在于指出了缺失的刹车；它的弱点在于没有提供建造这一刹车的工程方案。

Anthropic 的立场对 AI 用户和公司的意义

眼下的影响并不是 Claude 发布节奏放缓，而是前沿系统将如何被评估、治理和采购，面临更大的不确定性。

开发者不应期待请愿书会在下个月阻止模型改进。它不构成具有约束力的义务，而且 Anthropic 尚未宣布会因这一支持而暂停。

近期变化将体现在政策讨论中。政府在提出评估或监测要求时，如今可以援引来自竞争实验室员工和领导者的公开支持。

企业采购方应关注这些讨论，因为模型治理会影响采购。一家将前沿系统用于编程、研究、客户支持或安全工作的公司，需要了解未来发布是否可能面临延迟或使用限制。

采购方还应区分模型性能与模型连续性。若访问权限可能在评估、政策争议或安全事件后发生变化，得分最高的系统未必是最安全的长期依赖。

团队可以通过维持与模型无关的工作流来减少这种风险。它们应将提示词、评估、源材料和决策记录保存在任何单一提供商界面之外。

当模型改变行为或无法使用时，这种做法尤为重要。一个可搜索的技术知识库可以保留比较替代方案所需的上下文，无需重新构建每一个决策。

软件团队还应建立自己的验收测试。提供商基准测试很少能覆盖公司实际的代码库、风险承受能力、审批流程或监管义务。

如果自动化研究如 Anthropic 所预期般发展，更新周期将更难管理。模型可能会在既定的安全审查或采购检查点之间获得实质性能力提升。

企业需要更快的评估流程，同时不能放弃人工问责。这包括测试模型行为、记录变更，以及界定哪些任务需要批准。

知识工作者面临相关问题。更快的系统能够产生比团队可审查数量更多的分析、代码和文档。当人工核验能力保持不变时，输出量本身就会成为风险。

Anthropic 自己的代码统计数据说明了这种失衡。合并代码量增加八倍，并不意味着用于安全、架构和维护的人类关注也增加八倍。

组织应将错误修正、审查时间、事件和下游价值与生成输出一并衡量。否则，表面上的生产率提升可能掩盖额外的核验工作。

安全团队最有理由关注这一点。研究自动化能够帮助防御者发现漏洞，但也可能降低攻击性实验的成本。

减速机制最终可能首先聚焦网络能力，因为它们可通过受控演练进行评估。这将影响实验室如何发布代理式编程工具，或如何授予用户访问其最强模型的权限。

对个人用户而言，这份请愿书主要是一种治理信号。它表明，构建前沿系统的人越来越认为，开发速度已成为一个政策变量，而非不可避免的自然力量。

关键表述是“争取时间的选项”。支持者并不是说每一项进展都应停止。他们主张，当可衡量的风险上升速度快于制度适应速度时，社会应当能够作出回应。

这一选项能否保护用户，取决于其设计。透明的机制可以在危险的过渡期创造更多评估时间。不透明的机制则可能集中控制权，却几乎不提供安全性提升的独立证据。

三个信号将显示减速是否成为现实

下一项考验在于，Anthropic 和其他支持者是否会将一份简短声明转化为阈值、核验方法和国际参与机制。

第一个信号是具体的评估阈值。Anthropic 的研究部门计划在未来几个月召集政策制定者、研究人员、民间社会组织和竞争实验室。

这些讨论应产出超越一般原则的内容。可信的提案需要具备能够证明干预合理性的可观察条件。这些条件可能涉及自主研究表现、危险的网络能力，或在无人类纠正下持续运行的能力。

所选指标必须经得起独立审查。Anthropic 的内部生产率数据具有参考价值，但一家公司不能仅凭私人证据制定公共政策。

外部评估者需要获得系统、方法和可复现结果的访问权限。他们还需要明确程序来处理敏感能力，同时避免公布会增加滥用风险的指引。

公开阈值将增强 Anthropic 的论证，因为它会把“太快”变成可检验的主张。继续依赖笼统警告则会削弱其论证。

第二个信号是包含国际竞争者的核验提案。核心问题并不是说服 Anthropic 暂停，而是确定其他前沿项目是否也已放缓。

可行的提案必须说明哪些内容可以被监测、哪些参与方获得访问权限，以及如何发现违规行为。它必须考虑商业云基础设施、私有数据中心和政府项目。

中国是这一问题的核心，但不应成为避免开展初步工作的借口。在完整的外交协议形成之前，美国公司和机构可以先制定衡量标准。

技术监测也可以在不立即设立具有约束力限制的情况下改进。实验室可以登记重大训练运行、分享标准化评估结果，或向独立机构报告能力异常强大的研究代理。

这类措施无法保证合规。但它们有助于揭示，核验问题究竟是可管理的，还是从根本上与当前基础设施不兼容。

非美国开发者的实质性参与将强化减速论证。仅限于国内公司的计划，将无法解决其主要的竞争风险。

第三个信号是请愿书支持者的自愿行动。Anthropic、OpenAI 和其他实验室无需等待条约，就能提升透明度或协调评估。

它们可以发布自动化 AI 研究的定义，识别预警指标，并说明内部升级程序。它们还可以披露模型何时实质性改变下一代系统开发的速度。

Anthropic 已经提供了比大多数竞争对手更多的内部证据。它的下一步应是将这些证据与决策联系起来。读者需要知道，观察到何种变化会促使该公司推迟训练、部署或发布。

自愿承诺无法取代政府监督。但它们能够表明，支持者将减速视为一项运营层面的安全工程，而不是公关立场。

若未能采取行动，将强化批评者的论点。实验室将继续竞赛，同时要求政府解决一个它们尚未转化为实际控制措施的问题。

这份请愿书已在一项重要任务上取得成功：它表明，对自动化 AI 开发的担忧跨越了公司界限、技术岗位以及长期存在的政策分歧。

但它尚未建立自己所要求的“刹车”。目前没有共同触发机制，没有正在运行的国际核查体系，也没有任何权威机构能够实施协调一致的暂停。

这一缺口如今正成为故事的核心。Anthropic 已公开承认，前沿开发可能需要有意识地放缓节奏，但其支持也提高了下一步行动应达到的标准。

请关注公开发布的阈值、国际监测提案，以及实验室自愿承诺。如果这些出现，这份请愿书就将开启一项治理进程。若未能出现，Anthropic 仍将留在同一场竞赛中：一边呼吁踩下刹车，一边看着每一位竞争对手继续加速。