特朗普的 AI 安全政策令美国在联合国陷入孤立，行业领袖呼吁设立护栏

在联合国举行的为期两天会议上，特朗普的 AI 安全政策与科技高管及国际官员传递的信息形成了鲜明对立。

美国总统唐纳德·特朗普告诉联合国大会，美国拒绝对先进人工智能实施全球性控制。一天后，OpenAI、Anthropic 和 Hugging Face 的负责人则敦促安理会正视任何公司或国家都无法独力管理的风险。

这种反差格外直接。坐拥多数领先 AI 公司的国家正在抵制国际护栏，而这些公司的高管却要求加强协调。

这并非一次让美国成为唯一反对成员的正式投票。安理会也没有通过具有约束力的全球 AI 规则。所谓孤立更多是政治和修辞层面的，而不是在记录中显示为一国少数派。

这一差别很重要。联合国正在围绕 AI 建立科学与外交机构，但其正在形成的框架大多仍不具约束力。若没有美国积极参与，这些机构将难以影响开发最强大模型的公司。

核心冲突如今已经清晰。华盛顿将快速发展视为一场战略竞赛，尤其是与中国之间的竞赛。许多政府和 AI 领袖则认为，正是这场竞赛使得在竞争压力压倒自愿克制之前建立共同安全保障变得更加必要。

联合国究竟发生了什么变化

联合国会议让一场抽象的政策争议，变成了白宫与美国领先 AI 高管之间可见的分歧。

特朗普于 2026 年 9 月 22 日在纽约举行的第 81 届联合国大会上发表讲话。他的立场拒绝国际控制，并将竞争性领导地位置于协调克制之上。

根据官方白宫声明，特朗普称，美国“完全拒绝任何试图构建全球主义控制方案”的 AI 计划。

特朗普还在讲话中将这项技术改称为“超级智能”。这种修辞变化强化了他将先进 AI 描绘为国家成就、而非全球治理问题的努力。

更完整的演讲稿显示，这一框架如何将 AI 发展与地缘政治竞争紧密相连。特朗普表示，谁赢得超级智能，谁就“获胜”，并断言美国正领先于中国。

随后，他拒绝可能拖慢发展的限制措施。特朗普说：“我们会鼓励它，而不是约束它”，同时承诺将通过司法部进行审查。

这种做法比其他政府和 AI 领袖提出的安全体系更为狭窄。司法部监督通常处理的是在可识别违规发生后的竞争、欺诈、公民权利和犯罪行为问题。

前沿 AI 安全提案关注的是另一类问题。它们寻求在高能力模型造成严重伤害之前，开展测试、监测、披露和协调。

次日，安理会举行了关于 AI 与国际安全的高级别简报会。OpenAI CEO Sam Altman 亲自出席。Anthropic CEO Dario Amodei 和 Hugging Face CEO Clément Delangue 远程参加。

联合国 AI 独立国际科学小组联合主席 Yoshua Bengio 也原定向安理会成员作简报。这场会议将科学证据、企业力量和国际安全汇集于同一场合。

最令人难忘的发言挑战了国家控制的逻辑。Altman 表示，任何个人、公司或国家都不应利用最强大的模型，将自己的世界观强加给其他所有人。

Amodei 警告说，管理不善的 AI 可能成为整个人类面临的风险。Delangue 则聚焦于控制先进系统的组织与承受其影响的社区之间的不平衡。

Semafor 对AI 安全问题的报道捕捉到了这一矛盾。在美国总统否定其前提之后，驻扎在美国的高管们仍在呼吁建立全球安全保障。

这一过程令这场分歧更难被视作政府与行业之间的争论。一些有影响力的行业领袖与联合国的立场，比与白宫的公开表态更为接近。

这才是真正的变化。AI 治理不再以可预见的方式划分监管机构与企业。它正在使美国政府与一些支撑其技术优势的成功公司分裂开来。

为什么特朗普的 AI 安全政策如今与行业相冲突

特朗普的 AI 安全政策将速度视为保护，而多家前沿实验室则日益将不受约束的速度描述为危险。

白宫的立场始于一种熟悉的战略主张：如果美国放慢发展速度，中国或其他竞争对手就可能获得更强大 AI 带来的经济和军事优势。

按照这一逻辑，限制会因削弱美国公司而制造风险。增长、基础设施投资和快速部署遂成为国家安全政策的一部分。

政府同样不信任可能限制美国主权的国际机构。特朗普在联大演讲中，将 AI 治理与他对全球税收及集中化国际控制的更广泛反对联系起来。

这一论点具有政治影响力，因为联合国无法保证各方平等遵守规则。如果竞争对手无视严格限制，遵循限制的国家就可能失去优势。

AI 实验室面临同样的协调问题。一家公司若为安全测试推迟模型发布，就可能将客户、投资、员工和市场影响力拱手让给更快的竞争对手。

然而，数位行业领袖如今认为，竞争恰恰使共同规则更加必要。当每个竞争对手都预期他人持续加速时，没有任何实验室能够维持克制。

Anthropic 的 Amodei 提议让独立评估人员获得持续访问权限。这样的评估人员将在前沿实验室内部监测安全实践，而非完全依赖公开声明。

他还倡导针对网络安全和生物风险采取共同测试。更具雄心的提案将限制具备递归自我改进能力的系统，即能够实质性加速创造更优秀后继系统的模型。

OpenAI 的 Altman 曾公开支持独立评估和联邦安全框架。这一立场并未解决有关执法、透明度或责任的所有分歧。

但它表明，政策分歧并非简单的政府对企业。领先公司希望保有创新空间，但其中一些也希望制定规则，防止每家实验室都以最高速度竞逐。

AI 放缓争论说明了协调面临的挑战。OpenAI、Anthropic、SpaceXAI 及其他行业人士都曾表示支持放缓某些形式的发展。

他们的提案差异很大。有些涉及独立测试，另一些则涉及对危险用途的狭窄禁令，或对发展速度施加更广泛的限制。

Meta 并未接受同样的协调性放缓方案。这一点很重要，因为任何只覆盖部分前沿实验室的安排，都可能将人才和资本导向安排之外的公司。

国际竞争造成了更大的缺口。对美国公司的限制不会自动约束中国、欧洲、中东或新兴 AI 市场的开发者。

这正是联合国争议此刻浮现的原因。能力与担忧的发展速度，快于原本应管理它们的机构。

白宫看到这种加速，并得出美国必须跑得更快的结论。安全倡导者看到同样的加速，则认为在没有共同规则的情况下奔跑正变得愈发危险。

双方都无法回避对方最有力的论点。监管可能改变战略优势，但不受限制的竞争也会使自愿安全承诺变得不稳定。

尚未解决的问题是，各国政府能否设计出互惠的安全保障，同时避免建立一个华盛顿会拒绝的广泛国际权威机构。

AI 高管拒绝单边控制的主张

行业在联合国传递的信息，同时挑战了政府控制和企业控制，而不只是白宫的反监管立场。

Altman 对权力集中的警告具有不同寻常的分量，因为 OpenAI 正在帮助定义各国政府试图治理的技术前沿。

他的论点并非要求联合国选定某家公司作为可信赖的管理者。它拒绝了任何一家公司都应独自决定人类如何承受先进 AI 影响这一前提。

这一立场反映出一个正在出现的合法性问题。前沿实验室作出的决定，其后果远远超出其客户、员工和所在国家。

一个在美国训练的模型可在数小时内支持全球用户。它也可能跨境带来网络安全、生物、宣传或监控风险。

国家监管机构可以管理本国公司，却无法完全遏制这些影响。国际组织可以协调各国政府，但对于私营实验室的执法权有限。

Delangue 对不对称性的关注，正是针对这一缺口。少数公司拥有理解前沿系统所需的计算基础设施、技术人才和专有信息。

大多数政府并不具备相当的专业能力。许多政府无法独立测试模型安全措施，也无法核实开发者提出的主张。

联合国大会主席在 9 月早些时候提出过类似警告。他在一场AI 治理演讲中表示，大型科技公司正日益像准主权行为体一样运作。

这种描述涵盖的不只是企业规模。这些公司设定访问政策、决定发布时间表、定义可接受用途，并决定哪些事件值得披露。

它们的内部决定可能影响选举、军事规划、劳动力市场、科学研究和公共信息。然而，许多受这些选择影响的国家，在决策中没有任何实质性角色。

联合国表示，仍有 118 个国家尚未参与主要的 AI 治理讨论。不到三分之一的发展中国家拥有国家 AI 战略。

这些数字揭示了争议为何超越生存风险。各国政府还担心经济排斥、文化影响、基础设施不平等，以及对外国平台的依赖。

这些高管并未提出一份统一的监管蓝图。OpenAI、Anthropic 和 Hugging Face 有着不同的商业模式，也对开放性持有不同看法。

Hugging Face 支持广泛的共享模型和开发工具生态系统。OpenAI 和 Anthropic 则更依赖对专有前沿系统的受控访问。

这些差异带来了一个实际问题：应当监管谁？为封闭实验室制定的规则，可能会给开放式开发带来负担，却无法解决算力最集中的问题。

针对模型能力的规则还面临另一个问题。随着架构和训练方法变化，政府需要可靠且持续有效的测试。

尽管如此，这些公司在一项原则上趋于一致：能力越强，就越需要超越企业单方面承诺的治理机制。

这一共识给特朗普 AI 安全政策带来压力。政府认为全球管控会阻碍美国保持领导地位，但美国企业高管正在警告权力过度集中且缺乏制衡的风险。

他们的证词并不能证明每一种所提风险都迫在眉睫。但它确实表明，最接近这项技术的实验室认为协调是严肃的政策必要条件。

联合国可以建立规范，但无法单独执行

联合国的 AI 机构可以界定共同预期，但其影响力取决于强国政府和前沿实验室的参与。

联合国大会于 2025 年 8 月通过第 79/325 号决议，成立人工智能独立国际科学小组。

该小组旨在就 AI 的机遇、影响和风险提供共同的科学评估。它让缺乏大型技术机构的政府也能获得共同的证据基础。

同一项决议还支持开展全球 AI 治理对话。该进程将各国政府与其他利益相关方召集起来，以确定优先事项并形成共同认识。

这些机构填补了真实存在的制度空白。气候政策有政府间气候变化专门委员会，全球公共卫生则拥有成熟的科学与外交架构。

AI 治理一直缺少一个参与广泛的对应论坛。最具影响力的安全倡议大多涉及规模较小的政府群体、实验室或技术专家。

但联合国框架并不等同于具有约束力的全球监管。联合国大会决议通常表达集体立场并建立流程，而非对企业施加可执行的义务。

在特定情况下，安全理事会可以根据《联合国宪章》通过具有约束力的决定。然而，周三的会议是一场情况通报，而不是采纳 AI 执法机制。

这意味着，“联合国 AI 规则”这一说法需要谨慎使用。该组织目前更多是在建设知识、规范和外交协调机制，而不是可执行的技术法律。

不具约束力的规则仍然很重要。它们可以统一术语、影响国家立法、指导采购，并为负责任的企业行为建立预期。

国际规范也可能在事故发生后成为参照点。政府、法院、客户和投资者可以询问，一家公司是否遵循了跨司法辖区认可的做法。

然而，当最具影响力的国家公开拒绝这一进程时，规范的效力便会削弱。美国拥有 OpenAI、Anthropic、Google、Meta、Microsoft，以及多家主要算力提供商。

这些组织控制着模型、云服务和半导体供应链的重要部分。任何缺乏美国支持的全球安全框架，起点都会存在巨大的执行缺口。

中国的参与同样不可或缺。双边竞争使协调变得困难，尤其是在先进模型具有军事、情报和经济用途的情况下。

最有现实可能性的做法或许应从狭窄的禁令开始。各国政府可以针对协助制造生物武器、攻击关键基础设施，或完全自主作出致命决定的行为制定规则。

即便是狭窄的协议也需要验证。各国需要确信，对手正在测试可比系统，并报告相关失效事件。

模型评估仍不完善。一个系统在测试期间可能表现安全，却在部署、修改或连接外部工具后产生不同结果。

这项技术还跨越多个法律类别。同一模型既可以帮助研究人员理解疾病，也可能帮助攻击者设计有害材料，或协助政府开展监控。

这种不确定性支持加强监管，但也限制了监管机构应作出的主张。没有任何框架能够认证一个通用模型在所有情境下都安全。

联合国可以让各国政策更加兼容，但无法取代主要 AI 生产国国内的技术监管机构、法院、审计机构和执法机关。

即使没有美国支持，其他国家仍可制定标准。它们可以将这些标准纳入采购、市场准入规则和国内法律。

结果将类似于监管碎片化。企业可能需要在不同司法辖区遵循不同的披露、测试和访问要求。

这种结果不会阻止 AI 发展，但会增加合规成本，同时让最具影响力的安全决策继续分散在各国体系之中。

分歧给政府、企业和企业采购方带来压力

这一分歧迫使每个参与者决定：安全究竟是自愿承诺、市场要求，还是法定义务。

首要压力落在美国盟友身上。许多国家既支持美国的技术领导地位，也支持更强有力的国际 AI 保障措施。

它们现在必须决定，是否在没有华盛顿参与的情况下建立治理体系。继续推进可以保持势头，但也可能形成日后遭美国企业或监管机构拒绝的标准。

等待美国达成共识则会带来另一种代价。当前沿系统持续提升时，国际谈判仍将无法完成。

欧洲政府已经拥有利用市场准入影响全球技术实践的经验。这种做法可以在其境外形成实际标准。

然而，激进的合规体系可能加深白宫对国际管控的疑虑，也可能使 AI 治理成为新的贸易冲突来源。

第二重压力落在 AI 公司身上。公开支持保障措施，会引发这些公司在政府采取行动前准备做什么的问题。

如果实验室拒绝提供有意义评估所需的访问权限，就无法可信地要求独立监督。它必须界定哪些系统、测试和事件属于其承诺范围。

公司还必须说明安全决策如何与发布计划相互作用。只有在严重问题出现后才延迟发布模型，与维持预先设定的门槛并不相同。

第三重压力落在企业客户身上。企业越来越依赖 AI 提供商来完成编程、研究、客户支持、文档分析和自动化决策。

它们不能假定提供商公开的安全表述就会带来可执行的保护。客户需要在合同中明确数据使用、事件报告、访问控制和模型变更等条款。

当 AI 系统可以通过连接的软件采取行动时，这一点尤为重要。自主代理是指在有限人工干预下进行规划并执行多个步骤的系统。

更高的自主性可以提高生产率，但也会扩大错误的后果。聊天机器人的错误回答，与代理修改记录、发送消息或更改软件并不相同。

因此，企业采购方应将治理争议视为运营问题。不同的规则可能影响哪些模型仍然可用，以及供应商必须提供哪些证据。

采购团队可能会在立法者提出要求前，就向提供商索取评估结果。保险公司和审计机构也可以通过风险评估和承保条款形成类似压力。

开发者面临相关挑战。在模型层施加的安全限制，可能在没有提前通知的情况下改变应用行为。

更新后的政策可能会阻止原本能够正常运行的工作流。模型更新也可能改变可靠性、工具使用方式或抵御操纵性指令的能力。

团队不应将提供商的模型视为固定组件。他们需要基于自身应用和数据进行评估。

知识工作者面临的风险不那么显眼。即使没有发生正式自动化，AI 生成的摘要、分析和建议也可能影响决策。

一个自信地遗漏证据的模型，可能影响报告、招聘决定、医疗对话或财务审查。即使没有发生极端灾难，这些也是治理问题。

特朗普 AI 安全政策强调国家竞争，但用户是通过具体产品和工作流体验风险的。这一差距使制度性保障与日常技术决策息息相关。

这场辩论也对更清晰的证据提出了要求。当政策论证聚焦于仍难以测试的遥远情境时，公司会从中获益。

当政府描述广泛的保障措施，却不说明技术或法律机制时，同样会从中获益。双方都应面对对可衡量承诺的要求。

一个可信的体系应明确：谁来评估模型、评估者获得什么访问权限、哪些事件需要披露，以及跨越门槛后会发生什么。

在这些细节出现之前，支持创新或安全的表态都仍不完整。联合国的冲突揭示了立场，但并未解决实施问题。

安全论证仍存在重大不确定性

白宫低估了协调风险，但安全倡导者尚未证明其最广泛的提案具有可行性。

合作的理由始于一项有力观察：竞争压力可能推动企业在尚未理解所有严重风险之前就发布系统。

这种模式在许多行业中都存在。安全投入往往带来共享收益，而延误和成本则由作出投入的公司承担。

共同规则可以纠正这种激励。它们可以防止负责任的参与者承担更谨慎的竞争对手所避免的成本。

AI 带来了额外困难，因为研究人员无法在训练前预测每一种能力。意外行为可能随着规模扩大、新工具出现或不同部署条件而涌现。

然而，不确定性具有双向含义。它支持预防措施，但并不能验证关于生存性危险的每一种主张。

公共讨论常将近期伤害与推测性情境混在一起。欺诈、歧视、隐私失误、网络攻击和不可靠的自动化，已经存在可观察的证据。

由自主 AI 导致人类灭绝，则涉及对未来能力、访问权限、控制和意图的更多假设。这些假设值得研究，但不应被表述为既定事实。

这种区分对政策设计很重要。针对网络滥用的规则可能需要访问控制、监测和报告。

针对失去对超人类系统控制的规则，则可能需要开发限制、算力监测，或限制递归式自我改进。

将所有担忧归入“AI 安全”之下，可能产生优先级不清的宽泛提案。它也可能让反对者通过攻击最具推测性的情境，来否定已有记录的伤害。

行业支持同样值得审视。大型实验室可能青睐提高小型竞争者准入门槛的监管。

涉及昂贵审计、专业安全团队和大量报告的要求，可能会强化那些已有资金承担这些成本的公司。

因此，公平的框架应根据能力和风险按比例设定义务。它不应假定每个开放模型、初创公司或商业应用都构成同样的危险。

企业发出的警告同样可能服务于战略利益。一家公司将其技术描述为可能改变世界的力量，或许会进一步强化外界对其技术领导地位的认知。

这并不意味着其担忧就是虚假的。它意味着监管机构需要独立证据，而不能依赖于受监管企业自身的说法。

联合国科学小组可帮助区分证据与企业立场。其公信力将取决于方法透明、专业背景多元，以及对不确定性的清晰处理。

政治独立性同样至关重要。各国政府可能更倾向于支持能够为快速发展或更严格管控提供正当性的结论。

特朗普的立场还包含另一层矛盾：他拒绝国际约束，却称美国将以安全、负责任的方式发展 AI。

这些说法需要有相应的机制支撑。司法部的介入无法取代系统性的模型测试、事件披露或专业技术监管。

政府可能拥有一些特朗普在演讲中未提及的国内安全措施。但其在联合国提出的公开论证，并未说明这些措施将如何应对跨境风险。

安全倡导者则面临相反的举证责任。他们必须证明协调机制将是互惠、可核验的，并且足够有限，以保留有益的发展空间。

设计不当的放缓措施，可能会将研发活动推向透明度更低的司法辖区。它还可能使控制权进一步集中到已掌握最多资源的政府和企业手中。

最有力的结论并不是任何一方已经解决了治理问题，而是单边控制无法应对由相互依存的系统和全球竞争所造成的问题。

三个信号将显示分歧是否会成为常态

下一阶段取决于具体承诺，而不是围绕创新或责任的又一轮演讲。

第一个信号是白宫是否会发布详细的国内安全框架。该框架应明确测试门槛、评估人员的访问权限、事件报告以及执法责任。

公开文件将澄清特朗普是反对所有保障措施，还是专门反对国际管控。这两种立场的后果截然不同。

国内规则也可为与盟友协调提供基础。只要各国制度能够产生兼容的安全结果，法律并不需要完全一致。

如果政府发布可衡量的要求，联合国的分歧看起来将比特朗普演讲所暗示的更小。若只提出笼统监管，裂痕则会加深。

第二个信号是 OpenAI、Anthropic 和其他实验室是否实施持续性的独立评估。只有外部专家获得长期、稳定的访问权限，公开支持才具有实际意义。

评估人员需要的不只是经过安排的演示。他们还需要足够的技术信息、可重复的测试，以及免受商业压力影响的保障。

企业还应说明，当评估发现不可接受的风险时将如何处理。没有发布后果的测试，终将沦为文档工作。

共同承诺将强化这样一种判断：行业希望建立可执行的协调机制。参与程度不均衡则会证实，竞争激励仍然主导着安全承诺。

Meta 的回应将尤其重要。若将最大的 AI 开发者之一排除在外，任何框架都难以成为行业标准。

中国实验室的参与更为关键。最具雄心的协调提案取决于竞争对手是否相信，其他参与者也面临可比的约束。

第三个信号是联合国进程能否将一般原则转化为范围有限、可测试的优先事项。下一届全球对话以及 2027 年对《全球数字契约》的审查，都将提供重要场合。

一份包含少量可衡量目标的清单，会比一项覆盖面过广的宣言更具可信度。生物安全保障、网络安全评估和事件报告可作为潜在起点。

各国政府必须明确哪些系统适用每项要求，还必须说明如何在不暴露敏感知识产权的情况下评估合规性。

联合国应避免宣称其并不具备的权力。其比较优势在于召集各国、组织证据并建立共同预期。

各国政府必须提供法律效力。企业必须提供技术访问。研究人员必须检验所提保障措施是否真正有效。

读者应关注这三类主体如何分配责任。如果每位参与者都期待由他人采取行动，当前的真空状态将持续存在。

这场联合国交锋揭示的深层问题，并不只是围绕监管的分歧。美国希望获得引领 AI 发展的战略收益，却不愿接受广泛的国际管控。

许多其他政府希望对在其国境之外构建的系统拥有影响力。越来越多美国头部企业高管表示，这些政府有正当理由参与其中。

特朗普的 AI 安全政策仍可能演变为一套支持有限国际协调的详细国家框架。它也可能继续作为一项加速政策，主要依赖关于负责任发展的笼统承诺。

未来一到三个月应能揭示华盛顿选择了哪条道路。值得关注的是已发布的标准、独立评估人员的访问权限，以及联合国具体的治理优先事项。

这些信号将显示，联合国大会上的争议究竟只是短暂的政治表演，还是持久治理分裂的开端。