Anthropic 与 Google 的安全会谈令特朗普的 AI 框架承压

OpenAI、Anthropic、Google 和 Meta 于 8 月 4 日受邀前往白宫，首次审阅一套新的自愿性 AI 安全框架。这场会议将 Anthropic 与 Google 之间的政策分歧，与支持更快速、更开放模型开发的公司置于同一房间内。

眼前的议题，是建立一套在前沿模型发布前对其进行审查的联邦流程。前沿模型是指在特定时期内能力最强的通用系统。唐纳德·特朗普总统于 6 月要求官员设计这一流程，其中包括最长 30 天的可选审查期。

然而，这场会议的分量远不止一次技术磋商。Anthropic 一直主张强制测试，并加强对危险能力的管控。OpenAI、Meta、Nvidia 等公司则为开放权重开发辩护，即模型参数可供审查和再利用。

这种分歧使自愿框架成为对联邦影响力的一次考验。华盛顿希望在不建立许可制度的前提下，了解能力日益增强的系统；各实验室则希望影响可能影响发布节奏、安全披露和政府合同准入的规则。

白宫要求 AI 公司审阅什么

这场会议推动联邦模型监管从行政命令中的概念，转向由受监管公司共同塑造的实际运行流程。

据闭门报道称，白宫邀请多家领先 AI 开发商的代表审阅已完成的框架。OpenAI、Anthropic、Google 和 Meta 预计均会参与。

该框架源于 6 月 2 日一项关于先进 AI 创新与安全的行政命令。该命令要求联邦官员与生产所涵盖前沿模型的 AI 公司制定一项自愿安排。

根据这项行政命令，开发商可以请求政府判断某个模型是否达到所涵盖模型的门槛。参与公司随后可在更广泛发布前，向联邦评估人员提供受保护的访问权限。

在模型提供给其他可信合作伙伴之前，这种访问最长可持续 30 天。该命令还要求围绕审查建立保密、网络安全、内部风险和知识产权保护措施。

审查旨在模型广泛可用之前识别国家安全问题。它还可帮助开发商选择可信的早期访问合作伙伴，尤其是在涉及关键基础设施和网络安全的工作中。

该命令明确表示，这一流程不会为模型发布建立强制许可、预先核准或政府授权。该表述界定了政府所宣称的边界。

不过，“自愿”这一标签并不能解决该框架在实践中将如何运作。联邦机构采购 AI 服务、批准敏感部署，并控制对机密环境的访问。这些权力可赋予自愿标准强大的商业约束力。

一家公司在法律上或许仍可自由选择跳过审查，但其政府客户、云合作伙伴或关键基础设施运营商仍可能就此提出质疑。

这一邀请也出现在数月政策制定之后。特朗普于 3 月发布国家立法框架，并就国家安全和关键基础设施发布了单独指令。

OpenAI 于 7 月公开表示，支持政府在 8 月初前完成该框架的目标。其联邦安全提案呼吁建立以统一测试标准和更强联邦评估能力为基础的国家方案。

因此，这场会议不仅是又一次圆桌讨论。官员们正寻求就决定企业是否实际参与的程序、定义和保护措施达成一致。

这些细节包括哪些模型符合条件、评估人员能获得什么，以及安全发现如何保持机密。还包括在官员仍有未解决关切时，公司是否可以发布。

如果这些规则仍然模糊，参与就可能变得选择性很强。实验室可能在审查能带来信誉时提交模型，却在发布面临竞争压力时避开审查。

这种可能性构成了本文的核心张力：华盛顿希望获得早期预警而不进行正式预先批准，开发商则希望合作但不放弃对发布的控制权。

Anthropic 与 Google 的立场为何对该框架至关重要

该框架必须容纳这样一些公司：它们认同评估的重要性，却在开放模型、强制测试和联邦权力上存在尖锐分歧。

Anthropic 主张，当模型跨越明确的能力门槛时，应承担更强的义务。其方法将不断升级的风险与额外测试、安全和治理措施挂钩。

该公司 2026 年 6 月发布的《先进 AI 框架》包含评估严重风险和报告关键安全事件的规定。它将保障措施视为应随模型能力提升而加强的要求。

Google DeepMind 同样维持一套《前沿安全框架》。该框架利用能力门槛识别需要更强缓解措施的模型，尤其关注网络安全、生物威胁和自主 AI 研究。

两家公司都支持结构化评估，但两者并不能相互替代。Google 运营着广泛的消费者、云、研究和开放模型产品组合。Anthropic 则围绕安全政策和对高风险用途的限制，建立了更集中的公共形象。

它们的立场也与围绕开放权重系统的更广泛争论交织在一起。开放权重允许外部开发者下载并调整模型参数，尽管通常不包括训练数据或完整源代码。

支持者认为，开放模型能够分散技术能力、改善研究可及性，并减少对少数供应商的依赖。他们还认为，防御方可以为本地安全需求检查和修改系统。

批评者则表示，发布先进权重可能令危险能力更难遏制。一旦权重流传开来，开发商便无法可靠地撤回它们，也无法强制实施基于云端的保障措施。

Anthropic CEO Dario Amodei 一直主张对能力极强的系统实施强制测试。他还支持加强针对芯片走私和模型蒸馏的管控，后者是一种将行为迁移到另一模型的方法。

OpenAI 的立场则更具混合性。它支持联邦测试，并主张建立持久的前沿治理机制。它也与行业一道支持在适当安全条件下维持开放的 AI 生态系统。

这正是为什么对 Anthropic 与 Google 的讨论不能被简化为“安全公司”对阵“创新公司”。每家主要实验室都会进行评估、限制某些用途，并决定披露何种技术信息。

真正的分歧在于自愿承诺止于何处，也在于政府的发现何时应延迟访问、限制分发或触发披露。

现有的联邦合作关系使这些问题变得具体。2024 年，美国 AI 安全研究所与 Anthropic 和 OpenAI 签署了研究与测试协议。

这些测试协议允许政府研究人员根据谅解备忘录提前获得模型访问权。它们为不依赖一般性许可制度的合作提供了先例。

新框架将这一逻辑扩展为更广泛的国家安全流程。它也来自一个强调快速采用和降低监管负担的政府。

这种组合带来了艰难的设计问题。审查必须足够有意义，才能发现严重风险；同时也必须足够可预测，让企业能够规划发布。

各实验室还需要确信，敏感发现不会流向竞争对手或外国情报机构。一次模型评估可能暴露专有能力、弱点和部署计划。

政府评估人员则需要足够的信息，才能独立测试这些主张。一份经过修饰的系统卡或由公司挑选的演示，不能替代有实质意义的访问权限。

因此，该框架的可信度将取决于操作性表述。重要的并不只是“自愿”“安全”或“创新”这些词本身。

真正重要的词语界定了门槛、证据、访问、补救和披露。若无法在这些方面达成一致，表面的公共共识可能掩盖不相容的实践。

自愿审查仍可能重塑 AI 竞赛

一个框架无需拥有正式许可权，也能影响发布时间、政府采购和企业信任。

AI 公司围绕模型能力、价格、可靠性、分发和发布节奏展开竞争。30 天的审查窗口会触及这场竞争的每个环节。

提前访问可能让公司的发布计划暴露给政府评估人员。如果官员发现需要新增保障措施的漏洞，也可能造成延迟。

参与的实验室可能承担这些成本，而竞争对手则直接进入市场。这会形成囚徒困境：个体理性的选择会削弱共同的安全目标。

当竞争对手认真测试危险能力时，每个开发商都会受益。但当用户、投资者和合作伙伴期待快速进展时，每个开发商也都有率先发布的动力。

据报道，随着系统能力增强，OpenAI CEO Sam Altman 曾与白宫官员讨论放缓开发的必要性。主要实验室的员工和研究人员也支持协调一致的节奏控制措施。

协调本身也会带来风险。由占主导地位的实验室制定的规则，可能抬高小型开发商的准入门槛，后者缺乏专门的政策团队、安全评估环境或政府关系。

如果所涵盖模型的门槛仅针对呈现异常风险的系统，就能减轻这种负担。模糊的门槛则可能在整个市场制造不确定性。

联邦采购为该框架提供了另一条执行渠道。政府机构可优先选择完成政府审查、记录保障措施并接受事件报告义务的供应商。

关键基础设施客户也可能遵循同样的信号。银行、医院、公用事业公司和国防承包商关注可靠性、数据处理和供应商问责。

对这些买方而言，自愿审查可能类似于安全认证。即使没有法律规定其为强制，参与也可能成为一项实际要求。

这一结果将以不同方式影响 Anthropic、Google、OpenAI 和 Meta。它们的产品、分发渠道和政府关系并不相同。

Google 可将 Gemini 模型整合到云服务、生产力工具、搜索和移动服务中。OpenAI 则通过 ChatGPT、企业 API 和 Microsoft 的基础设施进行分发。

Anthropic 高度依赖 Claude、云合作关系和企业采用。Meta 的开放权重策略则通过不同路径分发模型，往往超出直接托管控制的范围。

围绕发布前云端访问设计的框架，更容易适用于集中式提供商。它难以应对开放权重，因为决定性的行为是发布，而不是持续托管部署。

政府可以在开放模型发布前进行测试。但在权重被下载、复制和修改后，政府无法重建云服务式的控制措施。

这一区别解释了为何开源议题在会前成为游说焦点。这并非有关开发者偏好的次要争论。

它决定联邦流程是否将分发方式视为不同的风险类别。它也决定开放发布是否会面临额外条件。

如果该框架对所有模型采用相同程序，可能会忽视部署方式的差异。如果它对开放权重施加更高要求，批评者会称其是在保护闭源模型既有企业。

无论哪种选择都会影响竞争。闭源提供商可以保留控制权并收集使用数据，而开放开发者则支持本地定制和更广泛的技术访问。

因此，白宫必须围绕能力和现实的滥用路径来界定风险。公司自身的商业模式不能作为可靠的安全性检验标准。

关注这些谈判的企业应记录哪些模型接触敏感信息，以及哪些决策依赖于它们。可检索的 AI knowledge base 可帮助团队保存评估结果、模型变更和政策决定。

当模型变化快于采购周期时，这类文档尤为重要。它也能帮助买方将供应商的保证与其自身工作流程中观察到的行为进行比较。

核心权衡是在不实施政府预先审批的前提下实现安全

该框架的核心权衡在于：联邦评估人员能否在不获得对私营模型发布的非正式否决权的情况下，降低灾难性风险。

发布前测试可以服务于正当目的。先进模型可能发现软件漏洞、协助生物研究，或跨互联系统操作工具。

这些能力可以支持防御者和研究人员。但当保障措施失效或访问控制薄弱时，它们也可能加剧危害。

政府的行政命令聚焦于国家安全和关键基础设施。它要求政府与开发者在最广泛的分发阶段之前开展合作。

这一时机至关重要。发布后的测试可能只有在用户复制输出、集成 API 或下载模型权重之后，才能发现问题。

然而，政府的早期访问会引发宪法、竞争和治理层面的担忧。官员可能借安全之名，就合法言论、政治内容或不受欢迎的产品向公司施压。

该行政命令试图通过拒绝强制许可和审批来缩小这一风险。政府也在其更广泛的 AI 政策中强调言论自由。

仅靠免责声明无法阻止非正式胁迫。寻求联邦合同或监管善意的公司，可能很难拒绝官方请求。

该框架需要针对问题升级制定书面程序。开发者应当知道由谁评估模型、哪些证据支持某项担忧，以及如何审查分歧。

它还需要严格的处理规则。评估材料可能包括模型权重、架构细节、未发布的基准测试、漏洞利用演示和内部缓解措施。

审查流程中的一次泄露，可能造成该系统原本试图防止的国家安全问题。内部威胁应获得与外部攻击同等的关注。

政府能力构成另一项限制。前沿模型评估需要专业研究人员、安全计算资源和持续更新的测试。

当实验室针对静态基准进行优化时，其价值可能下降。评估人员需要采用自适应方法，考察模型在使用工具、长程规划和对抗性提示下的表现。

被称为 CAISI 的人工智能标准与创新中心，有望发挥核心作用。CAISI 源自商务部此前的美国 AI 安全研究所。

OpenAI 呼吁强化 CAISI，使其成为联邦政府主要的前沿安全机构。这一立场支持集中专业能力，而非由众多机构分散开展审查。

集中化可以提升一致性，也可能将敏感信息和决策权集中于单一机构之内。

独立监督仍然不可或缺。国会、监察长、安全研究人员和法院都将在监督自愿合作如何演变方面发挥作用。

州法律又增加了一层复杂性。加州和其他州已推进前沿模型透明度与安全要求，由此产生超出任何联邦自愿流程之外的义务。

白宫支持建立全国性框架，以减少相互冲突的州规则。如果联邦标准显得更弱或缺乏可执行的保护措施，各州可能会抵制。

这一争议无法仅靠技术测试解决。它涉及联邦主义、行政权力、市场结构和公共问责。

怀疑论者的观点很直接：会议可能形成共同表述，却不会改变公司在发布压力下的行为方式。

自愿框架往往依赖声誉和持续合作关系。当延迟发布威胁到市场地位或重大收入时，这些激励会减弱。

相反的风险同样值得关注。名义上自愿的制度可能在未经国会授权的情况下，演变为不透明的审批流程。

这两种结果都会削弱信任。前者制造安全表演，后者则造成不受问责的政府控制。

可信的中间路径需要可衡量的承诺、受保护的评估访问、透明的程序和明确的法律限制。它还需要参与者在危机发生前就能理解的后果。

五角大楼争议为安全谈判蒙上阴影

Anthropic 与五角大楼的冲突表明，当政府既是监管者又是客户时，抽象的安全原则会变得更加棘手。

Anthropic 进入 2026 年时，已拥有在敏感政府环境中部署 Claude 的经验。该公司表示，其模型自 2024 年起便已在机密网络中使用。

该公司后来抵制了与自主武器和大规模国内监控相关的请求。这场争议升级为围绕可接受军事用途的更广泛冲突。

Anthropic 在 2 月表示，尚未收到白宫或国防部关于谈判状态的直接沟通。其官方回应强调将继续支持美国国家安全。

OpenAI 随后宣布了自己的机密部署协议。该公司表示，已获得涉及国内大规模监控限制以及由人类负责武力使用的约束条件。

OpenAI 还敦促政府向其他实验室提供可比条件，并特别呼吁解决与 Anthropic 的冲突。

这段历史使新会议更加复杂。Anthropic 正与一个此前曾质疑其政府使用限制的政府部门讨论安全程序。

这场冲突体现了对控制权的不同定义。Anthropic 希望限制能随其模型进入部署环境，包括高风险的政府场景。

政府方面则认为，军事领导人必须保留对作战人员所用系统的权威。一项 6 月国家安全指令也反对供应商依赖，因为这种依赖可能让公司关闭关键能力。

这两种担忧都具有现实基础。军队不能依赖一家可在危机期间单方面改变重要已部署系统的承包商。

如果其模型支持非法监控，或将人类排除在涉及致命武力的决策之外，开发者同样会面临严重的法律和伦理风险。

白宫框架针对的是发布前模型风险，并不涵盖所有下游用途。尽管如此，五角大楼的冲突仍会影响公司如何解读联邦政府的保证。

被要求披露漏洞的实验室，必须信任接收这些信息的政府。政府则必须相信，实验室不会隐瞒重大风险，也不会在之后施加出人意料的限制。

在五角大楼争议期间，Google 和 OpenAI 的员工曾公开支持 Anthropic 的立场。这一反应表明，机构间竞争并不会消除技术人员之间的共同担忧。

公司领导层仍可以选择不同的合同和保障措施。员工团结并不意味着行业已经达成共识。

因此，Anthropic 与 Google 的一致立场，主要体现在需要明确红线，而非每一项政策细节。Google 的业务版图和政府关系带来了不同的激励。

Meta 则提供了另一种对照。其开放权重发布降低了公司在发布后控制下游修改的能力。

这些模型迫使该框架区分开发者的原始发布与后续改编。随着模型流入外部社区，责任归属变得更难界定。

五角大楼事件还警示人们，不能将政府访问自动视为安全。国家安全机构可能拥有先进的安全系统，同时寻求更广泛的行动权限。

持久的框架必须明确用途限制。为模型评估而共享的数据，不应悄然流入采购争议、情报收集或竞争政策之中。

公司很可能会就此寻求书面保护。当关系发生变化或政府更迭时，口头保证的价值将十分有限。

对读者而言，这是最重要的历史参照。联邦政府并非以中立实验室的身份进入这场讨论。

它既是监管者、客户、安全伙伴，也是政治行为者。这些角色可以支持有效监督，但也可能产生相互冲突的激励。

三个信号将显示该框架是否奏效

下一项考验不在于公司是否赞扬这些会谈，而在于最终流程是否会改变发布方式，同时保留对联邦权力的明确限制。

第一个信号是公开发布对受涵盖前沿模型的定义。该定义应明确可衡量的能力或风险阈值，而不点名偏好的架构或商业模式。

精确的阈值将增强该框架的正当性。它将表明审查针对的是特殊风险，而不是演变为对每个重要模型的常规审批。

模糊或未公开的阈值将削弱这一论点。公司可能受到不同对待，而较小开发者将难以预测自身义务。

第二个信号是存在真正发布前审查的证据。应关注 OpenAI、Anthropic、Google、Meta 或其他参与实验室是否在广泛部署前提交新模型。

关键细节包括审查的时长、测试范围和结果。一次发现并修复了有记录问题的审查，比一场仪式性的会议更能说明问题。

任何公开说明都必须保护漏洞利用细节和专有信息。但它仍应解释评估人员审查了何种风险类别，以及缓解措施是否发生了改变。

一款模型在短暂咨询后未经改动便发布，并不必然意味着流程失败。但这几乎无法证明联邦审查影响了安全性。

第三个信号是该框架如何对待开放权重发布。官员必须决定，可下载的参数是否应受到不同于仅通过受控服务提供的模型的保障措施。

一项基于能力、并明确考虑分发因素的政策，将能强化这一框架。它可以应对不可逆的发布风险，而无需将所有开放模型都界定为危险。

对开放权重实施一刀切限制，会削弱业界支持，并引发竞争方面的担忧。完全忽视分发问题，则会让一个重大的安全问题悬而未决。

国会采取行动，最终可能会取代这一自愿体系的部分内容。目前，行政部门正在依据现有权限建立相关程序。

这使透明度尤为重要。公众应当了解该框架的法律依据、参与规则、申诉机制和监督结构。

开发者和企业买家也应为模型发布间隙出现的政策变化做好准备。采购团队可以跟踪系统卡、评估结果、合同限制和事件报告。

知识工作者面临相关挑战。模型有用，并不意味着它适合用于机密记录、自动化决策或已连接的工具。

团队应询问：系统会接收哪些数据、能够采取哪些行动，以及由谁审查故障。这些问题无论白宫是否参与，都始终具有现实意义。

如果 Anthropic 与 Google 的会谈能形成一套经得起竞争压力考验的流程，其意义将十分重大。会议桌上的协议只是开始。

更尖锐的问题是：当评估人员发现严重问题时，开发商是否会接受延期。与之并行的问题是：当企业不同意时，官员是否会尊重法律界限。

关注首个受覆盖模型的定义、首次完成的审查，以及首个涉及开放权重的决定。这些事件共同将揭示，这究竟是安全基础设施，还是自愿式品牌宣传。

对于任何正在选择或部署 AI 的人而言，现在正是记录供应商承诺、明确内部红线的时候。哪些系统可以访问敏感知识，哪些行动必须获得人工批准？

白宫可以设定联邦层面的基准，但组织仍需自行承担部署决策。其控制措施将决定政策承诺能否经受真实工作流的检验。