Anthropic AI 安全会议暴露特朗普政府内部的分歧

据知情人士透露，Anthropic 周二参加了一场高风险 AI 安全会议，与近期对该公司持明显不同立场的两名特朗普政府官员会面。美国商务部长 Howard Lutnick 和五角大楼技术主管 Emil Michael 与 Anthropic 首席计算官 Tom Brown 进行了线上交流。

据报道，此次 Anthropic AI 安全会议紧随一场新的对峙而来，争议焦点是是否应在安全保障措施跟上之前放缓先进模型的开发。美国总统 Donald Trump 驳回了科技企业高管更广泛的警告，而 Anthropic CEO Dario Amodei 则再次主张政府应介入。

这场分歧使此次会议不止是一场例行的华盛顿简报会。Lutnick 曾公开表示，政府信任 Anthropic；Michael 则坚持认为，该公司仍对国防体系构成供应链风险。

因此，这场会议将一场悬而未决的政策冲突摆上了同一张桌面。华盛顿希望加快美国 AI 发展、增强国家安全，但官员们对于哪些限制措施能够保障这些目标存在分歧。

OpenAI、Google DeepMind 及其他领先实验室也在寻求共同的安全实践标准。它们的参与提高了开发者和企业客户的决策风险，后者需要判断应在多大程度上信任行业自愿监管机制。

Anthropic AI 安全会议凸显内部争议

此次会议汇集了三名参与者，他们近期的立场反映出政府对 Anthropic 尚未解决的态度分歧。

据 Bloomberg Law 发布的会议报道，Brown 于 9 月 15 日与 Lutnick 和 Michael 进行了交流。该媒体称 Brown 是 Anthropic 在华盛顿最主要的代表。

据报道，此次对话聚焦人工智能安全风险。讨论结束后，没有任何参与方公布详细议程、文字记录或协商结果。

Anthropic 拒绝就此次会议置评。一名国防部官员告诉 Bloomberg，该部门仍与前沿 AI 公司保持联系，即那些开发最强大通用模型的企业。

这名官员还表示，国防部对 Anthropic 的立场没有改变。这一限定十分重要，因为 Michael 最近刚刚重申了五角大楼对其供应链风险的担忧。

公开记录并不能证明会议是否逐项讨论了军事访问权限、模型评估、监管提案或 Amodei 最新的警告。报道不应将未披露的议程描述为已经达成的协议。

可以确认的情况更有限，但仍具有重要意义：在一场不断升级的全国性辩论中，两名公开表态相互冲突的高级官员与 Anthropic 在华盛顿的最高代表进行了接触。

Brown 的角色也显示了 Anthropic 如何应对这场辩论。该公司越来越依赖他充当桥梁，与此前曾同 Amodei 发生冲突的官员沟通。

9 月早些时候，Lutnick 曾与 Brown 一同出席 G20 创新活动。活动期间，Brown 称赞 Trump 对数据中心建设的支持，并强调就业、税收和发电能力。

这一经济叙事契合政府对国内基础设施和竞争力的关注。它也为 Anthropic 提供了一个沟通渠道，使其能够讨论安全问题，而不将每项限制都描述为对美国增长的制约。

不过，Brown 并未消除实质性分歧。Anthropic 仍然认为，能力日益增强的模型需要评估门槛、安全控制和超越单个实验室的协调机制。

与此同时，政府一直抵制官员认为会削弱美国公司对中国竞争对手优势的规则。在 Amodei 呼吁协调发展节奏和政府行动后，Trump 强化了这一立场。

由此产生的紧张关系并非简单的安全与速度之争。双方都将各自偏好的方案视为国家安全战略。

Anthropic 认为，控制不力的能力可能带来网络、生物和自主系统风险。加速发展倡导者则认为，延误可能让战略和经济优势拱手让给外国竞争者。

此次会议的重要性正在于这种碰撞。它将相互竞争的公开表态转化为直接对话，参与者有能力影响采购、出口和技术政策。

没有公开证据显示任何一方改变了立场。眼下的进展是对话，而非解决方案。

Lutnick 与 Michael 仍代表相互冲突的政府立场

Anthropic 面临压力，因为商务部与五角大楼尚未就该公司是否值得信任给出一致且稳定的答案。

9 月 2 日，Lutnick 告诉 Axios，在经历数月冲突后，政府信任 Anthropic。“他们已经完成了我们要求的事情，”他说，并称该公司重新站到了正确的一边。

这一表态表明双方关系获得了显著修复。Lutnick 认为公司已回应政府关切，但已发布的言论没有界定所涉的全部条件。

这一和解尤其重要，因为商务部能够影响出口政策和先进技术的获取。其决定可能影响前沿模型在哪里可用，以及国际访问将附带哪些安全保障。

Michael 次日传递了不同的信息。他表示，Anthropic 仍被列为国防部及国防工业基础的供应链风险。

五角大楼的立场不仅关乎公众声誉。供应链认定可能影响政府机构、承包商及相关组织是否能够依赖某供应商的技术。

这些相互矛盾的表态立即给联邦采购方和与国防工作相关的企业带来不确定性。Lutnick 的信任表态并不会自动消除五角大楼独立提出的异议。

据争议历史，一名联邦法官还于 8 月推翻了五角大楼对 Anthropic 的一项封禁。Anthropic 则继续通过另一项独立法律程序，对另一项认定提出质疑。

这些细节使双方关系异常难以概括。Anthropic 赢得了一场法律胜利，也获得商务部的公开支持，但它仍受制于一项影响重大的国防限制。

这种分歧反映了各机构不同的职责。商务部考量创新、贸易、出口、基础设施和国家竞争力；五角大楼则聚焦运营访问、供应商可靠性和军事风险。

这些职责可以重叠，却未必会得出相同结论。一家模型供应商可能满足一个机构的安全要求，同时保留另一个机构认为在运营上不可接受的使用限制。

Anthropic 长期实施限制某些有害用途的政策。军事部署使这些限制尤其敏感，因为国家安全系统可能涉及监控、目标锁定、网络行动和自主决策。

核心政策问题是谁来划定最终边界。Anthropic 可以通过合同和技术控制界定可接受的用途，而政府则可以将更广泛的访问权限作为采购条件。

这两种安排在政治和技术层面都不简单。公司控制措施可能缺乏民主问责，而不受限制的政府访问则可能削弱为高后果应用设计的安全保障。

这正是 Brown、Lutnick 与 Michael 对话的重要所在。它让商业政策层面的信任与国防政策层面的不信任直接相遇。

此次会议也促使政府澄清自身立场。各机构可以保持各自的权限，但当企业模型跨越民用和军事场景时，企业需要可预测的规则。

Anthropic 面临一项平行挑战。该公司必须说明哪些限制不可谈判，以及哪些安全措施可以通过与政府协商而调整。

外交层面的改善并不能回答这些运营问题。在公开活动中表达的信任，与采购或供应链框架下的批准并不相同。

对开发者而言，这一区别影响模型在政府项目中的可用性。对企业采购方而言，它影响供应商评估、合同条款以及对未来政策变化的预期。

因此，企业不应将此次会议视为关系正常化的证明。公开证据支持一个更有限的结论：尽管机构间冲突尚未解决，沟通仍在继续。

AI 安全正成为监管与速度之间的权衡

核心争议在于，强制性监管能否在不削弱华盛顿希望保护的竞争地位的前提下，降低严重风险。

Anthropic 的政策框架将先进能力视为需要加强安全和部署措施的触发条件。这些措施可能包括能力评估、威胁建模、红队测试和外部评估。

红队测试是指有组织地尝试让模型失效或产生危险行为。评估人员借此识别漏洞、滥用路径、欺骗行为以及用户可能绕过的安全措施。

该公司的安全框架涵盖网络行动、化学和生物威胁、操纵、模型破坏和失控风险。Anthropic 表示，它还与政府及独立评估机构合作。

这些实践为其公开警告提供了具体机制。但它们并不能保证危险能力会在发布前被发现。

Anthropic 的负责任扩展政策将风险门槛与更严格的保护措施相联系。不过，该政策仍属自愿性质，Anthropic 可以随着证据或运营条件变化而修订。

今年 2 月，该公司承认，某些更高级别的保护措施可能难以由单个实验室独自实施。其更新后的扩展政策称，联邦安全行动进展缓慢，集体保障措施愈发必要。

这一承认具有双重含义。它支持 Anthropic 要求政府介入的主张，因为一家公司无法让所有竞争对手承担同等成本。

它也暴露了该公司自身安全架构的局限性。自愿政策无法在前沿模型市场中建立统一测试、共享报告或执法机制。

据报道，OpenAI 和 Google DeepMind 已与 Anthropic 就安全协调进行了数周讨论。OpenAI 政策主管 Chris Lehane 周二公开确认了这些对话。

据行业讨论，这些实验室考虑制定共同标准和开展独立验证。这类协调可以降低某家公司为更快发布而跳过安全保障的动机。

这也带来法律和治理问题。协调开发进度或发布实践的竞争对手，必须避免形成压制正当竞争的安排。

据报道，Amodei 提议为安全协调设置一项狭义的法律豁免。Lehane 表示，这些公司并不需要豁免，这说明即便是支持者之间，也尚未就具体机制达成一致。

竞争方面的担忧并非理论问题。前沿实验室在用户、研究人员、算力、企业合同和政府业务等方面展开竞争。

若一家公司为进行长期测试而推迟发布模型，当竞争对手推出能力相当的产品时，它可能会失去市场份额。当政府主要通过速度和能力来界定领导地位时，这种激励会更加强烈。

特朗普曾表示，放缓美国的发展将使中国受益。这一立场反映了一种超越政府内部的战略担忧，即便是支持加强测试的人士也持有这一担忧。

安全倡导者则回应称，不安全的系统同样可能削弱美国。无论其来源如何，一个会扩大网络攻击、泄露关键信息或行为不可预测的模型，都可能带来国家层面的代价。

由于基础证据仍存在不确定性，这种权衡变得更加困难。研究人员可以衡量具体能力，但无法计算通向灾难性危害的每一条路径。

2026 年《国际 AI 安全报告》汇集了 100 多位独立专家。报告发现了一些与失控情景相关能力的早期迹象，但尚未达到足以导致此类结果的水平。

报告称，风险发生的可能性、时间和性质都存在异常模糊的不确定性。这种不确定性并不意味着风险为零，但确实使全面限制的诉求更加复杂。

监管机构必须决定，是否应在证据确凿之前采取行动。等待可能会让危险能力扩散，而过早的限制则可能固化不佳的标准，或保护既有公司。

大型实验室通常比规模较小的挑战者更容易承担合规要求。围绕其内部系统设计的规则，因而可能强化其市场地位。

这也是人们持续质疑由实验室主导监管的原因之一。呼吁采取保障措施的公司，同样在塑造约束竞争对手的规则方面拥有经济利益。

相反的做法也带有自身的集中化风险。在公共监督有限的情况下，每家实验室自行决定哪些测试已经充分，以及哪些事件值得披露。

Anthropic 的 AI 安全会议正处于这一尚未解决的选择之中。华盛顿必须决定，是依赖自愿承诺、采用可执行标准，还是将两种方式结合。

没有任何一次会议能够消除这种权衡。但它可以揭示，官员是否愿意界定可衡量的门槛，而不是将安全问题作为抽象的政治身份来争论。

安全警告很严肃，但证据存在局限

Anthropic 的警告值得审视，因为其后果重大；但公开证据尚未确立灾难性危害发生的精确时间表。

Amodei 曾主张，在保障措施得到改善之前，前沿 AI 的开发应以更慢的速度推进。他的立场获得了 OpenAI、Google DeepMind 以及其他科技公司领导者的支持。

这些警告部分聚焦于 AI 智能体——这类系统能够在有限的人类指引下，借助工具追求多步骤目标。能力更强的智能体可以完成有益工作，但也可能扩大滥用的规模。

Anthropic 报告称，曾有人试图利用 Claude 发起网络攻击、实施监控，以及开展与生物武器有关的研究。该公司表示已阻止恶意活动并加强限制措施。

这些报告提供了现实世界中滥用尝试的证据。它们并未表明，当前模型能够独立造成更广泛安全论述中描述的每一种极端后果。

独立专家对于时间线、概率和适当干预措施仍存在分歧。一些人强调欺诈、歧视、监控和不可靠的自动化决策等即时危害。

另一些人则关注未来可能开展高级研究、规避控制，或以当今无法实现的规模协调行动的系统。这些类别所需的政策工具并不相同。

短期危害通常可通过安全要求、责任规则、采购规定和针对特定行业的执法加以应对。推测性的灾难性风险则可能需要能力门槛和部署前评估。

将所有担忧归入同一个标签可能削弱政策。如果倡导者以描述已记录事件的同等确定性来呈现不确定的预测，官员可能会拒绝整个安全议程。

同样的审慎态度也适用于加速发展倡导者的主张。尚未证明发生灾难，并不能证明随着能力变化，当前的保障措施仍将足够。

政府同样缺乏完美信息。模型开发者掌握内部测试数据，而政府机构则拥有企业无法充分观察到的威胁情报。

这种信息不对称使受控的信息共享具有价值，同时也为双方的选择性披露创造了空间。

如果评估者能够获得有实质意义的访问权限，独立评估可以缓解这一问题。对有限模型版本进行表面测试，无法说明已部署系统在持续攻击下的行为。

评估者的权限同样重要。外部组织需要技术专长、受保护的访问权限，以及一套能在不受商业干扰的情况下报告严重发现的流程。

OpenAI 曾表示支持拟议联邦立法中的独立核查条款。Anthropic 则已介绍其与美国 AI 标准与创新中心以及英国 AI 安全研究所开展的合作。

这些关系表明，政府关联的测试是可行的。但它们并不能证明美国已经确定谁有权延迟部署或要求采取缓解措施。

政治环境又增添了一层复杂性。特朗普将近期行业警告斥为阴谋，而其他官员仍继续与 Anthropic 直接接触。

这种反差表明，即便总统的言论反对更广泛的监管，政府仍未停止技术讨论。对话可以在立法未达成一致的情况下继续进行。

国会也尚未展现统一路径。科技行业领导者呼吁采取行动，但立法者对于联邦权限、州级规则、责任以及监管的竞争后果存在分歧。

这场更广泛的政策辩论涉及寻求加强监督的官员，以及担心放缓发展的其他人士。这种分歧降低了迅速形成全面框架的可能性。

持怀疑态度的结论并不是 Anthropic 错了，而是该公司及其批评者都尚未证明存在一套完整的政策解决方案。

Anthropic 尚未公开表明，所提出的每一项放缓措施都能在不同公司和国家之间得到执行。政府也尚未表明，仅靠竞争就能产生充分的保障措施。

因此，这次会议应以具体的后续行动来评判。有用的成果包括共享测试定义、披露规则、事件处理程序，以及针对危险发现采取行动的明确权限。

缺少这些细节，这场活动仍只是一个沟通渠道，而非安全问题已达成解决方案的证据。

Anthropic 会议对 OpenAI、Google 和企业采购方意味着什么

任何可行的协议，都将促使竞争实验室接受可比的测试，而不是依赖各公司特有的承诺。

OpenAI 和 Google DeepMind 是最直接的行业参照对象。两者都开发前沿模型、竞争企业市场采用，并参与有关高级系统风险的讨论。

据报道，它们与 Anthropic 的对话显示，在协调必要性方面存在不同寻常的一致性。不过，这些公司在产品、治理、安全实践和商业激励方面仍有差异。

如果只有 Anthropic 接受更慢的发展速度或侵入式评估，竞争对手可能获得优势。统一规则将减少这种失衡，尽管也可能给较小的模型开发者带来负担。

因此，政府面临一个设计问题。标准必须针对能力和风险，而不是将某一家公司的内部术语写入规则。

基于能力的标准可能要求，当模型在网络操作、生物协助、自主研究或战略规划方面达到特定水平时，进行额外测试。

这种方法看似直接，却依赖可靠的评估。基准测试可能过时，实验室也可能针对已知测试优化系统。

部署条件同样会改变风险。拥有工具访问权限、持久记忆、代码执行能力或对外部系统控制权的模型，其行为可能与受限聊天界面中的同一模型不同。

这一差异对企业采购方至关重要。采购团队应评估完整系统，而不仅是底层模型的基准测试结果。

采用 AI 智能体的组织需要询问：系统可以访问哪些工具、能够检索哪些数据，以及哪些操作需要审批。它们还需要保留支持事件调查的记录。

政府争议可能直接影响这些采购决策。供应商的认定、合同限制或模型访问政策，可能在集成工作已经开始后改变部署计划。

国防承包商面临的风险最为明显，但受监管行业也应予以关注。金融、医疗、基础设施和网络安全应用可能涉及敏感数据以及具有重大后果的自动化操作。

企业团队不应将与联邦官员的接触理解为认证。与官员举行会议，并不意味着某个模型已经通过统一的政府安全测试。

同样，也不应将政治争议视为完整的技术评估。供应链担忧可能包括合同、制度和运营等超出模型性能范围的因素。

采购方需要分别获得关于安全性、可靠性、隐私、合规性和供应商持续经营能力的证据。公共政策发展只是更广泛审查中的一项输入。

开发者则有不同的担忧。共同的安全规则可能改变高级模型的发布方式、哪些接口会暴露特定能力，以及访问权限附带何种监控。

更严格的评估可能延迟功能上线，或限制高风险功能。它们也可能为开发者提供更明确的预期，并减少产品发布后突发的政策变化。

知识工作者将通过产品设计间接感受到这一问题。更严格的工具权限、更多审批和监控可能会减慢工作流程，同时限制有害或意外操作。

当助手处理私人文档、通信和运营任务时，这些控制措施会变得更加重要。维护个人知识库可以帮助用户保留来源语境，而非依赖缺乏支持的模型输出。

其相关性超越了灾难性情景。同样的治理选择决定了谁能够检查模型行为、记录故障，以及质疑自动化决策。

OpenAI、Google 和 Anthropic 都有动力在立法者强制施加标准之前建立标准。然而，如果竞争对手拒绝参与，自愿协调仍将十分脆弱。

这使政府参与难以避免。关键问题在于，官员会支持狭义的技术监督，还是对模型开发实施更广泛的限制。

Anthropic 的 AI 安全会议并未提供最终答案。但它表明，政府仍在与这家实验室接触——其 CEO 曾提出放缓发展的最有力论据之一。

三个信号将显示这场会议是否改变政策

下一阶段应通过官方行动、共同评估规则以及 Anthropic 的国防状态来衡量，而非公开表达的信任。

第一个信号是针对前沿模型的书面联邦测试框架。一项有意义的框架将明确涵盖的能力范围、评估方访问权限、报告义务，以及针对危险结果的应对措施。

如果这样的框架出现，将强化这样一种看法：周二的讨论推动了切实的监管。若只有不具备可衡量要求的自愿性表述，则会削弱这一解读。

第二个信号是 Anthropic、OpenAI 和 Google DeepMind 作出的正式安全承诺。关键在于，这些公司是否接受在部署特定能力之前进行可比较的独立评估。

没有执行力的标准机构仍可促进信息共享，但无法解决某一参与方希望更快发布时出现的激励问题。

第三个信号是五角大楼对 Anthropic 的处理方式。撤销、修订或正式说明其供应链认定的理由，将表明 Lutnick 所推动的协调是否延伸至整个政府体系。

如果该认定维持不变，这场会议看起来将更像是持续的争议管理，而非政策重置。若发布解决方案，则意味着 Anthropic 与国防官员达成了更明确的条件。

读者还应将这些信号上的进展与全面的 AI 法律区分开来。在国会就更广泛的监管体系达成一致之前，政府机构和实验室就可以建立测试程序。

这种渐进式路径或许更为现实，但也可能形成碎片化结构：采购、出口、网络安全和自愿标准各自独立发展。

Anthropic AI 安全会议之所以重要，是因为它检验了立场相反的官员能否朝着共同规则迈进。其重要性将取决于尚未出现的文件和决定。

对于开发者和企业采购方而言，实际应对方式是追踪这些决定，并保留灵活性。在扩大高风险部署之前，应审查模型访问权限、安全文档、供应商限制以及合同退出选项。

核心问题如今已十分具体：华盛顿会否将一场充满分歧的会议转化为透明的评估标准，还是让实验室自行协调，同时政府机构继续发出相互矛盾的信号？