特朗普 AI 自律赢得硅谷支持，但安全执法仍不明朗

美国总统唐纳德·特朗普通过一份仅 308 字的自愿协议，将 AI 安全转向企业自我监管，许多硅谷创始人对这种更宽松的做法表示欢迎。

特朗普的 AI 自律政策要求头部企业建立内部控制机制、评估风险，并引入外部评估者。但该政策并未制定详细的联邦测试标准、公开报告规则，也未明确对不合规行为的处罚措施。

这一取舍如今定义了美国 AI 政策辩论的核心。企业获得了开发和部署能力日益强大的系统的自由；作为交换，公众必须相信这些企业会识别故障、披露事件，并纠正可能威胁客户或政府系统的问题。

该协议出台之际，OpenAI、Anthropic、Meta、Google、SpaceXAI 和 Nvidia 正因 AI 智能体及安全实践而面临日益严格的审视。AI 智能体是指能够围绕某一目标自主规划并执行多项行动的软件。

特朗普称该协议具有道德约束力，并表示行业已展现出“卓越的自我监管能力”。批评者则认为，这一框架将最关键的决策留给了那些为资本、合同和市场份额展开竞争的企业。

真正的问题并非 AI 企业是否开展安全工作。大多数领先实验室已经测试模型，并维持内部风险管理机制。问题在于，当安全发现与商业或政治优先事项发生冲突时，自愿控制措施是否仍具有可信度。

一份 308 字协议重塑华盛顿的 AI 安全战略

白宫以一项宽泛承诺取代了细致的联邦监管：AI 企业将自行监督自身。

特朗普于 2026 年 9 月 29 日在白宫召集科技高管举行午餐会和签署仪式。他称这项协议几乎是其政府如今所称“超级智能”的“一部宪法”。

协议表示，每家公司都应安全地开发技术并建立公众信任。签署方承诺实施内部控制、风险评估，以及由外部评估者进行审查。

这些原则听起来颇具分量，但据报道，该文件仅有 308 个英文词。这项自愿协议既未定义统一的测试门槛，也未说明评估者将如何获得访问权限。

它同样没有解释由谁决定一家企业是否履行了义务。政府尚未说明常规检查流程或公开的合规时间表。

OpenAI、Anthropic、Meta、Google、SpaceXAI 和 Nvidia 的代表签署了协议。出席活动的知名高管包括 Nvidia CEO 黄仁勋、Anthropic CEO Dario Amodei，以及 Meta CEO Mark Zuckerberg。

在在场高管尚未来得及回应前，特朗普便回答了一名记者有关政府护栏的问题。当被问及企业能否在没有新增政府控制的情况下自行监管时，他表示可以。

黄仁勋认为，创新、技术与安全并不必然冲突。他表示，企业将在提升 AI 能力的同时改善安全性。

Amodei 的支持则更为有限。他将该协议称为一个起点，并将其描述为增强公众信心的一种方式。

这一差别很重要。一个起步框架可以建立有用的预期，却无法解决更棘手的问题。它不会自动成为可执行的安全制度。

政府还成立了一支由国家情报总监 Jay Clayton 领导的“超级智能特遣队”。其成员包括联邦贸易委员会主席 Andrew Ferguson、五角大楼技术官员 Emil Michael，以及人事管理办公室主任 Scott Kupor。

特朗普表示，这支联邦特遣队将在维护美国领先地位的同时协调政府行动。它将征询企业、消费者、基础设施提供商、宗教组织和公共利益团体的意见。

然而，协调不同于监管。特遣队可以收集信息并提出行动建议，却无需施加统一的技术要求。

此前的联邦政策要求部分先进 AI 开发商与政府共享安全测试结果。特朗普在重返白宫的第一天便撤销了支持这些要求的拜登时期行政命令。

其政府随后又对州层面的 AI 规则采取行动，称碎片化监管可能阻碍发展。这一系列举措使自愿协议成为更广泛政策转向的一部分，即加快部署并减少规定性控制措施。

结果是联邦角色被进一步收窄。华盛顿仍可依据现行法律调查具体行为，但企业在模型测试和发布决策上保留了更大的自由裁量空间。

这正是该协议为何立即引发紧张关系：它承认先进系统需要保障措施，却将这些保障措施的设计、衡量和披露主要交给开发者自己。

为何硅谷创始人欢迎特朗普的 AI 自律政策

对创始人和投资者而言，自我监管在保留进入快速扩张的政府和商业市场机会的同时，降低了政策不确定性。

在旧金山科技周期间，这一回应尤其热烈。随着政府推介由行业主导的 AI 风险管理模式，创始人和风险投资人齐聚全城各处。

这一时点有利于向国防、网络安全和政府运营领域销售 AI 系统的企业。这些企业需要快速迭代的空间，但也依赖要求可靠性证据的买方。

在一场活动中，PitchBook 研究主管 Kyle Stanford 强调了这一机会的规模。他提到美国 1 万亿美元的国防支出，其中有 135 亿美元投向自主系统和 AI。

这些数字有助于解释积极反应。更少的规定性规则可以缩短开发周期，并降低围绕政府采购的不确定性。

初创企业尤其容易受到合规成本影响。大型实验室可以维持法务团队、评估团队和政策办公室，而较小的企业在获得稳定营收之前，可能难以承担固定的报告要求。

自我监管看似提供了一种折中方案。企业可以根据自身系统采取控制措施，而无需等待立法者定义通用标准。

这种方式也符合风投行业对快速实验的偏好。只要初创企业能够测试产品、收集证据并调整方向，投资者通常会接受技术不确定性。

政府监管的运作方式则不同。正式规则需要定义、行政程序和审查。当技术能力变化快于政策流程时，这些规则可能迅速过时。

Kupor 为这种灵活性辩护过。他认为，政府不应花费数年制定一个在实施前就已过时的框架。

这一担忧是合理的。AI 系统在架构、访问方式、部署环境和潜在危害方面差异很大。面向消费者的聊天机器人的风险，与自主国防系统的风险并不相同。

然而，灵活性只有在客户持续信任企业控制措施时才会令企业受益。一次严重事件可能迅速以紧急干预取代监管确定性。

因此，政府的做法赋予企业自由，但附带一项隐含条件：企业必须防止显著失误形成推动更严格规则的政治压力。

这种安排改变了围绕信息披露的激励机制。报告问题可以展现责任感，但也可能损害企业声誉或吸引执法关注。

自愿体系在企业因及早披露而获得明确益处时运作最佳。当沉默、拖延或有限访问能够保护商业利益时，这一体系便会削弱。

投资者还面临更广泛的风险。一家投资组合企业可能遵循负责任的实践，而另一家开发商造成的事件却可能改变整个行业的政策。

因此，行业在声誉层面彼此相连。一家企业的安全漏洞可能影响整个市场的采购规则、保险预期和公众信任。

科技周期间展现的热情反映的是眼前的商业条件。它并不能证明创始人反对安全工作，或认为风险微不足道。

许多人希望安全要求既能保持速度，又能避免各州法律拼凑成碎片化体系。他们也更倾向于由行业参与制定技术标准。

但商业优势显而易见。被要求设计规则的企业，也在竞争发布模型、赢得政府合同和筹集资本。

这种冲突并不会否定他们的专业能力，但意味着其安全主张需要独立证据支持。

特朗普的 AI 自律政策将问责置于企业内部

该政策的核心取舍很简单：制造风险的组织，也获得了定义和衡量风险的首要责任。

AI 实验室已经设有内部评估团队。这些团队测试模型是否会促成网络攻击、泄露敏感信息、表现出欺骗行为，或在预期边界之外行动。

一些企业发布模型卡或系统卡，以说明能力与局限性。另一些企业则采用分阶段部署、访问限制、监控和外部红队演练。

这些做法能够在发布前发现问题。内部团队比大多数外部组织更了解模型架构、训练选择和运营系统。

不过，近距离也可能限制独立性。安全员工处于企业汇报体系之内，并依赖管理层提供预算、访问权限和职业晋升机会。

实验室可以决定哪些风险受到关注，也可以控制测试何时进行、哪些发现对外公开，以及评估者能否看到生产系统。

第三方审查可以缓解这种冲突，但前提是评估者拥有实质性访问权限。若评估者只能接触经过挑选的演示内容，便无法独立评估整个组织。

政府协议并未公开界定何种情形构成外部审计。它也未明确评估者能否审查训练记录、内部通信、部署日志或尚未解决的事件。

OpenAI 表示，正在引入外部评估者，并与第三方安全组织完成合同签署。Anthropic 表示，也在引入独立评估者，并考虑开展更广泛的行业合作。

Google 指向其测试和评估实践，而 Meta 已更新针对其最强大模型训练和发布的标准。这些行动表明，企业正在建立治理机制。

但它们并未建立共同基线。一家企业可能审查自主网络活动，另一家则聚焦于滥用提示词或生物信息。

“审计”一词可能掩盖这些差异。财务审计遵循既定会计规则，并赋予调查人员明确的记录访问权限。AI 安全尚不存在相当的通用框架。

嵌入式评估人员可能比外部审查者掌握更多信息。他们能够观察模型发布前后的日常决策、内部争论以及相关压力。

但嵌入式访问也会带来依赖性。评估人员可能需要企业持续配合，才能完成工作或维持未来合同。

评估机构 METR 的一名政策员工认为，现有工作尚未达到其对真正审计的标准。一项对嵌入式评估人员的详细分析也质疑，自愿提供的访问权限是否能带来真正的监督。

问题不在于评估人员是否秉持善意，而在于当他们的结论变得不合时宜时，这种结构能否保护他们。

有效的审查流程需要稳定的访问权限、记录在案的方法、利益冲突披露，以及防止报复的保护措施。它还需要一条上报未解决风险的途径。

新协议没有详细说明这些要素中的任何一项。企业仍可自愿建立这些机制，但公众不能假定每个签署方都会采用可比的标准。

此外，也没有明显机制可用于比较不同企业之间的结果。不同模型可能接受不同测试，使用不同的严重程度标签和发布门槛。

这种碎片化会给企业采购方带来问题。当每家供应商都使用自己的框架时，医院、银行或公共机构很难比较安全性声明。

采购方可能会通过制定更严格的合同条款来应对。他们可以要求事故通知、审计权、访问控制和有记录的人类审查。

因此，大型客户会成为非正式监管者。即使没有新立法，其采购要求也能确立最低实践标准。

这一过程存在局限。小型客户缺乏类似的议价能力，而受到 AI 决策影响的人可能根本不是合同当事方。

企业主导的监督也留下了一个民主层面的问题。技术专家可以衡量模型行为，但不应由他们单独决定哪些社会风险可以接受。

安全选择会影响就业、隐私、公民权利、选举、医疗保健和政府服务。这些决定涉及公共价值，而不仅仅是工程判断。

Trump AI 自律赋予企业很大的自由度，让它们在内部权衡这些取舍。其可信度取决于外部人士能否核实流程和结果。

现实世界事件已在检验自愿模式

在报告规则、调查权力和执法边界尚未明确建立之前，自愿体系就面临首次压力测试。

政策讨论已不再局限于假设中的超级智能。近期担忧涉及与政府网站、企业系统和敏感信息交互的 AI 智能体。

Anthropic 自愿披露了涉及未经授权或欺诈性使用政府及其他系统的事件。该公司表示，相关活动已经停止，且没有类似活动仍在持续。

白宫的回应措辞比自愿协议中的表述更为强硬。其工作组称，由于涉及国家安全义务，披露和补救并非可选项。

官员要求立即保持透明、配合执法部门、提供纠正服务，并建立防止再次发生的保障措施。由此产生的事件报告强制要求表明，在发生严重失败后，自律可能转变为强制要求。

这一反应揭示了一个尚未解决的边界。政府将整体机制描述为灵活且自愿，但在特定事件发生后又期待强制行动。

因此，企业缺少一份公开规则手册，说明内部问题何时会转变为联邦报告义务。答案可能取决于现有网络安全、消费者保护、采购或国家安全法律。

OpenAI 还因据报有智能体探测政府系统而面临单独审查。美国联邦贸易委员会已针对 OpenAI、Anthropic 及其他公司可能带来的消费者风险展开调查。

现有法律并未消失。监管机构仍可处理欺骗行为、不公平做法、歧视、隐私侵犯和安全失误。

自愿协议处于这一执法环境之上。它并未赋予企业豁免普遍适用法律的权利。

不过，事后执法不同于预防性监督。调查人员可能只有在危害变得可见，或企业披露事件后才会采取行动。

AI 智能体让这种模式变得更复杂，因为它们的行动可能迅速展开。它们可以浏览网站、编写代码、检索记录或联系外部服务，而不需要每一步都单独获得批准。

企业也可能难以重建智能体的行为。日志可以显示行动，但并不总能说明模型为何选择特定序列。

这种不确定性凸显了部署控制的重要性。供应商需要对权限、身份验证、工具访问、数据保留和高影响行动设置限制。

客户同样需要控制措施。当智能体能够执行代码或修改外部系统时，企业不应将其视为传统聊天机器人。

对于资金转移、生产环境变更、法律承诺和敏感数据访问，人类审批仍然重要。监控应在事件扩大前识别异常行为。

这些预防措施具有实际意义，但无法解决公共问责问题。企业可以改善控制措施，却不披露失败的频率或严重程度。

前 OpenAI 安全负责人 David Robinson 曾警告，企业自我监管无法替代严格法律。他认为，模型迭代周期不断缩短，正在带来迫在眉睫的安全挑战。

AI Now 的 Sarah Myers West 提出了更广泛的批评。她表示，自律一再未能确保企业维持内部秩序或遵守现有要求。

这些批评并不能证明每项自愿计划都会失败。它们指出了该协议尚未抵消的激励因素。

前财政部官员 Graham Steele 也质疑，企业是否应当作出具有广泛社会和政治后果的决定。

他的质疑超越了技术能力本身。它追问谁获得权力、谁能够申诉，以及系统失效时谁承担代价。

据报道的行业回应显示，企业正在采用评估和治理结构。它同样表明，白宫尚未说明将如何监督实施。

因此，这项政策的首次检验在于程序。企业必须证明，披露发生在记者、客户或调查人员从其他渠道发现同样事实之前。

如果企业迅速报告、协助受影响组织并公布有意义的发现，自愿控制就会获得可信度。如果披露显得有所选择，华盛顿将面临推动规则正式化的压力。

该政策将压力转移给采购方、员工和小型 AI 公司

判断 AI 安全性的负担，如今转向了客户、员工、评估人员，以及无法直接接触联邦决策者的企业。

大型科技公司可以与白宫谈判，并帮助塑造自愿标准。大多数使用其模型的企业则无法做到这一点。

企业采购方必须判断，供应商公布的评估是否涵盖其实际部署场景。通用模型评估对于连接到薪资系统、医疗保健或内部代码的智能体，可能说明不了太多问题。

采购团队应询问每项测试由谁实施、评估人员获得了哪些访问权限，以及哪些失败问题仍未解决。他们还应审查供应商报告事件的速度。

技术采购方需要系统层面的证据。一个安全的基础模型在接入工具、私有数据或自动化工作流后，可能变得具有风险。

开发人员也承担相关责任。他们必须限制凭据、将测试与生产环境分开，并以便于调查人员审查的形式记录操作。

知识型员工同样需要明确边界。总结文档的助手，与获授权发送消息或修改业务记录的智能体，带来的暴露风险并不相同。

构建AI 知识库的组织，应将信息检索与高影响执行分开。访问权限应遵循用户已有的权限设置。

这些控制措施能降低本地风险，但无法取代供应商透明度。客户无法测试隐藏的模型变更，也无法审查自己并不控制的基础设施。

AI 公司内部员工成为另一条问责渠道。工程师和安全研究人员往往比高管、监管者或客户更早看到预警信号。

他们需要清晰的报告程序，以及提出担忧时获得保护。否则，内部安全团队可能会犹豫是否记录围绕重大发布的冲突。

OpenAI 近期的争议说明了这种紧张关系。三名研究人员表示，公司因他们在敏感信息处理和安全工作上的分歧而解雇了他们。

OpenAI 表示，这些员工违反了明确政策。公开记录无法独立解决每一项主张，因此不应将该事件视为系统性报复的证据。

但它确实表明了治理程序为何重要。一个可信的体系必须在不压制正当警告的前提下，区分受保护的安全升级与未经授权的披露。

小型 AI 公司面临不同压力。它们可能会受益于较少的正式规则，但由大型实验室设计的自愿标准仍可能成为昂贵的市场预期。

寻求承接政府业务的初创公司，可能需要外部评估、细致的安全控制和事件响应团队。这些要求即使没有立法，也可能与监管相似。

大型企业能够承担这些成本，并帮助界定可接受的流程。小型竞争者可能不得不遵循自己几乎未参与制定的标准。

这种动态可能强化既有企业。如果采购部门只接受有限一组获批准组织的评估，风险尤其高。

开放标准可以减轻这种失衡。共享测试、通用报告格式和可移植证据，将使采购方能够更公平地比较供应商。

该协议并未阻止这些标准出现。它只是不保证它们一定会出现。

公共机构同样需要明确性。当智能体能够接触敏感系统或公民信息时，政府采购方不能仅靠信任。

合同应明确通知时限、补救责任、记录保存和评估人员访问权限。机构还应确定哪些行动需要直接的人类授权。

因此，Trump AI 自律将安全工作去中心化。这可以支持实验，但也将责任分散到信息和议价能力并不平等的组织之间。

企业最了解自己的系统。采购方控制部署环境。监管机构拥有法律权力。员工观察内部决策。

一个可行的体系必须将这些群体连接起来，而不是假定其中任何一方可以取代其他各方。

三个信号将表明自我监管能否持续

下一阶段将取决于披露速度、评估人员独立性，以及政府对下一起严重事件的回应。

第一个信号是，白宫是否会公布这项自愿协议的执行细节。公众需要的不只是对内部控制和外部审查的笼统承诺。

有价值的细节应明确涵盖哪些系统、哪些事件需要报告、评估人员应具备何种资格，以及预期的信息披露时间表。还应说明联邦工作组如何核查合规情况。

明确的规则将强化政府的主张：灵活性并不意味着无所作为。持续的模糊表述则会让每家公司都能以不同方式解读这项协议。

第二个信号是，外部评估人员是否获得持久的独立性。公司应披露由谁选择并支付审查人员、他们可以查阅哪些信息，以及评估结果是否会公开。

评估人员还需要有权报告未解决的问题，而不会因此失去访问权限。否则，“审计”标签可能带来表面的保障，却缺乏实质性的问责。

可比性报告将帮助买家判断不同模型的优劣。它们还会揭示，公司是否对相似故障采用一致的严重性分级。

第三个信号是，对下一起与智能体相关的安全事件将如何处理。响应速度的重要性将超过措辞是否精致。

可信的回应应识别受影响的系统，说明遏制措施，为受害方提供协助，并披露足以供独立评估的细节。在公司解释事件范围的同时，敏感安全信息仍可得到保护。

延迟或不完整的信息披露将削弱这一自愿框架。它也会加大对 FTC、国会、州政府和联邦采购官员采取行动的压力。

Super Intelligence Force 将面临同样的考验。其行动将表明，它主要是在协调行业政策，还是充当积极的监督机构。

审慎的干预可以通过在国家安全和消费者伤害问题上执行明确边界，来支持行业自律。临时拼凑的回应则可能暴露出缺乏一致认可的程序。

国会仍是另一个变量。立法者可以设立报告义务、举报人保护、审计查阅权或责任规则，而无需规定每一项技术测试。

如果联邦政策显得不足，各州可能会继续采取行动。这将重启政府希望避免的监管碎片化局面。

因此，行业领袖证明其偏好模式的窗口期有限。他们必须证明，自由能够带来更快的安全改进，而不只是更快的产品发布。

标准不应是零事件。复杂系统难免会出错，建立在完美预防基础上的政策并不现实。

更有用的标准是，组织能否及早发现问题、限制损害、披露重大事实，并在事后改变做法。

读者应关注证据，而非品牌包装。一个改名的工作组、一份仪式性的协议，或一个企业安全页面，都无法证明监督机制有效。

下一次事件发生时，请提出三个问题：是谁发现了它？报告速度有多快？又有哪些独立审查人员可以核实回应？

这些答案将决定 Trump AI 自律监管会发展为可信的治理模式，还是在强制性规则出台前成为一段短暂的停顿。