美国参议院AI风险法案向模型开发商敲响警钟

美国参议院谈判代表正在考虑一项前所未有的责任，要求领先AI开发商在发布先进模型前降低已知的灾难性风险。这项正在成形的美国参议院AI风险法案还设想，当官员认定某个模型发布风险过高时，联邦政府可以介入。

该提案仍在谈判中，尚未公布法案文本或最终执法架构。但据报道，其设计思路标志着重大转变。华盛顿将不再局限于自愿测试，而是要求开发商对涉及生物、核以及其他极端威胁的可预见风险承担法律责任。

这一转变让OpenAI、Anthropic和Google处于艰难权衡的中心。开发商希望以全国性规则取代日益复杂的各州拼凑式监管。然而，当联邦统一规则包含注意义务以及政府可能对模型发布行使权力时，其影响将更为深远。

该提案将责任转移给AI开发商

核心变化是拟议设立一项处理已知灾难性风险的法律义务，而非又一份自愿安全承诺。

根据最初披露的谈判情况，两名参议院助手描述了针对先进AI开发商的一项拟议“注意义务”。注意义务是指采取合理措施防范可预见损害的法律责任。

这一措辞意义重大，因为它改变了监管的基本问题。官员将不再只询问企业是否遵循其公开的安全框架，还可以审视企业在设计、测试和发布产品时，是否充分关注了已知的重大风险。

据报道，该提案聚焦于能力最先进的模型。它不会自动将同样的义务适用于每个推荐引擎、企业助手或小型开源项目。

具体门槛仍未确定。谈判代表仍需界定，哪些能力、训练方法、部署条件或风险指标会使某个模型纳入法律适用范围。

这一边界将决定立法能否保持严格聚焦。基于能力的标准可以锁定能够协助危险活动的系统；宽松的定义则可能覆盖许多没有合理灾难性威胁可能的产品。

报道列举的例子包括AI协助设计生物或核武器。这些情形不同于人们熟悉的消费者伤害，例如欺骗性广告、有偏见的筛选或聊天机器人提供不准确的回答。

它们涉及发生频率低、但潜在后果极其严重的事件。它们还需要普通产品监管者未必具备的专业知识，包括生物安全、核安全、网络安全以及先进模型评估。

正在成形的美国参议院AI风险法案据称将让政府专家参与核验和测试受监管系统。参议员Amy Klobuchar表示，她正在推动对AI模型所带来最大风险的两党监督。

Klobuchar还提出，要求开发商与政府专家合作开展核验和测试。她的表态表明，立法者考虑的不只是产品触达用户后提交的文书材料。

参议员Ted Cruz则表示，他正与Klobuchar及参议院多数党领袖John Thune合作，应对生物和核威胁。商务委员会首席民主党成员、参议员Maria Cantwell也参与了更广泛的讨论。

参议院商务委员会对商务部拥有管辖权。该部门设有联邦AI安全研究人员，因此如果国会建立这套体系，它很可能成为技术评估的核心机构。

不过，该提案尚未形成完整法案。谈判代表尚未公开解决政府的具体权力、受监管模型门槛、可用救济措施，或法院将采用的审查标准。

这些缺失的细节使人们无法对合规成本或发布时间延迟作出确定判断。这也解释了为何在立法措辞固化为某一种执法模式之前，这一议题现在就值得关注。

为什么美国参议院AI风险法案改变了发布争论

该提案将前沿模型发布视为可能需要外部审查的安全决策，而不只是私营企业的产品决策。

据报道，谈判代表正在考虑赋予联邦政府权力，阻止被认定为不安全的特定模型发布。开发商可以在联邦法院挑战这一决定，使法官在有关技术风险的争议中发挥作用。

这一结构试图回应两种相对立的担忧。安全倡导者希望有可信的方式阻止极度危险的发布；开发商则需要免受政府机构作出武断或缺乏依据决定的影响。

司法审查可提供一种制衡，但无法解决所有问题。法院仍需依靠法定标准、证据记录以及专业知识，来判断高度技术性的主张。

模型开发商可能会主张，其防护措施已将危险能力降低至可接受门槛以下。政府则可能回应，这些控制措施无法抵御意图坚定的用户、被盗的模型权重或经修改的部署方式。

届时，法官将面对涉及评估、威胁模型、访问限制、网络安全及不确定预测的证据。其中部分信息可能涉及商业秘密或国家安全问题。

因此，举证责任将与政府的表面权力同样重要。国会必须决定，在发布争议中，谁需要证明安全性、危险性或程序错误。

时间安排也构成另一项挑战。如果在不受限制的模型权重已在网上广泛传播后才启动司法程序，就无法恢复有意义的控制。过早启动程序，则可能基于尚不成熟的评估而延误有益系统。

这为美国参议院AI风险法案带来核心设计问题。干预必须发生在不可逆发布之前，同时证据又必须足够有力，以证明政府行动正当。

该提案也引发了有关模型更新的问题。开发商如今持续改进服务，有时会调整工具、防护措施、访问级别或底层模型版本，而不会推出一个完全独立的新产品。

立法必须区分常规调整与需要重新审查的变更。否则，监管者可能错过实质性的能力提升，或反复检查微小的产品修订。

OpenAI、Anthropic和Google已经开展多种形式的内部测试。然而，各公司的框架在术语、门槛、披露做法以及评估失败后果方面各不相同。

联邦义务可能将部分做法转化为共同的最低标准。它还可能迫使开发商记录：在发现严重但尚不确定的危险后，为何仍决定发布模型。

这一记录对企业客户将具有重要意义。买家通常会收到模型卡、安全文档和合同保证，但对于最敏感的发布前评估，能见度有限。

政府测试不会保证模型安全。它可以提供另一层审视，并在企业知晓重大风险时建立更清晰的问责机制。

Cantwell曾主张，联邦机构和国家实验室应主导前沿系统测试。她的测试立场强调网络安全、生物防御和核安全方面的专业能力。

这种做法不同于将所有问题交给单一通用监管机构。专业实验室可测试具体威胁路径，而协调机构则负责流程与执法。

难点在于，将研究发现转化为可辩护的发布决定。评估可以在受控条件下识别能力，但现实中的滥用取决于访问方式、用户技能、防护措施和部署环境。

一个处于受监控访问控制之下的高能力模型，与可下载的模型权重带来的威胁不同。法律需要处理这种差异，同时不能为规避监督留下捷径。

联邦规则与州法优先构成主要交易

该提案的政治交易是，将全国性安全义务与限制州执法相结合，在统一性与地方监管自主权之间进行权衡。

据报道，这项措施将阻止各州执行部分涉及联邦框架已覆盖风险的法律。该条款可能有助于争取行业对全国监督的支持。

随着各州通过不同法律架构监管前沿模型、自动化决策、深度伪造、隐私及聊天机器人安全，开发商正面临日益复杂的环境。全国性规则可以减少相互冲突的定义和报告义务。

然而，州法优先改变了各州和消费者面临的利害关系。当联邦法律取代更强的保护措施时，即使它创设了新的全国性要求，也可能削弱监督。

参议院此前已遭遇对广泛AI州法优先的强烈反对。2025年，参议员以99票对1票通过表决，从一项预算措施中删除了一项拟议的、为期十年的州级AI监管限制。

这次暂停监管表决表明，立法者可以支持联邦AI政策，同时拒绝全面冻结州级行动。当前谈判看似范围更窄，因为其针对的是明确的前沿模型风险。

即使是狭窄条款，也需要谨慎起草。国会必须界定，各州是否仅失去对灾难性风险义务的权力，还是失去对涉及受监管模型的所有法律的权力。

两者差异重大。关于前沿模型评估的州规则与拟议联邦制度较为接近；而隐私、就业、消费者保护或民权法律则针对不同类别的伤害。

州法优先还可能影响执法时机。当国会辩论全国性立法时，各州往往会采取行动，尤其是在居民报告即时伤害，或新技术暴露法律漏洞的时候。

统一性支持者可以认为，灾难性风险监督需要单一的国家体系。生物和核威胁跨越州界，而国家实验室拥有各州难以轻易复制的专业能力。

批评者则可以回应，联邦标准有时会停滞不前。州级试验可以暴露弱点、测试执法方法，并促使国家官员更新过时规则。

加州提供了最清晰的近期案例。州长Gavin Newsom在2024年否决了SB 1047，并警告其以模型为中心的门槛可能在未考虑部署环境的情况下监管基本用途。

他的否决声明批评了一个高度依赖计算规模的框架，同时也承认有必要有效防范严重AI威胁。

加州后来通过了一项修订后的前沿AI法律，要求披露安全协议，并为领先系统设定门槛。这段历史表明，州级提案可以在技术和政治批评后不断演变。

联邦层面的妥协或许可以借鉴这些经验。它可以针对一小部分能力极强的模型，同时考虑访问控制、部署环境以及已记录的威胁路径。

Cruz 更广泛的政策框架倾向于较宽松的监管和测试灵活性。他的AI 政策框架提出了监管沙盒，以及针对健康、安全和欺诈风险的保障措施。

Klobuchar 的评论强调必须与政府专家合作。要结合这些立场，很可能需要在针对极端风险设定严格义务的同时，为常规 AI 开发保留空间。

因此，核心争议并不只是政府与行业之间的对立，而是在联邦责任与取消重叠的州级管制之间作出权衡。

只有接受实质性的全国性义务，开发者才能获得可预测性。只有联邦替代方案明确、可执行且能够适应变化，各州才会放弃部分权力。

这种交换将决定该法案的前景。若以宽泛的优先适用条款配合薄弱的义务，将招致州官员和安全倡导者的反对。

若义务强度很高却缺乏清晰边界，则可能失去担忧创新受阻或监管俘获的立法者支持。谈判者需要让两部分看起来均衡适度。

最棘手的问题仍未得到解答

只有当立法者界定已知风险、合理缓解措施，以及叫停发布所需的证据时，注意义务才能发挥作用。

“已知重大风险”听起来很明确，但其中每个词都会带来法律不确定性。某项风险可能已有记录却无法量化；某种能力也可能令人担忧，却不足以证明存在发生灾难性伤害的可能性。

立法者必须决定哪些人的认知应被纳入考量。标准可能会考虑已发表的研究、公司内部测试、政府情报、事故事件，或合格员工发出的警告。

若仅依据公开记录，就会遗漏机密威胁信息和专有评估。若完全由政府掌控记录，开发者则可能难以对某项决定提出质疑。

缓解措施的含义同样重要。公司可能增加拒答训练、监控可疑使用、限制工具、延后开放权重发布，或将访问权限限定给经过验证的客户。

每项控制措施都针对不同的失效路径。它们都无法针对被盗凭证、模型提取、微调、提示攻击或基础设施遭入侵提供完全保护。

立法还必须区分能力与意图。通用模型可以协助合法的生物学研究，同时也可能在恶意工作流中提供危险信息。

简单屏蔽特定主题无法解决这一问题。评估者需要测试某个系统是否实质性降低了造成严重伤害所需的专业知识、时间或资源。

误报同样会带来后果。夸大危险能力可能鼓励滥用、浪费政府资源，并让成熟开发者相对于较小竞争者获得优势。

当广泛测试、法律审查和安全基础设施成为前提条件时，合规制度可能会偏向大型公司。OpenAI、Anthropic 和 Google 能够承担小型实验室无法承担的要求。

将覆盖范围限制在能力最强的模型上可减轻这种压力，但也会引入阈值效应。接近阈值的开发者可能调整训练、延迟发布，或拆分系统以规避监管。

固定算力阈值相对容易管理，但很快会过时。基于能力的阈值适应性更强，但需要可靠的评估和更多监管判断。

欧盟已经面临类似问题。其规则对被归类为具有系统性风险的通用模型施加额外义务，包括评估、事件报告、网络安全和风险缓解。

欧盟委员会的系统性风险义务为美国国会提供了可供比较的实践案例。它们也表明，立法者批准宽泛的法定框架后，仍需制定大量指导意见。

美国提案在一个可能重要的方面有所不同。据报道，相关谈判包含一条可能的路径：政府可就某一具体模型发布采取行动，随后由联邦法院进行审查。

与主要围绕文件记录和行政处罚构建的合规制度相比，这可能带来更直接的对抗。它也使正当程序变得至关重要。

另一个不确定因素涉及监管能力。政府专家必须跟上专有系统、不断变化的威胁手法，以及为稀缺技术人才提供更高薪酬的行业。

监管机构将需要安全的算力访问条件以及处理模型权重的程序。它们还需要有权保护公司机密，同时不能将每一项监管决定都对公众完全隐匿。

监管俘获带来进一步风险。若只有最大的开发者拥有界定评估方法所需的工具和人员，联邦标准可能会反映其偏好的实践方式。

独立研究人员、国家实验室、民间社会团体和领域专家需要发挥有意义的作用。他们的参与能够挑战政府官员和模型公司共同持有的假设。

公司之间也可能存在分歧。Anthropic 经常强调前沿安全政策，而其他开发者则警告，设计不当的规则可能阻碍竞争或开放开发。

在法案文本公布前，不应夸大这些差异。不能仅根据公司对早期提案的立场，推断其对这一具体方案的态度。

国会还需要建立事件报告结构。发布前测试无法预测所有会因新工具、更大用户群体或对抗性实验而出现的行为。

有意义的义务应在部署后持续存在。开发者需要建立流程来发现严重事件、重新评估保障措施、通知主管部门，并在证据发生变化时限制访问。

立法应避免将认证视为永久批准。某个模型在发布当天被视为可控，但在新增集成或出现外部发现后，可能变得风险更高。

同时，监管者也应避免将每一次意外输出都当作灾难性风险案件。法律的正当性取决于其非常规干预是否仅针对非常规威胁。

这些尚未解决的选择并非技术细节。它们决定该提案最终会成为有针对性的安全法律、象征性的合规要求，还是扩张性的许可制度。

三个信号将显示该提案能否推进

接下来的考验在于，谈判者能否将一个引人注目的概念转化为狭义的立法文本，并经受技术、政治和司法审查。

第一个信号是实际法案文本的发布。读者应审视文本如何定义受覆盖模型、灾难性风险、开发者知情程度、合理缓解措施和政府权力。

明确的能力或风险阈值将强化这样一种判断：谈判者寻求的是聚焦于前沿模型的监管。模糊的覆盖范围则会加剧对不可预测执法和普通应用负担的担忧。

第二个信号是最终的优先适用条款。其范围将揭示联邦统一性究竟是灾难性风险义务的有限配套措施，还是对州级 AI 法律施加更广泛限制。

保留隐私、民权、消费者、就业和选举保护的措辞，将支持较狭义的解释。全面排除州级权力则会重新引发此前暂缓条款失败时的政治争论。

第三个信号是执法程序。国会必须明确负责机构、技术专家的角色、证据标准，以及及时获得司法审查的途径。

包含书面认定、安全证据访问、期限和上诉权利的程序，将使对发布的干预更具可信度。未明确的行政裁量权则会削弱支持，并招致即时法律挑战。

日程本身也带来压力。Reuters 报道称，众议院在 11 月 3 日中期选举前仅安排了一周会期，而参议院预计有三周。

即使谈判者达成协议，这一时间表也使立法通过变得困难。委员会审议、全院表决、众议院通过以及协调不同文本，都需要政治协调。

未能迅速通过法案并不会抹去潜在的转变。围绕法律义务和模型发布干预的两党谈判，为下一届国会确立了一个参照点。

这场辩论也让开发者有了立即改进文件记录的理由。识别出重大风险的公司需要保留记录，说明其如何测试风险、选择缓解措施并监控部署。

企业买家应关注这些实践，因为监管可能影响模型可用性、合同义务、审计证据和发布计划。依赖单一提供商的团队需要为模型延迟或受限制定应急方案。

基于外部模型进行开发的开发者也应追踪义务是否会向下游传导。基础模型公司可能为履行联邦义务而调整访问控制、可接受使用条款、日志记录要求或工具权限。

知识工作者将面临一个较不显眼的后果。随着规则变化，组织需要可靠地保存模型版本、政策、评估和内部决策记录。

可搜索的AI 知识库可帮助团队保留这些背景信息。不过，记录保存不能取代技术评估或法律建议。

美国参议院 AI 风险法案仍是一项经谈判形成的提案，而非已颁布的限制措施。它的重要性在于，在立法者敲定每一项程序细节之前，它所赋予的责任。

Washington 正在考虑，前沿模型的制造者是否应承担可执行的义务，以降低可预见的灾难性危险。它也在考虑，政府何时可以中断一项私营发布决定。

关注法案文本、优先适用边界和法院审查程序。这些要素将共同表明，国会究竟设计了聚焦的监管，还是仅仅在 AI 政策上开启了另一条尚未解决的战线。