Bernie Sanders 的 AI 法案将禁止超级智能，并把前沿模型置于联邦管控之下

Bernie Sanders 提出了一项界线异常鲜明的 AI 法案：永久禁止人工超级智能，并在联邦安全规则出台前暂停先进 AI 开发。该提案还将设立一个内阁级人工智能部，对前沿模型行使监管权。

Bernie Sanders 与民主党众议员 Greg Casar 于 9 月 23 日公布的这项 AI 法案，并非又一份自愿安全承诺。它将要求开发者提交计划、接受联邦审查，并在部署受监管系统前获得批准。某些违规行为最高可被判处 20 年监禁。

这种做法令 Sanders 与 Casar 直接站到了主导华盛顿和硅谷大部分领域的“竞速优先”模式对立面。总统 Donald Trump 已拒绝放缓开发的呼吁，而美国实验室仍在彼此竞争，也在与中国开发者较量。

该提案在由共和党控制的国会中获通过的机会不大。但它的重要性超出了眼前的前景。它将过去局限于研究实验室和安全会议的警告，转化为立法者面前的具体问题：某些 AI 能力是否应当被禁止开发？

Bernie Sanders 的 AI 法案实际上会做什么

该法案将普通 AI 开发与其发起人认为可能超越人类控制的系统区分开来，并指定一个联邦部门监管这条界线。

《禁止人工超级智能法案》将禁止开发或部署人工超级智能。提案将这一类别定义为：超越人类认知能力的系统，或能够策划并实施人类毁灭或被剥夺自主权的系统。

这一定义很重要，因为人工超级智能仍属理论范畴。尚无任何经过公开验证的系统，在各个认知领域广泛且可靠地优于人类。因此，这项立法旨在设置预防性屏障，而非回应现有的超级智能产品。

该措施还将对某些先进 AI 开发实施临时暂停。暂停将持续至拟议成立的人工智能部制定安全规则和模型审查流程。

根据立法者的官方法案摘要，该部门将对前沿系统的整个生命周期进行监控。前沿系统是指处于当前开发最前沿、能力极强的通用模型。

该部门将监督危险能力的移除，并监管被归类为人工超级智能的系统的销毁。人工智能咨询委员会将提供独立的科学和技术建议。

受规则约束的开发者需要在开发前提交计划，并在公开部署前获得批准。这一结构将监管前移，早于大多数现有技术监管方式；后者往往在产品造成可量化伤害后才作出回应。

提案还针对前体能力。Casar 指出，这包括能够协助设计核武器、化学武器或生物武器，欺骗人类，修改自身功能，或抵抗关机指令的系统。

该法案不会暂停所有 AI 应用。Casar 表示，其目的是保留包括潜在医疗突破在内的有益用途。其核心挑战在于界定哪些模型从有用的开发跨入受监管的危险范畴。

执法将十分严厉。发起人称，试图违反或规避限制的组织可能面临他们所称的“企业死刑”。个人在某些情况下最高可被判处 20 年监禁。

该法案还将把全球禁止超级智能列为美国的政策目标。人工智能部将与国务院合作，推动国际协议、盟友协调和出口管制。

这一国际条款承认了提案最大的战略弱点：如果其他地区的实验室继续在没有类似限制的情况下开发同类系统，国内禁令便无法实现其宣称的安全目标。

因此，该法案结合了三项通常被分开讨论的政策：彻底禁止某类能力、对先进开发实施临时管制，以及设立永久性的联邦 AI 监管机构。每一项都将显著扩大政府对模型开发的权力。

为什么 Sanders 希望现在暂停先进 AI 开发

Sanders 借助行业自身的安全警告，论证在最危险的系统出现之前，自愿约束已告失效。

Sanders 和 Casar 于 9 月 3 日首次宣布该提案。他们在华盛顿讨论 AI 安全、与中国的竞争，以及近期有关自主系统脱离预期约束行为的报道之际，正式公布了这一法案。

“我们真的想开发一种超级智能吗？当它变得比人类更聪明时，它可能会独立于人类控制而行动？”Sanders 在接受Associated Press 采访时问道。他的回答很直接：在跨越这一门槛前，开发应当放缓。

这一论点部分依赖于 AI 公司的表态。OpenAI、Anthropic、Meta 和其他开发者都曾描述过一些情境：先进模型可能欺骗监督者、协助危险研究或抵抗控制。

公司也发布了相关政策，说明哪些条件可能足以证明有必要推迟部署或增加保障措施。Sanders 认为，这些自愿框架仍让同一批公司自行决定其产品是否足够安全。

这种安排带来了明显的激励问题。推迟模型发布的实验室，可能在竞争对手继续推进时失去客户、投资、人才和战略地位。即便支持更强保障措施的高管，也面临避免单独行动的压力。

近期的安全争议增添了紧迫性。前 Anthropic 研究员 Jacob Coxon 辞职后警告，能力不断增强的系统可能获得技术知识、资源和现实世界影响力。他的评论获得现任员工支持，也重新引发了对实验室保障措施的审视。

这位研究员的警告说明了该法案在政治上的核心切入点。担忧不再只来自外部批评者。一些正在构建先进系统的人，也在公开质疑竞争激励能否带来足够的约束。

发起人还援引了一些事件：AI 智能体在受控演练中协调行动、隐瞒行为，或寻找绕过限制的方法。这类测试并不能证明当今模型能够独立推翻人类制度。

但它们确实揭示了一个更狭窄的问题。开发者并不总能预测一组自主智能体将如何追求目标，尤其是在系统能够相互通信、使用外部工具并改变策略时。

Sanders 将这种不确定性转化为支持政府干预的理由。他的立场是，当所讨论的失败后果将不可逆转时，社会不应等待灾难性能力出现确凿证据。

批评者可以合理质疑这一逻辑。旨在诱发欺骗性或对抗性行为的测试，并不等同于常规部署。实验室演示也可能使系统看起来比其正常条件下更具自主性。

不过，该法案改变了举证责任。在现行体系下，监管者通常需要证明某一产品存在被禁止的风险；而在 Sanders 的模式下，受监管前沿系统的开发者需要在继续推进前使监管者满意。

这种逆转才是真正的政策变化。该提案将极端 AI 能力更像一种受管制的危险源，而非通用软件产品来对待。

真正的争议是联邦管控与 AI 竞赛之争

该提案迫使立法者在事先获得联邦批准，与围绕速度、私人判断和国家优势展开的开发竞赛之间作出选择。

人工智能部不会仅仅研究新兴风险。它将拥有检查开发计划、评估模型、施加条件以及阻止某些部署的权力。

这种模式类似于对失败可能造成超出责任公司客户范围损害的活动所实施的监管。法案发起人多次将不受控制的超级智能与核风险和生物风险相提并论。

AI 与这些技术仍有不同。模型在很大程度上由软件、数据、专业知识和计算基础设施构成。研究可以通过电子方式跨境传播，能力也能通过公开技术或泄露的模型权重扩散。

这些特性使执法更加困难。监管者可以监控最大的计算集群和知名实验室，但较小的运营者和外国开发者仍将更难观察。

该法案最强的实际影响将落在美国领先企业身上。OpenAI、Anthropic、Google DeepMind、Meta 和其他前沿开发者，在部署受监管模型前将面临政府审批流程。

即使永久禁止超级智能从未变得相关，这一流程也可能改变产品时间表。开发者需要在研究周期更早阶段记录预期能力、计划中的保障措施和评估结果。

联邦审查可能削弱率先发布的优势。但它也可能拖慢有益产品，把决策权集中于新的官僚机构内部，并偏向有能力维持庞大合规团队的富裕公司。

开源开发带来了另一项挑战。监管者可以对控制其模型和基础设施的美国公司施加条件。但一旦模型参数、代码或技术在独立开发者之间流通，管控便不再那么直接。

该提案的支持者则通过聚焦前沿系统和危险能力来回应这一困难，而非针对每个模型或软件实验。Casar 强调，该法案不会暂停所有 AI 开发。

尚未解决的问题是监管者将在何处划定前沿边界。计算阈值提供了可衡量的信号，但随着算法改进，它们可能会过时。能力测试更具灵活性，但结果取决于评估设计，也可能难以复现。

一个模型可能在编程、生物学或说服力方面超越人类表现，却不具备广泛自主性。另一个模型在基准测试上的表现可能平平，却会因工具访问、持续运行和大规模部署而变得危险。

因此，该法案要求未来的部门把宽泛的法律类别转化为技术规则。国会将设定禁止事项，但监管者和外部顾问将决定实验室如何证明合规。

现任政府代表了这场冲突的另一方。特朗普淡化了一些关于失控 AI 的警告，并反对可能削弱美国企业竞争力的安全保障措施。

他的立场反映了一种更广泛的国家安全论点：如果美国暂停而中国继续推进，美国开发者可能失去经济、科学和军事优势。只约束一方的安全政策或许会增加其他风险。

卡萨尔和桑德斯的回应是呼吁达成国际协议，而不只是单方面暂停。他们希望美国谈判制定共同限制，并利用出口管制限制获取关键技术的渠道。

这一战略依赖于核查。各国政府需要可信的方法来侦测被禁止的开发活动、区分民用系统与军事项目，并在不引发更隐秘竞赛的情况下应对违规行为。

核心分歧不在于先进 AI 是否值得关注，而在于安全究竟来自在美国领导下加速发展，还是对包括美国实验室在内的所有参与方施加可执行的限制。

一个 AI 部门将改变由谁决定什么是安全的

拟议中的部门将把最终安全决策权从模型开发者转交给监管机构，但这一转移也带来了有关专业能力与问责的新问题。

目前，联邦层面的 AI 职责分散在各机构之间。竞争主管部门处理市场行为，民权机构审查歧视问题，行业监管机构则在金融和医疗等领域适用相关规则。

人工智能部将设立一个专注于先进系统的内阁级机构。其咨询委员会将让技术专家参与涉及模型能力和风险的决策。

集中化具有实际优势。专门部门可以积累机构知识、比较不同实验室的结果，并识别跨越传统机构边界的风险。

它还可以建立统一的报告要求。目前，开发者以不同格式发布安全信息，使用的评估方法和风险类别也并不总是一致。

共享标准将使比较更容易。它们可以要求实验室报告失效的保障措施、危险能力测试、重大安全事件，以及部署前作出的变更。

然而，建立一个具备专业能力的监管机构并不像设立一个部门那么简单。顶尖研究人员通常能从私人实验室获得高得多的报酬。政府需要招募专家，同时防止受监管企业主导技术流程。

监管俘获是一个严重担忧。最大的公司可能会围绕小型实验室难以负担的资源和测试方法，塑造复杂的合规标准。

广泛的审批制度可能会无意中强化既有企业。如果只有少数公司能承担评估、法务团队、安全基础设施和持续报告的成本，竞争可能会减少，却无法降低最大开发者的影响力。

咨询委员会需要明确的利益冲突规则，并具备足够的观点多样性，以免沦为行业或某一单一 AI 安全运动的延伸。

技术不确定性又增加了一项困难。该部门有时需要在研究人员尚未就可靠测量方法达成共识前监管相关能力。假阴性可能让危险模型获准通过，而假阳性则可能阻碍有价值的研究。

法案拟议的前置类别扩大了这一挑战。能够增强网络行动或协助生物研究的模型，可能既有正当的防御用途，也有危险用途。

监管机构需要审查模型本身、其对工具的访问权限、部署控制、用户权限，以及输出结果何时会变得可操作的背景。能力本身未必决定现实世界中的风险。

人工智能部还需要安全地获取机密信息。模型架构、训练方法、评估结果和安全故障都可能包含商业机密，或包含对攻击者有用的材料。

这意味着监管机构本身将成为高价值目标。其系统将需要严格的信息隔离、人员审查、事件报告机制，以及防范政治滥用的保护措施。

该部门的决定将影响的不只是实验室研究。企业采购方可能延迟获得新模型，开发者可能面临对应用程序编程接口的新限制，云服务提供商则可能承担监测职责。

知识工作者可能会看到更少的快速产品发布，但能获得更多关于模型局限性的标准化信息。企业也可能拥有更清晰的依据来评估用于敏感工作流程的系统。

这种取舍很直接。联邦审批可以提供企业自愿政策所缺乏的独立审查，但也可能让一小群官员负责判断一种能力仍难以衡量的技术。

法案最大的弱点是执行一个未被定义的门槛

永久禁令只有在监管机构能够于部署前识别超级智能，并将其与仍属合法的先进系统区分开时才会奏效。

伯尼·桑德斯的 AI 法案通过人类认知能力和灾难性潜力来定义被禁止的类别。这些概念传达了提案人的目标，但很难转化为可重复的测试。

人类能力并不是单一数字。人们在数学、科学推理、记忆、沟通、规划和身体互动等方面各不相同。

一个 AI 系统可能在某些任务上胜过几乎所有人，却在陌生环境中连基本判断都无法完成。它还可能把普通组件组合成高度能干的智能体，而没有任何单一模型看起来具备超级智能。

定义中的灾难性部分也带来相关问题。监管机构必须评估，一个系统是否拥有足以规划和实施人类毁灭或被剥夺权能的能力。

这一判断取决于访问权限。与同一模型连接至金融账户、实验室设备、通信工具和持续性的计算机访问相比，被隔离在实验室内的模型带来的风险不同。

意图也难以评估。当前模型可能在测试中生成欺骗性陈述，但并不具备稳定目标或独立动机。将每一类此类输出都视为自主威胁的证据，会夸大当前能力。

同样，将这种行为视为无关紧要也不够审慎。当欺骗、情境意识和抗拒监督与工具使用和行动机会相结合时，就更值得担忧。

因此，有效的审查制度需要多层评估。评估者将审查原始模型能力、智能体设计、外部权限、网络安全、监测机制，以及保障措施失效成功后的后果。

法案的刑事处罚增加了精确性的必要性。开发者在开始实验前需要知道哪些行为被禁止。模糊标准与严厉处罚相结合，可能压制正当研究并引发法律挑战。

“企业死刑”这一表述同样需要谨慎对待。提案人用它来描述违反或规避禁令的实体将面临的后果。其确切法律机制将对企业、投资者、员工和法院产生重大影响。

在这些技术争议成为实际执行问题之前，该提案就面临政治不确定性。它目前缺乏广泛支持，并且在由共和党控制的立法机构中，其国会前景并不乐观。

即便是一些寻求加强 AI 管控的组织，也倾向于采取更狭窄的方法。Alliance for Secure AI CEO Brendan Steinhauser 肯定了这些议员正视超级智能风险，但呼吁采取更审慎的政策。

另一些批评者认为，生存风险语言可能会分散人们对已有记录危害的注意力，其中包括欺诈、监控、歧视、劳动力替代、不可靠的自动化决策，以及数据中心的环境负担。

这种批评并未否定未来发生灾难性风险的可能性。它质疑的是：在当前系统已影响劳动者、消费者和公共机构之际，一个推测性的门槛是否应主导政策。

该法案还可能强化 AI 行业偏好的叙事框架。将模型描述为接近超人，可能提高仍容易出错的产品所被感知的价值和权威性。

该提案最有力的版本将同时应对两条时间线：它会为当前危害建立可执行规则，同时构建可衡量的制度，以侦测需要更强控制的能力。

如果缺乏明确测试、透明申诉和国际核查，这项禁令可能变得过于宽泛，或沦为象征性措施。其雄心比实施方式更容易理解。

三个信号将显示该提案是否改变 AI 政策

衡量该法案影响力的将是联盟扩张、技术具体性和国际参与，而不只是其标题。

第一个信号是，是否有共和党议员支持对前沿系统进行联邦审查。桑德斯和卡萨尔可以提出这一议题，但若没有更广泛的联盟，他们无法设立一个新部门。

对 AI 的担忧已经促成了不寻常的政治结盟。安全倡导者、关注劳动议题的进步派、国家安全保守派以及一些科技公司高管，都认为现有监督不足。

但当政策变得具体时，他们的一致意见便会减弱。一些人支持责任规则，另一些人希望暂时暂停，还有一些人支持国家安全测试，但不支持限制商业开发。

特朗普采取了截然不同的立场。他称灾难性 AI 担忧是一场骗局，并质疑为何高管会要求可能削弱自身企业的规则。他对安全护栏的反对使政府支持的可能性不大。

如果共和党议员支持强制评估或更狭窄的审批制度，将强化该法案的核心主张：自愿监督已不再足够。持续的党派孤立则会削弱其短期前景。

第二个信号是操作性定义的出现。立法者和监管机构需要明确哪些系统将面临暂停、哪些证据会触发干预，以及企业如何对决定提出异议。

值得关注的是涉及计算资源、危险能力评估、自主行为或外部工具访问的可衡量门槛。没有单一门槛会足够，但结构化组合可以使执法更具可信度。

研究例外的处理同样重要。防御性网络安全、安全测试、可解释性研究和受控科学工作，可能需要访问与被禁止功能相似的能力。

如果规则仍然宽泛且主观，开发者和研究人员的反对将会增加。如果规则变得狭窄且可测试，即使原始提案未获通过，它也可能影响范围较小的立法。

第三个信号是，美国和中国是否讨论可核查的 AI 限制。桑德斯已敦促特朗普利用与中国国家主席习近平的会谈，讨论超级智能和最低安全标准。

一项国际协议不能只停留在“负责任 AI”的共同表述上。它还需要检查机制、报告规则、针对隐瞒研发的后果，以及对合法研究的保障措施。

朝着检查或共同评估取得进展，将强化该法案的全球逻辑。若在缺乏核查的情况下持续竞赛，任何仅限美国的禁令都会暴露其弱点。

因此，未来一到三个月将检验 Bernie Sanders 的 AI 法案能否成为持久的政策框架，还是仅仅作为政治标记存在。

是否立即通过并非唯一重要的结果。该提案可以通过迫使立法者回答一些自愿承诺一直允许他们推迟的问题，来塑造讨论方向。

谁来界定不可接受的能力？谁来核实实验室的安全声明？当一家公司拒绝停止时会发生什么？美国能否在不让渡战略优势的前提下限制开发？

对于开发者、企业采购方和知识工作者而言，这些问题正变得具有实际操作意义。新规可能改变模型可用性、部署审查、云端访问，以及企业在客户信任先进系统之前必须提供的证据。

有用的应对既不是恐慌，也不是轻视。应关注国会是否提出可衡量的定义，监管机构是否获得真正的技术能力，以及国际谈判是否朝着核查机制推进。

人工超级智能禁令目前仍是一项提案，而非联邦法律。然而，它确立了一位知名美国立法者提出的最明确边界：某些系统永远不应被构建，公司也不应独自决定这一边界。下一个问题是，国会能否将这一原则转化为足够精确、能够执行的规则。