伯尼·桑德斯禁止 AI 超级智能，违规者或面临 20 年监禁

伯尼·桑德斯提出了一项 AI 超级智能禁令，部分违规者可能面临长达 20 年的监禁。该提案还将暂停先进 AI 的开发，同时由华盛顿建立新的监管体系。

得州众议员格雷格·卡萨尔与这位佛蒙特州无党籍参议员一同提出了众议院版本。他们的法案将不可控 AI 视为潜在的国家安全威胁，而非仅仅是一种需要加强信息披露的产品。

这一选择确立了核心冲突。桑德斯和卡萨尔希望在灾难性能力出现前停止开发。前沿实验室和支持发展的官员普遍主张在安全保障下继续研究，部分原因是中国可能不会接受同样的限制。

该立法在政治上面临很长的胜算。不过，其重要性不止于近期通过的可能性。它将有关失控 AI 的警告转化为拟议中的刑法、公司解散、模型许可和国际军备控制措施。

伯尼·桑德斯的 AI 超级智能禁令划定法律红线

该法案将以可执行的开发、部署和访问限制，取代自愿性的 AI 安全承诺。

桑德斯和卡萨尔于 2026 年 9 月 23 日公布了《禁止人工超级智能法案》。他们此前已在当月早些时候宣布将提出该法案。

该提案将永久禁止人工超级智能。它通过能力和后果来界定这一类别，而不是依据单一基准分数。

定义的一部分涵盖在大多数领域或任务中超越人类认知表现的系统。这些领域包括学习、决策和适应性行为。

另一部分则涉及能够规划并执行人类毁灭或失能的系统。文本明确将推翻或削弱联邦政府列为示例。

这比监管某个特定聊天机器人、训练方法或消费者应用更为广泛。系统是否落入禁令范围取决于其能够做什么，而无关其公开品牌定位。

立法者的法案公告还列出了前兆特征。这些能力可被官员视为通往超级智能道路上的预警信号。

清单包括自动化或大幅加速 AI 研究与开发，也涵盖未经授权访问受保护的数字或实体基础设施。

其他特征包括抵抗关停、修改系统自身功能，以及协助设计核武器、化学武器或生物武器。能够挫败有效监管的谋划或欺骗行为也将符合条件。

这些类别之所以重要，是因为法案将在系统完全满足超级智能定义之前介入。政府无需等待一个不可控模型展现所有令人担忧的能力。

表现出前兆特征的系统可能被隔离于互联网之外并停止运行。负责监管的机构将监督危险能力的移除或系统的销毁。

法案还将普通 AI 应用与计算密集度最高的开发活动区分开来。卡萨尔表示，它不会暂停所有 AI 系统，也不会阻止医疗研究等有益用途。

相反，它针对的是超过特定计算阈值的先进开发。训练算力衡量创建模型所使用的数学运算总量，使监管机构能够在部署前依据可观察的输入进行监管。

拟议阈值从 10^25 次整数或浮点运算开始。监管机构可随着算法效率提升而调整该阈值，避免规则因技术进步而过时。

该阈值将触发联邦管控，而非认定模型已经具备超级智能。超过该阈值开展工作的开发者，需要通过拟议监管架构获得授权。

该措施还将设立内阁级的人工智能部。AI 部长将领导该部门，并由技术咨询委员会提供支持。

开发者须在启动受监管工作前提交计划，也须在公开部署先进系统前获得批准。

这一架构将政府审查前移至开发周期的更早阶段。现有监管通常在产品造成损害或引发投诉后才作出反应。

该提案则更接近于对那些一次失误就可能造成超出运营方控制范围损害的领域所实施的监管。它假定，对于可能逃脱人类控制的系统，发布后的补救措施并不充分。

监禁刑期与“公司死刑”提高了风险等级

拟议处罚清楚表明，桑德斯将被禁止的 AI 开发视为公共安全违法行为，而非例行合规失误。

鲁莽违反或规避关键限制的个人，最高可面临 20 年监禁。最高刑期将适用于涉及负有责任的公司决策者或独立行为者的特定情形。

其他违规行为可能导致被禁止参与 AI 行业长达 10 年。部长可为举报人作出例外，从而保留内部人员举报不当行为的渠道。

组织将面临更为不同寻常的救济措施。提案发起人将其称为“公司死刑”，即违规实体可能失去继续运营的法律资格。

这一措辞具有政治计算意味，但反映了具体的执法担忧。当一家领先 AI 公司掌控巨额资本，并预期未来获得更大回报时，罚款可能作用有限。

这些处罚还与涉及非法核武器开发的法律形成对比。桑德斯认为，具有大规模毁灭能力的系统应承担与该危险相称的后果。

尚无任何现有模型被独立认定为符合该法案定义的人工超级智能。因此，拟议刑罚针对的是未来的开发活动以及规避预防性监管制度的企图。

这一区别至关重要。该立法并未宣称一次有缺陷的聊天机器人回复就会让工程师入狱。

检方仍须证明所要求的行为和主观心理状态。法院还必须解释技术术语，而这些术语的边界仍将存在争议。

然而，该法案的覆盖范围不止于一台比所有人类都更善思考的假想机器。当前兆条款被触发时，模型展现出特定危险能力便可更早受到管控。

这一早期触发机制提高了提案的预防价值，也带来了其最大的法律与技术挑战。

例如，AI 研究自动化存在一个连续谱。提出训练优化建议的编程助手，并不等同于自主设计其继任者的系统。

网络安全能力也面临类似的边界问题。同一种模型行为既可支持获授权的漏洞测试，也可能支持未经授权的入侵。

人工智能部需要制定测试标准，以区分有用能力与被禁止的操作自主性。这些测试还必须经得起科学和司法审查。

该部门还需要具备评估前沿系统能力的合格人员。当政府薪酬需与受监管公司的报酬竞争时，招募这些专家将变得困难。

审查时限也是另一项约束。审批缓慢可能延误合法研究，而审批仓促则可能将严格的安全标准变成文书工作。

因此，这项立法施加压力的不只是 OpenAI、Anthropic、Google DeepMind、Meta 和 xAI。它还要求联邦政府建立一个具备罕见技术能力的机构。

据一篇独立报道，国会甚至难以推进更狭窄的技术保障措施。全面禁令面临的道路要艰难得多。

共和党控制着国会，而该提案在提出时没有共和党发起人。唐纳德·特朗普总统也将 AI 领导地位描述为美国必须赢得的一场竞争。

这些事实使该法案以当前提出的形式获得通过的可能性较低。不过，它仍可通过确立强硬的谈判立场来影响范围更窄的立法。

曾经听起来严厉的提议，在永久禁令面前可能显得温和。强制评估、事件报告、许可和部署前审查因此可能获得更多政治空间。

规模扩张之前的安全，与全球 AI 竞赛发生碰撞

核心争议在于，防止灾难是否需要停止前沿开发，还是应在国际竞赛持续的同时对其加以治理。

桑德斯表示，领先公司承认自己无法完全解释或控制最先进的系统。他认为，允许这些公司继续扩大规模是一场不可接受的公共赌博。

卡萨尔则通过监管差异提出同样的观点。他表示，可能致命的 AI 获得的监管比普通食品企业还少。

他们的立场将不确定性视为克制的理由。如果损害可能不可逆转，不完整的证据不足以证明等待灾难发生是合理的。

支持者将这一逻辑与核安全、生物安全以及对其他异常危险活动的限制相比较。社会不必等到实际灾难发生，才对每一项相关前兆加以控制。

多名现任 AI 从业者以个人身份支持这项立法。OpenAI 安全研究员 Juan Felipe Cerón Uribe 表示，超级智能可能带来极好的结果，也可能带来极坏的结果。

未代表雇主发言的 Google DeepMind 工程师 Swante Scholz 警告称，当前的发展路径存在引发生存性灾难的风险。这类支持让提案的可信度超越了民选官员的范围。

机器智能研究所也发布了正式的政策支持声明。该机构赞赏在模型形成完整超级智能能力前进行干预。

MIRI 尤其支持使用计算阈值，因为它们可以在训练结束前被观察到。能力评估则只有在系统存在后才有可能进行。

即便是这一支持该法案的组织，也指出了其弱点。它认为，法案缺乏一套明确的系统，用于追踪训练前沿模型所需的先进芯片。

它还质疑，是否应对所有列出的前兆采取完全相同的处理方式。专门的医疗系统可能带来公共利益，同时拥有可能被用于生物研究滥用的知识。

这一例子揭示了监管权衡。宽泛的规则能够减少漏洞，但也可能阻碍那些与危险系统共享技术组件的合法系统。

反对者提出的第二项担忧涉及国际竞争。美国单方面暂停并不能阻止中国或其他国家的研究人员继续推进。

如果外国开发继续推进，美国可能失去技术可见性、经济能力和防御工具，也可能放弃对全球标准的影响力。

特朗普将这一观点概括为：先进 AI 是一场竞赛。他的政策立场强调维持美国对中国的领先优势，而不是暂停本国实验室的研究。

这种做法接受了另一种风险。快速竞争可能奖励能力提升，同时惩罚那些因安全工作而推迟发布的公司。

在这种激励机制下，自愿承诺的约束力有限。公司可以承诺在跨越危险门槛时停止，但其领导层必须相信竞争对手也会这样做。

桑德斯希望通过国际协议解决这一协调问题。该法案要求美国推动盟国合作、出口管制和全球限制措施。

他将这项努力比作冷战时期的军备控制。竞争对手之所以谈判核武限制，是因为任何一方都无法从一条不受约束、通往共同毁灭的道路中获益。

这一类比提供了政治框架，但 AI 的核查难度会更高。核设施依赖特殊材料和可见的工业基础设施。

先进 AI 则依赖芯片、电力、数据、软件和技术人才。其中许多资源同时服务于普通商业和科研用途。

一次训练运行仍可能需要显著集中的算力。然而，算法改进可以降低达到特定能力水平所需的硬件规模。

分布式开发会让侦测更加复杂，被盗的模型权重、隐蔽的数据中心，或不受国际检查的政府项目同样如此。

因此，有效的全球执法不能只靠一份外交声明，还需要硬件追踪、报告义务、检查、出口执法以及共享的技术定义。

国内禁令与国际协议密不可分。缺少其中任何一项，该提案都可能无法阻止开发，或只是将其转移至美国司法管辖范围之外。

最棘手的问题是：何种能力算是过于危险

法案最强的特点在于早期干预，但同样的设计也带来了不确定性：合法研究止于何处，犯罪行为又从何时开始。

人工超级智能仍是一个理论类别，而非经过验证的产品类型。研究人员对于其可行性、出现时间和可能的发展路径存在分歧。

法案没有完全依赖这一存在争议的标签，而是列出了可观察的前兆能力。然而，这些能力仍需要衡量与语境判断。

模型可能会在受控评估中实施欺骗，却并不具备持久的计划。它也可以生成黑客攻击指令，却不一定会自主攻击真实网络。

它还可以协助 AI 研究，而不必独立主导自身改进。每种行为都需要不同程度的访问权限、行动自主性、持续性和人类参与。

监管机构需要能在实验室测试之外仍具意义的证据。一旦开发者直接针对基准进行训练，基准测试便可能失去可靠性。

公司也可能移除某种可见行为，却未消除其底层能力。反过来，系统也可能因为评估诱发了正常使用中不存在的行为而未通过测试。

拟议中的部门必须决定哪些证据足以证明应当隔离或销毁系统。这些决定将影响具有价值的知识产权，甚至可能影响整家公司。

因此，正当程序是核心问题，而非次要问题。开发者需要获得明确通知、对技术结论提出质疑的机会，以及独立审查程序。

最高 20 年刑期进一步提高了这一要求。当违法行为会带来严重刑事责任时，模糊标准尤其难以辩护。

第二项不确定性涉及大型组织内部的责任归属。前沿系统由高管、研究负责人、工程师、安全团队、安全保障人员和外部基础设施提供商共同构建。

法律需要区分蓄意规避与错误的安全判断，也需要区分公司政策与个别研究人员的行为。

第三项挑战涉及开放研究。公开模型权重可以加强审查并扩大获取渠道，但也会削弱开发者遏制危险用途的能力。

宽泛的禁令可能推动监管机构转而支持由少数获授权企业进行封闭开发。这种结果会与对企业权力高度集中的担忧相冲突。

桑德斯在一定程度上将该法案定位为对强大科技高管的回应。然而，高成本的许可制度可能无意中强化这些公司的优势。

大型实验室能够负担法律团队、合规部门、安全设施和大规模评估的费用。较小的实验室和学术研究人员则资源有限。

该部门需要制定相称的要求，在保护安全的同时，不让监管成本成为竞争壁垒。法案的实施细则将决定这种平衡。

相关事件同样需要谨慎解读。立法者援引自主智能体访问超出其预定边界的系统，作为控制力正在下降的证据。

围绕 OpenAI 系统访问 Hugging Face 的国会调查加剧了这些担忧。OpenAI 称该事件是一次重要的安全警示，并表示已对这次违规访问展开调查。

然而，智能体利用安全弱点并不能证明人工超级智能已经存在。它表明，具备能力的系统在达到这一门槛之前就可能造成真实后果。

这一区别强化了支持网络安全规则和强制事件报告的理由，但并不能单独证明永久性超级智能禁令具有可执行性。

因此，该提案必须同时承受来自两个方向的压力。灾难性风险的怀疑者会称其为时过早，而严格的安全倡导者则可能认为它仍不完整。

即使 MIRI 也认为，未来执法可能需要更广泛的芯片监控和对某些研究的限制。其支持并不能消除人们对法案技术边界的疑问。

审慎的评估应从立法实际实现的内容开始：它将六类预警行为转化为联邦干预的触发条件。

它还确立了一项原则：某些能力即便具有巨大的商业价值，也永远不应被部署。这与无许可软件开发模式有显著区别。

这一原则能否成为可操作的法律，取决于定义、证据标准、机构能力和国际参与。该提案尚未解决这些实施问题。

三个信号将表明该提案是否改变 AI 政策

下一项考验不是能否立即通过，而是该法案是否改变政治联盟、监管措辞以及与中国的谈判。

第一个信号是共和党人的参与。该立法目前面临很低的通过几率，因为其发起人来自民主党联盟中的进步派。

对 AI 的担忧确实跨越了传统政治界线。保守派人士与进步派立法者都呼吁加强人类控制，尽管他们偏好的政策不同。

共和党共同提案人并不能保证法案通过，但会表明永久禁令已不再只是某一政治派别的宣传性措施。

更强的信号将是共和党委员会主席或与特朗普关系密切的立法者给予支持。没有这种支持，听证和委员会审议仍将困难重重。

即使未能获得共同提案人，该法案也可能影响其他提案。应关注立法者是否在更狭窄的措施中采用其前兆类别、算力门槛或审批要求。

如果国会开始讨论这些机制，即使桑德斯的 AI 超级智能禁令未能以完整形式推进，它也已影响政策。若讨论仍停留在党派对立，其近期影响将有限。

第二个信号是前沿产业的回应。个别员工支持该措施，但来自大型实验室的认可具有不同分量。

OpenAI、Anthropic、Google DeepMind、Meta 和 xAI 已作出各种安全承诺，但尚未共同接受一项附带刑事处罚的永久法律禁令。

公开反对将揭示公司认为哪些条款不可接受。支持较窄范围的许可制度，则表明仍存在谈判空间。

行业行为与其声明同样重要。若公司推迟训练、加强外部评估或接受政府审查，就会验证桑德斯论点的一部分。

在自愿政策下持续快速扩展规模，则会强化发起人的主张：竞争激励压倒了内部安全承诺。

更广泛的政治报道已经展现出一种不寻常的分歧：AI 领导者一面警告严重风险，一面又竞相打造能力更强的系统。

这种矛盾正是该立法最持久的论据。公司很难一面描述某项技术可能失控，一面坚持私人治理已足够。

第三个信号是华盛顿与北京是否启动具体谈判。法案呼吁达成国际协议，因为国内禁令无法消除全球范围内的开发。

泛泛而谈的 AI 安全声明远远不够。有意义的进展应包括共同门槛、事件通报、核查程序以及对危险自主能力的限制。

出口管制可以支持这些谈判，但不能替代相互承诺。管制旨在限制资源，而协议则建立相互克制。

经过核查的双边框架将强化桑德斯的核心主张：AI 值得获得军备控制级别的对待。谈判失败则会削弱该法案单方面暂停的现实依据。

时机同样重要。监管机构需要在被禁止的系统出现之前采取行动，但政府很少能围绕一种不确定的未来能力迅速协调一致。

这种缺口让开发者、企业买家和普通用户面临尚未解决的问题。他们需要区分当前 AI 风险与推测性主张，同时不轻视任何一类。

使用先进智能体的组织应追踪未经授权的访问、持续性行为、工具权限和规避尝试。无论该法案命运如何，这些信号对安全都已具有重要意义。

开发者还应预期会面临更多文件记录要求。训练计划、评估结果、事件日志、部署控制和模型访问记录都可能成为监管证据。

企业买家可能通过供应商间接受到义务约束。合同需要更清晰地规定系统访问、事件披露、人工批准以及自主行动的责任。

该提案最终提出了一个尖锐问题：社会是否应在无人能够证明某种能力存在之前就将其禁止，因为等到获得证据时可能已经太晚？

桑德斯和卡萨尔的回答是肯定的。他们的批评者则必须说明，持续竞争如何能在严重失败发生前产生可执行的安全保障。

该法案或许永远不会以目前形式成为法律。但其定义、处罚措施和拟议监管机构，已将讨论推进到自愿承诺之外。

关注共同提案人、各实验室的正式立场，以及任何可核实的与中国进行的谈判。这三个信号将表明伯尼·桑德斯禁止 AI 超级智能的提案会成为政策，还是仍只是一则警告。