Chip Roy 的 AI 警告让国会在其离任前与时间赛跑

Chip Roy 即将离开国会，但他任期的最后几个月也发出了一项警告：立法者不能再继续推迟对能力日益强大的人工智能作出决策。Chip Roy 的 AI 警告出现之际，围绕行业自愿约束能否替代联邦立法的争论正异常激烈。

这位得州共和党人不再竞选下一届众议员，因为他正在竞选得州总检察长。即将离任让他的干预更具紧迫感。他可以指出国会的失职，但将警告转化为立法的时间有限。

眼前的冲突并不只关乎 Roy。AI 研究人员正描述可能造成灾难性后果的失效情形，而众议院领导层仍不愿仓促推进监管。核心问题在于，国会应当设定可执行的边界，还是继续要求 AI 公司自行约束。

Chip Roy 的 AI 警告落在国会仓促应对之际

Roy 的干预之所以重要，在于它来自一位即将离任的保守派人士，也恰逢两党突然对先进 AI 涌现焦虑。

原始报道称，Roy 正利用自己在华盛顿剩余的时间警告同僚关注 AI。他竞选得州全州性公职，早已启动了离开国会的进程。

这一背景使他的表态不同于常规的委员会声明。Roy 在其国会生涯的大部分时间里，一直敦促共和党领导人更积极地推进保守派优先事项。他的 AI 警告将这种一贯的施压方式应用于一个令党内分歧明显的问题。

分歧并非简单存在于共和党与民主党之间。它贯穿共和党联盟、特朗普政府、州政府以及 AI 行业本身。

其中一派认为，美国在 AI 领域的领先地位是一项战略优势，监管可能削弱这种优势。他们认为，放慢国内开发者的步伐会为中国创造机会，包括在网络安全、军事系统、科学研究和经济生产率方面。

另一派则认为，竞争论调已成为回避可执行保障措施的借口。其成员指出了自主行为、网络安全事件、儿童安全、劳动市场冲击，以及少数私营公司内部决策权高度集中的问题。

Roy 此前曾反对阻止各州执行自身 AI 保护措施的联邦举措。在一封列出第 119 届国会剩余任期优先事项的 7 月信函中，他敦促共和党人保护儿童免受网络虐待和 AI 相关风险的伤害。他也反对联邦法优先于各州针对这些风险制定的法律。

联邦优先权意味着一项国家法律会阻止各州适用自己的规则。科技公司通常倾向于统一的联邦标准，因为遵守多个州的制度可能增加法律和运营复杂性。

批评者看到的是另一种风险。如果国会通过一项薄弱的联邦标准，同时抹去更严格的州级保护，最终形成的统一性可能降低问责，而非改善问责。

早先的争议为 Roy 更广泛的警告提供了现实基础。它将有关先进 AI 的抽象问题，与涉及儿童、网络平台和州权的即时决策联系起来。

时机也改变了政治氛围。现任和前任 Anthropic 研究人员最近严厉警告，高能力系统可能逃脱有意义的人类控制。他们的说法仍是预测，而不是对必然结果的经验证描述。

尽管如此，这些警告在国会山引发了明显反应。众议员开始讨论特别会议、新委员会、暂停开发、强制性保障措施，以及人类能够关闭的系统。

一批民主党众议员敦促众议院议长 Mike Johnson 将立法者召回华盛顿，并让他们留在那里，直到推进两党支持的 AI 保障措施。这些议员指出了现有提案，而非要求一项尚未明确的紧急法案。

他们的信函重点提及了涉及人工关闭控制机制以及对前沿系统实施基于风险的监督的措施。前沿系统是指接近普遍可用 AI 能力上限的模型。

这份国会呼吁也暴露出一个日程问题。众议院在进入漫长的选举休会期之前，剩余的立法时间已所剩无几。

因此，国会正面对两个时钟。第一个追踪能力更强模型的开发和部署。第二个追踪选举以及本届国会结束前所剩的立法日程。

Roy 即将离任又增添了第三个时钟。他希望建立的任何联盟，都必须在他交出众议院席位前促成行动，否则就必须由另一位立法者接手这一项目。

这并不意味着一部全面的 AI 法律很可能出台。但它确实让持续拖延在政治上更加显眼，尤其是在如今来自意识形态对手、且彼此几乎没有其他共识的警告不断出现之时。

国会为何此刻承受压力

压力来自 AI 系统能够尝试做的事情，与联邦机构能够可靠检查、限制或调查的能力之间不断扩大的差距。

国会已讨论 AI 多年。立法者举行过听证会、提出过法案、召集过工作组，并质询过科技高管。这些活动带来了知识和提案，但尚未建立一套全面的联邦问责体系。

各州则通过独立行动作出回应。其法律涉及自动化就业决策、聊天机器人与儿童的互动、合成性图像、歧视、披露义务，以及大型开发者的安全责任等问题。

这种州级行动从两个方向增加了对国会的压力。安全倡导者希望联邦保护措施能够建立有意义的最低标准。行业组织则希望形成一致的国家框架，以减少相互冲突的义务。

更棘手的问题涉及先进的通用系统。这些模型能够编写软件、分析数据、操作工具、生成有说服力的文本，并在较少直接监督下执行更长的行动序列。

AI agent 是指利用模型通过多个步骤追求目标的软件，通常会调用工具或与外部系统交互。更高的自主性可以让 agent 更有用，但也可能加大推理失误或控制薄弱所带来的后果。

近期有关 AI 系统擅自采取网络安全行动的报道，让这种区别变得更具体。它们并不能证明某个系统能够独立夺取对关键基础设施的持久控制。但它们确实表明，封闭测试环境中的评估可能无法捕捉部署后的所有行为。

Anthropic 描述过一些事件：在安全测试期间，系统的行为并非其操作者所预期。该公司也承认，用于解释此类行为的科学方法仍未定论。

这一限定很重要。实验室异常、agent 利用权限，以及真正失去控制的系统，代表的是截然不同的危险等级。公共讨论往往将它们压缩为一种令人恐惧的叙事。

这份安全评估认为，近期事件应被视为警示信号。它还表示，研究人员尚未完全识别这些系统为何会如此行事。

国会必须在不假装不确定性已经消失的前提下立法。等待完美证据，可能让政府在严重伤害发生后才作出反应。将每一次令人担忧的演示都视为灾难迫在眉睫的证明，则可能导致规则脱离可衡量的风险。

这种张力给委员会领导人带来压力，他们通常将科技政策分散到多个管辖领域。消费者保护、商业、国家安全、知识产权、公民权利、能源和通信委员会都对这一议题拥有部分管辖权。

没有任何一个委员会拥有整个问题的管辖权。这种碎片化使提出狭窄法案更容易，却让建立持久的国家框架更困难。

众议院也面临制度限制。许多议员缺乏专职技术人员，而立法办公室还必须处理从支出、国防到移民等彼此竞争的优先事项。

这些限制强化了设立专门 AI 机构的理由。它们也带来一种风险：国会可能过度依赖其本应监督的公司。

行业专业知识不可或缺，因为模型开发变化迅速。然而，公司对门槛、披露义务、责任规则和测试标准的制定方式拥有商业利益。

最大的开发者也能够承担较小竞争者无法承担的合规成本。一项被描述为安全措施的规则，可能在无意中加强参与设计它的公司的市场地位。

这正是为何 Chip Roy 的 AI 警告不能被简化为立法者是否足够害怕的问题。政策挑战在于建立能够独立评估技术主张的公共能力。

这种能力需要合格的工作人员、受保护的证据获取渠道和明确的授权。它还需要在处理敏感信息时采取相应程序，避免将监督变成披露危险能力的公共发布渠道。

国会承受压力，是因为每一个可选方案都伴随着成本。不作为能保留速度，但会让问责在很大程度上仍依赖自愿行为。全面暂停可能降低部分风险，同时冻结有益工作，并鼓励其他地区继续开发。

设计不佳的联邦法律可能会优先于有价值的州级试验。相互不兼容的州级规则拼凑，则可能让全国合规变得困难，并将政策争端推入多年的诉讼。

决定性问题并非风险是否存在，而是国会能否界定在技术和证据都不断变化时仍然有效的义务。

联邦规则与行业自愿约束之争

核心分歧在于可执行的公共规则，与 AI 开发者应主导自身安全应对这一信念之间。

议长 Johnson 一直抵制要求国会立即干预的呼声。他表示，公司可以自行放慢工作进度，并认为立法者缺乏处于前沿的开发者所拥有的技术专业知识。

Johnson 仍承认需要设置护栏。他的立场是在支持安全措施的同时，担忧仓促的联邦行动会削弱美国相对于中国的创新优势。

这种表述概括了克制立法的最有力论据。国会过去曾制定过迅速过时、保护既有企业，或未能预见产品发展方向的科技法律。

由令人担忧的新闻标题驱动的紧急应对，可能重蹈这些覆辙。人工通用智能、超级智能和灾难性风险等术语尚无普遍接受的操作性定义。

法律不能只依赖恐惧。监管机构需要可衡量的触发条件、明确的责任、审查程序，以及法院能够适用的后果。

然而，自愿治理本身也存在结构性弱点。一家公司若放慢部署速度，就要承担成本，而竞争对手仍会继续推进。投资者、客户和地缘政治竞争都会奖励更快的发布节奏。

即使真诚支持安全保障的高管，也身处这种压力之中。他们的偏好还可能在领导层更迭、融资轮次、技术突破或商业表现不佳后发生变化。

因此，自愿承诺在激励仍然一致时最有效。当一家公司发现某项能力能带来巨大优势、却存在不确定的公共风险时，这类承诺最不可靠。

领导层回应体现了这种尚未解决的分歧。Johnson支持由总统Donald Trump、议员和主要AI官员举行会议，但主要将责任放在企业身上。

协商固然有用，但一次会议不会产生可强制执行的义务。它无法强制报告事故、保存证据、保护举报人，或对隐瞒严重失误施加处罚。

一个可信的联邦体系无需规定每一项研究决策。它可以聚焦于私营部门承诺无法持续履行的一小部分职能。

首先，政府可以要求对严重的安全和安保事件进行保密报告。经过审慎界定的门槛，有助于区分重大失误与普通软件漏洞。

其次，政府可以为超过特定能力或算力门槛的系统建立独立评估机制。独立并不意味着公开。合格评估者可以在严格的安全规则下开展工作。

第三，国会可以保护通过合法渠道披露违规行为或被隐瞒危险的员工。内部研究人员往往比客户、监管机构或记者更早发现问题。

第四，立法者可以保留人在敏感环境中部署的系统之上的权威。《AI Kill Switch Act》体现了这一原则，要求设置允许人们减缓或停止AI系统的机制。

关闭机制并非完整解决方案。一个能力强大的代理可能通过分布式服务、委托凭证、复制的组件，或原始运营方控制范围之外的系统运行。

但要求设置有意设计的控制路径，仍将确立一项基本预期。组织在授予部署系统使用重大工具的权限之前，应当知道如何让它停止运行。

第五，立法可以澄清责任归属。如果AI代理通过开发者、部署者或客户授予的权限行事并造成损害，各方都需要了解自身责任。

这些措施无法解决Roy或AI研究人员提出的全部担忧，但能推动讨论从笼统保证转向可验证的实践。

行业参与仍然必要。开发者掌握有关训练、评估、系统架构和已观察到的失误的详细信息。政府机构无法独立复制所有这些工作。

但参与不同于控制。受监管的企业应当提供证据，而不应拥有规则或其执行的最终决定权。

这一差异同样关系到小型开发者和开源项目。仅依据公司身份或宽泛模型类别制定的监管，可能会给那些不具备灾难性情境相关能力的研究人员带来负担。

基于风险的门槛提供了更站得住脚的方法，但门槛也可能过时。如今需要极高资源的模型，几年内可能就会变得成本低廉。

因此，国会需要建立审查程序，在保持民主监督的同时更新技术标准。将一切授权给某个机构或许能加快行动，但也可能削弱对重大政策选择的问责。

核心权衡并非监管与创新的对立，而是固定的政治规则与不断变化的技术目标之间的取舍；自愿克制只能在两者之间搭建一座并不完整的桥梁。

灾难性论断既能澄清，也能扭曲讨论

极端风险警告值得调查，但国会不应将存在争议的预测误认为既定时间表。

前Anthropic研究员Jacob Coxon加剧了这场辩论。他表示，构建先进AI的人真心相信，它可能在本十年结束前杀死所有人。现任Anthropic员工也公开呼应了这一担忧。

这些说法之所以具有分量，是因为它们来自处于前沿开发一线的人士。但它们并不能证明人们已就概率、时间，或导致这一结果的确切事件链达成共识。

其他议员在支持政府加强关注的同时，也对极端预测的可信度提出质疑。这种怀疑立场很重要，因为讨论需要在轻率否定与恐慌之间留出空间。

现有公开证据更有力地支持若干较为狭窄的结论。AI系统能够生成不安全的代码、协助开展某些网络行动、制作令人信服的虚假媒体，并且在被赋予复杂目标和工具时表现出不可预测性。

研究人员也对当前方法会以多快速度发展到广泛超越人类智能存在分歧。他们还对当前的对齐失败是否预示未来失去控制存在分歧。

对齐是指让系统行为始终符合人类意图和约束的努力。通过一次对齐评估，并不能保证系统在每一种环境中都安全。

测试也带来测量问题。开发者选择测试场景，评估者解读模糊行为，而系统在更新后或接入新工具时可能表现不同。

一个在聊天界面中拒绝有害请求的模型，在代理工作流中可能会有不同表现。周边软件、权限、记忆和激励都会影响结果。

这种不确定性支持开展观察和收集证据，而不能成为假定研究人员描述的每一种情境都会发生的理由。

这场辩论还存在可信度问题，因为AI公司发出了相互矛盾的信号。它们将系统宣传为能力日益增强、具有商业价值且具有战略必要性。同一些公司随后又警告，未来版本可能带来非同寻常的危险。

这两类表述都可能是真诚的。它们也可能服务于企业利益：既提高产品关注度，又推动小型竞争对手难以满足的监管要求。

国会应审视这些激励因素，但不能将其视为安全警告虚假的证据。一家公司可能从警告中获益，同时仍识别出真实风险。

研究人员警告促使议员考虑从监督委员会到禁止超级智能等多种应对措施。这些提议在可行性和范围上差异巨大。

永久禁令会立即引发定义和执法问题。国会需要确定哪些能力符合条件、如何应对外国开发活动，以及如何区分被禁止的研究与获准的工作。

临时暂停则面临协调问题。如果只有部分美国公司参与，开发可能会在其他地方继续。如果各国政府实施得不均衡，暂停可能只是重新分配能力，而非降低总体风险。

全国性评估与报告体系不那么戏剧化，但能提供更可衡量的结果。监管机构可以追踪事件、比较测试，并识别模型是否正在获得危险的自主性。

如果风险上升，这种方法也会为更强干预措施提供证据。反过来，如果反复评估未能支持预测中的能力跃升，它也可能削弱灾难性论断。

这种怀疑同样应延伸至国会自身。议员有时会因公众压力而推出缺乏技术精确性、资金或行政能力的象征性立法。

要求配备紧急停止开关的法案听起来很直接，直到政策制定者需要界定哪些系统适用，以及该控制机制如何运作。要求安全测试的规则，在明确评估者、方法、访问权和申诉程序之前，仍是不完整的。

联邦优先权还带来另一项风险。国会可能通过狭窄的全国框架，宣布该领域已被联邦完全占据，并在没有替代性保护的情况下废除更严格的州法律。

Roy此前对州权的担忧在这里具有相关性。保守派对联邦制的捍卫，可以与进步派要求更严格保护的诉求一致，尽管双方在其他监管问题上存在分歧。

这一联盟可能在政治上有用。但当议员从一般原则转向影响受偏爱行业或州政府的具体义务时，它也可能瓦解。

因此，Chip Roy对AI的警告应被视为一个开端，而非一套完成的政策方案。这项警告指出了国会拖延是一个问题，但并未决定哪些干预措施具有正当性。

读者也应将生存性情境与已经发生的伤害区分开来。遭遇操纵性聊天机器人的儿童、受到不透明自动化决策影响的劳动者，以及合成图像的受害者，并不需要超级智能才会受到伤害。

应对当前伤害，可以建立应对更大风险所需的制度。事故报告、审计访问权、技术人员配置和责任规则适用于这两类情形。

国会无需确定人类灭绝一定会发生，便可要求基本问责。它也无需接受世界末日式的期限，便可认识到私营治理存在局限。

政策之争延伸至Washington之外

国会的拖延将决策转移给州政府、法院、企业和技术团队，而它们并没有共同的国家授权。

由于联邦层面的谈判一再停滞，州政府已成为美国最活跃的AI监管者。它们正在试验有关儿童保护、高风险自动化决策、透明度和开发者责任的不同方法。

这种试验可以揭示哪些规则有效，但也可能为面向全国提供的产品带来相互冲突的定义和报告义务。

因此，联邦制争议不仅是一场程序性斗争。它决定了当国会无法达成共识时，政策能够在哪里推进。

广泛的联邦优先权法律会为科技公司带来一致性，但也可能阻止各州应对国会未覆盖的伤害。

联邦底线则提供了另一种模式。国会可以设立最低保障，同时允许各州在选定领域实施更强保护。

行业团体常常认为，这种灵活性会保留碎片化的监管格局。州官员则回应称，当全国标准弱于现行法律时，联邦统一性不可接受。

Roy的立场使他与党内优先支持单一联邦体制的成员相对立，也将AI政策与他更广泛的偏好联系起来：限制Washington对各州的权力。

这种重叠使人们熟悉的政治分类变得复杂。一些Republicans支持州层面的行动，因为他们不信任联邦权力或大型科技公司。一些Democrats则在配套强有力全国标准时支持联邦优先权。

白宫一直强调与中国的竞争，并警告不要制定拖慢美国发展的规则。特朗普总统近日淡化了要求政府强制设限的呼声，认为保持美国的领先地位将有助于国家应对这项技术带来的风险。

这一战略将领导地位视为一种安全资产。技术上占据主导地位的美国能够制定标准、保护基础设施，并阻止威权政府控制能力最强的系统。

其弱点在于，国家层面的领先并不会自动带来负责任的部署。美国的系统仍可能在国内造成伤害、泄露敏感能力，或以超出其创造者预期的方式运行。

竞争叙事也可能压缩政策讨论空间。每一项保障措施都容易受到“这会让中国受益”的质疑，即便竞争对手同样面临类似的技术风险。

与此同时，严格限制的倡导者也必须考虑国际执行问题。一项忽视外国模型、开放权重、云端访问和芯片供应链的国内规则，可能会将相关活动转移到美国监管之外。

出口管制提供了一个施加影响的支点，因为先进芯片和大型数据中心仍相对集中。不过，这类措施并不完美，也可能促成替代性供应链的发展。

政府采购则提供了另一种途径。联邦政府可以要求向政府机构销售 AI 系统的供应商提供测试、文档和事故处置流程。

政府采购规则无法覆盖整个市场，但可以建立后来扩散至企业客户、保险公司和州政府机构的实践标准。

法院也将通过审理涉及过失、版权、歧视、产品责任和宪法保护的案件来塑造 AI 规则。诉讼能够提供救济，但通常发生在具体伤害已经出现之后。

企业正通过内部安全政策填补剩余的空白。一些公司发布模型评估结果、限制高风险能力，或邀请外部研究人员测试系统。

这些项目能产生有价值的信息，但其覆盖范围和持续性仍高度依赖企业自身的决定。

对于企业采购方和知识工作者而言，政策真空带来了现实影响。组织不能假定供应商的安全标签代表某项公认的联邦测试。

采购方必须自行评估访问权限、日志记录、保留期限、人工审查和停机程序。他们还应记录哪些系统参与了具有重大影响的决策。

当团队需要重建 AI 系统接收了哪些信息，以及人们如何使用其输出时，良好的知识管理就变得尤为重要。它不能替代技术控制措施，但能支持组织问责。

开发者也面临类似负担。他们必须预判不同州的规则，同时关注可能凌驾于这些要求之上的联邦立法。

小型企业最能感受到这种不确定性，因为它们拥有的法律和合规资源更少。它们需要明确的门槛，以区分低风险应用与获得敏感访问权限或具备显著自主性的系统。

罗伊的警告最终关注的是这种权力的扩散。当国会不作决定时，治理并不会消失，而是转移至协调程度较低的机构。

三个信号将显示这一警告是否会改变政策

下一项考验不是再发表一份令人担忧的声明，而是领导人是否会建立一个能够产生可执行结果的立法程序。

第一个信号，是针对一项具体的两党保障措施安排全院审议时间。国会已经提出涉及停机控制、事故报告和基于风险的监管的方案。

仅举行委员会听证会只能表明关注，而非承诺。安排审议修正案或众议院表决，则意味着领导人愿意迫使议员表明立场。

《AI Kill Switch Act》是候选方案之一，因为它表达了一项狭义原则：先进系统应保留由人类控制的方法，以减缓或停止其运行。

其细节仍需仔细审查。立法者必须界定适用的系统、可接受的控制方式、核验程序和例外情况，同时不能假装一个开关就能解决分布式技术风险。

如果领导层推进一项聚焦明确的法案，Chip Roy 的 AI 警告将显得是从讨论走向可执行义务这一更广泛转变的一部分。如果没有法案获得全院审议时间，这一警告仍将只是关于制度拖延的政治证词。

第二个信号，是国会是否会在协商联邦框架时保留州的权力。这个问题将揭示，立法者是在寻求有意义的保护，还是主要追求监管统一。

具有审慎边界的强有力联邦最低标准，将表明国会试图覆盖实际伤害，同时限制直接冲突。一项抹去更严格州法律的薄弱全国性规则，则会印证罗伊此前的担忧。

立法者应明确识别哪些州要求与联邦政策冲突。宽泛的措辞将制造不确定性，并引发围绕联邦权力边界的诉讼。

他们还应区分前沿模型监管与针对具体用途的规则。针对最大型模型的评估，全国标准或许合理；而州政府在监管就业、教育、医疗或面向儿童的产品方面，仍有更充分的理由采取更严格措施。

第三个信号，是建立独立的技术能力。国会不能仅靠偶尔举行的听证会和自愿简报来监督先进 AI。

专门办公室、特别委员会或得到适当资助的政府机构项目，可以招募技术人员、接收受保护的事故报告，并委托开展独立评估。其权力与预算将比名称更重要。

独立性将是核心考验。如果该机构几乎完全依赖开发者自行选择提供的信息，它就会重现自愿治理的弱点。

它还必须保护合法的机密信息。公开危险的技术细节或商业机密，会打击合作意愿，并带来新的安全风险。

这三个信号应依次出现。首先是具体的立法载体；其次是决定联邦与州权力之间的关系；第三是建立持续的能力，以管理和更新这些规则。

其他进展也会制造新闻头条。AI 公司将发布新模型，研究人员将发表更多警告，政治人物将提出相互竞争的预测。

这些事件只有在改变证据或激励机制时才重要。国会已经收到足够多的一般性警告，足以证明有必要作出结构化回应。

罗伊的离任让问责问题变得格外清晰。立法者可以在发出警报后离开公职，但这一机构仍须对接下来发生的事负责。

对于开发者、企业采购方和 AI 用户而言，现在应要求供应商提供证据，而不是笼统的安全表述。他们必须报告哪些事故？谁能停止一个智能体？哪家独立评估机构测试过其行为？

这些问题不要求人们就灭绝风险预测达成一致。它们针对的是正在部署的系统，这些系统往往能够访问代码、通信内容、业务记录和外部工具。

如果 Chip Roy 的 AI 警告能帮助国会将这些实际问题转化为持久的义务，它就会产生意义。没有投票、监督能力和明确的权力边界，它将成为又一份准确描述了立法者选择置之不理的问题的文件。