top of page

Mike Johnson 的 AI 监管立场将安全责任转移给科技公司

1天前
讀畢需時 16 分鐘

Mike Johnson 周日否决了紧急 AI 暂停令,将首要安全责任从国会转移给开发最先进系统的公司。Mike Johnson 的 AI 监管立场并不否认需要更强的防护措施,而是质疑应由谁率先制定这些措施,以及联邦立法者能否在不削弱美国对华竞争力的前提下采取行动。

Johnson 表示,他希望总统 Donald Trump、国会领导人和 AI 公司高管尽快会面,制定共同方案。然而,他没有为这一过程提出任何具有约束力的标准、执法机制或截止期限。因此,他的提议将即时责任交给了那些竞争激励同样推动其加速开发的公司。

与此同时,Anthropic 和 OpenAI 的领导人警告称,安全工作正落后于模型能力的发展。一些议员希望召集国会审议防护措施。Johnson 则更倾向于由行业主导、进行政治协调,并在没有紧急联邦暂停令的情况下保持克制。

Mike Johnson 的 AI 监管从行业责任开始

Johnson 的立场既支持设置防护措施,也反对在议员尚未理解解决方案之前由国会制定紧急规则。

在 9 月 13 日分别接受 CNN 和 NBC 采访时,Johnson 表示,AI 公司应主导确保其产品安全的工作。他也承认,政府应在召集相关决策者方面发挥作用。

这种区别很重要。Johnson 并非认为先进 AI 不存在风险。他的观点是,国会缺乏引领初步应对所需的技术知识和可行方案。

在他的周日采访中,Johnson 表示,国会必须抵制实施紧急暂停令。他警告称,叫停美国的发展将使中国有机会超越美国。

Johnson 还表示,如果议员拥有可行的解决方案,众议院可以复会并进行表决。这一条件令立法行动在理论上成为可能,却在实践中将其推迟。

他首选的下一步是举行高层会议。Johnson 希望 Trump、国会领导人和主要 AI 公司的负责人共聚一室。该小组将寻求在安全预防措施与持续发展之间取得可接受的平衡。

这种方式将共识作为行动的入口,也让公司对适用于自身模型的标准拥有重大影响力。

Johnson 认为,AI 开发者更有条件理解这项技术及其不断出现的风险。尤其在评估尚未发布的系统时,他们的专业知识确实至关重要。然而,专业知识并不能消除与市场份额、融资、产品发布和竞争保密性有关的利益冲突。

议长的立场也符合他更广泛的政策议程。在他3 月关于 AI 的讲话中,Johnson 敦促政府仅在必要时进行监管。他将美国在 AI 领域的领导地位描述为一场需要快速基础设施投资和有限行政阻力的竞争。

此前的讲话还呼吁建立统一的全国框架。Johnson 表示,该框架应保护儿童、保障社区安全、支持创作者,并避免各州规则相互冲突。

9 月的言论收窄了通往这一框架的即时路径。Johnson 现在强调由行业领袖参与塑造的谈判进程,而非由国会通过法定要求主导。

这正是该事件的核心变化。议长已将 AI 安全列为优先事项,却将起始责任交给了私营开发者。国会将成为召集者和潜在的后续执法者,而不是制定首个强制性基线的机构。

这一决定很重要,因为公司已经在自行决定测试、部署和披露方式。若无联邦要求,各实验室可以对可接受风险作出不同定义。

自愿承担责任仍可能产生有意义的防护措施。公司控制着模型访问权限、内部评估、安全程序和发布时间表。与国会通过法律相比,它们能更快放缓产品发布。

尚未回答的问题是:当一家公司拒绝配合时会发生什么?当竞争对手仍在开发、发布或销售能力,而其他公司保持克制时,自愿体系就难以维持。

这一弱点直接引向更大的利害关系。Johnson 的方案要求私营协调承担竞争持续削弱的责任。

安全辩论正从两个方向向 AI 实验室施压

AI 公司面临着放缓危险开发的压力,同时还必须证明自愿克制不会成为竞争劣势。

直接压力落在主要前沿实验室身上,也就是开发最强通用模型的公司。Anthropic、OpenAI、Google 以及 Elon Musk 的 AI 业务都已进入围绕加速发展和风险上升的政治讨论。

行业领导人不再只谈论假设性的担忧。Anthropic CEO Dario Amodei 曾表示,安全措施需要时间才能赶上能力进展。

Amodei 警告称,先进智能体可能在六到十二个月内具备协调大范围在线活动的能力。他的预测仍属于预测,而非经独立验证的能力里程碑。

不过,这一警告来自一位可直接接触先进模型和内部研究的领导者。它加剧了外界要求实验室和立法者说明安全计划的呼声。

近期的行业安全警告也发生在前 Anthropic 研究人员公开辞职之后。这些研究人员认为,实验室未能充分应对严重风险。

OpenAI CEO Sam Altman 同样表示,进一步提升能力需要在监控、对齐和理解模型行为方面取得进展。对齐指让 AI 系统的行动与人类意图和可接受边界保持一致。

这些表态使 Johnson 的提议承受了不同寻常的压力。被赋予责任的公司本身也在表示,单独行动或许并不足够。

如果一家实验室独自放缓,竞争对手便会获得缩小能力差距的时间。投资者、企业客户和战略合作伙伴也可能将克制解读为失去发展势头。

公司领导人可以承诺安全优先。然而,目前没有共同的裁判来核实每位参与者是否通过可比测试衡量风险。

压力也在朝相反方向发挥作用。联邦干预的批评者怀疑,既有实验室可能利用安全规则保护其市场地位。

大型公司负担得起广泛评估、法务团队、报告系统和政府沟通。规模较小的开发者可能难以承担同样义务,即便其系统带来的风险更低。

这一担忧使监管设计尤为重要。适用于每个模型的单一要求,可能会偏向拥有更多资本和合规人员的企业。

基于风险的监管提供了另一条路径。它可以对能力更强、访问范围更广或用于更高风险场景的模型施加更严格要求。然而,立法者必须足够明确地界定这些门槛,以防止规避。

Johnson 关于中国的论点又增加了一层。他将美国持续发展描述为国家安全需求,而不只是商业偏好。

美国单方面暂停并不会自动约束中国实验室。对通过国际合作、开放模型或分布式计算开展的研究进行监控,也可能颇为困难。

但这并不能证明每一项联邦防护措施都会削弱美国竞争力。事件报告、标准化评估和安全要求,与全面冻结开发存在实质性差异。

尽管如此,Johnson 的表述仍将最激进的选项置于辩论中心。通过否决暂停令,他可以支持较窄的防护措施,而无需接受广泛放缓。

实验室如今必须说明这些较窄措施应包含什么内容。它们还需要明确哪些保护措施必须通过法律实施,哪些可依靠自愿承诺运作。

开发者和企业买家都对这一答案有切身利害关系。他们的产品日益依赖外部模型、应用程序编程接口以及能够跨软件系统采取行动的 AI 智能体。

当提供商调整其防护措施时,下游客户也会继承部分风险。他们可能获得新能力,却无法相应了解评估、事件历史或部署限制。

因此,自愿体系会影响采购决策。买家必须评估提供商的安全文档是否具体、可测试,并且在发布后持续维护。

Mike Johnson 的 AI 监管立场将这项尽职调查更大程度地推向客户。在可执行的标准出现之前,买家不能假设每个主要模型都通过了同一套联邦安全门槛。

自愿防护措施具有效率,却缺乏独立执法

行业主导的安全机制可以快速响应,但无法保证每个竞争对手都遵守相同规则,或一致地报告失败事件。

AI 实验室掌握着国会并不具备的信息。它们可以检查模型权重、训练方法、内部评估、安全事件和未发布的能力。

这种信息优势使公司成为任何安全框架不可或缺的参与者,但并不意味着仅靠自我监管就足够。

实验室可以在数小时内暂停发布。它可以限制危险功能的访问权限、加强监控,或要求某些用户进行身份验证。

国会则要经历听证、谈判、委员会投票和诉讼风险。新法律出台时,技术假设可能已经改变。

因此,速度有利于自愿行动,问责则有赖于可执行的规则。

美国已有一套灵活指引的范例。美国国家标准与技术研究院维护着一套用于识别、衡量和管理 AI 风险的自愿风险框架

该框架围绕治理、映射、衡量和管理来组织风险管理。它帮助组织建立结构化流程,而不施加普遍性的法律强制要求。

这种指引支持 Johnson 偏好由专家主导行动的立场。公司可以在不同模型、行业和使用场景中采用它。

然而,自愿指引并不强制披露。它无法自动要求实验室报告严重事件、保存证据,或将未发布的模型提交独立测试。

当安全故障始终不为人知时,执法尤为重要。提供商可能在内部发现有害行为,而客户、竞争对手或监管机构却无法得知。

公共透明度本身也带来风险。详细披露可能暴露安全弱点,或教会恶意行为者如何绕过防护措施。

一个可行的体系必须将面向监管机构的信息与适合公开发布的信息区分开来。它还需要制定保护商业秘密和安全敏感发现的规则。

最棘手的挑战是验证。企业可以公布评估分数,但这些分数取决于所选测试、访问条件和解读方式。

模型在结构化测试中可能表现安全,但在接入工具、长期记忆或外部数据后,其行为可能有所不同。智能体会带来新的失效路径,因为它们会反复采取行动,而不是只回答一次。

独立评估机构可以缩小这种信息差距。它们需要获得适当的技术访问权限、安全控制措施和法律保护。

政府机构可以授权评估机构,而无需直接设计每一项测试。国会也可以要求报告,同时将技术标准委托给专业机构制定。

这些选项表明,这场辩论并不止于自我监管与暂停令之间的二选一。许多政策位于这两个极端之间。

强制性事件报告可以在不冻结研究的情况下提高透明度。网络安全要求可以保护敏感的模型资产并防止盗窃。

部署前评估可以聚焦于界定明确的高风险能力。责任规则则可以确定,当可预防的失效造成可量化损害时,由谁承担赔偿。

Johnson并未排除所有此类措施。他的言论反而是否定国会作为目前能够主导应对的机构。

这种先后安排仍然具有重要影响。自愿承诺可能塑造最终的法律基准,尤其是在立法者依赖企业专业知识时。

声音最响亮的企业可能会决定哪些风险得到关注。它们可能强调灾难性情景,却较少关注歧视、欺诈、劳动力扰动、隐私或消费者保护问题。

不同伤害也需要不同的监管机构。用于医疗的模型,与扫描软件系统漏洞的智能体,所引发的问题并不相同。

一次全面的安全峰会无法解决所有行业特定问题。它可以确立原则、分配责任,并为更细致的工作制定时间表。

若要让Johnson的做法获得可信度,这场会议必须产出的不只是共同关切。它需要可衡量的承诺、明确的责任人和报告日期。

因此,核心取舍并非安全与创新之间的对立,而是适应性强的私人行动与在竞争激励变化时仍保持一致的规则之间的选择。

当每个重要参与者都认为合作有利可图时,自愿克制最能发挥作用。当一个违约者就能破坏整个安排时,法律变得更加重要。

国会已有提案,但尚无一致的联邦答案

缺乏共识并不意味着国会没有选择;这意味着立法者尚未决定哪些风险足以证明有必要采取具约束力的联邦行动。

Johnson的言论是在众议院民主党人和一些跨党派团体施压之际发表的。多名议员要求他召回众议院,并让其持续工作,直到相关保障措施取得进展。

这一请求是在AI研究人员和企业高管不断发出公开警告之后提出的,也正值11月选举前众议院的紧凑议程期间。

众议院少数党领袖Hakeem Jeffries表示,民主党希望采取果断行动,以放缓开发进程并保护公众。他将AI列为其党团的优先事项。

然而,Jeffries和Johnson都没有在周日的采访中提出一套完整的立法方案。这使得双方都感到紧迫,却没有已经颁布的机制。

现有的联邦保障措施提案说明了可供选择的路径。其中一项提案要求AI系统保留由人类控制的减速或关停方式。

另一项提案,即FRONTIER Act,将为先进模型的开发和部署建立全国性框架。其分级方法旨在使义务与企业规模和能力相匹配。

这些提案尚未成为国会最终确定的答案。它们还面临关于定义、机构权限、测试方法和执法的实际问题。

关停要求听起来符合直觉。但当一个模型已被复制、修改、部署到海外,或以可访问权重的形式发布时,其实施会变得更加困难。

前沿模型框架同样需要门槛。算力使用、训练成本、能力测试和部署规模,都可能识别出不同形式的风险。

不当的门槛会很快过时,或鼓励企业绕开它们进行设计。宽泛的定义则可能覆盖几乎没有灾难性风险的普通软件。

Johnson在警告不要仓促立法时,正是指向了这些复杂性。这种谨慎有其合理基础,因为模糊的法律可能制造不确定性,却无法提升安全性。

拖延也有其代价。在国会辩论术语之际,企业仍在持续作出部署决策。

美国还面临日益复杂的政策拼图。各州可以通过涉及自动化决策、透明度、歧视和消费者保护的规则。

企业往往更倾向于一项联邦标准,而不是多套州级制度。全国性规则可以减少合规冲突,但联邦优先权也可能抹去更严格的地方保护措施。

这种冲突解释了为何大型实验室有时支持联邦立法。全国性框架可以提供确定性,并限制其面对不同州要求的风险敞口。

因此,批评者质疑,呼吁监管究竟反映了公共安全、商业便利,还是两者兼而有之。这些动机可以同时存在。

Mike Johnson的AI监管做法让行业领袖在回答这一问题时扮演核心角色。他们的建议将影响国会是倾向于自愿承诺、强制报告,还是基于能力的控制措施。

国会还必须决定由哪个机构获得技术权限。通才型立法者无法在模型每次变化时更新详细的评估方法。

专门机构可能提供专业知识,但也可能因其授权范围引发政治冲突。现有机构可以处理特定行业的伤害,但其权限可能会在不同领域之间留下空白。

NIST可以制定自愿性技术实践。监管机构可以在解读其他地方确立的法律约束性义务时采用这些实践。

这种分工可能符合Johnson所表达的偏好,即采取有限监管。国会可以设定结果目标,而技术机构则细化方法。

历史记录仍然给批评者留下担忧的理由。国会一再难以在伤害根深蒂固之前监管快速演进的科技平台。

社交媒体政策提供了一个警示性的比较。自愿审核和透明度承诺经常变化,而激励机制和领导层优先事项也不断转变。

AI面临不同的技术和经济条件,因此这段历史并非直接预测。但它表明,当公众压力下降时,企业责任可能会减弱。

峰会可以启动协调,但当企业出现分歧或自愿承诺变得不便时,它无法取代持久的权威。

因此,对Johnson立场的怀疑性解读很直接:国会可能一边称安全为优先事项,一边将困难决策转交给从持续扩张中受益的企业。

更有利的解读同样清晰:Johnson希望在立法者施加无法应对实际风险的规则之前,先采取技术知情的行动。

这两种解读之间的差异将取决于后续行动。一个有记录的流程将支持第二种解读;一系列没有明确终点的会议则会强化第一种解读。

核心冲突是共同克制与竞争激励之间的矛盾

AI企业可以一致认为风险严重,却可能无法在通常的市场和法律条件下共同放缓脚步。

OpenAI和Anthropic都曾对不断推进的能力表示担忧。它们的高管讨论过协调、监督以及政府参与的必要性。

Altman向Fortune表示,企业不应让自负或利润激励凌驾于安全之上。他还表示,进一步的能力开发需要在理解和控制模型行为方面取得进展。

一项可能的企业安全协议将解决单方面克制的首要弱点。多家实验室可以协调放缓,而不是让某一参与者单独暴露于风险之中。

然而,这种协调会立即引发问题:哪些能力会触发克制、由谁核实合规,以及任何暂停将持续多久?

企业还必须考虑反垄断法。竞争对手协调产品开发或市场时机,即使援引安全理由,也可能面临法律限制。

政府参与可能为有限合作提供合法框架。Johnson提出的会议可以帮助建立这种结构,而无需立即施加法定暂停令。

这使得他的峰会构想比礼仪性的听证会更具实质内容。联邦参与或许能明确哪些形式的协调服务于正当的安全目的。

不过,仅涉及部分美国企业的协议影响范围有限。开源开发者、外国实验室和新进入者可能仍处于协议之外。

对参与的定义同样重要。一家企业可能同意放缓一个模型,却加速推进另一个不在协议范围内的系统。

监督变得困难,因为相关工作发生在企业内部。外部观察者无法可靠地区分真正的放缓与延后的产品公告。

企业对风险和战略也存在分歧。Anthropic在很大程度上围绕安全研究塑造了其公开身份。OpenAI则在类似主张与广泛的商业平台之间寻求平衡。

Google在更大的企业结构和广泛的产品组合内运营。Musk的企业则将AI开发与社交媒体、基础设施及其他业务结合起来。

这些组织面临的激励并不相同。一份共同声明无法消除其在融资、分发、算力获取或领导层优先事项上的差异。

风险辩论还跨越不同的时间维度。眼下的担忧包括欺诈、网络安全滥用、隐私失效以及不可靠的自动化决策。

长期警告则聚焦于可能逃避监督或追求有害目标的高度自主系统。适用于一类问题的政策未必能解决另一类问题。

开发暂停可以针对先进能力,却可能基本不触及当前伤害。无论前沿发展时间线如何,消费者保护和行业特定执法仍然必要。

Johnson对中国的强调进一步复杂化了集体克制。美国企业会抵制那些它们认为会将战略优势转移给外国竞争对手的规则。

国际协调可以减轻这种担忧,但它需要核查和相互信任。在更广泛的地缘政治竞争中,这些条件很难具备。

美国无需就每一项安全措施达成完整的全球协议。安全标准、事件报告和国内部署规则都可以在国家层面运行。

广泛的能力暂停则提出了更困难的协调问题。研究可以跨境流动,而知识一旦发布,也并非总能被遏制。

危险在于,政策制定者将广泛暂停措施的不足视为避免一切强制性保障措施的理由。这两个结论在逻辑上并不成立。

国会可以否决冻结措施,同时仍要求信息披露、评估、安全保护或紧急响应计划。企业可以主导技术设计,但不应掌控执法。

这个故事中的核心对立并非共和党与民主党之间的对抗,而是自愿的共同克制与惩罚克制行为的竞争力量之间的冲突。

党派分歧影响国会是否采取行动。竞争激励则决定了在缺少此类行动时,行业领导是否能够奏效。

Johnson 选择先检验私人路径。实验室如今必须证明,其担忧能够转化为可观察的行为,而不仅是警告和笼统原则。

三个信号将显示该计划是否能形成真正的护栏

下一项考验是:在又一次模型发布或安全事件改变辩论之前,政治会谈能否产生可衡量的承诺。

第一个信号是拟议中的会议本身。Johnson 表示,他希望尽快召集 Trump、国会领导人以及主要 AI 企业高管。

读者应关注谁会出席、谁又被排除在外。代表性至关重要,因为一个范围狭窄的群体无法为更广泛的市场建立可信的预期。

会议还需要有明确产出。书面框架、任务清单或时间表将表明,进展已超越单纯协商。

如果参与者只是重申既有立场,这场峰会将暴露缺乏共识的事实。这一结果将削弱 Johnson 关于行业领导能够提供务实第一步的说法。

第二个信号是,实验室是否宣布可验证的共同承诺。这些承诺应明确涵盖的系统、触发条件、测试方法和披露义务。

一项有意义的协议应将内部安全决策与可由独立方审查的义务区分开来。它还应说明,当某一参与方违反安排时将如何处理。

关注政府是否提供支持,以解决合法协调的问题。若没有这类支持,企业在讨论任何同步放缓时,可能会援引反垄断担忧。

还应关注该协议是否只覆盖灾难性风险。范围过窄可能会让当前的企业和消费者伤害游离于框架之外。

具体承诺将强化由行业主导启动阶段的理由。缺乏监测的笼统承诺则会强化制定强制性标准的理由。

第三个信号是国会在较窄范围立法上的进展。事件报告、模型评估、关闭控制和网络安全规则,比全面暂停令提供了更清晰的检验。

委员会听证会和法案文本比表达关切更重要。已安排的审议程序或两党协议将表明,国会仍打算建立可执行的边界。

持续拖延将使自愿做法成为联邦安全体系的主要架构。这一结果会迫使买方、开发者和研究人员更加独立地评估供应商。

企业客户现在就应提出直接问题:部署前会进行哪些评估,又由谁能够审查结果?

买方还应询问,供应商如何披露严重事件、模型变更和新的工具权限。当自愿的公开承诺仍然模糊时,合同条款至关重要。

构建 agents 的开发者需要格外谨慎。agent 可以调用工具、检索信息,并在相互连接的系统中以有限的人为干预执行操作。

团队应限制权限、保留日志、测试故障情景,并对具有重要后果的操作保留人工审批。这些控制措施并不依赖于国会达成共识。

但它们同样无法取代供应商层面的保障措施。客户很少能看到足够多的底层模型细节,无法评估每一项严重风险。

这条边界正是联邦政策仍然重要的原因。私人风险管理可以降低暴露程度,而可执行的标准则界定了能够经受激励变化的责任。

Mike Johnson 对 AI 监管的立场,使下一步行动变得格外清晰。AI 公司已被要求发挥领导作用、承担责任,并提出可行的保障措施。

现在,这些公司必须决定,责任是否意味着放缓发布、共享证据、接受监督,还是仅仅参加另一场会议。

国会同样面临自己的抉择。它可以将技术建议转化为持久规则,或继续将共识视为一个永远无法实现的前提条件。

未来三个月,请关注峰会的交付成果、任何受监测的行业协议,以及范围较窄的联邦法案进展。每一项都为检验 Johnson 所选择的路径提供了具体依据。

如果三者均有进展,美国将拥有分层安全体系的雏形。如果它们停滞不前,责任仍将集中在竞相打造下一代模型的企业内部。

对于开发者、买方和日常 AI 用户而言,实际问题已迫在眉睫:如果没有可执行的标准,什么证据能让你信任一项安全承诺?

 
 

免费开始

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page