议会委员会警告：英国 AI 模型监管无法阻止高风险发布

尽管英国设有十多个监管机构和一家专业安全研究所，但目前仍无法阻止高风险人工智能模型发布。

这一结论让英国 AI 模型监管面临的压力，比又一场关于负责任创新的抽象辩论更为迫切。议会人权联合委员会表示，该国缺乏能够要求获取先进模型访问权限或阻止其部署的监管机构。

该委员会在收到超过 70 份书面意见并举行十场口头证词会议后，于 9 月 14 日发布报告。其结论对政府以行业为主导的战略提出挑战；这一战略主要在 AI 系统投入使用后，才适用现有法律。

眼下的冲突在于自愿合作与可执行监管之间。AI 安全研究所可以在开发者提供访问权限时评估模型，但企业并无法律义务提交模型。

委员会希望扭转这种关系。其拟议中的 AI 法案将要求开发者提交强大模型接受测试，对高风险系统建立事先批准机制，并赋予独立监管机构权力。

这一建议出台之际，基础模型正日益支持就业、金融、教育、警务、医疗保健和公共服务等领域的产品。因此，上游引入的弱点可能在受影响者意识到 AI 参与其中之前，便扩散至众多组织。

英国 AI 模型监管缺口如今已被明确指出

委员会的核心结论范围有限，却影响深远：英国具备测试先进模型的专业能力，却没有能够强制测试或阻止发布的权力机构。

AI 安全研究所，即 AISI，于 2023 年 11 月开始运作。它研究前沿模型的能力与保障措施，所谓前沿模型，是指处于开发前沿、能力极强的通用系统。

AISI 与在部署前自愿提供访问权限的开发者合作。根据委员会的 AI 监管报告，它无法在模型发布前或发布后要求获得此类访问权限。

它也无法施加发布条件、发布具有约束力的整改命令，或阻止部署。其发现可以为政府提供参考，但并不构成监管审批决定。

这一差异至关重要，因为技术访问权限决定了评估者实际能够检查什么。公开聊天界面只能呈现模型行为、安全措施、系统指令和部署控制中有限的一部分。

有意义的评估通常需要受控测试、技术文档和发布前的准备时间。监管机构还需要一套程序，用于处理严重发现，并核实承诺的修复措施是否有效。

在没有强制访问权的情况下，开发者决定 AISI 能看到哪些模型、何时开始测试，以及哪些辅助材料可供查阅。商业进度可能快于自愿评估安排。

委员会的主张并不意味着 AI 处于英国所有法律的管辖之外。数据保护、平等、消费者保护、产品安全、金融服务和网络安全规则，在特定情况下均可适用。

问题在于时机、覆盖范围和责任归属。现有权力大多针对受监管活动中的模型使用，而不是面向抵达众多下游用户之前的基础模型。

英国下议院图书馆将英国的方法描述为通过现有法律框架进行的情境化监管。信息专员办公室和 Ofcom 等监管机构在既定职权范围内监督具体法律义务。

当风险显然属于某一受监管行业时，这种结构可以发挥作用。但当通用模型同时支持多个行业的决策与服务时，它就会面临困难。

就业筛选系统、客户服务聊天机器人、医疗助手和福利工具可能共用一个底层模型。然而，它们的部署者可能面对不同的监管机构、义务、证据标准和执法机制。

委员会认为，这种碎片化导致没有任何机构负责连接这些应用的模型层面风险。它还使开发者能够将大量责任转移给技术资源较少的客户。

因此，报告将缺乏发布前监管权视为结构性缺口。担忧并不只是监管机构需要更多指引或另一项自愿标准。

真正的问题是，现有机构都无法要求开发者开放强大模型以供评估。也没有机构能够将危险测试结果转化为具有约束力的禁止发布决定。

下游系统无法可靠地控制上游风险

英国在系统部署环节监管许多 AI 危害，而委员会希望将责任更多地转向设计底层模型的公司。

基础模型能够完成多种任务，并可作为其他产品的组成部分。OpenAI 的 GPT 模型、Anthropic 的 Claude、Google 的 Gemini 和 Meta 的 Llama 体现了这一通用层。

组织可以将这些模型连接到自身的数据、界面和工作流程中。它们可能对模型进行微调、添加检索系统、编写行为指令，或允许模型使用外部工具。

这种结构形成了一条 AI 供应链。模型开发者、云服务商、应用构建者、数据供应商、集成商、雇主、公共机构和终端用户，都可能影响最终结果。

这条链条使问责变得复杂，因为每个参与者掌握的信息不同。部署模型的客户可能看到其输出，却不了解其训练过程、隐蔽局限性或内部安全测试。

开发者更了解基础模型。然而，它可能无法控制客户在其基础上构建的每一种后续应用、提示词、数据集或决策。

英国现行监管往往将责任集中在部署点附近。雇主仍需为歧视性招聘负责，公共机构仍需为影响福利或警务的决定承担责任。

这些义务依然重要。委员会的异议在于，仅依赖下游问责，会给那些无法检查或纠正上游缺陷的主体带来过重负担。

模型的倾向也可能同时影响大量客户。如果同一个基础模型在众多应用中引入不可靠建议、歧视性模式或可被利用的行为，逐案执法往往来得太晚。

规模改变了监管问题。传统监管可以在危害证据出现后，对某一家雇主、银行、平台或公共机构展开调查。

被广泛使用的基础模型可能在不同边界之间传播相关风险，而不同监管机构尚未发现共同源头。受影响组织起初可能将每一起事件视为孤立的部署故障。

委员会对人权的关注，使这种延迟尤为严重。人们可能不知道自动化系统影响了就业、警务、纪律处分或公共服务决定。

缺乏披露时，他们无法请求相关记录，也无法质疑模型所扮演的角色。即使 AI 的使用已为人所知，复杂模型也未必能对其输出给出清晰解释。

报告将平等、隐私、数据保护和获得有效救济的权利列为核心关切。这些问题并不限于假设中的、具有人类水平能力的 AI 系统。

证人描述了当前涉及员工监控、面部识别、囚犯风险评估、福利欺诈检测，以及具有重大后果的自动化决策等应用。

委员会报告称，在 2025 年 1 月 1 日至 10 月 29 日期间，约有 300 万人的面部通过警方部署的人脸识别系统被扫描。其担忧不仅涉及准确性，也包括同意、比例原则、透明度以及寻求救济的能力。

报告还援引工作场所系统因员工的日常行为——包括在红绿灯前停车——而将其标记为需调查对象的案例。这类案例表明，普通自动化系统如何立刻引发关于证据和问责的争议。

人工审查者并不能自动解决问题。人们可能会顺从算法建议，缺乏质疑建议所需的信息，或只是从程序上批准输出结果。

委员会希望英国 GDPR 规则明确，名义上的“人在回路中”并不构成有意义的干预。审查者应当知情、独立，并能够作出客观判断。

这一原则揭示了英国 AI 模型监管面临的更广泛问题。如果一个人不了解系统如何得出结果，监管就不能依赖其在场。

自愿模型测试没有执法后盾

现行安排取决于 AI 开发者的合作，即使商业激励倾向于保密、快速发布和有限的外部审查。

自愿测试并非毫无意义。它可以让政府研究人员提前获得访问权，改进共同评估方法，并帮助开发者在客户遇到问题前识别风险。

AISI 也拥有许多传统监管机构不具备的技术能力。政府曾将其对部署前模型的访问权限描述为在国际标准下异常广泛。

然而，自愿合作与法定权力回答的是不同问题。开发者同意参与时，合作会发挥作用；而权力决定了当其拒绝、拖延或质疑评估者发现时会发生什么。

委员会表示，AISI 目前没有监管权力。该研究所作为研究机构运作，而非可限制不安全产品的审批机构。

模型开发者已经发布各自的安全框架和风险阈值。一些公司承诺，当严重风险无法降至内部定义的限度以下时，不会部署系统。

这些框架可以形成有用的程序，但公司自行决定其范围、证据、阈值和披露做法。它们也保留了对模型是否满足这些条件的实质性控制权。

委员会听取了关于财务激励使自愿承诺不可靠的担忧。一家面临竞争压力的公司，如果竞争对手率先发布能力更强的模型，可能遭受实质损失。

这并不能证明开发者经常忽视安全发现。它意味着，当公司判断与公共风险判断出现分歧时，系统缺乏独立的保障机制。

委员会提出三项相互关联的改革。第一，AISI 将获得法定基础，并承担审查新的或经过实质修订的强大模型的明确职责。

第二，开发者必须提交这些模型接受评估。他们还需提供涵盖模型属性、训练、预期用途、测试和风险控制的技术说明。

第三，AISI 将发布发布前发现并发出初步警告。当模型因重大人权风险而应被暂缓发布或撤回时，它将向执法机构提出建议。

该提案将技术评估与最终法律裁决分开，不过委员会表示，政府应考虑将 AISI 与新监管机构合并。

这一设计反映了一个现实问题：发现令人担忧的模型行为，并不等于判定其部署是否违反法律门槛。

评估人员必须确认问题能否复现、保障措施能否降低风险，以及部署条件是否会改变风险。随后，监管机构必须依据已公布的规则解读证据。

委员会最有力的提案是，要求可能对人权造成高风险损害的 AI 系统事先获得批准。这类系统须在提供或部署之前完成审批。

这将使监管从事后执法转向预防。与此同时，它也会带来艰难的判断：哪些模型和应用应当接受审查。

定义过于宽泛，可能压垮评估人员并延误低风险产品；定义过于狭窄，则可能遗漏那些在部署后才显现危险用途的通用模型。

开发者也可以在不发布全新产品的情况下更新托管模型。监管机构需要制定规则，明确何种更新会触发新的审查义务。

开放权重模型则带来另一项挑战，因为其副本可能传播到原始提供商基础设施之外。针对某一国内服务实施的限制，未必能移除所有仍可访问的副本。

这些实施层面的问题并不能抹去执法缺口。它们恰恰说明，要将技术评估转化为法律，不能只赋予 AISI 一项笼统的安全使命。

法律需要设定可衡量的提交触发条件、测试程序、保密保障、申诉权利、补救流程以及可信的制裁措施。还需要配备足够的人员和算力资源，以便按照商业节奏审查模型。

一个监管机构将取代拼凑式体系，而非取代所有监管者

委员会希望设立一个中央 AI 监管机构来协调政策、执行跨行业义务，同时现有监管机构将保留各自的专业职责。

拟议中的监管机构不会取代金融行为监管局、信息专员办公室、Ofcom、平等与人权委员会或医疗产品监管机构。

这些机构拥有行业知识和既有执法关系。金融监管机构了解贷款管控，而数据监管机构则负责解释隐私和个人信息义务。

新机构将处理落在这些职责范围之间的问题。它将监督监管表现、受理投诉、发布行为准则、调查违规行为，并对不合规行为实施制裁。

它还可以为 AI 生命周期中不同参与者制定透明度规则。这些规则将明确开发者、集成商、部署者和公共机构必须披露哪些信息。

委员会希望监管机构能在个案中提供救济，而不迫使受影响者承担高昂得难以承受的成本。这一职能将模型监管与人权救济直接联系起来。

其拟议权力也将延伸至外国提供商。当境外主体制造了无法在英国境内加以管理的不可接受风险时，监管机构可以限制或禁止其在英国部署。

这种管辖范围十分重要，因为许多领先的基础模型源自英国境外。国内部署规则无法控制所有全球开发活动，但可以为进入英国市场设定条件。

委员会还建议禁止若干其认为与人权不相容的用途。举例包括潜意识操纵技术、情绪推断，以及不当的画像分析或生物识别处理。

对于能力极强的系统，委员会提出了更进一步的要求。报告称，如果系统存在广泛、严重损害的风险，并且能够逃避有效的人类控制，那么其开发和提供应被禁止。

人工通用智能和超级智能被列为示例，并非声称此类系统已经存在。具体边界仍需经过公众咨询确定。

这一差别很重要，因为醒目的标题可能让这项建议听起来像是立即禁止当下最领先的模型。但报告实际上呼吁建立一套面向未来、基于风险的制度，许多细节尚未明确。

高风险系统将面临事先审批和更严格的尽职调查。低风险工具则适用较轻的要求，这体现了委员会所强调的比例原则。

这种结构与 EU AI Act 背后的逻辑相似，尽管委员会并不建议逐字照搬欧洲框架。

欧盟框架根据系统类别施加不同义务，并对通用模型单独监管。它也禁止欧洲认定为不可接受的某些做法。

英国一直偏好较少集中化的路径。政府政策一直强调针对具体应用的监管、灵活原则和经济增长，而非一部全面的 AI 法律。

支持者认为，专业监管机构可根据具体情境作出回应。他们也警告称，过早制定僵化规则，可能随着模型、产品和商业实践的变化而迅速过时。

委员会承认，监管应保护创新并避免不合理负担。双方分歧在于：若整个供应链缺乏具有约束力的义务，灵活性是否还能保持可信度。

公众舆论也已转向支持更严格的规则。上议院图书馆总结的一项 2024 年和 2025 年调查发现，72% 的受访者支持 AI 立法，高于此前的 62%。

同一项研究还发现，89% 的受访者支持设立独立的 AI 监管机构。这些数字并不能决定政策，但它们削弱了“较宽松监管天然具有公众合法性”的假设。

因此，拟议的监管机构不仅是行政层面的整理。它将使法律权力更接近设计基础模型的公司，并建立一个对系统性缺口负责的机构。

委员会的方案仍面临严峻限制

法定权力将改善英国的监管，但立法无法保证可靠的模型评估，也无法完全控制在全球范围分布的技术。

委员会对权力碎片化问题作出了有说服力的诊断。但当问题从“谁应行动”转为“监管机构如何可靠评判复杂模型”时，其方案就不那么完整了。

AI 评估可以在既定条件下揭示危险能力，却无法证明模型在每一种提示词、集成方式、语言、工具、更新和对抗策略下都是安全的。

开发者可以在降低已知风险的同时，通过微调或部署变更引入新的行为。评估人员也可能对一项测试是在衡量真实伤害，还是人为的实验室场景，持不同意见。

事先审批制度必须在这种不确定性下运作。它不能等待完美证据，但也不应将每一个令人担忧的测试结果视为现实世界伤害必然发生的证明。

风险分类同样将充满争议。一个基础模型在某个产品中可支持低风险文稿起草，在另一个产品中却可能用于高影响力决策。

只监管应用会遗漏上游弱点；将每个通用模型都作为高风险对象监管，则会忽视不同用途和部署控制之间的重要差异。

委员会的回应是将义务分配到整个供应链。开发者、修改者、提供商和部署者将根据其角色及所能控制的风险承担相应义务。

这一方向是合理的，但立法需要精确的责任分配规则。否则，每个参与方都可能声称，防止伤害所需的信息和控制权掌握在另一家公司手中。

针对境外开发者的执法也存在限制。英国监管机构可以限制进入国内市场，但无法删除开放模型文件，也无法阻止其他司法辖区的开发活动。

这使国际合作不只是外交装饰。共享测试方法、事件报告和基础标准，可以减少企业通过迁移服务来规避审查的空间。

欧洲委员会的 AI 公约提供了一条路径。委员会敦促英国公布批准这一人权框架的时间表。

然而，国际协调可能进展缓慢。当模型或应用造成迫切的国内风险时，国家监管机构仍需要有权采取行动。

行业反对意见也可能重塑该提案。企业很可能寻求明确门槛、商业机密保护、可预测的审查期限和申诉机制。

这些诉求未必是在试图逃避监管。模糊的提交规则可能暴露商业机密、延误常规更新，或将市场力量集中到能够承担合规成本的企业手中。

如果文件和测试要求与规模最大的前沿实验室所承受的要求相仿，较小的开发者可能面临不成比例的负担。委员会呼吁分级义务，但议会必须保留这种区分。

还存在能力问题。如果监管机构无法招募专家、获得算力资源、复现评估结果，或在技术变化前完成审查，那么法律权力就意义有限。

政府需要为技术工作提供资金，同时不能让监管机构依赖其监管对象。还需要制定协调规则，避免与既有监管机构的职责重复。

委员会关于单一监管机构的建议，如果职责不够明确，可能只是再增加一个层级。企业和个人应当清楚：哪个监管机构接收证据、主导调查并下令采取补救措施。

最后，报告涵盖了即时伤害和推测性的灾难性风险。两者都值得关注，但需要不同的证据、专业知识和法律工具。

歧视性的就业筛选需要透明度、审计和有效申诉机制。能够协助实施严重网络攻击的模型，则需要能力测试、访问控制、安全监测和国际协调。

将它们纳入同一部法案，可以在整个生命周期内形成一致性；但也可能产生一部庞杂、难以一致执法的法规。

因此，改革最有力的理由并不依赖于对超级智能的预测，而在于当前无法强制获取模型访问权、识别共同的上游风险，以及在伤害扩散前明确责任。

三个信号将显示这一警告是否改变政策

接下来的考验不是再次发表 AI 原则声明，而是政府是否将委员会的建议转化为可执行的权力。

第一个信号是政府的正式回应。议会指出，部长们有两个月时间答复委员会的调查结果和建议。

该回应应揭示政府是否接受这一核心诊断。如果 AISI 仍无法强制获取访问权或影响发布决策，仅承诺改善协调将远远不够。

最明确的承诺将包括通过立法赋予 AISI 法定地位，并处理强制提交、技术文件、发布前结论以及向执法机构升级处理等问题。

第二个信号是部长们是否提出一项跨行业 AI 法案。工党在 2024 年竞选纲领中承诺，将对开发最强大模型的少数公司实施具有约束力的监管。

2024 年的国王演讲重申了这一方向，但委员会完成调查时，相关立法尚未出台。2026 年的国王演讲同样未纳入一项全面的 AI 法案。

一套针对特定危害的有限措施，将延续政府现有策略；一项覆盖整个生命周期的法案，则意味着 英国 AI 模型监管将发生实质性变化。

细节比法案名称更重要。应关注是否界定风险类别、是否规定开发者的强制性义务、是否设定事前审批触发条件、透明度要求、监管机构资金，以及处罚措施。

第三个信号是立法通过前开发者的行为。AISI 目前的访问权限依赖合作，因此，未提交或延迟提交材料可成为衡量自愿制度局限性的早期指标。

领先开发者若能持续在发布前提供访问权限，将支持政府关于协作能够实现有效监督的论点。选择性开放访问，则会强化委员会要求强制监管的理由。

使用 AI 的企业不应等到议会行动后才审视自身风险。采购合同应明确底层模型、更新流程、测试证据、事故相关义务以及可获得的解释。

组织还应记录 AI 何时参与了重大决策。可检索的 AI 知识库 能帮助团队保存政策、评估、供应商资料和决策记录，以备日后审查。

这些文档不能替代法律合规或独立测试。但它们确实能让人更容易确认使用了什么系统、哪个版本生成了某项输出，以及由谁批准其部署。

对个人而言，委员会最具实际意义的要求是透明度。当人们不知道某个模型影响了决定时，就无法对自动化决策提出质疑。

对开发者而言，核心问题是模型评估是否仍将是一项协作性的研究工作，还是会成为一道法律门槛。对客户而言，问题在于责任是否仍会继续向下游累积。

对政府而言，如今的选择已异常清晰。它可以保留一个缺乏发布前干预权力的灵活体系，或者赋予独立机构介入的权力。

委员会已经界定了监管缺口。未来几个月将显示，大臣们是会填补这一缺口、缩小它，还是继续要求自愿承诺承担法定责任。