英国议会推动人工智能人权立法，挑战英国的轻监管模式

英国议会推动人工智能人权立法，直接挑战了英国由监管机构主导的治理方式；一个跨党派委员会认为，现有保护措施已不适用。

议会人权联合委员会希望制定专门的人工智能法案，设立正式的风险分类、独立监督机制，并在技术全生命周期内确立可执行的义务。当某些人工智能用途与基本权利相冲突时，应被直接禁止。

这一立场不止是再次呼吁自愿作出安全承诺。它要求议会在自动化系统影响就业、警务、公共服务和个人隐私之前，决定社会愿意容忍哪些风险。

这一时间点也加剧了冲突。Anthropic、OpenAI 和其他主要开发商已讨论放缓前沿技术开发，并扩大外部安全评估。然而，由企业主导的协调无法为受害者提供法律救济，也无法强制每一家开发商遵守规定。

英国如今必须在两种截然不同的模式之间作出选择：继续将人工智能责任分散给现有监管机构，或建立具有明确问责中心的约束性规则。

委员会希望制定一部具有法律约束力的人工智能法案

该提案将以与各系统所产生风险相对应的可执行义务，取代英国分散的人工智能保障措施。

议会人权联合委员会由议会两院及多个政党的成员组成。其职责是审查政府政策和立法是否符合英国的人权义务。

该委员会的调查始于 2025 年 7 月，审视了隐私、歧视、获得救济、问责制，以及人工智能系统的国际影响范围。委员会还考虑了现行法律是否能跟上代理型人工智能的发展，即能够在有限人类指导下推进任务的系统。

最终提案呼吁制定一部承认不同风险等级的人工智能法案。高风险模型和应用将承担比对个人权利影响有限的工具更严格的义务。

这一架构将覆盖人工智能的整个生命周期。开发商、修改模型的组织、供应商以及部署系统的机构，都需要了解各自的责任。

这很重要，因为有害后果很少源自单一技术组件。模型开发商可能构建了底层能力，而雇主负责配置系统，承包商则提供工作场所数据。

在碎片化的规则下，每个参与者都可能将责任指向别处。全生命周期治理旨在防止这种问责缺口。

委员会还认为，某些人工智能实践与人权并不相容。潜在禁止对象包括潜意识操纵，以及不当的画像分析或生物识别数据处理。

此类限制将在逐案执法之前先划定法律边界。监管机构无需等待伤害反复发生，才对明显被禁止的应用提出质疑。

委员会最初的 AI inquiry 确定了三项反复出现的担忧：带有偏见的数据、侵入式监控，以及挑战由不透明系统作出的决定的困难。

这些担忧如今已出现在日常场景中，而不只是关于超级智能的推测性讨论。人脸识别能够在公共空间识别人们的身份。生成式工具能够制作未经同意的色情图像。

自动化管理软件也可能在未向员工提供有意义解释的情况下，建议采取纪律处分。公共机构可能利用模型影响有关福利、警务、移民或服务获取的决定。

因此，委员会的论点比技术前沿上的人工智能安全更为广泛。它将人权视为衡量已在影响个人生活的系统的实用标准。

这一标准关注人们是否仍保有隐私、平等、言论自由、正当程序，以及对有害决定提出挑战的有效途径。它同样关注：当这些保护失效时，谁承担法律责任。

拟议中的英国议会人工智能人权法将使这些问题成为系统设计和部署的一部分。它们不再只是伦理审查中可有可无的议题。

为何英国现行规则仍存在问责缺口

英国拥有相关法律和有能力的监管机构，但没有任何一个机构负责人工智能带来的完整问题。

若干现行法律已适用于自动化系统。数据保护法规范个人信息，而平等法禁止就业和服务提供中的歧视。

《人权法案》约束公共机构。消费者、就业、产品安全和特定行业规则也可能适用，具体取决于系统及其使用方式。

这一法律基础并非毫无意义。信息专员办公室的 William Malcolm 向委员会表示，数据保护原则在技术演变过程中仍然具有相关性。

在某些情况下，组织必须进行评估，并说明如何平衡相互竞争的利益。这些要求可在系统面向公众前暴露薄弱的治理环节。

然而，人工智能带来了通用规则难以清晰解决的实际问题。一个人可能永远不会知道，某个自动化模型曾影响关于其本人的决定。

即使当事人发现了该系统，也未必知道是哪家组织提供了数据、修改了模型或批准了其建议。商业秘密主张还可能进一步限制审查。

2026 年 2 月的一场 regulatory hearing 展现了这种碎片化结构。Ofcom、信息专员办公室和英国平等与人权委员会的代表描述了彼此重叠却并不完整的权限。

英国平等与人权委员会可以在雇主和服务提供商范围内执行平等法。其在《人权法案》下的权力则有所不同，因为该法主要适用于公共机构。

信息专员可以调查违反个人数据规定的行为。然而，某些人工智能伤害并不完全依赖于个人数据处理。

Ofcom 监管特定的在线服务及相关义务。它并非针对每一个模型、雇主、政府机构或自动化决定的一般性监管机构。

英国 AI Security Institute 则提供技术专长，尤其面向先进模型。它测试相关能力，并与开发商合作，在发布前识别漏洞。

不过，与该机构合作并不会自动形成提交每一个相关模型的法律义务。该机构也没有广泛的授权来解决歧视申诉或补偿个人损失。

政府一直为行业主导的模式辩护。在向委员会提交的书面答复中，政府表示监管格局仍在审查之中。

官员还提到，为监管机构主导的人工智能项目提供了专项资金。这种支持可以提升已了解自身行业的机构内部的技术能力。

不过，能力不等于管辖权。即使资金充足，监管机构也不能在议会未授予的权力范围之外采取行动。

因此，委员会的核心批评指向制度层面。英国有许多接触点，但没有一个单一机构负责识别整个系统中的缺口。

对于企业而言，这种碎片化在带来灵活性的同时也造成不确定性。一家公司可能满足数据保护要求，却忽略了部署期间引入的平等问题。

公共机构也面临类似问题。采购团队可能在法律、运营和技术责任尚未明确划分之前，就购入一项人工智能服务。

个人承担的成本最高。他们必须先识别相关法律和监管机构，才能挑战一个自己可能并不完全理解的结果。

独立监督机构可以协调标准、监测系统性风险，并识别落在不同授权范围之间的案例。其效力将取决于法定权力、资源和获取技术证据的能力。

如果缺少这些要素，新机构只会在同样碎片化的格局上再增加一层。委员会的提案之所以重要，是因为它将监督与具有约束力的立法相连，而非另行设立一个咨询论坛。

英国议会人工智能人权法与增长议程相遇

核心冲突并非创新与安全之争，而是自愿、分散的监督与可执行、集中的问责制之争。

英国的人工智能战略强调采用、投资、基础设施，以及在公共服务领域更快地应用人工智能。现有监管机构应在各自行业内落实广泛原则。

支持者认为，这种方式具有优势。金融、医疗、通信和数据监管机构了解其各自领域内的风险。

单一的人工智能监管机构可能重复它们的工作，或对差异极大的系统采用相同规则。严格的合规要求也可能给小型公司带来比成熟开发商更沉重的负担。

委员会无需否定行业专业知识，也能指出这一模式的弱点。基于行业的监管只有在每一项重大伤害都能落入明确授权范围时才能发挥作用。

人工智能供应链很少遵守这些边界。一个通用模型可以为招聘软件、医疗保健管理、教育产品和警方分析提供支持。

开发商可能在英国境外运营。部署模型的组织可能依赖供应商的文档，而非进行独立评估。

受影响的人可能只会接触到最终决定。他们无法看到模型、训练数据、配置和机构政策如何相互作用。

政府的 AI Opportunities Action Plan 加大了压力，因为该计划鼓励更快部署。公共机构可能在各部门监督实践尚未成熟前就大规模推广系统。

权利组织提交的证据认为，相较于可执行的保护措施，经济目标获得了更明确的关注。它们对警务和刑事司法领域尤其担忧。

委员会听取的意见认为，人权评估应在采购前启动，并在部署后持续进行。这将使权利保护成为运营要求，而非最终的合规审查。

基于风险分级的人工智能法案提供了一种答案。低风险用途可以承担较轻义务，而影响人身自由、就业、基本服务或生物识别身份的系统将受到更严格审查。

欧盟已经通过了横向、基于风险的人工智能框架。英国无需复制欧盟的每一项规定，也能认识到其中的战略差异。

欧盟的做法界定了被禁止的实践，并对指定的高风险系统施加义务。英国则更倾向于依靠现有监管机构、原则和针对性立法。

这种分歧可能影响在两个市场同时运营的公司。开发商在欧盟可能面临具有约束力的人工智能专项义务，而在英国则需应对多项较早形成的法律制度。

委员会的提案将缩小这种结构性差异。它还可能为企业在文档记录、评估和问责方面提供更清晰的基线。

成本将通过合规工作以及在敏感领域放缓部署的方式体现。然而，不确定性同样会带来成本，尤其是在存在争议的系统投入生产之后。

明确的框架可以告诉采购方应要求哪些证据。它也能帮助开发者在签订合同前设计审计日志、人工审查、测试和申诉机制。

真正的取舍在于，社会何时为安全买单。英国可以在高风险部署前要求提供证据，也可以在危害出现后承担法律与社会成本。

第一种路径可能延缓产品推出。第二种路径则可能让个人不得不与掌握更多信息、技术渠道和法律资源的机构抗衡。

这种失衡解释了，为何英国议会关于 AI 人权法的辩论不能被简化为抽象的创新政策问题。它关乎自动化决策失效时，谁来承担风险。

面部识别、深度伪造与职场 AI 让风险变得具体

立法最有力的理由，来自那些已经影响隐私、尊严、平等以及公平决策机会的系统。

实时面部识别表明，多项法律可以同时适用，却未必形成一套明确统一的治理框架。警方系统会将公共场所拍摄到的人脸与监视名单进行比对。

这类处理涉及隐私权。监视名单的构建和匹配错误，也可能对不同人口群体产生不平等影响。

2020 年，上诉法院认定，在其审查的具体情形下，南威尔士警方使用面部识别技术属违法行为。判决指出了自由裁量权、数据保护和履行平等义务方面的问题。

该裁决确立了现有法律能够约束生物识别监控。它并未制定一部完整的国家级法律，来规范每一次部署、每一家供应商、每一份监视名单及每一次技术更新。

随后，该委员会就儿童被列入警方监视名单一事致函内政大臣。信中指出，面部识别可能干扰隐私，并引发歧视方面的担忧。

政府咨询已考虑为执法生物识别技术建立新框架。这一过程或许能为警方技术带来更清晰的规则，但无法解决其他领域的 AI 问责问题。

深度伪造滥用则呈现出另一类危害。生成式系统可以在未经本人同意的情况下，制作真实人物的色情露骨图像。

证人向委员会表示，女性和种族化群体会因这类材料遭受不成比例的伤害。传播这些内容可能损害安全、尊严、就业与表达自由。

刑法和在线安全义务可以处理其中一部分行为。然而，执法仍取决于识别施害者、取得证据、移除材料，以及明确平台责任。

AI 模型本身可能由一家公司提供，被嵌入另一项服务，并通过匿名账户访问。这条链路使预防与救济更加复杂。

职场自动化构成了一项更隐蔽、但同样重要的考验。雇主可以使用软件对求职者排序、监控绩效、安排班次，或标记需要调查的行为。

自动化建议未必在形式上作出最终决定。但管理者仍可能因为输出看似客观，或能够大规模生成，而对其予以采纳。

员工可能在不知道哪些数据触发标记的情况下受到处分。他们也可能难以更正不准确的信息，或质疑模型的假设。

现有劳动法与平等法律仍然可用。它们是否有效，取决于透明度、证据获取渠道，以及能否以负担得起的方式对决定提出异议。

这些例子具有同一种结构：使用 AI 的组织比受影响者掌握更多信息，而供应商又比部署该系统的组织掌握更多信息。

有效监管必须缩小这种信息不对称。通知要求、影响评估、易于理解的解释、审计记录和人工审查都可发挥作用。

组织还需要保留可靠的内部决策记录。可检索的知识库可以帮助团队留存模型评估、采购证据、政策和事件调查结果。

仅有文档并不能保证行为合法。但它能通过展示人们知晓、批准和变更了什么，使后续监督成为可能。

委员会提出的全生命周期义务正是针对这一现实。问责将覆盖设计、修改、采购和使用，而不只是落在最终运营方身上。

这种责任分配需要谨慎起草。开发者不应自动控制每一位客户如何部署通用模型。

部署方也不应以信赖供应商为由逃避责任。分销方和修改方同样必须披露会影响安全性或性能的变更。

明确的义务可以促使每位参与者记录其可控范围内的风险。模糊的共同责任反而可能形成一条无人承担所有权的供应链。

新监管机构无法解决所有执法问题

立法可以弥补问责缺口，但前提是监管机构能够检查系统，受影响者能够获得有意义的救济。

委员会的建议如今面临若干棘手的设计问题。第一个涉及独立监督机构的权限。

协调办公室可以绘制风险图谱并发布指引，而无需直接执法。完整的监管机构则可以要求提供信息、调查事件、施加处罚或暂停系统。

这些模式会产生截然不同的后果。议会必须明确，该机构是监督现有监管机构，还是在没有行业主管机构拥有管辖权时采取行动。

技术访问是另一项挑战。监管机构需要文档、评估结果、事件报告，以及访问模型相关版本的权限。

仅基于开发者摘要的评估，无法揭示所有失效情况。但不受限制的访问也可能带来安全、隐私和知识产权风险。

法律还需要设定门槛。小型排班工具不应与生物识别监控或自动化福利决定面临相同程序。

与此同时，标签可能诱发规避行为。企业可能会将具有重大影响的功能描述为辅助工具，因为从技术上说仍由人类批准输出。

有意义的分类应审视实际效果，而非营销语言。如果员工惯常遵循模型建议，人工参与可能提供的保护微乎其微。

委员会还必须区分当前危害与不确定的前沿风险。歧视、侵入式监控和深度伪造滥用已经存在可识别的受害者。

关于人工超级智能的灾难性主张，则涉及尚不存在的系统。它们需要不同的证据和监管工具。

将所有担忧汇集在同一个戏剧化叙事之下，可能削弱采取行动的理由。批评者或许会把已证实的权利侵害斥为投机性辩论的一部分。

AI 开发者近期的警告增加了紧迫性，但并未消除这种区分。Anthropic CEO Dario Amodei 提议放缓前沿开发、嵌入外部评估者，并开展国际协调。

OpenAI CEO Sam Altman 和其他行业领袖表达了对加强安全合作的支持。他们达成共识之前，曾公开警告不受控制的先进系统带来的风险。

批评者回应称，自愿评估者仍依赖于公司的访问授权。他们还质疑，协调性的限制是否会保护既有企业免受较小竞争者的挑战。

放缓前沿开发与以权利为基础的 AI 法律针对的问题存在重叠，但并不相同。前者针对能力的快速发展，后者则规制其对人的影响。

二者不应相互替代。放缓开发并不能补偿被自动化系统错误处分的员工。

同样，就业决定的申诉机制也无法管理具备危险生物能力的模型。政策应针对每类风险采取合适的干预措施。

国际执法带来了另一项限制。许多领先模型在英国境外开发，并通过在线服务交付。

英国可以监管在国内提供的产品、在其管辖范围内运营的组织，以及公共部门采购。它无法单方面控制每一个在国外开发的模型。

明确的市场准入条件仍能影响全球供应商。企业经常调整产品，以符合经济上重要司法辖区的规则。

更棘手的问题是开放式分发。模型权重和软件可以跨境流动，并在私有基础设施上运行。

法定框架应承认，执法永远不可能完美。覆盖范围不完整，并不能成为让国内机构不承担义务的理由。

最有力的质疑关乎救济。监管体系可以产生大量文档，却几乎无法为受害者提供实际帮助。

申诉必须易于理解、负担得起且及时。人们在质疑职场或公共部门决定时，也需要获得免受报复的保护。

法院仍然不可或缺，但单靠诉讼无法承载整个体系。技术复杂性和法律成本可能使个人诉讼不切实际。

集体投诉、监管机构主导的调查，以及叫停有害部署的权力，可以应对单个人无法独自证明的模式性问题。

因此，议会应以结果来衡量英国议会 AI 人权法。关键问题在于，它是否能在危害发生前改变决策，并在事后提供救济。

三个信号将显示议会是否改变方向

下一项考验是，委员会的建议能否转化为可执行的政策、获得制度支持，并经受推动更快采用 AI 的压力。

第一个信号是政府对委员会作出的正式回应。大臣们必须说明，是否接受制定 AI 法案和设立法定监督机构的必要性。

继续咨询的承诺将维持当前轨迹。立法时间表则意味着真正的改变。

细节将比标签更重要。一部仅聚焦前沿安全的法案，无法处理自动化就业、公共服务或生物识别监控问题。

一部广泛的法案应界定风险类别、分配全生命周期责任，并确定被禁止的做法。它还应建立投诉和救济渠道。

第二个信号是独立监督机构的设计。议会应关注其获取证据、协调监管机构，以及在责任不明确时进行干预的权力。

稳定的资金同样重要。一个名义上的监管机构无法监督由资源雄厚的全球科技公司开发的系统。

政府此前的立场是，若引入新的法律要求，监督方案仍有开放空间。因此，接受设立法定机构将代表一项重大的政策转变。

第三个信号是，立法者如何将该提案与其他 AI 措施衔接。英国已经在讨论前沿安全、生物识别监控、版权和公共部门部署。

不同法案可以处理不同的危害。但如果定义、报告义务和执法权力无法协调一致，它们也可能形成另一套拼凑式体系。

政府必须决定，人权是否将成为这些措施共同的基线。没有这一基础，每一次新的争议都会催生又一个狭窄的补救方案。

开发者和企业采购方应密切关注这些信号。新的全生命周期义务将影响合同、评估、数据治理、文档记录和事件报告。

公共部门组织应开始梳理自动化工具在哪些环节影响重大决策。等到最终立法出台才行动，可能会在审查启动后才发现未被记录的系统。

每当 AI 影响重要结果时，知识工作者应提出一个更简单的问题：谁能解释这项决策、纠正相关数据，并承担责任？

如果没有任何个人或机构能作出回答，问责缺口就已经存在。该委员会的提案旨在趁自动化系统变得更难审查之前弥合这一缺口。

因此，英国议会推动 AI 人权立法，是对英国治理模式的一次检验。议会会继续依赖自愿合作与分散的权力，还是会在 AI 的整个生命周期内确立可执行的权利？

答案所塑造的不只是科技政策。它将决定人们是否仍能理解、质疑并撤销由机器参与作出的决定。