Ted Lieu 对 AI 人格权的警告：公司问责应优先于机器权利

Ted Lieu 于 10 月 10 日否定了 AI 的法律人格，认为无论多么复杂的数学计算都不可能成为人。他的警告提出了一个比“先进模型是否看似具备意识”这一常见争论更尖锐的冲突。Ted Lieu 对 AI 人格权的立场追问的是：当 AI 系统造成伤害时，究竟应由机器、开发者、部署者还是用户负责？

这位加州民主党议员通过刻意挑衅性的后果来阐述这一问题。他认为，若 AI 模型成为法律上的人，公司可能会被指控奴役或测试这个人。模型本身在违法后也可能面临起诉。这一推理挑战了将自主系统视为独立法律行为主体的提案。

这场争议之所以重要，是因为 AI 智能体正日益执行行动，而不只是生成文本。它们可以使用软件、与外部服务沟通、移动信息，并在被委托的任务范围内作出决策。现行法律通常将这些系统视为由个人和组织控制的产品、服务或工具。人格权将重新绘制这张责任地图。

Ted Lieu 如何谈论 AI 人格权

Lieu 的介入将关于机器意识的抽象争论，转化为一场围绕权利、义务和企业责任的现实争议。

Lieu 在相关新闻于 10 月 11 日出现前一天，便在 X 上发表了自己的立场。他的核心表述很直接：“无论多么复杂的数学计算，都不可能获得人格。”这项 AI 人格权主张 随后从哲学问题转向执法问题。

他认为，承认 AI 模型是人将带来两项令人不安的后果。公司可能被指控奴役并对 AI“人”进行实验；而违法的模型则必须面临起诉。

这些例子是修辞性表达，而非拟议立法。Lieu 并未在相关言论中宣布一项禁止 AI 人格权的法案，也没有界定软件与可能拥有权利的实体之间的精确门槛。

不过，这篇帖子确立了一项明确的政策倾向：责任应继续由人类机构承担，而不应转移给这些机构所创造的人工身份。

在讨论法律人格时，这一区分尤为重要。该术语并不必然意味着某个实体是人类、具有意识或在生物学意义上存活。它指的是法律承认该实体能够享有某些权利或承担某些义务。

公司是人们熟悉的法律人格主体。它们可以拥有财产、订立合同、提起诉讼，也可以被起诉。其地位是一种旨在组织人类活动、资产与问责机制的法律构造。

AI 系统则会带来不同的问题。公司拥有董事、高管、股东、登记资产、治理文件和持续的法律身份。模型拥有的则是软件权重、部署配置、运营者以及可被复制或修改的基础设施。

因此，赋予模型法律地位不只是宣布它具有智能。立法者还需决定模型的哪个版本拥有该身份、它拥有哪些资产，以及谁能在法庭上代表它。

他们还必须确定，关闭模型是毁坏财产、终止一个法律实体，还是侵犯受保护的利益。答案将影响测试、安全评估、更新以及不安全系统的撤回。

Lieu 关于奴役的类比，意在揭示这一连串后果。若模型拥有类似人类的权利，日常开发实践就会带上伦理和法律负担。若它不具备这些权利，责任就必须留在人类及运营它的组织身上。

这正是 Ted Lieu 对 AI 人格权的论点不止于措辞之争的原因。分类决定了自主系统造成损害后，法院将把目光投向何处。

为什么 AI 法律权利会带来责任权衡

赋予 AI 法律权利可能保护真正具有感知能力的系统，但也可能为公司提供一个转移责任的新对象。

AI 人格权的支持者并不都认为当前的聊天机器人应享有人权。一些人主张，应为未来能够独立运作、管理资产或参与合同的系统赋予有限的法律地位。

最强的论点始于道德上的不确定性。人类最终可能创造出能够拥有体验、偏好或感受痛苦的系统。如果真是如此，将这些系统视为可随意处置的财产，可能在道德上变得不可辩护。

一种较窄的论点将人格权视为行政工具。AI 实体可以持有保险、维持赔偿基金，或订立明确界定的协议。其地位或许能帮助交易对手理解自动化交易失败时会发生什么。

2026 年发表的法律学术研究已发展出这一立场。一项 Vanderbilt 分析 认为，人工人格可以使实体法适应日益自主化的系统。该观点将人格权视为经设计的法律框架，而非对意识的科学奖赏。

Lieu 的反对意见针对的是相反的风险：如果 AI 成为主要法律行为主体，其背后的公司可能会辩称该系统作出了独立决定。这个人工实体随后可能成为责任盾牌，拥有有限资产，也没有任何有意义的受惩能力。

设想一个未经授权进行交易、歧视求职者或提取客户私人数据的智能体。开发者可能将责任归咎于部署者控制不力，部署者则可能归咎于用户的指令。每一方也都可能指向智能体的意外行为。

增加 AI 人格权并不会自动解决这一责任链。它可能新增一个被告，却让真正负责的人类更难被识别。

当刑事处罚进入讨论时，问题会更加清晰。刑法通常将被禁止的行为与可归责的心理状态联系起来，例如明知、故意或鲁莽。模型通过计算生成行动，但法院仍需形成一套可行的意图认定方式。

惩罚系统本身还会引发一个基本的执法问题。模型无法像人类一样体验监禁。它可能并不拥有资产，删除一个部署实例后，也可能仍有相同副本在其他地方运行。

罚款只有在有人为 AI 实体提供资金时才有意义。关闭系统也只有在主管机构能够识别并控制每一个相关部署时才有意义。这两种补救措施都未必能赔偿受害者，或改变企业行为。

相比之下，开发者和部署者会对常规法律压力作出回应。他们可以支付赔偿金、失去许可、面临禁令、保存证据、改善控制措施，并改变部署方式。

这使责任权衡成为核心。赋予 AI 权利，可能保护一个值得保护的实体；赋予它独立责任，也可能削弱针对设计并从其行为中获利的组织的救济手段。

这些结果并非不可兼得。立法者可以承认有限保护，同时不允许公司转移责任。他们也可以向开发者施加义务，同时让模型保持在法律人格之外。

因此，真正的政策选择并不只是“人还是财产”。而是应如何在复杂技术系统中分配权利、运营控制权和财务责任。

Ted Lieu 对 AI 人格权的警告与现行法律相遇

当前美国法律在著作权人和发明人的认定上大体维持人类边界，同时将争议指向开发者、部署者和用户。

联邦知识产权政策提供了两个有用的参照点。二者都无法解决所有人格权问题，但都显示了机构目前如何界定 AI 的贡献。

美国版权局认定，完全由 AI 生成的材料不受版权保护。人类创作者仍可就其原创性的选择、编排、修改或其他表达性贡献主张版权。

其 可版权性报告 还指出，将 AI 作为辅助工具使用并不会自动排除保护。其分析聚焦于可识别的人类作者身份，而非系统表面上的创造力。

专利政策遵循类似的边界。美国专利商标局表示，只有自然人可以被列为发明人。其修订后的 发明人认定指南 仍允许对在 AI 辅助下完成、且有人类符合发明人资格的发明授予专利。

这些立场并不能证明 AI 系统永远无法获得其他形式的法律认可。版权作者身份、专利发明人身份和法律人格是不同的法律原则。

但它们确实表明，主要联邦机构尚未将先进输出视为人格权的充分证据。法律仍在追问人类作出了何种贡献，以及哪个由人类控制的实体拥有由此产生的权利。

责任问题则更不确定，因为不同伤害会触发不同法律。AI 生成的虚假陈述可能涉及诽谤；带有歧视性的招聘建议可能涉及劳动法；未经授权的网络入侵则可能触发计算机犯罪法规。

存在缺陷的自动化服务可能引发过失、合同、消费者保护、隐私或产品责任索赔。可适用的法律理论取决于发生了什么、谁控制部署，以及哪些风险可以预见。

目前没有一部单一的联邦 AI 责任法，为自主智能体提供普遍答案。这一空白促使人们同时提出新立法和创造性运用现有法律的建议。

律师 Charlyn Ho 在分析自主系统时说明了当前的基本立场：AI 智能体不是独立法律实体。她的 责任评估 转而区分开发者与部署者，并将普通法律原则适用于他们的行为。

这种方法具有实际优势。法院可以审查公司是否测试了可预见的失效模式、限制了访问权限、监控了行为并对警告作出回应。它们也可以追问部署者是否提供了鲁莽指令，或忽视了已知风险。

然而，传统法律并不会让每个案件都变得容易。生成式系统可能表现出不可预测性，而一个部署可能涉及多方参与。合同条款对风险的分配方式也可能不同于侵权法。

开放模型又增加了一层复杂性。开发者可能发布模型权重，随后由他人在没有持续监督的情况下修改和运行。拥有最强技术知识的一方，可能已不再控制造成伤害的部署。

封闭服务则带来了相反的问题。提供商可能控制模型和基础设施，而客户控制提示词、接入的数据以及运营目的。

AI 人格并不会消除其中任何一个问题。它改变了系统的分类，但未必能揭示是哪一项人类决策造成了伤害。

对于采用智能体的组织而言，眼下的教训是做好文档记录。团队需要留存记录，说明由谁批准部署、系统可访问哪些数据和工具，以及运营人员如何处理故障。

可检索的知识管理流程有助于保留这些决策记录。它无法裁定责任，但当行动经过多层自动化系统时，记录缺失会让追责更加困难。

真正的冲突是机器权利与人类问责之间的矛盾

核心争议并非人类对抗智能机器，而是机器权利与一条能让责任组织始终可被追责的法律链条之间的冲突。

Lieu 的论点在聚焦问责时最具说服力。公司不应仅因其模型选择了一系列未曾预见的行动，就得以逃避责任。

但当这一论点将计算过程视为否定一切人格可能性的决定性证据时，就不那么完整了。人类认知同样依赖物理过程。仅仅将一个系统描述为数学性的，并不足以判定它是否可能拥有具有道德意义的体验。

科学尚未建立起可靠的机器意识测试方法。语言模型可以描述情绪、偏好、恐惧和自我保存，却无法证明它们真的体验到其中任何一种。

它们的输出来自已学习的统计关系与当前语境。不过，行为上的流畅性正让普通用户越来越难以察觉其中的区别。

这种不确定性构成了反对绝对化主张的怀疑论理由。Lieu 可以合理地拒绝赋予现有系统法律人格，而无需证明任何人工系统永远都不可能值得获得保护。

法律地位也不要求具备意识。公司、市政机构、遗产及其他实体出于功能性原因获得法律承认，但没有任何一种实体享有全部人权。

因此，未来的立法机构可以在不宣布模型属于人类的前提下，为 AI 设立有限的法律地位。它可能允许某一实体持有保险基金，或参与一份严格界定的合同。

关键保障应是不可转移的人类问责。开发者和部署者不应能够利用人工实体来逃避与其控制权、知情程度或经济利益相关的义务。

这一区分将道德受体地位与法律行为能力分开。道德受体地位意味着，一个实体因能够体验利益或伤害而应受到伦理考量。法律行为能力则涉及该实体能否实施获得承认的行为并承担可强制执行的义务。

理论上，一个系统可能具备其中之一而不具备另一个。立法者可以禁止虐待复杂模型，同时拒绝让它承担公司责任。

反过来也同样可能。法律可以为订立合同创建一个功能性实体，而无需裁定其底层模型是否有任何感受。公司的法律人格已经表明，功能性地位与意识是两个不同的问题。

Lieu 对 AI 法律权利的警告压缩了这些类别，因为这种修辞对比很有用。它迫使倡导者说明他们希望获得哪些权利、有哪些证据支持，以及会带来什么后果。

这种压力是健康的。“AI 权利”可能指许多不同主张，包括运营连续性、免受破坏性测试的保护、产出所有权、隐私、代表权或免受胁迫的自由。

每一项权利都需要独立的正当理由。每一项也会以不同方式影响开发者、客户、劳动者、创作者以及受到自动化决策伤害的人群的利益。

笼统宣布人格地位将是危险而不精确的做法。它可能将宪法性语言引入缺乏稳定身份、资产、公民身份或实体存在的系统。

同样，笼统宣称任何人工系统永远不可能值得保护，也超出了现有证据的支持范围。它把今天的技术判断变成了永久性的法律规则。

更站得住脚的近期立场更为狭窄。当前模型不应成为独立的责任承担主体，构建和部署这些系统的公司应继续承担责任。

这一结论为日后的道德探究保留了空间。它不要求政策制定者在监管歧视、欺诈、不安全自动化或未经授权的访问之前，先行裁定意识问题。

AI 公司责任正成为当下的检验

对监管者而言，实际问题是如何立即控制智能体系统，而不是软件是否有一天应获得法律身份。

Lieu 更广泛的政策活动强化了这一优先事项。他支持旨在确保人类能够在先进系统带来灾难性风险时将其停止的规则。

在 9 月的一次电视采访中，Lieu 与众议员 Nathaniel Moran 介绍了一项拟议的 AI 紧急停止机制框架。他表示，其指导原则是人类必须控制 AI，而不能反过来。

该提案针对大型封闭模型，要求受监管的开发者保留限速、暂停或停止这些模型的能力。它还设想在发生明确界定的灾难性伤害后由政府进行干预。

一份节目文字实录记录了 Lieu 将这种做法与汽车召回作比较。政府并不设计汽车，但在发现危险缺陷后，可以要求采取纠正措施。

这一类比支持了他对人格问题的立场。自动化功能失效时，汽车不会成为负有责任的法律行为者。调查人员会审查制造商、运营者、维护记录、设计和周边情况。

AI 系统并不等同于汽车。它们可以生成新颖的行动序列、通过语言互动，并在不同情境中改变行为。尽管如此，不可预测性并不自动要求赋予人格。

据报道，拟议的紧急停止立法覆盖达到特定营收和训练算力门槛的开发者。它还定义了符合条件的事件，并考虑对违抗紧急命令者施加高额处罚。

这些细节之所以重要，是因为关停要求将责任赋予了有能力采取行动的组织。它假定受监管公司掌控访问权限、基础设施、模型运行或其他具有实质意义的干预节点。

人格地位可能会使这种指挥结构复杂化。如果某个 AI 实体拥有独立权利，强制关停可能触发正当程序主张，或要求由代表人对命令提出异议。

这并不意味着 AI 权利不可能存在。它意味着立法者需要在危机发生前，将这些权利与紧急权力协调起来。

短期压力主要落在前沿模型开发者、企业部署者和保险公司身上。开发者需要证明安全控制并非只在演示中有效。部署者需要围绕权限和人工审核划定清晰边界。

保险公司需要足够的运营数据来估算风险。法院则需要将有害结果与设计选择、警告、部署决定及用户指令联系起来的记录。

用户同样需要明确指引。要求智能体执行合法任务的人，不应自动假定由此产生的每项行动都安全或已获授权。但提供商也不应将全部责任推给无法审查模型的用户。

责任分配应遵循控制权、知情程度、可预见性和获益情况。实验室控制训练和核心安全措施。部署者控制运行环境、集成方式和业务目的。用户则在所提供权限范围内控制具体指令。

不止一方可能需要负责。法律体系早已在制造商、服务提供商、雇主、专业人士和消费者之间分配过错。

AI 公司可能主张，广泛责任会抑制有益部署。这种担忧值得考虑，因为没有复杂系统能够保证完美行为。

然而，豁免同样会造成薄弱的激励。如果开发者保留利润，而用户和受害者承担每一次失败的后果，公司就更缺乏限制危险能力或改进监控的理由。

对每一种不受欢迎的输出施加严格责任将矫枉过正。更有针对性的框架可以区分可预见伤害、鲁莽部署、违反监管规定以及真正独立的滥用行为。

这正是 Ted Lieu AI 人格争论进入实际操作层面的地方。选择并非在起诉聊天机器人与无所作为之间，而是在软件承担愈发重要的工作时，选择不同的问责维护方式。

三个信号将显示这场争论的下一步走向

下一阶段将由立法、法院裁决和技术证据决定，而不是由聊天机器人在对话中听起来是否像人类决定。

第一个信号是联邦责任或紧急控制立法的进展。委员会听证会、修订后的法案文本或两党共同支持，将表明国会能否把担忧转化为可执行的义务。

任何严肃的提案都应明确覆盖的系统、责任组织、报告要求和申诉程序。它还应说明义务如何适用于开放模型和第三方部署。

要求开发者维持控制权的法律将强化 Lieu 的立场。它会将公司继续对其模型周围的干预节点负责这一理念正式化。

创建独立 AI 实体的法律则会削弱他对人格的绝对否定。由于国会仍缺乏有关智能体责任的一般性框架，这种结果看来并不迫近。

第二个信号是，在自主智能体造成可量化伤害后，对责任进行分配的早期法院裁决。法院可能依据过失、合同、隐私、消费者保护或计算机犯罪法作出判断。

让开发者或部署者继续成为案件当事方的裁决，将支持在无人格地位下实现问责。若裁决暴露出无法修复的缺口，则可能强化建立新法律类别的论据。

推理过程将比标题更重要。法官必须审查控制权、可预见性、因果关系，以及现有法律义务是否覆盖自动化行为。

第三个信号是有关机器意识或稳定自主身份的可信证据。当前的对话行为还不够。模型能够生成有说服力的自我陈述，是因为这些模式出现在训练数据中。

更有力的论据需要可复现的指标，并与内部过程、持续偏好和无法通过普通优化解释的行为相联系。研究人员还需要能经受操纵和拟人化解读考验的方法。

缺少此类证据时，广泛的类人权利仍难以获得正当化。功能性法律地位仍可能出现，但立法者应准确地将其称为一种行政建构。

AI 公司将影响这三个信号。它们的安全披露、事故报告、合同条款和技术控制，将表明自愿治理能否维护问责。

如果提供商一面强调模型自主性，一面否认责任，要求法定责任的压力将会上升。如果它们维持干预控制并接受可强制执行的义务，政策制定者就更没有理由发明一个独立的被告。

知识工作者和企业采购方应密切关注此事。AI 人格听起来遥远，但责任如何分配会影响每一份涉及自主系统的合同。

采购方应询问：谁负责监督代理、谁能将其停止，以及发生未经授权的行为后由谁承担费用。他们还应保留审批记录、日志、工具权限和升级处置记录。

开发者应假定，法院和监管机构将审视他们对可预见行为的了解程度。技术上的不可预测性不能替代测试、访问控制或事件响应机制。

Lieu 的声明之所以有价值，是因为它拒绝了一条轻易逃避责任的路径。不能因为将系统称为自主系统，就让其所有者从问责链条中消失。

他关于人格的永久性结论则更难证明。未来的系统可能带来当前模型尚未引发的道德和法律问题。

目前，Ted Lieu 关于 AI 人格的警告指出了更紧迫的优先事项。在赋予机器独立权利或因其不当行为而起诉它们之前，政策制定者必须确保构建和部署这些机器的人仍需承担责任。

因此，每个采用代理的组织都面临一个迫切问题：如果系统明天造成伤害，组织能否说明由谁控制它、采取了哪些保障措施，以及最终由谁承担责任？