OpenAI 纽约市议会听证会让 AI 实验室宣誓作证

在立法者威胁发出传票后，OpenAI 将与三家主要竞争对手一道出席纽约市议会听证会，并在宣誓后作证；多数公司此前仅在这一威胁下同意出席。10 月 5 日的会议将让 Anthropic、Google、Meta 和 OpenAI 面对全体 51 名议员。前 Anthropic 研究员 Jacob Coxon 也预计将作证；他此前曾公开警告，高级 AI 可能脱离人类控制。

OpenAI 纽约市议会听证会并非又一场普通的政策圆桌会议。议员们正在考虑的提案可能要求模型接受外部验证、奖励举报人、针对可预见危害设立责任，并强制快速报告事故。这些措施将把宽泛的安全承诺转化为企业、验证机构和部署方可能必须留存记录的义务。

核心冲突在于问责与自愿治理之间。AI 公司已经发布安全框架，并接受内部测试职责。纽约市立法者如今希望看到独立证据、法律救济以及正式记录在案的证词。此次听证会将检验：当提问者是民选官员而非公司自身的评估人员时，领先实验室能否为其风险控制措施辩护。

OpenAI 纽约市议会听证会的目标更为广泛

此次听证会将 AI 安全从公司的政策文件转向宣誓后的公开证词。

纽约市议会将于 10 月 5 日上午 11 点在市政厅举行全体委员会听证会。全体委员会会将整个议会召集起来，而不是把事项交由某个常设委员会处理。

议会将本次会议描述为审查人工智能带来风险的活动。其听证会议程列出了一项监督事项和九项立法提案。这些提案涵盖模型验证、举报人、聊天机器人隐私、事故报告、责任、应急规划和广告声明。

在议会威胁采取强制程序前，Meta 承诺派遣一名高级代表出席。OpenAI 和 Google 则在传票警告后同意参与。Anthropic 起初拒绝，随后在威胁设定的期限临近前确认出席。

议会表示，这将是四家公司首次就 AI 危害及可能的立法回应进行宣誓后的公开作证。这一表述很重要：它来自议会，而听证会尚未确定每家公司将承认什么、质疑什么，或将哪些内容载入正式记录。

受邀公司预计不会派出首席执行官。Bloomberg 报道称，政策和安全负责人将代表这些实验室出席。他们的身份、权限以及回答技术问题的意愿，将决定此次听证会的价值。

在 SpaceXAI 未回应议会最初邀请后，它也成为争议的一部分。议长 Julie Menin 根据议会的调查权限发出了传票。议会称，如果该公司未能遵从，可能会向纽约州最高法院寻求执行。

随后的一篇本地报道表示，SpaceXAI 预计将参与。这个潜在新增成员扩大了公司名单，但并未改变主要对峙格局。立法者想知道，前沿 AI 开发商能否证明其保障措施在受控演示之外仍然有效。

Coxon 带来了另一类证词。据有关其离职的报道，他此前曾在 OpenAI 和 Anthropic 从事预训练研究。预训练是指模型在后续优化之前，通过大规模数据集学习模式的过程。

他于 9 月离开 Anthropic，并指责领先实验室承担了不可接受的风险。根据一篇关于其证词的报道，Coxon 表示，构建高级系统的人相信，AI 可能在本十年结束前导致人类灭绝。

这是一项非同寻常的说法，而非已获确立的预测。Reuters 还表示，无法独立核实 Bloomberg 关于 Coxon 计划出席的报道。议会在解释为何组织这场更广泛的听证会时，也单独提及了他的辞职。

据报道，Coxon 将与前 Google DeepMind 研究员 Alex Turner，以及前 OpenAI 研究员、AI Futures Project 负责人 Daniel Kokotajlo 一同出席。他们的存在可能使本次会议比仅由公司证人组成的听证会更具对抗性。

公司代表很可能会介绍评估、部署控制和事故处置程序。前内部人士则可以质疑，这些保障措施是否真正应对了实验室正竞相构建的系统。议员们随后可以在同一套公开规则下比较双方说法。

这种比较是眼下的变化。AI 安全辩论往往将公司的保证与批评者的警告分开。纽约市正在把双方置于同一间议事厅内，同时审议会对不完整验证或可避免危害附加后果的法律。

纽约希望在部署前看到证据

最具影响力的提案将要求，受覆盖 AI 模型在该市提供或部署之前必须完成独立验证。

议会的提案在议程中列为 T2026-2602，将禁止未经第三方验证的 AI 模型在纽约市营销、销售或部署。它还要求具备一项技术能力，使人工操作员能够关闭模型。

第三方验证意味着由外部评估机构审查系统，而非仅依赖开发商自身的评估。该提案将任务表现、差异化影响、隐私和安全列为相关领域。它还要求验证机构检查人工关闭能力是否有效。

验证机构需要披露与该模型有关的利益关系。它们还将报告系统是否已经验证，或是否准备好部署。纽约市 Cyber Command 将制定实施规则和验证机构资格标准。

处罚将使评估关系的双方都面临压力。议程称，民事处罚最高可达 25,000 美元，其中每次在未完成必要验证的情况下提供或部署模型，均可被处以固定的 25,000 美元罚款。伪造验证结果也可能面临同等金额的处罚。

拟议 AI 规则并不止于验证。一项措施将允许人们就受覆盖 AI 违规行为向消费者和工人保护部提出投诉。除非投诉属轻率、虚假或重复，该机构通常将展开调查。

如果市政府依据所称事实推进案件，投诉人可获得追回款项的 25%。如果官员指定投诉人送达违规通知或提起民事诉讼，该比例可升至 50%。

这一激励机制试图解决信息不对称问题。外部人士很少知道内部评估是如何设计的、哪些警告被上报，或为何部署仍然继续。员工和承包商通常掌握更多信息，但举报不当行为可能危及他们的职业生涯。

另一项法案将明确市政府雇员和受覆盖承包商的举报人保护。它将保护那些合理认为 AI 开发或使用构成重大且具体公共安全风险的举报。

该立法组合还涉及与市政府合同相关的事故。承包商和市政府机构在发现应报告的 AI 安全事故后，必须在 24 小时内通知 Cyber Command。Cyber Command 随后将在另外 24 小时内公开披露所报告的事件。

这一要求比针对每次模型故障的一般性报告义务更为狭窄。它聚焦于受覆盖的市政府合同。尽管如此，它仍将形成一份可见的记录，供研究人员、记者、供应商和居民长期比对。

私人诉权将弥补另一项执法缺口。根据 T2026-2600，若一家公司的商用模型因第三方恶意或不当使用而造成损害，个人可对该公司提起诉讼。此项主张需要证明损害可预见，且与该滥用行为有关的保障措施不足。

可预见性将成为争议焦点。开发商无法阻止每一条恶意提示词或下游修改。但企业也不能仅因他人提供最终指令，就将可预测的滥用视为不可预见。

该提案将这一问题交由法院裁决，而非完全留给公司的政策团队。这将促使企业保存评估结果、滥用预测、内部警告和部署决策。

其他措施将监管聊天机器人的数据实践和安全广告。聊天机器人提供商将面临隐私、安全、透明度和用户访问方面的要求。提供商不得暗示聊天机器人能够提供等同于持证专业人士的建议。

AI 模型广告将需要披露是否经过第三方验证。实质性虚假或误导性的安全声明可能面临最高 25,000 美元的处罚。

这些条款将安全措辞转化为更接近产品陈述的内容。如果开发商将某个模型宣传为安全，纽约市希望这一表述能够对应到可识别的评估流程。

整套方案目前仍属拟议立法。10 月 5 日的听证会并非最终表决，法案也可能发生重大变化。议会行动之后还会面临实施问题、法律挑战、机构规则或市长决定。

这种不确定性不应掩盖整体趋势。纽约市正从狭义的算法监管，转向更广泛地审视通用 AI 模型及其供应公司。

自愿 AI 安全遇上可强制执行的证明

核心争议不在于公司是否测试模型，而在于谁来界定充分测试，以及谁能够验证结果。

OpenAI、Anthropic、Google 和 Meta 都会进行模型评估。它们发布了不同组合的系统卡、安全报告、负责任扩展政策、研究论文和部署限制。

这些文件提供了有用的证据，但也让企业对测试设计、披露门槛、时间安排以及对令人担忧结果的回应保有广泛控制权。

纽约的提案将把部分权力转交给独立验证机构和市政府官员。这一变化解释了为何此次听证会的意义超出纽约本身。它挑战了一种主要建立在自愿承诺和选择性透明度之上的治理模式。

公司主导的测试可以快速推进，并使用外部评估者无法获得的内部访问权限。模型开发商比大多数监管机构更了解自身系统、基础设施和部署计划。它们还可以在开发过程中进行测试，在公开发布造成必须为结果辩护的压力之前采取行动。

外部审查提供了不同的优势。它可以质疑公司内部已被视为常态的假设，可以比较不同供应商之间的证据，并询问一项安全声明是否采用了一致标准。

两种方法都无法保证可靠的监督。独立验证者可能缺乏模型访问权限、技术能力或充足时间。设计不佳的合规测试可能奖励繁文缛节，而非实质性的风险降低。

该提案中的利益冲突要求承认了一个明显弱点：由开发者付费的验证者可能面临批准客户系统的压力。披露有所帮助，但仅靠披露并不能消除财务依赖。

“终止开关”要求则提出了另一个棘手问题。人工关闭能力听起来很直接，但 AI 产品部署在云服务、应用程序、智能体和客户基础设施之中。

中央提供商可以禁用对其托管模型的访问，但未必能阻止所有已被复制的输出、导出的产物、本地集成，或用户已经触发的下游操作。

立法需要精确定义被关闭的系统。它还必须区分服务被禁用与事件得到控制之间的差别。否则，开发者可能满足形式上的控制要求，却没有处理伤害实际发生的路径。

任务表现同样取决于具体情境。在基准测试中表现良好的模型，可能会在医院、招聘流程、法律服务或自主软件智能体中失效。验证必须将模型的一般能力与其预期部署场景联系起来。

纽约此前已通过自动化招聘监管遇到这一问题。第 144 号地方法律限制雇主和就业机构在未完成近期偏见审计并提供规定通知的情况下，使用受覆盖的自动化就业决策工具。

纽约市于 2023 年 7 月开始执行该制度。其招聘审计规则树立了重要先例，但当前提案的范围更广。

根据市议会的摘要，地方法律第 144 号聚焦于明确界定的就业用途；T2026-2602 则适用于在该市营销、销售或部署的 AI 模型。这一表述提出了关于适用范围、管辖权和技术可行性的更大问题。

狭义工具拥有可识别的用户、决策和输出。通用模型则可以支持编程、文档分析、客户服务、研究、创意工作和自主行动。风险会随每一种集成方式而变化。

因此，听证会应要求证人就具体证据作出说明。验证者将获得何种模型访问权限？哪些评估必须在部署前完成？模型更新后，验证需要多久重新进行一次？

市议员还应询问：当开发者提供模型、但另一家公司构建应用程序时，责任由谁承担。一项宽泛规则可能涉及模型提供商、分销商、部署者，或三者全部。

这正是问责与创新形成真正权衡之处。标准过于宽松会让不可靠的主张蒙混过关。模糊或过度宽泛的标准则可能在无法提升安全性的情况下，阻碍有益部署。

领先实验室有动机主张技术上更完善、全国一致的规则。联邦标准显得不足时，城市立法者则有动机采取行动。此次听证会将这些相互竞争的优先事项纳入同一份公共记录。

举报人的警告不能只停留在头条新闻

Coxon 的警告提高了政治层面的利害关系，但立法者仍需要有关具体系统、决策和失效情况的可验证证据。

存在性风险主张之所以引人关注，是因为所称危害极其巨大。但它们也可能掩盖更紧迫的隐私、歧视、欺诈、网络安全和不安全自动化问题。

市议会的一揽子方案试图同时应对两个层面。应急规划和模型关闭要求针对严重失效；聊天机器人隐私、广告披露、合同规则和私人救济，则针对居民可能更早遭遇的伤害。

如果 Coxon 的证词能从概率主张转向运营细节，其价值将最大。立法者需要了解他担忧哪些能力、哪些证据改变了他的判断，以及他认为现有实验室缺少哪些保障措施。

他们还应区分个人风险估计与有记录的公司发现。前员工的警告可以揭示严重分歧，但并不能独立证明灾难性结果一定会发生。

同样的标准也适用于公司证词。关于安全文化的表述并不能证明某个模型通过了有意义的对抗性测试。负责任扩展框架也不能证明，当商业压力上升时，员工能够叫停发布。

市议会应询问每家公司，严重的内部警告会如何在组织中传递。谁可以延迟部署？哪位高管可以推翻这一决定？分歧发生后，哪些文件记录会被保留？

举报人保护很重要，因为正式报告渠道可能失效。员工可能担心遭到报复、失去未来工作机会，或因机密信息引发法律冲突。然而，激励计划也可能吸引缺乏依据、重复或带有策略性的投诉。

拟议的投诉制度试图筛除轻率、虚假和重复的举报。其成败将取决于机构的专业能力和调查能力。官员必须区分不受欢迎的技术判断与违法行为。

财务奖励需要谨慎设计。按追回罚款的一定比例给予奖励，可以鼓励内部人士报告监管机构原本无法获知的信息；但也可能引发关于谁最先提供决定性事实的争议。

市议会必须界定合格信息、受保护披露、保密规则，以及处理安全敏感证据的程序。公开披露不能成为泄露个人数据、模型权重或可被利用漏洞的途径。

公司也有权质疑不准确的指控。当投诉可能触发调查、处罚、诉讼或公共声誉损害时，正当程序至关重要。

这并不意味着可以保密。它意味着城市需要一套既保护可信举报人，也维护证据完整性的程序。

值得怀疑的问题是，市政府是否能够在前沿 AI 行业中管理这一流程。纽约市拥有监管经验、技术机构、采购权力和庞大市场，但它无法控制全国研究政策、芯片出口或其辖区外的每一次部署。

广泛的模型监管也可能引发管辖权争议。一个云端模型可能在别处训练、托管于另一州、通过中介访问，并由纽约居民使用。每一种关联都会形成不同的地方权限理论。

这些困难并不意味着听证会只是象征性的。城市采购技术、监管企业、保护消费者，并为本地活动设定条件。纽约的规模使其规则能够影响城市边界之外的供应商实践。

然而，影响力并不等于可执行性。市议会必须说明，机构将如何发现未经验证的模型、识别责任主体，以及区分模型更新与新的部署。

公司应说明，在不暴露安全细节或商业机密的前提下，它们能够提供哪些证据。立法者则应说明，外部验证者将如何获得足够访问权限来检验关键主张。

如果双方始终停留在灾难与创新的层面，听证会只会产生令人难忘的片段，却几乎没有运营层面的清晰度。如果他们讨论审计访问、事件定义、权限和证据，会议就能改善法案。

这一差别对企业采购方同样重要。采购团队日益需要面对有关模型安全性、可靠性和合规性的主张。可信的验证框架能够缩小信息差距。

薄弱的框架则只会增加另一张证书，却无法帮助买方评估风险。访问权限、测试覆盖范围、独立性和重复评估的细节，将决定纽约得到哪一种结果。

压力不止落在四家 AI 公司身上

拟议规则不仅会影响模型开发者，也会影响验证者、承包商、部署者、广告商以及采购 AI 服务的组织。

OpenAI、Anthropic、Google 和 Meta 因构建了知名模型而受到关注。但议程中所述立法涉及的组织链条更广。

在纽约提供 AI 模型的公司可能需要提供验证证明。部署该模型的企业可能面临单独义务。验证者则可能因虚假认证而承担责任。

市政府承包商将需要建立事件检测程序和快速报告机制。各机构将需要制定把事件上报至 Cyber Command 的流程。随后，市政府还需要足够快地发布信息，以满足拟议时间表。

面向消费者的聊天机器人提供商将需要审查数据访问、隐私、安全和透明度实践。营销团队将需要为安全主张提供证据。法务团队则需要评估可预见的滥用情形。

这种责任分配之所以重要，是因为 AI 风险很少只存在于一个组织中。模型开发者创造底层能力，应用公司定义工作流程，客户提供数据并授予系统访问权限。

自主智能体又增加了一层复杂性。智能体是利用模型进行规划和采取行动的软件，通常会通过外部工具执行操作。它的行为取决于模型、可用权限、指令和周边应用程序。

模型在聊天界面中看似受到控制，但一旦连接到电子邮件、数据库、支付系统或软件代码库，就可能变得危险。因此，验证必须检视部署环境，而不只是基础模型。

市议会的事件报告提案承认了城市合同中的这一运营现实。一个应报告事件可能始于模型输出，却通过系统权限或薄弱监控造成伤害。

使用 AI 的组织不应等待最终立法出台才审视这些路径。它们可以识别哪些模型能够访问敏感数据、哪些工具可以采取外部行动，以及由谁撤销权限。

文档记录是这项工作的核心。团队需要保留模型版本、评估结果、事件决策和保障措施变更的记录。没有这些记录，问责就会变成一场围绕记忆的争论。

知识工作者也拥有直接利益。AI 助手正越来越多地接触内部文档、会议记录、代码、研究资料和客户信息。用户需要知道哪些数据进入系统，以及哪些控制措施决定检索或保留方式。

维护良好的AI 知识库可以帮助团队保留上下文并追溯决策。它不能替代模型验证、访问控制或事件响应。

对开发者而言，这场听证会表明，安全主张将越来越需要证据材料。仅仅声称应用程序设有护栏，无法满足持怀疑态度的监管者。团队可能需要测试用例、评估日志、访问记录和响应程序。

企业采购方应关注这些公司是否接受某种独立测试的共同基线。共享基线可以简化采购流程。彼此不同的标准则可能让买方不得不比较不兼容的报告。

这些公司还面临不同的战略压力。OpenAI 和 Anthropic 强调前沿模型开发和安全研究。Google 将 AI 整合到搜索、云服务、生产力工具和消费者服务之中。

Meta 在运营大型社交平台和广告系统的同时开发模型。这些业务差异会影响部署规模、访问模式，以及各家公司能够提供的证据。

听证会不应将这些差异简化为整个行业的单一答案。它应明确哪些义务适用于不同商业模式，哪些则需要结合具体情境制定规则。

纽约此前的招聘法既提供了先例，也带来了警示。地方审计强制要求可以催生外部审查市场，但也可能引发有关定义、覆盖范围，以及审计是否衡量了受影响人群所关切伤害的争论。

新提案将在更大范围内面对这些问题。通用模型更新频繁，并支持开发者无法完全预测的用途。验证机制必须在更新后依然有效，同时不能让每一次微小调整都在法律层面变得难以管理。

市议会将该方案定位为兼顾创新与安全。真正的平衡取决于定义与实施，而非口号。

清晰的适用范围可能会奖励那些已对其控制措施进行记录的开发者。模糊的范围则可能有利于能够承担合规成本的大型企业，同时迫使较小供应商退出市场。

这一可能性值得在听证会上受到关注。问责不应成为只有最大公司才能负担得起的门槛；对市场集中度的担忧，也不应成为弱化测试的借口。

三个信号将显示这场听证会是否重要

衡量这场听证会重要性的标准，将是它产生的证据、法案作出的修改，以及纽约实际能够执行的标准。

第一个信号是证词本身。关注公司代表是否就具体的评估方法、升级处置程序和部署门槛作出回答。

泛泛而谈负责任的 AI 几乎无法说明问题。若能具体说明独立访问机制、红队测试发现、事件处理方式和发布决策权限，就能形成供外部人士评估的记录。

Coxon 和其他前研究人员也面临同样的标准。如果他们指出立法者能够调查的机制、治理失误或决策，其证词将更具说服力。仅有灾难性预测无法告诉这座城市应如何监管。

第二个信号是立法修订过程。公司证词计划称，市议会希望就拟议解决方案听取行业意见。具有实质意义的修正将表明，这场听证会改变了立法者的理解。

关注 AI 模型的定义、第三方验证的范围，以及“部署”的含义。这些术语将决定规则是仅覆盖一小部分系统，还是几乎覆盖所有 AI 赋能服务。

还应关注拟议的停机能力。一项可行的条款应明确谁拥有控制权、它会禁用哪些功能、如何进行测试，以及哪些部署必须具备这一能力。

举报人激励机制需要细化资格和保密规则。私人诉权则需要针对可预见性和合理保障措施建立可辩护的判断标准。

第三个信号是实施路径。根据这些提案，Cyber Command 和消费者与劳动者保护部将承担重大责任。

其人员配备、技术访问权限、规则制定权和执法程序，将与法条文本同样重要。没有调查能力的强制要求，会让这座城市只能依赖公司披露的信息。

市议会的议程仍将新提案列为预审议事项。在预定听证会之前，会议记录和立法行动尚未公开。因此，读者应将该方案视为起点，而非已颁布的法律。

只有当 OpenAI 纽约市议会听证会缩小安全承诺与可验证控制措施之间的差距时，它才算成功。这意味着需要追问：有哪些证据、谁能审查这些证据，以及当警告被忽视时会发生什么。

开发者、企业采购方和 AI 用户应带着这些问题关注证词。证人是否披露了可测试的保障措施？立法者是否将宽泛措辞修订为可执行的义务？相关机构是否获得执行这些义务所需的权力与专业能力？

答案将表明，纽约是在建立可信的问责模式，还是仅仅增加了一层合规文书工作。关注听证记录，然后将每一项公开保证与宣誓作出的证据进行对照。