National Grid AI 披露令将公用事业自动化纳入州级审查

尽管 AI 已进入日常公用事业运营，National Grid 仍必须在 60 天内披露其纽约州公用事业业务所使用的每一个人工智能系统。9 月 17 日发布的命令，使 National Grid 的 AI 披露不再只是一次技术盘点。它提出了一个问题：当系统影响客户服务、维护、检查，以及可能的其他受监管工作时，公用事业企业能否对其作出解释。

纽约州公共服务委员会已启动案件 26-M-0552，以审查公共事业企业及其他受监管实体中的 AI 应用。该调查涵盖 National Grid 的子公司，以及其他电力、燃气和供水服务商。企业必须说明其 AI 用途，以及管理这些用途的政策、流程和规程。

其中的冲突很直接。公用事业企业希望借助自动化更快发现故障、确定维修优先级并处理客户请求。监管机构则需要证据证明：当这些系统的输出影响基本服务时，它们仍然安全、可审查且可追责。委员会从披露开始，是因为没有可信的清单，任何一方都无法评估这种权衡。

纽约州要的是清单，而不是 AI 承诺

该命令将 AI 监管从自愿治理转为正式的监管审查。

委员会的 AI 使用案件 标题覆盖范围很广，审查公共事业企业及其他受监管实体运营中的人工智能。这一范围很重要，因为 AI 可以通过许多途径进入公用事业企业，而不只是通过中央批准的模型。

一家公用事业企业可能内部构建机器学习系统，也可能购买的软件在更新中悄然新增 AI 功能。承包商可能使用自动化分析检查设备。客户服务供应商则可能借助并非由受监管公用事业企业直接运营的模型总结通话或推荐回复。

因此，纽约州的做法从“所有用途”开始，正如 60 天要求 所述。公用事业企业还必须说明围绕这些用途设置的控制措施。仅列出产品名称，无法解释谁批准了每个系统、它处理哪些数据，或何时由人工审查其输出。

委员会指出，客户服务、预测性维护和设施安全检查是当前的公用事业应用场景。这些属于风险显著不同的类别。

客户服务助手可能就账单或付款援助给出错误回答。预测性维护模型可能错误分类设备风险，进而影响工作优先级。检查系统可能漏掉可见损坏，或发出错误警报，导致维修人员前往错误的资产位置。

后果还取决于每项输出的使用方式。仅为人工审查突出显示图像的模型，与自动更改维护计划的软件所带来的风险不同。起草回复的聊天机器人，也不同于获准发起客户账户操作的机器人。

这一区别说明，不应将此次调查解读为禁止公用事业企业使用 AI。委员会尚未宣布 AI 系统本质上不可接受。它正在询问这些系统在哪些环节运行、拥有何种权限，以及配备了哪些保障措施。

时间安排给公用事业企业带来了艰巨任务。60 天足以收集已知部署情况，但也短到足以暴露内部追踪机制的薄弱之处。大型组织往往将软件采购、试验和供应商管理分散在多个业务部门。

National Grid 尤其重要，因为其名称涵盖多家受纽约州监管的实体。因此，该州的审查能够检验 AI 治理是否能在不同公司架构、服务区域和运营职能之间保持一致。

其他公用事业企业面临同样的基本挑战。Con Edison、Central Hudson、National Fuel Gas、New York State Electric and Gas、Rochester Gas and Electric、Orange and Rockland，以及受监管的供水服务商，都依赖复杂的技术供应链。

首要结果不会是一份证明哪家公司最擅长使用 AI 的评分表，而是一条基线：展示每家公用事业企业是否能够找到并描述其职责范围内运行的系统。

为什么 National Grid AI 披露的范围不止聊天机器人

最难披露的系统，将是员工不再将其视为独立 AI 产品的嵌入式模型。

“人工智能”一词可以指生成式助手、预测模型、计算机视觉、异常检测和优化软件。这些技术并不共享同一种架构或故障模式。一份有价值的清单必须按功能和后果对它们进行分类。

National Grid 的公开项目展示了这一范围，尽管在其他地区公布的项目，并不能证明其纽约州子公司目前正在使用哪些系统。在英国，该公司曾介绍使用自主无人机检查输电基础设施并采集图像。AI 辅助分析随后可帮助评估设备状况。

National Grid 的一个项目使用无人机影像和机器学习识别钢制输电塔的腐蚀。其 检查项目 还利用历史数据预测腐蚀可能如何发展。该公司估计，该流程可减少人工图像审查，并改善维护规划。

这是一个真实的运营场景，但它也说明了披露为何需要背景信息。监管机构需要知道，模型究竟只是为图像排序，还是决定设备状况等级；还需要了解其误差阈值、审查流程、数据溯源和升级处理规则。

数据溯源描述信息在到达模型前来自何处，以及经历了怎样的变化。对于检查系统，这可能包括相机规格、图像时间戳、资产标识符、既往维护记录，以及训练期间使用的人工标注。

在某一种塔型、气候或成像流程上训练的模型，可能会在其他环境中表现不同。看似准确的平均表现也可能掩盖其在罕见缺陷上的较弱表现。而这些缺陷或许最为重要，因为它们带来更严重的安全后果。

客户服务则带来另一组问题。生成式 AI 可以总结通话、起草客服人员回复，或检索政策信息；但它也可能给出自信的回答，却与客户的费率、账户状态或监管保护要求不符。

在这种情况下，披露应当识别模型可获取的来源材料，并说明回复是否基于批准文件、客户数据是否会进入外部服务，以及员工能否看到不确定性信号。

可靠的内部记录十分重要，否则政策、提示词、测试结果和事故报告会散落在不同部门。一套有序的 AI 知识库 可以支持这项工作，前提是它不能取代正式的合规系统。

预测性维护引入了另一种机制。模型可以利用传感器读数和历史故障数据，估计哪些资产需要关注。其价值在于引导有限的维修人员和维护预算投向风险更高的设备。

然而，在任何人正式将权限授予系统之前，一项建议就可能已对运营产生影响。员工可能逐渐信任一个持续有效的排序结果。随着时间推移，一个名义上仅供参考的模型，可能几乎自动地塑造决策。

这被称为自动化偏见，即使存在相反证据，人们仍倾向于采纳自动化建议。这种风险并不需要员工鲁莽行事；当团队面临时间压力、复杂数据和绩效目标时，它就可能出现。

因此，一份充分的 National Grid AI 披露应区分技术权限与实际影响。模型可能没有批准工作的权限，却依然决定员工最先看到哪些选项。界面设计可能让一项“可选”建议很难被质疑。

供应商软件又增加了一层复杂性。公用事业企业可能知道企业级平台的名称，却不了解其中使用的每个模型。更新可能引入自动化功能，而分包商可能依赖自己的 AI 工具。

该州的命令将问责责任重新放回受监管公司身上。如果一家公用事业企业的清单止步于本公司数据科学家构建的系统，它就无法完整评估客户、安全或网络安全风险。

公用事业创新如今必须与可问责的控制机制竞争

纽约州正迫使公用事业企业调和 AI 的运营收益与公共问责所需的证据。

公用事业 AI 的理由不难理解。电力、燃气和供水系统会产生大量有关设备、天气、客户和运营的数据。模型可以帮助识别人们难以以同等速度审查的模式。

检查工具可以减少高危攀爬作业，并让专家将注意力集中在不确定案例上。预测系统可以支持人员配置和设备规划。客户服务工具可以帮助客服人员在通话期间快速找到复杂信息。

公用事业企业还面临不断增长的需求和更复杂的电网条件。National Grid Partners 与该调查同期发布的一项调查称，78% 的受访公用事业创新负责人正在部署或推动至少一项用于并网需求的 AI 应用投入运营。由于该研究由该公司赞助，这一数字应被视为行业信号，而非独立普查。

这些潜在收益说明，全面禁止也会带来自身风险。拒绝使用有价值的检测工具，可能让公用事业企业依赖更慢的流程。真正相关的问题是，特定系统能否在与其角色相称的控制措施下改善决策。

纽约州委员会已表明，它通过关键基础设施的视角看待数字系统。今年 4 月，它为受监管的电力、燃气、蒸汽和供水服务商通过了可执行的 公用事业网络安全规则。

这些规则要求建立基于风险的网络安全计划、访问控制、身份验证实践、入侵检测和响应规划。规则于 2026 年 6 月 1 日生效。AI 调查在不到四个月后随之而来。

两项行动彼此相关，但不能相互替代。传统网络安全关注攻击者能否入侵系统或其数据。AI 治理还必须追问：获授权的系统在正常使用中是否会表现不准确、不透明或不一致。

模型无需遭到黑客攻击也可能失效。其训练数据可能遗漏重要情境；供应商更新后，其输出可能发生变化；员工可能将其用于经过测试的用途之外。即使统计预测本身正确，当它嵌入有缺陷的流程时，仍可能造成不公平的结果。

委员会特别强调了幻觉、算法偏见、透明度问题、隐私风险、配置错误、网络攻击和功能脆弱性。功能脆弱性是指系统在熟悉条件下表现尚可，但在环境变化时会急剧失效。

这些担忧与联邦AI 风险框架一致。NIST 围绕治理、映射、衡量和管理来组织 AI 风险管理。该框架将有效性、安全性、透明度、隐私和公平性视为相互关联的特征，而非彼此孤立的核对项。

NIST 的框架仍属自愿性质，而纽约的调查则来自行业监管机构。这一区别意义重大。公用事业公司的申报材料可以将一般风险原则与具体系统、负责高管、运营程序以及公共服务义务联系起来。

关键基础设施也改变了可接受的举证标准。照片滤镜推荐和巡检模型可能采用相关技术，但错误结果造成的后果并不相同。当系统影响安全、可靠性、计费或基本服务获取时，监管机构合理地会要求更严格的验证。

联邦政府也作出了类似区分。国土安全部的关键基础设施框架要求实施网络安全控制、保护客户数据、评估失效模式，并提供具有实质意义的透明度。

纽约的调查可以将这些原则转化为针对公用事业的监管。它可以追问：由谁批准模型、多久测试一次性能，以及系统产生不可接受的输出时会如何处理。

因此，核心矛盾并不是 National Grid 与另一家公用事业公司之间的对立，而是公用事业创新与可问责控制之间的平衡。

当模型覆盖更多数据和决策时，公用事业公司能够获得价值。监管机构则会在权限受限、记录可查、故障触发纠正行动时更有信心。这些目标可以共存，但前提是企业能够说明具体如何实现。

这一披露流程将对治理团队施加与工程团队同等的压力。律师必须解读命令。采购团队必须识别供应商功能。安全专家必须梳理数据流。业务负责人必须解释实际用途，而非预期用途。

强有力的回应将把这些视角联系起来。薄弱的回应则会在不完整的运营清单旁展示一份包装精美的 AI 政策。

单靠披露无法证明 AI 系统是安全的

清单能够带来可见性，但无法验证模型性能，也无法阻止有害部署。

委员会的命令是必要的第一步，因为无法监管未知系统。然而，即使是一份完整清单，也可能掩盖薄弱的控制措施。该州需要区分有文件记录的治理与经过检验的治理。

一项政策可能要求对高影响输出进行人工审核。但这一表述并不能说明审核人员是否拥有足够的时间、专业知识或信息来反驳模型。它也无法显示这种异议是否会影响绩效考核。

同样，供应商可能宣传准确率，却没有在公用事业公司的数据和运营条件下测试系统。平均基准测试结果无法证明系统在风暴、设备退化、异常账户争议或传感器覆盖不完整时的可靠性。

因此，委员会应审查每个系统的预期用途及其可合理预见的滥用情形。它应询问测试了哪些结果、哪些群体或运行条件代表不足，以及由谁负责补救。

生成式系统需要特别审查，因为流畅的语言可能掩盖事实错误。NIST 将这类错误称为“虚构”，即以自信口吻呈现的虚假或错误内容。在公用事业客户服务中，经过润色的措辞可能使错误的政策答复更具说服力。

计算机视觉系统则呈现另一种不确定性。其失效可能取决于光照、摄像头角度、天气、设备类型或图像压缩。人工审核人员需要接触原始证据，而不只是模型生成的标签。

随着设备、气候模式、工作实践或传感器网络发生变化，预测系统可能出现性能下降。这就是模型漂移，即现实条件偏离开发期间所用数据时出现的性能衰退。

该命令还带来保密性问题。详细的系统图和漏洞信息若被不加区分地披露，可能造成安全风险。供应商也可能声称模型文档含有专有信息。

委员会需要获得足够细节以评估风险，同时避免为攻击者提供路线图。这很可能要求在公开申报与受保护提交材料之间进行谨慎划分。然而，过度保密会阻碍客户和独立专家评估具有重大影响的用途。

在 AI 直接影响个人的领域，公众透明度最为重要。客户应当知道，自动化系统何时会影响计费支持、投诉分流、服务资格或安全通信。他们还需要一条切实可行的途径联系到合格的工作人员。

调查范围之广也带来了另一项不确定性。“所有 AI”听起来很明确，直到公用事业公司将其应用于数十年的分析软件。传统统计模型、基于规则的自动化、机器学习和生成式 AI 之间可能存在重叠。

定义过窄会遗漏有影响力的系统。定义无限扩张则可能让监管机构淹没在低风险工具中，包括垃圾邮件过滤器或常规办公功能。初始清单完成后，基于风险的分类提供了更好的路径。

该州可以按后果和自主性对系统分组。低影响的起草助手不应受到与连接现场运营的软件相同的审查。安全系统应比格式化内部演示文稿的工具面临更严格的证据要求。

National Grid 和其他公用事业公司也可能识别出从未投入生产的实验系统。这些试点仍然具有相关性，因为其数据和访问安排可能产生风险。不过，监管机构应区分受控测试与活跃的决策系统。

最重要的质疑点在于，披露衡量的是组织认知，而非安全本身。公用事业公司可以准确知道自己使用了什么，却仍采用不足的测试。反过来，一份不完整的首次申报可能暴露清单管理弱点，却不能证明已部署系统造成了损害。

纽约应避免将披露系统的数量转化为简单排名。报告系统更多，可能反映更广泛的采用、更好的治理，或两者兼有。系统更少，则可能意味着克制、发现能力不足，或对命令作出了狭窄解读。

真正有用的比较将是控制质量。监管机构应寻找明确的负责人、清晰的用途、获批准的数据来源、测试结果、监测计划、供应商义务、人工覆核程序和事件记录。

他们还应审查退出计划。当公司可以批准一个系统、却缺乏在其性能不可接受后将其停用的流程时，AI 治理就是不完整的。

该调查尚未确定 National Grid 或其他被点名的公用事业公司滥用了 AI。它所确定的是，委员会认为当前的采用范围已经广泛到足以需要结构化监管。随着申报材料陆续出现，报道应保持这一区分。

三个信号将表明纽约的调查是否真正有力度

下一阶段将揭示，National Grid 的 AI 披露是会成为可执行的监管模式，还是仍只是一项一次性的清单工作。

第一个信号是 60 天期限结束后公用事业公司申报材料的质量。最强的提交材料会按用途、数据、自主性和后果对系统分类。它们会同时识别内部开发的模型以及嵌入供应商产品中的 AI。

关注公用事业公司是否描述实际工作流程。一份称 AI“支持维护”的申报材料价值有限。真正有用的披露应说明何种输入进入模型、模型产生何种输出、由谁审核该输出，以及后续可能采取何种行动。

National Grid 的申报尤其具有参考价值，因为该公司曾公开宣传与 AI 相关的基础设施技术。监管机构和客户将能够把这种创新叙事与其为纽约业务披露的治理实践进行比较。

详细的申报将强化这样一种看法：大型公用事业公司能够在复杂组织中追踪 AI。宽泛分类和反复提出保密主张则会削弱这一看法。

第二个信号是委员会如何处理风险分层。监管机构必须决定，是让每个系统接受类似审查，还是让审查强度随潜在危害而提高。

可信的风险模型会将客户权利、公共安全、电网可靠性和敏感数据置于优先级最高的位置。它也会考虑自主性。提出行动建议的软件，比无需批准即可执行行动的软件带来的直接风险更低。

关注是否出现涉及独立验证、事件报告、变更管理和定期性能测试的要求。这些措施将表明纽约打算在 AI 的完整生命周期内实施监管。

生命周期监管很重要，因为模型和供应商都会变化。2026 年 11 月提交的清单，可能在软件更新、收购、引入新数据源或扩大业务用途后迅速过时。委员会将需要制定报告重大变化的规则。

第三个信号是这项调查是否会产生可执行的保障措施。委员会表示，将评估披露内容，并确定是否需要额外保护措施和政策。这留下了几种可能的结果。

它可以发布一般性指导意见、建立定期报告机制、将 AI 控制纳入网络安全检查，或提出具有约束力的规则。它还可以为面向客户和与安全相关的系统设定具体预期。

若转向定期报告和基于风险的控制，将强化本文的核心判断。这会使披露成为持续的问责机制。若报告仅总结行业实践，却没有后续义务，则会削弱这一结论。

该州还应明确补救措施。当一个系统缺乏充分证据、暴露客户数据或在获批边界之外运行时，监管机构需要有可用选项。这些选项可能包括纠正计划、额外测试、限制使用或暂停使用。

与此同时，公用事业公司不应等待委员会最终政策出台。披露期限为建立一份统一、可问责的清单提供了即时理由，并应将其与采购、网络安全、隐私、运营和客户服务记录进行核对。

对技术团队而言，实际教训不止适用于纽约公用事业公司。当组织无法说明模型在哪里运行、由谁承担其风险时，AI 的采用就更难辩护。文档必须跟随部署，包括第三方提供的功能。

对企业采购方而言，这项调查凸显了每次 AI 采购都应提出的问题。哪些数据会离开组织？供应商能否解释模型变更？客户是否会收到事件通知？输出能否被审计、质疑和复现？

对客户而言，关键问题是救济途径。自动化不应使纠正账单、报告危险状况或对决定提出异议变得更加困难。人工审核只有在可获得且拥有相应授权时才有价值。

国家电网 AI 披露令始于一项简单要求：向监管机构说明 AI 正在被用于何处。其长远意义取决于纽约将如何处理这一答案。

未来三个月，应关注公用事业公司的清单是否完整、委员会的风险分类，以及是否会提出持续性控制措施。随后，对每一家在关键工作中部署 AI 的组织提出一个更棘手的问题：如果监管机构要求其在 60 天内提交一份完整、经得起审查的使用图谱，该组织能否拿得出来？