机构无法治理它们找不到的 AI 系统

Google News 突显了公共机构面临的一项尖锐矛盾：AI 治理始于发现那些往往在没有明确 AI 标识的情况下进入政府体系的系统。

政策可以禁止上传敏感数据、要求人工审核，或确立负责任使用原则。但如果官员无法识别已经影响公共事务的工具、嵌入式功能、供应商服务和员工试用项目，这些控制措施都无法发挥作用。

随着机构不再局限于孤立的聊天机器人试点项目，这一可见性缺口变得更加紧迫。AI 如今已出现在许可平台、翻译服务、文档系统、欺诈检测工具、呼叫中心及普通办公软件中。竞争不再是创新与审慎之间的较量，而是有文档记录、持续监测的采用方式，与中央领导层发现得太晚的碎片化使用方式之间的较量。

Google News 标题对 AI 清单的正确判断

AI 清单正成为公共部门监督的运营起点，而非又一份行政表格。

经由 Google News 发布的标题抓住了一项基本的治理问题。机构在划分风险、测试准确性或明确责任归属之前，必须先确定有哪些系统，以及它们如何被使用。

这听起来很直接，直到官员开始界定什么才算 AI 系统。一个部门可能会披露生成式聊天机器人，却忽略现有软件中包含的自动排序、文档分类、预测、转录或图像识别功能。

因此，清单涵盖的范围不能仅限于通过 AI 合同采购的产品。它还应包括内部开发的模型、供应商托管服务、可选软件功能、员工自行选择的工具，以及通过旧协议继承的自动化系统。

公共机构还需要记录用途，而不仅是产品。同一个模型既可以协助起草内部备忘录，也可以建议某人是否应获得政府福利。这些应用带来的后果截然不同。

一份有效的清单记录应列明负责部门、业务目的、受影响群体、数据类别、供应商、模型或服务、决策权限、人工审核流程和当前部署状态。它还应记录个人是否能够对输出结果提出质疑。

这一区别之所以重要，是因为应用清单只能回答一个狭窄的问题：组织批准了哪些软件？治理需要给出更广泛的答案，即自动化分析在哪些地方改变了公共事务，或影响了居民。

联邦政府的经验显示了其中涉及的规模。对最新合并清单的一项 2026 年审查发现，41 个机构报告的 AI 用途超过 3,600 项，而 2023 年约为 700 项。这项联邦采用审查还发现，报告中的采用情况仍主要集中在规模较大的机构。

这些数字表明增长迅速，但并不能证明每一项部署都已被纳入统计。报告规则会变化，机构对定义的理解各不相同，员工也可能在未形成正式采购记录的情况下使用外部服务。

这留下了两类可见性缺口。第一类是影子 AI，即未经中央批准或审查而使用的工具。第二类是嵌入式 AI，即被添加到机构已拥有产品中的自动化功能。

嵌入式系统尤其难以追踪。供应商可能在一次常规软件更新中启用摘要功能、更换模型提供商，或扩展自动推荐功能。

年度问卷无法可靠地发现这些变化。等到下一轮调查到来时，该功能可能已经处理过机密记录，或影响了数百项决策。

因此，清单需要具备更新机制。采购事项、合同续签、安全审查、软件发布和员工访问请求，都应触发对新增或变更 AI 能力的检查。

康涅狄格州提供了一种公共模式。该州表示，其每年维护一份获批系统清单，并通过多学科治理流程评估拟议用途。其州 AI 框架将技术、法律、政策、伦理和安全专业知识纳入审查。

年度公开发布可以提高透明度，但内部记录的更新速度必须快于公开发布周期。居民需要稳定的公开视图，管理人员则需要一份实时运行记录。

这种组合将清单工作转化为基础设施。公开文件支持问责，内部系统则支持有关访问、测试、采购、事件和退役的日常决策。

Google News 的读者或许会把关于清单的论点视为对加强记录管理的简单呼吁。但其更深层的含义要求更高。机构必须将 AI 发现视为一项持续控制措施，贯穿每个系统从最初提案到最终停用的全过程。

可见性缺口给采购、法律和项目负责人带来压力

不可见的 AI 会将风险从选择工具的人身上转移给仍须为其后果负责的官员。

首席信息官无法独自解决这个问题。他们通常管理获批基础设施、安全要求和企业合同，却不一定能看到员工打开的每一项网络服务，或供应商启用的每一项自动化功能。

采购团队也面临相关局限。征求文件可能会描述分析、工作流自动化或决策支持，却不使用“人工智能”一词。标准技术类别可能掩盖本应接受审查的机制。

法律团队往往在合同起草后才介入。届时，机构可能已经缺乏谈判筹码，难以要求模型文档、审计访问权、事件通知、数据限制，或对重大变更的提前通知。

项目负责人承受着另一种压力。他们了解工作流程和受影响的居民，但可能无法识别供应商的一项功能何时符合机构对 AI 的定义。

因此，每个群体都只能看到系统的一部分。当所有人都假定由另一个部门掌握全貌时，治理就会失效。

采购是最实际的入口，因为它可以在部署前要求披露。供应商应说明哪些功能使用 AI、它们处理哪些数据、有哪些第三方参与，以及系统在购买后是否会发生变化。

合同还应处理更新问题。如果供应商后来更换底层模型、引入类似智能体的操作，或在未经重新审查的情况下延长数据保留期限，投标期间作出的披露就会失去价值。

AI 智能体是能够为实现目标规划或执行一系列行动的软件。这使变更控制尤为重要，因为该系统可能不止生成一项建议。

传统聊天机器人会返回供人评估的文本。智能体则可能检索记录、修改案件、发送通知，或启动另一项流程。运营风险取决于权限、可逆性以及受影响记录的数量。

项目办公室必须用通俗语言说明这些后果。对模型的技术描述无法揭示：一次错误究竟只是延误一份常规备忘录，还是阻碍某人获得住房援助。

马里兰州将清单工作与现有技术治理相结合，而不是另建一套割裂的报告工作。其公开的AI 清单流程描述了一个与州审查架构及机构使用案例报告相连接的目录。

这种整合意义重大。机构已经维护采购、网络安全、隐私、档案和供应商管理流程。当这些系统能够交换信息，而不是要求单独提交一份人工材料时，AI 发现工作会更有效。

法律授权也正在增加压力。马里兰州法律规定，州属单位使用的高风险系统须履行清单和影响评估义务。相关时间表区分了较新的采购项目与较早获得的系统。

但仅靠截止日期无法产出准确的清单。机构仍需有一套可辩护的方法，用于发现授权之前采购、或以其他标签分类的技术。

规模较小的地方政府面临这一问题最棘手的版本。它们通常使用与大型辖区相同的云服务，却没有专职隐私官、模型评估人员或 AI 采购专家。

Governing 引述的一项 2026 年宾夕法尼亚州调查发现，81% 的受访政府官员没有生成式 AI 政策。在这些受访者中，62% 认同制定此类政策具有价值。

缺少政策是严重问题，但能力有限带来的约束更大。一个小型市政机构可能知道员工正在使用 AI 助手，却没有足够专业能力来评估数据流，或谈判专门的合同条款。

共享服务可以提供帮助。州、县、协会和较大城市可以发布通用定义、受理表单、获批使用模式和合同条款，也可以为较小辖区提供审查支持。

这并不会消除地方问责。它为官员提供可用的基准，并降低每个市政机构重复开展同一供应商调查的可能性。

被迫作出的回应是组织层面的，而不只是技术层面的。采购部门必须提出更好的问题，法律团队必须确保持续披露，安全团队必须绘制访问映射，项目负责人则必须对实际使用负责。

这种压力将持续存在，因为 AI 的采用速度快于政府预算和合同安排。一个获批用于某一目的的系统，可能在原始协议到期前很久就获得新功能。

无法连接这些部门的机构，只能通过不完整的快照进行治理。建立共享记录的机构，则能从零散认知转向可问责的决策。

核心冲突是有记录的采用与影子 AI 之间的较量

这场核心较量发生在机构能够追溯的系统，与因便利性、默认设置和披露不完整而扩散的 AI 使用之间。

影子 AI 并不总是始于蓄意违规。它往往始于员工使用熟悉的公共工具来总结文档、润色电子邮件、翻译通知或分析电子表格。

眼前的好处很明显。该工具减少重复工作，并可在几秒内产出结果。治理成本则会一直隐藏，直到有人追问：哪些信息离开了机构，或输出结果如何影响了决策。

封锁所有公共服务可能会迫使使用行为进一步转入地下。面对工作压力的员工，可能转向安全团队无法观察的个人设备、私人账户或产品。

一种务实的替代方案，是将获批工具、明确边界、培训和适度监测结合起来。员工需要知道哪些数据可以输入系统、哪些任务需要人工核验，以及哪些决策不能被委托出去。

嵌入式 AI 为绕过正式审查开辟了第二条路径。一个机构可能在某个产品尚未包含生成式功能之前，就已批准其作为记录平台、办公套件或案件管理产品使用。

随后，供应商通过一次常规更新加入摘要或推荐功能。用户看到的是一个便捷按钮，而原有的安全与隐私审查仍聚焦于先前版本的产品。

这正是仅按产品建立清单不足以应对的原因。机构需要从功能层面了解情况：一项实质性功能是否改变了数据使用方式、决策权责或出错风险。

供应商披露必不可少，但无法提供完整答案。供应商有动力广泛宣传 AI 功能、狭义描述技术依赖关系，或将模型变更视为普通服务改进。

政府客户需要合同条款要求供应商就影响风险的变更发出通知。他们还需要技术和行政手段，以确认员工能够访问哪些内容。

单点登录日志可以显示对已获批准服务的访问情况。浏览器和网络监测可以识别部分未经批准的域名。费用记录、服务台工单、调查和软件清单也能提供额外信号。

这些方法没有一种是完整的。技术扫描可以识别某项服务，却未必能说明其用途。员工访谈可以了解用途，却可能遗漏偶发或未经授权的使用。

最佳发现流程应综合多种证据。它将采购记录、身份日志、网络观察、供应商披露、项目访谈、隐私评估和安全审查进行比对。

这种比对应当产生问题，而不是自动提出指控。一项此前未知的 AI 功能可能风险较低、已被禁用，或与公共决策无关。发现是分类的起点。

分类随后决定应对方式。用于处理公开信息的写作助手，与为检查、就业申请或福利申请评分的系统，需要不同的控制措施。

高风险并不只是技术更先进。它描述的是错误带来的后果、数据的敏感性、受影响人群，以及人工纠正的机会。

这种方法类似于网络安全中的资产管理。组织无法修补、监控或淘汰自己不知道存在的设备。AI 又增加了一个维度，因为一个已知产品可以在名称不变的情况下改变其行为。

美国国家标准与技术研究院的 AI risk framework 围绕治理、映射、测量和管理风险组织工作。发现工作支持这一周期的每个环节。

映射需要了解预期用途和受影响人群的背景。测量需要与该背景相关联的测试。管理则需要一位能够调整、暂停或淘汰该系统的负责人。

静态清单仍可能制造虚假的信心。官员可能为一份完整的电子表格而庆祝，但系统已逐渐偏离最初获审查时的条件。

模型漂移是指随着数据、环境或系统组件演变，性能或行为发生变化。即使机构从未重新训练模型，供应商更新也可能带来类似变化。

持续更新清单并不意味着持续进行人工检查。它意味着要界定哪些事件需要重新评估，例如新增数据来源、更换模型、扩大用户群、改变用途、发生事件或收到公众投诉。

这是本文的核心权衡。便捷访问有助于员工试验并改进服务，但分散式采用会削弱可见性。严格的集中控制能改善监督，但过多摩擦会鼓励绕行，并拖慢有益部署。

答案不是最大程度限制，而是建立足够快速的审查体系，使员工更愿意选择获批准的路径；同时又足够严谨，让影响重大的用途得到审查。

这使响应速度成为一种治理控制。如果一个低风险摘要工具的审批需要数月，正式流程就会与人们实际的工作方式越来越脱节。

领导者应根据后果设置审查通道。低风险用途可遵循标准条件；而影响权利、资格、执法、安全或就业的系统，则应接受更深入的评估。

只有在已记录的路径仍然可用时，文档化采用才能发挥作用。否则，清单记录的只是组织领导者希望拥有的样子，而非实际运行中的组织。

为什么 AI 清单仍可能制造虚假的信心

发现一个系统是必要条件，但清单并不能证明该系统公平、安全、准确或治理良好。

登记册可能成为一项合规工件。各部门提交条目，中央人员发布一份清单，所有人便假定最重要的工作已经完成。

条目可能描述了获批准的用途，却未反映实际使用情况。它可能列出供应商，却遗漏分包商、模型提供商、数据来源或外部插件。

它也可能依赖自行报告。员工和承包商无法披露他们未能识别的功能，供应商也未必会以清晰的格式公开每一项依赖关系。

即使准确的条目也会迅速过时。一个系统可能从起草内部文本，扩展到生成面向居民的沟通内容。一个试点项目也可能在没有正式决策节点的情况下变成常规工作流程。

这些局限并不意味着清单毫无用处。它们说明，发现工作必须与责任归属、评估、监测和事件响应相连接。

每一项列出的用途都应有一位承担责任的业务负责人。此人不必理解每个模型参数，但必须了解该系统的目的、后果，以及停止使用系统的条件。

技术责任归属则不同。信息技术部门或供应商可以维护平台，而项目办公室仍应对输出如何进入公共决策负责。

因此，有意义的记录应识别这两种角色。否则，项目部门可以责怪技术办公室，而技术办公室则会称自己只是提供了一项工具。

影响评估构成下一层保障。它们考察受影响群体、可预见的伤害、数据质量、测试、申诉程序、人工监督以及自动化的替代方案。

然而，部署前进行的评估仍然只是一种预测。实际表现取决于用户行为、不断变化的数据、运营压力，以及进入系统处理的具体案例。

部署后，监测必须检验这些假设。机构应追踪错误模式、人工覆盖、投诉、处理结果、安全事件，以及相关群体之间的差异。

公共透明度又增加了一项约束。机构应披露足够的信息，使居民能够理解影响重大的用途，同时不公开安全敏感细节或受保护的个人数据。

经济合作与发展组织强调，公众信任部分取决于人们是否相信政府能够负责任地监管新兴技术。其 public trust findings 将治理质量与对公共部门 AI 更积极的看法联系起来。

仅靠透明度无法赢得这种信任。如果居民后来发现，某个未列入清单的系统影响了执法、就业或服务获取，那么公开清单就会失去可信度。

准确性也比清单规模更重要。拥有 200 条模糊记录的司法辖区，未必比拥有 40 条精确、最新且与实际控制措施相连的记录治理得更好。

因此，机构之间的比较可能产生误导。数量上升可能意味着采用速度更快、报告有所改善、定义范围扩大，或三者兼而有之。

同样的谨慎也适用于联邦层面报告用途超过 3,600 项的增长。这个数字显示了活动增加和可见性改善，但无法证明各机构报告的完整性或质量。

2026 年发表的独立研究审视了多种联邦披露制度，发现没有单一系统能够完整描述政府如何构建或部署 AI。这一发现表明，即使成熟的报告结构也可能使相关信息碎片化。

另一个风险是范围膨胀。如果清单纳入每一项基础自动化规则，审查人员可能将有限的注意力投入低后果工具，同时遗漏那些实质性影响个人的系统。

定义应足够宽泛，以防止规避，但也应配合风险分层。发现工作应广泛覆盖，而评估资源则应跟随后果而配置。

机构还必须保留组织记忆。人员流动、重组和合同到期，都可能使系统与理解其最初限制条件的人脱节。

清单应保留决策、测试结果、批准条件、事件和变更历史。新负责人需要的不只是产品名称和上线日期。

对于任何管理复杂 AI 支持型工作的组织而言，知识连续性都很重要。团队可以通过维护可搜索的 technical knowledge base 来改进这一点，将政策、评估、合同和运营证据关联起来。

不过，文档不能成为判断的替代品。一份组织良好的记录可以证明曾经进行过审查，却不能证明审查者提出了正确的问题。

最值得重视的怀疑性解读是：清单项目可能让可见的 AI 看似受到控制，而未被观察到的使用仍在其他地方持续进行。

机构应检验这种可能性。它们可以将中央清单与网络活动、员工调查、采购数据和供应商功能列表进行比对，然后调查具有实质意义的差异。

它们还应为员工提供安全的报告渠道。当应对重点是纠正风险，而不是自动惩罚时，员工更可能披露试验性使用。

最后，领导者应在公布总数的同时说明局限性。一份可信的清单会解释其范围、报告方法、更新时间、排除项和不确定性。

这种诚实不会削弱治理。它可以防止一份暂定记录被误认为完整地图。

在 Google 新闻周期过去后，机构应关注什么

下一项考验是，政府能否将清单公告转化为可观察的控制措施，并在产品和工作流程变化后仍保持准确。

第一个信号是公共清单的质量。由于法律、行政政策和公众期待鼓励披露，更多司法辖区将发布清单。

读者应超越条目数量本身。强有力的记录会以居民能够理解的语言，说明用途、负责机构、目的、状态、风险级别以及人工审查的角色。

纽约州的清单指南提供了一个例子，说明州政府如何在各政府实体之间界定共同的报告预期。其 inventory guidance 着重于识别正在使用的系统，并支持选定数据的公众可访问性。

如果公开记录变得更具体，并且随着时间推移更易比较，文档化采用模式便正在取得进展。如果清单仍然模糊或只出现一次，可见性问题就仍然存在。

第二个信号是采购语言。机构应要求供应商识别 AI 功能、模型提供商、训练或运营数据实践、更新机制以及实质性变更。

政府问责局在 2026 年 4 月报告称，部分联邦机构并未系统收集 AI 采购中的经验教训。其采购评估将共享学习视为改进未来采购的重要环节。

应关注政府是否制定可复用的合同条款和审查结论。这将表明，发现工作正在影响机构如何采购技术，而不只是影响它们事后如何描述相关情况。

还应关注合同是否在系统发生变化时赋予机构通知权和选择权。若供应商能够在缺乏实质性审查的情况下替换模型，昨日的评估就可能失去效力。

第三个信号是持续核对的证据。机构应将其清单与身份日志、安全工具、支出数据、软件记录及员工报告进行比对。

清单规模增长并不必然意味着失败，它也可能表明发现工作正在改善。真正重要的问题是，新发现的使用场景是否获得了责任人、分类以及纠正措施。

公开的事件报告将提供另一条线索。一个没有报告 AI 问题的机构，可能拥有出色的控制措施，但也可能缺乏发现和披露问题的渠道。

领导者应追踪险些发生的事件，而不仅是已确认的伤害。即使供应商没有保留数据，或没有居民遭受不利后果，机密文件被上传至未经批准的助手也值得关注。

Google News 的头条很快会被另一场 AI 政策争议取代。但核心的运营问题仍应是：一个机构能否说清哪些系统正在影响其工作、解释这些系统的用途，并说明谁有权停止它们？

对于公共部门员工而言，在敏感信息进入提示词之前，这一问题就应影响工具选择。对于技术采购方而言，在供应商变得难以替换之前，这一问题就应影响合同设计。

对于居民而言，清单质量提供了一种实用方式，用于判断负责任 AI 的承诺是否已转化为实际运行的控制措施。应询问公开清单是否涵盖实际使用情况、是否明确人类责任，并记录有实质意义的更新。

发现 AI 并不是整个治理计划的全部。它是口号与证据交汇的起点。当下一则 Google News 报道聚焦于一次失败的自动化决策时，最能说明问题的事实将是：官员是否在该系统造成伤害之前，就已知道它的存在。