政府 AI 领导力面临认知与现实之间日益扩大的鸿沟

Google News 推送了一场关于 AI 领导力的 GovTech 讨论，但这则标题揭示的冲突远不止于一个新闻周期。政府领导者日益将 AI 描述为已投入运营，而公民和员工仍在质疑已部署的系统是否值得信任。

这种鸿沟并不只是传播问题。机构可以启动试点、任命 AI 官员并发布政策，却未必能证明这些系统以公平的方式改善了服务。公众对 AI 的体验，往往来自迟迟未见的收益、不清晰的决策、隐私担忧以及偶发的失败。

因此，真正的较量并非政府热情与公众抵触之间的对立，而是制度雄心与运营证据之间的较量。Google News 可以放大这种雄心，但机构必须通过可衡量的成果、透明的控制措施和可问责的领导力来提供证据。

私营企业可以撤下表现不佳的产品，或改变其服务条款。公共机构面临不同的标准，因为居民往往无法选择另一家税务机构、福利系统或许可主管部门。一次失败的政府部署可能影响权利、付款、记录以及获得基本服务的渠道。

这种差异改变了领导力的含义。公共部门高管不能仅通过采用率衡量进展。他们必须将每个 AI 系统与明确的服务问题、责任负责人、书面保障措施和退出计划关联起来。

Google News 的标题究竟改变了什么

这则标题将熟悉的 AI 采用之争转变为对领导力问责的考验。

这场 GovTech 讨论 出现之际，政府 AI 项目正从孤立的实验走向更广泛的应用。各机构如今面临压力，需要在整个组织内协调采购、数据控制、员工培训和公众沟通。

这种变化并非某一款产品的发布，而是公众愈发期待公共领导者能够区分有用的自动化与令人印象深刻的演示。随着生成式 AI 进入日常办公工具和供应商平台，这一区分变得更加困难。

生成式 AI 根据训练中学习到的模式生成文本、图像、代码或其他内容。它可以加快起草和研究，但流畅的输出并不保证其准确或合法。

Agentic AI 又增加了一层复杂性。AI agent 是一种软件，能够在有限人工干预下规划步骤并为实现目标采取行动。让这类系统访问记录或工作流程，会同时扩大其价值和潜在后果。

政府领导者现在必须决定，辅助功能止于何处，而授权决策从何处开始。起草助手对应一种风险状况；推荐资格决定、确定调查优先级或触发交易的系统则对应另一种。

这种区别很容易在高管汇报中被忽略。仪表盘可能统计活跃工具数量，却不区分低风险的摘要生成与具有重大影响的决策支持。因此，十个试点项目可能营造出成熟的印象，却很少揭示实际运营准备度。

Google News 的曝光可能加剧这一效应。聚合标题偏好关于领导力、加速和转型的简洁表述，却很少呈现数据清单、申诉流程、无障碍测试或采购条款等更缓慢的工作。

这并不意味着标题具有误导性。它只是表明，除非读者追问组织能够安全运行什么，否则“AI 领域领先”这一说法并不完整。领导力始于选择恰当的用途，而非积累最多的试点项目。

最可信的机构正从边界明确的问题入手。员工可能利用 AI 总结冗长的内部材料、整理公众意见或检索已批准的信息。人类仍负责审查输出并作出具有重大影响的决定。

这些用途仍可能出错。摘要可能遗漏关键例外情况，检索软件也可能呈现过时的政策。明确的范围使这些失败更容易在影响居民之前被识别、衡量和纠正。

这是这一叙事中的第一次反转。部署数量较少的机构，若其系统具备更强的控制措施和更清晰的证据，反而可能走得更远。数量代表活跃度，而严谨的运营代表能力。

公众的乐观止步于问责开始之处

相比政府对公平、隐私和监督的承诺，人们更愿意接受 AI 带来的效率。

OECD 2026 年信任研究为这一分歧提供了最清晰的证据。其调查涵盖 33 个参与国和 5 个入围国，使用了 2025 年期间收集的受访者反馈。

超过五分之二的受访者认为，AI 可以帮助政府改善服务或降低成本。根据 OECD 信任调查，人们对公平、透明度、隐私保护和有意义的人类监督的信心则较低。

这一模式之所以重要，是因为它将对技术的信念与对部署该技术机构的信心区分开来。居民可以期待更快的服务，同时不信任机构如何实现这种速度。

OECD 发现，人们对新兴技术监管的看法与其对公共部门 AI 的态度之间存在尤为强的关联。这一发现并不证明监管会自动创造信任，而是显示机构行为会塑造人们如何理解技术系统。

公共领导者常以宣传教育活动回应质疑。更好的解释可能有所帮助，特别是在居民几乎没有直接使用某个系统经验时。但沟通无法替代可获取的记录、独立测试或真正的申诉渠道。

被拒绝福利的居民需要的，不只是 AI 总体上有用的保证。此人需要知道自动化是否影响了决定、哪些信息进入了流程，以及如何对错误提出质疑。

人类监督也不仅仅是让一名员工待在系统旁边。审查者需要时间、权力、背景信息以及足够的技术理解，才能否决系统建议。否则，人类就会沦为象征性的检查点。

自动化偏见是指即使存在相反证据，人们仍倾向于接受计算机生成建议的现象。高工作负荷会加强这种倾向，因为批准一项建议通常比调查它更快。

这带来了棘手的领导力问题。机构可能引入 AI 来减轻员工过载，但同样的工作负荷也可能削弱原本用于防止伤害的审查控制措施。效率与监督不能被分开规划。

不同服务中的信任形成也并不均衡。居民或许欢迎解释办公时间的聊天机器人，但对于影响儿童福利、警务、税务、医疗服务或就业决定的软件，他们合理地会要求更多证据。

因此，领导者需要反映后果而非技术新颖性的风险分类。若一个熟悉的统计模型会影响重大决定，它造成的伤害可能比新聊天机器人更大。

OECD 还报告称，对 AI 的熟悉程度与更积极的预期相关。这并不能成为将持怀疑态度的居民视为无知者的理由。熟悉可以增进理解，而对不公平系统的个人经历也可能带来有根据的谨慎。

这正是“认知与现实”框架在两个方向上都适用的原因。公众的担忧可能超过某个范围有限工具所展示的风险；高管的乐观也可能超过支持大规模部署的证据。

好的领导力不会认定其中一种认知才是正确的。它会建立流程，根据有记录的表现、用户体验和实际事件来检验两种观点。

压力落在 CIO 和机构高管身上

公共技术领导者必须将广泛的 AI 热情转化为能够经受运营、法律和公众审视的决策。

直接压力落在首席信息官、首席数据官、机构高管、采购团队和项目负责人身上。每个群体掌控系统的一部分，但居民体验的是整体结果。

所有权分散会产生可预见的缺口。技术团队可能验证系统性能，而项目办公室却定义了错误的成功指标。采购人员可能争取到有利条款，却未能获得充分的审计访问权限。

员工队伍也有自己的视角。高管看到问题之前，员工往往已经遇到不可靠的输出、令人困惑的政策和工作流程摩擦。他们可能悄然停止使用获批准的工具，或转而采用未经批准的替代方案。

关于政府雇员的研究发现，对 AI 的支持与感知收益、熟悉程度以及对长期影响的看法相关。正如其 公共行政研究 所述，该研究还强调了培训和员工参与对可持续采用的重要性。

培训不能停留在一次性介绍禁用数据的演示。员工需要与其工作相关的示例，包括系统擅长处理什么，以及何时需要升级处理。

他们也需要得到许可，可以报告问题而不会被贴上抗拒变革的标签。如果领导者奖励采用数量，管理者可能会感到压力，从而掩盖弃用、变通做法或薄弱的结果。

必要的回应是组织层面的，而非技术层面的。每个已部署系统都需要一名高管负责人、一名运营负责人、一名数据负责人，以及一条供受影响人士寻求复核的渠道。

这些角色在采购完成后仍应保持明确。供应商可以支持测试和监控，但机构不能将公共决定的问责责任外包。

Georgia 提供了一个当前以基础设施优先应对的模式。该州宣布将与 Darwin AI 合作，建立全州范围的 AI 使用视图，并构建通用治理基础设施。

该计划旨在为政策管理、合规、记录和跨部门监督提供一个共享平台。Georgia 的护栏措施 显示，领导者正试图在扩大规模之前解决采用碎片化问题。

不过，集中式可见性只是起点，并不能证明系统表现安全。清单可以揭示系统存在于何处，却无法确定其输出是否准确或公平。

机构既需要中央规则，也需要本地专业知识。全州办公室可以制定要求，而项目专家则评估福利、交通、惩教或公共卫生领域的后果。

知识管理也成为这一基础设施的一部分。政策、评估、事件记录和获批准的使用案例必须保持可搜索且及时更新。一个可搜索的知识库可以帮助团队追溯决策，而不必依赖散落的文件。

目标并不是将 AI 植入每一个流程，而是让审查系统和服务居民的人员能够获取机构知识。

这种压力还将持续多年，因为政府技术的变化速度慢于供应商产品。遗留系统、采购周期、档案法规和人员限制，并不会因为新模型进入市场就消失。

因此，短暂的产品周期与长期的公共责任发生碰撞。领导者需要能够容忍供应商变化、模型更新、人员流动和新法律要求的设计。

真正的分界线在于部署与证据

当一个机构能够说明 AI 系统做什么、如何失效，以及谁仍承担责任时，它才具备可信度。

这个故事中的核心对立并非政府与科技公司之间的对立，而是可见部署的承诺与可衡量公共价值的现实之间的差距。

试点公告描述的是意图。运营证据描述的则是系统在正常条件下的结果，包括棘手案例和高需求时期。

机构应在引入自动化之前建立基线。如果领导者不衡量当前的处理时间、错误率、员工投入、申诉情况和用户满意度，后续关于改进的说法就缺乏背景。

仅有速度还不够。一个系统可能缩短初始处理时间，却带来更多更正、投诉或升级处理。这些后续成本也应纳入同一评估。

质量同样需要针对具体服务进行定义。在某个工作流程中，准确性可能意味着忠实地总结内容；在另一个流程中，它可能要求找出居民记录中每一项具有法律相关性的例外情况。

公共价值还包括分配公平性。平均改善可能掩盖残障人士、英语能力有限者、记录异常者或数字服务访问不稳定者面临的更差结果。

领导者应公开足够的信息，让居民能够理解系统，同时不暴露敏感的安全细节。有用的信息披露应说明用途、负责部门、数据类别、审查流程和已知限制。

联邦政府已有可供机构调整采用的框架。美国政府问责局围绕治理、数据、性能和监测来组织 AI 问责机制。

这些类别将高管责任与运营实践联系起来。治理界定权责，数据工作审查输入，性能测试评估行为，监测则检查部署后条件是否发生变化。

GAO 问责框架还将监督视为一项持续性的责任。这一点很重要，因为一个在试点期间表现尚可的系统，可能会在工作流程、用户或数据发生变化后出现漂移。

监测不应只记录技术正常运行时间。机构还需要关注投诉模式、人工覆盖率、申诉结果、事件报告，以及受影响群体之间的差异。

对人工覆盖数据应谨慎解读。低覆盖率可能意味着系统表现良好，也可能意味着员工缺乏时间、权限或信心提出异议。

高覆盖率可能说明模型存在缺陷，但也可能表明人工审查正在发挥作用。领导者需要在数字之外进行定性审查。

采购条款决定这些证据能否持续获得。合同应涵盖评估访问权、模型变更、日志记录、数据留存、分包商、事件通知和终止支持。

供应商的专有设计并不能免除机构解释公共决策的责任。如果一个机构无法获得足够信息来评估具有重大影响的系统，这一限制应影响采购决策。

这一原则在基础模型领域更为重要。基础模型是适用于多种任务的通用模型。其广泛能力可能促使机构在风险差异很大的工作流程中使用同一项服务。

模型更新也可能在没有传统软件发布的情况下改变输出行为。机构应了解何时发生重大变更，以及此前的评估是否仍然适用。

证据门槛应随潜在伤害而提高。起草内部会议摘要需要控制措施，但不应获得与推荐执法目标相同级别的审查。

领导者还应在上线前界定失效边界。他们需要明确暂停系统、恢复原有流程以及通知受影响用户的条件。

这种运营纪律很少能成为最吸引人的 Google News 标题。但它决定了在公众注意力转移后，领导力主张是否依然站得住脚。

护栏必须在工作流程中发挥作用

只有当保障措施影响日常决策，而非仅存在于政策文件中时，治理才会成功。

如今许多组织都有 AI 原则。能证明这些原则如何改变采购决策、防止不安全使用或解决已报告问题的组织却少得多。

NIST AI 风险管理框架通过四项相互关联的职能提供了实用结构：治理、映射、衡量和管理。它将治理视为系统生命周期中持续存在的一部分。

NIST AI 框架是自愿采用的，面向各行业组织设计。它的价值在于将领导层选择与测试、文档记录和风险处置联系起来。

“治理”确立责任和组织预期。“映射”将系统置于真实的使用情境中。“衡量”评估风险和性能，而“管理”则确定响应优先级并监测结果。

机构可以将这些职能转化为工作流程关卡。在员工记录其用途、受影响用户、数据需求、替代方案和潜在伤害之前，拟议的使用案例不应进入采购阶段。

测试应反映真实运行条件。一个仅在干净示例上训练的聊天机器人，可能难以处理拼写错误、不完整的问题、多语言请求或包含例外条款的政策。

安全测试同样重要，因为生成式 AI 引入了新的攻击路径。提示注入是指恶意或不可信内容试图重定向模型行为。

一个面向公众的助手可能会从机构文件或外部来源中检索文本。如果系统将隐藏指令视为可信命令，攻击者就可能操纵其回复。

领导者不必成为模型工程师。他们需要具备足够的技术素养，以询问测试是否覆盖了可能的滥用、敏感数据暴露和失效恢复。

项目专家仍不可或缺，因为技术测试无法判断某个答案是否满足法律义务，或是否反映实际服务政策。

一线员工应在需求确定前参与其中。他们知道哪些记录不完整、哪些地方会出现例外，以及哪些捷径会带来后续问题。

居民和倡导团体能够识别内部团队忽视的风险。当一个系统影响弱势群体或改变服务获取方式时，他们的参与尤为重要。

护栏也需要执行机制。若未与采购流程整合，系统清单就会允许新系统通过部门采购或嵌入式软件功能进入组织。

仅有获批产品清单并不足够，因为风险取决于使用方式。同一工具可能适用于头脑风暴，却不适合处理机密案件文件。

因此，领导者应授权使用案例，而不只是产品。授权内容应说明允许使用的数据、所需审查、监测要求和禁止行为。

影子 AI 仍是一项现实挑战。当获批系统缓慢、不可用或不适合工作需求时，员工可能会转向消费级工具。

仅靠惩罚无法解决这一问题。机构需要可用的替代方案、明确规则，以及能够揭示员工为何绕过获批流程的反馈渠道。

这里值得强调怀疑论观点。采用框架并不能证明系统值得信赖。一份格式规范的评估仍可能依赖薄弱测试或过于乐观的假设。

独立审查可以降低这种风险，尤其对于具有重大影响的用途。机构应将寻求部署的团队与有权质疑其证据的人员分开。

如果透明度报告只罗列系统而不说明结果，也可能流于形式。有效的报告应展示部署是否实现服务目标，以及事件发生后作出了哪些改变。

现实检验很简单：只有当护栏能够推迟上线、缩小使用范围、要求纠正工作或停止系统时，它才有意义。

三个信号将表明 AI 领导力是否真实存在

下一阶段将由证据、员工行为和公众救济决定，而非公告数量。

第一个信号是公共 AI 清单和影响报告的质量。机构应超越工具列表，转向说明用途、所有权、风险、性能和审查权利。

如果清单开始将部署与可衡量的服务结果联系起来，领导力主张就会更有说服力。如果它们仍然只是宣传目录，认知差距将扩大。

读者应关注基线和部署后的对比。有用指标包括处理时间、已纠正错误、申诉、员工工作量、用户满意度和无障碍服务结果。

第二个信号是员工是否持续使用获批系统，并在必要时对其提出质疑。采用自动化却缺乏知情审查，意味着可能存在自动化偏见；广泛回避则表明系统不适配或信任薄弱。

机构可以查看培训完成情况、活跃使用情况、已报告问题和人工覆盖模式。由于行为可能有多种解释，他们应将这些数字与访谈结合起来。

健康的项目会让异议可见。员工应知道何时必须核验输出，以及如何在不危及绩效评估的情况下升级处理故障。

第三个信号是居民是否获得有意义的告知和救济。人们应能够识别 AI 何时对一项服务产生了实质性影响，并联系到合格的人工审查人员。

告知必须使用通俗语言。一句机构“使用先进分析技术”的笼统表述，并不能说明自动化是否影响了个案。

救济也必须促成行动。若联系表单只是将用户送回同一自动化流程，就不构成人工审查。

这三个信号相互强化。更完善的清单能帮助员工理解获批用途。掌握充分信息的员工会形成更好的事件记录，而有效救济则会暴露内部测试遗漏的失效情况。

它们也为记者和研究人员提供了更有价值的报道线索。Google News 随后便能呈现有关结果的证据，而不只是有关势头的主张。

公共部门 AI 不需要在帮助人们之前获得普遍认可。它需要与风险相称的保障措施、清晰可见的责任，以及停止未能实现既定目的系统的意愿。

因此，领导力挑战不像标题所暗示的那样戏剧化，却在实践中要求更高。它包括设定限制、为评估提供资金、倾听员工意见，以及保留人工替代方案。

开发者应问自己，系统是否提供了足够信息以支持有意义的审查。企业买方应询问合同是否保留审计访问权和运营控制权。

知识工作者应当追问：生成的材料将在哪里进入正式记录，以及由谁负责核验。居民则应当追问：自动化建议能否被解释，以及能否提出申诉。

下一轮 Google News 周期又会带来新的模型、合作伙伴关系或全州计划。在称其为“领导力”之前，应先审视其背后的证据。

问三个问题：什么得到了改善，谁进行了核验，以及系统出错时会发生什么？如果一个机构能够回答这三个问题，认知与现实才终于开始更趋一致。