企业 AI 迫使高管在速度与控制之间取得平衡

Google News 推荐的一篇 Calcalist 评论文章指出了许多高管如今面临的矛盾：企业 AI 要求紧迫行动，但成功的采用过程依然顽固地呈现渐进式特征。

Google News 列表将这段旅程本身视为核心管理难题。这一框架挑战了高管们熟悉的行动剧本——以期限、集中式项目和快速全公司部署为基础的做法。

AI 供应商越来越多地描绘出一个由助手和自主智能体驱动的更快未来。但企业买家仍要面对碎片化数据、不确定的回报、员工抵触、安全审查，以及在生成式 AI 到来很久之前就已形成的工作流。

这并非又一场关于企业是否应该采用 AI 的争论。真正相关的问题是，高管如何在快速推进的同时，避免让试验演变为失控的运营风险。

当前采用数据所呈现的答案，既不是单纯谨慎，也不是一味加速。企业需要一种分阶段的运营模式，只有当系统通过可衡量的表现赢得信任后，才逐步扩大其权限。

Google News 将一篇管理评论转化为更广泛的警示

重要的变化并非新模型发布，而是对高管问题作出了更清晰的界定。

Calcalist 的标题将企业 AI 描述为一段渐进式旅程，并要求高管据此进行管理。这一论点出现之际，企业正从员工层面的试用，转向与内部数据和运营工具相连的系统。

早期的生成式 AI 采用相对容易控制。员工可以总结文档、起草邮件或生成代码，同时仍对最终结果负责。

这些互动能产出可见成果，却无需企业重构整个流程。它们也让高管可以将 AI 视为又一项软件功能，而非新的运营层。

这条边界正在消失。新的企业系统可以搜索内部知识库、检索客户记录、触发应用、起草决策，并协调一个工作流中的多个步骤。

AI 智能体是通过多项行动追求既定目标的软件，通常会使用模型、数据源和外部工具。它的价值会随访问权限扩大而增长，但造成损害的能力也会同步增强。

这一变化使 AI 采用从采购问题转变为管理问题。当更深层的挑战涉及权限、问责和工作流设计时，选择模型的重要性反而下降。

模型可以在受控演示中给出令人印象深刻的答案。但生产系统还必须遵守权限规则、保留记录、处理例外情况，并在数千次日常请求中保持一致表现。

这一区别解释了为何企业可以报告 AI 使用广泛，却在企业层面的财务影响上表现有限。个人生产力并不会自动转化为更好的经营结果。

McKinsey 的2025 年 AI 调查发现，仅 39% 的受访者表示 AI 已对企业层面的盈利产生影响。对大多数组织而言，从试点走向规模化价值的转变仍未完成。

这一差距并不意味着每个试点都失败了。它表明，有用的工具能够比将其转化为可衡量业务表现所需的组织变革扩散得更快。

Google News 在这里的意义是发现层，而不是这一论点的提出者。它将一篇管理评论纳入更广泛的信息流，其中包括模型发布、融资公告和采用声明。

这种对比很有启发性。新模型能力会吸引注意力，但高管层面的成果取决于模型周围的系统。

一个有用的助手可以为员工节省几分钟时间。一个生产级工作流则必须证明，这些时间是否改善了收入、成本、质量、风险或客户体验。

因此，高管需要区分三种不同的成就。接入意味着员工可以使用 AI。采用意味着他们会持续使用它。整合意味着这项技术改变了工作在企业中的流转方式。

许多组织已经实现了第一阶段。完成第二阶段的较少，而第三阶段则要求就角色、控制、数据和激励作出选择。

这段渐进式旅程始于认识到这些区别。否则，领导者会将账号激活误认为采用，将采用误认为转型。

这种误判会促使企业在团队尚未明确成功标准前就进行大规模部署。它还会形成一系列彼此脱节的试验项目，争夺数据、资金和技术支持。

因此，标题中看似克制的措辞比表面上更具影响力。渐进式采用并不意味着被动采用，而是基于明确证据逐步扩大范围。

企业可以在每个阶段内快速推进，同时拒绝跳过阶段之间的关口。这种做法既保留紧迫感，也不会赋予模型超出组织安全监督能力的权限。

压力落在运营领导者身上，而不仅是 CIO

即使技术团队拥有平台，企业 AI 仍要求业务领导者对工作重构负责。

首席信息官通常会建立获批模型、安全控制、数据连接和供应商标准。这些职责依然至关重要，但它们无法定义每项业务流程应如何改变。

销售负责人知道哪些客户建议需要人工审核。理赔主管了解何时应将异常案例升级处理。法务负责人能够识别哪些决策需要留存书面推理依据。

这些是运营判断，而非基础设施设置。当业务领导者将这些判断完全交给技术团队时，企业 AI 的采用就会停滞。

压力同样延伸至首席财务官。企业必须先建立基线，才能计算 AI 系统是否改善了业绩。

一个试点可能缩短起草时间，却增加审核时间。另一个系统可能更快结案，却带来更多申诉或客户投诉。

仅凭使用统计无法看出这两种结果。高管需要反映流程本身的结果指标，而不只是模型指标。

IBM 报告称，65% 的受访 CEO 正根据回报预期来确定 AI 用例的优先级。其CEO 研究还发现，68% 的受访者表示其组织拥有明确的创新回报指标。

这些数字反映的是高管意图，而非经独立审计的结果。但它们仍显示，财务问责正日益成为 AI 战略的核心。

压力也延伸至人力资源，因为采用 AI 会先改变工作岗位，再带来正式职位的消失或新增。员工可能会减少撰写初稿的时间，转而投入更多时间审查、纠正和整合信息。

这种转变需要新的预期。监督 AI 输出的员工需要具备专业知识、核验习惯，以及拒绝快速但不可靠答案的权限。

培训不能止于提示词示例。员工必须了解获批数据、禁止用途、升级规则，以及接受错误输出可能带来的后果。

管理者还需要识别隐性工作的方法。AI 系统可以减少可见的产出时间，却将精力转移到核查来源、修正格式或处理异常故障上。

如果这些任务始终未被衡量，高管就可能高估生产力。他们也可能因假设每一分钟节省都能转化为可用产能，而造成员工倦怠。

安全与合规负责人面临相关挑战。独立聊天机器人对应一种风险画像，而接入客户数据和运营系统的智能体则对应另一种。

后者可能因错误检索、权限过大或行动控制不足而暴露信息。它还可能产生组织必须保存和审计的记录。

这就是为什么高管管理 AI 的方式不能被简化为组建一个指导委员会。问责必须随每个已部署的工作流而定。

每个生产用例都需要一名业务负责人、一名技术负责人和一名风险负责人。一个人可以兼任多个角色，但职责必须保持清晰可见。

业务负责人定义期望结果和可接受的例外情况。技术负责人管理系统行为、集成、监控和恢复。

风险负责人确定所需控制措施和审核要求。他们共同决定系统是否已赢得扩大范围的资格。

这种结构也能防止高管支持流于象征。高级领导者不应只宣布一项 AI 计划，然后等待采用统计数据。

领导者必须解决速度与控制之间的冲突。这包括决定哪些工作流值得投资、哪些风险需要人工批准，以及哪些试验应当终止。

终止表现不佳的项目是胜任管理的一部分。当每个试点无论表现如何都能存续时，渐进式旅程就会变得昂贵。

组合纪律之所以重要，是因为企业 AI 会在模型、集成、评估、安全和员工支持等方面持续产生成本。当团队仍以试验预算运作时，这些成本可能被隐藏。

因此，高管应将 AI 项目视为运营变革，而不是孤立的技术项目。每项计划都需要明确的流程、基线、负责人、控制方案和可衡量的结果。

这一标准会淘汰一些吸引人的演示。但它也会将资源集中到能够产生持久价值的系统上。

真正的较量在于分阶段授权，而非即时转型

最强的企业 AI 战略会分阶段扩大系统权限，而不是将一次成功试点视为获得全公司自主权的许可。

第一阶段是个人辅助。员工要求 AI 总结、起草、比较、分类或检索信息，同时仍对每项行动负责。

这一阶段提供低成本的学习机会。它会揭示常见任务、数据缺口、员工顾虑，以及偶尔使用与可重复价值之间的差异。

它也存在局限。个人生产力提升可能停留在个体层面，因为周围的工作流并未改变。

第二阶段引入共享知识。AI 与获批的内部来源相连，同时遵守访问规则，并保留指向底层材料的链接。

检索增强生成，通常称为 RAG，会在模型回答请求时向其提供相关文档。它可以改善事实依据，但不能保证正确性。

检索质量取决于来源覆盖范围、权限、索引和文档的新鲜度。一份措辞流畅的回答仍可能遗漏关键证据，或将不兼容的记录混合在一起。

处于这一阶段的企业需要基于真实员工问题建立评估集。在评判回答风格之前，它们应先测试系统是否检索到了正确的来源。

可搜索的知识库可在信息所有权和访问权限明确的情况下支持这项工作。但它本身无法修复未文档化的流程或相互矛盾的政策。

第三阶段是将 AI 嵌入既定工作流。系统可能会准备客户回复、分类请求，或为人工决策整理证据。

在这一阶段，公司应衡量整个流程。相关指标包括完成时间、修正率、升级处理情况、客户结果和审核人员投入。

高管应避免泛泛宣称节省了多少工时。只有当组织清楚员工如何使用释放出来的产能时，时间才具有经济价值。

第四阶段赋予系统受限执行能力。系统可在预先确定的边界内完成特定操作，并将例外情况转交给人工负责人。

受限执行不同于开放式自主。系统会获得明确的工具、有限的权限、交易限额，以及明确的停止条件。

这正是分阶段授权最为重要的节点。能够撰写答案的模型，并不等同于能够发送答案、修改记录或调配资源的系统。

第五阶段涉及跨系统的更广泛编排。很少有组织应从这里起步，因为故障会变得更难发现和逆转。

编排型智能体可以协调跨部门任务，但也会跨越数据边界和组织职责。每新增一项连接，潜在故障面就会扩大。

Microsoft 的工作趋势指数显示，81% 的受访领导者预计，智能体将在 12 至 18 个月内进入其 AI 战略。该研究覆盖了 31 个国家的 31,000 名员工。

这种预期会造成跳过阶段的压力。高管可能担心竞争对手会率先重塑运营方式，并建立持久领先优势。

不过，速度来自缩短严谨的反馈闭环，而非取消它。当负责人和衡量标准明确时，狭窄的工作流可以迅速从测试进入生产。

相反的做法是在没有统一评估标准的情况下启动多个广泛项目。它看似雄心勃勃，却会带来缓慢的审查、重复的集成以及未厘清的责任归属。

分阶段授权提供了一种务实的折中方案。系统只有在满足质量、安全、采用率和经济价值等明确要求后，才能获得更多访问权限。

每个阶段都应设有退出测试。个人辅助需要证明其能持续产生有用行为。共享知识需要检索质量和权限准确性的证明。

工作流集成需要可靠的流程结果。受限执行需要安全的例外处理、可审计性以及经过测试的恢复程序。

这些关卡应反映故障的后果。内部头脑风暴工具可以容忍比涉及贷款、医疗、就业或法律决策的系统更多的不确定性。

因此，渐进式路径并非统一的时间表，而是一系列与各个用例相匹配、逐步赢得的权限。

一个部门可能在数月内达到受限执行。另一个部门则可能停留在辅助决策阶段，因为其错误会带来更严重的人为或监管后果。

高层管理者必须保护这种差异。全公司范围的指令可以统一平台和控制措施，但不应强迫每个流程达到相同的自主程度。

这种方法也能让供应商保持恰当的位置。模型提供商、云公司和软件平台都在竞争成为企业的控制层。

它们的路线图自然会强调更广泛的能力。买方必须判断这些能力是否能在可接受的条件下，解决一个经过衡量的流程问题。

相关比较并不只是 Google 与 Microsoft、OpenAI、Anthropic 或另一家模型提供商之间的比较。企业往往会在不同任务中使用多家提供商。

更深层的竞争在于部署理念。一种将 AI 视为需要宣布的转型；另一种则将授权视为系统必须赢得的东西。

渐进式路径无法解决什么

分阶段部署能够降低暴露风险，但无法消除模型行为、员工采用、数据质量或经济回报方面的不确定性。

高管首先应质疑，试点是否真正代表生产环境条件。演示通常使用经过筛选的输入、专注的用户和有限的系统访问权限。

生产环境会出现不完整的请求、过时的记录、非常规案例、并发需求，以及对指令理解不同的用户。这些条件会暴露受控测试遗漏的故障。

团队可以通过收集具有代表性的任务并定义可接受答案来改进评估流程。还应测试有害、模糊和对抗性输入。

即便如此，任何评估集都无法覆盖生产环境中的每一次事件。上线后，监控和恢复机制仍然必不可少。

第二项不确定性涉及数据。企业 AI 依赖的信息可能重复、过时、受限，或在缺乏一致所有权的情况下存储。

连接更多来源可能让系统显得信息充足，却也会增加矛盾。检索质量无法超越组织维护其知识的能力。

这带来了一种令人不适的反转：被宣传为解决信息碎片化的 AI 项目，往往暴露出这些信息原本就有多么碎片化。

公司应将这一发现视为运营证据，而不是掩盖表现不佳的理由。所有权缺失和政策不一致需要在模型之外作出管理决策。

第三项不确定性涉及人的行为。员工可能忽略获批准的工具、使用未经授权的替代方案，或过于轻易地接受输出结果。

仅靠采用数据无法区分高效依赖与不谨慎依赖。较高的交互次数可能反映真实价值、好奇心，或反复尝试纠正糟糕答案。

领导者需要将定性反馈与系统指标结合起来。他们应询问 AI 在何处减少摩擦、何处增加审核工作，以及员工在哪些地方完全避免使用它。

第四项不确定性关乎问责。人工审核看似令人安心，但当审核人员面对高工作量，或假定模型通常正确时，它可能沦为一种仪式。

当人们过度信任自动化建议时，就会出现自动化偏见。当输出看起来很自信且审核变得重复时，这种偏见更容易出现。

有意义的监督需要时间、证据，以及质疑系统的权力。勾选一个复选框并不能形成真正的人类控制。

第五项不确定性是财务问题。模型使用只是成本的一部分。

企业还要为数据准备、集成、安全、评估、监控、员工支持和流程重构付费。随着系统逐渐接近核心运营，这些成本会增加。

高管应比较部署前后的完整流程经济性，并将错误处理、审核投入和事件成本纳入其中。

项目即使不减少员工人数，也依然可能值得。它可能提高回复质量、增加产能、降低合规风险，或让专家处理更复杂的工作。

商业论证只需明确哪种结果最重要。对生产率的模糊表述，会让后续评估几乎无法进行。

治理框架可以帮助组织构建这些决策。NIST 的AI 风险框架围绕治理、映射、衡量和管理 AI 风险来组织工作。

NIST 还在 2024 年 7 月发布了生成式 AI 概况文件。该文件针对生成式系统特有的风险，并提出组织可根据自身情况调整的行动建议。

框架不会批准某个用例。它为高管提供了一套关于所有权、衡量、风险处置和持续审查的共同语言。

随着不同团队采用不同模型，这种语言会变得更有价值。没有它，每个部门都可能形成自己对可接受质量和控制的定义。

渐进式路径也不能保证较慢的公司能够赶上更快的竞争对手。当审查缺少期限或负责人时，严谨可能演变为拖延。

高管应为审批设定服务级别，并向项目团队提供可复用的控制措施。标准化评估工具、访问模式和日志记录能够加快安全部署。

集中治理应设定边界，而不是手动设计每一条工作流。业务团队需要在这些边界内试验的空间，以及申请更广泛访问权限的明确路径。

因此，强大的运营模式应将集中标准与分散化的用例所有权结合起来。它既避免失控的试验，也避免永久性的审批瓶颈。

持怀疑态度的结论很简单：渐进式采用并不天然更安全、更便宜或更有效。

只有当每个阶段都产生证据并改变下一项决策时，它才会带来更好的结果。否则，“渐进”只会成为无休止试点组合的另一种说法。

三个信号将表明企业 AI 是否正在成熟

下一阶段应通过工作流结果、受控的智能体权限和可衡量的员工采用情况来判断，而不是通过公告数量。

第一个信号是从使用指标转向流程指标。过去数年里，公司一直在统计许可证数量、提示词数量、活跃用户和试点启动数。

这些数字有助于衡量访问情况，但无法证明运营价值。成熟项目将报告完成时间、质量、收入、成本、例外情况和客户结果的变化。

高管应关注各业务单元之间是否采用一致的衡量方法。如果每个团队对价值的定义不同，领导层就无法比较投资，也无法终止较弱项目。

最有力的证据将把系统输出与既定基线联系起来，也会披露审核工作、错误率和部署带来的其他成本。

如果公司开始在内部报告这些指标，渐进式路径将更具可信度。若它们继续强调访问和试验，企业影响仍将无法确定。

第二个信号是智能体是否获得带有可见控制措施的受限权限。产品公告将继续承诺能够跨应用规划和行动的系统。

当公司明确说明智能体能做什么、不能做什么，以及何时必须停止时，企业成熟度才会显现。权限设计将比笼统的自主性标签更重要。

应关注那些具有明确交易限额、升级路径和审计记录的狭窄生产用例。这类部署比覆盖许多定义宽泛任务的演示更具说服力。

事件处理同样具有启示性。成熟组织会测试回滚程序，并明确当智能体行为异常时由谁接管控制。

如果智能体部署不断扩张，却没有在评估和恢复上进行相应投入，速度与控制之间的冲突将加剧。一次严重事件可能迫使组织重新转向受限辅助。

第三个信号是员工是否改变了工作流，而非仅仅增加了另一个界面。当团队不再在获批准系统之外重复工作时，才会出现可持续的采用。

这种改变需要信任、培训，以及对正确上下文的可靠访问。它还要求管理者围绕验证、判断和例外处理重新设计岗位。

高管应关注特定团队的重复使用情况，而不是全公司平均值。成功的工作流通常始于一个面对明确且高频问题的集中群体。

他们还应监测使用中止情况。热烈上线后使用量下滑，往往表明准确性不足、集成不佳，或对如何评判输出结果的担忧尚未得到解决。

Google News 将持续推送乐观预测、新的智能体平台、高管警告，以及员工适应 AI 的报道。报道量并不能解答管理层面的问题。

真正有意义的证据将来自那些能够展示：在性能提升后，系统权限如何扩大的公司。它们的优势将是推动采用的运营体系，而非独享某个模型的访问权。

对高管而言，当务之急是选择一个影响重大的工作流程，并记录其当前表现。在选定更广泛的 AI 架构之前，明确其业务、技术和风险负责人。

随后，界定系统可以提出哪些建议、可以执行哪些操作，以及在哪些条件下必须由人工介入。衡量完整工作流程，包括审核和处理例外情况的成本。

这种做法会让人觉得比宣布企业级转型更慢。但它会比修复一个在责任不清的情况下投入生产的系统更快。

通过 Google News 突出的 Calcalist 观点抓住了核心：企业 AI 是一段旅程。更棘手的结论是，高管必须设计好沿途的每一道关卡。

因此，下一次董事会讨论应从一个具体问题开始：哪个 AI 系统已经赢得了更大的权限，又有哪些证据足以证明应当授予它这些权限？