top of page

Netskope 制造业 AI 报告:83% 这一数字衡量的是政策违规

1小时前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Sora Shimazaki / Pexels.

Netskope 于 11 月 10 日发布制造业 AI 报告,发现上游数据政策违规占其观察到的 AI 相关违规的 83%。这一发现涉及进入 AI 系统的信息,而非已核实的安全事件数量或成功入侵数量。Netskope 制造业 AI 报告提出了一个更聚焦、也更有价值的问题:批准某个 AI 应用,是否真的能控制员工向其中发送的信息?

这种区别会改变管理应对方式。政策告警需要调查数据、权限和执行情况;已确认的数据泄露则需要未经授权披露或访问的证据。将这两类情况混为一谈,可能扭曲威胁评估,也会误判现有防御措施的实际效果。

核心矛盾在于获批应用与获批数据流之间。Microsoft 的安全指南提供了有用参考:保护 AI 工作流不仅要选择可信应用,还需要围绕信息和操作设置控制措施。对于制造业采购方而言,关键问题是,获批助手是否在与任务相匹配的边界内运行。

Netskope 制造业 AI 报告实际衡量的是什么

83% 这一发现描述的是观察到的违规构成,而不是遭遇 AI 泄露的制造商比例。

相关的制造业 AI 调查结果来自 Netskope 平台的匿名遥测数据,涵盖部分制造业客户。观察期从 2025 年 6 月 1 日持续至 2026 年 8 月 31 日。公开的方法说明并未披露确切客户数量。

因此,这是一份观察性的供应商数据集,而非行业普查或员工调查。它的价值在于呈现已部署控制措施所能看到的活动。但它无法确定所有制造商中每一种 AI 风险的普遍程度。

上游违规指的是进入 AI 工作流的数据。下游违规则涉及通过生成材料或后续使用离开该工作流的信息。仅凭任一标签,都无法证明有人成功窃取了信息。

设想一名员工尝试上传一份机密供应商文件。安全控制检测到该文件并阻止传输。由此产生的告警,既证明有人尝试了被禁止的操作,也表明控制措施已进行干预。

再比较一种情况:上传操作完成,之后才收到告警。调查人员必须确定哪些内容越过了边界、由哪个账户接收,以及目的地保留了什么。相似的政策标签,可能掩盖结果截然不同的情形。

当管理层询问告警增加是否意味着安全状况恶化时,这一区别尤为重要。更多告警可能反映风险活动增加、监控范围扩大、规则更严格,或检测能力提升。若没有辅助的运营证据,告警总数无法解释这些可能性。

同样的谨慎也适用于告警数量下降。更少的告警或许意味着行为更安全,也可能是检查力度减弱、规则被禁用,或活动转向监控未覆盖的渠道。

因此,对制造业安全负责人而言,有价值的后续问题应落在运营层面:哪些传输被阻止,哪些被允许,哪些仍未解决?这些类别比醒目的标题百分比更能说明保护状况。

报告的发布日期也不同于其测量窗口。11 月的读者看到的是截至 8 月的活动分析。在将这些发现与企业当前部署或近期引入的控制措施进行比较时,这一时间差很重要。

恰当的解读是将其视为暴露信号。该数据集将注意力引向业务信息与 AI 处理相遇的入口点。它并不能为估算已确认损失、受影响工厂或生产中断的可能性提供捷径。

获批 AI 仍让安全团队面临数据决策

应用审批决定了谁提供工具;它并未决定哪些业务记录应进入每项任务。

Netskope 报告称,由组织管理的 AI 使用比例从 35% 上升至 70%,而个人账户使用比例从 75% 降至 55%。这些数字描述的是相互重叠的使用模式,而非互斥群体。它们表明使用正向组织监督迁移,但并不能证明个人使用已消失。

对于制造业 AI 治理而言,这带来了实际的责任归属问题。采购团队可以批准供应商,技术团队可以部署应用,但仍需有人拥有决定权,以确定部署应纳入哪些文件、标识符和业务流程。

以采购助手为例,它揭示了其中的差距。总结一份公开的供应商宣传册,与总结一段机密谈判记录,涉及的是不同的信息决策。两种请求都可能在同一个获批界面中发生。

除非另有控制措施区分内容,否则宽泛的应用白名单会以类似方式处理这些请求。可辩护的部署需要将目的地、账户、信息类别和用途关联起来的规则。审批必须经得起实际工作的检验。

这会同时对多个群体提出要求。安全团队需要可执行的边界;业务负责人需要可用的工作流;法务和隐私团队则需要与员工实际提交信息相匹配的处理条款。

眼前的挑战是协调,而不是决定由哪个群体独自负责每一项决策。文件所有者了解业务敏感性,应用管理员了解配置,安全人员了解检测和响应。有效决策需要让这些视角汇聚。

获批账户还需要清晰的身份边界。员工应了解自己是在组织工作区内操作,还是处于个人会话中。一个易识别的产品标识并不能回答这个问题。

这一运营问题不仅限于主动上传。工作流可能通过附件、连接的资料库,或为请求自动汇集的材料来收集信息。每条路径都值得就访问范围和目的地作出明确决定。

这也是为何仅说“使用获批 AI”的培训可能让员工感到不确定。这一指令识别了应用,却没有解决信息判断问题。员工仍需要与自身职责相关的具体指引。

例如,公司可以区分获准使用的公开文档和受限的客户通信。具体类别取决于企业本身。治理原则是,员工不应在每一项日常任务中都需要解读抽象的安全政策。

因此,Netskope 制造业 AI 报告对“部署成功”的定义提出了更高要求。分配账户是采用进程中的一个里程碑;证明这些账户只处理适当的信息,则是另一项安全里程碑。

对企业采购方而言,商业层面的含义顺理成章。部署方案应说明谁负责数据决策、例外情况如何处理,以及管理员可以查看哪些证据。功能清单无法回答这些问题。

边界贯穿文件、权限和输出

最关键的控制点,是工作流中的信息边界,无论该边界出现在哪里。

Netskope AI 数据安全调查结果促使人们转变评估标准。采购方不应只问助手是否获批,还应检查一个典型任务的完整路径。这条路径在模型生成答案之前就已开始。

设想一名质量分析师请求助手总结供应商投诉。源文件包可能包含客户姓名、合同细节、内部评论和技术规格。其中或许只有部分信息是完成摘要所必需的。

安全决策不仅关乎敏感性,也关乎必要性。如果任务需要的是缺陷描述,它并不自动需要完整的客户通信记录。减少不必要的上下文,可以在不妨碍基础工作的情况下减少暴露。

OWASP 关于敏感信息披露的指南,将机密业务信息和凭据列为相关风险。它强调访问限制,并提醒基于提示词的限制可能被绕过。

这份指南为检验采购主张提供了有用标准。供应商声称其助手会遵循指令,描述的是模型行为;系统阻止访问未获授权的文件,则是在执行另一道边界。

这两种机制应相互补充。指令可以塑造答案,而访问控制决定哪些材料可被调用。任何一项功能都不应被假定可以取代另一项。

Microsoft 对间接提示词注入的讨论提供了一个对照。这种攻击将恶意指令植入助手处理的内容中,例如文档或网页。

Microsoft 描述了分层防御措施,包括将不可信内容与指令分离,并检测可疑输入。其方法说明了一个更广泛的安全论点:即使功能强大的助手,也仍需要防范其所读取材料带来的风险。

这并不能证明 Microsoft、Netskope 或其他供应商已经解决所有相关问题。它表明不同控制层在处理不同的失效模式。数据检查和恶意指令检测回答的是相关但不同的问题,对证据的要求也不同。

当助手读取外部供应商文件时,这一区别就变得具体。组织必须决定该文件是否包含允许助手处理的信息,同时还必须防止嵌入文本成为执行无关操作的授权。

输出又构成另一道边界。一份摘要可能包含适合内部调查的信息,却不适合用于回复外部供应商。助手有权读取某份文件,并不意味着可以授权之后的每一种披露行为。

因此,制造业 AI 治理需要从任务层面审视权限。读取、总结、分享和执行行动分别代表不同决策。当组织能够独立说明每项决策时,部署也就更容易评估。

对于知识工作者而言,同样的区别也适用于 AI knowledge base。让信息可被搜索与决定谁可以使用这些信息,是彼此关联的设计问题。更好的检索并不能消除定义受众的必要性。

Agent 连接让边界更难看清

能够检索信息并调用工具的助手,需要会话窗口之外的控制措施。

Netskope 报告称,连接到远程 MCP 服务器的非人类实体增长了 490%,相关事件增长了 600%。这些是使用量指标,并非攻击增长数据。它们并不能证明新增连接具有恶意性质。

模型上下文协议(Model Context Protocol,MCP)是一项用于将 AI 应用与工具及数据源连接起来的标准。其在此处的相关性,涉及请求与用于完成该请求的系统之间的路径。

在简单的聊天交互中,员工选择材料并提交。在已连接的工作流中,助手可以通过已配置的工具检索额外上下文。员工可见的请求,可能只描述了最终信息流的一部分。

以一个示例性的维护助手为例:当被要求解释反复出现的设备故障时,它可能会检索已批准的手册和过往维修记录。连接更广泛的部署还可能访问采购记录或外部支持服务。

业务价值取决于这些连接,权限问题也是如此。助手不应仅因未来的请求可能受益于额外上下文,就获得广泛访问权限。

该协议的 MCP 安全实践 涵盖授权失败、会话劫持和不安全处理访问令牌等实施风险。令牌是一类凭据,可让软件访问受保护的服务。

这些实施层面的担忧不同于生成答案的准确性。一项回复即便在技术上正确,也可能依赖于过度宽泛的权限。一个有用的助手,仍可能通过控制不当的连接使组织暴露于风险之中。

对于采购方而言,这改变了集成演示的含义。展示助手能够检索一条记录,只能证明连接能力。它并不能证明这种访问在不同用户、任务和文档类别之间始终恰当。

更具信息价值的演示,应当展示合法请求能够成功、未经授权的请求会被拒绝。它还应说明所使用的账户、应用的权限,以及为审查保留的证据。

服务所有权同样重要。没有指定负责人的连接器,在其原有业务目的发生变化后仍可能保持活跃。组织需要一种方式,理解访问权限为何存在,以及谁可以撤销它。

当供应商关系结束或员工职责变更时,撤销权限尤为重要。权限模型应支持移除访问权限,而不应依赖助手记住一条书面指令。

更广泛的制造业 AI 治理问题,在于对委派工作的可见性。当软件代表某个人行动时,责任不能止于该人的初始提示。它必须延伸至执行请求的系统。

这些增长数据足以说明这一类别值得关注,但其绝对规模仍不确定。它们支持人们就已连接工作流提出更好的问题,却不足以宣称成功攻击同样激增。

该数据集无法证明什么

当读者将观察到的警报转化为已确认损害的主张时,一个有用的风险信号就会产生误导。

Netskope 的制造业 AI 报告,是其所观察环境内活动的证据。它并未确立每一起策略事件与最终安全损失之间的因果联系。在任何解读中,这一缺口都应保持可见。

未披露客户数量,限制了对代表性的判断。仅凭标题中的数据,读者无法重建样本在组织规模、地域或安全成熟度方面的分布情况。

基于平台的数据集也反映了平台自身的可见性。监控路径之外的活动,可能会受到不同处理,或完全未被发现。这是衡量方法的局限,并非证明未被观察到的类别必然更大。

策略带来了另一种变动来源。一家规则严格的公司,可能会对另一家公司允许的传输产生警报。若不比较规则就比较总量,可能会将执行选择与底层暴露混为一谈。

警报严重性也很重要。涉及受限客户记录的被禁止传输,与低置信度的分类匹配,需要不同的调查。某一类别的百分比不能替代对这些案例的审查。

成功拦截也会使解读变得复杂。如果系统阻止了一次不当上传,产生的事件既可能表明存在风险行为,也可能表明防护措施正在发挥作用。将每一起此类事件都称为泄露,抹杀了二者之间的区别。

相反的错误,是因为部分警报已被拦截就将所有警报视为无害。反复尝试可能揭示策略不清晰、工作流设计不佳,或持续存在使用不适当目的地的压力。防护并不能消除潜在的业务问题。

Netskope 也销售与其所描述风险相关的安全产品。这一商业背景并不会使其观察失效,但这意味着采购方应区分有关问题的证据与有关特定补救方案的主张。

独立指南有助于维持这种区分。NIST 的生成式 AI 概述将风险考量置于 AI 系统的设计、开发、使用和评估全过程。这一框架超越了任何单一产品采购。

恰当的回应,是针对企业自身的任务和信息测试控制措施。相关评估应包括允许的活动、禁止的活动、模糊内容和运营例外。否则,精心打磨的演示可能掩盖尚未解决的边界问题。

不能仅凭上游百分比就自动得出关于工厂停机的结论。要确立运营后果,需要证据将某一具体事件与受影响的系统及业务影响联系起来。该报告的核心统计数据并未提供这条证据链。

最有力的解读仍应聚焦于:进入 AI 工作流的数据值得审查。较弱的解读,则是将一份策略观察数据集变成全行业事件统计。采购方从保留这一较窄主张中获益更多。

采购方在 2027 年初前应关注什么

接下来有价值的证据,将显示组织能否在扩大 AI 使用的同时,让数据访问更具可问责性。

第一个信号是有关执行结果的更好报告。采购方应关注对被拦截传输、获准传输、已调查案例和已确认披露之间的区分。这些类别将监控活动与决策及后果联系起来。

已阻止传输的证据,加上有记录的处置结果,将增强控制措施有效的论据。一个缺少结果信息、但警报数量更多的仪表板,仍无法解决这一问题。有价值的发展是更清晰的核算,而不是原始计数朝某个偏好方向变化。

组织也可以要求内部报告具备同样的清晰度。执行摘要应明确监控系统观察到了什么,以及调查人员随后确认了什么。将这些阶段合并为单一事件数字,会使组织更难评估。

第二个信号是,受管理的部署是否减少了不同账户类型之间不恰当的信息流动。采购方应寻找证据,证明获批工作流在维持必要边界的同时满足员工需求。

这并不意味着每一次个人账户交互都构成违规。关键问题是,受限业务信息是否到达了不恰当的目的地。账户上下文很重要,因为同一应用可支持不同的合同和管理安排。

如果部署提供了一条可用且经过授权的路径,将增强治理能够支持采用的论点。持续存在的变通做法,则会削弱“分配企业账户已解决问题”的主张。

第三个信号是,对已连接代理和工具更强的问责机制。采购方应关注明确的负责人、受限权限、可审查活动和可行的撤销机制。当这些能力出现在实际运行的部署中时,产品公告才更具意义。

仅有连接器清单,仍不足以提供完整答案。组织还需要知道哪些任务证明访问是合理的,以及权限是否仍然恰当。访问权限会随职责变化而调整的证据,将增强治理方面的论据。

相反,广泛的常驻权限会让核心问题依然存在。助手可能变得更有用,而组织却失去对其影响范围的清晰认识。因此,在部署审查中,采用与控制应作为独立指标呈现。

对开发者而言,这些信号使授权和事件记录成为产品质量的一部分。对业务领导者而言,它们使工作流设计成为安全监督的一部分。对员工而言,它们应转化为更清晰的日常信息使用决策。

Netskope 的 AI 数据安全观察,在促成这些可验证结果时最有价值。若被用作将尝试、警报、拦截和已确认损害混为一类的耸动标题,其价值则较低。

在扩大助手的访问权限之前,应将一项具有代表性的业务任务带入部署审查。明确它需要的信息、使用的目的地以及应执行的操作。要求系统负责人演示获准路径,并说明不恰当的请求会在何处停止。然后审查支撑这一说明的记录。Netskope 的制造业 AI 报告为采购方提出这些证据要求提供了理由,而不应将应用审批视为治理的终点。相关决策在于,组织是否能够解释并控制自身信息的流动。在审查下一次 AI 推广时,请以这一标准衡量。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page