Cloud Security Alliance 与 Rubrik 推出 AI 韧性中心,但仍需拿出证据
- Sophie Larsen

- 23小时前
- 讀畢需時 14 分鐘
Cloud Security Alliance 已与 Rubrik 推出 AI 韧性卓越中心,并以 Rubrik 作为首家创始合作伙伴,使一场新的安全竞争登上 google news。随着企业让 AI 智能体访问数据、身份、应用程序和生产工作流,该中心应运而生。其核心挑战并非发布更多指导意见,而是证明组织能够遏制、调查并逆转 AI 造成的破坏性行为。
这项合作也立即带来一种张力。Cloud Security Alliance(CSA)将自身定位为供应商中立的安全组织。Rubrik 则销售数据保护、网络恢复和 AI 运营产品。这种组合可以将独立研究与运营经验结合起来,但也需要明确的治理机制。
这一公告属于围绕企业 AI 控制权展开的更广泛竞赛。安全厂商正越来越多地将 AI 智能体描述为享有特权的数字员工,而非普通软件。与此同时,监管机构和标准制定组织关注风险管理、问责、测试和人工监督。这个新中心必须在不沦为产品营销渠道的前提下,将这两类讨论连接起来。
AI 韧性中心究竟改变了什么
该中心将 AI 韧性从产品宣传主张推向一项共同的安全学科,不过其实际交付成果仍将是决定性因素。
传统 AI 安全工作通常聚焦于模型行为。团队会测试模型是否生成不安全的回答、泄露敏感信息,或遵循恶意指令。这些测试很重要,但只覆盖了运营问题的一部分。
AI 智能体可以调用工具、检索文档、修改记录、发送消息并触发基础设施工作流。智能体式 AI 是指在有限人工干预下,为实现某一目标自主选择并执行行动的软件。一旦这些行动触及生产系统,模型错误就会变成运营事故。
新中心为 CSA 提供了一个专门研究这一转变的平台。其公布的名称强调的是韧性,而不只是预防。韧性意味着在事故期间维持关键运营,并在之后恢复可信赖的系统。
这一差异改变了安全问题。预防性控制关注智能体是否应当执行某项操作;韧性控制则关注,不安全操作穿过这些防线后会发生什么。
调查人员能否重建智能体的推理过程和工具调用?能否识别受错误指令影响的每一项资源?组织能否在不保留受损状态的情况下恢复数据?能否在智能体再次重复操作前撤销其身份权限?
这些问题横跨多个团队。AI 工程师了解模型行为,身份团队控制凭证和权限,安全运营团队负责调查事故,数据保护团队管理恢复副本,而业务负责人则界定哪些流程必须优先恢复。
卓越中心可以为这些团队建立共同语言,也可以发布可复用的测试方法、参考架构、事故场景和恢复标准。这些成果将为买方带来比又一套高层原则更有用的内容。
CSA 已在开展更广泛的 AI 保障计划。其智能体控制框架包含 RiskRubric V2,这是一套已公布的 AI 模型风险量化方法。CSA 在 6 月表示,该框架将有 Deloitte Italy、PointGuardAI 和 Tumeryk 参与。
如果韧性中心测试模型之外的后果,它便可补充这项工作。风险评分可以识别危险能力,韧性测试则可以衡量遏制与恢复能力。企业两者都需要,因为即使经过充分评估的模型,也是在并不完美的软件、身份和数据系统中运行。
该公告尚未说明中心将如何衡量成功。它的价值将取决于已发布的成果、参与规则和可由独立第三方重复的测试。知名创始合作伙伴可以提供专业知识和资金,但无法替代这些结果。
为什么这条 google news 标题对安全负责人很重要
AI 智能体正在给安全团队施压,因为它们同时具备机器速度、广泛访问权限,以及依然难以预测的行为。
CSA 的研究已描述了企业智能体面临的严重可见性问题。2026 年 4 月的一份公告称,受访企业中有 82% 的环境存在未知 AI 智能体;还称有 65% 的企业在过去一年中报告过与智能体相关的事故。
这些数字来自 CSA 赞助的研究,应结合其方法和样本来解读。尽管如此,背后的问题并不陌生:员工将助手连接到业务应用的速度,可能快于安全团队盘点这些连接的速度。
另一项 CSA 研究显示,超过半数受访组织经历过 AI 智能体范围越界。所谓范围越界,是指智能体的行动超出了其运营者预定的任务、资源或权限。这一类别涵盖意外行为,而不只是恶意活动。
当组织复用人类凭证或授予权限广泛的服务账户时,风险会进一步增长。智能体可能仅被授予读取一个项目文件夹的权限,却继承了整个代码库的访问权。受损提示词或存在缺陷的计划,随后便可能将过度访问转化为事故。
这正是韧性已从传统模型安全中独立出来的原因。模型可以通过评估测试,却仍可能参与破坏性工作流。故障可能来自集成、授权错误、过时数据,或一系列单独获准操作所构成的意外顺序。
美国国家标准与技术研究院的 AI 风险框架围绕治理、映射、衡量和管理 AI 系统来组织风险工作。它为组织提供了有用基础,但每家企业仍必须将这些职能转化为运营控制措施。
因此,安全负责人面临被迫作出的应对。他们必须将 AI 智能体纳入资产清单、身份审查、事故预案和业务连续性演练。等待模型行为变得完全可预测,并不是可行策略。
开发者也面临相关压力。工具描述、权限边界、重试行为和审批步骤,如今都带有安全后果。一个看似无害的自动化错误,可能以机器速度重复执行破坏性操作。
企业买方同样需要更好的评估标准。供应商可能宣称其平台可治理智能体、检测高风险行为或逆转错误。买方在比较产品前,需要为每项说法制定可测试的定义。
该中心可以为采购团队提供共同的测试语言。它或许会定义最低日志字段、恢复目标、权限测试和证据要求。这类工作将使 AI 韧性更容易纳入合同和安全评估。
它还将帮助知识工作者理解,为什么普通生产力工作流需要控制措施。总结本地文档的助手,与编辑源代码或客户记录的智能体,具有不同的风险特征。团队需要在分配访问权限前对这些差异进行分类。
构建可搜索知识库的组织应保留来源上下文、权限和文档历史。当 AI 生成的回答影响生产决策时,这些记录会变得至关重要。
因此,这条 google news 标题不只是一则协会公告。它表明恢复、证据和连续性正成为企业 AI 治理的一部分。压力将落在每一个把智能体安全视为聊天机器人过滤延伸的团队身上。
核心冲突是供应商专业能力与中立标准之间的较量
Rubrik 为该中心带来实际的恢复经验,但 CSA 必须防止单一供应商的架构定义整个韧性类别。
Rubrik 起初是一家数据保护公司,随后将其定位扩展至网络韧性和 AI 运营领域。其产品侧重保护数据、监控风险,并在中断后恢复系统。这一背景契合该中心的运营使命。
该公司也已更接近智能体治理。Rubrik 表示,其 Agent Cloud 可以监控智能体操作、应用策略护栏、保留审计证据并帮助撤销错误。在客户和独立研究人员跨越多样化环境验证之前,这些仍属于供应商主张。
Rubrik 在 2026 年发布的公告显示了其战略的广度。6 月,该公司推出了自主恢复,并将其描述为用于恢复云应用的智能体式系统。其所述覆盖范围包括数据、网络设置、身份和配置。
这一更广泛的恢复边界具有相关性。恢复一个干净的数据库,并不能修复一个改动了访问策略、应用设置或云资源的智能体。可用的恢复计划必须理解所有这些组件之间的依赖关系。
Rubrik 还宣布了围绕 Claude Code 和 Google Cloud 智能体的集成。其 Google Cloud 控制措施强调语义治理,即根据操作的含义和意图应用策略。这种方法不同于只检查固定命令或资源名称的规则。
因此,这项合作让 CSA 能够接触到相关的技术问题。Rubrik 可以贡献事故模式、恢复架构以及来自企业部署的经验教训。它还可以帮助资助研究,而非营利组织原本可能难以开展这类研究。
然而,创始合作关系会产生影响力。赞助方可以塑造术语、研究优先事项、测试场景,以及对所需技术栈的假设。当某项标准暗中偏向只有赞助方销售的能力时,这种影响就会成为问题。
CSA 必须通过透明治理来抵消这一风险。工作组应包括买方、研究人员、云服务提供商、身份专家、应用安全团队以及相互竞争的恢复供应商。指导草案应在成为推荐实践前接受公众审查。
该中心还应将贡献与背书分开。参考架构可以承认 Rubrik 的实施方案,但不应将其定义为默认方案。测试套件应能在多个平台上运行,并在可行时包含手动或开放实现。
这是这一故事中的主要对立面:供应商专业能力与供应商中立保障之间的较量。它并非 Rubrik 与某一家点名竞争对手的对抗。更深层的竞争关乎谁有资格定义 AI 韧性的证据。
竞争性方案已经存在。云服务提供商可以将控制措施嵌入其自身的智能体平台。身份供应商可以限制凭据和授权。可观测性公司可以追踪智能体行为,而备份供应商可以恢复受影响的数据。
CrowdStrike、Palo Alto Networks、Microsoft 和 Google 等安全平台可以将 AI 活动与更广泛的威胁检测关联起来。初创公司正在开发专门的运行时控制、提示词防御、身份层和智能体授权系统。每一类参与者都将不同的控制点视为问题的核心。
没有任何单一控制点是充分的。预防措施可能失效,日志也可能遗漏业务语境。如果团队在事件发生后才捕获恢复副本,这些副本可能会保留不需要的更改。身份控制可以限制访问,却未必能检测获批范围内的不安全操作。
一个中立的中心应测试这些层如何协同工作。它不应假定企业会购买一个一体化平台。许多组织在多个供应商提供的混合云、遗留应用和安全工具环境中运营。
这一要求凸显了 CSA 角色的重要性。该组织可以召集那些原本无法就术语或测试方法达成一致的群体。只要最终成果保持可移植性并接受公开质疑,Rubrik 的创始合作角色就能加快这一进程。
AI 韧性需要的不只是备份和护栏
最难的问题,是在不破坏同期完成的合法工作的前提下,重建并逆转一连串看似有效的操作。
设想一个获授权更新云基础设施的智能体。它读取了一份过时的配置文档,判断某个存储资源未被使用,并开始将其删除。每一次单独的 API 调用都可能有效且经过适当认证。
预防性策略可能会遗漏这一错误,因为智能体始终处于其被授予的权限范围内。监控系统可以记录每项操作,却无法理解底层目标本身是错误的。备份或许能保存数据,但未必能保存周边的网络、身份和应用状态。
此时,恢复便成为一个推理问题。调查人员必须确定错误计划从何时开始、哪些操作源于该计划,以及之后有哪些依赖系统发生了变化。他们还必须将这些变化与人员及其他智能体执行的合法工作区分开来。
同样的挑战也会出现在业务应用中。智能体可能合并客户记录、修改合同元数据,或发送错误通知。恢复整个数据库可能会抹去错误发生后完成的有效交易。
有效的韧性框架必须定义最小的安全回滚单元。该单元可能是一个文件、数据库对象、身份策略、应用交易,或一组协同资源。正确的边界取决于工作流及其依赖关系。
该框架还需要可信的事件历史。日志应标识智能体、模型、指令、工具、凭据、审批、检索到的上下文以及由此产生的更改。敏感提示词和业务数据需要受到保护,因此无限制记录本身也会带来隐私和安全风险。
人工审批无法解决所有情况。要求对每项操作进行审批,会削弱智能体的大部分价值,并促使用户机械式地批准请求。基于风险的检查点更为实际,但其前提是准确分类。
高风险操作可能包括删除数据、更改权限、发送外部通信、执行代码或修改财务记录。然而,看似无害的操作也可能因重复或组合而变得危险。十项普通更改可能产生关键后果,而任何单一规则都无法捕捉这种结果。
语义控制试图识别这种上下文。它们评估某项操作看起来意图实现什么,而不仅仅是其技术形式。不过,语义执行通常会使用 AI 模型,从而在控制路径中引入另一个概率性组件。
这种循环性值得关注。企业使用 AI 检测不安全的 AI 行为,因为静态规则无法解释每一种工作流。监控模型同样可能误解意图、错过新型攻击,或阻止合法工作。
韧性规划假定这些控制措施有时会失效。它要求具备不可篡改的证据、隔离的恢复环境、依赖关系映射和经过测试的恢复流程。它还要求业务负责人决定哪些结果最为重要。
该中心应将这些理念转化为可量化的演练。例如,测试可以为智能体授予过多访问权限,注入误导性上下文,并衡量控制措施是否能检测到随之产生的行为。另一项测试可以破坏应用配置,并评估恢复的完整性。
结果不应只有通过或失败。有用的指标包括检测时间、受影响资源、证据完整性、回滚精度以及恢复业务流程所需时间。测试还应记录需要多少人工干预。
Rubrik 的恢复经验可以为这些场景提供参考。然而,这些场景应当在不同产品之间保持可移植性。否则,它们衡量的将是与某一平台的兼容性,而不是组织韧性。
成熟的计划还应测试降级条件。日志可能不完整,凭据可能已泄露,或管理员可能无法参与。攻击者可能在意识到恢复系统会限制其勒索能力后,将这些系统作为目标。
这正是 AI 韧性与既有网络恢复实践的交汇点。组织需要干净的恢复副本、受保护的管理路径以及经过演练的事件处置角色。AI 带来了新的因果关系和归因问题,但并未消除这些基本要素。
该公告仍未证明什么
一个已命名的中心和一个创始合作伙伴,并不能证明企业能够从具有重大后果的 AI 故障中恢复。
第一个不确定性涉及交付成果。该公告成立了一个组织,但其公共价值将来自研究、工具、基准和实施指导。这些产出需要明确日期、负责人和审查流程。
第二个不确定性涉及参与者。一个由安全供应商主导的中心,可能忽视应用负责人、AI 工程师、审计师、保险公司和受影响员工。它也可能偏向于推动新的软件采购,而非改变工作流设计的控制措施。
第三个不确定性涉及验证。供应商有动机将其产品描述为完整的治理或韧性层。独立测试必须审视误报、漏报事件、运营开销和恢复失败。
第四个问题是范围。“AI 韧性”可以指模型可用性、对抗性抵御能力、业务连续性、数据恢复、智能体遏制能力或组织准备度。一个包罗万象的中心,可能会产出过于宽泛、难以实施的指导。
CSA 应定义一个狭窄的初始边界。企业系统中的智能体操作是一个务实的起点,因为它们连接了身份、数据、应用和恢复。该组织可在证明取得实用成果后再扩大范围。
其工作还应区分恶意攻击与普通错误。提示词注入可能导致智能体遵循隐藏在检索内容中的敌对指令。获授权员工也可能提出模糊请求,触发同样的有害结果。
这些情况需要不同的预防控制措施,但其恢复要求存在重叠。调查人员必须识别受影响系统、遏制进一步操作、保全证据并恢复可信状态。一个好的框架可以覆盖这一共同的运营层面。
监管对齐带来了另一项挑战。欧盟《AI 法案》采用风险类别,并将义务与特定角色和应用挂钩。美国组织往往依赖自愿框架、行业规则、合同和州级要求。
全球韧性框架不能将合规视为一份通用清单。它应在保留共同技术核心的同时,将控制措施映射到不同司法辖区的要求。否则,跨国公司将难以一致地使用它。
该中心应避免作出缺乏支持的数字化承诺。恢复时间因应用设计、数据量、依赖关系和事件范围而异。受控条件下的产品演示无法确立通用的恢复目标。
它还应披露赞助关系和决策权。读者需要知道谁选择项目、批准出版物、拥有知识产权以及如何解决分歧。透明的会议记录和贡献者名单将增强信心。
RiskRubric V2 项目提供了一个早期对照。CSA 表示,该项目正与多个具名合作伙伴一起,采用基于证据的方法处理模型风险。韧性中心应在将衡量扩展到实时运行环境的同时,展现类似的开放性。
Google News 的可见度可以为发布吸引关注,但关注不等于采用。安全团队将根据其指导能否经受生产系统、审计师、事件响应人员和采购审查的检验来评判该项目。
关键标准是可证伪性。韧性主张应明确说明其在哪些条件下会失效。买方应能够复现测试、比较产品,并理解部署后仍存在哪些风险。
在这些要素出现之前,该中心代表的是一个可信的方向,而不是经过验证的解决方案。这一区别并未削弱此次发布的意义,而是指出了这项合作要赢得权威所需完成的工作。
三个将表明该中心是否重要的信号
下一阶段应根据开放产出、独立参与以及真实恢复演练的证据来评判。
第一个信号是发布包含具体交付成果的路线图。CSA 应明确其初始威胁模型、测试范围、工作组负责人和目标发布日期。宽泛的使命声明无法指导实施。
最有力的早期交付成果将是一套智能体事件与恢复框架。它应定义所需证据、遏制步骤、回滚边界和业务恢复标准。它还应明确 AI、安全、身份、数据和应用团队之间的职责分工。
如果 CSA 发布了带有开放审查流程的此类路线图,此次发布将获得可信度。如果该中心仍局限于活动和宣传性评论,公告的重要性就会减弱。
第二个信号是 Rubrik 之外的参与。竞争供应商、云服务提供商、企业、研究人员和公共利益专家应发挥实质性作用。他们的参与应包括署名和治理,而不仅仅是会员标识。
多元参与之所以重要,是因为 AI 韧性跨越不兼容的系统。围绕某一家供应商的遥测或恢复模型设计的测试,无法代表大多数企业环境。跨平台参与会迫使该组织定义可移植的证据。
这一信号将增强该中心的中立性。相反,封闭的赞助商主导结构会支持这样一种担忧:该中心主要是在推动品类营销。
第三个信号是发布可重复的演练及其结果。CSA 应创建测试提示词注入、过多权限、破坏性工具使用、受损上下文和不完整恢复的场景。测试应披露假设条件和已知局限。
真实演练应衡量组织能否识别负有责任的智能体并追踪其操作。它们应测试团队能否在不抹去无关更改的情况下恢复受影响资源。它们还应评估正常运营恢复的速度。
公开结果无需暴露客户信息。该中心可以使用合成环境、匿名化事件模式和标准化数据集。关键在于让其他团队能够复现这一方法。
结果还应比较分层策略。一个环境可能主要依赖预防性护栏。另一个环境则可能结合有限权限、详细追踪、受保护的恢复副本以及人工升级处置。
这种比较将检验该中心的核心前提:韧性应降低控制措施失效的后果,而不只是再增加一道预防性过滤。支持这一前提的证据将影响安全架构和采购决策。
这些信号的重要性不止于一项合作。网络安全行业正竞相争夺 AI agent 的控制层。供应商将身份、运行时监控、数据保护和恢复描述为不可或缺的基础。
CSA 可以帮助企业避免仅凭营销宣传在这些主张之间做选择。它可以界定各层如何协同,以及买方应要求哪些证据。随着 agent 获得关键工作流的访问权限,这一角色将愈发重要。
这项公告之所以通过 google news 吸引关注,是因为它将一家知名标准组织与一家上市网络安全公司结合在一起。其持久的重要性将取决于更缓慢、也更不显眼的工作。
安全负责人应关注首份技术路线图、工作组的构成,以及可重复恢复测试的发布。这三个信号将表明,该中心会成为共享基础设施,还是又一个由赞助支持的论坛。
开发者和企业买方应善用等待期。盘点 agent、梳理其凭证、记录工具活动,并识别哪些操作无法安全撤销。随后,从检测到业务恢复,测试一次事件响应。
在完成这项演练后,直接问一个问题:面对压力时,你的组织能否解释并撤销该 agent 的操作?如果答案仍不确定,请关注该中心的技术产出,而不仅仅是其公告。下一篇真正重要的 google news 报道应当包含可由独立团队复现的证据。


