AI 与网络安全：对抗高级持续性威胁的军备竞赛

人工智能驱动的检测系统已经改变了组织处理高级持续性威胁的方式。

这种变化在安全团队过去一年报告的驻留时间指标中可见（Reuters）。攻击组织现在直接测试检测模型，而不是依赖已知的恶意软件签名。这迫使防御者将模型行为本身视为攻击面。

一个直接的结果是红队演练和模型再训练计划之间更紧密的循环。曾经每季度更新规则的团队现在每周推送新的检测权重。压力落在了无法运行持续评估循环的组织身上。

人工智能系统暴露了新的攻击向量

攻击者根据公开威胁报告微调自己的模型，以生成匹配良性模式的流量。这种方法绕过了依赖静态入侵指标的规则。安全供应商已记录了对抗性示例导致模型数周未检测到命令与控制流量的案例（The Verge）。

组织在等式的两边都面临同样的约束。针对新技术的有限标注数据减缓了防御者的训练，而攻击者可以更快地合成示例。

检测速度与误报负载

更短的检测窗口伴随着分析师必须分类的更高警报量。团队报告称，仅靠模型置信度分数无法减轻审查负担，除非与来自端点和身份日志的上下文丰富相结合（Bloomberg）。

这种权衡出现在人员配置模型中。仅将分析师人数增加10%的公司在部署新模型而没有支持数据管道时，仍然看到警报疲劳上升。

当前公共基准的局限

独立测试表明，标准数据集上的性能并不能转化为具有加密流量和自定义应用程序的生产环境。一些供应商现在从公共排行榜中隐瞒模型细节，以降低针对性规避的风险（Google Blog）。

这种不透明性使得无法复制实验室条件的买家更难进行采购比较。

下个季度值得关注的事项

关注主要云提供商是否发布涵盖加密命令通道的标注数据集。

观察是否有供应商发布来自实时红队演练而非静态测试的持续结果。

跟踪影响采购时间表的模型文档要求的监管指导。