网络安全军备竞赛：AI 如何同时用于攻击和防御网络

网络安全军备竞赛：AI 如何同时用于攻击和防御网络

作者：Alex Rivera，高级技术记者。本出版物根据路透社、彭博社和官方供应商披露等主要来源验证声明。

AI 工具现在生成的钓鱼邮件点击率超过 85%。

安全团队面临着同样的工具被用于攻击他们。

这一转变在 2025 年初开始加速。

攻击者采用大型语言模型快速创建内容。

防御者则通过安全运营中心的自动化做出回应。

结果是双方之间的直接较量。

攻击工具达到新的速度

LLM 辅助的恶意软件现在可以在数小时内编写代码变体，而非数周。

一个团体使用合成语音通话来冒充高管。

这些通话在 2025 年的多次测试中绕过了多家公司的语音验证。

攻击者将提示输入模型，以制作与目标行业匹配的消息。

他们在发送前用开源过滤器测试输出。

该过程会重复，直到成功规避为止。

这些步骤让小团队能够运行原本仅限于大型团体的活动。

CrowdStrike (2025 Global Threat Report) 的报告显示同比增长超过 200%。

防御平台应用相同的模型

AI SOC 平台实时扫描日志并标记异常。

它们通过标记事件数据进行训练，以优先处理警报。

使用这些平台的团队报告称，平均响应时间从数天缩短至数分钟。

这些平台连接到端点数据和网络流量流。

它们生成建议操作供分析师审核。

这种设置让人类保持参与，同时加快初始分类。

该领域的供应商包括 CrowdStrike (Falcon)、Palo Alto Networks (Cortex XSIAM) 和 Microsoft (Sentinel)。

它们的共同主张是，模型处理第一遍比仅基于规则的系统更好。

安全团队选择实用组合

大多数团队现在同时运行攻击模拟工具和防御自动化。

他们使用生成的钓鱼样本测试自己的邮件过滤器。

他们运行使用 LLM 代码生成器的内部红队演练。

目标是在真实事件发生前测量检测率。

一种常见设置是将 AI SOC 平台与端点检测软件配对。

分析师审核标记的项目，并根据模型输出更新规则。

这种混合方法出现在近期企业安全团队的调查中。

它平衡了速度与人工监督。

限制与剩余差距

攻击模型在某些情况下仍会产生可检测的模式。

语音合成在背景噪音不同的实时通话中会失败。

防御模型会产生误报，让分析师随时间感到疲惫。

团队报告称，当模型标记每个细微变化时会出现警报疲劳。

任何一方都尚未达到持续的主导地位。

这场竞赛在每波事件后继续进行，双方都在调整。

接下来要关注什么

关注声称具有更好规避或检测分数的新模型发布。

跟踪合成媒体规则的监管动向。

注意安全供应商的财报，其中会单独列出 AI 功能收入。

观察大型泄露事后分析中 LLM 参与的迹象。

这些信号将显示未来几个月哪一方会取得进展。