联合国安理会 AI 警告：9·11 事件 25 年后，恐怖主义威胁被重新定义
联合国安理会的 AI 警告以 9·11 事件 25 周年为节点，清晰地改变了关注重点。恐怖组织如今能够使用 2001 年尚不存在的生成式 AI、商用无人机、加密通信和数字融资工具。
安理会于 2026 年 9 月 11 日在纽约举行会议，悼念遇难者并审视袭击事件后建立的国际应对机制。其传递的信息并不只是纪念性的。围绕旅行记录、银行转账和集中式组织设计的反恐体系，如今必须应对适应性强的数字网络。
这种转变带来了艰难的权衡。各国政府需要更好的工具来侦测恐怖活动，但同样的系统也可能助长侵入式监控、歧视性画像分析和过度删除内容。因此，核心角力在于安全能力与公民自由之间，而非政府与科技公司之间。
联合国安理会 AI 警告究竟改变了什么
安理会将新兴技术纳入其核心反恐议程，而非将其视为独立的科技政策议题。
在其25 周年简报会上，安理会重申，国际恐怖主义仍是对和平与安全最严重的威胁之一。成员国还通过了一项主席声明，呼吁在国家、区域和国际层面协调行动。
领导反恐怖主义委员会执行局（CTED）的联合国助理秘书长 Natalia Gherman 作出了主要的机构评估。CTED 通过评估各国落实安理会反恐要求的情况，为安理会提供支持。
Gherman 表示，各国自 2001 年以来取得了实质性进展，但警告称，随着恐怖主义形态变化，各方的应对措施也必须适应。她的表述之所以重要，是因为它拒绝了对过去 25 年作出安逸解读的做法。
9·11 事件后建立的体系高度聚焦于正式组织、跨境旅行、金融管制和政府间信息共享。这些措施依然重要。然而，数字工具如今使小型团体和个人同情者能够完成过去需要更大型组织才能完成的任务。
生成式 AI 可以低成本起草、翻译、个性化和复制内容。加密服务可以连接分散的参与者。商用无人机可用于侦察或投送载荷，而虚拟资产和在线支付系统则会增加金融调查的复杂性。
这些工具本身并不会自动创造恐怖主义能力。它们的重要性来自组合使用。一个网络可以利用一项服务招募人员，利用另一项服务进行私下协调，再利用另一项服务进行融资或行动研究。
这种模块化结构降低了打击单一平台或领导人的价值，也使人们更难将意图与普通技术使用区分开来。
CTED 于 2026 年 9 月发布的propaganda report将宣传描述为行动基础设施，而非简单的信息传播。这一区分使问题超出了极端主义帖子和视频的范畴。
据 CTED 称，宣传可为招募、激进化、融资、策划和治理提供支持。报告称，恐怖主义行为者正利用 AI 定制信息、触达多语种受众，并协助筹款。
AI 生成媒体也降低了试验成本。一个团体可以制作同一信息的多个版本，根据不同社群调整语言，并测试哪种表述更能获得互动。
人类宣传者本就能够做到这些事。AI 改变的是所需的速度、规模和人员配置。
安理会的警告并未认定 AI 已取代传统恐怖主义手段，也未显示 AI 生成的宣传始终有效。它承认，技术可及性的变化速度已超过许多政府保障措施的更新速度。
这才是真正的政策转变。问题不再是恐怖主义行为者是否会试验面向消费者的 AI，而是公共机构能否在不将广泛使用视为犯罪意图证据的前提下识别有害使用。
为什么 AI 改变了恐怖主义活动的经济逻辑
AI 之所以重要，是因为它降低了去中心化网络中通信、定位、翻译和试验的成本。
恐怖组织长期以来一直会将商用技术改作自身用途。互联网实现了全球传播；社交平台则增加了推荐系统、可搜索的社群以及与潜在招募对象直接接触的渠道。
生成式 AI 增加了一层内容生产能力。它可以在数秒内生成文本、合成语音、翻译脚本、修改图像和个性化回复。
这种能力并不保证宣传具有可信度。模型会生成错误、重复刻板印象，有时还会拒绝有害请求。其输出仍需要传播渠道，以及愿意互动的受众。
但质量只是风险的一部分。当行为者寻找脆弱用户、淹没内容审核系统或维持大量一次性身份时，规模同样重要。
对于试图触达原有语言社群之外受众的团体而言，自动翻译尤其重要。它可以降低对熟练译者的依赖，并允许在账号消失后快速复用材料。
个性化带来了另一项担忧。运营者不再只是传播一份意识形态文件，而是可以围绕个人的兴趣、所在地、年龄或不满情绪调整语气和案例。
这种方式与普通数字营销相似。其底层技术并非极端主义者所独有，因此很难设计广泛的技术禁令。
联合国现有的ICT overview指出，通信技术可支持招募、培训、策划、网络联络、筹款和后勤支援等活动。该概览也指出，AI 可通过内容审核、生物识别、监控和调查为反恐工作提供支持。
这种双重用途界定了问题。同一类模型既可以翻译紧急警报、识别暴力图像，或帮助调查人员处理证据，也可能协助恶意行为者。
无人机也呈现类似模式。低成本无人机可用于摄影、农业、巡检、测绘和应急响应；其广泛可得性也为监视、违禁品投送和袭击创造了机会。
加密平台则带来另一种双重用途冲突。安全通信保护记者、企业、人权倡导者和普通用户，但也可能让行动讨论避开调查人员的侦查。
综合影响比任何单一技术都更为重要。一个小型组织单元可能使用公开可用的 AI 制作媒体内容，使用加密工具协调行动，使用无人机侦察，并用常规材料实施攻击。
这种工作流程将风险分散到运营者和政策各不相同的服务之间。没有任何一家公司能看到完整链条。
政府同样面临这种碎片化局面。金融机构可能发现异常交易，平台可能发现极端主义内容，当地警方则可能观察到无人机活动。要将这些信号关联起来，需要法律授权、兼容的数据和机构间信任。
国际协调让问题更加困难。平台跨境运营，云端数据可能位于另一司法管辖区，而各国对恐怖主义内容的法律定义并不相同。
这些障碍并非新出现的。AI 通过增加调查人员和审核人员必须评估的材料数量，放大了这些难题。
这种经济变化也有利于反复失败。恶意行为者可以测试大量低质量输出，直到其中一个奏效。与此同时，防御方一旦让侦测系统错误标记合法言论，便可能面临后果。
这种不对称性解释了联合国安理会 AI 警告背后的压力。攻击者可以容忍账号被封、提示被拒和内容质量不佳；政府和平台则必须在每一次干预中兼顾准确性、合法性和权利。
安全能力如今与公民自由发生碰撞
最有力的反恐应对措施未必是覆盖最广的措施，因为不加区分的自动化可能损害其声称要保护的权利。
AI 可以帮助平台分类图像、比对已知极端主义材料、识别协同行为，并将案件按优先级交由人工审查。执法机构也可以利用它整理证据，或从大型数据集中发现关联。
这些应用有望提高速度，但也带来了关于误报、偏见、可解释性和问责的严肃问题。
内容审核中的误报可能删除合法报道、政治言论、讽刺内容或记录人权侵害的材料。警务工作中的误报则可能使个人面临调查、拘留或旅行限制。
对自动化系统而言，语境仍然尤其难以判断。同一张暴力图像可能是宣传、新闻报道、学术研究，或由调查人员保存的证据。
语言是另一种误差来源。审核工具在不同方言、地区语境和低资源语言中的表现往往不均衡。恐怖主义行为者可以利用这些漏洞，而普通使用者也可能被错误归类。
安理会多年来一直承认这种张力。在一次2023 AI briefing中，技术专家告诉 CTED，AI 系统虽在不断改进，但仍不完善且存在偏见。
与会者支持结合 AI 认知、社交媒体素养、反叙事、安全措施和人工审查。他们并未将自动化侦测视为完整解决方案。
这种克制十分重要。AI 可以为审查工作排序，但置信度评分不是法律判断。它不能证明意图、组织成员身份或暴力准备行为。
扩大监控会带来相关问题。政府可能认为，高级威胁要求更广泛地获取通信、身份记录和行为数据。这种获取权限可能从有针对性的调查，逐渐演变为对常规人群的监控。
生物识别系统尤其引发敏感问题。面部识别及其他自动化身份识别工具可以帮助识别嫌疑人，但其错误可能不成比例地落在特定社群身上。
反恐历史也为政府提供了另一个保持谨慎的理由。紧急权力往往会在促成其出现的条件消失后继续存在。为特殊案件获得的技术，可能成为常规行政工具。
因此，强有力的监督既具有道德意义，也服务于行动目的。被视为任意行事的体系，将更难获得调查人员所需信息来源社群的合作。
国际法和人权在安理会周年纪念信息中占据突出位置。主席声明将集体反恐工作与《联合国宪章》和国际法联系起来。
这种表述划定了边界，但并未明确技术保障措施。它将可收集的数据、可存储的期限，以及自动化评估何时需要人工确认等问题留给各国政府自行决定。
科技公司也面临类似的权衡。严格过滤可以减少已知恐怖主义材料的传播，但也可能将用户推向安全资源更少、可见度更低的小型平台。
小型服务往往缺乏庞大的信任与安全团队。它们可能依赖共享数据库、第三方供应商，或只能提供有限解释的自动化工具。
联合国曾尝试通过与行业和专业组织合作来弥合这一能力差距。CTED 与 Tech Against Terrorism 在 2025 年达成的技术合作伙伴关系，聚焦于线上招募、煽动、策划以及新兴技术。
这类伙伴关系能够将专业能力扩展到最大型平台之外，但同样需要治理规则，以防私人数据库演变为不受问责的全球监控名单。
核心挑战并非在隐私与安全之间二选一，而是在部署自动化系统之前，建立证据门槛、申诉机制、独立监督和明确而有限的法律用途。
若缺少这些控制措施，应对行动可能制造新的不满，并削弱公众对公共机构的信任。即使短期执法数据上升，这种结果仍会削弱长期预防效果。
警示已经明确，但证据仍有局限
联合国已记录到不断扩大的 AI 试验活动，但公开证据尚不足以支撑所有关于 AI 赋能恐怖主义的夸张说法。
安理会的措辞涵盖多个层面的活动，包括利用 AI 制作宣传内容、定制招募信息、筹集资金、研究有害方法，以及支持袭击策划。
这些活动的风险并不相同。生成一张翻译后的海报，并不等同于设计可行的武器或实施袭击。
公开报道常将这些类别合并为“恐怖分子正在‘使用 AI’”这一说法。该表述可能准确，却几乎没有说明其能力、规模或实际行动效果。
这种区分对政策至关重要。不同活动需要不同应对措施。
平台可通过账号执法、行为分析，以及针对既往识别材料的共享哈希值来处理被禁止的宣传内容。哈希值是一种用于匹配已知文件的数字指纹。
获取有害技术信息的尝试，可能需要模型保障措施、监测机制和明确界定的升级处理流程。无人机威胁则涉及航空规则、探测设备、基础设施保护和实体安全。
融资问题需要银行、支付服务商、虚拟资产服务机构和调查人员之间的协作。若将这四类问题都视为内容审核，便会留下重大缺口。
衡量工作依然困难。公开可见的材料仅反映恐怖活动的一部分。封闭通信更难评估，而政府也可能不公开行动证据。
研究人员还必须区分成功使用与试验性尝试。一个组织可能出于宣传目的声称自己技术先进，却无法证明具备实质能力。
生成式模型有时会给出错误指令。这并不意味着危险消失，因为即使不准确的输出，也可能提供术语或引导用户开展进一步研究。
不过，声称聊天机器人能够独立促成高级袭击的说法，需要仔细审查。专业知识、材料、测试、后勤和实体访问权限依然是重要约束。
同样的谨慎也适用于合成媒体。深度伪造可以冒充他人或捏造事件，但其效果取决于传播范围、可信度和时机。
受众越来越清楚，有说服力的媒体内容也可能是伪造的。这种认知可以降低虚假内容的可信度，却也可能产生“骗子红利”。
当人们将真实证据斥为人工生成时，就会出现“骗子红利”。在危机中，这种不确定性可能延迟核实，并削弱对官方沟通的信心。
因此，联合国担忧的并不只是一段伪造视频。低成本合成媒体会提高确认事件真相的成本。
不过，这次周年纪念会议并未产生具有约束力的全球 AI 标准。主席声明表达了安理会的共同立场，但并不像根据《联合国宪章》通过的决议那样产生同等义务。
该声明也未解决围绕平台责任、加密、生物识别监控或跨境证据的长期争议。这些问题仍受各国法律和其他国际进程约束。
各国的制度能力差异显著。CTED 的委员会授权核心是监督各国如何落实安理会在 2001 年袭击事件后通过的第 1373 号决议。
这一框架涵盖融资管制、信息共享、刑事司法和边境安全。增加 AI 风险考量，并不会自动带来调查人员、技术专长或司法监督。
能力建设可以缩小这些差距，但引进的系统未必适合当地语言或法律保护。一个在其他地区训练的检测模型，部署到不同的信息环境中时可能表现不佳。
供应商也有动力推销范围广泛的威胁检测能力。政府应要求独立测试、明确记录局限性，并提供工具确实改善结果的证据。
原始警报数量是一个薄弱的成功指标。一个发出数千条未经核实警告的系统，可能浪费调查资源，并掩盖严重案件。
更好的衡量方式应考察已确认线索、误报率、处理时间、法律结果，以及受影响用户能否对错误提出质疑。公开报告应保护调查工作，同时不掩盖基本性能表现。
这种审慎解读并非否定联合国安理会关于 AI 的警示，而是要求各机构将每项干预措施与经证实的滥用形式相匹配。
这种做法可降低一个引人注目的周年纪念日成为仓促采购或模糊监控权力借口的可能性，也让真正的安全措施更容易获得辩护。
三个信号将显示警示是否转化为行动
下一项考验在于，各国政府和技术提供商能否将广泛共识转化为可衡量、尊重权利的程序。
第一个信号，是如何将恐怖主义宣传视为行动基础设施。CTED 的 2026 年报告提供了分析框架，但各国政府必须决定这将如何改变调查和预防项目。
应关注是否出台具体实施指引，将宣传、招募、融资、策划和袭击准备区分开来。明确分类能够将每项风险与恰当应对措施相连接，从而强化安理会的论点。
模糊指引则会削弱这一论点。机构可能将广泛的线上活动贴上 AI 赋能恐怖主义的标签，却无法证明其与实际行动相关。
第二个信号，是小型平台是否获得可用的安全支持。大型服务商能够雇用专业团队、维护威胁情报，并委托进行模型测试。
小型论坛、文件托管服务和通信服务往往做不到。这种不平衡会在大型平台移除账号时创造迁移机会。
共享工具可以提供帮助，但访问规则至关重要。参与企业需要明确标准、纠错方法，以及对共享信息二次使用的限制。
最有力的进展信号，将是一个在提升检测能力的同时发布有意义透明度数据的系统。它还应为影响合法表达的决定保留人工审核。
第三个信号，是各国政府是否会在扩大 AI 支持的监控前先界定限制。反恐机构将寻求用于分析通信、金融活动、生物识别信息和开源信息的工具。
规则应明确何种证据可以启动调查、哪些决定需要人工批准，以及数据可保留多久。独立机构必须能够审查错误和滥用行为。
如果这些保障措施与新的技术能力同步出现，安理会关于安全与权利的立场将显得可信。如果监控在缺少这些措施的情况下扩大，这份周年警示就会在指出风险的同时重演一项旧有政策错误。
技术提供商也承担相应责任。模型开发者可以测试其系统是否真正降低了从事有害活动的门槛，再围绕已证实的风险调整保障措施。
他们不应将每一个有争议的提示词都等同于恐怖主义意图。安全研究人员、记者、教育工作者和公共机构，可能出于正当理由研究相同主题。
平台还应为对抗性适应做好准备。用户可以改变拼写、切换语言、拆分指令，或在不同服务之间迁移以逃避检测。
没有任何静态过滤器能够消除这种行为。防御机制需要持续评估、可信的举报渠道，以及跨服务协作。
知识工作者和企业采购方也应关注，因为许多反恐控制措施起初是专业手段，后来会影响普通软件。身份核验、内容监控、模型限制和数据保留政策可能扩散至整个市场。
组织应了解其 AI 服务会保留哪些用户数据、提供商如何处理滥用报告，以及自动化执法是否包含申诉流程。这些问题会在安全事件发生之前很早就影响日常治理。
开发 AI 产品的人员也面临相关任务。安全控制应反映产品的实际能力和用户，而非未经测试便照搬宽泛政策。
写作助手、自治实验室系统和无人机控制平台面临的风险各不相同。因此，它们的访问控制和监控措施也应有所区别。
第 25 周年提供了有益的历史教训。第 1373 号决议在袭击事件发生不到三周后，建立了持久的全球反恐结构。
当前的技术转变则更加分散。它涉及公共模型、私营平台、国家监管机构、航空系统、金融网络和地方调查人员。
这种复杂性意味着，单一的全球禁令不太可能解决问题。进展将取决于各机构能够测试、审计和改进的具体标准。
联合国安理会的 AI 警示之所以重要，是因为它将纪念与当前的行动挑战联系起来，也暴露出应对措施仍有多么不完整。
未来几个月应能显示，各国是否会制定具体指引、支持小型平台，并在扩大监控前建立保障措施。这些行动将比再次宣称 AI 既带来机遇也带来风险更具意义。
读者应关注证据，而非口号。哪些 AI 用途确实改变了恐怖分子的能力？哪些干预措施能够识别这些用途，又不会将合法活动一并纳入？哪些机构能够纠正错误？
这些问题应引导下一阶段的讨论。答案将决定安理会的警示会成为务实的安全框架，还是又一项在重要周年纪念日作出的宽泛承诺。
