独裁政权如何利用 AI 扩大监控与政治控制

Google News 揭示了一场严峻冲突：人工智能正帮助威权政府以前所未有的速度识别、监控并压制其认定的反对者。

这一转变并不只是安装更多摄像头或封锁更多网站。政府如今能够跨越此前彼此割裂的数据库，将人脸、行动轨迹、信息、关系与行为模式关联起来。

这种整合改变了统治者与挑战其权力的民众之间的力量平衡。传统镇压通常是在抗议、出版活动或政治组织出现后作出反应。AI 辅助的镇压则试图更早发现这些活动、评估其重要性，并在其扩散前加以破坏。

中国已构建出这一模式最广泛的版本。俄罗斯、伊朗和其他一些政府则采用了人脸识别、自动审查、数据融合和在线影响力行动等彼此重叠的组合。

这些系统仍不完善。它们会产生错误、继承政治偏见，并且依然依赖人工官员。但威权政府不需要完美的预测就能获得优势。

它们只需要掌握足够的信息，以提高组织、发声、出行或保持匿名的代价。即使算法经常出错，这种寒蝉效应也能巩固政权。

因此，核心较量并非独裁政权与某一家科技公司的对抗，而是自动化政治控制与可问责的 AI 治理之间的对抗。

这场冲突超越了国界。监控组件来自跨国供应链，而各国政府则交换基础设施、运营知识和监管模式。

Google News 揭示的 AI 驱动镇压

重要的变化并非某一次部署，而是将彼此割裂的控制工具转化为一个日益整合的政治系统。

威权政府长期以来一直收集有关批评者的信息。秘密警察会监视集会、截获通信、招募线人，并为被视为政治危险的人建立档案。

这些方法高度依赖人力。官员必须决定跟踪谁、阅读哪些信息，以及如何连接分散存储在不同部门的信息碎片。

AI 减轻了这种行政负担。计算机视觉可以搜索摄像头画面，自然语言处理则可以对信息分类并识别被禁止的话题。

数据融合，即汇集多个来源的记录，可以将一张人脸与电话号码、车辆、地址、工作单位和社交网络关联起来。预测分析随后可以按照政府定义的风险评分，对人员或事件进行排序。

结果是更广泛的撒网式监控。当局可以从整个人口开始，而不只是从一份已知嫌疑人的简短名单入手。

Freedom House 在其关于数字镇压的研究中记录了这一更广泛的转型。研究人员考察了 70 个国家的发展情况，覆盖全球 88% 的互联网用户。

该组织发现，在其 2023 年报告期内，互联网自由已连续第十三年下降。在所研究的 70 个国家中，55 个国家的人们因在线表达而面临法律后果。

至少 21 个国家的政府还制定了法律规则，要求或鼓励平台使用机器学习来打击不受欢迎的内容。这类规则可能使私营平台沦为国家审查制度的延伸。

生成式 AI 又增加了一层影响。它能够比传统宣传团队更快地制作文章、图片、音频、评论和虚构身份。

Freedom House 发现，在报告期内，政府或政治行为者至少在 16 个国家使用生成式工具扭曲公共讨论。至少 47 个政府部署评论员操纵线上讨论。

这些活动不同于普通政治传播。协调行动可以制造表面上的共识、淹没独立报道，或让真实证据看起来与伪造材料难以区分。

对一个政权而言，混乱可以和说服同样有用。对每段视频、每个账号和每份文件都不再信任的公民，将更难围绕共同的事件叙述组织起来。

这正是 Google News 标题的重要性超出其即时发布者的原因。它指向了政治控制运作方式的结构性变化。

AI 并不会取代审查、逮捕、断网或恐吓。它帮助政府决定在哪里使用这些手段，以及如何掩盖其规模。

该系统还会从执法中学习。一次逮捕会产生新的设备记录、联系人、旅行历史和审讯材料，并可为后续调查提供数据。

这种反馈循环使每一次干预都转化为额外的训练数据。它也使镇压更难被审查，因为决定性的关联可能发生在无法访问的政府数据库内部。

这一变化造成了严重的问责缺口。受影响者可能永远不会知道，是哪些数据引发了关注、算法如何评估自己，或是否有人核实过结果。

一旦安全机构将这一过程标记为机密，有意义的申诉就几乎不可能。其不透明性不只是技术问题，也服务于使用该系统的机构的政治利益。

威权政权的优势在于规模，而非完美准确率

独裁政权能从 AI 中获得杠杆优势，是因为它们可以容忍本应被可问责法律体系拒绝的错误。

公共讨论常常将准确率视为衡量监控系统的核心标准。这种框架忽略了政治问题。

人脸识别模型可能错误匹配一名抗议者、记者或路人。语言模型可能将讽刺误判为异议。风险系统可能把无辜的关联视为不忠的证据。

在尊重权利的制度中，这些失误应当触发披露、审查、纠正和赔偿。法院、监管机构、记者和民选官员可以质疑负责的机构。

威权制度面临的约束更少。当恐吓本身有助于维持政权时，其领导人可以接受大量误报。

即使被错误盘问的人，也会认识到参与活动带有风险。他们的家人和同事也会收到同样的信息。其他人可能在当局从未联系自己之前就选择退出。

这会产生寒蝉效应，即人们因为预期遭受监控或惩罚而改变合法行为。政府不需要起诉所有人。

它只需要让公民相信，匿名正在消失。

AI 通过让监控看起来无所不在来强化这种信念。联网摄像头让人感觉当局可以重建一个人穿行城市的轨迹，即使实际覆盖仍存在空白。

自动化监控在线上也会产生类似印象。用户无法得知，一句被删除的话是触发了算法、人工审核员，还是政府指令。

这种不确定性鼓励自我审查。它还将执法成本从政府转移给民众，因为人们开始约束自己的行为。

Carnegie 的监控指数表明，到 2019 年，相关基础技术已经传播得多么广泛。

该研究识别出，在 176 个国家中至少有 75 个国家正在积极使用 AI 监控。研究发现，56 个国家部署了智慧城市或平安城市平台，64 个国家使用人脸识别，52 个国家采用智能警务。

这些数字并不能证明存在滥用。Carnegie 明确指出，仅凭该指数无法区分合法与非法的部署。

这一区分至关重要。民主政府同样会将人脸识别、预测系统和视频分析用于警务、边境管理和公共安全。

政治环境决定了法律保障是否能够约束这些能力。独立法院、自由媒体、采购透明度和有效申诉机制都可以减少滥用。

封闭体制缺乏这些保护。安全机构可以将政治批评定义为极端主义、扰乱公共秩序、分裂主义或虚假信息。

一旦这种分类被纳入监控名单，AI 就可以自动化其后果。一个人可能面临额外搜查、出行受阻、账户限制、就业压力或反复被警方接触。

计算机并不创造政治分类。它只是让这种分类更容易应用于数百万条记录。

这解释了为何关于中立算法的说法并不充分。一个技术上准确的模型仍可能支持滥用性的政策。

如果政府命令系统识别和平抗议者，提高准确率并不能解决人权问题，只会让侵害变得更高效。

同样的担忧也适用于自动化审查。分类器可能准确识别每一处对被禁止事件、少数群体或反对派人物的提及。

从工程角度看，模型表现良好。从政治角度看，它缩小了公众发言和获取信息的空间。

因此，AI 为威权政府提供了三项相互关联的优势：规模、速度和看似置身事外的距离。

规模扩大被监控的人数。速度缩短表达与执法之间的时间。看似置身事外的距离则让官员能够将决定归因于平台、供应商或自动化流程。

这些都不需要通用人工智能。现有的计算机视觉、数据库匹配、推荐系统和语言模型已经提供了必要组件。

中国正在构建 AI 控制堆栈

中国的模式将商业创新、法律强制要求和政府采购结合起来，形成一套可复用的政治控制基础设施。

中国仍是最成熟的案例，因为其系统横跨线上内容、实体监控、警务、法院和监狱。

Australian Strategic Policy Institute 在其关于中国 AI 系统的 2025 年报告中考察了这种整合。

研究人员分析了采购记录、企业申报文件、招聘信息和模型行为。他们还使用包含 200 张政治敏感图片的数据集测试了中国的大型语言模型。

研究结果描述的是一套控制堆栈，而非单一监控产品。不同系统对信息进行分类、识别人员、生成警报、协助官员，并执行内容规则。

中国的大型语言模型不只过滤文本。ASPI 发现，审查机制也会影响政治敏感图片。

这一点很重要，因为多模态模型可以处理多种格式，包括文本、图片、音频和视频。因此，审查系统能够在不同媒体中遵循同一套政治规则。

这种能力使规避行为更加困难。过去，用户在直接文本被封锁时，常依赖图片、谐音、截图或编码语言。

经过训练、能够理解多种格式的模型，可以识别更多这类替代方式。人工审核员仍会提供文化和政治判断，但自动化扩大了他们的覆盖范围。

ASPI审查了100多份网络审查职位招聘信息。对审查员的持续需求表明，中国的系统尚未将人类从流程中移除。

相反，人类工作人员负责解读不断变化的政治边界，并将这些判断输入自动化流程。机器提供规模化能力，而人们则持续更新“不可接受言论”的定义。

中国的监管规定也创造了商业需求。大型科技公司已开发出合规平台，供较小企业筛查内容。

这种安排将执法分散至整个数字经济。新服务无需从零开始建立完整的审查体系。

它可以采购或整合一套由既有国家要求塑造的系统。合规成为一项常规基础设施支出，而非特殊干预。

刑事司法系统的风险更高。ASPI发现，中国正将AI部署于警务、检察、法院和监狱等环节。

据报道，这些工具可协助处理文件、证据、量刑建议和机构管理。每一种用途都会引发有关透明度和申诉机制的不同问题。

自动化建议即使其训练数据反映了选择性执法，也可能显得客观。在政治主导的体系中，过去的逮捕和定罪记录并不构成中立的档案。

如果官员过去曾重点针对某个社区，基于这段历史训练的算法就可能复制这一模式。随后，它还能将这种重复呈现为统计证据。

少数民族语言系统加深了这一担忧。ASPI发现，政府支持的工作涉及维吾尔语、藏语、蒙古语和韩语处理。

商业开发者缺乏为规模相对较小的语言群体打造昂贵模型的动力。当监控和信息控制足以证明投资合理时，国家可以提供资金。

这类模型能够监控此前需要稀缺人类专家才能处理的言论。它们还可将分析扩展至文本、音频和视频。

因此，这套控制体系同时弥合了多项缺口。它扩大语言覆盖范围，将线上与线下身份连接起来，并让自动化建议更深入地进入政府决策。

中国的系统并非完全中央集权，也不具备统一能力。各机构预算不同，供应商提供的产品参差不齐，地方官员仍会作出具有重要后果的选择。

这种不均衡不应带来虚假的安心感。政治体系并不需要技术上的一致性，也能制造恐惧或惩罚被选定的群体。

Google News读者也应避免将这一故事简化为中国独有的发展。中国提供了最清晰的大规模范例，但其组成部分和运作方式会向外传播。

有些通过商业出口传播，另一些则经由培训关系、会议、标准组织、警务交流或模仿扩散。

这使中国案例既是国内人权问题，也是对其他地区可获得能力的一次预览。

全球技术供应链维系着这一体系的运转

威权监控并非在封闭的国家系统内部生产；它依赖国际硬件、软件、专业知识和融资。

一个摄像头网络需要传感器、存储设备、处理器、通信设备、数据库和分析软件。每一层都可能涉及在多个司法辖区运营的公司。

这种复杂性为否认责任创造了空间。芯片制造商可以称其出售的是通用硬件。软件公司则可能辩称，本地合作伙伴控制了部署。

分销商可以声称自己从未接触最终的政府客户。有关部门可以通过承包商或名称看似无害的公共安全项目进行采购。

然而，组装完成的系统仍可能支持政治监控。

美联社的一项调查审视了外国技术如何助力中国的数字警察国家。

该调查参考了数以万计泄露的电子邮件和数据库、机密记录、采购文件，以及对100多人进行的采访。

美联社报道称，与美国、欧洲和亚洲公司有关的技术出现在中国的警务与监控基础设施中。

这些案例涵盖数据库软件、云系统、存储设备、地图产品、芯片、摄像头、生物识别工具和分析应用。

多家公司向美联社表示，旧有合作关系已结束，它们遵守出口管制，或所指控的滥用行为发生在其不知情且无法控制的范围之外。

这些回应说明了执法难题。一个组件在售出多年后仍可发挥作用，而软件可被另一家公司复制、修改或整合。

出口规则通常聚焦于被点名的实体、目的地或产品。监控系统的演变速度快于这些清单，而且经常采用常见的商用技术。

因此，供应链责任不能止于狭义的制裁核查。供应商需要审查预期用户、本地合作伙伴、部署环境以及可预见的二次用途。

它们还需要合同控制、技术限制、审计和可信的退出程序。没有任何一种措施能提供完整解决方案，尤其是在政府隐瞒其运作时。

西方参与的历史使得“威权AI遵循单一国家模式”的说法更为复杂。Carnegie发现，在其2019年指数涵盖的32个国家中，都有美国企业的技术存在。

中国公司是主要供应商，但总部位于法国、德国、以色列、日本和美国的企业也推动了全球扩散。

这并不证明每一家供应商都意图实施压迫。它说明，为何简单的民主国家与独裁国家供应图景并不成立。

商业激励可能将开放社会中的企业，与缺乏公开监督的机构联系起来。投资者和高管可能先看到公共安全合同，后看到政治风险。

同一套基础设施也可能改变用途。一座城市可能为交通管理采购摄像头，随后在抗议开始后将其接入人脸识别系统。

边境数据库可能变成国内监视名单。内容安全分类器可能被用于执行政治禁忌。欺诈检测平台可能暴露异见人士的金融网络。

这种用途转换问题削弱了仅依据最初销售说明作出的保证。治理必须贯穿技术的整个使用寿命。

企业还需要考虑维护问题。更新、云服务、替换组件和技术支持都可能让滥用性系统持续运行。

停止新的销售并不会立即使已部署设备失效。政府可以囤积硬件、使用中间商，或开发本地替代品。

因此，全球市场赋予独裁政体韧性。它们可以混合使用不同供应商的技术，并随着时间推移替换受限组件。

这种韧性给协调规则带来压力。当其他地方仍能获得同等产品时，一国严格的出口管制效果有限。

共同标准还必须界定被禁止的用途，而不仅仅是被禁止的客户。政府可以在不同部门、地方机构或关联承包商之间转移项目。

Google News报道可以揭露个别交易，但公众关注很少能追踪完整链条。采购记录、企业披露和技术研究必须填补这一空白。

决定性问题不在于某个组件是否以AI名义营销，而在于完整系统是否扩大了政府识别、分类或惩罚合法活动的能力。

真正的权衡是：安全不能脱离问责

最棘手的政策问题，是如何区分正当的公共安全与使政治权力难以受到挑战的系统。

政府将人脸识别、数据分析和自动化监控描述为寻找罪犯、防止袭击或定位失踪人员的工具。

这些目的本身并不必然不正当。同样的技术在不同法律和制度下，可能产生不同结果。

针对已知嫌疑人的严格限定搜索，与通过所有公共摄像头持续识别每个人不同。两者都可能使用类似软件。

区别在于必要性、比例原则、保存期限、访问权限和监督机制。它还取决于受影响者能否发现并挑战滥用行为。

威权政府会抹去这些区别。宽泛的国家安全法可以将和平反对活动等同于犯罪危险。

它们可以将整个社会定义为潜在的不稳定来源。大规模收集数据随之成为默认做法，而非例外措施。

联合国人权事务高级专员办事处警告称，远程生物识别监控可能影响隐私、表达、行动和和平集会。

其指导意见支持对扫描人群或抗议活动的系统施加严格限制，也反对基于受保护特征进行个体化犯罪预测和生物识别分类。

这些立场反映了一个基本问题：在示威活动中扫描每个人的摄像头，并非只是在观察涉嫌不当行为。

它会记录合法参与，并可能识别组织者、记者、律师、旁观者和支持者构成的网络。这种认知会改变人们是否感到安全，进而决定他们是否参加下一场活动。

当多个系统相互连接时，风险会增加。人脸识别确认一个人，手机数据绘制其联系人关系，语言分析则对其通信内容进行分类。

官员可能因此将综合输出视为比任何单独记录都更有力的证据。然而，将不确定的推断连接起来，并不会自动产生可靠证据。

错误可能层层累积。一次薄弱的人脸匹配可能将错误的人与某个地址关联，而一条被误译的信息则提供了虚假的动机。

不透明的供应商和保密机构使这些失败难以被发现。受影响者可能只会看到最终的限制或指控。

因此，联合国强调在部署前应进行透明度审查、独立监督和人权影响评估。

恰恰是在政治风险最高的地方，这些保护最为薄弱。威权立法机构无法可靠地约束维护统治秩序的安全部门。

单靠技术保障无法修复这种制度性失败。只有当审查者拥有拒绝机器输出的权力、独立性和激励时，人类审查才有帮助。

预期会因漏掉威胁而受惩罚的官员，会接受更多误报。自动化可以通过赋予警报一个数值评分来强化这种偏见。

系统也会塑造政府内部的行为。一旦机构购买了昂贵基础设施，管理者便面临展示成果的压力。

更多监视名单、警报和干预措施可能看起来能够证明投资合理。低活动量反而可能被解读为系统表现不佳。

这种激励会助长任务扩张。一个为反恐引入的平台，可能扩展至普通犯罪、抗议、移民事务、政治言论或工作场所监控。

俄罗斯使用人脸识别的经验显示，公共安全基础设施可以延伸至政治集会。Human Rights Watch报道称，俄罗斯官员承认在莫斯科一场抗议活动中使用人脸识别进行大规模监控。

伊朗展示了另一条路径。在大规模反对活动期间，当局结合使用互联网限制、平台封锁、摄像头网络和数字监控。

Freedom House 记录到，伊朗在 2022 年 9 月 Jina Mahsa Amini 在拘押期间死亡引发抗议后，互联网自由显著倒退。

这些案例表明，只关注模型准确性并不足够。真正的主要不确定性在于：谁来定义目标，以及完成识别后会发生什么。

一个系统即使完全按设计运行，也可能侵犯权利。其设计目标本身就可能是政治控制。

民主政府不应假定自身制度能够消除这种风险。Carnegie 发现，AI 监控既存在于自由民主国家，也存在于专制国家。

开放社会拥有更强的纠错机制，但这些机制需要获取信息。秘密采购和宽泛的安全豁免可能削弱它们。

因此，恰当的界线应是可问责的使用方式，而不是国家标签。政府应公布法律授权、允许用途、保存期限、错误测试、供应商身份和审计结果。

它们还应提供有效救济。一个因系统仍属秘密而无法行使的权利，几乎无法提供实际保护。

数字控制的下一阶段将是什么样

下一场较量将围绕预测性目标锁定、生成式宣传，以及政府能否约束同时供应这两类能力的公司展开。

第一个值得关注的信号，是从身份识别转向预测。

传统人脸识别会询问：被观察到的人脸是否与存储图像匹配。预测系统则对一个人可能采取何种行动提出更大胆的判断。

它们可以分析出行、购买、联系人、语言和位置模式，生成风险评估。政府可能将结果称为调查线索，而非最终决定。

这种标签不会消除其影响。执法人员会依据这些线索分配注意力，而加强监控又会产生更多记录，表面上印证最初的评分。

这一循环可能将政治假设转化为统计模式。受到最严密监控的社区，将产生最多警报。

关注采购文件中是否出现舆情分析、社会稳定、早期预警、风险画像或预防性治理等表述。这些措辞往往比 AI 标签更清楚地揭示预期功能。

独立审计应检验预测系统识别的是真实行为，还是仅仅复制官方怀疑。若无法获取数据和结果，准确性主张就仍未经验证。

第二个信号是自动化说服。

生成式模型降低了运营大量可信账号、为不同群体定制信息，以及在政治危机期间迅速回应的成本。

政府不再需要每名宣传人员都撰写原创帖文。模型可以大规模生成不同版本、翻译、评论和合成媒体。

检测仍将十分困难，因为生成内容并不总是包含稳定的技术标记。操作者也可以混合使用人工和机器创作。

其目标可能并非让所有人改变想法。淹没讨论空间就能耗尽审核人员精力、分散记者注意力，并埋没真实证词。

合成媒体还可能助长“说谎者红利”。由于令人信服的伪造内容存在，官员可以将真实录音或录像斥为捏造。

关注平台如何披露协同影响行动。有效的披露应说明账号创建、放大传播、定向投放、支付安排，以及与国家机构的关联。

仅统计被删除帖文的数量，几乎无法说明其覆盖范围或影响。研究人员需要在平台删除证据前获得保存的数据集。

第三个信号是，出口管制和企业尽职调查能否从承诺转为可执行的实践。

各国政府已对特定监控公司和先进组件实施限制。这些措施增加了阻力，但仍保留了广泛的商业渠道。

未来规则应覆盖经纪商、转售商、云支持、软件更新和技术服务，也必须涵盖看似合法销售后的再利用。

企业报告可提供早期检验。供应商应识别高风险政府合同，说明审查流程，并披露何时暂停服务。

投资者可以询问，收入是否依赖于阻止审计或隐瞒最终用户的客户。员工可以审视，内部升级渠道是否拥有叫停部署的权力。

民间社会团体需要资源来调查采购并测试已部署系统。专制政府会故意限制问责所需的证据。

记者和研究人员在梳理这些网络时也面临人身风险。对举报人的保护以及安全获取记录的渠道，将决定哪些信息能为公众所知。

这三个信号相互强化。预测性监控产生目标，生成式宣传塑造叙事，全球供应商提供基础设施。

一个同时控制这三者的政权，可以更早采取行动、掩盖其所作所为，并质疑任何记录结果者的可信度。

制衡力量也必须作为一个系统运作。监管、技术测试、调查报道、企业问责和法律救济无法孤立发挥作用。

Google News 可以让这一议题进入公众视野，但关注只是第一步。读者应追问每项主张背后有哪些证据，以及哪一机构能够施加后果。

问题已不再是独裁政权会不会使用 AI。已有记录的部署表明，它们已经在使用。

紧迫的问题是，企业和民主政府能否在一体化控制系统成为常规公共基础设施之前建立限制。

未来几个月，请关注采购记录、生物识别法律、平台影响力报告和供应商披露。这些信号将显示，问责机制是在迎头赶上，还是进一步落后。