Comment les dictatures utilisent l’IA pour étendre la surveillance et le contrôle politique

Google News a mis en évidence un conflit frappant : l’intelligence artificielle aide les gouvernements autoritaires à identifier, surveiller et réduire au silence leurs opposants présumés à une vitesse sans précédent.

Ce changement ne consiste pas simplement à installer davantage de caméras ou à bloquer plus de sites web. Les gouvernements peuvent désormais relier les visages, les déplacements, les messages, les relations et les comportements au sein de bases de données auparavant distinctes.

Cette intégration modifie l’équilibre entre les dirigeants et ceux qui les contestent. La répression traditionnelle réagit à une manifestation, une publication ou une organisation politique. La répression assistée par l’IA cherche à détecter ces activités plus tôt, à en évaluer l’importance et à les perturber avant qu’elles ne se propagent.

La Chine a construit la version la plus étendue de ce modèle. La Russie, l’Iran et d’autres gouvernements ont adopté des combinaisons similaires de reconnaissance faciale, de censure automatisée, de fusion de données et d’opérations d’influence en ligne.

Ces systèmes restent imparfaits. Ils produisent des erreurs, héritent de biais politiques et dépendent toujours de responsables humains. Pourtant, les gouvernements autoritaires n’ont pas besoin de prédictions infaillibles pour prendre l’avantage.

Ils ont besoin de suffisamment d’informations pour accroître le coût de l’organisation, de la prise de parole, des déplacements ou du maintien de l’anonymat. Cet effet dissuasif peut renforcer un régime même lorsque ses algorithmes commettent fréquemment des erreurs.

L’enjeu central n’oppose donc pas les dictatures à une seule entreprise technologique. Il oppose le contrôle politique automatisé à une gouvernance responsable de l’IA.

Ce conflit dépasse les frontières nationales. Les composants de surveillance proviennent de chaînes d’approvisionnement multinationales, tandis que les gouvernements échangent des infrastructures, des connaissances opérationnelles et des modèles réglementaires.

Ce que Google News révèle sur la répression propulsée par l’IA

Le changement majeur ne réside pas dans un déploiement isolé, mais dans la transformation d’outils de contrôle déconnectés en un système politique de plus en plus intégré.

Les gouvernements autoritaires ont toujours collecté des informations sur leurs détracteurs. Les polices secrètes surveillaient les réunions, interceptaient les communications, recrutaient des informateurs et constituaient des dossiers sur les personnes jugées politiquement dangereuses.

Ces méthodes exigeaient beaucoup de main-d’œuvre. Les responsables devaient décider qui suivre, quels messages lire et comment relier des fragments d’informations conservés dans différents bureaux.

L’IA réduit cette charge administrative. La vision par ordinateur peut analyser des flux de caméras, tandis que le traitement du langage naturel peut classer les messages et détecter les sujets interdits.

La fusion de données, qui combine des dossiers provenant de sources multiples, peut relier un visage à un numéro de téléphone, un véhicule, une adresse, un lieu de travail et un réseau social. L’analyse prédictive peut ensuite classer les personnes ou les événements selon un score de risque défini par le gouvernement.

Le résultat est un filet de surveillance plus large. Les autorités peuvent partir de populations entières plutôt que d’une courte liste de suspects connus.

Freedom House a documenté cette transformation plus vaste dans son étude sur la répression numérique. Ses chercheurs ont examiné les évolutions dans 70 pays représentant 88 % des internautes dans le monde.

L’organisation a constaté que la liberté sur internet avait reculé pour la treizième année consécutive pendant sa période de référence de 2023. Des personnes ont subi des conséquences juridiques pour leur expression en ligne dans 55 des 70 pays étudiés.

Les gouvernements d’au moins 21 pays avaient également créé des règles juridiques exigeant ou encourageant les plateformes à utiliser l’apprentissage automatique contre des contenus défavorisés. De telles règles peuvent faire des plateformes privées des prolongements de la censure d’État.

L’IA générative ajoute une couche supplémentaire. Elle peut produire plus rapidement que les équipes de propagande traditionnelles des articles, des images, de l’audio, des commentaires et des identités fabriquées.

Freedom House a constaté que des gouvernements ou des acteurs politiques avaient utilisé des outils génératifs dans au moins 16 pays pour déformer le débat public durant la période de référence. Au moins 47 gouvernements ont déployé des commentateurs afin de manipuler les discussions en ligne.

Ces activités diffèrent de la communication politique ordinaire. Une campagne coordonnée peut fabriquer une apparente unanimité, submerger les reportages indépendants ou rendre des preuves authentiques indiscernables de contenus fabriqués.

Pour un régime, la confusion peut être aussi utile que la persuasion. Les citoyens qui se méfient de chaque vidéo, compte et document ont davantage de mal à s’organiser autour d’une version commune des événements.

C’est pourquoi le titre de Google News compte au-delà de son éditeur immédiat. Il signale une transformation structurelle du fonctionnement du contrôle politique.

L’IA ne remplace ni la censure, ni les arrestations, ni les coupures d’internet, ni l’intimidation. Elle aide les gouvernements à déterminer où appliquer ces méthodes et comment en dissimuler l’ampleur.

Le système apprend également de l’application de ces mesures. Une arrestation crée de nouveaux enregistrements d’appareils, contacts, historiques de déplacement et éléments d’interrogatoire susceptibles d’alimenter des enquêtes ultérieures.

Cette boucle de rétroaction transforme chaque intervention en données d’entraînement supplémentaires. Elle rend aussi la répression plus difficile à examiner, car le lien décisif peut s’établir à l’intérieur d’une base de données gouvernementale inaccessible.

Ce changement crée un grave déficit de responsabilité. La personne concernée pourrait ne jamais savoir quelles données ont suscité l’attention, comment un algorithme les a évaluées ou si quelqu’un a vérifié le résultat.

Lorsqu’une agence de sécurité qualifie ce processus de secret, tout recours véritable devient presque impossible. L’opacité n’est pas seulement un problème technique. Elle sert les intérêts politiques de l’institution qui utilise le système.

L’avantage autoritaire réside dans l’échelle, pas dans une précision parfaite

Les dictatures tirent parti de l’IA parce qu’elles peuvent tolérer des erreurs qu’un système juridique responsable devrait rejeter.

Le débat public traite souvent la précision comme la mesure centrale d’un système de surveillance. Ce cadrage passe à côté de la question politique.

Un modèle de reconnaissance faciale peut associer à tort un manifestant, un journaliste ou un passant. Un modèle linguistique peut prendre le sarcasme pour de la dissidence. Un système de risque peut considérer une relation innocente comme une preuve de déloyauté.

Dans un système respectueux des droits, ces défaillances devraient entraîner divulgation, réexamen, correction et indemnisation. Les tribunaux, les régulateurs, les journalistes et les responsables élus peuvent contester l’agence responsable.

Un système autoritaire fait face à moins de contraintes. Ses dirigeants peuvent accepter un grand nombre de faux positifs lorsque l’intimidation elle-même soutient le régime.

Une personne interrogée à tort apprend tout de même que la participation comporte des risques. Sa famille et ses collègues reçoivent le même message. D’autres peuvent se retirer avant même que les autorités ne les contactent.

Cela produit un effet dissuasif : les personnes modifient un comportement légal parce qu’elles s’attendent à être surveillées ou punies. Le gouvernement n’a pas besoin de poursuivre tout le monde.

Il lui suffit que les citoyens croient que l’anonymat disparaît.

L’IA renforce cette conviction en donnant à la surveillance une apparence d’exhaustivité. Les caméras en réseau suggèrent que les autorités peuvent reconstituer les déplacements à travers une ville, même si la couverture comporte des lacunes.

La surveillance automatisée crée une impression similaire en ligne. Les utilisateurs ne peuvent pas savoir si une phrase supprimée a déclenché un algorithme, un modérateur humain ou une directive gouvernementale.

Cette incertitude encourage l’autocensure. Elle transfère également les coûts de l’application des règles du gouvernement vers la population, car les personnes commencent à surveiller leur propre comportement.

L’indice de surveillance de Carnegie a illustré l’ampleur de la diffusion de la technologie sous-jacente dès 2019.

L’étude a identifié une utilisation active de la surveillance par IA dans au moins 75 des 176 pays. Elle a recensé des plateformes de villes intelligentes ou sûres dans 56 pays, la reconnaissance faciale dans 64 et la police intelligente dans 52.

Ces chiffres ne prouvent pas l’existence d’abus. Carnegie a explicitement indiqué que les déploiements légitimes et illégaux ne pouvaient pas être distingués à partir du seul indice.

Cette distinction est essentielle. Les gouvernements démocratiques utilisent eux aussi la reconnaissance faciale, les systèmes prédictifs et l’analyse vidéo pour le maintien de l’ordre, la gestion des frontières et la sécurité publique.

L’environnement politique détermine si des garde-fous juridiques encadrent ces capacités. Des tribunaux indépendants, des médias libres, la transparence des marchés publics et des voies de recours effectives peuvent réduire les abus.

Les systèmes fermés ne disposent pas de ces protections. Les agences de sécurité peuvent qualifier la critique politique d’extrémisme, de trouble à l’ordre public, de séparatisme ou de fausse information.

Une fois cette classification inscrite sur une liste de surveillance, l’IA peut en automatiser les conséquences. Une personne peut faire l’objet de contrôles supplémentaires, se voir interdire de voyager, subir des restrictions de compte, des pressions professionnelles ou des contacts répétés avec la police.

L’ordinateur ne crée pas la catégorie politique. Il rend cette catégorie plus facile à appliquer à des millions de dossiers.

Cela explique pourquoi les affirmations sur la neutralité des algorithmes sont insuffisantes. Un modèle techniquement précis peut tout de même soutenir une politique abusive.

Si le gouvernement ordonne à un système d’identifier des manifestants pacifiques, améliorer la précision ne résout pas le problème des droits humains. Cela rend la violation plus efficace.

La même préoccupation s’applique à la censure automatisée. Un classificateur peut reconnaître correctement chaque référence à un événement, une minorité ou une figure de l’opposition interdits.

Du point de vue de l’ingénierie, le modèle fonctionne bien. Du point de vue politique, il réduit la capacité du public à s’exprimer et à obtenir des informations.

L’IA offre donc aux gouvernements autoritaires trois avantages liés : l’échelle, la vitesse et une distance plausible.

L’échelle augmente le nombre de personnes surveillées. La vitesse réduit le délai entre l’expression et l’application des mesures. La distance plausible permet aux responsables d’attribuer les décisions à des plateformes, des fournisseurs ou des processus automatisés.

Aucun de ces avantages ne nécessite une intelligence artificielle générale. La vision par ordinateur, la correspondance de bases de données, les systèmes de recommandation et les modèles linguistiques existants fournissent déjà les composants nécessaires.

La Chine construit une pile de contrôle par IA

Le modèle chinois associe innovation commerciale, obligations légales et marchés publics de l’État au sein d’une infrastructure réutilisable de contrôle politique.

La Chine demeure le cas le plus développé, car son système s’étend aux contenus en ligne, à la surveillance physique, au maintien de l’ordre, aux tribunaux et aux prisons.

L’Australian Strategic Policy Institute a examiné cette intégration dans son rapport de 2025 sur les systèmes d’IA de la Chine.

Les chercheurs ont analysé des dossiers d’achats publics, des déclarations d’entreprise, des offres d’emploi et le comportement des modèles. Ils ont également testé de grands modèles linguistiques chinois à l’aide d’un jeu de données de 200 images politiquement sensibles.

Leurs conclusions décrivent une pile de contrôle plutôt qu’un seul produit de surveillance. Différents systèmes classent les informations, identifient les personnes, génèrent des alertes, assistent les responsables et appliquent les règles relatives aux contenus.

Les grands modèles linguistiques chinois ne se contentent pas de filtrer le texte. ASPI a constaté des mécanismes de censure qui affectaient également les images politiquement sensibles.

Cela importe parce que les modèles multimodaux traitent plusieurs formats, dont le texte, les images, l’audio et la vidéo. Un système de censure peut donc appliquer la même règle politique à différents médias.

Cette capacité rend le contournement plus difficile. Les utilisateurs ont historiquement recouru à des images, des homophones, des captures d’écran ou un langage codé lorsque le texte direct était bloqué.

Un modèle entraîné à interpréter plusieurs formats peut identifier davantage de ces substitutions. Les examinateurs humains apportent toujours leur jugement culturel et politique, mais l’automatisation accroît leur portée.

ASPI a examiné plus de 100 offres d’emploi de censure en ligne. La demande persistante de réviseurs montre que le système chinois n’a pas supprimé les humains de la boucle.

Au contraire, des travailleurs humains interprètent l’évolution des limites politiques et intègrent ces jugements dans des processus automatisés. La machine apporte l’échelle, tandis que les personnes actualisent la définition des discours inacceptables.

La réglementation chinoise crée également une demande commerciale. De grandes entreprises technologiques ont développé des plateformes de conformité que les petites entreprises peuvent utiliser pour filtrer les contenus.

Cette organisation répartit l’application des règles dans l’ensemble de l’économie numérique. Un nouveau service n’a pas besoin de bâtir de zéro toute une opération de censure.

Il peut acheter ou intégrer un système façonné par les exigences étatiques existantes. La conformité devient une dépense d’infrastructure ordinaire plutôt qu’une intervention exceptionnelle.

Le système de justice pénale présente des enjeux plus élevés. ASPI a constaté que la Chine déployait l’IA dans la police, les poursuites, les tribunaux et les prisons.

Ces outils contribueraient à la gestion des documents, au traitement des preuves, aux recommandations de peine et à la gestion des établissements. Chaque usage soulève des questions différentes de transparence et de recours.

Une recommandation automatisée peut paraître objective même lorsque ses données d’entraînement reflètent un maintien de l’ordre sélectif. Les arrestations et condamnations passées ne constituent pas un historique neutre dans un système dirigé politiquement.

Si des responsables ont fortement ciblé une communauté par le passé, un algorithme entraîné sur cet historique peut reproduire ce schéma. Il peut ensuite présenter cette répétition comme une preuve statistique.

Les systèmes destinés aux langues minoritaires accentuent cette préoccupation. ASPI a identifié des travaux soutenus par le gouvernement concernant le traitement de l’ouïghour, du tibétain, du mongol et du coréen.

Les développeurs commerciaux ont peu d’incitations à créer des modèles coûteux pour des groupes linguistiques relativement restreints. L’État peut fournir des financements lorsque la surveillance et le contrôle de l’information justifient l’investissement.

De tels modèles peuvent surveiller des discours qui exigeaient auparavant de rares spécialistes humains. Ils peuvent aussi étendre l’analyse au texte, à l’audio et à la vidéo.

La pile de contrôle comble ainsi plusieurs lacunes à la fois. Elle élargit la couverture linguistique, relie les identités en ligne et hors ligne, et fait pénétrer plus profondément les recommandations automatisées dans les décisions gouvernementales.

Le système chinois n’est ni totalement centralisé ni uniformément performant. Les agences disposent de budgets différents, les fournisseurs proposent des produits inégaux et les responsables locaux continuent de prendre des décisions lourdes de conséquences.

Cette inégalité ne devrait pas créer un faux sentiment de réassurance. Les systèmes politiques n’ont pas besoin de cohérence technique pour susciter la peur ou punir des groupes ciblés.

Les lecteurs de Google News devraient également éviter de réduire cette histoire à une évolution uniquement chinoise. La Chine offre le modèle à grande échelle le plus clair, mais les composants et les pratiques opérationnelles circulent.

Certains circulent sous forme d’exportations commerciales. D’autres se diffusent par des relations de formation, des conférences, des organismes de normalisation, des échanges entre services de police ou l’imitation.

Le cas chinois constitue donc à la fois une question nationale de droits humains et un aperçu de capacités disponibles ailleurs.

Les chaînes d’approvisionnement technologiques mondiales font fonctionner le système

La surveillance autoritaire n’est pas produite dans des systèmes nationaux hermétiques ; elle dépend de matériel, de logiciels, d’expertise et de financements internationaux.

Un réseau de caméras nécessite des capteurs, du stockage, des processeurs, des équipements de communication, des bases de données et des logiciels d’analyse. Chaque couche peut impliquer des entreprises opérant dans plusieurs juridictions.

Cette complexité crée des possibilités de dénégation. Un fabricant de puces peut affirmer qu’il vend du matériel à usage général. Une entreprise de logiciels peut soutenir qu’un partenaire local contrôlait le déploiement.

Un distributeur peut prétendre n’avoir jamais rencontré le client gouvernemental final. Les autorités peuvent dissimuler les achats derrière des sous-traitants ou des projets de sécurité publique aux noms anodins.

Pourtant, le système ainsi assemblé peut toujours soutenir la surveillance politique.

Une enquête d’Associated Press a examiné comment des technologies étrangères ont contribué à l’État policier numérique chinois.

L’enquête s’est appuyée sur des dizaines de milliers d’e-mails et de bases de données divulgués, des dossiers confidentiels, des documents d’achat et des entretiens avec plus de 100 personnes.

AP a rapporté que des technologies liées à des entreprises américaines, européennes et asiatiques apparaissaient dans les infrastructures chinoises de police et de surveillance.

Les exemples couvraient des logiciels de bases de données, des systèmes cloud, du stockage, des produits de cartographie, des puces, des caméras, des outils biométriques et des applications d’analyse.

Plusieurs entreprises ont déclaré à AP que d’anciennes relations avaient pris fin, qu’elles respectaient les contrôles à l’exportation ou que les usages abusifs présumés avaient eu lieu hors de leur connaissance et de leur contrôle.

Ces réponses illustrent le problème d’application des règles. Un composant peut rester utile pendant des années après sa vente, tandis qu’un logiciel peut être copié, modifié ou intégré par une autre entreprise.

Les règles d’exportation ciblent souvent des entités, des destinations ou des produits nommément désignés. Les systèmes de surveillance évoluent plus vite que ces listes et intègrent fréquemment des technologies commerciales courantes.

La responsabilité dans la chaîne d’approvisionnement ne peut donc pas s’arrêter à un contrôle restreint des sanctions. Les fournisseurs doivent examiner les utilisateurs prévus, les partenaires locaux, les contextes de déploiement et les usages secondaires prévisibles.

Ils doivent également prévoir des contrôles contractuels, des restrictions techniques, des audits et des procédures de retrait crédibles. Aucun de ces mécanismes n’offre de solution complète, surtout lorsqu’un gouvernement dissimule ses opérations.

L’histoire de l’implication occidentale complique les affirmations selon lesquelles l’IA autoritaire suivrait un seul modèle national. Carnegie a relevé des technologies d’entreprises américaines dans 32 pays de son indice de 2019.

Les entreprises chinoises étaient des fournisseurs majeurs, mais des sociétés basées en France, en Allemagne, en Israël, au Japon et aux États-Unis ont également contribué à la prolifération mondiale.

Cela ne prouve pas que chaque fournisseur avait l’intention de réprimer. Cela montre pourquoi une simple carte d’approvisionnement opposant démocraties et dictatures échoue.

Les incitations commerciales peuvent relier des entreprises de sociétés ouvertes à des agences opérant sans contrôle public. Les investisseurs et les dirigeants peuvent voir les contrats de sécurité publique avant d’identifier le risque politique.

La même infrastructure peut aussi changer de finalité. Une ville peut acheter des caméras pour gérer la circulation, puis les relier à la reconnaissance faciale après le début de manifestations.

Une base de données frontalière peut devenir une liste de surveillance intérieure. Un classificateur de sécurité des contenus peut imposer des tabous politiques. Une plateforme de détection de fraude peut exposer les réseaux financiers de dissidents.

Ce problème de réaffectation affaiblit les garanties fondées uniquement sur la description initiale de la vente. La gouvernance doit accompagner la technologie tout au long de sa durée de vie utile.

Les entreprises doivent également prendre en compte la maintenance. Les mises à jour, les services cloud, les composants de remplacement et l’assistance technique peuvent maintenir un système abusif en fonctionnement.

L’arrêt des nouvelles ventes ne désactivera pas immédiatement les équipements déjà déployés. Les gouvernements peuvent stocker du matériel, recourir à des intermédiaires ou développer des solutions locales de remplacement.

Le marché mondial confère par conséquent aux dictatures une capacité de résilience. Elles peuvent combiner des technologies provenant de différents fournisseurs et remplacer les composants soumis à restrictions au fil du temps.

Cette résilience crée une pression en faveur de règles coordonnées. Les contrôles stricts à l’exportation d’un pays ont un effet limité lorsque des produits équivalents restent disponibles ailleurs.

Des normes communes doivent également définir les usages interdits, et non seulement les clients interdits. Un gouvernement peut déplacer un projet entre ministères, agences locales ou sous-traitants affiliés.

La couverture de Google News peut révéler des accords individuels, mais l’attention publique suit rarement l’ensemble de la chaîne. Les documents d’achat, les déclarations d’entreprise et la recherche technique doivent combler cette lacune.

La question décisive n’est pas de savoir si un composant a été commercialisé comme de l’IA. Elle est de savoir si le système achevé étend la capacité d’un gouvernement à identifier, classer ou punir des activités licites.

Le véritable arbitrage est la sécurité sans responsabilité

Le problème politique le plus difficile consiste à distinguer une sécurité publique légitime des systèmes qui rendent le pouvoir politique difficile à contester.

Les gouvernements présentent la reconnaissance faciale, l’analyse de données et la surveillance automatisée comme des outils permettant de retrouver des criminels, de prévenir des attaques ou de localiser des personnes disparues.

Ces objectifs ne sont pas intrinsèquement illégitimes. La même technologie peut produire des résultats différents selon les lois et les institutions.

Une recherche strictement limitée d’un suspect connu diffère d’une identification continue par l’ensemble des caméras publiques. Les deux peuvent utiliser des logiciels similaires.

La distinction réside dans la nécessité, la proportionnalité, la conservation, l’accès et la supervision. Elle dépend également de la possibilité, pour les personnes concernées, de découvrir les abus et de les contester.

Les gouvernements autoritaires effacent ces distinctions. De vastes lois sur la sécurité nationale peuvent assimiler une opposition pacifique à un danger criminel.

Ils peuvent définir l’ensemble de la population comme une source potentielle d’instabilité. La collecte de masse devient alors la règle par défaut plutôt qu’une mesure exceptionnelle.

Le Haut-Commissariat des Nations unies aux droits de l’homme a averti que la surveillance biométrique à distance peut affecter la vie privée, l’expression, les déplacements et les rassemblements pacifiques.

Ses orientations soutiennent des limites strictes aux systèmes qui analysent les foules ou les manifestations. Elles s’opposent également à la prédiction individualisée de crimes et à la catégorisation biométrique fondée sur des caractéristiques protégées.

Ces positions reflètent un problème fondamental. Une caméra qui scanne toutes les personnes présentes à une manifestation n’observe pas seulement des actes présumés répréhensibles.

Elle enregistre une participation licite et peut identifier des réseaux d’organisateurs, de journalistes, d’avocats, de passants et de soutiens. Cette connaissance modifie le sentiment de sécurité des personnes lorsqu’elles envisagent de participer au prochain événement.

Le risque augmente lorsque plusieurs systèmes sont reliés. La reconnaissance faciale identifie une personne, les données téléphoniques cartographient ses contacts et l’analyse linguistique classe ses communications.

Un responsable peut alors considérer le résultat combiné comme plus solide que chaque dossier pris isolément. Toutefois, relier des inférences incertaines ne produit pas automatiquement des preuves fiables.

Les erreurs peuvent se cumuler. Une faible correspondance faciale peut relier la mauvaise personne à une adresse, tandis qu’un message mal traduit fournit un faux mobile.

Les fournisseurs opaques et les agences classifiées rendent ces défaillances difficiles à détecter. La personne concernée peut ne voir que la restriction ou l’accusation finale.

Les Nations unies ont donc souligné la nécessité de transparence, de supervision indépendante et d’évaluations des droits humains avant tout déploiement.

Ces protections sont les plus faibles précisément là où le risque politique est le plus élevé. Une législature autoritaire ne limitera pas de manière fiable les services de sécurité qui préservent l’ordre au pouvoir.

Les garanties techniques seules ne peuvent pas réparer cette défaillance institutionnelle. L’examen humain n’aide que lorsque l’examinateur dispose de l’autorité, de l’indépendance et des incitations nécessaires pour rejeter la sortie de la machine.

Un responsable qui s’attend à être sanctionné pour avoir manqué une menace acceptera davantage de fausses alertes. L’automatisation peut intensifier ce biais en attribuant à l’alerte un score numérique.

Les systèmes façonnent également les comportements au sein du gouvernement. Lorsqu’une agence achète une infrastructure coûteuse, les responsables subissent une pression pour démontrer des résultats.

Davantage de listes de surveillance, d’alertes et d’interventions peuvent sembler justifier l’investissement. Une faible activité pourrait au contraire être interprétée comme une mauvaise performance du système.

Cette incitation encourage le glissement de mission. Une plateforme introduite pour lutter contre le terrorisme peut s’étendre à la criminalité ordinaire, aux manifestations, à l’immigration, au discours politique ou à la surveillance au travail.

L’expérience russe avec la reconnaissance faciale montre comment une infrastructure de sécurité publique peut atteindre des rassemblements politiques. Human Rights Watch a rapporté que des responsables russes avaient reconnu utiliser la reconnaissance faciale pour une surveillance de masse lors d’une manifestation à Moscou.

L’Iran illustre une autre trajectoire. Les autorités ont combiné restrictions d’internet, blocage de plateformes, réseaux de caméras et surveillance numérique durant des périodes d’opposition de masse.

Freedom House a constaté le recul majeur de la liberté sur Internet en Iran à la suite des manifestations déclenchées par la mort en détention de Jina Mahsa Amini en septembre 2022.

Ces cas montrent pourquoi se concentrer sur la précision des modèles est insuffisant. La principale incertitude concerne qui définit la cible et ce qui se produit après l’identification.

Un système peut fonctionner exactement comme prévu tout en violant des droits. L’objectif même de sa conception peut être le contrôle politique.

Les gouvernements démocratiques ne devraient pas supposer que leurs propres institutions éliminent ce danger. Carnegie a constaté l’existence d’une surveillance par l’IA dans des démocraties libérales comme dans des autocraties.

Les sociétés ouvertes disposent de mécanismes de correction plus solides, mais ceux-ci nécessitent un accès à l’information. Les marchés publics secrets et les larges exemptions de sécurité peuvent les affaiblir.

La ligne de démarcation appropriée est donc l’usage responsable, et non l’étiquette nationale. Les gouvernements devraient publier le fondement juridique, les finalités autorisées, les durées de conservation, les tests d’erreur, l’identité des fournisseurs et les résultats des audits.

Ils devraient également prévoir des recours effectifs. Un droit qui ne peut être exercé parce que le système demeure secret offre peu de protection concrète.

À quoi ressemblera la prochaine phase du contrôle numérique

La prochaine bataille portera sur le ciblage prédictif, la propagande générative et la capacité des gouvernements à encadrer les entreprises qui fournissent les deux.

Le premier signal à surveiller est le passage de l’identification à la prédiction.

La reconnaissance faciale traditionnelle demande si un visage observé correspond à une image enregistrée. Les systèmes prédictifs avancent une affirmation plus ambitieuse sur ce qu’une personne pourrait faire.

Ils peuvent analyser les déplacements, les achats, les contacts, le langage et les schémas de localisation afin de générer une évaluation des risques. Les gouvernements peuvent qualifier ce résultat de piste d’enquête plutôt que de décision finale.

Cette qualification n’enlève rien à son influence. Les agents répartissent leur attention en fonction de ces pistes, tandis qu’une surveillance accrue produit davantage de dossiers qui semblent valider le score initial.

Cette boucle peut transformer des présupposés politiques en schémas statistiques. Les communautés les plus surveillées généreront le plus d’alertes.

Surveillez les documents de marchés publics mentionnant l’analyse de l’opinion publique, la stabilité sociale, l’alerte précoce, les profils de risque ou la gouvernance préventive. Ces expressions révèlent souvent la fonction recherchée plus clairement qu’une étiquette liée à l’IA.

Des audits indépendants devraient vérifier si les prédictions identifient des comportements réels ou ne font que reproduire les soupçons officiels. Sans accès aux données et aux résultats, les affirmations de précision restent non vérifiées.

Le deuxième signal est la persuasion automatisée.

Les modèles génératifs rendent moins coûteux l’exploitation de nombreux comptes convaincants, l’adaptation des messages à différents groupes et la réaction rapide pendant une crise politique.

Un gouvernement n’a plus besoin que chaque propagandiste rédige des publications originales. Les modèles peuvent produire à grande échelle des variantes, des traductions, des commentaires et des médias synthétiques.

La détection restera difficile, car les contenus générés ne comportent pas toujours une signature technique stable. Les opérateurs peuvent également combiner le travail humain et celui des machines.

L’objectif peut être moins ambitieux que de faire changer d’avis tout le monde. Inonder une discussion peut épuiser les modérateurs, distraire les journalistes et enfouir les témoignages authentiques.

Les médias synthétiques peuvent aussi soutenir le « dividende du menteur ». Les responsables peuvent rejeter des enregistrements authentiques en les qualifiant de falsifiés, parce que des faux convaincants existent.

Observez comment les plateformes signalent les opérations d’influence coordonnées. Des informations utiles devraient expliquer la création des comptes, l’amplification, le ciblage, les paiements et les liens avec les institutions de l’État.

De simples décomptes des publications supprimées révéleront peu de choses sur la portée ou l’effet. Les chercheurs ont besoin d’accéder aux jeux de données conservés avant que les plateformes ne suppriment les preuves.

Le troisième signal est de savoir si les contrôles à l’exportation et le devoir de diligence des entreprises passent des promesses à une application contraignante.

Les gouvernements ont imposé des restrictions à certaines entreprises de surveillance et à des composants avancés. Ces mesures créent des obstacles, mais laissent ouvertes de vastes voies commerciales.

Les règles futures devraient viser les courtiers, les revendeurs, le support cloud, les mises à jour logicielles et les services techniques. Elles doivent également couvrir les détournements d’usage après une vente apparemment légitime.

Les rapports des entreprises offrent un premier test. Les fournisseurs devraient identifier les contrats gouvernementaux à haut risque, décrire leur processus d’examen et indiquer lorsqu’ils suspendent un service.

Les investisseurs peuvent demander si les revenus dépendent de clients qui bloquent les audits ou dissimulent les utilisateurs finaux. Les employés peuvent examiner si les canaux d’alerte internes ont l’autorité nécessaire pour arrêter un déploiement.

Les organisations de la société civile auront besoin de ressources pour enquêter sur les marchés publics et tester les systèmes déployés. Les gouvernements autoritaires restreignent délibérément les preuves nécessaires à la redevabilité.

Les journalistes et les chercheurs sont également exposés à des risques personnels lorsqu’ils cartographient ces réseaux. La protection des lanceurs d’alerte et l’accès sécurisé aux dossiers détermineront ce qui pourra devenir publiquement connu.

Ces trois signaux se renforcent mutuellement. La surveillance prédictive génère des cibles, la propagande générative façonne le récit, et les fournisseurs mondiaux apportent l’infrastructure.

Un régime qui contrôle les trois peut agir plus tôt, dissimuler ce qu’il a fait et mettre en doute la crédibilité de quiconque documente le résultat.

Le contrepoids doit lui aussi fonctionner comme un système. La réglementation, les tests techniques, le journalisme d’enquête, la responsabilité des entreprises et les recours juridiques ne peuvent pas fonctionner isolément.

Google News peut porter la question à l’attention du public, mais l’attention n’est que la première étape. Les lecteurs devraient se demander quelles preuves étayent chaque affirmation et quelle institution peut imposer des conséquences.

La question n’est plus de savoir si les dictatures utiliseront l’IA. Les déploiements documentés montrent qu’elles le font déjà.

La question urgente est de savoir si les entreprises et les gouvernements démocratiques établiront des limites avant que les systèmes de contrôle intégrés ne deviennent une infrastructure publique ordinaire.

Suivez les dossiers de marchés publics, les lois biométriques, les rapports des plateformes sur l’influence et les déclarations des fournisseurs au cours des prochains mois. Ces signaux montreront si la redevabilité rattrape son retard ou prend encore davantage de retard.