Come le dittature usano l'IA per espandere sorveglianza e controllo politico
Google News ha portato alla luce un netto conflitto: l'intelligenza artificiale sta aiutando i governi autoritari a identificare, monitorare e mettere a tacere gli oppositori percepiti a una velocità senza precedenti.
Il cambiamento non consiste semplicemente nell'installare più telecamere o bloccare più siti web. I governi possono ora collegare volti, spostamenti, messaggi, relazioni e modelli comportamentali attraverso database prima separati.
Questa integrazione modifica l'equilibrio tra chi governa e le persone che lo sfidano. La repressione tradizionale reagisce a una protesta, una pubblicazione o un'organizzazione politica. La repressione assistita dall'IA mira a individuare queste attività prima, valutarne l'importanza e interromperle prima che si diffondano.
La Cina ha costruito la versione più estesa di questo modello. Russia, Iran e altri governi hanno adottato combinazioni sovrapposte di riconoscimento facciale, censura automatizzata, fusione dei dati e operazioni di influenza online.
Questi sistemi restano imperfetti. Producono errori, ereditano pregiudizi politici e dipendono ancora da funzionari umani. Eppure, i governi autoritari non hanno bisogno di previsioni infallibili per ottenere un vantaggio.
Hanno bisogno di informazioni sufficienti per aumentare il costo dell'organizzarsi, del parlare, del viaggiare o del restare anonimi. Questo effetto dissuasivo può rafforzare un regime anche quando i suoi algoritmi commettono spesso errori.
La sfida centrale non è quindi tra le dittature e una singola azienda tecnologica. È tra il controllo politico automatizzato e una governance dell'IA responsabile.
Questo conflitto si estende oltre i confini nazionali. I componenti per la sorveglianza provengono da catene di approvvigionamento multinazionali, mentre i governi si scambiano infrastrutture, conoscenze operative e modelli normativi.
Cosa rivela Google News sulla repressione alimentata dall'IA
Il cambiamento importante non è una singola implementazione, ma la trasformazione di strumenti di controllo scollegati in un sistema politico sempre più integrato.
I governi autoritari hanno sempre raccolto informazioni sui critici. Le polizie segrete monitoravano riunioni, intercettavano comunicazioni, reclutavano informatori e compilavano dossier su persone ritenute politicamente pericolose.
Quei metodi richiedevano molto lavoro. I funzionari dovevano decidere chi seguire, quali messaggi leggere e come collegare frammenti di informazioni conservati in uffici diversi.
L'IA riduce questo onere amministrativo. La visione artificiale può analizzare i flussi delle telecamere, mentre l'elaborazione del linguaggio naturale può classificare i messaggi e rilevare argomenti vietati.
La fusione dei dati, che combina registri provenienti da più fonti, può collegare un volto a un numero di telefono, un veicolo, un indirizzo, un luogo di lavoro e una rete sociale. L'analisi predittiva può quindi classificare persone o eventi in base a un punteggio di rischio definito dal governo.
Il risultato è una rete di controllo più ampia. Le autorità possono partire da intere popolazioni anziché da un breve elenco di sospetti già noti.
Freedom House ha documentato questa trasformazione più ampia nel suo studio sulla repressione digitale. I suoi ricercatori hanno esaminato gli sviluppi in 70 Paesi che rappresentano l'88 percento degli utenti internet globali.
L'organizzazione ha rilevato che la libertà su internet è diminuita per il tredicesimo anno consecutivo nel suo periodo di riferimento del 2023. Le persone hanno subito conseguenze legali per le espressioni online in 55 dei 70 Paesi studiati.
I governi di almeno 21 Paesi avevano inoltre creato norme legali che imponevano o incoraggiavano le piattaforme a usare il machine learning contro contenuti sgraditi. Tali norme possono trasformare le piattaforme private in estensioni della censura statale.
L'IA generativa aggiunge un ulteriore livello. Può produrre articoli, immagini, audio, commenti e identità fittizie più rapidamente dei team di propaganda tradizionali.
Freedom House ha rilevato che governi o attori politici hanno usato strumenti generativi in almeno 16 Paesi per distorcere il dibattito pubblico durante il periodo di riferimento. Almeno 47 governi hanno impiegato commentatori per manipolare le discussioni online.
Queste attività differiscono dalla normale comunicazione politica. Una campagna coordinata può fabbricare un'apparente convergenza di opinioni, sommergere il giornalismo indipendente o far sembrare le prove autentiche indistinguibili dal materiale fabbricato.
Per un regime, la confusione può essere utile quanto la persuasione. I cittadini che diffidano di ogni video, account e documento hanno maggiori difficoltà a organizzarsi attorno a una versione condivisa degli eventi.
Ecco perché il titolo di Google News conta al di là dell'editore che lo ha pubblicato. Indica un cambiamento strutturale nel modo in cui opera il controllo politico.
L'IA non sostituisce censura, arresti, blocchi di internet o intimidazioni. Aiuta i governi a decidere dove applicare questi metodi e come nasconderne la portata.
Il sistema apprende anche dall'applicazione delle misure. Un arresto genera nuovi registri di dispositivi, contatti, cronologie di viaggio e materiali d'interrogatorio che possono alimentare indagini successive.
Questo ciclo di feedback trasforma ogni intervento in ulteriori dati di addestramento. Rende inoltre la repressione più difficile da ispezionare, perché il collegamento decisivo può avvenire all'interno di un database governativo inaccessibile.
Il cambiamento crea un grave divario di responsabilità. La persona colpita potrebbe non sapere mai quali dati hanno attirato l'attenzione, come un algoritmo li abbia valutati o se qualcuno abbia verificato il risultato.
Quando un'agenzia di sicurezza classifica quel processo come segreto, un ricorso significativo diventa quasi impossibile. L'opacità non è soltanto un problema tecnico. Serve gli interessi politici dell'istituzione che utilizza il sistema.
Il vantaggio autoritario è la scala, non l'accuratezza perfetta
Le dittature ottengono leva dall'IA perché possono tollerare errori che un sistema giuridico responsabile dovrebbe respingere.
Il dibattito pubblico considera spesso l'accuratezza la misura centrale di un sistema di sorveglianza. Questa impostazione trascura la questione politica.
Un modello di riconoscimento facciale può associare erroneamente un manifestante, un giornalista o un passante. Un modello linguistico può scambiare il sarcasmo per dissenso. Un sistema di rischio può trattare un'associazione innocente come prova di slealtà.
In un sistema che rispetta i diritti, questi fallimenti dovrebbero portare a divulgazione, revisione, correzione e risarcimento. Tribunali, autorità di regolamentazione, giornalisti e funzionari eletti possono contestare l'agenzia responsabile.
Un sistema autoritario incontra meno vincoli. I suoi leader possono accettare un gran numero di falsi positivi quando l'intimidazione stessa sostiene il regime.
Una persona interrogata ingiustamente apprende comunque che la partecipazione comporta un rischio. La sua famiglia e i suoi colleghi ricevono lo stesso messaggio. Altri potrebbero ritirarsi prima ancora che le autorità li contattino.
Questo produce un effetto dissuasivo: le persone modificano comportamenti leciti perché si aspettano sorveglianza o punizioni. Il governo non deve perseguire tutti.
Gli basta che i cittadini credano che l'anonimato stia scomparendo.
L'IA rafforza questa convinzione facendo apparire la sorveglianza onnipresente. Le telecamere in rete suggeriscono che le autorità possano ricostruire gli spostamenti in una città, anche se la copertura presenta lacune.
Il monitoraggio automatizzato crea un'impressione simile online. Gli utenti non possono sapere se una frase eliminata abbia attivato un algoritmo, un moderatore umano o una direttiva governativa.
Questa incertezza incoraggia l'autocensura. Sposta anche i costi dell'applicazione delle misure dal governo alla popolazione, poiché le persone iniziano a controllare il proprio comportamento.
L'indice di sorveglianza di Carnegie ha illustrato quanto ampiamente la tecnologia sottostante si fosse già diffusa entro il 2019.
Lo studio ha identificato un uso attivo della sorveglianza tramite IA in almeno 75 dei 176 Paesi. Ha rilevato piattaforme smart city o safe city in 56 Paesi, il riconoscimento facciale in 64 e la polizia intelligente in 52.
Questi dati non dimostrano abusi. Carnegie ha esplicitamente osservato che le implementazioni legittime e quelle illegittime non potevano essere separate esclusivamente attraverso l'indice.
Questa distinzione è essenziale. Anche i governi democratici usano riconoscimento facciale, sistemi predittivi e analisi video per le attività di polizia, la gestione delle frontiere e la sicurezza pubblica.
L'ambiente politico determina se le garanzie legali limitino queste capacità. Tribunali indipendenti, media liberi, trasparenza degli appalti e ricorsi efficaci possono ridurre gli abusi.
I sistemi chiusi sono privi di tali protezioni. Le agenzie di sicurezza possono definire la critica politica come estremismo, disordine pubblico, separatismo o disinformazione.
Una volta che questa classificazione entra in una lista di sorveglianza, l'IA può automatizzarne le conseguenze. Una persona potrebbe subire controlli aggiuntivi, limitazioni ai viaggi, restrizioni sugli account, pressioni sul lavoro o ripetuti contatti con la polizia.
Il computer non crea la categoria politica. Rende più facile applicarla a milioni di registri.
Questo spiega perché le affermazioni sugli algoritmi neutrali sono inadeguate. Un modello tecnicamente accurato può comunque sostenere una politica abusiva.
Se il governo ordina a un sistema di identificare manifestanti pacifici, migliorare l'accuratezza non risolve il problema dei diritti umani. Rende la violazione più efficiente.
La stessa preoccupazione vale per la censura automatizzata. Un classificatore potrebbe riconoscere correttamente ogni riferimento a un evento, una minoranza o una figura dell'opposizione vietati.
Dal punto di vista ingegneristico, il modello funziona bene. Dal punto di vista politico, restringe la capacità del pubblico di parlare e ottenere informazioni.
L'IA offre quindi ai governi autoritari tre vantaggi connessi: scala, velocità e distanza plausibile.
La scala amplia il numero di persone monitorate. La velocità riduce il tempo tra espressione e applicazione delle misure. La distanza plausibile consente ai funzionari di attribuire le decisioni a piattaforme, fornitori o processi automatizzati.
Nessuno di questi vantaggi richiede un'intelligenza artificiale generale. La visione artificiale, il confronto tra database, i sistemi di raccomandazione e i modelli linguistici esistenti forniscono già i componenti necessari.
La Cina sta costruendo uno stack di controllo basato sull'IA
Il modello cinese combina innovazione commerciale, obblighi legali e appalti statali in un'infrastruttura riutilizzabile per il controllo politico.
La Cina resta il caso più sviluppato perché il suo sistema si estende ai contenuti online, alla sorveglianza fisica, alla polizia, ai tribunali e alle carceri.
L'Australian Strategic Policy Institute ha esaminato questa integrazione nel suo rapporto del 2025 sui sistemi di IA della Cina.
I ricercatori hanno analizzato registri degli appalti, documenti societari, annunci di lavoro e comportamento dei modelli. Hanno inoltre testato grandi modelli linguistici cinesi con un dataset di 200 immagini politicamente sensibili.
Le loro conclusioni descrivono uno stack di controllo, non un singolo prodotto di sorveglianza. Sistemi diversi classificano le informazioni, identificano le persone, generano avvisi, assistono i funzionari e applicano regole sui contenuti.
I grandi modelli linguistici cinesi non filtrano soltanto il testo. ASPI ha rilevato meccanismi di censura che influenzavano anche immagini politicamente sensibili.
Questo è importante perché i modelli multimodali elaborano diversi formati, tra cui testo, immagini, audio e video. Un sistema di censura può quindi applicare la stessa regola politica attraverso media differenti.
Questa capacità rende più difficile eludere i controlli. Storicamente, gli utenti hanno fatto ricorso a immagini, omofoni, schermate o linguaggio codificato quando il testo diretto veniva bloccato.
Un modello addestrato a interpretare più formati può identificare un numero maggiore di queste sostituzioni. I revisori umani continuano a fornire giudizio culturale e politico, ma l'automazione ne amplia la portata.
ASPI ha esaminato oltre 100 annunci di lavoro per addetti alla censura online. La domanda continua di revisori dimostra che il sistema cinese non ha eliminato le persone dal processo.
Al contrario, lavoratori umani interpretano confini politici in evoluzione e inseriscono tali valutazioni nei processi automatizzati. La macchina fornisce la scala, mentre le persone aggiornano la definizione di discorso inaccettabile.
Le normative cinesi creano inoltre domanda commerciale. Le principali aziende tecnologiche hanno sviluppato piattaforme di conformità che le imprese più piccole possono utilizzare per vagliare i contenuti.
Questo assetto distribuisce l'applicazione delle regole nell'intera economia digitale. Un nuovo servizio non deve costruire da zero un'intera operazione di censura.
Può acquistare o integrare un sistema modellato sugli attuali requisiti statali. La conformità diventa una normale voce di spesa infrastrutturale anziché un intervento eccezionale.
Il sistema di giustizia penale presenta rischi più elevati. ASPI ha rilevato che la Cina stava impiegando l'AI nella polizia, nelle procure, nei tribunali e nelle carceri.
Secondo quanto riportato, gli strumenti assistono nella gestione dei documenti, nell'elaborazione delle prove, nelle raccomandazioni di condanna e nella gestione delle istituzioni. Ogni impiego solleva interrogativi diversi su trasparenza e possibilità di ricorso.
Una raccomandazione automatizzata può apparire oggettiva anche quando i suoi dati di addestramento riflettono pratiche di polizia selettive. Arresti e condanne passati non costituiscono un archivio neutrale in un sistema politicamente diretto.
Se in passato le autorità hanno preso di mira pesantemente una comunità, un algoritmo addestrato su quella storia può riprodurre lo schema. Può poi presentare la ripetizione come prova statistica.
I sistemi per le lingue minoritarie aggravano questa preoccupazione. ASPI ha rilevato attività sostenute dal governo riguardanti l'elaborazione delle lingue uigura, tibetana, mongola e coreana.
Gli sviluppatori commerciali hanno incentivi limitati a creare modelli costosi per gruppi linguistici relativamente piccoli. Lo Stato può fornire finanziamenti quando sorveglianza e controllo dell'informazione giustificano l'investimento.
Tali modelli possono monitorare discorsi che in precedenza richiedevano rari specialisti umani. Possono inoltre estendere l'analisi a testo, audio e video.
La struttura di controllo chiude quindi diverse lacune contemporaneamente. Amplia la copertura linguistica, collega identità online e offline e introduce più in profondità raccomandazioni automatizzate nelle decisioni governative.
Il sistema cinese non è pienamente centralizzato né uniformemente capace. Le agenzie dispongono di budget diversi, i fornitori offrono prodotti disomogenei e i funzionari locali compiono ancora scelte rilevanti.
Questa disomogeneità non dovrebbe generare una falsa rassicurazione. I sistemi politici non hanno bisogno di coerenza tecnica per incutere timore o punire gruppi selezionati.
Anche i lettori di Google News dovrebbero evitare di ridurre questa storia a uno sviluppo esclusivamente cinese. La Cina offre il modello su larga scala più chiaro, ma componenti e pratiche operative circolano.
Alcuni circolano come esportazioni commerciali. Altri si diffondono attraverso rapporti di formazione, conferenze, organismi di standardizzazione, scambi tra forze di polizia o imitazione.
Ciò rende il caso cinese sia una questione interna di diritti umani sia un'anticipazione di capacità disponibili altrove.
Le catene di approvvigionamento tecnologiche globali mantengono operativo il sistema
La sorveglianza autoritaria non viene prodotta all'interno di sistemi nazionali sigillati; dipende da hardware, software, competenze e finanziamenti internazionali.
Una rete di telecamere richiede sensori, archiviazione, processori, apparecchiature di comunicazione, database e software analitico. Ogni livello può coinvolgere aziende operative in diverse giurisdizioni.
Questa complessità crea opportunità per negare le responsabilità. Un produttore di chip può affermare di vendere hardware di uso generale. Un'azienda software può sostenere che sia stato un partner locale a controllare l'implementazione.
Un distributore può dichiarare di non aver mai incontrato il cliente governativo finale. Le autorità possono celare gli appalti dietro appaltatori o progetti di pubblica sicurezza dai nomi innocui.
Eppure il sistema assemblato può comunque sostenere il monitoraggio politico.
Un'indagine di Associated Press ha esaminato il modo in cui la tecnologia straniera ha contribuito allo stato di polizia digitale della Cina.
L'indagine si è basata su decine di migliaia di email e database trapelati, documenti riservati, atti di appalto e interviste a oltre 100 persone.
AP ha riferito che tecnologie collegate ad aziende americane, europee e asiatiche comparivano nelle infrastrutture cinesi di polizia e sorveglianza.
Gli esempi riguardavano software per database, sistemi cloud, archiviazione, prodotti di mappatura, chip, telecamere, strumenti biometrici e applicazioni analitiche.
Diverse aziende hanno dichiarato ad AP che vecchi rapporti si erano conclusi, che rispettavano i controlli sulle esportazioni o che il presunto uso improprio era avvenuto al di fuori della loro conoscenza e del loro controllo.
Queste risposte illustrano il problema dell'applicazione delle regole. Un componente può rimanere utile per anni dopo la vendita, mentre il software può essere copiato, modificato o integrato da un'altra azienda.
Le norme sulle esportazioni spesso si concentrano su entità, destinazioni o prodotti nominati. I sistemi di sorveglianza evolvono più rapidamente di tali elenchi e incorporano frequentemente tecnologia commerciale comune.
La responsabilità nella catena di approvvigionamento non può quindi esaurirsi in un ristretto controllo delle sanzioni. I fornitori devono esaminare gli utenti previsti, i partner locali, i contesti di implementazione e gli usi secondari prevedibili.
Devono inoltre predisporre controlli contrattuali, restrizioni tecniche, audit e procedure di uscita credibili. Nessuno di questi elementi offre una soluzione completa, soprattutto quando un governo nasconde le proprie operazioni.
La storia del coinvolgimento occidentale complica le affermazioni secondo cui l'AI autoritaria seguirebbe un unico modello nazionale. Carnegie ha rilevato tecnologie di aziende americane in 32 Paesi nel suo indice del 2019.
Le aziende cinesi erano importanti fornitori, ma anche imprese con sede in Francia, Germania, Israele, Giappone e Stati Uniti hanno contribuito alla proliferazione globale.
Questo non dimostra che ogni fornitore intendesse favorire la repressione. Mostra perché una semplice mappa di approvvigionamento democrazie-contro-dittature non funziona.
Gli incentivi commerciali possono collegare aziende di società aperte ad agenzie che operano senza una supervisione aperta. Investitori e dirigenti possono vedere i contratti di pubblica sicurezza prima di riconoscere il rischio politico.
La stessa infrastruttura può anche cambiare finalità. Una città può acquistare telecamere per gestire il traffico, poi collegarle al riconoscimento facciale dopo l'inizio delle proteste.
Un database di frontiera può diventare una lista di sorveglianza interna. Un classificatore per la sicurezza dei contenuti può imporre tabù politici. Una piattaforma di rilevamento delle frodi può esporre le reti finanziarie dei dissidenti.
Questo problema di riutilizzo indebolisce le rassicurazioni basate soltanto sulla descrizione originaria della vendita. La governance deve accompagnare la tecnologia per tutta la sua vita utile.
Le aziende devono inoltre considerare la manutenzione. Aggiornamenti, servizi cloud, componenti sostitutivi e assistenza tecnica possono mantenere operativo un sistema abusivo.
Interrompere le nuove vendite non disattiverà immediatamente le apparecchiature già installate. I governi possono accumulare hardware, ricorrere a intermediari o sviluppare sostituti locali.
Il mercato globale offre di conseguenza resilienza alle dittature. Possono combinare tecnologie di fornitori diversi e sostituire nel tempo componenti soggetti a restrizioni.
Questa resilienza crea pressione per regole coordinate. I rigidi controlli sulle esportazioni di un Paese hanno effetti limitati quando prodotti equivalenti restano disponibili altrove.
Gli standard condivisi devono inoltre definire gli usi vietati, non soltanto i clienti vietati. Un governo può spostare un progetto tra ministeri, agenzie locali o appaltatori affiliati.
La copertura di Google News può mettere in luce singoli accordi, ma l'attenzione pubblica raramente segue l'intera catena. Documenti di appalto, comunicazioni societarie e ricerca tecnica devono colmare questa lacuna.
La domanda decisiva non è se un componente sia stato commercializzato come AI. È se il sistema completato ampli la capacità di un governo di identificare, classificare o punire attività lecite.
Il vero compromesso è sicurezza senza responsabilità
Il problema politico più difficile consiste nel separare la legittima sicurezza pubblica dai sistemi che rendono difficile contestare il potere politico.
I governi presentano il riconoscimento facciale, l'analisi dei dati e il monitoraggio automatizzato come strumenti per trovare criminali, prevenire attacchi o localizzare persone scomparse.
Tali finalità non sono intrinsecamente illegittime. La stessa tecnologia può produrre esiti diversi in base a leggi e istituzioni differenti.
Una ricerca strettamente limitata di un sospettato noto è diversa dall'identificazione continua tramite ogni telecamera pubblica. Entrambe potrebbero usare software simile.
La distinzione risiede in necessità, proporzionalità, conservazione, accesso e supervisione. Dipende inoltre dalla possibilità per le persone coinvolte di scoprire e contestare gli abusi.
I governi autoritari cancellano queste distinzioni. Leggi sulla sicurezza nazionale molto ampie possono rendere l'opposizione pacifica equivalente a un pericolo criminale.
Possono definire l'intera popolazione come una potenziale fonte di instabilità. La raccolta di massa diventa quindi la norma anziché una misura eccezionale.
L'Ufficio dell'Alto Commissario delle Nazioni Unite per i diritti umani ha avvertito che la sorveglianza biometrica remota può incidere su privacy, espressione, movimento e riunione pacifica.
Le sue linee guida sostengono limiti rigorosi ai sistemi che analizzano folle o proteste. Si oppongono inoltre alla previsione individualizzata del crimine e alla categorizzazione biometrica basata su caratteristiche protette.
Queste posizioni riflettono un problema fondamentale. Una telecamera che analizza tutti durante una manifestazione non osserva soltanto sospetti illeciti.
Registra la partecipazione lecita e può identificare reti di organizzatori, giornalisti, avvocati, passanti e sostenitori. Questa consapevolezza modifica la percezione di sicurezza delle persone nel partecipare all'evento successivo.
Il rischio aumenta quando diversi sistemi vengono collegati. Il riconoscimento facciale identifica una persona, i dati del telefono mappano i contatti e l'analisi linguistica classifica le comunicazioni.
Un funzionario può quindi considerare il risultato combinato più solido di ogni singolo dato. Tuttavia, collegare inferenze incerte non produce automaticamente prove affidabili.
Gli errori possono sommarsi. Una debole corrispondenza facciale può collegare la persona sbagliata a un indirizzo, mentre un messaggio tradotto erroneamente fornisce un falso movente.
Fornitori opachi e agenzie riservate rendono difficile individuare tali fallimenti. La persona coinvolta potrebbe vedere soltanto la restrizione o l'accusa finale.
Le Nazioni Unite hanno quindi sottolineato trasparenza, supervisione indipendente e valutazioni dei diritti umani prima dell'implementazione.
Queste protezioni sono più deboli proprio dove il rischio politico è più elevato. Un parlamento autoritario non limiterà in modo affidabile i servizi di sicurezza che preservano l'ordine dominante.
Le sole salvaguardie tecniche non possono riparare quel fallimento istituzionale. La revisione umana aiuta solo quando chi la svolge ha autorità, indipendenza e incentivi per respingere l'output della macchina.
Un funzionario che teme di essere punito per non aver individuato una minaccia accetterà più falsi allarmi. L'automazione può intensificare tale pregiudizio attribuendo all'allarme un punteggio numerico.
I sistemi plasmano anche il comportamento all'interno del governo. Una volta che un'agenzia acquista infrastrutture costose, i dirigenti subiscono pressioni per dimostrarne i risultati.
Più liste di sorveglianza, allarmi e interventi possono sembrare giustificare l'investimento. Una bassa attività potrebbe invece essere interpretata come una scarsa prestazione del sistema.
Questo incentivo favorisce l'espansione della missione. Una piattaforma introdotta per il terrorismo può estendersi alla criminalità comune, alle proteste, all'immigrazione, al discorso politico o al monitoraggio sul posto di lavoro.
L'esperienza russa con il riconoscimento facciale mostra come l'infrastruttura di sicurezza pubblica possa raggiungere le riunioni politiche. Human Rights Watch ha riferito che funzionari russi hanno ammesso di usare il riconoscimento facciale per la sorveglianza di massa durante una protesta a Mosca.
L'Iran dimostra un'altra traiettoria. Le autorità hanno combinato restrizioni a Internet, blocco delle piattaforme, reti di telecamere e monitoraggio digitale durante periodi di opposizione di massa.
Freedom House ha registrato un forte peggioramento della libertà di internet in Iran dopo le proteste innescate dalla morte in custodia di Jina Mahsa Amini nel settembre 2022.
Questi casi dimostrano perché concentrarsi sull'accuratezza dei modelli sia insufficiente. L'incertezza principale riguarda chi definisce l'obiettivo e cosa accade dopo l'identificazione.
Un sistema può funzionare esattamente come progettato pur violando i diritti. L'obiettivo stesso della progettazione può essere il controllo politico.
I governi democratici non dovrebbero presumere che le proprie istituzioni eliminino questo pericolo. Carnegie ha rilevato l'uso della sorveglianza basata sull'IA nelle democrazie liberali oltre che nelle autocrazie.
Le società aperte dispongono di meccanismi di correzione più solidi, ma tali meccanismi richiedono accesso alle informazioni. Appalti segreti e ampie esenzioni di sicurezza possono indebolirli.
La linea di demarcazione appropriata è quindi l'uso responsabile, non il marchio nazionale. I governi dovrebbero pubblicare la base legale, le finalità consentite, i periodi di conservazione, i test sugli errori, le identità dei fornitori e i risultati degli audit.
Dovrebbero inoltre offrire rimedi efficaci. Un diritto che non può essere esercitato perché il sistema resta segreto offre poca protezione pratica.
Come si presenta la prossima fase del controllo digitale
La prossima sfida ruoterà attorno alla profilazione predittiva, alla propaganda generativa e alla capacità dei governi di vincolare le aziende che forniscono entrambe.
Il primo segnale da osservare è il passaggio dall'identificazione alla previsione.
Il riconoscimento facciale tradizionale chiede se un volto osservato corrisponda a un'immagine archiviata. I sistemi predittivi avanzano un'affermazione più ambiziosa su ciò che una persona potrebbe fare.
Possono analizzare viaggi, acquisti, contatti, linguaggio e schemi di localizzazione per generare una valutazione del rischio. I governi possono definire il risultato uno spunto investigativo anziché una decisione finale.
Questa etichetta non ne elimina l'influenza. Gli agenti distribuiscono l'attenzione sulla base di tali indicazioni, mentre una sorveglianza più intensa produce più registrazioni che sembrano convalidare il punteggio iniziale.
Il circuito può trasformare supposizioni politiche in modelli statistici. Le comunità sorvegliate più intensamente genereranno il maggior numero di segnalazioni.
Osservate i documenti di appalto che menzionano l'analisi dell'opinione pubblica, la stabilità sociale, l'allerta precoce, i profili di rischio o la governance preventiva. Tali espressioni spesso rivelano la funzione desiderata più chiaramente di un'etichetta legata all'IA.
Gli audit indipendenti dovrebbero verificare se le previsioni individuano comportamenti effettivi o se si limitano a riprodurre il sospetto ufficiale. Senza accesso a dati e risultati, le affermazioni sull'accuratezza restano non verificate.
Il secondo segnale è la persuasione automatizzata.
I modelli generativi rendono meno costoso gestire molti account convincenti, adattare i messaggi a gruppi diversi e rispondere rapidamente durante una crisi politica.
Un governo non ha più bisogno che ogni addetto alla propaganda rediga post originali. I modelli possono produrre varianti, traduzioni, commenti e media sintetici su larga scala.
Il rilevamento resterà difficile perché i contenuti generati non contengono sempre una firma tecnica stabile. Gli operatori possono inoltre mescolare lavoro umano e automatizzato.
L'obiettivo potrebbe essere meno ambizioso che cambiare l'opinione di tutti. Inondare una discussione può sfiancare i moderatori, distrarre i giornalisti e seppellire testimonianze autentiche.
I media sintetici possono anche sostenere il “dividendo del bugiardo”. I funzionari possono liquidare registrazioni autentiche come fabbricate, perché esistono falsi convincenti.
Osservate come le piattaforme riferiscono delle operazioni coordinate di influenza. Comunicazioni utili dovrebbero spiegare la creazione degli account, l'amplificazione, il targeting, i pagamenti e i legami con le istituzioni statali.
I semplici conteggi dei post rimossi diranno poco sulla portata o sull'effetto. I ricercatori hanno bisogno di accedere a set di dati conservati prima che le piattaforme eliminino le prove.
Il terzo segnale è se i controlli sulle esportazioni e la due diligence aziendale passeranno dalle promesse a pratiche applicabili.
I governi hanno imposto restrizioni a determinate aziende di sorveglianza e a componenti avanzati. Queste misure creano attrito, ma lasciano aperti ampi canali commerciali.
Le norme future dovrebbero riguardare broker, rivenditori, supporto cloud, aggiornamenti software e servizi tecnici. Devono inoltre coprire il riutilizzo dopo una vendita apparentemente legittima.
La rendicontazione aziendale offre un primo banco di prova. I fornitori dovrebbero identificare i contratti governativi ad alto rischio, descrivere il proprio processo di revisione e dichiarare quando sospendono il servizio.
Gli investitori possono chiedere se i ricavi dipendano da clienti che bloccano gli audit o nascondono gli utenti finali. I dipendenti possono verificare se i canali interni di escalation abbiano l'autorità di fermare la distribuzione.
Le organizzazioni della società civile avranno bisogno di risorse per indagare sugli appalti e testare i sistemi implementati. I governi autoritari limitano deliberatamente le prove necessarie per garantire la responsabilità.
Giornalisti e ricercatori affrontano inoltre rischi personali quando mappano queste reti. La protezione degli informatori e l'accesso sicuro ai documenti determineranno ciò che potrà diventare di dominio pubblico.
Questi tre segnali si rafforzano a vicenda. La sorveglianza predittiva genera bersagli, la propaganda generativa plasma la narrazione e i fornitori globali forniscono l'infrastruttura.
Un regime che controlla tutti e tre può agire prima, oscurare ciò che ha fatto e mettere in dubbio la credibilità di chiunque documenti il risultato.
Anche il contrappeso deve operare come un sistema. Regolamentazione, test tecnici, giornalismo investigativo, responsabilità aziendale e rimedi legali non possono funzionare isolatamente.
Google News può portare la questione all'attenzione pubblica, ma l'attenzione è solo il primo passo. I lettori dovrebbero chiedersi quali prove sostengano ciascuna affermazione e quale istituzione possa imporre conseguenze.
La domanda non è più se le dittature utilizzeranno l'IA. Le implementazioni documentate dimostrano che lo fanno già.
La domanda urgente è se le aziende e i governi democratici stabiliranno limiti prima che i sistemi integrati di controllo diventino un'infrastruttura pubblica ordinaria.
Nei prossimi mesi, seguite i registri degli appalti, le leggi biometriche, i rapporti delle piattaforme sulle operazioni di influenza e le comunicazioni dei fornitori. Questi segnali mostreranno se la responsabilità stia recuperando terreno o resti ancora più indietro.
