Cómo las dictaduras usan la IA para ampliar la vigilancia y el control político
Google News ha puesto de relieve un conflicto alarmante: la inteligencia artificial está ayudando a gobiernos autoritarios a identificar, vigilar y silenciar a quienes perciben como opositores a una velocidad sin precedentes.
El cambio no consiste simplemente en instalar más cámaras o bloquear más sitios web. Los gobiernos ahora pueden conectar rostros, movimientos, mensajes, relaciones y patrones de comportamiento a través de bases de datos que antes estaban separadas.
Esa integración altera el equilibrio entre los gobernantes y las personas que los desafían. La represión tradicional reacciona ante una protesta, una publicación o una organización política. La represión asistida por IA busca detectar esas actividades antes, clasificar su importancia e interrumpirlas antes de que se propaguen.
China ha construido la versión más extensa de este modelo. Rusia, Irán y otros gobiernos han adoptado combinaciones superpuestas de reconocimiento facial, censura automatizada, fusión de datos y operaciones de influencia en línea.
Estos sistemas siguen siendo imperfectos. Producen errores, heredan sesgos políticos y todavía dependen de funcionarios humanos. Sin embargo, los gobiernos autoritarios no necesitan predicciones infalibles para obtener una ventaja.
Necesitan información suficiente para elevar el costo de organizarse, hablar, viajar o permanecer en el anonimato. Ese efecto disuasorio puede fortalecer a un régimen incluso cuando sus algoritmos cometen errores con frecuencia.
Por tanto, la disputa central no enfrenta a las dictaduras contra una sola empresa tecnológica. Enfrenta el control político automatizado contra una gobernanza de la IA responsable.
Ese conflicto trasciende las fronteras nacionales. Los componentes de vigilancia proceden de cadenas de suministro multinacionales, mientras los gobiernos intercambian infraestructura, conocimientos operativos y modelos regulatorios.
Lo que Google News revela sobre la represión impulsada por IA
El cambio importante no es un único despliegue, sino la conversión de herramientas de control desconectadas en un sistema político cada vez más integrado.
Los gobiernos autoritarios siempre han recopilado información sobre sus críticos. Las policías secretas vigilaban reuniones, interceptaban comunicaciones, reclutaban informantes y elaboraban expedientes sobre personas consideradas políticamente peligrosas.
Esos métodos requerían mucha mano de obra. Los funcionarios tenían que decidir a quién seguir, qué mensajes leer y cómo conectar fragmentos de información almacenados en distintas oficinas.
La IA reduce esa carga administrativa. La visión por computadora puede analizar grabaciones de cámaras, mientras el procesamiento del lenguaje natural puede clasificar mensajes y detectar temas prohibidos.
La fusión de datos, que combina registros de múltiples fuentes, puede vincular un rostro con un número de teléfono, un vehículo, una dirección, un lugar de trabajo y una red social. A continuación, la analítica predictiva puede clasificar a personas o eventos según una puntuación de riesgo definida por el gobierno.
El resultado es una red de vigilancia más amplia. Las autoridades pueden empezar con poblaciones enteras en lugar de una lista breve de sospechosos conocidos.
Freedom House documentó esta transformación más amplia en su estudio sobre represión digital. Sus investigadores examinaron acontecimientos en 70 países que representan el 88 por ciento de los usuarios globales de internet.
La organización concluyó que la libertad en internet disminuyó por decimotercer año consecutivo durante su período de evaluación de 2023. Las personas enfrentaron consecuencias legales por expresarse en línea en 55 de los 70 países estudiados.
Los gobiernos de al menos 21 países también habían creado normas legales que exigían o alentaban a las plataformas a usar aprendizaje automático contra contenido desfavorecido. Tales normas pueden convertir a las plataformas privadas en extensiones de la censura estatal.
La IA generativa añade otra capa. Puede producir artículos, imágenes, audio, comentarios e identidades fabricadas más rápido que los equipos tradicionales de propaganda.
Freedom House constató que gobiernos o actores políticos utilizaron herramientas generativas en al menos 16 países para distorsionar el debate público durante el período analizado. Al menos 47 gobiernos desplegaron comentaristas para manipular las discusiones en línea.
Estas actividades difieren de la comunicación política ordinaria. Una campaña coordinada puede fabricar una apariencia de consenso, desbordar la cobertura independiente o hacer que las pruebas auténticas parezcan indistinguibles del material fabricado.
Para un régimen, la confusión puede ser tan útil como la persuasión. Los ciudadanos que desconfían de cada video, cuenta y documento tienen mayores dificultades para organizarse en torno a una versión compartida de los acontecimientos.
Por eso el titular de Google News importa más allá de su medio de publicación inmediato. Señala un cambio estructural en el modo en que opera el control político.
La IA no sustituye la censura, las detenciones, los cortes de internet ni la intimidación. Ayuda a los gobiernos a decidir dónde aplicar esos métodos y cómo ocultar su escala.
El sistema también aprende de la aplicación de medidas coercitivas. Una detención crea nuevos registros de dispositivos, contactos, historiales de viaje y material de interrogatorio que pueden alimentar investigaciones posteriores.
Ese ciclo de retroalimentación convierte cada intervención en datos de entrenamiento adicionales. También dificulta inspeccionar la represión porque la conexión decisiva puede producirse dentro de una base de datos gubernamental inaccesible.
El cambio crea una grave brecha de rendición de cuentas. Es posible que la persona afectada nunca sepa qué datos despertaron la atención, cómo los evaluó un algoritmo o si alguien verificó el resultado.
Una vez que una agencia de seguridad etiqueta ese proceso como secreto, una apelación significativa se vuelve casi imposible. La opacidad no es meramente un problema técnico. Sirve a los intereses políticos de la institución que utiliza el sistema.
La ventaja autoritaria es la escala, no la precisión perfecta
Las dictaduras obtienen influencia de la IA porque pueden tolerar errores que un sistema legal responsable debería rechazar.
El debate público suele tratar la precisión como la medida central de un sistema de vigilancia. Ese enfoque pasa por alto la cuestión política.
Un modelo de reconocimiento facial puede identificar erróneamente a un manifestante, periodista o transeúnte. Un modelo de lenguaje puede confundir el sarcasmo con la disidencia. Un sistema de riesgo puede tratar una asociación inocente como prueba de deslealtad.
En un sistema que respeta los derechos, esos fallos deberían activar divulgación, revisión, corrección y compensación. Los tribunales, reguladores, periodistas y funcionarios electos pueden cuestionar a la agencia responsable.
Un sistema autoritario enfrenta menos restricciones. Sus líderes pueden aceptar grandes cantidades de falsos positivos cuando la intimidación en sí misma respalda al régimen.
Una persona interrogada por error aun así aprende que participar implica riesgos. Su familia y sus colegas reciben el mismo mensaje. Otros pueden retirarse antes de que las autoridades lleguen a contactarlos.
Esto produce un efecto disuasorio, es decir, las personas cambian su comportamiento lícito porque esperan vigilancia o castigo. El gobierno no necesita procesar a todo el mundo.
Necesita que los ciudadanos crean que el anonimato está desapareciendo.
La IA refuerza esa creencia al hacer que la vigilancia parezca integral. Las cámaras conectadas sugieren que las autoridades pueden reconstruir los desplazamientos por una ciudad, incluso si la cobertura tiene vacíos.
La vigilancia automatizada crea una impresión similar en línea. Los usuarios no pueden saber si una frase eliminada activó un algoritmo, un moderador humano o una directiva gubernamental.
Esa incertidumbre fomenta la autocensura. También traslada los costos de aplicación de las medidas del gobierno a la población, ya que las personas empiezan a vigilar su propio comportamiento.
El índice de vigilancia de Carnegie ilustró hasta qué punto la tecnología subyacente ya se había extendido en 2019.
El estudio identificó el uso activo de vigilancia mediante IA en al menos 75 de 176 países. Encontró plataformas de ciudades inteligentes o ciudades seguras en 56 países, reconocimiento facial en 64 y policía inteligente en 52.
Estas cifras no demuestran abuso. Carnegie señaló explícitamente que los despliegues legítimos e ilícitos no podían distinguirse solo mediante el índice.
Esta distinción es esencial. Los gobiernos democráticos también usan reconocimiento facial, sistemas predictivos y análisis de video para la policía, la gestión de fronteras y la seguridad pública.
El entorno político determina si las salvaguardas legales restringen esas capacidades. Tribunales independientes, medios libres, transparencia en las contrataciones públicas y mecanismos de apelación efectivos pueden reducir el uso indebido.
Los sistemas cerrados carecen de esas protecciones. Las agencias de seguridad pueden definir la crítica política como extremismo, desorden público, separatismo o información falsa.
Una vez que esa clasificación entra en una lista de vigilancia, la IA puede automatizar sus consecuencias. Una persona podría enfrentar registros adicionales, viajes bloqueados, restricciones de cuentas, presión laboral o contactos policiales repetidos.
La computadora no crea la categoría política. Hace que sea más fácil aplicar la categoría a millones de registros.
Esto explica por qué las afirmaciones sobre algoritmos neutrales son insuficientes. Un modelo técnicamente preciso todavía puede respaldar una política abusiva.
Si el gobierno ordena a un sistema identificar a manifestantes pacíficos, mejorar la precisión no resuelve el problema de derechos humanos. Hace que la violación sea más eficiente.
La misma preocupación se aplica a la censura automatizada. Un clasificador podría reconocer correctamente toda referencia a un acontecimiento, una minoría o una figura de la oposición prohibidos.
Desde una perspectiva de ingeniería, el modelo funciona bien. Desde una perspectiva política, restringe la capacidad del público para hablar y obtener información.
Por tanto, la IA ofrece a los gobiernos autoritarios tres ventajas conectadas: escala, velocidad y distancia plausible.
La escala amplía el número de personas vigiladas. La velocidad acorta el período entre la expresión y la aplicación de medidas coercitivas. La distancia plausible permite a los funcionarios atribuir las decisiones a plataformas, proveedores o procesos automatizados.
Ninguna requiere inteligencia artificial general. La visión por computadora, la comparación de bases de datos, los sistemas de recomendación y los modelos de lenguaje existentes ya proporcionan los componentes necesarios.
China está construyendo una arquitectura de control basada en IA
El modelo de China combina innovación comercial, mandatos legales y contratación estatal en una infraestructura reutilizable para el control político.
China sigue siendo el caso más desarrollado porque su sistema se extiende al contenido en línea, la vigilancia física, la policía, los tribunales y las prisiones.
El Australian Strategic Policy Institute examinó esta integración en su informe de 2025 sobre los sistemas de IA de China.
Los investigadores analizaron registros de contratación, documentos corporativos, ofertas de empleo y el comportamiento de los modelos. También probaron grandes modelos de lenguaje chinos con un conjunto de datos de 200 imágenes políticamente sensibles.
Sus hallazgos describen una arquitectura de control, no un único producto de vigilancia. Diferentes sistemas clasifican información, identifican personas, generan alertas, asisten a funcionarios y aplican normas de contenido.
Los grandes modelos de lenguaje chinos no solo filtran texto. ASPI encontró mecanismos de censura que también afectaban a imágenes políticamente sensibles.
Esto importa porque los modelos multimodales procesan varios formatos, incluidos texto, imágenes, audio y video. Por tanto, un sistema de censura puede aplicar la misma norma política en diferentes medios.
Esta capacidad dificulta la evasión. Históricamente, los usuarios han recurrido a imágenes, homófonos, capturas de pantalla o lenguaje codificado cuando se bloqueaba el texto directo.
Un modelo entrenado para interpretar múltiples formatos puede identificar más de esas sustituciones. Los revisores humanos siguen aportando criterio cultural y político, pero la automatización amplía su alcance.
ASPI revisó más de 100 ofertas de empleo para labores de censura en línea. La demanda sostenida de revisores demuestra que el sistema chino no ha eliminado a las personas del circuito.
En su lugar, trabajadores humanos interpretan límites políticos cambiantes e incorporan esos criterios a procesos automatizados. La máquina aporta escala, mientras las personas actualizan la definición de discurso inaceptable.
Las regulaciones chinas también generan demanda comercial. Las principales empresas tecnológicas han desarrollado plataformas de cumplimiento que las compañías más pequeñas pueden utilizar para filtrar contenido.
Este esquema distribuye la aplicación de las normas por toda la economía digital. Un nuevo servicio no necesita construir desde cero toda una operación de censura.
Puede comprar o integrar un sistema moldeado por los requisitos estatales ya existentes. El cumplimiento pasa a ser un gasto ordinario de infraestructura, en lugar de una intervención excepcional.
El sistema de justicia penal presenta riesgos mayores. ASPI concluyó que China estaba desplegando IA en la policía, la fiscalía, los tribunales y las prisiones.
Según los informes, estas herramientas ayudan con documentos, procesamiento de pruebas, recomendaciones de sentencia y gestión institucional. Cada uso plantea cuestiones diferentes sobre transparencia y posibilidad de apelación.
Una recomendación automatizada puede parecer objetiva incluso cuando sus datos de entrenamiento reflejan una vigilancia policial selectiva. Los arrestos y condenas anteriores no constituyen un registro neutral en un sistema dirigido políticamente.
Si las autoridades se centraron intensamente en una comunidad en el pasado, un algoritmo entrenado con ese historial puede reproducir el patrón. Luego puede presentar la repetición como evidencia estadística.
Los sistemas para lenguas minoritarias profundizan esta preocupación. ASPI identificó trabajos respaldados por el gobierno relacionados con el procesamiento de los idiomas uigur, tibetano, mongol y coreano.
Los desarrolladores comerciales tienen pocos incentivos para crear modelos costosos para grupos lingüísticos relativamente pequeños. El Estado puede aportar financiación cuando la vigilancia y el control de la información justifican la inversión.
Estos modelos pueden supervisar expresiones que antes requerían escasos especialistas humanos. También pueden extender el análisis al texto, el audio y el vídeo.
La infraestructura de control cierra, por tanto, varias brechas a la vez. Amplía la cobertura lingüística, vincula identidades en línea y fuera de línea, y lleva las recomendaciones automatizadas más profundamente a las decisiones gubernamentales.
El sistema chino no está completamente centralizado ni tiene capacidades uniformes. Las agencias cuentan con presupuestos distintos, los proveedores ofrecen productos desiguales y los funcionarios locales siguen tomando decisiones de gran importancia.
Esa desigualdad no debería generar una falsa sensación de tranquilidad. Los sistemas políticos no necesitan coherencia técnica para infundir miedo o castigar a grupos seleccionados.
Los lectores de Google News también deberían evitar reducir esta historia a un desarrollo exclusivamente chino. China ofrece el modelo a gran escala más claro, pero sus componentes y prácticas operativas se trasladan a otros lugares.
Algunos se trasladan como exportaciones comerciales. Otros se difunden mediante relaciones de formación, conferencias, organismos de normalización, intercambios policiales o imitación.
Esto convierte el caso chino tanto en una cuestión interna de derechos humanos como en un anticipo de capacidades disponibles en otros lugares.
Las cadenas globales de suministro tecnológico mantienen el sistema en funcionamiento
La vigilancia autoritaria no se produce dentro de sistemas nacionales herméticamente cerrados; depende de hardware, software, conocimientos especializados y financiación internacionales.
Una red de cámaras requiere sensores, almacenamiento, procesadores, equipos de comunicaciones, bases de datos y software analítico. Cada capa puede implicar a empresas que operan en varias jurisdicciones.
Esa complejidad crea oportunidades para negar responsabilidad. Un fabricante de chips puede afirmar que vende hardware de uso general. Una empresa de software puede sostener que un socio local controló el despliegue.
Un distribuidor puede alegar que nunca se reunió con el cliente gubernamental final. Las autoridades pueden ocultar las compras detrás de contratistas o proyectos de seguridad pública con nombres inocuos.
Sin embargo, el sistema ensamblado aún puede respaldar la vigilancia política.
Una investigación de Associated Press examinó cómo la tecnología extranjera contribuyó al Estado policial digital de China.
La investigación se basó en decenas de miles de correos electrónicos y bases de datos filtrados, registros confidenciales, documentos de contratación y entrevistas con más de 100 personas.
AP informó que tecnología vinculada a empresas estadounidenses, europeas y asiáticas aparecía en la infraestructura china de vigilancia y policía.
Los ejemplos abarcaban software de bases de datos, sistemas en la nube, almacenamiento, productos cartográficos, chips, cámaras, herramientas biométricas y aplicaciones analíticas.
Varias empresas dijeron a AP que las relaciones antiguas habían terminado, que cumplían los controles de exportación o que el presunto uso indebido ocurrió fuera de su conocimiento y control.
Estas respuestas ilustran el problema de aplicación de las normas. Un componente puede seguir siendo útil durante años después de su venta, mientras que el software puede copiarse, modificarse o integrarse por otra empresa.
Las reglas de exportación suelen centrarse en entidades, destinos o productos concretos. Los sistemas de vigilancia evolucionan más rápido que esas listas y con frecuencia incorporan tecnología comercial común.
Por ello, la responsabilidad en la cadena de suministro no puede terminar con una comprobación limitada de sanciones. Los proveedores deben examinar a los usuarios previstos, los socios locales, los entornos de despliegue y los usos secundarios previsibles.
También necesitan controles contractuales, restricciones técnicas, auditorías y procedimientos de salida creíbles. Ninguno ofrece una solución completa, especialmente cuando un gobierno oculta sus operaciones.
La historia de la participación occidental complica las afirmaciones de que la IA autoritaria sigue un único modelo nacional. Carnegie encontró tecnología de empresas estadounidenses en 32 países dentro de su índice de 2019.
Las empresas chinas eran proveedores importantes, pero compañías con sede en Francia, Alemania, Israel, Japón y Estados Unidos también contribuyeron a la proliferación global.
Esto no demuestra que todos los proveedores pretendieran facilitar la represión. Muestra por qué fracasa un simple mapa de suministro que contrapone democracias y dictaduras.
Los incentivos comerciales pueden conectar a empresas de sociedades abiertas con agencias que operan sin supervisión pública. Los inversores y ejecutivos pueden ver contratos de seguridad pública antes de advertir el riesgo político.
La misma infraestructura también puede cambiar de propósito. Una ciudad puede comprar cámaras para gestionar el tráfico y luego conectarlas al reconocimiento facial después de que comiencen las protestas.
Una base de datos fronteriza puede convertirse en una lista de vigilancia interna. Un clasificador de seguridad de contenidos puede imponer tabúes políticos. Una plataforma de detección de fraude puede revelar redes financieras disidentes.
Este problema de reutilización debilita las garantías basadas únicamente en la descripción original de la venta. La gobernanza debe acompañar a la tecnología durante toda su vida útil.
Las empresas también deben considerar el mantenimiento. Las actualizaciones, los servicios en la nube, los componentes de reemplazo y el soporte técnico pueden mantener operativo un sistema abusivo.
Detener las nuevas ventas no desactivará de inmediato los equipos ya desplegados. Los gobiernos pueden acumular hardware, utilizar intermediarios o desarrollar sustitutos locales.
En consecuencia, el mercado global da resiliencia a las dictaduras. Pueden combinar tecnologías de distintos proveedores y sustituir componentes restringidos con el tiempo.
Esa resiliencia genera presión para adoptar reglas coordinadas. Los controles estrictos de exportación de un país tienen un efecto limitado cuando productos equivalentes siguen disponibles en otros lugares.
Las normas compartidas también deben definir usos prohibidos, no solo clientes prohibidos. Un gobierno puede trasladar un proyecto entre ministerios, agencias locales o contratistas afiliados.
La cobertura de Google News puede revelar acuerdos individuales, pero la atención pública rara vez sigue toda la cadena. Los registros de contratación, las divulgaciones corporativas y la investigación técnica deben cubrir ese vacío.
La cuestión decisiva no es si un componente se comercializó como IA. Es si el sistema terminado amplía la capacidad de un gobierno para identificar, clasificar o castigar actividades lícitas.
El verdadero dilema es la seguridad sin rendición de cuentas
El problema de política pública más difícil consiste en separar la seguridad pública legítima de los sistemas que hacen que el poder político sea difícil de cuestionar.
Los gobiernos presentan el reconocimiento facial, el análisis de datos y la supervisión automatizada como herramientas para encontrar delincuentes, prevenir ataques o localizar personas desaparecidas.
Estos fines no son intrínsecamente ilegítimos. La misma tecnología puede producir resultados diferentes bajo leyes e instituciones diferentes.
Una búsqueda estrictamente limitada de un sospechoso conocido difiere de la identificación continua mediante todas las cámaras públicas. Ambas podrían utilizar un software similar.
La diferencia reside en la necesidad, la proporcionalidad, la conservación de datos, el acceso y la supervisión. También depende de si las personas afectadas pueden descubrir y cuestionar el uso indebido.
Los gobiernos autoritarios eliminan esas distinciones. Leyes amplias de seguridad nacional pueden equiparar la oposición pacífica con el peligro criminal.
Pueden definir a toda la población como una fuente potencial de inestabilidad. La recopilación masiva pasa entonces a ser la norma en lugar de una medida excepcional.
La Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos ha advertido que la vigilancia biométrica remota puede afectar la privacidad, la expresión, la circulación y la reunión pacífica.
Sus directrices respaldan límites estrictos a los sistemas que escanean multitudes o protestas. También se oponen a la predicción individualizada de delitos y a la categorización biométrica basada en características protegidas.
Estas posturas reflejan un problema básico. Una cámara que escanea a todos los asistentes a una manifestación no solo observa presuntas irregularidades.
Registra la participación lícita y puede identificar redes de organizadores, periodistas, abogados, transeúntes y simpatizantes. Ese conocimiento cambia si las personas se sienten seguras al asistir al próximo evento.
El riesgo aumenta cuando se conectan varios sistemas. El reconocimiento facial identifica a una persona, los datos telefónicos trazan sus contactos y el análisis lingüístico clasifica sus comunicaciones.
Un funcionario puede entonces tratar el resultado combinado como más sólido que cualquier registro individual. Sin embargo, vincular inferencias inciertas no crea automáticamente pruebas fiables.
Los errores pueden acumularse. Una coincidencia facial débil puede vincular a la persona equivocada con una dirección, mientras que un mensaje mal traducido aporta un motivo falso.
Los proveedores opacos y las agencias clasificadas dificultan detectar esos fallos. La persona afectada puede ver únicamente la restricción o acusación final.
Por ello, las Naciones Unidas han subrayado la transparencia, la supervisión independiente y las evaluaciones de derechos humanos antes del despliegue.
Estas protecciones son más débiles precisamente allí donde el riesgo político es mayor. Una legislatura autoritaria no limitará de forma fiable a los servicios de seguridad que preservan el orden gobernante.
Las salvaguardias técnicas por sí solas no pueden reparar ese fracaso institucional. La revisión humana solo ayuda cuando el revisor tiene autoridad, independencia e incentivos para rechazar la salida de la máquina.
Un funcionario que espera ser castigado por no detectar una amenaza aceptará más alertas falsas. La automatización puede intensificar ese sesgo al asignar a la alerta una puntuación numérica.
Los sistemas también moldean el comportamiento dentro del gobierno. Una vez que una agencia compra infraestructura costosa, los directivos se enfrentan a presión para demostrar resultados.
Más listas de vigilancia, alertas e intervenciones pueden parecer una justificación de la inversión. Una actividad baja podría interpretarse, en cambio, como un mal rendimiento del sistema.
Este incentivo fomenta la expansión de la misión. Una plataforma introducida para combatir el terrorismo puede extenderse a la delincuencia ordinaria, las protestas, la inmigración, el discurso político o la supervisión laboral.
La experiencia de Rusia con el reconocimiento facial demuestra cómo la infraestructura de seguridad pública puede llegar a concentraciones políticas. Human Rights Watch informó de que funcionarios rusos reconocieron haber utilizado reconocimiento facial para la vigilancia masiva en una protesta de Moscú.
Irán demuestra otra vía. Las autoridades combinaron restricciones de internet, bloqueo de plataformas, redes de cámaras y supervisión digital durante períodos de oposición masiva.
Freedom House registró el importante deterioro de la libertad en internet en Irán tras las protestas desencadenadas por la muerte bajo custodia de Jina Mahsa Amini en septiembre de 2022.
Estos casos muestran por qué centrarse en la precisión de los modelos es insuficiente. La principal incertidumbre se refiere a quién define el objetivo y qué ocurre después de la identificación.
Un sistema puede funcionar exactamente como fue diseñado y, aun así, vulnerar derechos. El propio objetivo de diseño puede ser el control político.
Los gobiernos democráticos no deberían asumir que sus propias instituciones eliminan este peligro. Carnegie encontró vigilancia mediante IA tanto en democracias liberales como en autocracias.
Las sociedades abiertas cuentan con mecanismos de corrección más sólidos, pero esos mecanismos requieren acceso a la información. La contratación secreta y las amplias exenciones de seguridad pueden debilitarlos.
Por tanto, la línea divisoria adecuada es el uso responsable, no la etiqueta nacional. Los gobiernos deberían publicar la autoridad legal, los fines permitidos, los períodos de conservación, las pruebas de errores, las identidades de los proveedores y los resultados de las auditorías.
También deberían ofrecer recursos efectivos. Un derecho que no puede ejercerse porque el sistema permanece secreto ofrece poca protección práctica.
Cómo será la próxima fase del control digital
La próxima disputa se centrará en la selección predictiva de objetivos, la propaganda generativa y en si los gobiernos pueden limitar a las empresas que suministran ambas.
La primera señal que hay que observar es el paso de la identificación a la predicción.
El reconocimiento facial tradicional pregunta si un rostro observado coincide con una imagen almacenada. Los sistemas predictivos hacen una afirmación más ambiciosa sobre lo que una persona podría hacer.
Pueden analizar viajes, compras, contactos, lenguaje y patrones de ubicación para generar una evaluación de riesgo. Los gobiernos pueden describir el resultado como una pista de investigación, en lugar de una decisión definitiva.
Esa etiqueta no elimina su influencia. Los agentes asignan atención basándose en esas pistas, mientras que una mayor vigilancia genera más registros que parecen validar la puntuación original.
El ciclo puede convertir supuestos políticos en patrones estadísticos. Las comunidades sometidas a mayor vigilancia generarán más alertas.
Preste atención a los documentos de contratación que mencionen análisis de opinión pública, estabilidad social, alerta temprana, perfiles de riesgo o gobernanza preventiva. Esas expresiones suelen revelar la función deseada con mayor claridad que una etiqueta de IA.
Las auditorías independientes deberían comprobar si las predicciones identifican conductas reales o simplemente reproducen sospechas oficiales. Sin acceso a los datos y los resultados, las afirmaciones sobre precisión siguen sin verificarse.
La segunda señal es la persuasión automatizada.
Los modelos generativos abaratan la operación de numerosas cuentas convincentes, la adaptación de mensajes a distintos grupos y la respuesta rápida durante una crisis política.
Un gobierno ya no necesita que cada trabajador de propaganda redacte publicaciones originales. Los modelos pueden producir variaciones, traducciones, comentarios y medios sintéticos a gran escala.
La detección seguirá siendo difícil porque el contenido generado no siempre contiene una firma técnica estable. Los operadores también pueden combinar trabajo humano y automatizado.
El objetivo puede ser menos ambicioso que cambiar la opinión de todo el mundo. Inundar una discusión puede agotar a los moderadores, distraer a los periodistas y ocultar testimonios auténticos.
Los medios sintéticos también pueden favorecer el “dividendo del mentiroso”. Los funcionarios pueden desestimar grabaciones reales como fabricadas porque existen falsificaciones convincentes.
Observe cómo las plataformas informan sobre operaciones coordinadas de influencia. Las divulgaciones útiles deberían explicar la creación de cuentas, la amplificación, la segmentación, los pagos y los vínculos con instituciones estatales.
Los simples recuentos de publicaciones eliminadas revelarán poco sobre el alcance o el efecto. Los investigadores necesitan acceder a conjuntos de datos preservados antes de que las plataformas eliminen la evidencia.
La tercera señal es si los controles de exportación y la debida diligencia empresarial pasan de las promesas a una práctica exigible.
Los gobiernos han impuesto restricciones a determinadas empresas de vigilancia y componentes avanzados. Esas medidas generan fricción, pero dejan abiertas amplias vías comerciales.
Las normas futuras deberían abordar a intermediarios, revendedores, soporte en la nube, actualizaciones de software y servicios técnicos. También deben cubrir la reutilización tras una venta aparentemente legítima.
Los informes empresariales ofrecen una prueba temprana. Los proveedores deberían identificar los contratos gubernamentales de alto riesgo, describir su proceso de revisión y revelar cuándo suspenden el servicio.
Los inversores pueden preguntar si los ingresos dependen de clientes que bloquean auditorías u ocultan a los usuarios finales. Los empleados pueden examinar si los canales internos de escalamiento tienen autoridad para detener el despliegue.
Los grupos de la sociedad civil necesitarán recursos para investigar contrataciones y probar los sistemas desplegados. Los gobiernos autoritarios restringen deliberadamente la evidencia necesaria para exigir responsabilidades.
Los periodistas e investigadores también enfrentan riesgos personales al cartografiar estas redes. La protección de los denunciantes y el acceso seguro a los registros determinarán qué puede llegar a conocerse públicamente.
Estas tres señales se refuerzan mutuamente. La vigilancia predictiva genera objetivos, la propaganda generativa moldea la narrativa y los proveedores globales proporcionan la infraestructura.
Un régimen que controla las tres puede actuar antes, ocultar lo que hizo y cuestionar la credibilidad de quien documente el resultado.
El contrapeso también debe funcionar como un sistema. La regulación, las pruebas técnicas, el periodismo de investigación, la rendición de cuentas empresarial y los recursos legales no pueden funcionar de forma aislada.
Google News puede llevar el tema a la vista del público, pero la atención es solo el primer paso. Los lectores deberían preguntar qué pruebas respaldan cada afirmación y qué institución puede imponer consecuencias.
La cuestión ya no es si las dictaduras utilizarán IA. Los despliegues documentados demuestran que ya lo hacen.
La pregunta urgente es si las empresas y los gobiernos democráticos establecerán límites antes de que los sistemas integrados de control se conviertan en infraestructura pública ordinaria.
Siga los registros de contratación, las leyes biométricas, los informes de influencia de las plataformas y las divulgaciones de los proveedores en los próximos meses. Esas señales mostrarán si la rendición de cuentas se está poniendo al día o quedando aún más rezagada.
