Las conversaciones Trump-Xi sobre seguridad de la IA buscan establecer límites sin frenar la carrera
Donald Trump y Xi Jinping se preparan para abordar la seguridad de la IA esta semana, pese a una competencia cada vez más intensa por los chips, los modelos, la infraestructura y los estándares globales. Las conversaciones Trump-Xi sobre seguridad de la IA no están diseñadas para detener esa competencia. Buscan evitar que un incidente peligroso convierta la rivalidad tecnológica en una crisis de seguridad nacional.
Los funcionarios ya han debatido un posible mecanismo de notificación para incidentes graves relacionados con la IA. Ese canal podría cubrir un ciberataque habilitado por IA, un uso indebido biológico, una falla importante de un modelo u otro suceso que afecte a la seguridad nacional. Funcionaría más como una línea de comunicaciones de emergencia que como un amplio tratado tecnológico.
Esa distinción define la tensión central de la cumbre. Washington y Pekín ven motivos para comunicarse sobre riesgos extremos, pero ninguno de los dos gobiernos quiere que la cooperación debilite su posición competitiva. El resultado es una búsqueda limitada de salvaguardas compartidas dentro de una carrera mucho más amplia por la supremacía en IA.
Las conversaciones Trump-Xi sobre seguridad de la IA comienzan con un canal de emergencia
La propuesta más concreta es una vía para que Washington y Pekín se notifiquen mutuamente cuando un incidente de IA alcance relevancia para la seguridad nacional.
El secretario del Tesoro de Estados Unidos, Scott Bessent, afirmó que la idea surgió durante conversaciones con el viceprimer ministro chino He Lifeng en Nueva York. Según la cobertura de la cumbre, las discusiones abarcaron un diálogo sobre IA y un posible mecanismo de notificación para incidentes graves.
La propuesta sigue siendo preliminar. Los funcionarios no han anunciado un acuerdo vinculante, una definición compartida de una emergencia de IA ni un organismo técnico responsable de revisar los informes. Por ello, se entiende mejor como un punto de la agenda que como un sistema operativo de gestión de crisis.
Aun así, su alcance limitado importa. Washington y Pekín no necesitan coincidir en la regulación de la IA, los controles de exportación o el desarrollo de modelos para reconocer el peligro de interpretar mal una emergencia. Necesitan una forma fiable de identificar un incidente, contactar a la otra parte y reducir el riesgo de escalada.
Un incidente de IA puede cruzar fronteras sin seguir los patrones que los gobiernos asocian con ataques convencionales. Una intrusión asistida por un modelo podría propagarse a través de software compartido, infraestructura en la nube o redes de telecomunicaciones. Los investigadores podrían tener dificultades para distinguir una operación dirigida por un Estado de actividad delictiva o de una falla de un sistema autónomo.
Esa ambigüedad genera peligro político. Si un ataque interrumpe la electricidad, las finanzas, el transporte o las comunicaciones, los líderes podrían enfrentar presión para responder antes de que los investigadores establezcan responsabilidades. Un canal de emergencia podría aportar más tiempo e información durante ese período de incertidumbre.
El mecanismo aún afrontaría difíciles cuestiones de diseño. Cada gobierno necesitaría criterios para decidir cuándo un incidente se vuelve lo suficientemente grave como para informarlo. También necesitarían normas para proteger inteligencia clasificada, información corporativa y detalles que podrían exponer vulnerabilidades aún no resueltas.
La confianza representa otro obstáculo. Un gobierno podría temer que informar de un incidente revelara una debilidad defensiva. También podría sospechar que la otra parte oculta pruebas o utiliza el proceso para recopilar inteligencia.
Por tanto, las conversaciones Trump-Xi sobre seguridad de la IA comienzan con un objetivo limitado: establecer comunicación antes de intentar una coordinación más profunda. Ese enfoque se parece a la gestión de crisis entre rivales estratégicos, no a un proyecto regulatorio compartido.
Michael Kratsios, asesor de ciencia y tecnología de la Casa Blanca, ha dicho que las conversaciones con China deberían centrarse en evitar riesgos compartidos. Especialistas chinos y estadounidenses también han identificado los ciberataques habilitados por IA, el uso indebido biológico, la pérdida de control y las fallas importantes de modelos como posibles áreas de cooperación.
Sin embargo, esas categorías son amplias. Un canal útil requiere umbrales operativos. Los funcionarios deben decidir si la notificación comienza con un suceso sospechoso, un suceso confirmado o solo con un incidente que cause un daño nacional mensurable.
También deben decidir quién recibe la alerta. Una línea directa diplomática podría ser demasiado lenta o estar desconectada de los investigadores técnicos. Un canal puramente técnico podría carecer de la autoridad necesaria durante una emergencia de seguridad nacional que evoluciona rápidamente.
Por tanto, el cambio inmediato no es un nuevo régimen internacional de seguridad. Es la aparición de una propuesta específica y práctica que ambas partes pueden examinar sin suspender la carrera por la IA.
Ambos gobiernos definen el liderazgo en IA como un objetivo nacional
Las conversaciones sobre seguridad se desarrollan entre dos gobiernos que consideran abiertamente la capacidad en IA como una fuente de poder económico y estratégico.
La estrategia de IA de la administración Trump describe a Estados Unidos como inmerso en una carrera por el dominio global. Sus tres pilares se centran en acelerar la innovación, construir infraestructura y liderar la diplomacia y la seguridad internacionales.
Esa estructura deja poco espacio para una desaceleración amplia. Un desarrollo más rápido de modelos, la expansión de centros de datos, el suministro de energía, la producción de semiconductores y las exportaciones de tecnología estadounidense respaldan el objetivo de liderazgo de la administración.
China también vincula el desarrollo de la IA con el crecimiento económico, el progreso científico, la capacidad industrial y la influencia internacional. Su lenguaje político hace hincapié en la innovación junto con la seguridad, la controlabilidad, la equidad y el acceso.
El plan de acción de gobernanza de Pekín define la IA como un bien público internacional, al tiempo que insta a los gobiernos y a otras partes interesadas a acelerar la infraestructura, la investigación, la adopción y las aplicaciones prácticas. No presenta la gobernanza como sustituto del desarrollo.
Los dos enfoques utilizan un lenguaje político diferente, pero comparten una premisa importante. Ninguno de los dos gobiernos cree que aceptar una senda de desarrollo nacional más lenta hará que la otra parte lo siga.
Eso crea un problema clásico de coordinación. Ambas partes pueden percibir los riesgos de sistemas cada vez más capaces. Cada una también teme que la moderación unilateral transfiera ventajas económicas, militares o diplomáticas a su rival.
La presión se extiende más allá de los organismos gubernamentales. Los laboratorios estadounidenses afrontan expectativas de lanzar mejores modelos, asegurar capacidad de cómputo y expandirse internacionalmente. Los desarrolladores chinos afrontan presión para mejorar sus modelos pese a las restricciones de acceso a los chips extranjeros más avanzados.
Los proveedores de nube, las empresas de semiconductores, las compañías eléctricas, los operadores de centros de datos y los compradores empresariales quedan involucrados en la misma competencia. Sus decisiones de inversión determinan la rapidez con que las nuevas capacidades pasan de los laboratorios a los productos y sistemas críticos.
Los controles de exportación profundizan la división. Washington considera las restricciones a los chips avanzados y la tecnología relacionada como herramientas para proteger la seguridad nacional y preservar una ventaja tecnológica. Pekín sostiene que dichas restricciones obstaculizan el desarrollo legítimo y refuerzan un monopolio estadounidense.
Es improbable que esas posturas desaparezcan durante una conversación sobre seguridad. Los funcionarios estadounidenses no han indicado que el canal de incidentes propuesto requiera flexibilizar los controles sobre tecnología avanzada. China no ha indicado que aceptará las restricciones estadounidenses como una parte legítima de la gobernanza global de la IA.
Por tanto, la cumbre debe separar dos asuntos que siguen estando conectados políticamente. El primero es qué país controla el ecosistema de IA más potente. El segundo es cómo responden ambos países cuando un sistema crea una amenaza que ninguno puede contener por sí solo.
Para los desarrolladores y los compradores empresariales, esta separación importa. Un mecanismo de crisis podría mejorar la comunicación entre gobiernos mientras deja sin cambios las restricciones sobre productos, el acceso a cómputo, las normas de contratación y los despliegues transfronterizos.
Incluso podría coexistir con una competencia más intensa. Los gobiernos pueden intercambiar información de emergencia mientras gastan más en infraestructura, limitan las transferencias de tecnología y promueven modelos nacionales.
Por eso, las conversaciones Trump-Xi sobre seguridad de la IA no deben confundirse con un acuerdo de pausa. El concepto emergente busca una carrera más segura, no el fin de la carrera.
La disyuntiva central es seguridad sin contención estratégica
Washington y Pekín quieren protección frente a fallas catastróficas sin aceptar normas que puedan limitar sus propias capacidades de IA.
Esta disyuntiva determina qué riesgos probablemente recibirán atención seria. Los peligros compartidos tienen mayores probabilidades de entrar en las negociaciones cuando amenazan a ambos países sin determinar quién lidera comercialmente.
Un modelo fuera de control implicado en una amenaza biológica encaja en esa categoría. También lo hace un gran incidente cibernético que cruza fronteras o daña infraestructura crítica. Ambos gobiernos tienen motivos para prevenir esos sucesos, independientemente de dónde se haya desarrollado el modelo subyacente.
Las cuestiones competitivas son más difíciles. Los pesos de los modelos, los datos de entrenamiento, el acceso a chips, la capacidad de cómputo, las aplicaciones militares y la propiedad intelectual afectan directamente a la ventaja estratégica. Las negociaciones que aborden estas áreas exigirían a cada parte revelar o limitar activos que considera esenciales.
La distinción ayuda a explicar por qué un mecanismo de notificación de incidentes resulta políticamente atractivo. Pide a los gobiernos que se comuniquen después de que un riesgo se vuelva concreto. No les exige necesariamente ralentizar el entrenamiento, revelar capacidades de frontera ni aceptar inspecciones conjuntas de antemano.
Ese enfoque limitado aún puede generar valor. La comunicación de emergencia puede reducir atribuciones erróneas, coordinar acciones defensivas o evitar que un problema técnico se convierta en una confrontación diplomática.
Sin embargo, la notificación por sí sola no puede prevenir todas las fallas graves. Un mensaje enviado después de que comienza un incidente no sustituye las evaluaciones de modelos, los controles de ciberseguridad, las salvaguardas de despliegue ni las protecciones contra el uso indebido.
OpenAI ha propuesto mediciones compartidas para clasificar e informar sobre incidentes, según una descripción de sus estándares de seguridad. La empresa también recomendó utilizar instituciones nacionales de seguridad de la IA para apoyar el establecimiento de estándares internacionales.
Las mediciones comunes abordarían una debilidad práctica de la propuesta de la cumbre. Una alerta resulta menos útil si un gobierno clasifica un suceso como una falla técnica rutinaria mientras el otro lo considera un ataque a la seguridad nacional.
Un marco compartido podría definir la gravedad mediante los sistemas afectados, la duración, el alcance geográfico, el daño humano o las pruebas de uso indebido deliberado. También podría distinguir entre incidentes detectados durante las pruebas y fallas observadas después del despliegue.
No obstante, los estándares creados o promovidos por empresas de IA plantean sus propias preocupaciones. Los desarrolladores poseen conocimientos técnicos que los gobiernos necesitan, pero también tienen intereses comerciales en evitar normas que retrasen productos o expongan métodos confidenciales.
Las pruebas independientes y la rendición de cuentas pública siguen siendo importantes. Las investigaciones sobre compromisos voluntarios anteriores han concluido que la divulgación puede ser inconsistente, lo que dificulta la verificación externa. Un marco de seguridad basado únicamente en los informes de las empresas podría repetir esa debilidad.
El plan chino de gobernanza ética para 2026 exige controles de riesgos durante todo el ciclo de vida de la IA, gobernanza ágil, cooperación internacional y trabajo sobre explicabilidad, privacidad y sesgos. El plan también impulsa el fortalecimiento de capacidades de gobernanza en los países en desarrollo.
Esta política ofrece posibles ámbitos de coincidencia con las normas internacionales. También refleja la preferencia de Pekín por una gobernanza que respete las condiciones nacionales y la soberanía.
Estados Unidos aborda esta cuestión desde una dirección institucional distinta. Su estrategia actual favorece la innovación, la infraestructura, la coordinación federal y el liderazgo estadounidense. Ha rechazado estructuras regulatorias que, según consideran sus funcionarios, ralentizarían el desarrollo interno.
El resultado no es una filosofía de gobernanza compartida. Es la posible coincidencia en que algunos acontecimientos son lo suficientemente peligrosos como para justificar la comunicación, incluso cuando ambos sistemas siguen siendo políticamente incompatibles.
Por tanto, el resultado más creíble sería procedimental. Los funcionarios podrían definir puntos de contacto, categorías de incidentes, tiempos de respuesta y normas para proteger la información sensible.
El resultado menos creíble sería una afirmación general de que ambos gobiernos se han alineado en materia de seguridad de la IA. Sus discrepancias sobre chips, normas, modelos abiertos, uso militar y competencia económica son demasiado profundas para llegar a esa conclusión.
Un mecanismo limitado debe evaluarse por su funcionamiento bajo presión. No debe evaluarse por la importancia simbólica de que los líderes mencionen la IA en una misma reunión.
Los controles sobre chips y la desconfianza limitan la cooperación
La misma rivalidad que hace necesario un canal de crisis sobre IA también dificulta que se confíe en él.
Washington teme que las capacidades avanzadas de IA refuercen las operaciones militares, de inteligencia, vigilancia y ciberoperaciones de China. Pekín teme que los controles estadounidenses busquen contener su desarrollo tecnológico, en lugar de gestionar un riesgo de seguridad específico.
Estas preocupaciones determinan cómo cada parte interpreta el lenguaje sobre seguridad. Los funcionarios estadounidenses pueden considerar necesarias las restricciones sobre capacidades sensibles como salvaguardas. Los funcionarios chinos pueden interpretar esas mismas restricciones como medidas competitivas presentadas bajo una etiqueta de seguridad.
El desacuerdo también afecta al intercambio de información. Un informe de incidente podría revelar el rendimiento de un modelo, la arquitectura de un sistema defensivo o la ubicación de infraestructura crítica. Los funcionarios podrían dudar en divulgar esos detalles a un rival estratégico.
Las empresas afrontan preocupaciones similares. Un laboratorio de frontera puede querer ayuda gubernamental para contener un fallo y, al mismo tiempo, resistirse a solicitudes que revelen debilidades del modelo o sistemas propietarios. Un proveedor de nube puede tener los registros necesarios para investigar un ataque, pero enfrentar restricciones al intercambio transfronterizo de datos.
La atribución añade otra capa de incertidumbre. La IA puede ayudar a los atacantes a escribir código, buscar vulnerabilidades, traducir mensajes y automatizar partes de una operación. Estas capacidades no revelan necesariamente quién dirigió el ataque.
Un gobierno que recibe una alerta podría cuestionar si el incidente fue accidental, criminal, patrocinado por un Estado o deliberadamente tergiversado. Sin procedimientos de investigación acordados, la notificación podría convertirse en otro terreno para las acusaciones.
Scott Singer, de Carnegie Endowment, ha observado que las conversaciones sobre IA se entrelazan con los cambios en la relación más amplia entre Estados Unidos y China. Esta conexión hace que el trabajo técnico sostenido sea vulnerable a disputas sobre comercio, Taiwán, sanciones y otras cuestiones de seguridad.
El momento político también importa. Un canal de crisis debe sobrevivir a periodos en los que los líderes tienen poco interés en cooperar. Si los funcionarios suspenden la comunicación cada vez que las relaciones se deterioran, el mecanismo puede fallar precisamente cuando más se necesita.
También existe el riesgo del cumplimiento simbólico. Ambas partes podrían anunciar un diálogo, celebrar reuniones ocasionales y evitar el difícil trabajo de acordar definiciones, ejercicios y verificación.
Un mecanismo serio requeriría pruebas rutinarias. Los equipos técnicos podrían realizar ejercicios de mesa, utilizar incidentes hipotéticos y evaluar si las alertas llegaron a las agencias correctas. Podrían identificar problemas de traducción y sistemas de clasificación incompatibles antes de una emergencia real.
El canal también necesitaría protección frente a la manipulación. Las normas deberían impedir que cualquiera de los gobiernos sature el sistema con avisos de bajo nivel, utilice las alertas como propaganda o trate información incompleta como prueba de responsabilidad.
Ninguno de estos desafíos hace que la comunicación sea inútil. Muestran por qué el acuerdo debe diseñarse para la desconfianza, en lugar de basarse en la presunción de confianza.
Los acuerdos históricos de gestión de crisis entre rivales a menudo partieron del reconocimiento de que los errores de cálculo perjudican a ambas partes. No eliminaron la competencia. Crearon procedimientos limitados para los momentos en que la competencia se volvió peligrosamente inestable.
La IA introduce complejidad adicional porque gran parte de la infraestructura pertinente pertenece a empresas privadas. Los gobiernos pueden controlar la diplomacia, pero los desarrolladores, proveedores de nube, operadores de telecomunicaciones e investigadores de seguridad suelen detectar primero un incidente.
Por ello, un proceso de notificación funcional necesita coordinación interna en cada lado. Los funcionarios deben saber qué organizaciones pueden identificar un evento que cumpla los criterios, preservar las pruebas y comunicar información fiable con rapidez.
Los usuarios empresariales de IA también deberían prestar atención. Las empresas transfronterizas podrían afrontar nuevas expectativas de notificación cuando un modelo afecte a sistemas o datos sensibles. Podrían necesitar registros de incidentes que distingan los fallos de software ordinarios de los acontecimientos con implicaciones para la seguridad nacional.
Los trabajadores del conocimiento sentirán las consecuencias de forma menos directa, pero el problema de gobernanza subyacente sigue siendo importante. Las organizaciones dependen cada vez más de la IA para investigación, programación, comunicaciones y apoyo a la toma de decisiones. Una documentación fiable y una base de conocimientos de IA con capacidad de búsqueda pueden ayudar a los equipos a rastrear resultados, políticas y decisiones humanas cuando los sistemas se comportan de forma inesperada.
La conclusión escéptica es sencilla. Un anuncio en una cumbre establecería intención política, no fiabilidad operativa. La verdadera prueba comienza después de que los funcionarios regresen a sus organismos e intenten convertir un lenguaje amplio en procedimientos.
Tres señales mostrarán si el diálogo es real
La siguiente etapa debe evaluarse por su implementación concreta, no por el tono de una aparición conjunta.
La primera señal es si Trump y Xi autorizan un diálogo permanente y con nombre propio, con contactos gubernamentales designados. Una promesa general de seguir hablando dejaría poco clara la responsabilidad. Un proceso definido demostraría que ambas partes pretenden ir más allá del lenguaje de la cumbre.
La versión más sólida identificaría las agencias participantes, los funcionarios responsables y el calendario de reuniones de seguimiento. También aclararía si los expertos técnicos pueden comunicarse directamente durante una emergencia.
Si los líderes mencionan la seguridad de la IA sin crear un proceso permanente, la tesis central de este artículo se debilita. La reunión habría reconocido el riesgo sin construir un mecanismo para gestionarlo.
La segunda señal es si los funcionarios publican o adoptan de forma privada categorías compartidas de incidentes. Las conversaciones entre Trump y Xi sobre seguridad de la IA no pueden generar notificaciones útiles a menos que ambas partes entiendan qué acontecimientos cumplen los requisitos.
Estas categorías no necesitan revelar umbrales clasificados. Aun así, deberían distinguir un error normal de un modelo de un incidente que implique infraestructura crítica, asistencia biológica peligrosa, actividad cibernética a gran escala o pérdida de control humano.
Una terminología compartida reforzaría la idea de que el diálogo tiene valor práctico. Un desacuerdo persistente sobre definiciones básicas dejaría el canal expuesto a retrasos e interpretaciones políticas.
La tercera señal es si ambos gobiernos realizan un ejercicio técnico en los próximos meses. Un incidente simulado pondría a prueba la rapidez de los informes, la coordinación entre agencias, las comunicaciones seguras y el tratamiento de pruebas incompletas.
Un ejercicio también revelaría lagunas procedimentales. Los funcionarios podrían descubrir que distintas agencias reclaman autoridad, que las empresas no pueden compartir los datos necesarios o que las clasificaciones de seguridad impiden una comunicación útil.
No someter el canal a pruebas no demostraría que está vacío. Haría mucho más difícil saber si el mecanismo puede funcionar durante una emergencia real.
El comportamiento de la industria aportará pruebas complementarias. Los laboratorios de IA ya están proponiendo normas y sistemas de clasificación internacionales. Sus recomendaciones pueden ayudar a los gobiernos a definir incidentes, pero las autoridades públicas deben decidir qué normas sirven al interés general.
Los desarrolladores deberían observar si las nuevas expectativas afectan a las evaluaciones de modelos, el registro de actividad, la preservación de incidentes o la divulgación ante los reguladores. Los compradores empresariales deberían observar si los contratos empiezan a asignar responsabilidades para notificar fallos graves.
La cumbre no resolverá la carrera mundial por la IA. Estados Unidos seguirá promoviendo su ecosistema de modelos, chips, nube e infraestructura. China seguirá invirtiendo en computación nacional, tecnologías abiertas, aplicaciones e iniciativas internacionales de gobernanza.
Tampoco resolverá un canal de notificación las discrepancias sobre controles de exportación o usos militares. Estas disputas están demasiado cerca del núcleo competitivo de la política nacional de IA.
La oportunidad realista es más limitada, pero sigue siendo significativa. Dos rivales pueden acordar que un incidente de IA fuera de control no debería convertirse en un conflicto mayor porque los funcionarios carecían de una vía fiable para comunicarse.
Ese es el criterio que los lectores deberían aplicar a las conversaciones entre Trump y Xi sobre seguridad de la IA. Miren más allá de las declaraciones sobre cooperación e inspeccionen la maquinaria que las sustenta.
¿Quién recibe la primera llamada? ¿Qué la activa? ¿Qué hechos deben compartirse? ¿Con qué rapidez deben responder los gobiernos? ¿Cómo participarán las empresas sin exponer propiedad intelectual no relacionada?
Respuestas claras indicarían que Washington y Pekín están construyendo un instrumento de seguridad real dentro de su competencia. Respuestas vagas sugerirían que la carrera sigue estando mejor organizada que las salvaguardas que la rodean.
Los líderes no necesitan abandonar la competencia por el liderazgo en IA para reducir el peligro compartido. Sí necesitan demostrar que la seguridad puede sobrevivir a la misma rivalidad que la hace necesaria.
