Estados Unidos y Rusia debilitaron un pacto sobre armas de IA al eliminar la revisión humana de objetivos
Según informes, Estados Unidos y Rusia debilitaron un pacto de las Naciones Unidas sobre armas de IA durante las negociaciones de septiembre, eliminando varias salvaguardas pese a la creciente preocupación por la guerra automatizada.
El texto eliminado exigía que humanos revisaran los objetivos militares generados por IA antes de un ataque, según tres personas citadas por las revisiones informadas. Los negociadores también eliminaron requisitos para que la IA militar operara de forma predecible y fiable. Asimismo, se retiró una cláusula que pedía consideraciones éticas.
El Departamento de Estado, el Ministerio de Asuntos Exteriores de Rusia y las Naciones Unidas no respondieron a las solicitudes de comentarios de la publicación. Ese silencio deja sin confirmar detalles importantes fuera de las negociaciones confidenciales.
Sin embargo, los cambios informados exponen una división clara. Muchos gobiernos y grupos humanitarios quieren restricciones exigibles que preserven el control humano. Estados Unidos y Rusia favorecen una mayor discreción nacional sobre cómo se diseña y despliega la IA militar.
Este pacto entre Estados Unidos y Rusia sobre armas de IA no es un tratado, y su redacción actual no crea legislación vinculante. Sin embargo, representa el punto más avanzado que han alcanzado años de negociaciones de las Naciones Unidas hacia normas compartidas.
Por tanto, el conflicto es mayor que un solo borrador disputado. Es una pugna entre requisitos vinculantes de control humano y principios voluntarios moldeados por potencias militares que buscan flexibilidad operativa.
Qué cambió en el pacto entre Estados Unidos y Rusia sobre armas de IA
El borrador perdió salvaguardas centradas en el momento en que la recomendación de un algoritmo se convierte en una decisión de atacar.
Las negociaciones tuvieron lugar en Ginebra a principios de septiembre, según el relato de The Washington Post. Las sesiones trataron sobre sistemas de armas autónomas letales, es decir, armas que pueden seleccionar o atacar objetivos con distintos grados de participación humana.
Tres personas familiarizadas con las conversaciones dijeron que las delegaciones estadounidense y rusa impulsaron cambios durante una sesión a puerta cerrada. Según informes, se apagaron las cámaras de las Naciones Unidas y se retiró de la sala a los observadores de la sociedad civil.
Cada una de las dos delegaciones llevó cerca de diez abogados, casi el doble de la presencia diplomática de otros participantes, señaló el informe. Sus ediciones propuestas llegaron con tal rapidez que las delegaciones más pequeñas tuvieron dificultades para seguir el texto cambiante.
La eliminación más trascendental se refería a la revisión de objetivos. Una disposición anterior exigía que una persona examinara los objetivos militares producidos por IA antes de que pudiera proceder un ataque.
Ese requisito abarcaba tanto los sistemas de apoyo a la decisión basados en IA como las armas más autónomas. Un sistema de apoyo a la decisión podría analizar vigilancia, clasificar objetivos sospechosos, estimar riesgos o recomendar un ataque sin lanzar físicamente un arma.
Eliminar la cláusula de revisión no autoriza automáticamente a las máquinas a matar sin supervisión. El derecho internacional humanitario existente sigue obligando a los Estados y al personal militar, independientemente de la tecnología utilizada.
Sin embargo, la eliminación retira una salvaguarda procedimental propuesta. Ya no establece que una persona deba inspeccionar de forma independiente un objetivo generado por IA antes de emplear la fuerza.
Según informes, las delegaciones eliminaron el lenguaje que exigía un funcionamiento predecible y fiable. Estos términos importan porque los sistemas de aprendizaje automático pueden comportarse de forma diferente cuando las condiciones del campo de batalla se apartan de los entornos de entrenamiento y pruebas.
También eliminaron una cláusula que instruía a los ejércitos a considerar la ética al utilizar armas habilitadas por IA. El lenguaje ético puede ser difícil de hacer cumplir, pero su eliminación reduce las expectativas expresadas en el borrador.
Estos cambios importan en conjunto. La revisión humana, la fiabilidad y la evaluación ética abordan diferentes etapas de la misma cadena, desde el diseño del sistema hasta la selección de objetivos y la autorización del ataque.
El borrador sigue formando parte de un proceso basado en el consenso. Decenas de Estados participantes deben estar de acuerdo antes de que puedan avanzar normas más estrictas, lo que otorga a los principales opositores una considerable capacidad de bloqueo.
Se espera que los gobiernos regresen a Ginebra en noviembre. Considerarán si el proceso debe recibir un mandato formal y si las negociaciones pueden avanzar hacia normas jurídicamente vinculantes.
Esa reunión pondrá a prueba si las disposiciones eliminadas permanecen fuera, regresan en una forma revisada o se convierten en temas para un acuerdo separado. También mostrará cuánto tiempo pueden sostener la resistencia los Estados más pequeños.
La regla ausente de revisión humana es la más importante
Un paso de aprobación humana tiene poco valor si quien revisa no dispone de suficiente información, autoridad y tiempo para rechazar la recomendación de la máquina.
El requisito eliminado iba más allá de colocar a una persona en algún punto de la cadena de mando. Abordaba si los humanos debían revisar objetivos específicos generados por un sistema de IA antes de liberar armas.
Esa distinción es central para la gobernanza de la IA militar. El control humano puede describir cualquier cosa, desde diseñar parámetros generales de misión hasta inspeccionar cada objetivo recomendado inmediatamente antes de un ataque.
Esas disposiciones producen salvaguardas muy diferentes. Un comandante que aprueba una zona general de operaciones no necesariamente evalúa a cada persona, vehículo o edificio identificado por un algoritmo.
La selección de objetivos también implica juicios jurídicos y contextuales que los sistemas de reconocimiento de patrones no pueden resolver únicamente mediante estadísticas. Los operadores deben distinguir los objetivos militares de los civiles y evaluar el daño colateral previsto.
La IA puede combinar rápidamente datos de sensores, comunicaciones, imágenes, historiales de ubicación y otras fuentes. Luego puede puntuar objetos o personas según correlaciones aprendidas de ejemplos anteriores.
Esa velocidad ofrece una ventaja militar. También puede generar sesgo de automatización, que ocurre cuando las personas aceptan una recomendación computarizada sin aplicar un juicio independiente significativo.
Una persona revisora que se enfrenta a cientos de objetivos propuestos en cuestión de minutos podría aprobar los resultados de forma mecánica. El humano sigue participando formalmente, pero el proceso operativo ya ha desplazado la decisión hacia la máquina.
Un informe sobre IA militar de Human Rights Watch de junio de 2026 identificó este riesgo. Advirtió que la velocidad y la escala pueden dificultar o imposibilitar las precauciones exigidas.
La organización sostuvo que los resultados probabilísticos no pueden sustituir los juicios cualitativos exigidos por el derecho internacional humanitario. También recomendó una moratoria sobre el uso de IA como base para las decisiones de selección de objetivos.
Esa postura va más allá del borrador de las Naciones Unidas informado. Aun así, ilustra por qué el lenguaje eliminado sobre la revisión tenía más peso que una promesa general de uso responsable.
Una salvaguarda útil definiría qué reciben quienes revisan, incluidas las pruebas del sistema, la incertidumbre, las limitaciones de datos y las razones para recomendar un objetivo. También preservaría tiempo para la deliberación.
Quienes revisan necesitarían autoridad para retrasar o cancelar un ataque sin enfrentarse a presión para igualar la velocidad de la máquina. Necesitarían formación tanto en derecho militar como en modos de fallo del sistema.
La decisión final también necesitaría un registro. Sin registros que muestren la recomendación, los datos de respaldo, la respuesta humana y la autorización de mando, la rendición de cuentas se vuelve difícil después de que se produzcan daños a civiles.
Ninguno de esos detalles de apoyo está garantizado por la expresión “humano en el circuito”. Un botón de aprobación nominal puede ocultar un proceso automatizado en lugar de limitarlo.
Por tanto, la disposición eliminada era necesaria, pero no suficiente. Restablecerla fijaría una expectativa mínima, mientras que las normas detalladas determinarían si la revisión es significativa.
La velocidad militar choca con el juicio humano
El incentivo operativo detrás de normas más débiles es la velocidad, mientras que la preocupación jurídica y humanitaria es si la velocidad desplaza al juicio.
Las organizaciones militares utilizan cada vez más la IA para análisis de inteligencia, logística, vigilancia, operaciones cibernéticas y planificación del campo de batalla. Estas aplicaciones no conllevan todas el mismo riesgo.
Automatizar los calendarios de mantenimiento difiere fundamentalmente de clasificar personas como posibles objetivos. Lo primero puede mejorar la eficiencia, mientras que lo segundo puede influir en decisiones irreversibles de vida o muerte.
Funcionarios estadounidenses han enfatizado abiertamente una selección de objetivos más rápida. Un funcionario del Pentágono dijo a Associated Press que la IA podría ayudar a las tropas a identificar objetivos con mayor rapidez y acelerar los ataques posteriores.
Otros líderes militares han subrayado la cautela. El almirante Frank Bradley, quien dirige el Mando de Operaciones Especiales de Estados Unidos, dijo que los humanos deben confiar en que la IA dirige la violencia solo hacia donde se pretende.
Funcionarios de mando también han descrito la IA como una herramienta para reducir el trabajo administrativo rutinario. Un responsable de adquisiciones dijo que el objetivo era mejorar el juicio de los operadores, no sustituirlo.
Estas posturas revelan una tensión interna, no una simple elección entre adopción y rechazo. Los líderes militares quieren velocidad computacional al tiempo que conservan confianza, control y responsabilidad jurídica.
La tensión se agudiza durante operaciones de gran volumen. The Washington Post informó que el ejército estadounidense utilizó un chatbot de Anthropic para ayudar a identificar casi 1.000 objetivos durante las primeras 24 horas de una guerra.
Ese informe no establece que el chatbot seleccionara objetivos de forma independiente ni autorizara ataques. Sí muestra por qué los procedimientos de revisión deben tener en cuenta la escala, además de la autoridad formal.
Una persona no puede evaluar de forma significativa una avalancha de recomendaciones cuando los plazos operativos permiten apenas segundos para cada decisión. Una producción más rápida puede reducir la deliberación incluso cuando la aprobación sigue siendo humana.
Los intercambios de Ginebra de las Naciones Unidas de junio reunieron a más de 100 Estados, organizaciones internacionales y grupos de la sociedad civil.
Austria, Brasil, Chile, México, Sierra Leona, Costa Rica y Cuba estuvieron entre los gobiernos que enfatizaron el juicio humano y la rendición de cuentas durante esas discusiones.
Rusia se opuso a nuevas restricciones y describió algunas propuestas como iniciativas lideradas por Occidente. Sostuvo que la IA militar debería permanecer dentro del proceso gubernamental de expertos existente para las armas convencionales.
Estados Unidos e Israel asistieron, pero no presentaron declaraciones formales ante el pleno, según el relato de la reunión. Su presencia no aclaró cuáles eran sus salvaguardas mínimas preferidas.
El argumento práctico a favor de la flexibilidad nacional es sencillo. Los comandantes no quieren que una formulación internacional amplia prohíba la automatización defensiva o ralentice operaciones legales.
El argumento opuesto es igualmente concreto. Si cada Estado define por sí mismo un juicio humano “adecuado”, la expresión ofrece poca protección frente a una revisión mínima o meramente ceremonial.
Por eso también se cuestionaron la previsibilidad y la fiabilidad. Esos requisitos pueden limitar el despliegue cuando los sistemas no han sido validados en condiciones realistas de campo de batalla.
Los campos de batalla incluyen sensores dañados, señales engañosas, inteligencia incompleta, entornos desconocidos y adversarios que intentan manipular algoritmos. El rendimiento medido en pruebas controladas puede no resistir esas condiciones.
Eliminar un lenguaje explícito sobre fiabilidad otorga a los gobiernos mayor discreción sobre el rendimiento aceptable. También dificulta establecer un umbral compartido antes de que los sistemas influyan en decisiones letales.
Las normas voluntarias compiten con límites vinculantes
La disputa diplomática central gira en torno a si los ejércitos poderosos deben prometer moderación o aceptar normas que otros Estados puedan invocar contra ellos.
Estados Unidos promovió anteriormente principios voluntarios para una IA militar responsable. Su declaración política de 2023 pedía usos bien definidos, cadenas de mando responsables, pruebas y un juicio humano adecuado.
Más de 50 Estados han respaldado ese marco. Estableció un lenguaje común, pero no creó un tratado, un sistema de aplicación ni un proceso de inspección independiente.
Las declaraciones voluntarias aún pueden influir en las adquisiciones, la formación y la doctrina militar. Pueden ayudar a los gobiernos a converger en expectativas antes de que exista apoyo político para una ley vinculante.
Su debilidad se hace visible cuando cambian los incentivos estratégicos. Un Estado puede reinterpretar un lenguaje flexible, revisar su política interna o retirar salvaguardias prácticas sin infringir una obligación legal.
Las modificaciones informadas en Ginebra reflejan esa división. Estados Unidos y Rusia son competidores geopolíticos, pero ambos operan ejércitos avanzados y valoran la libertad en el desarrollo de armas.
Ninguno de los dos países apoya un tratado internacional vinculante que restrinja las armas autónomas bajo el enfoque defendido por los activistas. Su interés compartido reside en impedir que otros Estados establezcan normas restrictivas.
Esta convergencia no significa que sus doctrinas militares sean idénticas. Significa que ambos gobiernos se benefician de preservar la discreción nacional mientras evolucionan la tecnología y sus aplicaciones en el campo de batalla.
Las normas de consenso amplifican su influencia. Nicole van Rooijen, de Stop Killer Robots, sostuvo que Washington y Moscú pueden bloquear avances respaldados por una amplia mayoría de Estados.
Los países más pequeños pueden apoyar salvaguardias estrictas, pero carecen de equipos jurídicos y capacidad de presión diplomática equivalentes. Las sesiones de redacción cerradas pueden profundizar ese desequilibrio cuando los cambios llegan con rapidez.
Los defensores de un tratado señalan las armas químicas, las armas biológicas, las minas antipersonal y las municiones de racimo como precedentes. Esos regímenes difieren en membresía y aplicación, pero cada uno ayudó a estigmatizar determinadas conductas.
Richard Lennane, asesor de desarme del Comité Internacional de la Cruz Roja, ha sostenido que los tratados importan porque moldean las normas y el comportamiento, no solo por medio del castigo.
Las Naciones Unidas y la Cruz Roja renovaron su llamamiento conjunto en agosto. Buscaron prohibiciones sobre algunas armas autónomas y restricciones sobre otras.
Su propuesta prohibiría sistemas cuyos efectos no puedan comprenderse, predecirse o explicarse de manera suficiente. También prohibiría los sistemas diseñados o utilizados para atacar directamente a seres humanos.
Otros sistemas autónomos seguirían permitidos bajo restricciones relacionadas con los tipos de objetivos, la duración, el alcance geográfico y la supervisión humana. Esa estructura evita tratar todas las funciones automatizadas como igualmente peligrosas.
El pacto sobre armas de IA entre Estados Unidos y Rusia se sitúa entre estos enfoques. Puede seguir siendo una declaración política voluntaria, convertirse en una base para negociaciones de tratado o estancarse por consenso.
Ese estatus jurídico incierto explica por qué la redacción importa ahora. Los primeros compromisos suelen convertirse en puntos de referencia para acuerdos posteriores, políticas nacionales, contratos de adquisición y manuales militares.
Si la revisión humana de objetivos desaparece de la base compartida, los defensores tendrán que luchar para restaurarla en cada etapa posterior. La omisión puede convertirse gradualmente en el punto de partida diplomático aceptado.
El borrador aún deja preguntas críticas sin responder
El informe identifica salvaguardias eliminadas, pero no revela el borrador completo, la propuesta de cada delegación ni el significado jurídico final del lenguaje en disputa.
The Washington Post basó su relato en tres personas familiarizadas con las negociaciones confidenciales. Los gobiernos mencionados y las Naciones Unidas no proporcionaron respuestas para su inclusión.
Por lo tanto, los lectores deberían distinguir los detalles informados de los registros diplomáticos confirmados públicamente. Las eliminaciones constituyen información creíble, pero el historial completo de las negociaciones aún no está disponible.
Sigue sin estar claro si Estados Unidos y Rusia propusieron cambios idénticos o se apoyaron mutuamente de forma selectiva. No se publicaron sus razones para objetar cada cláusula.
El público tampoco dispone de un texto comparativo que muestre cada revisión. Esa comparación revelaría si las salvaguardias se eliminaron por completo, se trasladaron a otro lugar o se sustituyeron por un lenguaje más amplio.
La expresión “revisión humana” también necesita una definición. Un requisito puede aplicarse a cada objetivo, a determinadas clases de objetivos o solo a situaciones en las que un sistema de IA proporciona información decisiva.
Del mismo modo, un “objetivo generado por IA” puede referirse a la identificación original de una máquina, a una recomendación priorizada o a un paquete de objetivos elaborado a partir de múltiples aportes humanos y automatizados.
Estas distinciones afectan las consecuencias operativas. Una definición estrecha podría permitir que los gobiernos clasifiquen muchas decisiones asistidas por algoritmos como generadas por humanos, eludiendo la salvaguardia.
El informe tampoco establece que alguno de los dos países permita actualmente que las armas ataquen a personas sin autorización humana. Negociar contra una cláusula no prueba una política concreta de despliegue.
Esa incertidumbre no debería minimizar la preocupación. La resistencia diplomática sigue señalando qué restricciones los gobiernos no están dispuestos a aceptar internacionalmente.
La política interna añade otra capa sin resolver. El Pentágono ha estado revisando la Directiva 3000.09, su política que regula la autonomía en los sistemas de armas.
Según informes, un memorando de seguridad nacional de junio ordenó una actualización en un plazo de 90 días. No había aparecido una versión pública revisada a finales de septiembre.
La directiva de 2023 exigía un juicio humano adecuado sobre el uso de la fuerza. También incluía requisitos de revisión para algunos sistemas de armas autónomos y semiautónomos.
La relación entre la revisión interna pendiente y la posición negociadora en Ginebra sigue siendo desconocida. Eliminaciones similares sugerirían un giro coordinado hacia una mayor discreción operativa.
Un lenguaje diferente demostraría que Washington acepta salvaguardias internamente mientras se resiste a compromisos internacionales. Esa postura podría proteger la flexibilidad militar, pero debilitaría la defensa estadounidense de esas medidas en el exterior.
La política de Rusia es más difícil de evaluar porque la transparencia pública en torno al desarrollo, las pruebas y el despliegue sigue siendo limitada. Las afirmaciones sobre el campo de batalla a menudo no pueden verificarse de forma independiente.
Los grupos humanitarios también afrontan una brecha de evidencia. Las Naciones Unidas y la Cruz Roja han dicho que las armas autónomas avanzan rápidamente, mientras evitan afirmaciones definitivas sobre usos concretos en el campo de batalla.
El apoyo a la toma de decisiones habilitado por IA es más fácil de documentar que las operaciones letales plenamente autónomas. Sin embargo, las herramientas de apoyo a la decisión aún pueden determinar quién es atacado, especialmente bajo plazos comprimidos.
La conclusión responsable es más acotada que la interpretación más alarmante. Según se informa, el borrador perdió barreras importantes, mientras que el impacto operativo exacto depende de las definiciones y la implementación.
Tres señales que vigilar antes de las conversaciones de noviembre
Las negociaciones de noviembre, la directiva revisada del Pentágono y las exigencias de que se publique el borrador determinarán si este episodio se convierte en un giro duradero de la política.
La primera señal es si los gobiernos restauran un requisito explícito de revisión de objetivos antes o durante la reunión de Ginebra. Su redacción debería exigir una evaluación humana informada antes de cualquier ataque.
Una cláusula restaurada reforzaría la idea de que las eliminaciones de septiembre fueron maniobras provisionales de negociación. La exclusión continuada confirmaría una base internacional más débil.
Los detalles importarán más que la etiqueta. Una revisión significativa exige tiempo suficiente, pruebas pertinentes, información sobre la incertidumbre y autoridad para rechazar una recomendación de IA.
La segunda señal es la directiva revisada del Pentágono sobre armas autónomas. Debería mostrar si Estados Unidos conserva compromisos internos similares a los eliminados internacionalmente.
Hay que observar el lenguaje relativo al juicio humano, las pruebas, la fiabilidad, las revisiones jurídicas, la autorización de altos cargos y los fallos en condiciones adversariales. Las definiciones y las exenciones serán especialmente importantes.
Si la directiva preserva controles internos sólidos, Washington afrontará preguntas sobre por qué rechazó un lenguaje internacional similar. Si los debilita, el cambio de política será más amplio.
La tercera señal es la transparencia en torno al texto de negociación. Los Estados, periodistas y grupos de la sociedad civil necesitan una comparación pública de los borradores en disputa y las enmiendas propuestas.
La transparencia permitiría a expertos independientes poner a prueba las afirmaciones de todas las partes. También mostraría si las delegaciones más pequeñas recibieron tiempo y recursos suficientes para evaluar revisiones rápidas.
El proceso internacional seguirá siendo frágil incluso si mejoran las tres señales. Las negociaciones por consenso permiten que unos pocos Estados influyentes retrasen mandatos o restrinjan las normas propuestas.
Aun así, restaurar la revisión humana establecería un umbral claro. Diría que la selección de objetivos generada por máquinas no puede pasar directamente a un ataque sin un juicio humano responsable.
Para los desarrolladores, este debate va más allá del hardware bélico. Los sistemas militares de IA dependen de modelos comerciales, plataformas en la nube, canalizaciones de datos, herramientas de evaluación y contratistas de software.
Puede pedirse a los ingenieros que documenten la incertidumbre, conserven registros de auditoría, limiten la autonomía del sistema o diseñen interfaces que resistan la aceptación automática. La redacción de las políticas puede convertirse en un requisito de producto.
Los compradores empresariales deberían vigilar las mismas cuestiones de responsabilidad. La IA de alto riesgo exige registros que muestren qué recomendó el sistema, qué evidencia utilizó y quién aprobó el resultado.
Los trabajadores del conocimiento que siguen un proceso político en rápida evolución pueden mantener una base de conocimiento personal que contenga el lenguaje de los borradores, declaraciones oficiales y revisiones fechadas. Esta práctica facilita la detección de cambios discretos.
El pacto sobre armas de IA entre Estados Unidos y Rusia solo tendrá sentido si sus salvaguardias sobreviven al contacto con los incentivos militares. Noviembre mostrará si la revisión humana sigue siendo negociable o se convierte en una regla mínima.
La pregunta inmediata es sencilla: ¿publicarán los gobiernos el texto y exigirán que una persona examine los objetivos generados por IA antes de emplear la fuerza?
