La guerra con IA de Project Maven acelera la selección de objetivos y reduce el tiempo para detectar errores
La guerra con IA de Project Maven puede generar listas de objetivos potenciales en cuestión de minutos, pese a un proceso de revisión en el que un solo error pasado por alto puede resultar irreversible. Esa velocidad está desplazando a la inteligencia artificial de una herramienta de apoyo hacia el centro de la toma de decisiones militares.
El cambio va más allá de los drones autónomos. Los ejércitos utilizan ahora IA para interpretar la vigilancia, traducir comunicaciones interceptadas, vincular personas con ubicaciones, priorizar amenazas y recomendar objetivos. Cada función puede acortar el camino desde los datos en bruto hasta una decisión operativa.
El conflicto central ya no es entre humanos y armas autónomas. Es entre la generación de objetivos a velocidad de máquina y el juicio humano, más lento, que se espera que verifique cada recomendación. Project Maven, los sistemas de inteligencia respaldados por IA de Israel y los drones autónomos en Ucrania exponen distintas versiones de esa misma presión.
La guerra con IA de Project Maven pasa del análisis a las operaciones
La IA militar se está convirtiendo en parte de la cadena operativa de selección de objetivos, en lugar de permanecer como una capa experimental de análisis.
El Financial Times informó el 17 de septiembre de que los sistemas autónomos se están integrando rápidamente en las operaciones del campo de batalla. Su investigación comenzaba con el Saker Scout, un dron ucraniano que se parece a muchas otras aeronaves que operan sobre la línea del frente.
Lo que distingue a los sistemas de esta categoría es su creciente capacidad para navegar, identificar objetos o continuar misiones con menor intervención del operador. El nivel preciso de autonomía varía según el sistema y el despliegue. Sin embargo, la dirección es constante: el software realiza ahora más tareas entre observar un campo de batalla y aplicar la fuerza.
Project Maven representa la misma transición dentro de las fuerzas armadas de Estados Unidos. El Pentágono lo lanzó en 2017 para aplicar aprendizaje automático a imágenes de drones y satélites. Desde entonces, el sistema se ha convertido en un entorno más amplio de datos y selección de objetivos utilizado para organizar información para los comandantes.
El aprendizaje automático implica que el software aprende patrones a partir de datos de entrenamiento y los aplica a nuevas entradas. En las imágenes militares, esto puede implicar distinguir vehículos, estructuras, movimientos u otros objetos entre grandes conjuntos de datos de sensores.
Esto no significa necesariamente que el software dispare un arma de forma independiente. Project Maven suele describirse como un sistema de apoyo a la toma de decisiones, en el que se espera que las personas validen sus resultados y autoricen las acciones.
Esta distinción importa tanto desde el punto de vista legal como operativo. Un sistema de apoyo a la toma de decisiones basado en IA recomienda o prioriza información, mientras que un arma autónoma puede seleccionar y atacar un objetivo tras su activación sin más intervención humana.
Sin embargo, la separación resulta menos tranquilizadora cuando las recomendaciones generadas por máquinas llegan más rápido de lo que las personas pueden investigarlas. Una persona puede seguir siendo formalmente responsable mientras dispone solo de una ventana estrecha para cuestionar la evidencia subyacente.
Los funcionarios militares atribuyen a Project Maven la reducción del tiempo necesario para identificar objetivos potenciales. La revisión sobre IA militar publicada por el Brennan Center afirma que el sistema puede interpretar rápidamente imágenes de drones y satélites.
El atractivo es directo. Un ejército puede recopilar más datos de sensores de los que sus analistas pueden revisar manualmente. La IA puede filtrar ese volumen, conectar información entre fuentes y mostrar amenazas potenciales antes de que la inteligencia quede obsoleta.
La velocidad también favorece la coordinación. Un vehículo en movimiento, un sistema de radar o un lanzador móvil pueden permanecer visibles solo durante un periodo breve. Un proceso de selección de objetivos que tarda horas puede perder la oportunidad antes de que una decisión llegue al comandante adecuado.
Sin embargo, un análisis más rápido no crea automáticamente mejores pruebas. En cambio, puede propagar la incertidumbre por el sistema a mayor velocidad.
Por tanto, el hecho informado por el Financial Times no es un anuncio aislado de despliegue. Es un umbral operativo. Los ejércitos están adoptando IA a lo largo de la cadena que convierte la observación en decisiones letales, aunque el comportamiento de los modelos pueda seguir siendo difícil de predecir.
La generación más rápida de objetivos cambia quién controla el ritmo
La ventaja estratégica procede de comprimir el tiempo de decisión, pero esa misma compresión somete a los revisores humanos a una presión mayor.
La selección tradicional de objetivos requiere mucha mano de obra. Los analistas comparan fuentes de inteligencia, evalúan si la información sigue vigente, identifican la presencia de civiles, calculan posibles daños y envían recomendaciones a través de una estructura de mando.
La generación de objetivos asistida por IA automatiza partes de ese trabajo. Un modelo puede buscar simultáneamente en imágenes, texto, comunicaciones, registros de ubicación y otras bases de datos. Después puede clasificar patrones que coinciden con un perfil de objetivo.
Un perfil de objetivo es un conjunto de atributos utilizados para identificar un objeto o persona de interés. Esos atributos pueden incluir forma, movimiento, ubicación, patrones de comunicación o relaciones con entidades identificadas previamente.
La ganancia aparente es la escala. Un sistema de IA puede mostrar cientos de candidatos allí donde un equipo humano habría examinado un conjunto mucho menor. El ejército puede entonces dirigir a sus escasos analistas hacia los resultados más relevantes.
Eso cambia el ritmo del campo de batalla. Las fuerzas que utilizan IA pueden potencialmente observar, priorizar y actuar antes de que un adversario complete el mismo ciclo. La guerra con IA de Project Maven se basa en esta compresión del proceso que va del sensor a la decisión.
La velocidad también puede favorecer la protección de civiles cuando se diseña adecuadamente. El software puede combinar información sobre hospitales, escuelas, rutas de evacuación y movimiento de civiles. Puede advertir a los operadores cuando las condiciones han cambiado desde que un objetivo fue propuesto por primera vez.
El Comité Internacional de la Cruz Roja reconoce esta posibilidad. Su guía sobre IA militar afirma que las herramientas de apoyo a la toma de decisiones pueden ayudar a sintetizar información y recomendar métodos destinados a reducir los daños incidentales.
Sin embargo, la escala crea un problema de segundo orden. Si el número de objetivos generados aumenta más rápido que el número de revisores cualificados, el proceso de revisión se convierte en un cuello de botella.
Los comandantes se enfrentan entonces a una elección incómoda. Pueden ralentizar el sistema y preservar un escrutinio detallado, o acelerar las aprobaciones y ceder parte de la supuesta salvaguarda humana.
Las pruebas sobre el uso por Israel de inteligencia respaldada por IA ilustran esa tensión. Una investigación de Associated Press concluyó que el ejército israelí utilizó servicios comerciales de nube e IA para procesar vigilancia, comunicaciones, traducciones y otros datos después del 7 de octubre de 2023.
Funcionarios israelíes dijeron a AP que los analistas evalúan de forma independiente los objetivos respaldados por IA y que varias capas de personas siguen participando. También afirmaron que las herramientas producen objetivos más rápido sin sacrificar precisión.
Es difícil evaluar esas afirmaciones desde fuera del sistema. Los datos sobre selección militar de objetivos, las tasas de error, las configuraciones de los modelos y las investigaciones posteriores a las operaciones rara vez están disponibles para un examen independiente.
La investigación documentó, aun así, cuánto cambió la carga de trabajo. El exfuncionario jurídico militar Tal Mimran afirmó que una revisión de ataque aéreo involucraba antes hasta 20 personas y podía llevar un día o más. Los procesos respaldados por IA permitieron que cientos de objetivos recibieran aprobación cada semana.
Esta comparación no demuestra que los ataques resultantes fueran ilegales o imprecisos. Sí muestra que la relación entre la producción de las máquinas y la atención humana ha cambiado de forma considerable.
Un revisor que se enfrenta a un expediente de objetivo cuidadosamente elaborado puede rastrear sus supuestos. Un revisor que se enfrenta a una cola de recomendaciones que se actualiza rápidamente afronta una presión cognitiva muy distinta.
Esta presión alcanza a los líderes militares, los proveedores de software, los analistas de inteligencia y los asesores jurídicos. Cada grupo depende de los demás, pero ningún participante necesariamente ve toda la cadena.
Los desarrolladores de modelos pueden comprender el entrenamiento y la evaluación, pero carecer de acceso a las condiciones del campo de batalla. Los operadores comprenden la misión, pero quizá no sepan por qué un modelo asignó una puntuación concreta. Los comandantes ven recomendaciones, pero quizá no las limitaciones de cada fuente de datos.
El resultado es una responsabilidad distribuida. Todos contribuyen a la decisión, mientras que la rendición de cuentas se vuelve más difícil de localizar tras un fallo.
El control humano puede convertirse en una casilla procedimental
Que una persona apruebe una recomendación de IA no garantiza un juicio humano significativo.
Las políticas militares suelen describir un sistema con un humano en el circuito. La expresión significa que una persona debe intervenir antes de que un sistema complete una acción trascendental, como atacar un objetivo.
Esa salvaguarda parece clara en un diagrama. Los datos de sensores entran en un modelo, el modelo produce una recomendación y un operador capacitado la acepta o la rechaza.
Las operaciones reales son menos ordenadas. Las recomendaciones pueden llegar durante misiones sensibles al tiempo, interrupciones de comunicaciones, escasez de personal o ataques contra fuerzas aliadas. El operador también puede estar revisando resultados de varios sistemas automatizados.
Este entorno fomenta el sesgo de automatización, la tendencia a confiar en una recomendación generada por una máquina incluso cuando la evidencia disponible debería impulsar una investigación adicional. El sesgo se intensifica cuando el sistema suele parecer preciso o cuando rechazarlo exige trabajo adicional.
El CICR advierte de que los operadores bajo presión de tiempo pueden validar mecánicamente los resultados de la IA en lugar de aplicar un juicio independiente. Su guía afirma que la IA militar requiere una participación humana significativa y la capacidad de cuestionar las recomendaciones.
La palabra “significativa” soporta la mayor parte de la carga. Una decisión humana no es significativa simplemente porque alguien pulse un botón de aprobación.
El revisor necesita tiempo suficiente, información contextual y autoridad para rechazar el resultado. También debe comprender las limitaciones conocidas del sistema y la calidad de las pruebas que respaldan esa recomendación concreta.
Consideremos un modelo que asocia a una persona con una organización hostil mediante metadatos de comunicaciones. La conexión podría ser correcta, estar desactualizada, ser indirecta o derivar de datos de origen incorrectos.
El modelo puede puntuar la asociación sin comprender por qué la persona llamó a un número, entró en una ubicación o utilizó una frase concreta. Un ser humano debe aportar ese contexto.
La traducción introduce otro punto de fallo. La investigación de AP sobre IA en el campo de batalla describió un término árabe que podía referirse tanto a un componente de arma como a un pago.
Una traducción automatizada seleccionó la interpretación peligrosa. Un revisor humano inicialmente no detectó el error, según un oficial de inteligencia israelí entrevistado por AP.
El mismo oficial describió una hoja de cálculo que contenía al menos 1.000 estudiantes de secundaria cuyos nombres, según se informó, estaban vinculados a perfiles como posibles militantes. El archivo se refería a exámenes finales, pero se interpretó erróneamente el contexto circundante.
Estos ejemplos demuestran por qué un error no puede aislarse en “la IA”. El modelo procesa datos proporcionados por personas, sensores, bases de datos y otro software. Luego, los humanos interpretan su resultado mediante interfaces diseñadas por otro grupo.
Una entrada defectuosa puede avanzar por esa cadena mientras adquiere una credibilidad aparente. Una vez que varios sistemas la repiten o hacen referencia a ella, los revisores pueden tratar la correlación como confirmación independiente.
Los humanos también tienen dificultades para calibrar la confianza cuando los modelos cambian. Un sistema puede funcionar bien con imágenes conocidas y fallar cuando cambian el clima, el terreno, el camuflaje, la calidad de los sensores o las tácticas enemigas.
Los adversarios crean activamente esos cambios. Utilizan señuelos, interferencias electrónicas, ocultamiento, señales manipuladas y movimientos engañosos. Los datos del campo de batalla no son simplemente ruidosos; los oponentes los hacen deliberadamente engañosos.
Esto diferencia a la IA militar de muchas aplicaciones comerciales. Un motor de recomendaciones se enfrenta a usuarios que intentan influir en él, pero un modelo para el campo de batalla se enfrenta a adversarios organizados que intentan provocar errores letales.
Por lo tanto, el control humano debe incluir más que la autorización final. Requiere pruebas en condiciones relevantes, acceso a evidencia contradictoria, indicadores claros de incertidumbre y tiempo suficiente para reconsiderar la recomendación.
También requiere permiso institucional para discrepar del sistema. Un analista que es castigado por ralentizar una operación aprenderá a aprobar resultados cuestionables, independientemente de las normas formales.
La guerra con IA de Project Maven somete este diseño organizativo a presión. El valor del sistema depende de la velocidad, mientras que una verificación significativa consume tiempo. Esa es la disyuntiva central, no un detalle de implementación.
Los errores de selección de objetivos con IA ganan velocidad y escala
La IA no necesita fallar con frecuencia para causar daños graves cuando un solo error puede propagarse a través de miles de recomendaciones.
Los sistemas de aprendizaje automático son estadísticos. Infieren patrones probables a partir de los datos, en lugar de aplicar un conocimiento perfecto del mundo.
Esto crea varias categorías de fallos. Un modelo puede clasificar incorrectamente un objeto, basarse en datos sesgados, pasar por alto un contexto cambiante, generar una traducción inexacta o dar demasiado peso a una asociación débil.
Los errores también pueden comenzar fuera del modelo. Una base de datos de ubicaciones puede contener una dirección desactualizada. Un sensor puede producir una imagen distorsionada. Una fuente humana puede proporcionar información falsa.
La IA puede combinar estos datos rápidamente, pero no puede garantizar que representen la realidad. Un resultado que parece seguro puede ocultar una frágil cadena de evidencia.
La escala vuelve esto peligroso. Cuando una suposición errónea afecta a un paquete revisado manualmente, los investigadores a veces pueden identificarla y contenerla. Cuando esa suposición se encuentra dentro de un proceso automatizado, puede influir en muchas recomendaciones antes de que alguien lo advierta.
El CICR afirma que los sistemas militares de apoyo a la toma de decisiones pueden amplificar los errores tanto en velocidad como en escala. También advierte que estos sistemas pueden acelerar una escalada no intencionada cuando los usuarios no ejercen un juicio independiente.
La escalada importa porque los sistemas militares de IA no operan de forma aislada. Una fuerza cambia su postura en respuesta a los movimientos de otra. Recomendaciones más rápidas fomentan reacciones más rápidas en ambos lados.
Por ello, una alerta falsa sobre un ataque inminente puede hacer más que provocar un ataque erróneo. Puede desencadenar una dispersión, represalias o una secuencia más amplia de alertas automatizadas.
Los responsables de seguridad han empezado a describir esto como un tiempo de decisión comprimido. En el Foro Xiangshan de Pekín de septiembre de 2026, los participantes advirtieron que la IA estaba acortando los plazos estratégicos mientras la desinformación debilitaba la capacidad de los gobiernos para determinar qué había ocurrido.
Representantes de unos 100 países asistieron al evento de tres días. El vicepresidente del CICR, Jürg Lauber, sostuvo que preservar el juicio humano cobra mayor importancia a medida que las armas ganan autonomía.
Las advertencias del foro de seguridad muestran que la preocupación no se limita a los grupos de defensa. Funcionarios militares y diplomáticos reconocen que la velocidad puede socavar el control entre los Estados.
El desafío técnico también va más allá de los errores de clasificación previsibles. Los desarrolladores no siempre pueden explicar por qué los modelos avanzados se comportan de manera diferente tras pequeños cambios en las instrucciones, las entradas, las herramientas o las condiciones operativas.
Esta imprevisibilidad no significa que todos los sistemas de IA sean incontrolables. Significa que el rendimiento medido durante las pruebas no puede abarcar todos los entornos, tipos de objetivos, tácticas adversarias o interacciones con otro software.
Las armas autónomas profundizan la preocupación. Estos sistemas pueden seleccionar y aplicar fuerza tras su activación sin que una persona elija cada objetivo específico.
Algunos sistemas autónomos tienen funciones limitadas y entornos operativos definidos. Las armas defensivas pueden atacar automáticamente misiles entrantes porque el tipo de objetivo y la ventana de respuesta están estrictamente acotados.
El riesgo cambia cuando la autonomía se extiende a zonas pobladas o involucra a personas. Una máquina puede identificar movimiento, vestimenta, calor o la forma de un vehículo, pero esas señales no revelan la intención ni el estatus jurídico.
Un combatiente herido, un combatiente que se rinde y un civil pueden generar patrones de sensores similares. Su estatus depende de un contexto que cambia en cuestión de segundos.
Por esta razón, la posición del CICR sobre las armas autónomas pide prohibir los sistemas imprevisibles y las armas autónomas diseñadas para atacar a personas. También respalda restricciones para otras armas autónomas.
Las instituciones militares suelen responder que los humanos siguen siendo responsables y que el derecho internacional humanitario ya se aplica. Ambas afirmaciones son correctas, pero ninguna resuelve el problema operativo.
La rendición de cuentas después de un ataque no recupera un objetivo identificado erróneamente. La legislación vigente proporciona normas esenciales, pero los comandantes aún necesitan sistemas técnicos y organizativos capaces de aplicar esas normas bajo presión.
La evaluación independiente sigue siendo especialmente difícil. Los proveedores protegen los modelos, los datos y los diseños de sistemas como información propietaria. Los ejércitos protegen los procedimientos de selección de objetivos por motivos de seguridad.
Estas restricciones pueden impedir que los adversarios exploten un sistema. También pueden dificultar que legisladores, tribunales, investigadores y el público evalúen si las salvaguardias funcionan.
La falta de transparencia no debe confundirse con una prueba de fallo. Crea una brecha de evidencia. Las afirmaciones contundentes sobre precisión, seguridad o reducción del daño civil siguen siendo difíciles de verificar sin datos operativos.
Tres señales mostrarán si la supervisión puede mantenerse al día
La próxima fase de la guerra con IA estará definida por salvaguardias medibles, no por promesas más amplias de que un humano sigue involucrado.
La primera señal es si los ejércitos revelan cómo prueban los sistemas de IA para la selección de objetivos en condiciones de campo de batalla. La evidencia útil incluiría el rendimiento en terrenos cambiantes, sensores degradados, guerra electrónica, engaño adversario y clases de objetivos desconocidas.
La precisión en laboratorio no es suficiente. Los evaluadores necesitan saber cuándo falla el modelo, si los operadores pueden reconocer esos fallos y con qué rapidez puede retirarse un resultado defectuoso.
La publicación seguirá limitada por preocupaciones de seguridad. Sin embargo, los gobiernos aún pueden establecer organismos de revisión independientes, informes estandarizados de incidentes y acceso protegido para la supervisión legislativa.
Si estos mecanismos se amplían, respaldarían la afirmación de que la adopción operativa está acompañada de una verificación seria. Si las pruebas siguen siendo casi totalmente secretas, la brecha de garantías se ampliará.
La segunda señal es la cantidad de tiempo y evidencia disponibles para cada revisión humana. Los ejércitos deberían medir si la producción de objetivos crece más rápido que el personal cualificado y las verificaciones independientes.
Un recuento formal de aprobaciones revela poco por sí solo. La supervisión depende de que los revisores examinen la inteligencia original, consulten fuentes contradictorias, comprendan los límites de confianza y mantengan la autoridad para retrasar la acción.
Las investigaciones posteriores a la acción también deberían examinar el sesgo de automatización. Un sistema puede cumplir sus requisitos de ingeniería y, aun así, fomentar errores humanos previsibles mediante su interfaz o flujo de trabajo.
Si el tiempo de revisión se reduce mientras aumenta el volumen de objetivos, “humano en el circuito” describirá cada vez más un procedimiento en lugar de un juicio. Si la dotación de personal, el diseño de la interfaz y las reglas de escalada se ajustan a la carga de trabajo, el control humano gana credibilidad.
La tercera señal es la acción internacional sobre armas autónomas y sistemas militares de apoyo a la toma de decisiones. La Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales está programada del 16 al 20 de noviembre de 2026.
La reunión ofrece a los Estados una oportunidad para buscar restricciones más claras. Entre las cuestiones importantes figuran si las normas distinguen el apoyo a la toma de decisiones del enfrentamiento autónomo y si abordan comportamientos imprevisibles habilitados por IA.
Un acuerdo sobre límites jurídicamente vinculantes reforzaría la opinión de que los gobiernos pueden preservar el control antes de que el despliegue quede consolidado. Un estancamiento continuado dejaría la adopción militar avanzando más rápido que la gobernanza internacional.
Los desarrolladores y compradores empresariales de IA también deberían vigilar estas señales. Los problemas subyacentes son conocidos más allá de la defensa: modelos opacos, datos de origen poco fiables, sesgo de automatización, rastros de auditoría débiles y decisiones tomadas más rápido de lo que las personas pueden validarlas.
Las consecuencias difieren drásticamente, pero la lección de gobernanza se transfiere. Las organizaciones necesitan acceso al material de origen, evidencia contradictoria, limitaciones del modelo y un registro de cómo las recomendaciones importantes se convirtieron en decisiones.
Mantener una base de conocimientos con capacidad de búsqueda puede ayudar a los equipos técnicos a preservar ese rastro de evidencia. No puede sustituir a responsables de decisiones que rindan cuentas ni a una revisión específica del ámbito.
La guerra con IA de Project Maven vuelve imposible evitar la pregunta más amplia. Si la IA genera recomendaciones más rápido de lo que los humanos pueden investigarlas, ¿qué parte del proceso tiene realmente el control?
La respuesta debería ser visible en las pruebas, el tiempo de revisión, las tasas de rechazo, las investigaciones de incidentes y las normas exigibles. Los lectores deberían juzgar el próximo anuncio de IA militar según esas medidas, no según otra garantía de que una persona sigue en algún lugar del circuito.
