A Guerra de IA do Project Maven Está Acelerando a Seleção de Alvos e Comprimindo o Tempo para Detectar Erros

A guerra de IA do Project Maven pode gerar listas de potenciais alvos em minutos, apesar de um processo de revisão em que um único erro ignorado pode se tornar irreversível. Essa velocidade está levando a inteligência artificial de uma ferramenta de apoio para o centro da tomada de decisões militares.

A mudança vai além dos drones autônomos. As forças armadas agora usam IA para interpretar vigilância, traduzir comunicações interceptadas, relacionar pessoas a locais, priorizar ameaças e recomendar alvos. Cada função pode encurtar o caminho entre dados brutos e uma decisão operacional.

O conflito central já não é entre humanos e armas autônomas. É entre a geração de alvos em velocidade de máquina e o julgamento humano mais lento, que se espera que verifique cada recomendação. O Project Maven, os sistemas de inteligência apoiados por IA de Israel e os drones autônomos na Ucrânia expõem versões dessa mesma pressão.

A Guerra de IA do Project Maven Passa da Análise para as Operações

A IA militar está se tornando parte da cadeia operacional de seleção de alvos, em vez de permanecer uma camada experimental de análise.

O Financial Times informou em 17 de setembro que sistemas autônomos estão sendo rapidamente integrados às operações no campo de batalha. Sua investigação começou com o Saker Scout, um drone ucraniano que se assemelha a muitas outras aeronaves operando acima da linha de frente.

O que distingue os sistemas dessa categoria é sua capacidade crescente de navegar, identificar objetos ou continuar missões com menor intervenção do operador. O nível exato de autonomia varia conforme o sistema e a implantação. No entanto, a direção é consistente: o software agora executa mais tarefas entre observar um campo de batalha e aplicar força.

O Project Maven representa a mesma transição dentro das forças armadas dos Estados Unidos. O Pentágono o lançou em 2017 para aplicar aprendizado de máquina a imagens de drones e satélites. Desde então, o sistema se expandiu para um ambiente mais amplo de dados e seleção de alvos, usado para organizar informações para comandantes.

Aprendizado de máquina significa que o software aprende padrões a partir de dados de treinamento e os aplica a novas entradas. Em imagens militares, isso pode envolver distinguir veículos, estruturas, movimentos ou outros objetos em grandes coleções de dados de sensores.

Isso não significa necessariamente que o software dispare uma arma de forma independente. O Project Maven é geralmente descrito como um sistema de apoio à decisão, no qual se espera que pessoas validem seus resultados e autorizem ações.

Essa distinção importa tanto legal quanto operacionalmente. Um sistema de IA de apoio à decisão recomenda ou prioriza informações, enquanto uma arma autônoma pode selecionar e atacar um alvo após a ativação sem nova intervenção humana.

Ainda assim, essa separação se torna menos tranquilizadora quando recomendações geradas por máquinas chegam mais rápido do que as pessoas conseguem investigá-las. Um humano pode continuar formalmente responsável, mas ter apenas uma janela estreita para questionar as evidências subjacentes.

Autoridades militares atribuem ao Project Maven a redução do tempo necessário para identificar potenciais alvos. A análise sobre IA militar publicada pelo Brennan Center afirma que o sistema pode interpretar rapidamente imagens de drones e satélites.

A atração é direta. Uma força militar pode coletar mais dados de sensores do que seus analistas conseguem revisar manualmente. A IA pode filtrar esse volume, conectar informações entre fontes e destacar ameaças potenciais antes que a inteligência se torne obsoleta.

A velocidade também favorece a coordenação. Um veículo em movimento, sistema de radar ou lançador móvel pode permanecer visível por apenas um curto período. Um processo de seleção de alvos que leva horas pode perder a oportunidade antes que uma decisão chegue ao comandante adequado.

No entanto, uma análise mais rápida não cria automaticamente evidências melhores. Em vez disso, pode transportar a incerteza pelo sistema em maior velocidade.

O evento relatado pelo Financial Times, portanto, não é um simples anúncio de implantação. Trata-se de um limiar operacional. As forças armadas estão adotando IA em toda a cadeia que transforma observação em decisões letais, embora o comportamento dos modelos possa continuar difícil de prever.

A Geração Mais Rápida de Alvos Muda Quem Controla o Ritmo

A vantagem estratégica vem da compressão do tempo de decisão, mas essa mesma compressão submete os revisores humanos a maior pressão.

A seleção tradicional de alvos exige muito trabalho. Analistas comparam fontes de inteligência, avaliam se as informações continuam atuais, identificam a presença de civis, estimam possíveis danos e submetem recomendações por uma estrutura de comando.

A geração de alvos assistida por IA automatiza partes desse trabalho. Um modelo pode pesquisar simultaneamente imagens, textos, comunicações, registros de localização e outros bancos de dados. Em seguida, pode classificar padrões que correspondam a um perfil de alvo.

Um perfil de alvo é uma coleção de atributos usados para identificar um objeto ou pessoa de interesse. Esses atributos podem incluir forma, movimento, localização, padrões de comunicação ou relações com entidades identificadas anteriormente.

O ganho aparente é a escala. Um sistema de IA pode apresentar centenas de candidatos onde uma equipe humana talvez examinasse um conjunto muito menor. Os militares podem então direcionar seus analistas escassos aos resultados mais relevantes.

Isso muda o ritmo do campo de batalha. Forças que usam IA podem potencialmente observar, priorizar e agir antes que um adversário conclua o mesmo ciclo. A guerra de IA do Project Maven se baseia nessa compressão do processo entre sensor e decisão.

A velocidade também pode contribuir para a proteção de civis quando adequadamente projetada. O software pode combinar informações sobre hospitais, escolas, rotas de evacuação e movimentação de civis. Pode alertar operadores quando as condições mudaram desde que um alvo foi indicado pela primeira vez.

O Comitê Internacional da Cruz Vermelha reconhece essa possibilidade. Suas orientações sobre IA militar afirmam que ferramentas de apoio à decisão podem ajudar a sintetizar informações e recomendar métodos destinados a reduzir danos incidentais.

No entanto, a escala cria um problema de segunda ordem. Se o número de alvos gerados cresce mais rápido do que o número de revisores qualificados, o processo de revisão se torna um gargalo.

Os comandantes então enfrentam uma escolha desconfortável. Podem desacelerar o sistema e preservar uma análise detalhada, ou acelerar aprovações e abrir mão de parte da suposta salvaguarda humana.

Evidências do uso por Israel de inteligência apoiada por IA ilustram essa tensão. Uma investigação da Associated Press concluiu que os militares israelenses usaram serviços comerciais de nuvem e IA para processar vigilância, comunicações, traduções e outros dados após 7 de outubro de 2023.

Autoridades israelenses disseram à AP que analistas avaliam de forma independente os alvos apoiados por IA e que várias camadas de pessoas permanecem envolvidas. Também afirmaram que as ferramentas produzem alvos mais rapidamente sem sacrificar a precisão.

Essas alegações são difíceis de avaliar de fora do sistema. Dados militares de seleção de alvos, taxas de erro, configurações de modelos e investigações posteriores à ação raramente estão disponíveis para análise independente.

A investigação ainda documentou o quanto a carga de trabalho mudou. O ex-oficial jurídico militar Tal Mimran afirmou que a revisão de um ataque aéreo antes envolvia até 20 pessoas e podia levar um dia ou mais. Processos apoiados por IA permitiram que centenas de alvos recebessem aprovação a cada semana.

Essa comparação não prova que os ataques resultantes foram ilegais ou imprecisos. Ela mostra que a relação entre a produção das máquinas e a atenção humana mudou substancialmente.

Um revisor diante de um pacote de alvo cuidadosamente montado pode rastrear suas premissas. Um revisor diante de uma fila de recomendações em rápida atualização enfrenta uma pressão cognitiva muito diferente.

Essa pressão alcança líderes militares, fornecedores de software, analistas de inteligência e assessores jurídicos. Cada grupo depende dos demais, mas nenhum participante necessariamente enxerga toda a cadeia.

Desenvolvedores de modelos podem compreender treinamento e avaliação, mas não ter acesso às condições do campo de batalha. Operadores compreendem a missão, mas podem não saber por que um modelo atribuiu uma determinada pontuação. Comandantes veem recomendações, mas podem não ver as limitações de cada fonte de dados.

O resultado é uma responsabilidade distribuída. Todos contribuem para a decisão, enquanto a responsabilização se torna mais difícil de localizar após uma falha.

O Controle Humano Pode Se Tornar Uma Simples Formalidade Processual

Uma pessoa aprovar uma recomendação de IA não garante julgamento humano significativo.

Políticas militares frequentemente descrevem um sistema com humano no circuito. A expressão significa que uma pessoa deve intervir antes que um sistema conclua uma ação consequente, como atacar um alvo.

Essa salvaguarda parece clara no nível de um diagrama. Dados de sensores entram em um modelo, o modelo produz uma recomendação, e um operador treinado a aceita ou rejeita.

As operações reais são menos ordenadas. Recomendações podem chegar durante missões sensíveis ao tempo, interrupções de comunicação, escassez de pessoal ou ataques contra forças aliadas. O operador também pode estar revisando resultados de vários sistemas automatizados.

Esse ambiente incentiva o viés de automação, a tendência de confiar em uma recomendação gerada por máquina mesmo quando as evidências disponíveis deveriam motivar uma investigação adicional. O viés se torna mais forte quando o sistema geralmente parece preciso ou quando rejeitá-lo exige trabalho extra.

O CICV alerta que operadores sob pressão de tempo podem simplesmente carimbar resultados de IA em vez de aplicar julgamento independente. Suas orientações afirmam que a IA militar exige envolvimento humano significativo e a capacidade de contestar recomendações.

A palavra “significativo” carrega a maior parte da responsabilidade. Uma decisão humana não é significativa apenas porque alguém pressiona um botão de aprovação.

O revisor precisa de tempo suficiente, informações contextuais e autoridade para rejeitar o resultado. Também precisa compreender as limitações conhecidas do sistema e a qualidade das evidências por trás daquela recomendação específica.

Considere um modelo que associa uma pessoa a uma organização hostil usando metadados de comunicações. A conexão pode ser precisa, desatualizada, indireta ou resultar de dados de origem incorretos.

O modelo pode pontuar a associação sem compreender por que a pessoa ligou para um número, entrou em um local ou usou uma frase específica. Um humano deve fornecer esse contexto.

A tradução introduz outro ponto de falha. A investigação da AP sobre IA no campo de batalha descreveu um termo árabe que poderia se referir tanto a um componente de arma quanto a um pagamento.

Uma tradução automatizada selecionou a interpretação perigosa. Um revisor humano inicialmente não percebeu o erro, segundo um oficial de inteligência israelense entrevistado pela AP.

O mesmo oficial descreveu uma planilha contendo pelo menos 1.000 estudantes do ensino médio cujos nomes teriam sido associados a perfis como possíveis militantes. O arquivo dizia respeito a exames finais, mas o contexto ao redor foi interpretado incorretamente.

Esses exemplos demonstram por que um erro não pode ser isolado à “IA”. O modelo processa dados fornecidos por pessoas, sensores, bancos de dados e outros softwares. Humanos então interpretam seu resultado por meio de interfaces projetadas por outro grupo.

Uma entrada falha pode percorrer essa cadeia enquanto ganha credibilidade aparente. Quando vários sistemas a repetem ou fazem referência a ela, os revisores podem tratar correlação como confirmação independente.

Os humanos também têm dificuldade para calibrar a confiança quando os modelos mudam. Um sistema pode ter bom desempenho com imagens familiares e falhar quando mudam o clima, o terreno, a camuflagem, a qualidade dos sensores ou as táticas inimigas.

Os adversários criam ativamente essas mudanças. Eles usam iscas, interferência eletrônica, ocultação, sinais manipulados e movimentos enganosos. Os dados do campo de batalha não são apenas ruidosos; os oponentes deliberadamente os tornam enganosos.

Isso diferencia a IA militar de muitas aplicações comerciais. Um mecanismo de recomendação encontra usuários tentando influenciá-lo, mas um modelo de campo de batalha encontra adversários organizados tentando provocar erros letais.

O controle humano, portanto, deve incluir mais do que a autorização final. Ele exige testes em condições relevantes, acesso a evidências contrárias, indicadores claros de incerteza e tempo suficiente para reconsiderar a recomendação.

Também exige permissão institucional para discordar do sistema. Um analista punido por retardar uma operação aprenderá a aprovar resultados questionáveis, independentemente das regras formais.

A guerra de IA do Project Maven coloca esse desenho organizacional sob pressão. O valor do sistema depende da velocidade, enquanto uma verificação significativa consome tempo. Essa é a principal contrapartida, não um detalhe de implementação.

Erros de Alvejamento por IA Ganham Velocidade e Escala

A IA não precisa falhar com frequência para causar danos graves quando um único erro pode se propagar por milhares de recomendações.

Os sistemas de aprendizado de máquina são estatísticos. Eles inferem padrões prováveis a partir de dados, em vez de aplicar um conhecimento perfeito do mundo.

Isso cria várias categorias de falhas. Um modelo pode classificar incorretamente um objeto, basear-se em dados enviesados, não captar uma mudança de contexto, gerar uma tradução imprecisa ou atribuir peso excessivo a uma associação fraca.

Os erros também podem começar fora do modelo. Um banco de dados de localização pode conter um endereço desatualizado. Um sensor pode produzir uma imagem distorcida. Uma fonte humana pode fornecer informações falsas.

A IA consegue combinar essas entradas rapidamente, mas não pode garantir que elas representem a realidade. Uma saída aparentemente confiante pode ocultar uma cadeia frágil de evidências.

A escala torna isso perigoso. Quando uma premissa defeituosa afeta um pacote analisado manualmente, os investigadores às vezes conseguem identificá-la e contê-la. Quando essa premissa está inserida em um pipeline automatizado, ela pode influenciar muitas recomendações antes que alguém perceba.

O CICV afirma que sistemas militares de apoio à decisão podem amplificar erros tanto em velocidade quanto em escala. Também alerta que esses sistemas podem acelerar uma escalada não intencional quando os usuários deixam de exercer julgamento independente.

A escalada importa porque os sistemas de IA militar não operam isoladamente. Uma força altera sua postura em resposta aos movimentos de outra. Recomendações mais rápidas incentivam reações mais rápidas de ambos os lados.

Um alerta falso sobre um ataque iminente pode, portanto, fazer mais do que produzir um único ataque equivocado. Pode desencadear dispersão, retaliação ou uma sequência mais ampla de alertas automatizados.

Autoridades de segurança começaram a descrever isso como um tempo de decisão comprimido. No Fórum Xiangshan de Pequim, em setembro de 2026, participantes alertaram que a IA estava encurtando os cronogramas estratégicos, enquanto a desinformação enfraquecia a capacidade dos governos de estabelecer o que havia acontecido.

Representantes de cerca de 100 países participaram do evento de três dias. O vice-presidente do CICV, Jürg Lauber, argumentou que preservar o julgamento humano se torna mais importante à medida que as armas ganham autonomia.

Os alertas do fórum de segurança mostram que a preocupação não se limita a grupos de defesa de causas. Autoridades militares e diplomatas reconhecem que a velocidade pode prejudicar o controle entre Estados.

O desafio técnico também vai além de erros previsíveis de classificação. Os desenvolvedores nem sempre conseguem explicar por que modelos avançados se comportam de forma diferente após pequenas mudanças nos prompts, nas entradas, nas ferramentas ou nas condições operacionais.

Essa imprevisibilidade não significa que todos os sistemas de IA sejam incontroláveis. Significa que o desempenho medido durante os testes não consegue abranger todos os ambientes, tipos de alvo, táticas adversárias ou interações com outros softwares.

As armas autônomas aprofundam a preocupação. Esses sistemas podem selecionar e aplicar força após a ativação, sem que uma pessoa escolha cada alvo específico.

Alguns sistemas autônomos têm funções restritas e ambientes operacionais definidos. Armas defensivas podem engajar automaticamente mísseis que se aproximam porque o tipo de alvo e a janela de resposta são rigorosamente limitados.

O risco muda quando a autonomia se estende a áreas povoadas ou envolve pessoas. Uma máquina pode identificar movimento, roupas, calor ou o formato de um veículo, mas esses sinais não revelam intenção nem status jurídico.

Um combatente ferido, um combatente que se rende e um civil podem produzir padrões de sensores semelhantes. Seu status depende de um contexto que muda em questão de segundos.

Por esse motivo, a posição do CICV sobre armas autônomas pede a proibição de sistemas imprevisíveis e de armas autônomas projetadas para atingir pessoas. Também apoia restrições a outras armas autônomas.

Instituições militares frequentemente respondem que os humanos continuam responsáveis e que o direito internacional humanitário já se aplica. Ambas as afirmações estão corretas, mas nenhuma resolve o problema operacional.

A responsabilização após um ataque não restaura um alvo identificado por engano. A legislação existente fornece padrões essenciais, mas os comandantes ainda precisam de sistemas técnicos e organizacionais capazes de aplicar esses padrões sob pressão.

A avaliação independente continua especialmente difícil. Fornecedores protegem modelos, dados e projetos de sistemas como informações proprietárias. Militares protegem procedimentos de seleção de alvos por razões de segurança.

Essas restrições podem impedir que adversários explorem um sistema. Também podem dificultar que legisladores, tribunais, investigadores e o público avaliem se as salvaguardas funcionam.

A falta de transparência não deve ser confundida com prova de falha. Ela cria uma lacuna de evidências. Afirmações fortes sobre precisão, segurança ou redução de danos a civis continuam difíceis de verificar sem dados operacionais.

Três Sinais Mostrarão se a Supervisão Consegue Acompanhar

A próxima fase da guerra com IA será definida por salvaguardas mensuráveis, não por promessas mais amplas de que um humano continua envolvido.

O primeiro sinal é se os militares divulgam como testam sistemas de IA para seleção de alvos em condições de campo de batalha. Evidências úteis incluiriam desempenho em terrenos variáveis, sensores degradados, guerra eletrônica, engano adversário e classes de alvos desconhecidas.

A precisão em laboratório não basta. Os avaliadores precisam saber quando o modelo falha, se os operadores conseguem reconhecer essas falhas e com que rapidez uma saída defeituosa pode ser retirada.

A publicação continuará limitada por preocupações de segurança. Ainda assim, os governos podem criar órgãos independentes de revisão, relatórios padronizados de incidentes e acesso protegido para supervisão legislativa.

Se tais mecanismos se expandirem, eles sustentariam a alegação de que a adoção operacional está sendo acompanhada por verificação séria. Se os testes permanecerem quase inteiramente secretos, a lacuna de garantia aumentará.

O segundo sinal é a quantidade de tempo e evidências disponíveis para cada revisão humana. Os militares devem medir se a produção de alvos cresce mais rapidamente do que o número de profissionais qualificados e de verificações independentes.

Uma contagem formal de aprovações revela pouco por si só. A supervisão depende de os revisores examinarem a inteligência original, consultarem fontes conflitantes, compreenderem os limites de confiança e manterem autoridade para adiar uma ação.

As investigações posteriores à ação também devem examinar o viés de automação. Um sistema pode atender aos seus requisitos de engenharia enquanto incentiva erros humanos previsíveis por meio de sua interface ou fluxo de trabalho.

Se o tempo de revisão diminuir enquanto o volume de alvos aumenta, “humano no circuito” descreverá cada vez mais um procedimento, e não um julgamento. Se o quadro de pessoal, o design da interface e as regras de escalonamento se ajustarem à carga de trabalho, o controle humano se tornará mais crível.

O terceiro sinal é a ação internacional sobre armas autônomas e sistemas militares de apoio à decisão. A Sétima Conferência de Revisão da Convenção sobre Certas Armas Convencionais está programada para ocorrer de 16 a 20 de novembro de 2026.

A reunião oferece aos Estados uma oportunidade de buscar restrições mais claras. Questões importantes incluem se as regras distinguem apoio à decisão de engajamento autônomo e se abordam comportamentos imprevisíveis habilitados por IA.

Um acordo sobre limites juridicamente vinculantes reforçaria a visão de que os governos podem preservar o controle antes que a implantação se torne consolidada. Um impasse contínuo deixaria a adoção militar avançar mais rapidamente do que a governança internacional.

Desenvolvedores e compradores corporativos de IA também deveriam observar esses sinais. Os problemas subjacentes são conhecidos além da defesa: modelos opacos, dados de origem pouco confiáveis, viés de automação, trilhas de auditoria fracas e decisões tomadas mais rapidamente do que as pessoas conseguem validá-las.

As consequências diferem drasticamente, mas a lição de governança é transferível. As organizações precisam de acesso ao material-fonte, a evidências contrárias, às limitações dos modelos e a um registro de como recomendações relevantes se tornaram decisões.

Manter uma base de conhecimento pesquisável pode ajudar equipes técnicas a preservar essa trilha de evidências. Isso não pode substituir tomadores de decisão responsáveis nem uma revisão específica do domínio.

A guerra de IA do Project Maven torna impossível evitar a questão maior. Se a IA gera recomendações mais rapidamente do que os humanos conseguem investigá-las, qual parte do processo está realmente no controle?

A resposta deveria ser visível em testes, tempo de revisão, taxas de rejeição, investigações de incidentes e regras aplicáveis. Os leitores devem avaliar o próximo anúncio sobre IA militar com base nessas medidas, e não em mais uma garantia de que uma pessoa permanece em algum lugar do circuito.