EUA e Rússia Enfraqueceram um Pacto sobre Armas de IA ao Remover Revisão Humana de Alvos

Estados Unidos e Rússia teriam enfraquecido um pacto das Nações Unidas sobre armas de IA durante negociações em setembro, removendo várias salvaguardas apesar da crescente preocupação com a guerra automatizada.

O texto excluído exigia que humanos revisassem alvos militares gerados por IA antes de um ataque, segundo três pessoas citadas por revisões relatadas. Os negociadores também removeram exigências de que a IA militar operasse de forma previsível e confiável. Uma cláusula que pedia considerações éticas também foi retirada.

O Departamento de Estado, o Ministério das Relações Exteriores da Rússia e as Nações Unidas não responderam aos pedidos de comentário da publicação. Esse silêncio deixa detalhes importantes sem confirmação fora das negociações confidenciais.

Ainda assim, as mudanças relatadas expõem uma divisão clara. Muitos governos e grupos humanitários querem restrições aplicáveis que preservem o controle humano. Estados Unidos e Rússia favorecem maior discricionariedade nacional sobre como a IA militar é projetada e implantada.

Esse pacto entre EUA e Rússia sobre armas de IA não é um tratado, e seu texto atual não cria legislação vinculante. Ainda assim, ele representa o ponto mais avançado que anos de negociações das Nações Unidas alcançaram em direção a regras compartilhadas.

O conflito, portanto, é maior do que um único rascunho contestado. Trata-se de uma disputa entre exigências vinculantes de controle humano e princípios voluntários moldados por potências militares que buscam flexibilidade operacional.

O Que Mudou no Pacto entre EUA e Rússia sobre Armas de IA

O rascunho perdeu salvaguardas voltadas ao momento em que a recomendação de um algoritmo se torna uma decisão de atacar.

As negociações ocorreram em Genebra no início de setembro, segundo o relato do Washington Post. As sessões trataram de sistemas de armas autônomas letais, isto é, armas capazes de selecionar ou engajar alvos com diferentes graus de envolvimento humano.

Três pessoas familiarizadas com as conversas disseram que as delegações americana e russa pressionaram por mudanças durante uma sessão a portas fechadas. As câmeras das Nações Unidas teriam sido desligadas, enquanto observadores da sociedade civil foram retirados da sala.

Cada uma das duas delegações levou cerca de dez advogados, quase o dobro da presença diplomática de outros participantes, afirmou a reportagem. As alterações propostas chegaram com rapidez suficiente para que delegações menores tivessem dificuldade em acompanhar as mudanças no texto.

A exclusão mais consequente dizia respeito à revisão de alvos. Uma disposição anterior exigia que um humano examinasse alvos militares produzidos por IA antes que um ataque pudesse prosseguir.

Essa exigência abrangia sistemas de apoio à decisão por IA, bem como armas mais autônomas. Um sistema de apoio à decisão poderia analisar vigilância, classificar alvos suspeitos, estimar riscos ou recomendar um ataque sem lançar fisicamente uma arma.

Remover a cláusula de revisão não autoriza automaticamente máquinas a matar sem supervisão. O direito internacional humanitário existente continua vinculando Estados e militares, independentemente da tecnologia utilizada.

No entanto, a exclusão remove uma salvaguarda processual proposta. Ela já não estabelece que uma pessoa deva inspecionar independentemente um alvo gerado por IA antes do uso da força.

As delegações também teriam removido linguagem que exigia operação previsível e confiável. Esses termos importam porque sistemas de aprendizado de máquina podem se comportar de forma diferente quando as condições do campo de batalha divergem dos ambientes de treinamento e teste.

Também foi removida uma cláusula que orientava militares a considerar a ética ao usar armas habilitadas por IA. A linguagem ética pode ser difícil de aplicar, mas sua exclusão restringe as expectativas declaradas no rascunho.

Essas mudanças importam em conjunto. Revisão humana, confiabilidade e avaliação ética abordam diferentes etapas da mesma cadeia, desde o projeto do sistema até a seleção de alvos e a autorização de ataque.

O rascunho continua fazendo parte de um processo baseado em consenso. Dezenas de Estados participantes precisam concordar antes que regras mais rígidas possam avançar, concedendo aos principais opositores considerável poder de bloqueio.

Espera-se que os governos retornem a Genebra em novembro. Eles considerarão se o processo deve receber um mandato formal e se as negociações podem avançar rumo a regras juridicamente vinculantes.

Essa reunião testará se as disposições excluídas permanecerão fora do texto, retornarão de forma revisada ou se tornarão temas de um acordo separado. Ela também mostrará quanta resistência os Estados menores conseguem sustentar.

A Regra Ausente de Revisão Humana É a Mais Importante

Uma etapa de aprovação humana tem pouco valor a menos que o revisor tenha informações, autoridade e tempo suficientes para rejeitar a recomendação da máquina.

A exigência excluída ia além de colocar uma pessoa em algum ponto da cadeia de comando. Ela tratava de saber se humanos precisam revisar alvos específicos gerados por um sistema de IA antes que armas sejam disparadas.

Essa distinção é central para a governança da IA militar. Controle humano pode descrever desde a definição de parâmetros amplos de missão até a inspeção de cada alvo recomendado imediatamente antes de um ataque.

Essas configurações produzem salvaguardas muito diferentes. Um comandante que aprova uma área geral de operação não necessariamente avalia cada pessoa, veículo ou edifício identificado por um algoritmo.

A seleção de alvos também envolve julgamentos jurídicos e contextuais que sistemas de reconhecimento de padrões não conseguem resolver apenas com estatísticas. Operadores devem distinguir objetivos militares de civis e avaliar os danos colaterais esperados.

A IA pode combinar fluxos de sensores, comunicações, imagens, históricos de localização e outros dados em alta velocidade. Em seguida, pode pontuar objetos ou pessoas de acordo com correlações aprendidas a partir de exemplos anteriores.

Essa velocidade oferece uma vantagem militar. Ela também pode criar viés de automação, que ocorre quando pessoas aceitam uma recomendação computadorizada sem aplicar um julgamento independente significativo.

Um revisor diante de centenas de alvos propostos em poucos minutos pode aprovar resultados mecanicamente. O humano continua formalmente envolvido, mas o processo operacional já deslocou a decisão em direção à máquina.

Um briefing sobre IA militar de junho de 2026, da Human Rights Watch, identificou esse risco. Ele alertou que a velocidade e a escala podem tornar as precauções exigidas difíceis ou impossíveis.

A organização argumentou que resultados probabilísticos não podem substituir os julgamentos qualitativos exigidos pelo direito internacional humanitário. Também recomendou uma moratória sobre o uso de IA como base para decisões de seleção de alvos.

Essa posição vai além do rascunho das Nações Unidas relatado. Ainda assim, ela ilustra por que a linguagem excluída sobre revisão tinha mais peso do que uma promessa geral de uso responsável.

Uma salvaguarda útil definiria o que os revisores recebem, incluindo as evidências do sistema, a incerteza, as limitações dos dados e as razões para recomendar um alvo. Também preservaria tempo para deliberação.

Os revisores precisariam de autoridade para adiar ou cancelar um ataque sem enfrentar pressão para acompanhar a velocidade da máquina. Eles precisariam de treinamento tanto em direito militar quanto em modos de falha dos sistemas.

A decisão final também precisaria de um registro. Sem logs que mostrem a recomendação, os dados de apoio, a resposta humana e a autorização de comando, a responsabilização se torna difícil após a ocorrência de danos a civis.

Nenhum desses detalhes de apoio é garantido pela expressão “humano no circuito”. Um botão de aprovação meramente nominal pode disfarçar um processo automatizado em vez de restringi-lo.

A disposição excluída era, portanto, necessária, mas não suficiente. Restaurá-la estabeleceria uma expectativa mínima, enquanto normas detalhadas determinariam se a revisão é significativa.

A Velocidade Militar Está Entrando em Choque Com o Julgamento Humano

O incentivo operacional por trás de regras mais fracas é a velocidade, enquanto a preocupação jurídica e humanitária é saber se a velocidade substitui o julgamento.

Organizações militares usam cada vez mais IA para análise de inteligência, logística, vigilância, operações cibernéticas e planejamento de campo de batalha. Essas aplicações não carregam todas o mesmo risco.

Automatizar cronogramas de manutenção é fundamentalmente diferente de classificar pessoas como alvos potenciais. A primeira medida pode melhorar a eficiência, enquanto a segunda pode influenciar decisões irreversíveis de vida ou morte.

Autoridades americanas enfatizaram abertamente uma seleção de alvos mais rápida. Uma autoridade do Pentágono disse à Associated Press que a IA poderia ajudar tropas a identificar alvos mais rapidamente e acelerar ataques subsequentes.

Outros líderes militares enfatizaram a cautela. O almirante Frank Bradley, que lidera o Comando de Operações Especiais dos EUA, disse que humanos precisam confiar que a IA direciona a violência apenas para onde foi pretendido.

Autoridades de comando também descreveram a IA como uma ferramenta para reduzir o trabalho administrativo rotineiro. Um líder de aquisições disse que o objetivo era aprimorar o julgamento dos operadores, e não substituí-lo.

Essas posições revelam uma tensão interna, não uma escolha simples entre adoção e rejeição. Líderes militares querem velocidade computacional enquanto mantêm confiança, controle e responsabilidade jurídica.

A tensão se torna mais aguda durante operações de alto volume. O Washington Post relatou que os militares dos EUA usaram um chatbot da Anthropic para ajudar a identificar quase 1.000 alvos nas primeiras 24 horas de uma guerra.

Essa reportagem não estabelece que o chatbot tenha selecionado alvos de forma independente ou autorizado ataques. Ela mostra por que os procedimentos de revisão precisam considerar a escala, além da autoridade formal.

Uma pessoa não consegue avaliar de forma significativa uma enxurrada de recomendações quando os prazos operacionais permitem apenas segundos para cada decisão. Resultados mais rápidos podem reduzir a deliberação mesmo quando a aprovação continua sendo humana.

Os debates em Genebra das Nações Unidas em junho reuniram mais de 100 Estados, organizações internacionais e grupos da sociedade civil.

Áustria, Brasil, Chile, México, Serra Leoa, Costa Rica e Cuba estiveram entre os governos que enfatizaram o julgamento humano e a responsabilização durante essas discussões.

A Rússia se opôs a novas restrições e descreveu algumas propostas como iniciativas lideradas pelo Ocidente. Argumentou que a IA militar deveria permanecer dentro do atual processo governamental de especialistas em armas convencionais.

Estados Unidos e Israel participaram, mas não apresentaram declarações formais no plenário, segundo o relato da reunião. Sua presença não esclareceu quais seriam suas salvaguardas mínimas preferidas.

O argumento prático pela flexibilidade nacional é direto. Comandantes não querem que uma formulação internacional ampla proíba a automação defensiva ou atrase operações legais.

O argumento contrário é igualmente concreto. Se cada Estado definir por si próprio o que é julgamento humano “apropriado”, a expressão oferece pouca proteção contra uma revisão mínima ou meramente cerimonial.

É por isso que previsibilidade e confiabilidade também foram contestadas. Essas exigências podem restringir a implantação quando sistemas não foram validados em condições realistas de campo de batalha.

Campos de batalha contêm sensores danificados, sinais enganosos, inteligência incompleta, ambientes desconhecidos e adversários tentando manipular algoritmos. O desempenho medido em testes controlados pode não resistir a essas condições.

Remover linguagem explícita sobre confiabilidade dá aos governos mais discricionariedade sobre o desempenho aceitável. Também torna mais difícil estabelecer um limiar compartilhado antes que sistemas influenciem decisões letais.

Normas Voluntárias Estão Competindo Com Limites Vinculantes

A disputa diplomática central diz respeito a saber se as potências militares devem prometer contenção ou aceitar regras que outros Estados possam invocar contra elas.

Os Estados Unidos promoveram anteriormente princípios voluntários para o uso responsável de IA militar. Sua declaração política de 2023 defendeu usos bem definidos, cadeias de comando responsáveis, testes e julgamento humano adequado.

Mais de 50 Estados endossaram esse marco. Ele estabeleceu uma linguagem comum, mas não criou um tratado, sistema de fiscalização ou processo independente de inspeção.

Declarações voluntárias ainda podem influenciar compras, treinamento e doutrina militar. Elas podem ajudar governos a convergir em expectativas antes de haver apoio político para uma lei vinculante.

Sua fragilidade aparece quando os incentivos estratégicos mudam. Um Estado pode reinterpretar linguagem flexível, revisar sua política interna ou abandonar salvaguardas práticas sem violar uma obrigação legal.

As alterações relatadas em Genebra refletem essa divisão. Estados Unidos e Rússia são concorrentes geopolíticos, mas ambos operam forças militares avançadas e valorizam liberdade no desenvolvimento de armas.

Nenhum dos dois países apoia um tratado internacional vinculante que restrinja armas autônomas segundo a abordagem defendida por ativistas. Seu interesse comum está em impedir que outros Estados fixem regras restritas.

Esse alinhamento não significa que suas doutrinas militares sejam idênticas. Significa que ambos os governos se beneficiam de preservar a discricionariedade nacional enquanto a tecnologia e suas aplicações no campo de batalha se desenvolvem.

Regras consensuais ampliam sua influência. Nicole van Rooijen, da Stop Killer Robots, argumentou que Washington e Moscou podem bloquear avanços apoiados por uma ampla maioria dos Estados.

Países menores podem apoiar salvaguardas rígidas, mas não dispõem de equipes jurídicas equivalentes nem da mesma pressão diplomática. Sessões fechadas de redação podem aprofundar esse desequilíbrio quando as mudanças chegam rapidamente.

Defensores de tratados apontam armas químicas, armas biológicas, minas antipessoais e munições de fragmentação como precedentes. Esses regimes diferem em adesão e fiscalização, mas cada um ajudou a estigmatizar determinadas condutas.

Richard Lennane, assessor de desarmamento do Comitê Internacional da Cruz Vermelha, argumentou que os tratados importam por moldarem normas e comportamentos, não apenas por meio de punições.

As Nações Unidas e a Cruz Vermelha renovaram seu apelo conjunto em agosto. Elas buscaram proibições para algumas armas autônomas e restrições para outras.

A proposta proibiria sistemas cujos efeitos não possam ser suficientemente compreendidos, previstos ou explicados. Ela também proibiria sistemas projetados ou usados para atingir humanos diretamente.

Outros sistemas autônomos continuariam permitidos sob restrições relativas a tipos de alvos, duração, escopo geográfico e supervisão humana. Essa estrutura evita tratar toda função automatizada como igualmente perigosa.

O pacto de armas de IA entre EUA e Rússia situa-se entre essas abordagens. Ele pode continuar como uma declaração política voluntária, tornar-se base para negociações de tratado ou ficar paralisado pelo consenso.

Esse status jurídico incerto explica por que a redação importa agora. Compromissos iniciais frequentemente se tornam pontos de referência para acordos posteriores, políticas nacionais, contratos de aquisição e manuais militares.

Se a revisão humana de alvos desaparecer da base compartilhada, os defensores terão de lutar para restaurá-la em todas as etapas posteriores. A omissão pode gradualmente se tornar o ponto de partida diplomático aceito.

O Rascunho Ainda Deixa Questões Críticas Sem Resposta

A reportagem identifica salvaguardas removidas, mas não revela o rascunho completo, a proposta de cada delegação ou o significado jurídico final da linguagem contestada.

O Washington Post baseou seu relato em três pessoas familiarizadas com negociações confidenciais. Os governos citados e as Nações Unidas não forneceram respostas para inclusão.

Portanto, leitores devem distinguir detalhes reportados de registros diplomáticos confirmados publicamente. As remoções são relatos críveis, mas o histórico completo das negociações ainda não está disponível.

Permanece incerto se Estados Unidos e Rússia propuseram alterações idênticas ou se apoiaram um ao outro seletivamente. Seus motivos para se oporem a cada cláusula não foram publicados.

O público também não dispõe de um texto comparativo mostrando cada revisão. Essa comparação revelaria se as salvaguardas foram removidas integralmente, transferidas para outro trecho ou substituídas por linguagem mais ampla.

A expressão “revisão humana” também precisa ser definida. Uma exigência pode aplicar-se a todos os alvos, a determinadas classes de alvos ou apenas a situações em que um sistema de IA fornece informações decisivas.

Da mesma forma, “alvo gerado por IA” pode referir-se à identificação original feita por uma máquina, a uma recomendação classificada ou a um pacote de alvo reunido a partir de múltiplas entradas humanas e automatizadas.

Essas distinções afetam as consequências operacionais. Uma definição restrita poderia permitir que governos classificassem muitas decisões assistidas por algoritmos como geradas por humanos, evitando a salvaguarda.

A reportagem também não estabelece que qualquer um dos países atualmente permita que armas ataquem pessoas sem autorização humana. Negociar contra uma cláusula não prova uma política específica de emprego.

Essa incerteza não deve minimizar a preocupação. A resistência diplomática ainda sinaliza quais restrições os governos não estão dispostos a aceitar internacionalmente.

A política interna acrescenta outra camada não resolvida. O Pentágono vem revisando a Diretriz 3000.09, sua política que rege a autonomia em sistemas de armas.

Um memorando de segurança nacional de junho teria ordenado uma atualização em até 90 dias. Nenhuma versão pública revisada havia surgido até o fim de setembro.

A diretriz de 2023 exigia julgamento humano apropriado sobre o uso da força. Ela também incluía requisitos de revisão para alguns sistemas de armas autônomos e semiautônomos.

A relação entre a revisão interna pendente e a posição de negociação em Genebra permanece desconhecida. Remoções semelhantes sugeririam uma mudança coordenada em direção a maior discricionariedade operacional.

Linguagem diferente mostraria que Washington aceita salvaguardas internamente enquanto resiste a compromissos internacionais. Essa posição poderia proteger a flexibilidade militar, mas enfraqueceria a defesa americana no exterior.

A política da Rússia é mais difícil de avaliar porque a transparência pública sobre desenvolvimento, testes e emprego permanece limitada. Alegações sobre o campo de batalha frequentemente não podem ser verificadas de forma independente.

Grupos humanitários também enfrentam uma lacuna de evidências. As Nações Unidas e a Cruz Vermelha afirmaram que armas autônomas estão avançando rapidamente, ao mesmo tempo que evitam alegações definitivas sobre usos específicos no campo de batalha.

O apoio à decisão habilitado por IA é mais fácil de documentar do que uma operação letal plenamente autônoma. Ainda assim, ferramentas de apoio à decisão podem influenciar quem é atacado, especialmente sob cronogramas comprimidos.

A conclusão responsável é mais restrita do que a interpretação mais alarmante. O rascunho teria perdido barreiras importantes, enquanto o impacto operacional exato depende de definições e implementação.

Três Sinais a Observar Antes das Conversas de Novembro

As negociações de novembro, a diretriz revisada do Pentágono e as exigências por texto público do rascunho determinarão se este episódio se torna uma reversão duradoura de política.

O primeiro sinal é se os governos restauram uma exigência explícita de revisão de alvos antes ou durante a reunião de Genebra. Sua redação deve exigir uma avaliação humana informada antes de qualquer ataque.

Uma cláusula restaurada reforçaria a tese de que as remoções de setembro foram movimentos provisórios de barganha. A exclusão contínua confirmaria uma base internacional mais fraca.

Os detalhes importarão mais do que o rótulo. Uma revisão significativa exige tempo suficiente, evidências relevantes, informações sobre incerteza e autoridade para rejeitar uma recomendação de IA.

O segundo sinal é a diretriz revisada do Pentágono sobre armas autônomas. Ela deve mostrar se os Estados Unidos mantêm compromissos internos semelhantes aos removidos internacionalmente.

Observe linguagem que abranja julgamento humano, testes, confiabilidade, revisões jurídicas, autorização de altos escalões e falhas em condições adversariais. Definições e exceções serão especialmente importantes.

Se a diretriz preservar controles internos robustos, Washington enfrentará perguntas sobre por que rejeitou linguagem internacional semelhante. Se os enfraquecer, a mudança de política será mais ampla.

O terceiro sinal é a transparência em torno do texto negociado. Estados, jornalistas e grupos da sociedade civil precisam de uma comparação pública dos rascunhos contestados e das emendas propostas.

A transparência permitiria que especialistas independentes testassem alegações de todos os lados. Ela também mostraria se delegações menores receberam tempo e recursos suficientes para avaliar revisões rápidas.

O processo internacional continuará frágil mesmo que os três sinais melhorem. Negociações por consenso permitem que alguns Estados influentes atrasem mandatos ou estreitem regras propostas.

Ainda assim, restaurar a revisão humana estabeleceria um limite claro. Isso diria que a seleção de alvos gerada por máquinas não pode avançar diretamente para um ataque sem julgamento humano responsável.

Para desenvolvedores, esse debate vai além do hardware de armas. Sistemas de IA militar dependem de modelos comerciais, plataformas de nuvem, pipelines de dados, ferramentas de avaliação e contratados de software.

Engenheiros podem ser solicitados a documentar incertezas, preservar logs de auditoria, limitar a autonomia do sistema ou projetar interfaces que resistam à aceitação automática. A redação de políticas pode se tornar um requisito de produto.

Compradores empresariais devem observar as mesmas questões de responsabilização. IA de alto risco exige registros que mostrem o que o sistema recomendou, quais evidências utilizou e quem aprovou o resultado.

Profissionais do conhecimento que acompanham um processo político em rápida evolução podem manter uma base de conhecimento pessoal contendo linguagem de rascunhos, declarações oficiais e revisões datadas. Essa prática torna mudanças discretas mais fáceis de detectar.

O pacto de armas de IA entre EUA e Rússia só terá significado se suas salvaguardas sobreviverem ao contato com os incentivos militares. Novembro mostrará se a revisão humana continuará negociável ou se se tornará uma regra mínima.

A questão imediata é simples: os governos publicarão o texto e exigirão que uma pessoa examine alvos gerados por IA antes do uso da força?