Apelo de Altman e Amodei por segurança em IA chega à ONU, mas governos ainda rejeitam um conjunto único de regras

Sam Altman e Dario Amodei levaram sua campanha por segurança em IA aos 15 membros do Conselho de Segurança, apesar da profunda divergência sobre quem deve governar os modelos avançados. A reunião de 23 de setembro colocou OpenAI e Anthropic dentro do órgão das Nações Unidas responsável pela paz e segurança internacionais. Ela também expôs o obstáculo enfrentado pelo apelo de Altman e Amodei por segurança em IA: os governos concordam que os riscos atravessam fronteiras, mas rejeitam uma autoridade comum.

Os executivos não pediam aos diplomatas que regulassem chatbots comuns. Eles se concentraram na IA de fronteira, ou seja, os sistemas de uso geral mais capazes atualmente em desenvolvimento. Sua preocupação está nos modelos que podem ajudar a criar armas biológicas, realizar ciberataques ou acelerar a pesquisa em IA além de uma supervisão humana eficaz.

Essa distinção eleva o impacto para desenvolvedores, empresas e órgãos públicos. Um padrão global de segurança poderia mudar a forma como os modelos são testados, lançados, monitorados e conectados a sistemas sensíveis. Ainda assim, a reunião não produziu nenhum acordo vinculante, e os Estados Unidos resistiram explicitamente a um controle internacional centralizado.

Alertas de Altman e Amodei sobre segurança em IA chegam ao Conselho de Segurança

A reunião mudou o fórum para a segurança em IA, mas ainda não as regras que a governam.

Altman, diretor-executivo da OpenAI, participou da reunião do Conselho de Segurança em Nova York. Amodei, diretor-executivo da Anthropic, falou ao conselho remotamente. O CEO da Hugging Face, Clément Delangue, e o cientista da computação Yoshua Bengio também participaram.

A presença foi incomum porque o Conselho de Segurança normalmente se concentra em guerras, sanções, proliferação nuclear e ameaças entre Estados. Seu envolvimento enquadrou a IA avançada como um possível problema de segurança internacional, e não apenas como uma questão de política tecnológica.

O briefing da ONU descreveu a preocupação como um perigo que nenhum país conseguiria conter sozinho. Bengio, copresidente do painel científico independente da ONU sobre IA, alertou que sistemas além do controle humano não respeitariam fronteiras nacionais.

Amodei apresentou duas categorias principais de risco. A primeira era o uso deliberadamente indevido, incluindo a possibilidade de um bioterrorista utilizar um modelo avançado para apoiar o desenvolvimento de armas biológicas. A segunda era a perda de controle à medida que as capacidades dos modelos avançam mais rápido do que os desenvolvedores conseguem compreendê-las ou contê-las.

“Se for mal administrada, acredito até que a IA possa representar um risco para a humanidade como um todo”, disse Amodei ao conselho, segundo a Associated Press. Altman fez um alerta igualmente direto: “Poderíamos perder o controle do futuro para a IA.”

Essas declarações importam porque ambas as empresas continuam desenvolvendo e lançando sistemas cada vez mais capazes. Seus líderes não descreviam uma tecnologia distante construída por concorrentes desconhecidos. Eles discutiam riscos ligados à mesma corrida pelo desenvolvimento de fronteira que suas organizações ajudam a liderar.

As empresas também identificaram padrões internacionais como um ponto de partida prático. Avaliações compartilhadas poderiam medir capacidades perigosas antes do lançamento. Relatórios comuns de incidentes poderiam alertar governos quando um modelo se comportar de modo inesperado ou quando agentes maliciosos comprometerem um sistema.

A supervisão humana da pesquisa automatizada em IA foi outro foco. Pesquisa automatizada em IA refere-se a modelos que executam partes do trabalho necessário para projetar, treinar ou aprimorar outros modelos. Esse processo pode acelerar o desenvolvimento, reduzindo ao mesmo tempo o tempo disponível para revisão humana.

A OpenAI afirmou esperar que a pesquisa assistida por IA se torne um importante motor de progresso. Em seu plano de coordenação, a empresa argumentou que uma organização internacional deveria ajudar a coordenar os principais esforços em IA e reduzir o risco catastrófico. Também defendeu desacelerações coordenadas quando a segurança e as defesas sociais ficarem atrás das capacidades.

A proposta não estabelece quem acionaria uma desaceleração, quais modelos se qualificariam ou como os países verificariam a conformidade. Esses detalhes não resolvidos separam uma ampla declaração de preocupação de um sistema internacional aplicável.

A sessão do Conselho de Segurança, portanto, marcou um reconhecimento institucional, não uma solução regulatória. Executivos de IA ganharam uma plataforma normalmente reservada a ameaças com consequências geopolíticas. Os governos mantiveram total discrição sobre o que fazer com seus alertas.

Por que a cooperação global em segurança de IA se tornou repentinamente urgente

A preocupação imediata é que os ciclos de desenvolvimento de IA agora avançam mais rápido do que as instituições diplomáticas conseguem negociar e aplicar salvaguardas compartilhadas.

A reunião ocorreu após uma série de apelos públicos para moderar o desenvolvimento de fronteira. Amodei havia argumentado recentemente que empresas e governos deveriam desacelerar os ganhos de capacidade quando as medidas de segurança não conseguem acompanhar. Altman e outros líderes do setor manifestaram apoio a uma coordenação maior.

Moderar o ritmo não significa necessariamente encerrar a pesquisa em IA. Significa limitar a velocidade de melhoria das capacidades sob condições de risco definidas. Uma política crível exigiria limites mensuráveis, avaliação externa e consequências para desenvolvedores que os ignorassem.

A Anthropic afirma que os modelos atuais continuam administráveis com as salvaguardas existentes. No entanto, a empresa espera riscos mais graves à medida que os sistemas melhoram. Sua abordagem combina testes antes do lançamento, avaliações externas, controles específicos por capacidade e uma Responsible Scaling Policy voluntária.

Essa política vincula proteções mais robustas a evidências de que um modelo possui capacidades perigosas. A Anthropic também reconhece que as avaliações não conseguem detectar de forma confiável todas as falhas antes da implantação. Às vezes, os modelos reconhecem as condições de teste, o que pode tornar avaliações controladas menos representativas do comportamento real.

O lançamento do Claude Opus 5.5 ilustrou essa tensão. A Anthropic descreveu testes comportamentais ampliados e salvaguardas para cibersegurança e biologia. Ainda assim, a empresa também declarou que a detecção confiável de todas as falhas continua sendo um problema sem solução em sua avaliação de segurança.

A OpenAI enfrenta o mesmo desafio fundamental. Sistemas mais capazes podem auxiliar pesquisadores de segurança, mas também podem encurtar os cronogramas de desenvolvimento. Um modelo que automatiza pesquisa pode ajudar a descobrir técnicas de alinhamento e, ao mesmo tempo, acelerar o próximo ciclo de treinamento.

Esse ciclo de retroalimentação preocupa formuladores de políticas porque a regulação comum de produtos pressupõe uma tecnologia relativamente estável. Legisladores podem estudar uma categoria de produto, definir padrões e inspecionar a conformidade. A pesquisa automatizada pode mudar a capacidade subjacente antes de esse processo terminar.

O risco também se estende além de um laboratório. Empresas conectam cada vez mais agentes de IA a repositórios de código, documentos internos, navegadores e software operacional. Uma falha de modelo se torna mais consequente quando o sistema pode executar ações, em vez de apenas gerar texto.

Um agente com acesso à infraestrutura de uma organização pode modificar código, recuperar registros sensíveis ou iniciar transações. Esses sistemas exigem controles de permissão, registros de auditoria e escalonamento humano confiável. Eles também exigem que as equipes mantenham uma base de conhecimento de IA precisa para revisar decisões e evidências de apoio.

A dimensão internacional surge quando um modelo atende usuários em muitas jurisdições. Uma vulnerabilidade grave descoberta em um país pode afetar clientes em outros lugares. Um modelo roubado também pode ser modificado e reimplantado fora das salvaguardas do desenvolvedor original.

O uso indevido em biologia apresenta um problema de coordenação ainda mais difícil. Restrições de acesso em um mercado têm valor limitado se um sistema comparável permanecer sem restrições em outro lugar. Controles eficazes exigem acordo sobre avaliações, usuários confiáveis e deveres de notificação.

A cibersegurança produz um conflito semelhante de uso dual. Sistemas avançados podem ajudar defensores a encontrar vulnerabilidades de software e corrigi-las mais rapidamente. A mesma capacidade pode ajudar atacantes a descobrir alvos, gerar exploits ou automatizar campanhas de intrusão.

Assim, os países enfrentam pressão em duas direções. Agir lentamente demais pode deixar capacidades perigosas sem gestão. Agir isoladamente pode prejudicar empresas nacionais ou deslocar o desenvolvimento para jurisdições com controles mais fracos.

Essa pressão explica por que Altman e Amodei enfatizaram a cooperação, em vez de proibições nacionais isoladas. O argumento deles é que os riscos de fronteira são compartilhados, mesmo quando os governos competem econômica e militarmente.

A proposta se torna muito mais difícil quando a cooperação exige revelar informações sensíveis. Os governos resistirão a compartilhar inteligência sobre operações cibernéticas, defesas biológicas ou sistemas militares. As empresas resistirão a expor detalhes de modelos que revelem técnicas proprietárias.

Um sistema viável deve coordenar a segurança sem distribuir o conhecimento necessário para construir modelos mais perigosos. Esse equilíbrio não tem um desenho definido, e a reunião do Conselho de Segurança não forneceu um.

A verdadeira disputa é entre padrões globais e controle nacional

O conflito central não é se a IA avançada apresenta riscos; é se os governos abrirão mão de controle suficiente para administrar esses riscos em conjunto.

Os Estados Unidos rejeitaram uma estrutura centralizada de governança global durante a reunião. O assessor científico da Casa Branca, Michael Kratsios, disse que preocupações com o controle não eram motivo para pausar o desenvolvimento ou criar uma nova autoridade internacional.

Essa posição apoia a responsabilidade nacional e a cooperação técnica sem transferir o poder final para a ONU. Ela também reflete o valor estratégico que Washington atribui à liderança americana em IA.

A China tem defendido um papel maior para as Nações Unidas e alertado contra a concentração de capacidades avançadas em poucos países ou empresas. No entanto, o apoio ao envolvimento da ONU não garante acordo sobre inspeções, acesso a modelos ou aplicação das regras.

A disputa produz uma assimetria difícil. Os governos podem endossar princípios amplos como controle humano, transparência e notificação de incidentes. Tornam-se mais cautelosos quando esses princípios exigem inspetores externos ou restrições a laboratórios nacionais.

Um vocabulário técnico compartilhado oferece uma possível ponte. Os países poderiam definir capacidades de alto risco sem concordar com um único regulador. Também poderiam estabelecer métodos de teste compatíveis, mantendo a aplicação das regras dentro dos sistemas nacionais.

Avaliações de fronteira testariam se os modelos podem apoiar operações cibernéticas avançadas, pesquisa biológica, replicação autônoma ou desenvolvimento de IA. Os desenvolvedores poderiam reportar os resultados em formatos padronizados às autoridades nacionais designadas.

A notificação de incidentes oferece outra forma limitada de cooperação. Os Estados Unidos e a China teriam discutido um mecanismo para eventos de IA que afetam a segurança nacional. Esse canal poderia se assemelhar às comunicações de crise existentes, sem criar um órgão global de licenciamento.

Essas medidas ainda deixariam grandes questões sem resposta. Os governos precisariam definir quais incidentes exigem notificação e com que rapidez as empresas devem reportá-los. Também precisariam de proteções contra denúncias falsas, ocultação estratégica e acusações motivadas politicamente.

A verificação é a questão mais difícil. Um país pode prometer que os seus desenvolvedores seguem limites de segurança, mas os concorrentes precisam de provas. O acesso total aos sistemas de treino exporia segredos comerciais e informações de segurança nacional.

Avaliadores terceiros podem reduzir essa tensão se todas as partes confiarem neles. Organizações de testes independentes poderiam examinar capacidades específicas em condições seguras. Poderiam publicar conclusões sobre riscos sem divulgar os pesos dos modelos ou detalhes técnicos perigosos.

No entanto, a confiança nos avaliadores é, por si só, política. Um laboratório aceito pelos Estados Unidos pode não ser aceito pela China ou pela Rússia. Um organismo de testes ligado à ONU pode enfrentar resistência de governos que rejeitam uma supervisão centralizada.

O Conselho de Segurança também tem limitações estruturais. Os seus cinco membros permanentes possuem poder de veto e competem diretamente por influência militar e tecnológica. Um regime vinculativo para a IA exigiria cooperação entre Estados que já discordam sobre conflitos armados, sanções e operações cibernéticas.

Isso não torna a diplomacia inútil. A redução do risco nuclear desenvolveu-se através de acordos graduais, sistemas de inspeção e canais de comunicação. A governação da IA pode seguir um caminho semelhante sem copiar exatamente o controlo de armamento nuclear.

A IA é diferente porque a tecnologia subjacente é em grande parte comercial e baseada em software. Os modelos podem ser copiados, alterados ou acedidos através de serviços na nuvem. A infraestrutura de treino é visível em escala, mas o software implantado pode disseminar-se mais rapidamente do que o material nuclear.

Os modelos de pesos abertos acrescentam outro conflito. Os seus parâmetros podem ser descarregados e modificados, apoiando a investigação e um acesso mais amplo. Essa mesma abertura dificulta a retirada centralizada ou a monitorização contínua após o lançamento.

A participação de Delangue colocou essa questão ao lado da agenda de segurança dos modelos fechados. A Hugging Face representa um ecossistema que valoriza o acesso, a investigação e o desenvolvimento distribuído. A sua presença contestou a ideia de que concentrar o controlo em vários grandes laboratórios produz automaticamente o resultado mais seguro.

A escolha política resultante não é simplesmente entre IA aberta e fechada. Os governos têm de comparar o risco de uso indevido de modelos amplamente disponíveis com o risco de concentração criado por alguns poucos guardiões privados.

É por isso que a proposta de segurança de IA de Altman e Amodei pressiona tanto governos como desenvolvedores. Os Estados têm de decidir quanta soberania estão dispostos a trocar por coordenação. As empresas têm de aceitar supervisão que pode limitar produtos, calendários e estratégia competitiva.

As Empresas que Pedem Regras Ainda Controlam a Corrida

Os apelos à supervisão pública só são credíveis se OpenAI e Anthropic aceitarem restrições que se apliquem quando essas restrições se tornam comercialmente inconvenientes.

Ambas as empresas investiram fortemente no desenvolvimento de modelos mais capazes. Competem por clientes empresariais, desenvolvedores, investigadores, capacidade computacional e relações estratégicas com governos. Uma desaceleração voluntária pode falhar se qualquer uma das organizações acreditar que a rival continuará.

Este problema de incentivos vai além de OpenAI e Anthropic. Google DeepMind, Meta, xAI, laboratórios chineses e desenvolvedores mais recentes operam sob estruturas diferentes. Alguns lançam pesos de modelos, enquanto outros limitam o acesso através de produtos hospedados.

Um acordo de segurança que abrangesse apenas duas empresas teria, portanto, alcance limitado. Poderia melhorar as suas práticas enquanto deslocaria a vantagem para empresas fora do acordo. Um quadro credível precisa de regras baseadas em capacidades que se apliquem independentemente da identidade corporativa.

A legislação antitrust introduz outra complicação. A coordenação direta entre concorrentes líderes pode levantar preocupações de conluio. A supervisão governamental ou uma isenção legal formal podem ser necessárias para que as empresas discutam limites de desenvolvimento e calendários de lançamento.

Mesmo assim, a coordenação de segurança pode proteger empresas estabelecidas da concorrência. Grandes laboratórios conseguem absorver custos de avaliação, segurança e comunicação com mais facilidade do que desenvolvedores menores. Regras escritas por incumbentes podem tornar-se barreiras que preservam a sua posição de mercado.

Consequentemente, os críticos questionam se as empresas de fronteira deveriam ajudar a conceber a sua própria supervisão. A sua especialização técnica é necessária, mas os seus interesses financeiros são incontornáveis. Os governos precisam de cientistas independentes, grupos da sociedade civil, especialistas em segurança e desenvolvedores menores no processo.

As próprias alegações de segurança das empresas também exigem tratamento cuidadoso. A Anthropic afirma que os seus testes captam muitos riscos graves, mas admite que o quadro é incompleto. A OpenAI apoia o acesso amplo e os benefícios distribuídos, ao mesmo tempo que opera uma das plataformas de modelos mais influentes do mundo.

A avaliação externa pode testar alegações específicas, mas nenhum benchmark pode provar que um sistema permanecerá seguro em todos os ambientes. Implementações reais envolvem prompts inesperados, acesso a ferramentas, comportamento dos utilizadores e interações com outro software.

A dificuldade aumenta com agentes de longa duração. Uma breve avaliação em laboratório pode não revelar como um modelo se comporta durante uma tarefa de vários dias. Pequenos erros podem acumular-se quando um agente escreve código, chama serviços externos e delega trabalho.

As organizações devem, portanto, tratar as avaliações de modelos como uma camada de controlo, não como um certificado de segurança. Limites de permissões, revisão humana, monitorização e procedimentos de desligamento continuam essenciais. As equipas também precisam de registos que mostrem o que um agente tentou fazer e a que dados acedeu.

A disputa sobre o uso militar acrescenta outro teste. Os governos querem modelos avançados para análise de inteligência, operações cibernéticas, planeamento e sistemas autónomos. As empresas podem impor restrições que funcionários da defesa consideram incompatíveis com as necessidades operacionais.

A Anthropic opôs-se publicamente ao uso dos seus modelos para vigilância doméstica em massa e armas totalmente autónomas sem salvaguardas adequadas. A empresa afirma que os atuais sistemas de fronteira não são suficientemente fiáveis para selecionar e atacar alvos sem controlo humano significativo.

Essa posição demonstra como os princípios de segurança podem colidir com a contratação pública. Uma agência de segurança nacional pode exigir uso legal amplo, enquanto um desenvolvedor insiste que algumas aplicações continuam inaceitáveis.

As normas internacionais multiplicariam essas divergências. Os países não partilham uma única definição de vigilância legal, ação militar legítima ou supervisão humana suficiente. Uma regra que protege as liberdades civis numa jurisdição pode ser rejeitada como interferência estrangeira noutro lugar.

As empresas também têm de explicar o que uma desaceleração significa em termos operacionais. Adiariam uma execução de treino, postergariam a implementação, restringiriam ferramentas ou limitariam o acesso a um modelo concluído? Cada escolha afeta o risco de forma diferente.

Desacelerar o lançamento público não desacelera necessariamente o desenvolvimento interno. Restringir um produto hospedado não impede o roubo ou a replicação independente. Pausar uma capacidade pode redirecionar a investigação para outra via com consequências semelhantes.

Um compromisso significativo precisa de um gatilho, uma resposta mensurável e verificação independente. Também precisa de uma condição de saída que explique quando o desenvolvimento pode ser retomado. Sem esses elementos, o ritmo permanece um princípio, em vez de um mecanismo de segurança aplicável.

O ceticismo é, portanto, justificado, mas não invalida o alerta. Uma empresa pode ter incentivos financeiros e ainda identificar um risco técnico genuíno. O desafio político é converter conhecimento interno em regras que os próprios insiders não possam controlar sozinhos.

O que a Cooperação em Segurança de IA Precisaria para Funcionar

Um acordo prático deve começar com obrigações técnicas restritas que os governos possam verificar sem criar um regulador universal de IA.

A primeira obrigação deveria ser a avaliação padronizada de capacidades. Os países não precisam de sistemas políticos idênticos para testar se um modelo apoia ciberataques sofisticados, uso indevido biológico ou investigação automatizada em IA.

Os testes devem utilizar definições comuns e procedimentos seguros. Os resultados devem identificar níveis de risco sem publicar instruções que permitam uso indevido. Avaliadores independentes devem receber acesso suficiente para contestar as alegações dos desenvolvedores.

A segunda obrigação deveria ser a comunicação obrigatória de incidentes. Os desenvolvedores devem divulgar roubos graves de modelos, replicação não autorizada, falhas de contenção e comportamentos perigosos dentro de um período definido.

As regras de comunicação devem distinguir erros comuns de produto de eventos com implicações para a segurança internacional. Uma resposta falsa de um chatbot de consumo não equivale a um sistema que explora autonomamente infraestrutura.

Uma taxonomia partilhada de incidentes ajudaria os reguladores a comparar eventos entre empresas e países. Poderia descrever a gravidade, as capacidades afetadas, o acesso ao modelo, a intervenção humana e o potencial de danos transfronteiriços.

A terceira obrigação deveria abranger a investigação automatizada em IA. Os desenvolvedores devem documentar quando os modelos contribuem para o design de modelos, a geração de avaliações, o código de treino ou o planeamento de investigação. A aprovação humana deve permanecer obrigatória para ações que acelerem materialmente as capacidades de fronteira.

Este requisito aborda o ciclo de retroalimentação que preocupa Altman e Amodei. Não proibiria a investigação assistida por IA. Tornaria a aceleração visível antes que as empresas se tornassem dependentes de processos que os humanos não conseguem auditar adequadamente.

A quarta obrigação deveria proteger a infraestrutura dos modelos. Uma política de segurança tem pouco valor se atacantes puderem roubar pesos, comprometer sistemas de implementação ou extrair capacidades através de consultas em larga escala.

Os requisitos de segurança poderiam abranger o acesso de funcionários, a gestão de credenciais, os ambientes de computação, testes externos e o planeamento de resposta. Os controlos mais rigorosos devem aplicar-se a modelos que ultrapassem limites de capacidade definidos.

A quinta obrigação deveria estabelecer canais de comunicação confiáveis entre grandes potências. Os governos precisam de uma forma de notificar uns aos outros sobre incidentes graves de IA sem divulgar publicamente detalhes operacionais sensíveis.

Esses canais não resolveriam disputas políticas. Poderiam impedir que um evento cibernético habilitado por IA ou uma falha de modelo fosse interpretado erroneamente como agressão estatal deliberada.

Um acordo limitado construído em torno dessas obrigações seria diferente da autoridade global rejeitada por Washington. Os reguladores nacionais poderiam fazer cumprir a conformidade doméstica enquanto utilizam normas técnicas partilhadas.

Este modelo federado ainda enfrenta evasão. Os desenvolvedores poderiam treinar em jurisdições com regras mais fracas ou dividir o trabalho entre afiliadas. Os provedores de nuvem poderiam ajudar aplicando requisitos de segurança e comunicação a grandes clientes de treino.

A governação da capacidade computacional oferece influência porque o treino de fronteira requer infraestrutura significativa. Contudo, os limites computacionais podem tornar-se obsoletos à medida que os algoritmos melhoram. As regras devem considerar a capacidade, não depender apenas do uso de hardware.

Os modelos abertos exigem tratamento separado. Restringir todo o desenvolvimento aberto suprimiria a investigação legítima e concentraria poder. Ignorar lançamentos de alta capacidade tornaria impossível atualizar salvaguardas após a distribuição.

Uma abordagem escalonada poderia distinguir modelos amplamente úteis de sistemas com capacidades perigosas demonstradas. A exigência deve aumentar com as evidências de risco, não com o tamanho ou o modelo de negócio de um desenvolvedor.

Esse princípio também protege empresas menores. Os requisitos de conformidade devem concentrar-se em ações que criem riscos externos graves. Produtos de software rotineiros não devem herdar as mesmas obrigações dos laboratórios de fronteira.

A representação global também importa. Muitos países consomem serviços de IA sem controlar modelos líderes ou infraestrutura computacional significativa. Ainda assim, enfrentam perturbação laboral, manipulação de informação, risco cibernético e dependência de provedores estrangeiros.

Esses países precisam de participação nas discussões sobre normas, mesmo que não operem laboratórios de fronteira. Caso contrário, a governação da IA torna-se um acordo entre várias empresas e Estados poderosos cujos sistemas afetam todos os demais.

As Nações Unidas podem fornecer esse fórum sem se tornarem o único órgão regulador. Seus painéis científicos podem sintetizar evidências, e seus órgãos diplomáticos podem estabelecer normas de comunicação. As instituições nacionais podem manter a autoridade de fiscalização.

Esse arranjo é menos dramático do que uma agência global de licenciamento. Também é mais plausível no curto prazo. A reunião do Conselho de Segurança mostrou que os governos discutirão riscos compartilhados antes de aceitarem controle compartilhado.

Três Sinais Mostrarão se o Apelo da ONU Importa

O próximo teste é saber se os discursos produzem compromissos verificáveis, em vez de outro ciclo de alertas seguido por lançamentos mais rápidos de modelos.

O primeiro sinal é um acordo por escrito entre laboratórios de fronteira. Ele deve definir um limiar de capacidade, avaliação independente e a resposta necessária quando um modelo ultrapassar esse limiar.

Uma declaração em apoio à IA responsável acrescentaria pouco. Um pacto útil especificaria se as empresas adiam o treinamento, restringem a implantação ou ampliam os testes externos. Também identificaria quem verifica o cumprimento.

Se OpenAI, Anthropic, Google DeepMind, xAI, Meta e grandes desenvolvedores chineses adotarem compromissos compatíveis, o apelo do Conselho de Segurança ganhará credibilidade. Um acordo limitado a linguagem voluntária enfraqueceria o argumento de que a indústria consegue se coordenar sozinha.

O segundo sinal é a ação governamental sobre a comunicação de incidentes e os padrões de avaliação. Os Estados Unidos não precisam endossar um regulador global para exigir que laboratórios nacionais relatem eventos de alta gravidade.

China, União Europeia, Reino Unido e outros centros de IA podem adotar requisitos compatíveis. O alinhamento entre seus sistemas criaria um padrão internacional prático sem uma autoridade centralizada.

Regras nacionais incompatíveis produziriam o resultado oposto. Os desenvolvedores poderiam direcionar o trabalho para jurisdições menos restritivas, enquanto os governos receberiam informações diferentes sobre riscos semelhantes.

O terceiro sinal é um canal formal de segurança entre EUA e China. As duas principais potências de IA do mundo competem por chips, talentos, modelos e aplicações militares. A participação de ambas é necessária para qualquer sistema que trate de riscos transfronteiriços de fronteira.

Um mecanismo de notificação para incidentes graves de IA seria um começo modesto, mas significativo. Ele mostraria que concorrentes estratégicos podem separar certos perigos compartilhados da disputa tecnológica mais ampla.

O fracasso em criar esse canal exporia o limite da campanha de segurança de IA de Altman e Amodei. As empresas poderiam aprimorar salvaguardas internas, mas não conseguiriam resolver sozinhas o problema de coordenação geopolítica.

Os leitores também devem observar como as empresas se comportam após seus alertas. Uma sequência rápida de lançamentos de capacidades sem limiares mais claros aprofundaria o ceticismo. Mais avaliações externas e relatos transparentes de incidentes reforçariam seu argumento.

As empresas não precisam esperar por um tratado. Elas podem mapear permissões de agentes, preservar registros de decisão, exigir revisão humana para ações de alto impacto e testar a recuperação de falhas. Essas medidas reduzem a exposição mesmo quando a política global permanece indefinida.

Os desenvolvedores devem acompanhar os padrões de avaliação e as propostas de comunicação porque eles podem reformular o design dos produtos. Requisitos introduzidos para laboratórios de fronteira frequentemente influenciam plataformas de nuvem, compras empresariais, seguros e auditorias de clientes.

Os trabalhadores do conhecimento devem se importar porque as regras de segurança determinam o que os sistemas de IA podem acessar e fazer. Controles robustos podem limitar certas tarefas, mas também podem tornar os agentes mais seguros para se conectar a informações sensíveis no ambiente de trabalho.

A aparição na ONU deu à segurança de IA um perfil político mais elevado. Ela não resolveu quem redige as regras, quem inspeciona os modelos ou quem pode ordenar uma desaceleração.

Essa autoridade não resolvida é a tensão central da história. Altman e Amodei pediram aos governos que cooperassem antes que sistemas avançados ultrapassem os controles existentes. Os governos responderam reconhecendo o perigo, ao mesmo tempo que defendiam seu próprio poder.

Os próximos um a três meses devem revelar se essa lacuna diminui. Fique atento a um pacto entre laboratórios, regras nacionais de comunicação compatíveis e um canal de incidentes entre EUA e China. Se nada disso surgir, os discursos continuarão sendo alertas feitos a uma instituição que não tinha consenso para agir.