A Proposta de Demis Hassabis para um Órgão Independente de Supervisão da Segurança de IA Enfrenta Seu Primeiro Teste

Segundo relatos, Demis Hassabis apresentou a altos funcionários de Trump uma nova organização de segurança de IA antes de deixar o principal cargo do Google DeepMind. A reportagem do google techmeme expõe um conflito nítido: as principais empresas de IA querem supervisão independente, mas também querem influência substancial sobre seu desenho.

As discussões relatadas envolveram outros líderes de laboratórios e funcionários do governo, incluindo o secretário do Tesouro Scott Bessent. Ainda assim, nenhum novo regulador foi formalmente criado, e o governo não publicou uma carta constitutiva acordada. A proposta continua sendo uma iniciativa de política em desenvolvimento, e não uma instituição em operação.

Há também uma distinção importante dentro das reportagens. Hassabis descreveu publicamente um órgão de padrões inspirado principalmente na FINRA, o regulador privado que supervisiona corretoras nos EUA sob fiscalização federal. Uma estrutura internacional nos moldes da IAEA apareceu em propostas mais amplas de política para IA, incluindo planos associados a outros líderes do setor.

Essa distinção importa mais do que a analogia. Um órgão nacional de padrões financiado pelo setor derivaria sua autoridade da legislação americana e do acesso ao mercado. Uma agência internacional exigiria cooperação entre governos que divergem sobre segurança, comércio, modelos abertos e controle tecnológico.

A disputa real, portanto, não é Google contra outro laboratório. É entre uma supervisão concebida pelo setor e uma autoridade pública genuinamente independente. O resultado afetaria todas as organizações que desenvolvem, compram ou implementam sistemas avançados de IA.

O Que a Reportagem do Google Techmeme Realmente Muda

As reuniões relatadas levam a proposta de Hassabis de um ensaio público para uma discussão ativa com autoridades que podem influenciar a política dos EUA.

A agregação do Techmeme atribui a reportagem central ao The Wall Street Journal. Segundo esse relato, Hassabis discutiu uma nova organização de segurança com líderes de laboratórios concorrentes e altos funcionários do governo Trump.

Isso não significa que o governo aprovou o plano. Significa que a proposta teria chegado a autoridades além das agências que já realizam avaliações voluntárias de modelos. O envolvimento de Scott Bessent é notável porque o Tesouro supervisiona instituições financeiras e sanções, duas áreas relevantes para a analogia com a FINRA.

Hassabis já havia tornado público o arcabouço central. Sua proposta descrevia um órgão independente de padrões financiado pelo setor, supervisionado pelo governo e composto por especialistas técnicos. Ele desenvolveria testes para os modelos mais avançados antes de seu lançamento.

Modelos de “fronteira” são sistemas próximos ao mais alto nível de capacidade disponível em determinado momento. A categoria muda à medida que a tecnologia avança, portanto qualquer limite precisaria ser atualizado regularmente. Uma definição fixa rapidamente ficaria desatualizada ou abrangeria produtos comuns demais.

Hassabis propôs começar com participação voluntária. Os laboratórios submeteriam modelos qualificados a testes antes da implementação, potencialmente permitindo até 30 dias para os avaliadores. O sistema poderia mais tarde se tornar obrigatório se suas avaliações demonstrassem credibilidade.

A organização também trabalharia com agências federais e laboratórios nacionais dos EUA. Seus testes se concentrariam em capacidades relevantes para cibersegurança, biologia, engano e segurança nacional. Esse mandato seria mais restrito do que revisar todas as falhas de consumo ou corporativas.

Essa articulação política relatada importa porque propostas de política frequentemente desaparecem após a publicação. Discussões diretas com autoridades e laboratórios rivais indicam uma tentativa de construir apoio institucional. Elas também expõem questões não resolvidas sobre quem controlaria o órgão resultante.

O momento dá peso adicional à história. Hassabis recentemente deixou a liderança cotidiana do Google DeepMind e se tornou cientista-chefe da Alphabet. Ele continua como presidente do DeepMind enquanto se concentra em questões científicas e sociais de longo prazo.

O memorando de liderança do Google apresentou a mudança como uma forma de dar a Hassabis mais tempo para trabalho de “visão ampla”. A proposta de segurança agora parece estreitamente ligada a esse foco ampliado.

No entanto, os leitores devem evitar tratar a mudança de função como prova de independência política. Hassabis continua sendo um líder sênior da Alphabet, com profundos vínculos institucionais com uma das empresas afetadas por futuras regras de IA.

A reportagem do google techmeme, portanto, muda o status político da proposta, não seu status legal. Ela mostra uma articulação organizada em torno de um possível regulador, enquanto deixa indefinidos seu mandato, composição, poderes de aplicação e jurisdição.

Por Que Hassabis Quer um Órgão de Supervisão Agora

Hassabis argumenta que os testes corporativos voluntários já não bastam, enquanto a legislação convencional avança lentamente demais para acompanhar as capacidades mutáveis da IA.

Em julho, Hassabis publicou um detalhado arcabouço para IA de fronteira pedindo uma supervisão mais sistemática. Ele argumentou que sistemas avançados exigem testes dinâmicos porque suas capacidades podem mudar substancialmente entre gerações de modelos.

Seu cronograma foi incomumente agressivo. Em uma entrevista à Axios, ele afirmou que uma organização deveria idealmente entrar em operação antes do fim de 2026. Também disse que os líderes dos principais laboratórios concordavam, em linhas gerais, sobre a necessidade de testes externos.

O órgão proposto abordaria uma lacuna regulatória específica. Governos podem impor restrições de exportação, condições de aquisição ou diretrizes de emergência. No entanto, essas ferramentas não criam um processo previsível de avaliação antes de cada lançamento significativo de modelo.

Um órgão permanente poderia desenvolver métodos de teste reutilizáveis. Poderia contratar especialistas, manter infraestrutura segura de computação, comparar resultados entre desenvolvedores e atualizar limites de risco. Agências individuais teriam dificuldade para reproduzir essa capacidade para cada modelo.

A proposta também reflete a visão de Hassabis de que os riscos da IA avançada estão se tornando mais concretos. Ele destacou operações cibernéticas, uso indevido em biologia, agentes cada vez mais autônomos e comportamento enganoso. Essas são áreas de capacidade testáveis, mesmo quando suas consequências sociais mais amplas permanecem incertas.

Para desenvolvedores, um protocolo compartilhado poderia reduzir o número de análises governamentais separadas. Para clientes corporativos, avaliações independentes poderiam fornecer evidências além do próprio relatório de segurança de um laboratório. Para autoridades, a organização poderia oferecer expertise sem exigir que cada agência monte uma equipe dedicada a modelos de fronteira.

Os mesmos benefícios criam pressão sobre desenvolvedores menores. A conformidade pode exigir acesso seguro ao modelo, documentação, equipe especializada e avaliações repetidas. Grandes laboratórios conseguem absorver essas exigências mais facilmente do que startups ou grupos de código aberto.

Modelos abertos criam outra complicação. Seus pesos podem ser distribuídos através de fronteiras e modificados após o lançamento. Um órgão concebido em torno de acesso confidencial pré-lançamento poderia ter dificuldade para analisar cada derivado ou aplicar uma restrição posterior.

A dimensão internacional é ainda mais difícil. Uma regra americana de acesso ao mercado pode alcançar desenvolvedores estrangeiros que atendem clientes dos EUA. Ela não pode obrigar automaticamente laboratórios que operam inteiramente em outra jurisdição.

É aí que a comparação com a IAEA se torna atraente. A Agência Internacional de Energia Atômica combina expertise técnica, inspeções, acordos internacionais e relações com governos nacionais. A IA, no entanto, não possui o sistema consolidado de tratados e a cadeia de suprimentos materiais da tecnologia nuclear.

Modelos de IA também são mais fáceis de copiar do que instalações nucleares. O treinamento exige recursos concentrados, mas a implementação pode se disseminar por serviços de nuvem, pesos baixáveis e destilação. A supervisão, portanto, precisa considerar tanto o desenvolvimento centralizado quanto a distribuição descentralizada.

O plano público de Hassabis dá um primeiro passo mais viável. Ele começa com uma organização americana de padrões e busca construir convergência internacional mais tarde. Essa sequência evita esperar por um tratado global antes de criar testes.

A contrapartida é a legitimidade política. Um órgão liderado pelos EUA poderia se tornar um controlador de acesso doméstico eficaz, mas ser visto no exterior como um instrumento da política industrial americana. A participação global dependeria de métodos transparentes e representação crível.

FINRA, a IAEA e uma Diferença Crucial

O arcabouço público de Hassabis se assemelha mais diretamente à FINRA do que à IAEA, e confundir esses modelos obscurece quem teria autoridade legal.

A FINRA é uma organização financiada pelo setor que opera sob a supervisão da Securities and Exchange Commission. Ela redige e aplica regras para corretoras registradas, examina empresas e disciplina violações dentro de um arcabouço legal.

Hassabis propôs um arranjo público-privado comparável para IA de fronteira. O financiamento do setor sustentaria talentos técnicos e recursos computacionais. A supervisão governamental forneceria legitimidade e uma possível via para conformidade obrigatória.

Um órgão nos moldes da IAEA parte de uma base diferente. O mandato da IAEA decorre de um estatuto internacional e de acordos entre Estados. Suas salvaguardas operam por meio de compromissos legais que os governos aceitam e implementam.

A distinção afeta quase todas as decisões de projeto.

Uma organização no estilo FINRA poderia ser criada dentro de um sistema nacional. Poderia vincular a certificação ao acesso ao mercado dos EUA. Poderia se desenvolver rapidamente se o governo, o Congresso, as agências e os principais desenvolvedores chegassem a um acordo.

Uma agência no estilo IAEA exigiria negociações diplomáticas, compromissos nacionais, direitos de inspeção, arranjos de financiamento e procedimentos para disputas. Poderia ter legitimidade mais ampla, mas estabelecer autoridade significativa levaria mais tempo.

As analogias também descrevem relações diferentes com o setor. A FINRA é uma organização de autorregulação cujos membros participam do sistema que financiam. A IAEA é uma organização intergovernamental cuja autoridade vem dos Estados, e não das empresas reguladas.

O plano de Hassabis tenta combinar características úteis de ambas as direções. Ele busca independência técnica, recursos do setor, supervisão pública e influência internacional eventual. A questão central continua sendo se uma única organização consegue manter as quatro.

Reportagens que descrevem a proposta como semelhante à IAEA podem estar se referindo à sua ambição, e não à sua estrutura imediata. A visão é de uma instituição de segurança confiável, reconhecida além das fronteiras. A implementação proposta começa mais próxima de uma autorregulação supervisionada federalmente.

Outra fonte de confusão é que líderes de IA ofereceram arcabouços sobrepostos. Sam Altman discutiu um sistema internacional comparado à IAEA. O CEO da Anthropic, Dario Amodei, apoiou um regulador com poderes governamentais diretos mais fortes.

A Axios resumiu a divisão como uma escolha entre modelos institucionais relacionados. Os líderes apoiam amplamente testes externos, mas discordam sobre quem deve tomar as decisões finais. Essas diferenças se tornam decisivas quando um modelo falha em uma avaliação.

Em um arranjo voluntário, um laboratório poderia adiar um lançamento, aplicar mitigações ou rejeitar a conclusão. Em um sistema obrigatório, uma agência poderia negar o acesso ao mercado. Em um sistema internacional, a aplicação das regras ainda dependeria fortemente dos governos participantes.

A analogia, portanto, não deve substituir os detalhes institucionais. Um nome histórico reconhecível torna a proposta mais fácil de explicar, mas não responde como a organização obteria evidências ou faria cumprir uma decisão.

A história google techmeme é mais bem compreendida como uma reportagem sobre um esforço político para criar um órgão independente do setor. Seu desenho final poderia se inspirar em múltiplos precedentes. Nenhum documento público verificado estabelece atualmente uma versão literal da IAEA para IA.

A Independência É o Teste Mais Difícil da Proposta

Um órgão de vigilância financiado pelo setor pode possuir conhecimento técnico, mas sua credibilidade depende de os financiadores conseguirem ou não influenciar nomeações, testes, conclusões ou fiscalização.

Hassabis imagina um conselho com maioria de especialistas técnicos independentes. Representantes do setor, do governo e do código aberto também teriam assentos. Essa estrutura tenta equilibrar competência com interesses concorrentes.

A composição do conselho, por si só, não pode garantir independência. As questões mais difíceis dizem respeito a orçamentos, nomeações de pessoal, acesso a evidências, direitos de publicação, recursos e procedimentos de destituição. São esses mecanismos que determinam se especialistas podem confrontar um grande financiador.

Os próprios testes criam oportunidades de influência. Os laboratórios conhecem seus sistemas melhor do que avaliadores externos e precisam explicar arquiteturas, salvaguardas e planos de implantação. Os revisores dependerão dessa cooperação enquanto tentam verificar as alegações corporativas.

Um regulador também precisa de acesso seguro. Modelos de fronteira podem conter segredos comerciais, capacidades sensíveis à segurança e informações que afetam produtos futuros. Uma violação no órgão de testes prejudicaria tanto a segurança nacional quanto a concorrência comercial.

Isso cria um difícil problema de pessoal. Os melhores avaliadores frequentemente trabalham em laboratórios líderes ou mantêm relações profissionais próximas com eles. Regras rígidas de conflito de interesses protegem a credibilidade, mas podem reduzir o grupo de talentos disponível.

O financiamento pelo setor apresenta outra troca. Órgãos públicos frequentemente têm dificuldade para igualar a remuneração privada ou garantir capacidade computacional suficiente. Contribuições dos laboratórios poderiam resolver esses problemas, mas somente se o financiamento não puder ser retirado após uma decisão indesejada.

Vários analistas questionaram a abordagem de autorregulação. Uma análise da CIO citou o analista da Gartner Nader Henein, que argumentou que empresas com fins lucrativos enfrentam conflitos inevitáveis entre acionistas e interesses públicos.

Outros críticos alertaram que um órgão centrado nos EUA poderia não ter aceitação global. Países poderiam interpretar testes de segurança nacional como parte de uma estratégia americana de inteligência ou industrial. Essa percepção poderia limitar a cooperação mesmo quando os métodos técnicos fossem sólidos.

A captura regulatória é outra preocupação. A captura ocorre quando um sistema de supervisão passa a servir aos interesses do setor regulado. Uma conformidade complexa pode, sem intenção, proteger empresas estabelecidas ao criar custos que concorrentes menores não conseguem suportar.

As maiores empresas de IA já mantêm equipes de segurança, departamentos jurídicos, relações governamentais e amplos recursos computacionais. Elas entrariam em qualquer regime de certificação com uma vantagem significativa. Uma startup poderia enfrentar a mesma regra formal sem apoio comparável.

Desenvolvedores de código aberto poderiam enfrentar uma adequação ainda pior. Um laboratório convencional pode fornecer acesso controlado ao modelo e programar um lançamento em torno de uma avaliação. Uma comunidade distribuída pode não ter uma única entidade jurídica capaz de assumir esses compromissos.

Essas preocupações não invalidam testes externos. Elas mostram por que a independência deve ser projetada como um sistema operacional, e não prometida como um princípio.

Salvaguardas críveis incluiriam financiamento protegido, critérios de avaliação transparentes, regras de governança publicadas, processos independentes de nomeação e procedimentos claros de recurso. A organização também precisaria de autoridade para divulgar falhas sem revelar detalhes técnicos perigosos.

Ela deveria distinguir testes de capacidades catastróficas da qualidade mais ampla do produto. Um modelo pode passar em avaliações de riscos biológicos ou cibernéticos e ainda assim produzir respostas não confiáveis, lidar inadequadamente com informações pessoais ou criar responsabilidade para usuários empresariais.

Esse limite importa para compradores. A certificação não deveria se tornar uma alegação geral de que um modelo é “seguro”. Ela indicaria apenas o desempenho em testes definidos, sob condições especificadas, em um momento específico.

A leitura cética, portanto, é direta. Um avaliador financiado pelo setor pode melhorar as evidências, mas não oferecer fiscalização independente. O valor da proposta depende de a autoridade pública poder agir quando participantes do setor discordarem de suas conclusões.

A Proposta Pressiona Todos os Laboratórios de IA de Fronteira

Um regime comum de testes imporia restrições a Google, OpenAI e Anthropic, mas também poderia estabilizar um mercado hoje moldado por intervenções governamentais improvisadas.

Google tem interesse comercial direto em regras previsíveis. Ela lança modelos Gemini em produtos para consumidores, nuvem, produtividade e desenvolvedores. Restrições repentinas poderiam interromper cronogramas de lançamento e compromissos com clientes em todo esse portfólio.

OpenAI enfrenta uma exposição semelhante. Seus modelos atendem consumidores, desenvolvedores, empresas e usuários governamentais. Uma avaliação antes do lançamento poderia atrasar a implantação, mas uma certificação reconhecida poderia reduzir a incerteza após a aprovação.

Anthropic construiu sua identidade em torno de pesquisa de segurança e políticas estruturadas de implantação. Também defendeu uma supervisão vinculante dos sistemas mais capazes. A empresa poderia apoiar avaliações comuns enquanto diverge sobre quem deveria exercer a autoridade final.

Esses laboratórios competem intensamente, mas compartilham vários interesses políticos. Todos querem regras que reconheçam uma categoria restrita de fronteira. Nenhum quer que todo modelo pequeno ou recurso rotineiro de software seja submetido ao mesmo processo de revisão.

Eles também preferem requisitos previsíveis a restrições repentinas. Um calendário de avaliações conhecido pode ser incorporado ao planejamento de produtos. Uma intervenção improvisada pode forçar negociações de última hora, sem testes ou prazos acordados.

Esse interesse compartilhado explica por que líderes rivais podem apoiar um órgão de vigilância. Isso não significa que concordem sobre limites, divulgação, modelos abertos, acesso internacional ou fiscalização. Cada decisão pode alterar a vantagem competitiva.

Os limites são especialmente sensíveis. Se apenas alguns modelos caros se qualificarem, as regras se concentrarão nos grandes laboratórios. Se os gatilhos de capacidade forem amplos demais, desenvolvedores menores poderão enfrentar requisitos concebidos para sistemas com recursos muito maiores.

Benchmarks também podem moldar a pesquisa. Os laboratórios otimizam em relação às métricas usadas para certificação, compras e comparação pública. Testes mal concebidos podem recompensar conformidade superficial ou deixar de identificar riscos que surgem apenas após a implantação.

Um sistema crível deve atualizar suas avaliações sem tornar os requisitos imprevisíveis. Ele também precisa de métodos resistentes à preparação deliberada pelos desenvolvedores. Caso contrário, os laboratórios poderão ajustar os modelos a testes conhecidos em vez de reduzir o risco subjacente.

A competição entre jurisdições acrescenta pressão. A União Europeia utiliza regras legais de IA e reguladores nacionais. O Reino Unido enfatizou um instituto de segurança de IA e cooperação voluntária. A China aplica seus próprios controles de licenciamento e segurança.

Um órgão de padrões dos EUA entraria nesse cenário existente, e não o substituiria. Sua contribuição mais forte poderia ser produzir evidências técnicas que outras jurisdições possam reconhecer. O reconhecimento mútuo reduziria testes duplicados sem impor leis idênticas.

Esse resultado exige confiança nos métodos subjacentes. Reguladores estrangeiros devem poder inspecionar protocolos, contestar premissas e contribuir para atualizações. Um processo americano fechado teria dificuldade para se tornar uma referência global.

Compradores empresariais deveriam acompanhar de perto essa competição institucional. Um relatório de avaliação reconhecido poderia se tornar parte dos requisitos de compras, seguros e gestão de riscos. Fornecedores poderiam precisar documentar qual versão do modelo passou em qual teste.

Desenvolvedores também poderiam encontrar novas práticas de lançamento. A submissão antecipada poderia criar intervalos maiores entre a conclusão interna e a disponibilidade pública. Equipes de aplicação precisariam planejar em torno de modelos cujas datas de lançamento continuam condicionais.

Trabalhadores do conhecimento veriam efeitos indiretos. Testes mais rigorosos poderiam reduzir o acesso a modelos com capacidades perigosas, mas não garantiriam precisão nas tarefas diárias. Os usuários ainda precisariam de verificação, controles de privacidade e políticas organizacionais claras.

O relatório google techmeme, portanto, aponta para além do esforço de lobby de um executivo. Ele revela um consenso emergente em torno da avaliação externa, ao lado de uma disputa mais profunda sobre autoridade e estrutura de mercado.

Três Sinais Mostrarão se o Órgão de Vigilância É Real

O próximo teste não é mais um endosso de um executivo de IA, mas evidências de que a proposta está adquirindo autoridade legal, capacidade operacional e credibilidade internacional.

O primeiro sinal é uma proposta formal da Casa Branca ou de uma agência. Ela deve identificar a base legal da organização, a agência supervisora, o escopo, o financiamento e o caminho de fiscalização. Discussões informais não podem responder a essas questões.

Uma proposta concreta reforçaria o argumento de que o lobby relatado se tornou política. O silêncio contínuo sugeriria que a administração permanece interessada, mas dividida. Compromissos públicos de desregulamentação também poderiam limitar os poderes obrigatórios de qualquer órgão.

O segundo sinal é um compromisso escrito de múltiplos laboratórios de fronteira. Google, OpenAI, Anthropic e outros desenvolvedores precisariam aceitar regras comuns de submissão e testes independentes. O apoio geral a avaliações de segurança não é suficiente.

Os detalhes deveriam abranger acesso antecipado, confidencialidade, resultados dos testes, remediação, recursos e avaliações malsucedidas. Um compromisso sem consequências preservaria o sistema voluntário que a proposta busca melhorar.

A participação de representantes do código aberto também importa. Sua inclusão não resolveria todos os problemas de fiscalização, mas sua exclusão enfraqueceria as alegações de que a organização representa toda a comunidade técnica.

O terceiro sinal é o reconhecimento fora dos Estados Unidos. A cooperação com o Reino Unido, instituições europeias e outros grandes mercados de IA indicaria que o órgão pode influenciar padrões globais. A rejeição no exterior exporia os limites de uma abordagem liderada pelos EUA.

A aceitação internacional não exige um único regulador universal. Os governos poderiam manter uma fiscalização soberana enquanto compartilham evidências técnicas e métodos de avaliação. Esse arranjo é mais plausível do que transferir autoridade imediata para uma nova agência global.

Os leitores também devem distinguir o progresso nos testes do progresso na governança. Uma avaliação piloto pode mostrar que os avaliadores têm capacidade técnica. Ela não pode provar que a instituição resistirá à pressão durante um lançamento comercial contestado.

O novo cargo de Hassabis na Alphabet lhe dá tempo e posição para continuar avançando a proposta. Também mantém visível o conflito de interesses. Ele defende regras que afetariam a empresa onde continua sendo cientista-chefe e líder sênior.

Essa tensão deve ser tratada como uma restrição de projeto, e não como uma acusação pessoal. Especialistas do setor possuem conhecimentos de que os governos precisam. Instituições públicas devem usar esse conhecimento sem abrir mão da responsabilidade final.

O resultado mais crível combinaria testes técnicos independentes com regras públicas aplicáveis. O setor poderia financiar a especialização e fornecer acesso aos modelos. O governo definiria obrigações legais, protegeria o devido processo e manteria a autoridade sobre o acesso ao mercado.

Um resultado mais fraco criaria um clube de certificação prestigioso, dominado por grandes laboratórios. Um órgão assim poderia gerar pesquisas úteis, ao mesmo tempo em que dificultaria a competição para desenvolvedores menores. Também poderia oferecer cobertura política sem alterar as decisões de lançamento.

Para desenvolvedores e compradores corporativos, a questão prática é se avaliações independentes passarão a fazer parte do processo de lançamento. Se isso acontecer, a documentação dos modelos, as análises de aquisição e os cronogramas de lançamento mudarão.

Para formuladores de políticas, a questão é se a velocidade técnica pode coexistir com a responsabilização democrática. Uma instituição ágil pode responder à evolução dos modelos, mas a rapidez não substitui uma autoridade transparente.

Para todos que acompanham a cobertura do google techmeme, o próximo passo é exigir detalhes institucionais. Fique atento à publicação de uma carta constitutiva, à nomeação de líderes independentes, a compromissos vinculantes dos laboratórios e à cooperação de reguladores estrangeiros. Esses sinais mostrarão se Hassabis propôs um sistema de segurança real ou apenas uma analogia convincente.