Crítica de Joe Lonsdale à Regulação de IA Pressiona a Campanha de Segurança da Anthropic

Joe Lonsdale acusou importantes empresas de IA de usar alertas sobre riscos existenciais para influenciar políticas públicas, apesar de seu próprio investimento na Anthropic. Sua crítica transforma o debate sobre a regulação de IA por Joe Lonsdale em um conflito direto envolvendo segurança, concorrência e poder político.

Falando no evento Reuters Momentum AI, em Austin, em 25 de setembro, Lonsdale mirou pessoas próximas à Anthropic e à OpenAI. Ele argumentou que o apoio delas a grupos externos de advocacy poderia ajudar algumas poucas empresas líderes a moldar as regras que governam a IA.

A acusação surgiu enquanto o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e Elon Musk defendiam um desenvolvimento mais lento de sistemas avançados. Seus alertas se concentram na possibilidade de que as medidas de segurança fiquem para trás diante de modelos cada vez mais capazes.

Lonsdale não descartou todos os riscos da IA. Ele afirmou que as preocupações com segurança eram reais e elogiou o talento técnico da Anthropic. Seu argumento mais específico era que uma regulação motivada pelo medo poderia consolidar as empresas que já controlam os modelos mais capazes.

Essa distinção importa porque ambos os lados agora aceitam que a IA pode causar danos graves. A discordância diz respeito a quem deve definir o risco inaceitável, como os governos devem responder e se os custos de conformidade protegerão o público ou as empresas já estabelecidas.

Crítica de Joe Lonsdale à Regulação de IA Mira o Poder de Mercado

A principal alegação de Lonsdale é que uma campanha por segurança em IA também pode funcionar como uma estratégia de controle de mercado.

Segundo a reportagem da Reuters, Lonsdale descreveu as propostas atuais das principais empresas de IA como perigosas. Ele alertou contra permitir que um oligopólio controle as políticas do governo.

Sua crítica concentrou-se, em parte, em grupos externos que defendem uma regulação mais rigorosa. Essas organizações podem encomendar pesquisas, reunir especialistas, promover legislação e influenciar a forma como os eleitores interpretam riscos técnicos.

Essa atividade não é inerentemente imprópria. As empresas participam rotineiramente de debates políticos que afetam seus produtos, clientes e responsabilidades legais. Desenvolvedores de IA de fronteira também detêm conhecimentos técnicos que faltam a muitas agências públicas.

A preocupação começa quando se torna difícil separar expertise técnica e influência financeira. Uma empresa pode identificar sinceramente um risco enquanto apoia regras que favorecem seu próprio modelo operacional.

Grandes laboratórios conseguem manter equipes de segurança, encomendar avaliações, garantir infraestrutura de computação e preparar divulgações extensas. Desenvolvedores menores podem ter dificuldades com as mesmas obrigações, mesmo quando seus sistemas apresentam menos risco.

A posição de Lonsdale, portanto, vincula a regulação da IA à captura regulatória. A captura regulatória ocorre quando regras concebidas para o interesse público passam a servir cada vez mais às organizações que deveriam supervisionar.

Sua relação com a Anthropic torna a crítica mais notável. A Reuters o descreveu como um pequeno investidor na empresa, enquanto ele também elogiou Amodei e o desempenho da Anthropic.

Essa combinação impede que a disputa se encaixe em uma visão simplista pró-empresa ou antiempresa. Lonsdale questiona as consequências políticas da agenda de segurança da Anthropic sem rejeitar as conquistas comerciais ou técnicas da empresa.

Ele também tem interesses no lado oposto da disputa política. Como fundador da 8VC, apoiou startups que se beneficiam de mercados acessíveis e de menos barreiras à expansão.

Lonsdale também apoiou grupos favoráveis ao desenvolvimento mais rápido da IA e a uma regulação mais leve. Isso significa que sua crítica também vem de um participante da disputa por influência, e não de um árbitro externo.

Isso não invalida seu alerta. Mostra que o argumento sobre a regulação da IA se tornou uma disputa entre coalizões organizadas com capital, relações políticas e teorias concorrentes sobre risco.

A coalizão da Anthropic enfatiza ameaças catastróficas, avaliação independente, transparência e aplicação governamental. A coalizão oposta enfatiza concorrência, força nacional, implantação rápida e limites à autoridade regulatória concentrada.

A questão difícil não é se algum dos lados tem interesses comerciais. Ambos têm. A questão é se as regras que propõem permanecem proporcionais às evidências e abertas à concorrência.

Uma regra pode enfrentar um perigo legítimo e ainda assim criar uma vantagem para empresas já estabelecidas. Da mesma forma, uma campanha antirregulação pode defender a concorrência enquanto deixa perigos graves insuficientemente controlados.

A crítica de Joe Lonsdale à regulação de IA importa porque obriga os formuladores de políticas a avaliar ambas as possibilidades ao mesmo tempo. As alegações de segurança exigem escrutínio técnico, enquanto os desenhos regulatórios exigem escrutínio econômico.

O debate se torna especialmente importante quando empresas propõem limites de capacidade, testes de receita ou restrições de implantação. Cada limite determina quais desenvolvedores enfrentam auditorias, penalidades ou intervenção governamental.

Esses limites devem resultar de evidências transparentes e revisão independente. Não devem depender apenas das preferências dos maiores laboratórios ou de seus opositores mais vocais.

Anthropic Quer Autoridade Governamental Com Poder de Aplicação

A Anthropic não está apenas pedindo que as empresas façam promessas voluntárias. Ela quer que os governos tenham autoridade aplicável sobre implantações perigosas.

O Advanced AI Framework da empresa propõe testes, transparência pública, avaliação independente e requisitos de segurança mais rigorosos para desenvolvedores de fronteira.

Também afirma que os governos deveriam poder bloquear ou dissuadir modelos que apresentem risco significativo de danos catastróficos. As penalidades propostas estariam vinculadas à receita anual global e aumentariam em caso de violações repetidas.

A Anthropic define sistemas de fronteira por meio de limites substanciais de computação e financeiros. Sua estrutura mira modelos treinados acima de 10²⁵ operações de ponto flutuante, uma medida de trabalho computacional.

Ela também aplicaria condições financeiras. A proposta identifica empresas com mais de US$ 500 milhões em receita relacionada à IA ou mais de US$ 1 bilhão em gastos com pesquisa em IA.

Esses limites sustentam a resposta da Anthropic à preocupação com captura regulatória. Eles foram concebidos para evitar a aplicação de obrigações de modelos de fronteira a toda startup, grupo de pesquisa ou empresa convencional de software.

A estrutura concentra-se em quatro categorias de risco. Elas abrangem uso indevido biológico, ciberataques, perda de controle humano e pesquisa automatizada em IA que acelera outras capacidades perigosas.

A Anthropic argumenta que os desenvolvedores devem avaliar seus sistemas antes do lançamento e publicar resumos de suas conclusões. Também apoia relatórios regulares de risco e exame independente de evidências internas sensíveis.

Sua Responsible Scaling Policy descreve relatórios de risco como avaliações que conectam capacidades dos modelos, cenários de ameaça, salvaguardas e exposição remanescente. A empresa planeja publicá-los a cada três a seis meses.

Essa estrutura tem uma lógica atraente. As obrigações aumentam com a capacidade e o risco demonstrados, em vez de tratar todo software como igualmente perigoso.

No entanto, a regulação baseada em limites sempre cria problemas de fronteira. Desenvolvedores podem contestar o método de medição, enquanto o progresso técnico pode tornar obsoleto um limite fixo.

Um limite de computação também pode não captar sistemas montados a partir de vários modelos, ferramentas e fontes externas de dados. Essas combinações podem produzir capacidade operacional significativa sem uma única execução de treinamento excepcionalmente grande.

Os limites financeiros introduzem outra complicação. Um desenvolvedor abaixo do limite ainda pode lançar um sistema especializado perigoso, enquanto uma grande empresa poderia enfrentar obrigações não relacionadas ao risco real de um modelo específico.

Essas preocupações não provam que a estrutura da Anthropic seja interesseira. Elas demonstram por que o desenho de políticas não pode se limitar a aceitar a avaliação de ameaças da empresa.

Especialistas independentes precisam ter acesso a evidências suficientes para testar tanto as alegações de capacidade quanto as alegações de segurança. As agências também precisam de capacidade técnica que não dependa inteiramente das empresas reguladas.

A Anthropic reconhece a necessidade de avaliação externa, mas a independência prática continua difícil. Avaliadores qualificados podem trabalhar para laboratórios, prestar consultoria a eles, buscar seu financiamento ou depender de acesso controlado aos modelos.

A autoridade governamental apresenta sua própria contrapartida. O poder de interromper uma implantação perigosa pode evitar danos severos. O mesmo poder pode ser abusado, politizado ou ampliado além de seu propósito original.

A Anthropic afirma que as restrições devem evitar excessos do governo. Sua estrutura inclui salvaguardas destinadas a limitar o escopo da aplicação.

Ainda assim, a empresa também argumenta que a transparência por si só é insuficiente. Essa posição coloca a discordância com Lonsdale em termos claros.

Lonsdale teme que uma regulação justificada por cenários extremos consolide o controle institucional. A Anthropic acredita que compromissos voluntários não conseguem gerir riscos cujas consequências podem ser irreversíveis.

Ambas as alegações merecem análise. Nenhuma deveria ser tratada como comprovada apenas por vir de um investidor, executivo, pesquisador ou autoridade governamental.

O teste de política deve ser concreto. Os reguladores precisam identificar a capacidade que está sendo medida, a evidência de dano, a mitigação exigida e o caminho para contestar uma decisão.

Sem esses elementos, “risco catastrófico” pode se tornar uma expressão política elástica. Com eles, a regulação pode se tornar um processo passível de revisão, e não uma expressão de medo.

O Debate sobre Segurança Agora É uma Disputa por Financiamento Político

A governança da IA já não se limita a artigos de pesquisa e equipes corporativas de segurança. Ela está se tornando uma disputa organizada por influência eleitoral e legislativa.

Uma análise da Axios descreveu várias organizações bem financiadas que buscam moldar a política americana de IA durante o ciclo eleitoral de 2026.

Leading the Future apoia o desenvolvimento rápido e uma regulação mais leve. A Axios informou que o cofundador da OpenAI Greg Brockman, Lonsdale, Andreessen Horowitz e Perplexity estavam entre seus apoiadores financeiros.

O grupo afirmou ter arrecadado mais de US$ 125 milhões. Suas organizações associadas incluíam comitês de ação política que apoiavam candidatos alinhados a uma agenda política pró-desenvolvimento.

Do lado da segurança, a Anthropic anunciou uma contribuição de US$ 20 milhões para a Public First Action. Essa organização defende transparência, supervisão mais rigorosa e requisitos de segurança em IA.

A Meta apoiou grupos políticos separados que se opõem ao que considera legislação estadual onerosa. O resultado não é uma simples batalha entre defensores da segurança e empresas de tecnologia.

Empresas de tecnologia estão presentes em toda a disputa. Algumas apoiam controles mais rigorosos, outras se opõem a eles, e algumas defendem regras diferentes em diferentes jurisdições.

Esse gasto político dá à crítica de Lonsdale um contexto factual. Empresas de IA e seus investidores estão usando advocacy organizado para moldar as regras que governam seu setor.

No entanto, as mesmas evidências complicam sua posição. Lonsdale participa de uma rede concorrente que também busca influência política.

O conflito principal, portanto, não é a influência da indústria contra um processo democrático intocado. É uma coalizão da indústria contra outra, com formuladores de políticas e eleitores convidados a julgar suas alegações.

A linguagem sobre riscos existenciais tem uma força política particular. Ela descreve danos tão graves que esperar por certeza completa pode parecer irresponsável.

Esse enquadramento pode justificar testes preventivos, exigências de divulgação, limites de implantação ou poderes governamentais de emergência. Também pode empurrar danos imediatos para segundo plano.

Os sistemas de IA atuais já geram preocupações envolvendo fraude, discriminação, privacidade, deslocamento de trabalhadores, cibersegurança e decisões automatizadas pouco confiáveis. Esses danos são mais fáceis de observar do que cenários de extinção humana.

Ainda assim, os riscos de curto prazo e os catastróficos não são mutuamente exclusivos. Uma política sólida pode lidar com danos presentes mensuráveis enquanto se prepara para capacidades que ainda não surgiram plenamente.

O perigo surge quando cenários distantes se tornam imunes à avaliação. Se todo pedido de evidência for tratado como imprudência, o argumento de segurança se torna politicamente infalsificável.

A falha oposta também é possível. Se a incerteza se tornar motivo para não fazer nada, os governos podem esperar até que uma capacidade perigosa esteja amplamente disponível.

A avaliação de segurança de 2026 descreveu a probabilidade, a natureza e o momento dos riscos de perda de controle como excepcionalmente ambíguos. Mais de 100 especialistas independentes orientaram esse relatório.

Ela identificou sinais iniciais de capacidades relevantes, mas não em níveis que possibilitariam uma perda de controle. Essa conclusão não sustenta nem alarmismo incondicional nem tranquilização incondicional.

Ela sugere que a política pública deve vincular obrigações às evidências observadas. As avaliações devem testar capacidades específicas de biologia, cibersegurança, autonomia e replicação antes de acionar restrições mais fortes.

O processo também deve divulgar as incertezas. Um modelo pode ter bom desempenho em testes controlados e ainda falhar de forma imprevisível após a implantação. Um resultado dramático em laboratório também pode se revelar difícil de reproduzir.

Campanhas políticas raramente recompensam esse nível de qualificação. Mensagens construídas em torno da extinção ou da rivalidade econômica são mais fáceis de comunicar do que avaliações condicionais de risco.

Isso cria pressão sobre eleitores e legisladores. Eles precisam separar a mensagem pública mais forte das evidências subjacentes mais robustas.

Isso também pressiona desenvolvedores menores. Eles podem não ter acesso a formuladores de políticas, informações classificadas sobre ameaças ou recursos para promover um modelo regulatório alternativo.

O processo de formulação de políticas precisa de representação para além dos laboratórios de fronteira e investidores de capital de risco. Cientistas independentes, grupos da sociedade civil, profissionais de segurança, trabalhadores, startups e comunidades afetadas detêm conhecimentos relevantes.

Caso contrário, a disputa sobre a governança da IA pode se tornar exatamente o que Lonsdale teme: uma competição entre pessoas ricas e influentes para decidir quais delas escreverão as regras.

O Risco Existencial da IA Continua Real, mas Profundamente Incerto

Lonsdale identifica um risco de governança crível, mas seu argumento não estabelece que os alertas sobre IA catastrófica sejam fabricados.

Os sistemas de IA adquiriram capacidades mais fortes em programação, uso de ferramentas, cibersegurança e execução autônoma de tarefas. Essas capacidades criam benefícios reais e caminhos plausíveis para usos indevidos graves.

A Anthropic cita ameaças biológicas, operações cibernéticas, perda de controle e pesquisa automatizada como suas principais categorias catastróficas. Cada categoria envolve incerteza, mas nenhuma é conceitualmente impossível.

O risco cibernético oferece a conexão mais clara com o presente. Um modelo capaz pode ajudar defensores a descobrir vulnerabilidades, explicar código desconhecido e priorizar correções.

As mesmas funções podem ajudar invasores a inspecionar sistemas ou automatizar partes de uma intrusão. Por isso, controles de acesso e monitoramento importam mesmo antes de um modelo se aproximar de inteligência geral em nível humano.

O risco biológico é mais difícil de medir publicamente. As avaliações relevantes podem conter, elas próprias, informações sensíveis, limitando o que empresas e governos podem divulgar.

Esse sigilo cria um problema real de supervisão. Formuladores de políticas podem receber conclusões alarmantes sem evidências públicas suficientes para verificação independente.

Os cenários de perda de controle são ainda mais incertos. Em geral, envolvem sistemas que perseguem objetivos além da tarefa atribuída, burlam salvaguardas ou obtêm recursos sem autorização.

Testes controlados mostraram modelos tomando ações inesperadas em condições artificiais. Esses resultados merecem atenção, mas não preveem automaticamente o comportamento em implantações comuns.

A Associated Press informou que especialistas ainda não têm uma estimativa amplamente aceita sobre o momento ou a probabilidade de uma catástrofe de IA. Essa ausência de consenso deve moldar a linguagem usada por ambos os lados.

Defensores da segurança não devem apresentar previsões contestadas como resultados estabelecidos. Defensores da desregulamentação não devem tratar a incerteza como prova de que o risco subjacente é imaginário.

A posição da Anthropic ganhou urgência depois que Amodei alertou sobre agentes interconectados operando pela internet. Ele argumentou que as salvaguardas precisam acompanhar o ritmo antes que esses sistemas se tornem amplamente capazes.

Altman, da OpenAI, também defendeu um ritmo mais lento e maior coordenação entre desenvolvedores. Essas declarações reforçam a impressão de uma preocupação que abrange todo o setor.

Elas também sustentam a suspeita de Lonsdale de que empresas podem estabelecer expectativas políticas por meio de alertas públicos coordenados. As mesmas declarações podem ser simultaneamente julgamentos de segurança sinceros e mensagens estrategicamente úteis.

Os incentivos comerciais não apontam em apenas uma direção. Uma empresa pode se beneficiar de regras que oneram concorrentes, mas também perde receita quando restrições de segurança atrasam a implantação.

Executivos podem discordar genuinamente sobre qual efeito importa mais. Equipes diferentes dentro da mesma empresa também podem ter visões concorrentes.

Investidores enfrentam tensões semelhantes. Eles querem que empresas do portfólio cresçam, mas um incidente grave de segurança pode destruir valor, gerar responsabilidade e provocar uma regulamentação mais dura.

A abordagem analítica mais segura separa três afirmações. Primeiro, a IA avançada cria riscos catastróficos plausíveis. Segundo, a probabilidade e o momento permanecem altamente incertos.

Terceiro, empresas que promovem regulamentação podem obter vantagens estratégicas com as regras que apoiam. Aceitar qualquer uma dessas afirmações não exige rejeitar as demais.

Portanto, a política pública deve incluir mecanismos que funcionem sob incerteza. As exigências podem variar conforme a capacidade testada, o contexto de implantação, o nível de acesso e as evidências de uso indevido.

As regras também devem permitir revisão. Um limite que pareça sensato em 2026 pode se tornar irrelevante após mudanças na arquitetura dos modelos ou na eficiência computacional.

A replicação independente é crucial. Quando uma empresa relata uma capacidade perigosa, avaliadores externos aprovados devem testar a alegação em condições seguras.

Os reguladores devem publicar o máximo de metodologia que a segurança permitir. Devem explicar por que um teste acionou uma intervenção e como um desenvolvedor pode contestar o resultado.

Cláusulas de caducidade podem reduzir o risco de barreiras permanentes de mercado. Uma regra deve expirar ou passar por revisão, a menos que as evidências atuais ainda a sustentem.

Desenvolvedores menores também precisam de caminhos proporcionais. Infraestrutura compartilhada de avaliação e relatórios padronizados poderiam reduzir custos de conformidade sem enfraquecer salvaguardas essenciais.

Por fim, a fiscalização deve se concentrar no risco, e não na identidade corporativa. O governo deve aplicar padrões comparáveis à Anthropic, OpenAI, Meta, xAI e futuros participantes.

Essas proteções não encerrariam a disputa sobre o risco existencial da IA. Elas tornariam mais difícil que qualquer um dos lados convertesse previsões incertas em poder político sem controle.

Três Sinais Mostrarão Qual Lado Está Certo

A próxima fase da disputa sobre a regulamentação de IA envolvendo Joe Lonsdale será decidida pelo desenho das políticas, testes independentes e acesso ao mercado.

O primeiro sinal é se os legisladores adotam regras baseadas em capacidades e em evidências passíveis de revisão. A estrutura da Anthropic fornece um ponto de partida detalhado, mas propostas governamentais precisam resistir a um escrutínio mais amplo.

Observe como as leis definem um modelo de fronteira, dano catastrófico e uma implantação inaceitável. Definições vagas reforçariam o alerta de Lonsdale sobre autoridade expansiva.

Gatilhos claros fortaleceriam o argumento da Anthropic. Uma regra se torna mais crível quando desenvolvedores sabem quais resultados de teste acionam supervisão e como recorrer.

O segundo sinal é a qualidade das avaliações independentes. A política de escalonamento da Anthropic exige revisão externa quando seus modelos atingem condições definidas.

A questão decisiva é se os revisores recebem acesso significativo. Um resumo público bem elaborado não pode substituir o exame de métodos, falhas, mitigações e evidências sem redações.

A independência dos avaliadores também precisa de proteção. Governos e organismos de padronização devem divulgar conflitos, relações de financiamento, restrições de acesso e áreas nas quais as conclusões permanecem incertas.

Evidências reproduzíveis de capacidades perigosas enfraqueceriam alegações de que empresas dependem principalmente do medo. Resultados inconsistentes ou inacessíveis fortaleceriam o ceticismo.

O terceiro sinal é o que acontece com concorrentes menores após a chegada de novas regras. A estrutura do mercado oferece um teste prático para o argumento de captura regulatória de Lonsdale.

Se os custos de conformidade bloquearem startups enquanto deixarem inalteradas as práticas das empresas já estabelecidas, os formuladores de políticas devem reconsiderar o desenho. O público ganha pouco com regras que apenas formalizam o poder corporativo existente.

Se exigências proporcionais melhorarem a segurança sem reduzir a entrada, a abordagem da Anthropic parecerá mais defensável. Ferramentas compartilhadas de teste e obrigações estritamente direcionadas podem ajudar a alcançar esse equilíbrio.

A influência financeira também merece atenção contínua. Divulgações de organizações políticas podem mostrar quais empresas, investidores e executivos financiam cada posição política.

O dinheiro, por si só, não determina se um argumento está correto. Mas revela quem possui recursos para repetir esse argumento e convertê-lo em linguagem legislativa.

Os leitores também devem observar se empresas de IA alteram seu próprio comportamento de lançamento. Apelos por desenvolvimento mais lento têm mais peso quando as empresas aceitam restrições mensuráveis sobre si mesmas.

Se os laboratórios continuarem acelerando enquanto exigem restrições que concorrentes não podem pagar, a inconsistência se tornará difícil de ignorar.

Por outro lado, pausas voluntárias não substituem integralmente regras públicas. Um compromisso privado pode mudar quando mudam os executivos, investidores ou condições competitivas.

O sistema mais crível combinaria testes das empresas, verificação independente, padrões públicos e fiscalização governamental responsável. Cada camada controlaria as demais.

A intervenção de Lonsdale não resolve se a IA de fronteira representa uma ameaça existencial. Ela muda o ônus da prova em torno das políticas propostas em nome dessa ameaça.

A Anthropic e outros laboratórios devem mostrar que suas regras visam riscos mensuráveis sem proteger um oligopólio. Lonsdale e seus aliados devem explicar como uma regulamentação mais leve lida com perigos críveis de alto impacto.

Para desenvolvedores e compradores corporativos, isso é mais do que uma discordância filosófica. Novas regras podem afetar a disponibilidade de modelos, cronogramas de produtos, exigências de avaliação e o número de fornecedores viáveis.

Trabalhadores do conhecimento também têm interesse nisso. Decisões de governança moldarão quais sistemas de IA chegam aos locais de trabalho, quais salvaguardas incluem e quem permanece responsável quando falham.

A pergunta certa não é se segurança ou concorrência importa mais. Os formuladores de políticas devem demonstrar que cada restrição responde às evidências e preserva espaço para concorrentes responsáveis.

Observe as próximas definições legislativas, as primeiras análises de risco verdadeiramente independentes e a taxa de sobrevivência dos desenvolvedores menores. Esses sinais revelarão se a governança de segurança protege o público ou concentra poder.