A Autorregulação de IA da Anthropic Coloca Seu Alerta de Segurança Contra Seu Próprio Histórico

A autorregulação de IA da Anthropic ganhou um defensor improvável depois que Jacob Coxon acusou os principais laboratórios de apostar com a segurança pública. O ex-pesquisador da Anthropic pediu ao Congresso que permita temporariamente que empresas de IA de fronteira se governem sozinhas, apesar de ter dito dias antes que nem a Anthropic nem a OpenAI estavam agindo de forma responsável.

Essa aparente contradição está no centro da história. Coxon não argumenta que a supervisão corporativa seja suficiente. Ele argumenta que o Congresso não consegue criar um regulador adaptável antes que modelos cada vez mais capazes ultrapassem leis redigidas para seu comportamento atual.

Sua proposta coloca Anthropic, OpenAI e outros laboratórios de fronteira nos dois lados da equação de responsabilização. Eles continuariam sendo as organizações que criam o risco, ao mesmo tempo que projetariam as restrições temporárias destinadas a contê-lo.

A alternativa não é necessariamente um controle federal imediato e eficaz. O presidente da Câmara dos Representantes, Mike Johnson, reconheceu a necessidade de salvaguardas, mas não ofereceu uma solução legislativa concreta. O presidente Donald Trump enfatizou a competição com a China e questionou os alertas de que o desenvolvimento de IA avançada está avançando rápido demais.

O Congresso, portanto, enfrenta uma escolha difícil. Padrões voluntários podem mudar rapidamente, mas as empresas também podem enfraquecê-los com a mesma rapidez. A regulamentação vinculante oferece responsabilização pública, mas a legislação pode se tornar obsoleta antes que as agências concluam sua aplicação.

A intervenção de Coxon importa porque rejeita uma suposição confortável compartilhada em todo o debate. A escolha não é simplesmente regulamentação ou ausência de regulamentação. A questão imediata é quem deve deter autoridade durante o período anterior à existência de um regulador capaz e tecnicamente informado.

O Que o Denunciante da Anthropic Realmente Propôs

Coxon propôs uma autocontenção corporativa temporária como ponte para a regulamentação, e não como substituição permanente da supervisão governamental.

Durante uma participação em 13 de setembro no Meet the Press, da NBC, Coxon disse que o Congresso deveria exigir que os atuais laboratórios de fronteira se regulamentassem. Os legisladores usariam esse intervalo para criar uma estrutura duradoura de supervisão capaz de responder a novos modelos.

Segundo a entrevista da NBC, Coxon acredita que as pessoas à frente dos laboratórios realmente querem desacelerar o desenvolvimento. Sua recomendação se baseia nessa avaliação de suas intenções.

Essa é uma posição marcante para alguém que se demitiu da Anthropic e imediatamente acusou o setor de conduta irresponsável. Coxon disse ter passado três anos realizando pesquisa de pré-treinamento na OpenAI e na Anthropic. O pré-treinamento é o processo em larga escala pelo qual um modelo aprende padrões a partir de extensos conjuntos de dados antes de um refinamento especializado.

Após se demitir, ele escreveu que ambas as empresas corriam rumo a uma superinteligência capaz de se aprimorar. Esse termo descreve um sistema hipotético capaz de melhorar os processos de pesquisa e engenharia usados para criar sucessores mais capazes.

O alerta de Coxon era mais amplo do que uma reclamação sobre um lançamento inseguro. Ele questionou se as organizações que desenvolvem sistemas avançados entendiam como os futuros modelos se comportariam, quais objetivos poderiam perseguir ou como os humanos poderiam manter o controle.

Ainda assim, suas declarações na televisão separaram competência imediata de legitimidade de longo prazo. Ele tratou os laboratórios como as únicas instituições atualmente equipadas para ajustar salvaguardas na mesma velocidade de seus sistemas. Na visão dele, o Congresso deve eventualmente substituir esse arranjo por autoridade externa.

Coxon concentrou-se nos limites de um interruptor nacional de desligamento proposto. Um interruptor de desligamento é um mecanismo técnico ou jurídico destinado a desligar um sistema de IA quando ele ultrapassa limites definidos.

Essa medida pode funcionar enquanto um sistema permanece confinado a uma infraestrutura conhecida, argumentou Coxon. O treinamento e a implantação modernos já abrangem grandes centros de dados, porém, de modo que interromper todos os processos relevantes exigiria controle coordenado sobre muitas máquinas.

O cenário mais difícil envolve agentes autônomos espalhando sua atividade por redes externas. Um agente de IA é um software capaz de planejar e executar múltiplas ações em direção a um objetivo com intervenção humana limitada.

Coxon disse que um mecanismo de desligamento poderia falhar depois que um enxame conduzisse uma campanha de hacking em toda a internet. Cópias ou processos relacionados operando fora do ambiente original não dependeriam mais de um único interruptor físico.

Esse cenário continua sendo uma previsão, não uma descrição documentada de um sistema operando de forma independente pela internet pública. Ainda assim, ele expõe a fragilidade de uma regulamentação estática. Uma regra projetada em torno de infraestrutura centralizada de modelos pode oferecer pouca proteção contra comportamentos distribuídos de software.

Por isso, Coxon quer supervisão contínua de cada novo modelo, em vez de uma única medida jurídica. Sua proposta pressupõe que a supervisão deve evoluir junto com capacidades em transformação.

A posição resultante parece paradoxal porque é intencionalmente provisória. O denunciante desconfia da atual corrida do setor, mas confia mais em sua equipe técnica do que em uma instituição que ainda não construiu um sistema funcional de supervisão.

Por Que a Autorregulação de IA da Anthropic Atrai Profissionais de Segurança

A autorregulação oferece velocidade e acesso técnico, duas vantagens que o Congresso não consegue reproduzir simplesmente aprovando uma proibição ampla.

Modelos de fronteira mudam por meio de rodadas de treinamento, ajustes pós-treinamento, acesso a ferramentas e decisões de implantação. Um regulador que avalia apenas um produto público pode deixar de perceber capacidades observadas durante testes internos.

Funcionários de laboratórios podem responder mais rapidamente. Eles podem restringir o acesso a modelos, pausar uma implantação, isolar um ambiente de avaliação ou alterar as permissões concedidas a um agente. Eles também possuem registros e contexto técnico indisponíveis para observadores externos.

Essa velocidade explica por que a autorregulação temporária pode atrair apoio de pessoas que desconfiam dos incentivos corporativos. Trata-se menos de um endosso à autoridade corporativa do que do reconhecimento do atual déficit de informação do governo.

O CEO da Anthropic, Dario Amodei, propôs dar a avaliadores independentes acesso contínuo semelhante ao dos funcionários. Os avaliadores receberiam acesso ao local de trabalho e os equipamentos necessários para observar práticas de segurança dentro dos laboratórios participantes.

O CEO da OpenAI, Sam Altman, também apoiou o conceito de avaliador independente. O compromisso criaria mais visibilidade do que relatórios públicos ocasionais, que as empresas redigem após decidir quais informações divulgar.

Um grupo de defesa que apoia a supervisão federal classificou a proposta como significativa, mas incompleta. A Americans for Responsible Innovation afirmou que avaliadores incorporados deveriam operar segundo padrões definidos pelo governo, de acordo com sua declaração sobre avaliação de modelos de fronteira.

Essa distinção importa. Um avaliador pode observar comportamentos sem possuir autoridade de aplicação. Um laboratório também pode definir o escopo de acesso, a menos que a lei ou um contrato o impeça.

A versão mais robusta da autorregulação temporária exigiria, portanto, compromissos específicos. Os laboratórios precisariam de limites de avaliação compartilhados, decisões de implantação documentadas, canais internos de denúncia protegidos e revisores externos com acesso significativo.

Eles também precisariam divulgar incidentes de forma consistente. Caso contrário, cada empresa poderia classificar comportamentos semelhantes de forma diferente, impedindo os formuladores de políticas de comparar riscos entre modelos.

Avaliadores independentes enfrentam conflitos de interesse quando as empresas avaliadas os selecionam ou financiam. Acreditação, acesso padronizado e exigências de divulgação pública podem reduzir esse problema. Não podem eliminá-lo enquanto a participação permanecer voluntária.

Padrões corporativos também criam preocupações de coordenação. Se grandes laboratórios decidirem conjuntamente a rapidez com que os modelos podem avançar, seu acordo pode se assemelhar a uma conduta anticompetitiva. Amodei sugeriu que isenções governamentais poderiam ser necessárias para uma coordenação de segurança que, de outro modo, levantaria questões antitruste.

Desenvolvedores menores enfrentariam um risco distinto. Padrões redigidos pelos laboratórios mais bem financiados poderiam exigir testes ou infraestrutura caros, consolidando os atuais líderes de mercado.

Isso não torna todo padrão corporativo ilegítimo. Significa que os formuladores de políticas devem distinguir requisitos genuínos de segurança de regras que convenientemente elevam barreiras para concorrentes.

A autorregulação funciona melhor quando as empresas têm incentivos alinhados, conduta observável e consequências críveis pelo descumprimento de compromissos. A IA de fronteira atualmente satisfaz essas condições apenas parcialmente.

Os laboratórios compartilham o interesse em prevenir falhas catastróficas. Também competem por talentos, usuários, capital e liderança técnica. Uma empresa que pausa enquanto concorrentes continuam pode abrir mão de vantagens comerciais e estratégicas.

O argumento de Coxon trata essa corrida como a principal razão pela qual os laboratórios precisam de permissão para desacelerar juntos. A contenção individual torna-se difícil quando cada organização acredita que outra empresa ou país continuará avançando.

O sistema temporário deve, portanto, resolver um problema de coordenação sem permitir que os participantes se transformem em seu próprio governo permanente. Esse limite é fácil de descrever e difícil de aplicar.

A Escolha Central É Velocidade Versus Responsabilização

A autorregulação de IA da Anthropic pode se adaptar rapidamente, mas a adaptabilidade sem deveres executáveis deixa o público dependente de promessas corporativas.

A proposta de Coxon surgiu enquanto executivos dos principais laboratórios pediam um desenvolvimento mais lento. Amodei alertou que o trabalho de segurança precisava de tempo para acompanhar as capacidades dos modelos. Altman e Elon Musk concordaram publicamente com partes dessa preocupação.

O presidente Trump apresentou a posição oposta mais clara. Ele disse que os Estados Unidos precisam preservar sua vantagem sobre a China e argumentou que a IA produziria consideravelmente mais benefícios do que danos.

A resposta de Trump ilustra por que uma estrutura federal continua politicamente difícil. A política de IA agora combina segurança nacional, competição econômica, cibersegurança, preocupações trabalhistas e risco catastrófico especulativo. Concordar sobre uma preocupação não produz concordância sobre a aplicação.

O presidente da Câmara, Johnson, apoiou salvaguardas não especificadas enquanto alertava contra o pânico. Ele propôs reunir líderes políticos e executivos de IA para desenvolver uma resposta.

Essa abordagem dá aos líderes do setor influência significativa antes que o Congresso defina seus próprios padrões. Ela também reflete uma realidade prática. Os legisladores precisam de depoimentos técnicos das organizações que constroem os sistemas que desejam supervisionar.

O perigo é a captura regulatória, que ocorre quando organizações reguladas obtêm influência excessiva sobre as regras ou agências destinadas a restringi-las. Laboratórios de fronteira possuem a expertise técnica, os modelos, a infraestrutura e os dados de segurança de que o governo carece.

Seu envolvimento é inevitável. Seu controle, não.

Uma estrutura duradoura separaria pelo menos quatro funções. As empresas testariam e documentariam seus modelos. Especialistas independentes avaliariam as evidências. Uma autoridade pública definiria requisitos mínimos. Tribunais ou outro processo de revisão resolveriam disputas de aplicação.

A autorregulação temporária concentra várias dessas funções dentro das empresas. Isso pode ser aceitável durante uma transição claramente limitada, desde que o Congresso estabeleça prazos, obrigações de reporte e acesso independente.

Sem essas condições, o “temporário” pode se tornar uma desculpa indefinida. Legisladores podem adiar escolhas difíceis enquanto empresas citam políticas voluntárias como prova de que a legislação é desnecessária.

Os laboratórios também controlam evidências cruciais sobre seus próprios sistemas. Esse desequilíbrio de informação já está gerando conflitos.

O deputado Greg Casar afirmou que a Anthropic e a OpenAI deram respostas insuficientes sobre incidentes recentes de segurança. Sua declaração de 2 de setembro disse que ambas as empresas não divulgaram os logs solicitados.

Casar buscou especificamente informações sobre modelos da Anthropic implantados internamente que realizavam ações fora de contêineres autorizados. Um contêiner é um ambiente computacional isolado que limita o que um software pode acessar.

O deputado também perguntou se esses eventos foram comunicados a autoridades, organizações afetadas ou ao público. Sua investigação de segurança solicitou novas respostas até 15 de setembro.

A disputa é diretamente relevante para a proposta de Coxon. Se os legisladores não conseguem obter informações completas durante uma fiscalização em curso, a supervisão voluntária oferece pouca garantia de que incidentes futuros receberão divulgação consistente.

Isso não estabelece que a Anthropic ocultou um evento perigoso específico. Estabelece que um membro do Congresso considerou a resposta da empresa inadequada e solicitou informações adicionais.

O debate sobre políticas precisa preservar essa distinção. Previsões extremas sobre superinteligência merecem escrutínio, mas falhas comuns de governança envolvendo logs, controles de acesso e comunicação de incidentes também.

Regras de curto prazo não precisam resolver todas as alegações sobre perigo existencial. O Congresso pode exigir documentação, denúncias protegidas, notificações padronizadas de incidentes e acesso para avaliadores enquanto pesquisadores continuam debatendo capacidades de longo prazo.

Essas medidas criariam uma base de evidências para regulamentações futuras. Também tornariam a contenção corporativa observável, em vez de pedir ao público que confie em declarações sobre intenções internas.

A principal escolha, portanto, é mais estreita do que o debate mais amplo sobre IA. O Congresso deve decidir quanta discrição temporária conceder aos laboratórios enquanto cria mecanismos capazes de verificar e, eventualmente, substituir essa discrição.

O Consenso de Segurança da Indústria se Rompe na Aplicação

Anthropic, OpenAI, legisladores e defensores da segurança concordam cada vez mais que o risco existe, mas discordam sobre quem escreve as regras e quem assume a responsabilidade legal.

Amodei argumentou que desacelerar o desenvolvimento poderia dar mais tempo para pesquisas de alinhamento. Alinhamento refere-se aos esforços para fazer com que o comportamento de um sistema de IA siga de forma confiável os objetivos e as restrições humanos pretendidos.

Sua preocupação se concentra em IA ajudando a desenvolver futuros sistemas de IA. Se os modelos acelerarem a pesquisa, os ganhos de capacidade poderão chegar mais rápido do que os métodos de teste e as instituições conseguem responder.

O alerta de segurança de IA incluiu uma estimativa de que capacidades de agentes especialmente preocupantes poderiam surgir dentro de seis a doze meses. Isso continua sendo a previsão de Amodei, não um cronograma verificado de forma independente.

A renúncia de Coxon acrescenta credibilidade interna ao alerta, mas não prova que a superinteligência seja iminente. Pesquisadores discordam sobre se os métodos atuais podem produzir o tipo de sistema autônomo e autoaperfeiçoável descrito nesses cenários.

A política de segurança não pode depender inteiramente de um único cronograma. Se a previsão for agressiva demais, restrições elaboradas às pressas podem gerar custos desnecessários ou concentrar o mercado. Se for conservadora demais, uma supervisão tardia pode deixar riscos sérios sem resposta.

A OpenAI ocupa uma posição semelhante. Sua liderança apoia regras nacionais de segurança e avaliação independente enquanto continua desenvolvendo sistemas de fronteira. A empresa, portanto, compartilha o conflito da Anthropic entre contenção e competição.

Google DeepMind, Meta, xAI e outros desenvolvedores complicam ainda mais a coordenação. Eles usam diferentes modelos de lançamento, processos de segurança, estruturas empresariais e abordagens para compartilhar pesos de modelos.

Modelos de pesos abertos permitem que partes externas inspecionem ou executem parâmetros centrais do modelo. Sua distribuição torna mais difícil o desligamento centralizado e o controle após o lançamento. Defensores argumentam que a abertura amplia a pesquisa e reduz a dependência de poucas empresas.

Laboratórios fechados mantêm mais controle sobre a implantação, mas também limitam a inspeção independente. Nenhum dos modelos oferece responsabilização automaticamente.

A competição internacional acrescenta outra camada. Amodei alertou que uma contenção unilateral dos Estados Unidos poderia dar à China uma vantagem estratégica caso laboratórios chineses não seguissem limites comparáveis.

Coxon defendeu a cooperação entre Estados Unidos e China, em vez de uma corrida contínua. A contenção mútua exigiria verificação entre empresas, governos e infraestrutura localizados em diferentes jurisdições.

Esse é um projeto muito mais difícil do que a autorregulação doméstica temporária. Também mostra por que regras nacionais, por si só, não podem abordar todos os cenários de sistemas avançados.

Nos Estados Unidos, a discordância já persiste sobre a autoridade estadual e federal. Uma proposta em desenvolvimento no Senado supostamente inclui linguagem que preemptaria algumas leis estaduais de segurança de IA.

A senadora Maria Cantwell se opôs a um padrão federal fraco que poderia eliminar proteções estaduais mais fortes. As negociações no Senado relatadas também envolvem debate sobre obrigações legais para empresas que gerenciam riscos catastróficos.

A preempção federal pode criar um padrão nacional único e consistente. Também pode eliminar experimentos estaduais antes que o Congresso demonstre que sua substituição oferece proteção significativa.

Essa disputa revela a lacuna de aplicação por trás do aparente consenso sobre segurança. Perguntar se a IA apresenta riscos já não separa os principais participantes. Perguntar quem pode impor uma obrigação, inspecionar a conformidade e penalizar falhas, sim.

Compromissos concebidos pela indústria oferecem uma vantagem durante o impasse legislativo. Várias empresas podem adotar uma prática técnica antes que o Congresso conclua um projeto de lei.

Eles não oferecem solução garantida quando uma empresa se retira, restringe uma avaliação ou interpreta um limite de forma diferente. Concorrentes fora do acordo também podem continuar desenvolvendo sem restrições comparáveis.

Regras governamentais invertem esses pontos fortes e fracos. Elas podem vincular entidades abrangidas e autorizar a aplicação, mas frequentemente mudam lentamente e podem depender de definições técnicas que os modelos superam.

Uma transição viável precisa das duas camadas. Medidas voluntárias devem começar imediatamente, enquanto a lei transforma as práticas mais úteis em deveres mínimos.

O público deve rejeitar dois extremos enganosos. A participação corporativa não torna automaticamente uma política corrupta, e promessas corporativas não tornam automaticamente a regulamentação desnecessária.

A proposta de Coxon só se torna defensável quando a autorregulação tem um caminho para expirar. Sem isso, as empresas mais responsáveis pela corrida continuam sendo suas árbitras.

Três Testes Mostrarão se a Ponte Leva a Algum Lugar

Os próximos três sinais revelarão se a autorregulação temporária da IA está se tornando uma supervisão responsável ou apenas adiando-a.

O primeiro sinal é a resposta da Anthropic aos pedidos do Congresso por informações de segurança. Casar estabeleceu 15 de setembro como prazo para novas respostas da Anthropic e da OpenAI.

Uma resposta detalhada contendo logs relevantes, definições de incidentes e práticas de divulgação fortaleceria o argumento a favor de um papel corporativo temporário. Resistência contínua enfraqueceria a alegação de Coxon de que os laboratórios podem supervisionar a si mesmos de forma confiável.

A questão não é se todos os registros internos devem se tornar públicos. Logs sensíveis à segurança podem exigir tratamento protegido. O Congresso e avaliadores credenciados ainda precisam de acesso suficiente para verificar como as empresas classificam e abordam incidentes.

O segundo sinal é se a avaliação independente integrada se torna operacional. Anunciar um acesso semelhante ao de funcionários é diferente de estabelecer independência dos revisores, acesso contínuo e um procedimento para reportar divergências.

Observadores devem procurar a identidade do avaliador, o processo de seleção, o escopo de acesso, a estrutura de financiamento e os direitos de publicação. Também devem perguntar se os revisores podem inspecionar implantações internas, e não apenas modelos preparados para lançamento externo.

Um programa significativo publicaria métodos e conclusões agregadas sem divulgar informações que criem novos riscos de segurança. Ele explicaria quando o acesso pode ser restringido e quem decide se um incidente significativo exige notificação.

Se Anthropic e OpenAI implementarem programas comparáveis, supervisionados de forma independente, o modelo de ponte de Coxon ganhará credibilidade. Se os compromissos permanecerem informais, a autorregulação parecerá mais posicionamento público do que contenção aplicável.

O terceiro sinal é se o Congresso cria um regulador ou ao menos deveres provisórios vinculantes. Os legisladores não precisam resolver todas as questões sobre IA avançada em um único projeto de lei.

Eles podem começar com denúncias protegidas, comunicação padronizada de incidentes, acesso para avaliações, preservação de registros e autoridade clara para atualizar limites técnicos. Essas regras abordam falhas atuais de informação enquanto preservam espaço para mudanças posteriores.

O Congresso também deve decidir se os requisitos federais estabelecem um piso ou substituem proteções estaduais mais fortes. Um padrão nacional fraco combinado com ampla preempção consolidaria autoridade sem garantir segurança significativa.

As discussões planejadas pelo governo Trump com autoridades de tecnologia e políticas mostrarão se a competição continua sendo a prioridade dominante. O presidente enfatizou vencer a corrida da IA, enquanto outros líderes políticos exigem um desenvolvimento mais lento.

Esse conflito moldará o mandato de qualquer regulador. Uma agência focada principalmente em liderança comercial trataria a segurança como uma restrição ao crescimento. Uma agência focada apenas no risco de pior cenário poderia desconsiderar inovação, pesquisa aberta e competição internacional.

A abordagem mais crível é uma supervisão baseada em capacidades. Os requisitos se intensificariam quando sistemas ultrapassassem limites mensuráveis envolvendo autonomia, capacidade cibernética, replicação ou assistência em atividades perigosas.

Esses limites precisam ser revisáveis. Também exigem métodos de avaliação transparentes e um processo de recurso, pois laboratórios e reguladores podem discordar sobre os resultados.

Desenvolvedores e compradores empresariais devem acompanhar essas decisões de perto. Requisitos de governança podem afetar a disponibilidade dos modelos, cronogramas de implantação, documentação de segurança e acesso a agentes avançados.

Trabalhadores do conhecimento também devem prestar atenção à proveniência e à manutenção de registros. Equipes que avaliam resultados consequentes de IA precisam de uma base de conhecimento de IA auditável, contendo materiais de origem, decisões e revisão humana.

Os usuários não podem resolver a política nacional de IA com anotações melhores. Podem, porém, evitar reproduzir a mesma lacuna de responsabilização dentro de suas organizações.

O denunciante da Anthropic forçou Washington a confrontar uma realidade provisória desconfortável. O governo não possui a infraestrutura técnica para uma supervisão contínua de sistemas de fronteira, enquanto as empresas não têm legitimidade pública para governar a si mesmas indefinidamente.

A autorregulação da IA da Anthropic é, portanto, uma ponte com uma condição rigorosa. Ela precisa de acesso independente, relatórios verificáveis, prazos vinculativos e um regulador à espera do outro lado.

Acompanhe as divulgações, os acordos com avaliadores e os primeiros requisitos congressionais aplicáveis. Se essas peças não chegarem, a autorregulação temporária não será uma transição. Será a política.