Projeto de Lei de Segurança de IA da Anthropic Estabelece Barra Alta para Bloquear Modelos Perigosos

A Anthropic está fazendo lobby por um projeto de lei de segurança de IA que, segundo relatos, reserva ordens de bloqueio de modelos para riscos que envolvam mais de 50 vítimas ou US$ 1 bilhão em danos.

Esse limite cria o conflito central da proposta. A Anthropic quer uma supervisão federal vinculante para IA de fronteira, mas a medida mais forte do governo só entraria em ação diante de uma definição de dano catastrófico.

A proposta não é um projeto de lei formalmente apresentado, e seu texto confidencial não passou por escrutínio legislativo público. Os detalhes vêm de um rascunho confidencial descrito pela Politico e de reportagens posteriores.

O rascunho ainda imporia obrigações antes que ocorra uma catástrofe. Grandes desenvolvedores preparariam estruturas de segurança, divulgariam riscos, reportariam incidentes graves e se submeteriam a avaliações externas.

No entanto, esses requisitos preventivos levam a um caminho estreito de fiscalização. Um avaliador qualificado identificaria um risco catastrófico iminente, o Departamento de Comércio levaria as evidências ao tribunal, e um juiz federal decidiria se a intervenção se justifica.

Essa estrutura desloca o debate para além da pergunta sobre se a IA avançada precisa de regulamentação. A questão mais difícil é de quanta evidência o governo precisaria antes de impedir um modelo que ainda não causou o dano temido.

As regras existentes da Califórnia para IA de fronteira oferecem o ponto de referência mais próximo. O rascunho federal relatado adota seus limites de risco catastrófico, mas colocaria a autoridade de bloqueio de modelos dentro de um único processo federal.

O resultado é uma troca entre consistência e flexibilidade. Um padrão nacional único poderia evitar intervenções arbitrárias, mas também dificultaria uma ação precoce quando as evidências são incompletas.

O Que o Projeto de Lei de Segurança de IA da Anthropic Realmente Faria

A proposta combina supervisão recorrente com uma via estritamente limitada para interromper um modelo.

Segundo o rascunho relatado, desenvolvedores de IA de fronteira abrangidos teriam de criar e seguir estruturas de segurança por escrito. Esses documentos explicariam como cada empresa avalia riscos graves e decide se as salvaguardas são adequadas.

Os desenvolvedores também publicariam relatórios de transparência sobre modelos de fronteira recém-lançados. Eles reportariam incidentes críticos de segurança ao Departamento de Comércio e ofereceriam proteções a funcionários que levantem preocupações de segurança.

Avaliadores independentes revisariam periodicamente as empresas e seus modelos abrangidos. Esses avaliadores se registrariam no Departamento de Comércio, dando à agência um papel formal na determinação de quem pode conduzir avaliações regulamentadas.

A proposta, segundo relatos, permitiria que um desenvolvedor pagasse seu avaliador. Essa relação financeira só seria permitida quando não comprometesse a independência do avaliador.

Esse arranjo se assemelha ao sistema que a Anthropic começou a testar voluntariamente. Em uma atualização sobre avaliadores de 15 de outubro, a empresa disse que seis funcionários da organização sem fins lucrativos METR receberam hardware da empresa e acesso semelhante ao de funcionários.

A Anthropic afirmou que a METR poderia publicar sua análise sem aprovação da empresa. A Anthropic ainda poderia exigir redações dentro de categorias predefinidas, incluindo informações de clientes, material protegido por privilégio e certos detalhes arquiteturais.

Outros avaliadores operam com acesso mais restrito. A Anthropic disse que revisores de primeiro nível recebem acesso escolhido pela empresa e só podem publicar conclusões com sua aprovação.

A proposta federal buscaria transferir a avaliação de acordos voluntários para um sistema regulamentado. Ainda assim, as regras relatadas deixam uma questão importante sem resposta: como a independência seria medida quando um laboratório fornece tanto o acesso quanto o pagamento?

A disposição mais consequente do rascunho diz respeito à intervenção governamental. O Departamento de Comércio poderia buscar interromper o lançamento ou uso de um modelo quando ele apresentar um risco catastrófico previsível e iminente.

Segundo relatos, esse risco precisaria envolver mais de US$ 1 bilhão em danos ou a morte ou ferimentos graves de mais de 50 pessoas. Ele também teria de decorrer de perigos especificados, incluindo armas biológicas, ciberataques ou um modelo escapar do controle de seu desenvolvedor.

Um avaliador que identificasse tal ameaça a comunicaria ao departamento em até 72 horas. O Comércio então apresentaria as evidências a um juiz federal no Distrito de Columbia.

O juiz, e não apenas o desenvolvedor ou a agência, decidiria se o padrão legal foi atendido. Essa etapa judicial poderia proteger empresas contra restrições arbitrárias, mas também acrescenta tempo e exigências probatórias.

O rascunho, segundo relatos, impediria outros departamentos, agências ou funcionários federais de ordenar de forma independente que um laboratório abrangido interrompa o lançamento de um modelo. O Comércio se tornaria a porta de entrada para essa medida específica.

Essa exclusividade importa. Os riscos de IA podem atravessar jurisdições de segurança nacional, saúde, aplicação da lei, proteção ao consumidor e infraestrutura, mas o rascunho canalizaria a decisão final sobre implantação por um único departamento.

O Limite É um Gatilho Jurídico, Não uma Perda Aceitável

Os números definem quando um tribunal pode bloquear um modelo, não quanto dano a Anthropic considera tolerável.

Manchetes sobre 50 mortes ou US$ 1 bilhão podem soar como se um desenvolvedor recebesse permissão para causar qualquer dano abaixo desses níveis. Essa não é a leitura mais precisa da proposta relatada.

O limite se aplica a uma medida preventiva específica: interromper o lançamento ou uso de um modelo de fronteira devido a uma catástrofe prevista. Ele não elimina o direito penal comum, a responsabilidade por produtos, ações por negligência, proteções ao consumidor ou regulamentações específicas por setor.

Um ciberataque que cause menos danos ainda poderia ser ilegal. Uma lesão relacionada a um modelo ainda poderia resultar em litígio, investigação ou fiscalização sob outra lei.

O rascunho também parece criar deveres que se aplicam antes de o limite catastrófico ser atingido. Planos de segurança, relatórios de incidentes, avaliações e divulgações verdadeiras não precisariam esperar dezenas de vítimas.

Ainda assim, o limite molda o que o governo pode fazer no momento mais importante. Quando autoridades acreditam que um modelo é perigoso, mas as evidências permanecem probabilísticas, elas precisariam estabelecer tanto a iminência quanto a escala catastrófica.

Essa combinação é exigente. Avaliações de modelos de fronteira raramente fornecem uma previsão clara de que um sistema causará um número específico de ferimentos dentro de um período fixo.

Os avaliadores normalmente medem capacidades, salvaguardas, condições de acesso e caminhos plausíveis de uso indevido. Transformar essas conclusões em uma previsão de danos financeiros ou vítimas exige suposições adicionais sobre agentes humanos e condições de implantação.

O termo “previsível” pergunta se o perigo pode ser razoavelmente antecipado. “Iminente” exige uma ameaça mais imediata, embora a interpretação exata do rascunho fosse relevante em tribunal.

Um modelo poderia reduzir substancialmente o nível de especialização necessário para o uso indevido de agentes biológicos sem revelar um ataque ativo. Poderia automatizar a exploração cibernética sem identificar um alvo selecionado.

Essas conclusões poderiam justificar controles de acesso mais rígidos, mais testes ou um lançamento adiado. Talvez não satisfizessem um tribunal que precisa de evidências de uma catástrofe iminente que exceda um limite legal.

A Estrutura de IA Avançada da Anthropic, de junho, fornece a base de políticas para o rascunho. Ela se concentra em armas biológicas, operações cibernéticas ofensivas, perda de controle e pesquisa e desenvolvimento de IA automatizados.

A estrutura afirma que desenvolvedores abrangidos deveriam testar modelos avançados, publicar informações de segurança, envolver avaliadores independentes e responder perante uma agência governamental. Ela também apresenta vários modelos de fiscalização, em vez de um desenho definitivo.

Seu escopo proposto abrangeria desenvolvedores que treinam modelos acima de um limite computacional especificado e atendem a testes substanciais de receita de IA ou gastos com pesquisa. Esses limites destinam-se a concentrar a conformidade em empresas capazes de construir os sistemas mais avançados.

A estrutura cita a legislação da Califórnia ao definir risco catastrófico. Portanto, trata os números de vítimas e danos como uma referência de política existente, não como uma medida recém-inventada de dano aceitável.

No entanto, importar uma definição para a lei federal faz mais do que reutilizar linguagem familiar. Isso determina quem carrega o ônus da prova e quando a incerteza favorece a intervenção.

Sob um limite menor, o governo corre o risco de interromper tecnologia benéfica com base em previsões fracas. Sob um limite maior, o público corre o risco de descobrir que as evidências se tornaram juridicamente suficientes apenas depois que a implantação já era difícil de reverter.

Um Único Guardião Federal Cria Clareza e um Gargalo

Dar ao Comércio autoridade exclusiva para bloquear modelos padronizaria a intervenção, ao mesmo tempo que concentraria um julgamento difícil em uma única instituição.

A IA de fronteira não se encaixa perfeitamente em uma única categoria regulatória. Um único modelo pode afetar pesquisa médica, sistemas militares, serviços financeiros, comunicações e infraestrutura crítica.

Várias agências já possuem expertise relevante para esses usos. Autoridades de saúde entendem ameaças biológicas, agências de cibersegurança acompanham ataques à infraestrutura, e organizações de segurança nacional avaliam atividades de Estados hostis.

O projeto de lei de segurança de IA da Anthropic relatado não eliminaria todas as autoridades que esses órgãos possuem. Seu efeito mais restrito seria tornar o Comércio a via para uma ordem que interrompa o lançamento ou uso de um modelo abrangido.

Os apoiadores podem apresentar um argumento prático para esse desenho. Um regulador designado pode formar equipe técnica, estabelecer procedimentos consistentes e evitar ordens conflitantes de agências que aplicam padrões diferentes.

A revisão judicial também pode disciplinar o processo. O Comércio precisaria de evidências fortes o suficiente para convencer um juiz federal, em vez de depender de um julgamento interno opaco.

Para os desenvolvedores, esse processo oferece previsibilidade. Uma empresa poderia entender qual agência recebe relatórios, quais avaliadores se qualificam e qual teste jurídico controla uma disputa sobre implantação.

A previsibilidade não é apenas um benefício comercial. Regras estáveis podem ajudar equipes de segurança a tomar decisões internas sem tentar adivinhar como várias agências responderão às mesmas evidências.

A preocupação oposta é a capacidade institucional. Uma agência designada não pode fornecer supervisão significativa sem expertise técnica suficiente, infraestrutura de segurança, financiamento e autoridade para examinar informações protegidas.

A própria estrutura da Anthropic reconhece esse desafio. Ela diz que o governo deveria desenvolver capacidade para conduzir avaliações de capacidades e avaliações holísticas de risco por conta própria.

Até que essa capacidade exista, o governo dependeria fortemente de avaliadores externos e de informações fornecidas pelos desenvolvedores. A qualidade da fiscalização dependeria, portanto, dos acordos de acesso criados antes que uma disputa chegue ao tribunal.

A autoridade concentrada também pode criar um gargalo durante um incidente em rápida evolução. O avaliador precisa reconhecer a ameaça, notificar o Comércio, apoiar um registro probatório e aguardar a ação judicial.

Um prazo de 72 horas para comunicação parece rápido em um documento de conformidade. Pode parecer muito mais lento quando um sistema autônomo, pesos de modelo vazados ou uma campanha cibernética ativa se espalham pelas redes.

O foco da proposta na intervenção supervisionada por tribunais reflete uma preocupação legítima com excessos. Bloquear um modelo é uma medida extraordinária, com consequências para clientes, pesquisadores, competitividade nacional e interesses ligados à liberdade de expressão.

Ainda assim, medidas extraordinárias costumam ser mais valiosas antes que o dano se torne observável. Isso torna o tratamento dado pelo padrão jurídico a previsões, incertezas e evidências confidenciais mais importante do que os números de destaque por si só.

Há também uma questão federativa. Os estados avançaram porque o Congresso não criou um regime abrangente para a IA de fronteira.

Um porta-voz da Anthropic disse que a proposta reflete políticas que a empresa promove junto a legisladores federais e estaduais desde junho. A empresa as classificou como medidas sensatas que o Congresso deveria adotar.

A estrutura da Anthropic afirma que a preempção federal deve ocorrer apenas quando o Congresso estabelecer um regime robusto que atenda a exigentes padrões de segurança. Também diz que a preempção deve permanecer restrita e preservar a autoridade estadual fora de funções específicas de governança de fronteira.

Essa linguagem é mais contida do que uma proibição ampla da regulação estadual de IA. Ainda assim, qualquer projeto final precisaria de limites precisos, pois a autoridade federal exclusiva pode enfraquecer a experimentação estadual mesmo sem eliminar todas as leis estaduais.

A Avaliação Independente Depende de Recursos, Acesso e Direitos de Publicação

O nome de um avaliador importa menos do que sua capacidade de examinar as evidências certas e publicar conclusões indesejadas.

A avaliação independente é a principal ponte da proposta entre o desenvolvimento privado e a fiscalização pública. O governo não pode agir sobre um risco que não consegue enxergar, e os laboratórios detêm informações que agentes externos não conseguem reproduzir.

Um avaliador sério precisa de acesso a modelos antes do lançamento, decisões de treinamento, salvaguardas internas, registros de incidentes e às condições sob as quais os testes foram realizados. O acesso ao modelo, por si só, é insuficiente.

Os avaliadores também precisam de expertise para identificar resultados enganosos. Um modelo pode se comportar de maneira diferente durante os testes, e um benchmark pode deixar de captar riscos que surgem por meio de ferramentas, tarefas de longa duração ou interação entre vários agentes.

A Anthropic argumenta que avaliadores integrados podem reduzir a lacuna de informação. Seu atual acordo com a METR dá a uma pequena equipe externa um acesso amplamente comparável ao da equipe interna de risco.

A abordagem oferece uma grande vantagem sobre testes externos ocasionais. Os avaliadores podem observar como a empresa opera, e não apenas inspecionar um modelo finalizado pouco antes do lançamento.

Essa proximidade cria sua própria pressão. Os avaliadores trabalham dentro do ambiente de segurança da empresa, dependem dela para obter informações e podem se acostumar com suas premissas.

O pagamento intensifica a questão. Um revisor não perde automaticamente a independência porque a empresa avaliada paga a taxa. Auditores financeiros, laboratórios de teste e organismos de certificação frequentemente trabalham sob arranjos semelhantes.

A independência depende, em vez disso, de salvaguardas. O pagamento não pode variar conforme a conclusão, o financiamento contínuo não pode depender de conclusões favoráveis, e o avaliador precisa ter controle significativo sobre sua análise publicada.

A proposta, segundo relatos, permite financiamento pelo desenvolvedor quando ele não afeta a independência. O princípio é razoável, mas sua aplicação exige critérios mensuráveis.

Um regulador precisaria examinar participações societárias, relações de consultoria, concentração de receita, restrições contratuais, vínculos de pessoal e a capacidade do avaliador de sobreviver à perda de um cliente.

Os direitos de publicação merecem atenção equivalente. Um avaliador que encontra uma fragilidade grave, mas não pode descrevê-la publicamente, oferece responsabilização limitada, mesmo que possa alertar reguladores em caráter privado.

Algumas redações são inevitáveis. Um relatório público não deve expor dados de clientes, vulnerabilidades exploráveis, pesos de modelos ou instruções que facilitem o uso indevido em biologia.

A questão difícil é quem classifica as informações e como as disputas são resolvidas. Se o desenvolvedor tiver controle final sobre cada redação, a independência do revisor se torna difícil de verificar para o público.

O sistema atual da Anthropic ilustra esse espectro. A METR tem direitos de publicação mais fortes do que os avaliadores que trabalham no primeiro nível de acesso da empresa.

Essa variação torna útil um padrão federal. O registro poderia estabelecer regras básicas de acesso, divulgação, conflitos e publicação para todos os desenvolvedores abrangidos.

No entanto, o registro por si só não pode garantir competência. O governo precisaria de especialistas suficientes para inspecionar métodos de avaliação e distinguir uma análise cuidadosa de riscos de um teatro de conformidade.

O mercado de avaliadores também pode ser pequeno. As organizações capazes de testar sistemas de fronteira frequentemente recebem financiamento das mesmas empresas, investidores ou redes filantrópicas envolvidos no desenvolvimento de IA.

Isso não prova que suas conclusões estejam comprometidas. Significa, porém, que relações financeiras e profissionais devem ser divulgadas, e não descartadas como irrelevantes.

Um sistema de financiamento coletivo poderia reduzir a dependência de um único desenvolvedor. Laboratórios abrangidos poderiam contribuir com taxas para um fundo administrado de forma independente, que designaria avaliadores sem permitir que empresas negociassem diretamente o pagamento.

A estrutura da Anthropic levanta uma possibilidade semelhante. Ela recomenda financiamento e padrões que deem aos avaliadores acesso suficiente, ao mesmo tempo que protegem sua independência.

A designação aleatória também poderia ajudar em revisões de alto impacto. Ainda assim, expertise especializada e credenciais de segurança podem limitar quais avaliadores conseguem examinar um risco específico.

O sistema mais robusto combinaria vários mecanismos: direitos mínimos de acesso, publicação protegida, conflitos divulgados, revisão governamental e mais de um avaliador para os modelos de maior relevância.

A Verdadeira Troca É Entre Ação Antecipada e Excesso Regulatório

A proposta pede que a sociedade aceite um elevado padrão probatório em troca de proteção contra intervenção governamental prematura.

A Anthropic posicionou-se como defensora de regras mais fortes para a IA de fronteira. Sua estrutura prevê testes obrigatórios, relatórios recorrentes de risco, avaliação independente, divulgação de incidentes, proteção a denunciantes e fiscalização efetiva.

Essas disposições são mais substanciais do que um compromisso voluntário. Elas criariam deveres legais que os principais desenvolvedores não poderiam abandonar discretamente quando a pressão comercial aumentasse.

O limiar controverso não anula essas obrigações. Ele rege a medida mais severa e deve ser avaliado dentro dessa estrutura mais ampla.

Ainda assim, um regime de segurança pode ser rigoroso na documentação e fraco no ponto decisivo. Se os reguladores não puderem adiar a implantação até que uma catástrofe se torne previsível, iminente e quantificável, a transparência poderá documentar riscos sem controlá-los.

Essa é a crítica central enfrentada pela Anthropic. A empresa alerta que sistemas de fronteira podem gerar perigos excepcionais, mas sua proposta, segundo relatos, limita a intervenção a um conjunto estreito de cenários catastróficos.

O conjunto de riscos abrangidos importa tanto quanto o limiar de escala. Armas biológicas, grandes ciberataques e perda de controle merecem atenção concentrada porque podem criar danos generalizados e difíceis de reverter.

Outros problemas graves podem ficar fora desse enquadramento. Fraude, manipulação, discriminação, aconselhamento médico inseguro, deslocamento de trabalhadores, perda de privacidade e comportamentos nocivos de companheiros de IA podem afetar muitas pessoas sem se assemelhar a um único evento catastrófico.

Esses danos não deveriam necessariamente desencadear uma suspensão nacional de modelos. Eles mostram, porém, por que o projeto de lei de segurança de IA da Anthropic não pode substituir políticas mais amplas de defesa do consumidor, direitos civis, emprego, saúde e concorrência.

Uma lei de segurança de fronteira deveria abordar perigos sistêmicos raros. Outras leis deveriam reger implantações rotineiras e danos específicos de cada setor.

O desafio está na fronteira. Uma campanha cibernética distribuída poderia acumular perdas entre milhares de vítimas sem apresentar um único momento claro de dano catastrófico iminente.

Um agente de IA poderia exceder repetidamente o acesso autorizado enquanto cada incidente parece administrável. Uma capacidade biológica poderia se disseminar entre usuários antes que as autoridades identificassem um esforço concreto de transformação em arma.

Os limiares criam consistência, mas também criam precipícios. Um evento previsto logo abaixo da linha recebe tratamento fundamentalmente diferente de outro logo acima dela, mesmo quando ambas as estimativas contêm grande incerteza.

A linguagem numérica pode, portanto, sugerir mais precisão do que os atuais métodos de avaliação conseguem oferecer. Especialistas podem discordar sobre a capacidade do modelo, a intenção do atacante, as salvaguardas disponíveis e as consequências prováveis.

Os tribunais lidam com evidências incertas em muitas áreas. A proposta relatada ainda precisaria de regras que explicassem qual probabilidade, horizonte temporal e contribuição causal satisfazem seu padrão.

“Contribuir materialmente” é especialmente importante. Um modelo de fronteira pode não criar uma ameaça sozinho, mas pode encurtar o tempo de pesquisa, automatizar a seleção de alvos ou tornar conhecimento especializado acessível.

Os legisladores precisarão decidir se essa assistência é suficiente. Um padrão que exija que o modelo seja a causa principal poderia deixar de captar riscos construídos a partir de várias tecnologias e decisões humanas.

Um padrão que considere suficiente qualquer contribuição poderia se tornar amplo demais. Softwares comuns e informações públicas também apoiam atividades legítimas e maliciosas.

É improvável que a resposta correta venha de um único número. Uma lei funcional precisa de medidas escalonadas que correspondam a diferentes níveis de evidência.

Os reguladores poderiam exigir mais testes, restringir capacidades específicas, reduzir o acesso, determinar monitoramento mais forte ou adiar um lançamento antes de buscar uma proibição completa.

A estrutura da Anthropic discute várias opções de fiscalização, incluindo multas, restrições a futuras implantações e limites de acesso para modelos já implantados. Essa escada merece tanto escrutínio quanto o desfecho catastrófico.

A Califórnia Mostra Por Que os Detalhes Federais Importam

Os limiares relatados têm um histórico, mas seu efeito muda quando se tornam parte de um sistema exclusivo de fiscalização federal.

A lei de IA de fronteira da Califórnia usa linguagem semelhante para riscos catastróficos que envolvam grandes danos financeiros ou mais de 50 mortes ou ferimentos graves. Seus requisitos concentram-se fortemente em transparência e incidentes críticos de segurança.

Uma análise de política estadual sobre California SB 53 descreveu obrigações para grandes desenvolvedores, ao mesmo tempo que protege empresas menores de encargos de conformidade desproporcionais.

Esse precedente explica por que a Anthropic pode chamar a proposta federal de extensão de uma política já estabelecida. Os números já faziam parte de uma estrutura estadual negociada.

No entanto, copiar uma definição não copia todo o ambiente regulatório. Procuradores-gerais estaduais, agências federais, tribunais e reguladores setoriais têm poderes e incentivos institucionais diferentes.

Os requisitos da Califórnia podem coexistir com a fiscalização federal, a menos que o Congresso os substitua. Uma lei federal que restrinja quem pode interromper um modelo produziria um equilíbrio diferente.

O debate sobre o poder dos estados se intensificou porque a legislação federal sobre IA avançou lentamente. Os estados agiram em relação à segurança de fronteira, decisões automatizadas, deepfakes, chatbots companheiros e requisitos de divulgação.

O mosaico resultante cria desafios reais de conformidade. Um desenvolvedor de fronteira não pode manter facilmente padrões de lançamento conflitantes entre estados quando um modelo atende usuários em todo o país.

Uma estrutura nacional poderia resolver esse problema. Também poderia consolidar um padrão fraco e impedir que os estados respondessem a novas evidências.

A estrutura pública da Anthropic tenta conciliar as duas posições. Ela apoia regras federais, mas afirma que o Congresso deveria substituir a legislação estadual apenas nas funções abrangidas por um regime federal robusto.

Essa posição deixa indefinida a palavra mais difícil: forte. Desenvolvedores, reguladores, grupos de interesse público e autoridades estaduais avaliarão a força de maneiras diferentes.

O limiar de vítimas chamará atenção por ser fácil de entender. Disposições mais técnicas podem determinar a eficácia real da lei.

Essas disposições incluem quais desenvolvedores se qualificam, o que é considerado um modelo abrangido, como os avaliadores obtêm acesso, com que rapidez os incidentes devem ser comunicados e o que o Commerce pode exigir.

As regras para modelos implantados internamente também são importantes. Uma empresa pode usar um sistema mais capaz em seu processo de pesquisa antes de oferecê-lo a clientes externos.

Uma lei voltada apenas a lançamentos públicos poderia deixar de fora agentes internos que conduzem pesquisas, gerenciam infraestrutura ou aceleram o desenvolvimento da próxima geração de modelos.

Os pesos dos modelos apresentam outra complicação. Quando os pesos são roubados ou amplamente distribuídos, uma ordem judicial contra o desenvolvedor original pode não conter a capacidade.

Requisitos preventivos de segurança podem ter mais importância nesse cenário do que uma proibição posterior de implantação. Portanto, as regras da proposta sobre segurança de modelos e notificação de incidentes merecem análise cuidadosa.

O Congresso também precisaria coordenar o Commerce com agências que detêm inteligência sobre ameaças. Autoridade exclusiva não deve se transformar em acesso exclusivo à informação.

Um órgão designado poderia receber evidências de entidades de saúde, cibersegurança, defesa, inteligência e aplicação da lei, mantendo a responsabilidade pelo pedido judicial.

Essa estrutura preservaria um único canal de tomada de decisões sem isolá-lo. Ainda não está claro se o rascunho noticiado cria essa coordenação.

O Que Observar Antes de Isso Virar Lei

Três sinais mostrarão se a proposta evolui para uma supervisão aplicável ou permanece um esboço de política redigido pela indústria.

O primeiro sinal é o texto legislativo público. A Politico informou que representantes da Anthropic apresentavam em privado um rascunho confidencial a legisladores, mas uma proposta não é um projeto de lei até que um membro a apresente.

O texto apresentado revelaria definições, limites de abrangência, linguagem sobre preempção, instrumentos de fiscalização e prazos processuais. As atribuições a comitês e os patrocinadores identificados mostrariam se a proposta tem um caminho crível pelo Congresso.

O texto público também permitiria que especialistas testassem a interpretação central. Poderia confirmar se o limiar de catástrofe noticiado rege toda ação de bloqueio ou apenas uma medida específica.

Se os legisladores preservarem o limiar elevado, mas acrescentarem intervenções graduais abaixo dele, o arcabouço se tornará mais responsivo a riscos incertos. Se o limiar se tornar a única via para ação preventiva, as preocupações com intervenções tardias se fortalecerão.

O segundo sinal é o conjunto de regras para avaliadores. Os atuais arranjos da Anthropic oferecem evidências de que avaliações incorporadas são operacionalmente possíveis, mas não estabelecem um padrão universal.

O Commerce precisaria de critérios para registro, expertise, financiamento, acesso, conflitos, segurança e publicação. O processo deveria explicar como um avaliador pode contestar informações retidas ou redações contestadas.

Os primeiros relatórios públicos de avaliadores incorporados fornecerão um teste prático. Os leitores devem examinar se esses relatórios identificam fragilidades, descrevem limites de acesso e separam evidências de alegações da empresa.

Um relatório que apenas confirme conformidade revelará pouco. Um relatório que documente divergências e riscos não resolvidos oferecerá evidências mais fortes de independência.

O terceiro sinal é o tratamento da autoridade estadual. Legisladores estaduais têm argumentado repetidamente que regras locais preenchem uma lacuna deixada pelo Congresso.

Reportagens recentes sobre o avanço da regulação estadual mostram por que a preempção federal continua politicamente sensível. Um projeto final deve especificar quais funções estaduais permanecem.

Uma preempção limitada, vinculada a testes de modelos de fronteira, poderia reduzir a duplicação de conformidade enquanto preserva proteções estaduais ao consumidor e aos direitos civis. Uma preempção ampla poderia transformar um padrão federal em um teto.

Desenvolvedores, compradores empresariais e usuários comuns devem acompanhar esses detalhes porque a governança de modelos afeta a disponibilidade e a confiança nos produtos. Um atraso no lançamento pode alterar os roteiros dos fornecedores, enquanto uma supervisão fraca pode transferir riscos não mensurados aos clientes.

Equipes empresariais não devem esperar pelo Congresso antes de questionar fornecedores sobre estruturas de segurança, comunicação de incidentes, acesso de avaliadores e avisos sobre alterações nos modelos. Essas perguntas ajudam compradores a avaliar quanta evidência sustenta as garantias de um fornecedor.

Profissionais do conhecimento também precisam de uma forma confiável de preservar documentos de políticas, conclusões de avaliadores e compromissos de fornecedores à medida que mudam. Uma base de conhecimento de IA pesquisável pode manter esses registros conectados às decisões de aquisição e risco.

O projeto de lei da Anthropic sobre segurança de IA abriu um debate útil, mas os dois números de destaque não resolvem a questão. O verdadeiro teste é saber se os legisladores criarão um sistema capaz de agir antes que evidências catastróficas se transformem em experiência catastrófica.

Observe o texto apresentado, padrões aplicáveis para avaliadores e uma fronteira clara entre autoridade federal e estadual. Esses três avanços mostrarão se a proposta oferece prevenção crível ou, principalmente, uma via legal estreita para emergências que já estão próximas.