Projeto de lei do Senado dos EUA sobre riscos de IA coloca desenvolvedores de modelos em alerta
Negociadores do Senado dos EUA estão considerando uma obrigação inédita que exigiria que os principais desenvolvedores de IA reduzissem riscos catastróficos conhecidos antes de lançar modelos avançados. O emergente projeto de lei do Senado dos EUA sobre riscos de IA também prevê intervenção federal quando autoridades considerarem um modelo perigoso demais para ser lançado.
A proposta continua em negociação, sem texto público do projeto de lei ou estrutura final de fiscalização. Ainda assim, sua arquitetura relatada representa uma mudança significativa. Washington iria além dos testes voluntários e exigiria que os desenvolvedores assumissem responsabilidade legal por perigos previsíveis relacionados a ameaças biológicas, nucleares e outras ameaças extremas.
Essa mudança coloca OpenAI, Anthropic e Google no centro de uma difícil escolha. Os desenvolvedores querem regras nacionais que substituam um crescente mosaico de regulações estaduais. No entanto, a uniformidade federal se torna muito mais consequente quando inclui um dever de cuidado e possível poder governamental sobre lançamentos de modelos.
A proposta transfere a responsabilidade para os desenvolvedores de IA
A principal mudança é um dever legal proposto de lidar com riscos catastróficos conhecidos, e não mais uma promessa voluntária de segurança.
De acordo com as negociações relatadas, dois assessores do Senado descreveram um proposto “dever de cuidado” para desenvolvedores de IA avançada. Um dever de cuidado é uma obrigação legal de tomar medidas razoáveis contra danos previsíveis.
Essa formulação importa porque altera a questão regulatória fundamental. As autoridades deixariam de perguntar apenas se uma empresa seguiu sua estrutura de segurança publicada. Elas poderiam perguntar se a empresa projetou, testou e lançou seu produto com atenção adequada aos principais riscos conhecidos.
A proposta supostamente se concentra nos modelos com as capacidades mais avançadas. Ela não aplicaria automaticamente as mesmas obrigações a todos os mecanismos de recomendação, assistentes empresariais ou pequenos projetos de código aberto.
O limiar exato continua indefinido. Os negociadores ainda precisam definir quais capacidades, métodos de treinamento, condições de implantação ou indicadores de risco colocariam um modelo sob a lei.
Esse limite determinará se a legislação permanecerá estritamente focada. Um padrão baseado em capacidades pode atingir sistemas capazes de auxiliar atividades perigosas. Uma definição ampla poderia, em vez disso, abranger muitos produtos que não apresentam nenhuma ameaça catastrófica plausível.
Os exemplos relatados incluem assistência de IA no desenvolvimento de armas biológicas ou nucleares. Esses casos diferem de danos conhecidos ao consumidor, como publicidade enganosa, triagem tendenciosa ou respostas imprecisas de chatbots.
Eles envolvem eventos pouco frequentes com consequências potencialmente enormes. Também exigem conhecimento especializado que reguladores comuns de produtos talvez não possuam, incluindo biossegurança, segurança nuclear, cibersegurança e avaliação avançada de modelos.
O emergente projeto de lei do Senado dos EUA sobre riscos de IA supostamente envolveria especialistas do governo na verificação e nos testes dos sistemas abrangidos. A senadora Amy Klobuchar afirmou que buscava supervisão bipartidária dos maiores riscos apresentados por modelos de IA.
Klobuchar também descreveu uma exigência para que os desenvolvedores trabalhem com especialistas do governo em verificação e testes. Sua declaração indica que os legisladores estão considerando mais do que documentos apresentados depois que um produto chega aos usuários.
O senador Ted Cruz afirmou separadamente que estava trabalhando com Klobuchar e o líder da maioria no Senado, John Thune, sobre ameaças biológicas e nucleares. A senadora Maria Cantwell, democrata de maior posição no Comitê de Comércio, também participou das discussões mais amplas.
O Comitê de Comércio do Senado tem jurisdição sobre o Departamento de Comércio. Esse departamento abriga pesquisadores federais de segurança em IA, o que o torna um provável centro para avaliações técnicas caso o Congresso estabeleça tal sistema.
Ainda assim, a proposta não é um projeto de lei concluído. Os negociadores não resolveram publicamente a autoridade precisa do governo, o limiar dos modelos abrangidos, as medidas disponíveis ou o padrão que os tribunais aplicariam.
Esses detalhes ausentes impedem conclusões firmes sobre custos de conformidade ou atrasos em lançamentos. Eles também explicam por que esta história é importante agora, antes que a redação legislativa se consolide em torno de um modelo de fiscalização.
Por que o projeto de lei do Senado dos EUA sobre riscos de IA muda o debate sobre lançamentos
A proposta trata o lançamento de um modelo de fronteira como uma decisão de segurança que pode exigir revisão externa, e não apenas como uma decisão privada de produto.
Os negociadores supostamente estão considerando autoridade para o governo federal bloquear determinados lançamentos considerados inseguros. Um desenvolvedor poderia contestar essa decisão em tribunal federal, atribuindo aos juízes um papel em disputas sobre risco técnico.
Essa estrutura tenta responder a duas preocupações opostas. Defensores da segurança querem uma forma confiável de interromper um lançamento excepcionalmente perigoso. Os desenvolvedores precisam de proteção contra uma agência que tome uma decisão arbitrária ou sem fundamentação.
A revisão judicial oferece um possível controle, mas não resolve todos os problemas. Os tribunais ainda precisam de padrões legais, de um registro probatório e de acesso a conhecimento especializado para julgar alegações altamente técnicas.
Um desenvolvedor de modelos poderia argumentar que suas salvaguardas reduzem uma capacidade perigosa para abaixo de um limiar aceitável. O governo poderia responder que esses controles falham diante de usuários determinados, pesos roubados ou implantações modificadas.
Os juízes então enfrentariam evidências envolvendo avaliações, modelos de ameaça, restrições de acesso, cibersegurança e previsões incertas. Algumas informações poderiam envolver segredos comerciais ou questões de segurança nacional.
Portanto, o ônus da prova será tão importante quanto a autoridade principal do governo. O Congresso deve decidir quem precisa demonstrar segurança, perigo ou erro processual durante uma disputa sobre lançamento.
O timing apresenta outro desafio. Um processo judicial que comece depois que pesos de modelos irrestritos se espalhem online não pode restaurar um controle significativo. Um processo que comece cedo demais poderia atrasar sistemas úteis com base em avaliações imaturas.
Isso cria um problema central de desenho para o projeto de lei do Senado dos EUA sobre riscos de IA. A intervenção deve ocorrer antes de um lançamento irreversível, enquanto as evidências permanecem fortes o suficiente para justificar uma ação governamental.
A proposta também levanta questões sobre atualizações de modelos. Os desenvolvedores agora aprimoram serviços continuamente, às vezes alterando ferramentas, salvaguardas, níveis de acesso ou versões subjacentes de modelos sem lançar um produto inteiramente separado.
A legislação deve distinguir ajustes rotineiros de mudanças que exigem nova revisão. Caso contrário, os reguladores poderiam deixar passar um aumento relevante de capacidade ou inspecionar repetidamente revisões menores de produtos.
OpenAI, Anthropic e Google já realizam diversas formas de testes internos. No entanto, as estruturas das empresas diferem em terminologia, limiares, práticas de divulgação e consequências associadas a uma avaliação malsucedida.
Um dever federal poderia transformar práticas selecionadas em um mínimo comum. Também poderia forçar os desenvolvedores a documentar por que lançaram um modelo após identificar um perigo sério, mas incerto.
Esse registro seria significativo para clientes empresariais. Os compradores frequentemente recebem cartões de modelo, documentação de segurança e garantias contratuais, mas têm visibilidade limitada sobre as avaliações pré-lançamento mais sensíveis.
Testes governamentais não garantiriam que um modelo é seguro. Eles poderiam fornecer outra fonte de escrutínio e criar uma responsabilização mais clara quando empresas têm conhecimento de um risco importante.
Cantwell argumentou que agências federais e laboratórios nacionais deveriam liderar os testes de sistemas de fronteira. Sua posição sobre testes enfatiza conhecimento especializado em cibersegurança, biodefesa e segurança nuclear.
Essa abordagem difere de atribuir todas as questões a um único regulador de propósito geral. Laboratórios especializados poderiam testar caminhos concretos de ameaça, enquanto uma agência coordenadora cuidaria do processo e da fiscalização.
A parte difícil é converter descobertas de pesquisa em uma decisão de lançamento defensável. As avaliações podem identificar capacidades em condições controladas, mas o uso indevido no mundo real depende de acesso, habilidade do usuário, salvaguardas e contexto de implantação.
Um modelo capaz protegido por controles de acesso monitorados apresenta uma ameaça diferente de pesos disponíveis para download. A lei precisará abordar essa distinção sem criar uma rota fácil para contornar a supervisão.
Regras federais e preempção estadual formam a principal negociação
A negociação política da proposta combina deveres nacionais de segurança com limites à fiscalização estadual, contrapondo uniformidade à autonomia regulatória local.
A medida relatada impediria os estados de aplicar algumas leis relacionadas a riscos abrangidos pela estrutura federal. Essa disposição poderia ajudar a atrair apoio da indústria à supervisão nacional.
Os desenvolvedores enfrentam complexidade crescente à medida que os estados regulam modelos de fronteira, decisões automatizadas, deepfakes, privacidade e segurança de chatbots por meio de diferentes estruturas legais. Regras nacionais poderiam reduzir definições conflitantes e obrigações de comunicação.
No entanto, a preempção altera o que está em jogo para estados e consumidores. Uma lei federal que substitui proteções mais fortes pode enfraquecer a supervisão mesmo ao criar uma nova exigência nacional.
O Senado já encontrou forte resistência à ampla preempção de IA. Em 2025, os senadores votaram por 99 a 1 para remover de uma medida orçamentária uma proposta de restrição de dez anos à regulação estadual de IA.
Esse voto sobre a moratória mostrou que os legisladores podem apoiar uma política federal de IA enquanto rejeitam um congelamento amplo da ação estadual. As negociações atuais parecem mais restritas porque tratam de riscos específicos de modelos de fronteira.
Mesmo uma disposição restrita exigirá redação cuidadosa. O Congresso deve definir se os estados perdem autoridade apenas sobre deveres relacionados a riscos catastróficos ou sobre toda lei que envolva um modelo abrangido.
A diferença é substancial. Uma regra estadual sobre avaliações de modelos de fronteira é próxima ao regime federal proposto. Uma lei de privacidade, emprego, proteção ao consumidor ou direitos civis aborda uma categoria diferente de dano.
A preempção também poderia afetar o momento da fiscalização. Os estados frequentemente agem enquanto o Congresso debate legislação nacional, especialmente quando residentes relatam danos imediatos ou novas tecnologias revelam uma lacuna jurídica.
Defensores da uniformidade podem argumentar que a supervisão de riscos catastróficos exige um único sistema nacional. Ameaças biológicas e nucleares atravessam fronteiras estaduais, enquanto laboratórios nacionais oferecem conhecimento especializado que os estados não conseguem reproduzir facilmente.
Críticos podem responder que padrões federais às vezes ficam estagnados. A experimentação estadual pode expor fragilidades, testar abordagens de fiscalização e pressionar autoridades nacionais a atualizar regras ultrapassadas.
A Califórnia oferece o exemplo recente mais claro. O governador Gavin Newsom vetou a SB 1047 em 2024 após alertar que seus limiares focados em modelos poderiam regular usos básicos sem considerar o contexto de implantação.
Sua mensagem de veto criticou uma estrutura fortemente vinculada à escala computacional. Ela também reconheceu a necessidade de proteção eficaz contra ameaças graves de IA.
A Califórnia posteriormente promulgou uma lei revisada sobre IA de fronteira, com divulgações de protocolos de segurança e limiares para sistemas líderes. Esse histórico mostra como propostas estaduais podem evoluir após críticas técnicas e políticas.
Um acordo federal pode se inspirar nessas lições. Ele pode visar um pequeno grupo de modelos altamente capazes, considerando simultaneamente controles de acesso, ambientes de implantação e vias de ameaça documentadas.
A estrutura política mais ampla de Cruz tem favorecido uma regulação mais leve e flexibilidade para testes. Seu marco de política para IA propôs sandboxes regulatórios e salvaguardas contra riscos à saúde, à segurança e de fraude.
Os comentários de Klobuchar enfatizam a cooperação obrigatória com especialistas do governo. Combinar essas posições provavelmente exigirá deveres rigorosos para riscos extremos, preservando espaço para o desenvolvimento comum de IA.
Portanto, a disputa central não é simplesmente governo versus indústria. Trata-se de uma troca entre responsabilidade federal e a eliminação de controles estaduais sobrepostos.
Os desenvolvedores ganham previsibilidade apenas se aceitarem obrigações nacionais significativas. Os estados abrem mão de autoridade apenas se a alternativa federal for específica, aplicável e capaz de se adaptar.
Essa troca moldará as perspectivas do projeto de lei. Um dever fraco acompanhado de ampla preempção atrairia oposição de autoridades estaduais e defensores da segurança.
Um dever forte sem limites claros poderia perder o apoio de legisladores preocupados com inovação ou captura regulatória. Os negociadores precisam que ambas as partes pareçam proporcionais.
As Perguntas Mais Difíceis Permanecem Sem Resposta
Um dever de cuidado só funciona quando os legisladores definem riscos conhecidos, mitigação razoável e as evidências necessárias para impedir um lançamento.
“Riscos graves conhecidos” parece preciso, mas cada palavra cria incerteza jurídica. Um risco pode estar documentado sem ser mensurável, e uma capacidade pode ser preocupante sem demonstrar provável dano catastrófico.
Os legisladores precisam decidir qual conhecimento conta. O padrão pode considerar pesquisas publicadas, testes internos de empresas, inteligência governamental, incidentes ou alertas de funcionários qualificados.
Um registro exclusivamente público deixaria de fora informações classificadas sobre ameaças e avaliações proprietárias. Um registro exclusivamente controlado pelo governo poderia dificultar que desenvolvedores contestassem uma decisão.
O significado de mitigação é igualmente importante. Uma empresa pode adicionar treinamento de recusa, monitorar uso suspeito, restringir ferramentas, adiar a publicação de pesos abertos ou limitar o acesso a clientes verificados.
Cada controle aborda uma via de falha diferente. Nenhum oferece proteção completa contra credenciais roubadas, extração de modelos, ajuste fino, ataques de prompt ou infraestrutura comprometida.
A legislação também deve distinguir capacidade de intenção. Um modelo de uso geral pode auxiliar pesquisas biológicas legítimas e, ao mesmo tempo, fornecer informações que se tornam perigosas em um fluxo de trabalho malicioso.
O simples bloqueio de tópicos não resolverá esse problema. Os avaliadores precisam testar se um sistema reduz de forma significativa a especialização, o tempo ou os recursos necessários para causar danos graves.
Falsos positivos também trazem consequências. Superestimar uma capacidade perigosa poderia incentivar usos indevidos, desperdiçar recursos públicos e dar aos desenvolvedores estabelecidos uma vantagem sobre concorrentes menores.
Um regime de conformidade pode favorecer grandes empresas quando testes extensos, revisão jurídica e infraestrutura segura se tornam pré-requisitos. OpenAI, Anthropic e Google podem absorver exigências que laboratórios menores não conseguem.
A cobertura limitada aos modelos mais capazes reduz essa pressão, mas introduz efeitos de limiar. Um desenvolvedor próximo ao limiar poderia alterar o treinamento, adiar a publicação ou dividir um sistema para evitar regulação.
Limites fixos de computação são relativamente fáceis de administrar, mas envelhecem rapidamente. Limites baseados em capacidade se adaptam melhor, mas exigem avaliações confiáveis e mais julgamento regulatório.
A União Europeia já enfrenta questões semelhantes. Suas regras impõem deveres adicionais a modelos de uso geral classificados como apresentando risco sistêmico, incluindo avaliações, comunicação de incidentes, cibersegurança e mitigação de riscos.
As obrigações de risco sistêmico da Comissão Europeia oferecem ao Congresso uma comparação prática. Elas também mostram quanta orientação se torna necessária depois que legisladores aprovam uma ampla estrutura legal.
A proposta americana difere em um aspecto potencialmente importante. As negociações reportadas incluem uma possível via para ação do governo contra o lançamento de um modelo específico, seguida de contestação em tribunal federal.
Isso poderia produzir um confronto mais direto do que um regime de conformidade baseado principalmente em documentação e penalidades administrativas. Também torna o devido processo essencial.
Outra incerteza diz respeito à capacidade regulatória. Especialistas do governo precisam acompanhar sistemas proprietários, métodos de ameaça em evolução e uma indústria que oferece remuneração mais alta por talentos técnicos escassos.
As agências precisarão de acesso a computação segura e de procedimentos para lidar com pesos de modelos. Também precisarão de autoridade para proteger segredos empresariais sem ocultar do público todas as decisões regulatórias.
A captura regulatória apresenta um risco adicional. Se apenas os maiores desenvolvedores possuírem as ferramentas e a equipe necessárias para definir métodos de avaliação, os padrões federais poderão refletir suas práticas preferidas.
Pesquisadores independentes, laboratórios nacionais, grupos da sociedade civil e especialistas de domínio precisam ter papéis significativos. Sua participação pode contestar pressupostos compartilhados tanto por autoridades governamentais quanto por empresas de modelos.
As empresas também podem discordar entre si. A Anthropic frequentemente enfatizou políticas de segurança de fronteira, enquanto outros desenvolvedores alertaram que regras mal elaboradas podem dificultar a concorrência ou o desenvolvimento aberto.
Essas diferenças não devem ser exageradas antes que o texto do projeto de lei apareça. Nenhuma posição empresarial sobre este pacote específico deve ser inferida apenas a partir de sua posição sobre propostas anteriores.
O Congresso também precisa de uma estrutura de comunicação de incidentes. Testes pré-lançamento não conseguem prever todo comportamento que surge por meio de novas ferramentas, populações maiores de usuários ou experimentação adversarial.
Um dever significativo deve continuar após a implantação. Os desenvolvedores precisam de processos para detectar incidentes graves, reavaliar salvaguardas, informar autoridades e restringir o acesso quando as evidências mudarem.
A legislação deve evitar tratar a certificação como aprovação permanente. Um modelo considerado administrável no dia do lançamento pode se tornar mais arriscado após novas integrações ou descobertas externas.
Ao mesmo tempo, os reguladores devem evitar transformar toda saída inesperada em um caso de risco catastrófico. A legitimidade da lei depende de manter suas intervenções extraordinárias vinculadas a ameaças extraordinárias.
Essas escolhas não resolvidas não são notas técnicas de rodapé. Elas determinam se a proposta se torna uma lei de segurança direcionada, conformidade simbólica ou um amplo sistema de licenciamento.
Três Sinais Mostrarão se a Proposta Pode Avançar
O próximo teste é saber se os negociadores transformarão um conceito marcante em texto legislativo restrito que possa resistir ao escrutínio técnico, político e judicial.
O primeiro sinal é a divulgação da linguagem efetiva do projeto de lei. Os leitores devem examinar como o texto define modelos cobertos, riscos catastróficos, conhecimento do desenvolvedor, mitigação razoável e autoridade governamental.
Um limiar claro de capacidade ou risco reforçaria a tese de que os negociadores buscam supervisão direcionada de modelos de fronteira. Uma cobertura vaga aumentaria a preocupação com aplicação imprevisível e encargos sobre aplicações comuns.
O segundo sinal é a cláusula final de preempção. Seu alcance revelará se a uniformidade federal funciona como complemento limitado aos deveres relativos a riscos catastróficos ou como uma restrição mais ampla às leis estaduais sobre IA.
Uma linguagem que preserve proteções de privacidade, direitos civis, consumidores, emprego e eleições apoiaria a interpretação mais restrita. Um deslocamento abrangente reabriria a disputa política que derrotou a moratória anterior.
O terceiro sinal é o processo de aplicação. O Congresso deve identificar a agência responsável, o papel dos especialistas técnicos, o padrão probatório e o caminho para revisão judicial tempestiva.
Um processo com conclusões por escrito, acesso seguro às evidências, prazos e direitos de recurso tornaria a intervenção em lançamentos mais crível. Discricionariedade executiva não especificada enfraqueceria o apoio e provocaria desafios jurídicos imediatos.
O calendário cria sua própria pressão. A Reuters informou que a Câmara tinha apenas uma semana de sessão programada antes das eleições de meio de mandato de 3 de novembro, enquanto o Senado esperava ter três.
Esse cronograma torna a promulgação difícil, mesmo que os negociadores cheguem a um acordo. A análise em comissão, o tempo de plenário, a aprovação na Câmara e a conciliação de textos diferentes exigem coordenação política.
A não aprovação rápida de um projeto não apagaria a mudança subjacente. Negociações bipartidárias sobre um dever legal e intervenção no lançamento de modelos estabelecem um ponto de referência para o próximo Congresso.
O debate também dá aos desenvolvedores uma razão imediata para melhorar a documentação. Empresas que identificam um grande risco precisam de registros que mostrem como o testaram, selecionaram mitigações e monitoraram a implantação.
Compradores empresariais devem acompanhar essas práticas porque a regulação pode afetar a disponibilidade de modelos, obrigações contratuais, evidências de auditoria e cronogramas de lançamento. Equipes dependentes de um único fornecedor precisam de planos de contingência para modelos atrasados ou restritos.
Desenvolvedores que constroem sobre modelos externos também devem acompanhar se as obrigações fluem para as etapas posteriores. Uma empresa de modelos fundacionais pode alterar controles de acesso, termos de uso aceitável, requisitos de registro ou permissões de ferramentas para cumprir deveres federais.
Os trabalhadores do conhecimento enfrentam uma consequência mais discreta. As organizações precisarão de registros confiáveis de versões de modelos, políticas, avaliações e decisões internas à medida que as regras mudam.
Uma base de conhecimento de IA pesquisável pode ajudar as equipes a preservar esse contexto. No entanto, a manutenção de registros não pode substituir avaliação técnica ou aconselhamento jurídico.
O projeto de lei do Senado dos EUA sobre riscos de IA continua sendo uma proposta negociada, não uma restrição promulgada. Sua importância reside na responsabilidade que atribui antes que os legisladores resolvam todos os detalhes processuais.
Washington está considerando se os criadores de modelos de fronteira devem assumir uma obrigação aplicável de reduzir perigos catastróficos previsíveis. Também está considerando quando o governo pode interromper uma decisão privada de lançamento.
Acompanhe o texto do projeto de lei, o limite da preempção e o processo de revisão judicial. Juntos, esses elementos mostrarão se o Congresso elaborou supervisão direcionada ou apenas abriu outra frente não resolvida na política de IA.
