Processo da Verge xAI coloca a proibição de nudificação de Minnesota em rota de colisão com a Primeira Emenda

A xAI processou Minnesota faltando cinco dias para que a primeira proibição do país contra tecnologia acessível de nudificação entre em vigor, em 1º de agosto.

A empresa argumenta que a lei de Minnesota a obriga a restringir a edição de imagens legal do Grok ou a enfrentar multas que podem chegar a US$ 500 mil por cada acesso, download ou uso ilegal. A disputa da Verge xAI, portanto, é maior do que um único recurso questionável. Ela pergunta se um estado pode regulamentar uma ferramenta de IA antes que uma imagem prejudicial seja criada ou distribuída.

O procurador-geral de Minnesota, Keith Ellison, vê um problema mais imediato. Sistemas de IA podem transformar fotografias comuns em imagens íntimas realistas sem o consentimento da pessoa retratada. Legisladores querem interromper esse dano no momento da criação, em vez de depender apenas de remoções ou processos após a distribuição.

Isso cria o conflito central. Minnesota trata o acesso fácil à nudificação como um perigo no nível do produto. A xAI afirma que a lei impõe uma restrição baseada em conteúdo que alcança expressão protegida, incluindo edições consensuais e não sexuais.

O caso surge depois que o Grok enfrentou escrutínio internacional por imagens sexualizadas envolvendo pessoas reais. Em janeiro, a xAI respondeu com novas restrições, controles de conta e bloqueio baseado em localização. Seu processo agora argumenta que Minnesota exige uma filtragem mais ampla do que essas salvaguardas conseguem fornecer de forma confiável.

O resultado terá importância além do Grok. Uma decisão favorável a Minnesota daria aos estados um modelo para regulamentar recursos generativos antes que ocorra mau uso. Uma decisão favorável à xAI levaria legisladores a regras mais restritas, focadas em consentimento, usuários prejudiciais e distribuição.

O que a lei de Minnesota muda para o Grok

A lei de Minnesota transfere a responsabilidade legal da pessoa que cria uma imagem abusiva para a empresa que oferece uma maneira fácil de criá-la.

O Capítulo 72, promulgado como HF 1606, proíbe uma pessoa que controle um site, aplicativo ou serviço de permitir que usuários nudifiquem uma imagem ou vídeo. Também proíbe realizar essa alteração para um usuário.

A definição abrange mídia gerada ou alterada que retrate uma parte íntima ausente da imagem original. O resultado deve parecer realista o suficiente para que uma pessoa razoável o associe a um indivíduo identificável.

A proibição não depende de distribuição pública. Uma geração privada pode acionar a lei porque o evento regulamentado é o acesso à própria capacidade. Anunciar ou promover um serviço abrangido também é proibido.

Esse desenho torna a abordagem de Minnesota diferente de muitas leis que tratam de imagens íntimas não consensuais. Essas medidas normalmente se concentram na criação, posse, publicação ou falha em remover material prejudicial após o recebimento de uma notificação.

Minnesota, em vez disso, mira o provedor de serviço no ponto em que um sistema automatizado transforma um prompt e uma imagem de origem em uma representação íntima. O estatuto de nudificação do estado deixa essa escolha explícita.

Uma pessoa afetada pode buscar danos compensatórios, incluindo até três vezes os danos reais, além de danos punitivos e honorários advocatícios. O procurador-geral também pode buscar penalidades civis de até US$ 500 mil por cada acesso, download ou uso ilegal.

Essas penalidades por uso explicam a urgência da xAI. Um recurso amplamente disponível pode processar muitos pedidos de usuários antes que uma empresa identifique uma nova forma de contornar controles ou uma falha de moderação. Mesmo uma pequena taxa de erro pode criar exposição substancial em escala de consumo.

A lei prevê uma isenção quando um serviço exige habilidade técnica ou artística individualizada substancial por parte do usuário. A distinção parece destinada a separar produtos de nudificação acionados por um botão de softwares convencionais de edição.

No entanto, a isenção cria seu próprio problema de delimitação. Geradores modernos de imagens podem aceitar prompts detalhados, imagens de referência, máscaras e instruções iterativas sem exigir conhecimento tradicional de edição. Os tribunais precisarão decidir qual nível de direcionamento humano se qualifica como habilidade e julgamento substanciais.

O estatuto também não prevê uma ampla exceção de consentimento em sua definição central. Segundo a queixa da xAI, isso significa que a proibição pode alcançar um adulto que edita sua própria imagem ou autoriza outra pessoa a criar uma representação íntima.

Legisladores de Minnesota concentraram-se na facilidade de abuso, e não em todos os possíveis usos legais. A Câmara aprovou a medida por 132 votos a 1, indicando um apoio político excepcionalmente amplo à regulamentação do recurso.

A representante Jess Hanson, autora do projeto, descreveu a tecnologia como um sistema capaz de produzir imagens íntimas “com o toque de um botão”. Essa linguagem identifica o alvo do Legislativo: automação que reduz o esforço necessário para cometer abuso baseado em imagens.

Ainda assim, a mesma automação permite edições inofensivas. Um sistema geral de imagens não opera por meio de um interruptor físico separado identificado como nudificação. Ele interpreta prompts, imagens de origem e contexto por meio de um único modelo adaptável.

O processo da Verge xAI transforma essa sobreposição técnica em uma questão constitucional. Se os provedores não puderem isolar cada resultado proibido, eles poderão suprimir uma gama mais ampla de solicitações legais para controlar seu risco jurídico.

Para Minnesota, a preocupação com bloqueio excessivo é secundária à prevenção de dano imediato. Para a xAI, ela é evidência de que o estatuto regula expressão protegida em excesso. O tribunal deverá determinar qual descrição se ajusta melhor ao funcionamento real da lei.

Por que a xAI diz que a proibição alcança imagens protegidas

O argumento mais forte da xAI não é que deepfakes não consensuais mereçam proteção, mas que Minnesota regulamenta muitas imagens sem relação com esse abuso.

A empresa afirma aceitar o interesse de Minnesota em interromper imagens íntimas não consensuais. Sua queixa, em vez disso, questiona como o estado definiu a tecnologia proibida e atribuiu responsabilidade.

Segundo reportagens sobre o processo, a xAI argumenta que o estatuto não oferece uma proteção legal para provedores que façam esforços de boa-fé para prevenir mau uso. Um sistema de moderação poderia bloquear a maioria dos prompts abusivos e ainda assim deixar seu operador exposto quando uma solicitação fosse bem-sucedida.

Essa distinção importa porque sistemas generativos não seguem um menu fixo de resultados. Usuários podem escrever palavras incorretamente, substituir termos por gírias, dividir instruções entre prompts ou descrever um resultado proibido de forma indireta.

Os modelos também podem interpretar mal solicitações inocentes. Um filtro de segurança pode tratar roupas de banho, ilustrações médicas, fotografias restauradas ou personagens fictícios como conteúdo proibido. Uma aplicação mais rigorosa pode, portanto, reduzir abusos e também aumentar recusas indevidas.

A xAI afirma que Minnesota não lhe deixa escolha prática além de restringir os recursos de edição do Grok Imagine de várias maneiras. Uma resposta provável é o bloqueio baseado em localização para usuários que se acredita estarem em Minnesota.

O geobloqueio é imperfeito. Endereços de internet nem sempre revelam a localização de um usuário com precisão, enquanto viagens, redes corporativas e ferramentas de privacidade complicam a aplicação. Registros de conta oferecem outro sinal, mas também levantam questões de privacidade e verificação.

Uma segunda resposta é uma filtragem mais ampla de prompts. A empresa poderia rejeitar solicitações que mencionem remoção de roupas, anatomia íntima ou edições realistas envolvendo pessoas identificáveis. Esse método é mais fácil de implementar, mas pode bloquear transformações legais.

Uma terceira resposta é desativar algumas funções de imagem para imagem. Isso reduziria o risco criado quando um usuário envia uma fotografia real. Também removeria ferramentas legítimas usadas para fantasias, restauração, animação e alterações criativas.

A alegação constitucional da empresa se baseia nessas restrições posteriores. Arte visual, sátira, paródia e expressão sexual consensual podem receber proteção da Primeira Emenda. Uma lei que imponha ônus a essas categorias geralmente exige uma relação estreita entre suas restrições e o objetivo do governo.

Minnesota pode responder que a lei regulamenta um recurso de produto comercial, não uma opinião ou ponto de vista. Também pode argumentar que representações íntimas realistas de pessoas identificáveis criam danos distintos à privacidade e à segurança.

A dificuldade é que o estatuto classifica os resultados por conteúdo. O fato de uma edição ser proibida depende de quais partes do corpo o resultado retrata e de quão realisticamente as associa a uma pessoa.

A xAI também contesta a definição incorporada de “parte íntima”. A empresa afirma que sua amplitude pode abranger homens sem camisa, edições com roupas de banho e anatomia rotineiramente visível em ambientes públicos.

Esse argumento não resolve o caso. Os tribunais frequentemente avaliam a linguagem legal em contexto, e Minnesota pode defender uma interpretação mais restrita durante o litígio. O estado também pode enfatizar que a imagem deve adicionar uma parte íntima ausente do original.

Ainda assim, os provedores tomam decisões de conformidade antes que os tribunais resolvam todas as ambiguidades. A possibilidade de uma penalidade de US$ 500 mil incentiva filtragem conservadora, mesmo quando uma empresa acredita que determinada edição continua legal.

É nesse ponto que a disputa da Verge xAI se torna um argumento de restrição prévia. O efeito prático de responsabilidade incerta pode interromper a expressão antes que alguém a solicite, revise ou compartilhe.

A posição da xAI também enfrenta um desafio de credibilidade. A disputa ocorreu após falhas altamente visíveis envolvendo imagens sexualizadas geradas pelo Grok. Um tribunal pode avaliar a lei de forma independente e, ao mesmo tempo, reconhecer por que Minnesota rejeitou salvaguardas voluntárias como suficientes.

A verdadeira escolha é entre capacidade e dano evitável

O caso testa se a responsabilidade deve surgir quando um sistema geral de IA facilita o abuso, em vez de somente depois que um usuário o conclui.

A teoria de Minnesota responde à escala e à velocidade das ferramentas generativas de imagem. Antes, uma pessoa precisava de habilidades de edição, tempo e software especializado para produzir uma falsificação convincente. Um sistema conversacional pode reduzir esse processo a uma fotografia enviada e uma instrução curta.

Essa redução de esforço muda quem pode cometer o abuso. Também muda a rapidez com que imagens prejudiciais podem ser criadas, copiadas e circuladas antes que um alvo as descubra.

O dano não começa apenas quando uma imagem alcança um grande público. Um agressor pode usar uma imagem gerada privadamente para coerção, assédio, extorsão ou humilhação. Uma vítima talvez nunca saiba qual serviço a criou.

Regras de remoção continuam importantes, mas operam após a geração e, muitas vezes, após a distribuição. A TAKE IT DOWN Act federal proíbe certas publicações não consensuais e exige que plataformas abrangidas estabeleçam um processo de notificação e remoção.

Minnesota escolheu um ponto de intervenção anterior. Sua lei pede que provedores impeçam um resultado descrito de forma restrita antes que o arquivo exista. Essa abordagem se assemelha mais à regulamentação de segurança de produtos do que à moderação comum de conteúdo.

O problema é que a IA generativa torna menos nítida a linha entre produto e expressão. Uma calculadora produz um número por meio de regras previsíveis. Um modelo de imagem produz material expressivo moldado conjuntamente por software, dados de treinamento, prompts e escolhas iterativas do usuário.

Portanto, um tribunal deverá decidir quanta proteção constitucional cabe ao provedor, ao usuário e à imagem resultante. Também deverá determinar se Minnesota escolheu o método viável menos restritivo.

A resposta de Ellison se concentra nas vítimas, e não na arquitetura do modelo. Ele chamou a criação não consensual de imagens de pessoas nuas com IA de algo revoltante e afirmou que isso pode causar danos emocionais, pessoais e profissionais. Sua visão rejeita a premissa de que se trata apenas de uma divergência abstrata sobre políticas de IA.

Essa posição tem forte apoio político porque o uso ofensivo é fácil de entender. Uma pessoa envia a fotografia de outra, pede a um sistema que remova suas roupas e recebe uma falsificação realista sem permissão.

No entanto, os casos constitucionais mais difíceis raramente envolvem apenas a conduta que todos condenam. Eles dependem da atividade legal adicional abrangida pela regra e de saber se uma aplicação mais restrita poderia proteger as vítimas.

Minnesota poderia ter limitado a responsabilização a representações criadas sem consentimento. Poderia ter exigido conhecimento, desconsideração imprudente ou falha reiterada em responder. Também poderia ter criado uma exceção vinculada a salvaguardas documentadas.

Em vez disso, os legisladores escolheram uma ampla proibição de acesso e grandes penalidades por uso. Essa estrutura reduz a necessidade de provar que um provedor compreendeu a intenção de um usuário específico. Ela também transfere o custo da incerteza para a plataforma.

A disputa verge xai expõe uma verdade incômoda sobre filtros de segurança. Nenhum provedor pode prometer aplicação perfeita em todos os prompts, idiomas, atualizações de modelo e técnicas adversariais.

Se o padrão legal exigir zero resultados proibidos, os provedores desativarão capacidades legais próximas. Se o padrão tolerar falhas demais, as vítimas arcarão com as consequências de abusos previsíveis.

Não se trata simplesmente de uma disputa entre segurança e liberdade de expressão. É uma controvérsia sobre quem deve absorver os erros inevitáveis criados por uma classificação imperfeita.

Minnesota atribui esses erros às empresas de IA porque elas criaram e distribuíram a capacidade. A xAI argumenta que a Constituição impede o estado de transformar a expressão legal em dano colateral.

A decisão final precisará enfrentar diretamente essa troca. Salvaguardas técnicas podem reduzir abusos, mas não podem eliminar a escolha jurídica incorporada ao limite.

As Salvaguardas Anteriores do Grok Complicam o Caso da xAI

A xAI pode contestar uma lei excessivamente ampla enquanto ainda enfrenta sérias perguntas sobre por que os controles anteriores do Grok falharam sob pressão previsível.

Em janeiro, usuários empregaram o Grok para transformar fotografias de pessoas reais em imagens sexualizadas. Governos e reguladores reagiram depois que exemplos envolvendo mulheres e aparentes menores circularam publicamente no X.

A xAI posteriormente restringiu a geração e a edição de imagens a usuários pagantes no X. A empresa afirmou que informações de conta ajudariam a identificar pessoas que tentassem violar leis ou regras da plataforma.

A empresa também anunciou medidas técnicas que impedem a conta do Grok de editar pessoas reais para colocá-las em biquínis, roupas íntimas ou outras vestimentas reveladoras. Ela afirmou que controles baseados em localização bloqueariam conteúdo nos locais em que as leis aplicáveis o proibissem.

Essas mudanças demonstram que a xAI pode restringir alguns resultados. Elas também sustentam seu argumento de que a conformidade frequentemente exige categorias amplas, e não determinações precisas de consentimento.

Um modelo não consegue saber de forma confiável se a pessoa retratada autorizou uma edição. Em geral, ele não tem acesso a registros de identidade, autorizações, acordos privados ou aos desejos atuais do indivíduo.

Como resultado, uma salvaguarda baseada em consentimento precisa de verificação externa ou de pressupostos conservadores. O provedor poderia exigir que a pessoa retratada confirmasse a permissão, o que cria riscos de privacidade, falsificação de identidade e operação.

As atuais regras de uso aceitável da xAI proíbem despir pessoas reais ou inserir sua imagem em contextos íntimos ou sexuais. Elas também proíbem representações pornográficas de pessoas reais.

Regras contratuais ajudam a estabelecer expectativas, mas não garantem o comportamento do modelo. Os termos só se tornam significativos quando detecção, aplicação e design do produto os sustentam de forma consistente.

Os usuários também não podem tratar uma proibição como prova de que resultados proibidos são impossíveis. Sistemas de segurança podem falhar por meio de prompts indiretos, manipulação de imagens, atualizações de modelo ou erros comuns de classificação.

Uma investigação oficial de privacidade canadense reforçou essa preocupação. O comissário de privacidade do Canadá concluiu que o X atualizou sua avaliação de impacto à privacidade para o Grok Imagine apenas em março de 2026.

Essa atualização ocorreu após relatos generalizados envolvendo imagens íntimas não consensuais e material de abuso sexual infantil, segundo as conclusões de privacidade do órgão regulador. O momento sugere que os processos de governança não anteciparam plenamente os riscos mais visíveis do recurso antes de sua implantação.

Isso não prova que a lei de Minnesota seja constitucional. Uma empresa com um histórico ruim de segurança mantém o direito de contestar uma lei ilegal.

No entanto, isso enfraquece uma narrativa simples em que uma autorregulação responsável tornou desnecessária a intervenção do estado. Minnesota pode apontar para a sequência de lançamento, uso indevido, reação negativa e controles reativos.

A empresa pode responder que suas salvaguardas posteriores mostram que a regulamentação deveria recompensar melhorias feitas de boa-fé. Um provedor que investe no bloqueio de abusos não deveria enfrentar a mesma exposição que um serviço dedicado à criação de imagens de pessoas nuas.

A exceção da lei para habilidade técnica reforça essa divergência. Softwares locais especializados podem permanecer fora da proibição quando os usuários precisam de conhecimento substancial. Um serviço conversacional com controles de segurança pode continuar abrangido porque torna a criação de imagens mais fácil.

Esse resultado pode parecer contraditório do ponto de vista da aplicação. A plataforma visível e baseada em contas se torna mais fácil de regular do que um modelo privado operando sem moderação ou verificações de identidade.

Minnesota pode aceitar essa limitação. Legisladores frequentemente abordam a parte alcançável de um problema sem resolver todos os usos prejudiciais. Ainda assim, a eficácia seletiva importa quando uma lei restringe atividade protegida.

Outros grandes provedores de IA geralmente restringem conteúdo sexual envolvendo pessoas reais. Seus sistemas também usam classificadores e aplicação de políticas que podem recusar prompts inofensivos.

A comparação relevante, portanto, não é com um serviço de salvaguardas perfeitas. É saber se o modelo de responsabilização de Minnesota produz uma proteção melhor do que deveres mais restritos adotados em toda a indústria.

O caso verge xai precisará de evidências sobre o comportamento real do sistema, não apenas de descrições concorrentes. Precisão dos filtros, taxas de contorno, controles de geolocalização e arquitetura do produto podem moldar a forma como um juiz vê o ônus.

O Que Acontece Após o Prazo de 1º de Agosto

Três sinais mostrarão se este processo se torna uma disputa estreita de conformidade ou um teste nacional para regular capacidades de IA generativa.

O primeiro sinal é uma medida judicial de emergência. A xAI entrou com a ação pouco antes da data de vigência da lei, em 1º de agosto, tornando a tutela preliminar central para sua estratégia.

Para obter uma liminar, a empresa deve convencer o tribunal de que enfrenta dano irreparável e tem uma chance significativa de êxito. Minnesota enfatizará a proteção das vítimas, o apoio legislativo e o interesse do estado em prevenir abusos.

Uma decisão temporária não resolverá todas as questões constitucionais. Ainda assim, ela revelará como o juiz caracteriza a lei.

Se o tribunal tratar a lei principalmente como regulamentação de produto, Minnesota ganhará uma vantagem inicial. Se o tribunal enxergar uma restrição à expressão baseada em conteúdo, o estado enfrentará uma análise constitucional mais exigente.

O segundo sinal é a resposta de produto da xAI. Os usuários devem observar se o Grok desativa a edição de imagens em Minnesota, introduz verificações de identidade mais rigorosas ou amplia recusas globais.

Uma restrição estreita baseada em localização sustentaria a alegação da xAI de que a lei fragmenta um serviço amplamente disponível. Uma restrição nacional mostraria como uma jurisdição pode influenciar o design de produto além de suas fronteiras.

Uma filtragem mais ampla também criaria evidências sobre efeitos colaterais. Relatos de solicitações bloqueadas de restauração, animação, moda ou imagens fictícias fortaleceriam o argumento de excesso de abrangência da empresa.

A continuidade de resultados proibidos apontaria na direção oposta. Isso sustentaria a visão de Minnesota de que políticas voluntárias e moderação comum não conseguem controlar adequadamente um recurso acessível.

O terceiro sinal é a imitação legislativa. Outros estados estudarão tanto o processo quanto o modelo de aplicação de Minnesota antes de elaborar suas próprias regras.

Uma liminar rápida encorajaria os legisladores a adicionar elementos de consentimento, padrões de conhecimento e exceções de segurança. Essas mudanças concentrariam a responsabilização em serviços intencionais ou falhas repetidas de moderação.

Se Minnesota sobreviver à análise inicial, os estados poderão adotar proibições em nível de capacidade para outras funções generativas de alto risco. Clonagem de voz, falsificação de identidade e ferramentas automatizadas de fraude apresentam questões semelhantes sobre regular o acesso antes do uso prejudicial.

A política federal também importa. A TAKE IT DOWN Act estabelece uma base nacional para publicação e remoção, mas não responde plenamente se os estados podem proibir uma ferramenta de criação.

Essa lacuna deixa as empresas diante de múltiplos pontos de intervenção. Uma regra pode disciplinar o acesso ao modelo, outra pode disciplinar a conduta do usuário e uma terceira pode exigir que plataformas removam material publicado.

Para desenvolvedores, a lição prática é que políticas escritas já não completam a tarefa de conformidade. As equipes precisam de evidências que mostrem como os classificadores se comportam, como as denúncias são tratadas e como mudanças no modelo afetam o risco.

Gerentes de produto devem documentar quais salvaguardas operam antes da geração, após a geração e durante a distribuição. Também devem acompanhar falsos positivos, padrões de contorno e tempos de resposta, sem tratar qualquer métrica como prova de segurança completa.

Compradores empresariais devem fazer perguntas semelhantes antes de permitir ferramentas de imagem generativa em fluxos de trabalho voltados ao cliente. A exposição jurídica pode surgir das capacidades acessíveis de um produto, mesmo quando os funcionários recebem instruções contra o uso indevido.

Profissionais do conhecimento e usuários comuns enfrentam uma preocupação mais simples. Um recurso disponível hoje pode desaparecer regionalmente quando seu provedor não consegue conciliar a lei local com um modelo de uso geral.

O processo também desafia uma suposição familiar sobre a regulamentação de IA. Os legisladores não precisam classificar um modelo inteiro como seguro ou perigoso. Eles podem visar uma categoria de resultado e ainda remodelar o produto ao redor dela.

Essa abordagem direcionada parece estreita na linguagem legal. Suas consequências técnicas podem ser amplas porque um modelo produz muitas formas interdependentes de expressão.

A decisão final não deve ser prevista apenas a partir da petição da xAI. Minnesota ainda não havia analisado nem recebido formalmente a queixa quando Ellison emitiu sua resposta inicial.

A defesa formal do estado pode oferecer interpretações legais mais restritas que abordem alguns exemplos contestados. Ela também pode apresentar evidências sobre vítimas, design do produto e os limites dos recursos posteriores à publicação.

A xAI deve mostrar mais do que inconveniência. Ela precisa conectar o texto e as penalidades da lei à expressão protegida que seus usuários criariam de outro modo.

Minnesota deve mostrar mais do que um objetivo convincente. Deve defender por que essa proibição focada no provedor se ajusta a esse objetivo sem suprimir material legal em excesso.

Observe primeiro a decisão sobre a liminar, as restrições do Grok em segundo lugar e a legislação imitadora em terceiro. Juntos, esses sinais determinarão se a cobertura de verge xai registra um impasse temporário ou o início de um novo modelo regulatório.

Os leitores devem manter uma pergunta em vista: os legisladores podem impedir o abuso automatizado de imagens sem forçar sistemas de uso geral a suprimir criações legais? As primeiras ordens judiciais não encerrarão esse debate, mas estabelecerão qual lado terá de suportar seu ônus mais pesado a seguir.