Vitória da xAI contra a proibição de nudificação em Minnesota suspende aplicação, mas não encerra a disputa

A xAI obteve uma liminar em instância de apelação em 2 de outubro, suspendendo a primeira proibição estadual de Minnesota voltada a ferramentas de “nudificação” por IA enquanto seu recurso constitucional avança. A disputa sobre a proibição de nudificação da xAI em Minnesota agora entra em uma fase mais consequente. Um tribunal federal de apelações favoreceu temporariamente a empresa, apesar da recusa anterior de um tribunal inferior em bloquear a aplicação da lei.

O Tribunal de Apelações do Oitavo Circuito dos EUA emitiu uma ordem de uma única frase, sem explicar seu raciocínio. Essa brevidade deixa o resultado imediato claro, mas mantém indefinido o critério jurídico aplicável. Minnesota não pode aplicar a lei contestada por enquanto, mas o tribunal não a declarou inconstitucional.

Não se trata apenas de uma disputa sobre se imagens sexuais não consensuais causam danos. A xAI reconhece que os estados têm um interesse legítimo em impedir esse tipo de abuso. O conflito diz respeito a saber se Minnesota visou condutas nocivas de forma suficientemente restrita ou impôs ampla responsabilidade a ferramentas que também podem produzir expressão protegida.

O caso coloca dois objetivos defensáveis em tensão direta. Minnesota quer que as plataformas previnam uma forma especialmente invasiva de abuso de imagem antes que as vítimas sofram. A xAI argumenta que o estado não pode suprimir imagens lícitas apenas porque a mesma tecnologia pode ser usada de forma indevida.

O que o Tribunal de Apelações Realmente Mudou

O tribunal de apelações suspendeu a aplicação, mas não concedeu uma vitória definitiva à xAI nem invalidou a lei de Minnesota.

A liminar de apelação veio depois que o tribunal distrital federal rejeitou o pedido da xAI por tutela preliminar em 4 de setembro. Essa decisão anterior havia permitido que a lei permanecesse em vigor durante o litígio. O Oitavo Circuito inverteu o resultado prático enquanto o recurso da xAI avança.

A ordem do tribunal de apelações contém apenas uma frase e não oferece análise constitucional. Ela não identifica qual argumento da xAI convenceu os juízes. Também não explica se o tribunal se concentrou em liberdade de expressão, dano irreparável, amplitude estatutária ou outra questão.

Uma liminar pendente de recurso preserva as condições enquanto os juízes de apelação analisam a disputa. Ela pode indicar sérias preocupações com a decisão do tribunal inferior, mas não resolve o mérito. Minnesota pode continuar defendendo a lei por meio de memoriais e argumentação.

A medida contestada entrou em vigor em 1º de agosto de 2026. O governador Tim Walz a sancionou em 7 de maio, depois que a Câmara de Minnesota a aprovou por 132 votos a 1. O Senado estadual a aprovou por unanimidade, por 65 votos a 0.

Esse consenso político moldou o processo no tribunal inferior. O juiz distrital Donovan Frank enfatizou o interesse público em prevenir imagens sexualizadas fotorrealistas. Ele também concluiu que a xAI demorou demais para buscar tutela urgente após a promulgação da lei.

A xAI apresentou sua ação em 27 de julho, apenas alguns dias antes do início da aplicação. Dois dias depois, solicitou uma ordem de restrição temporária. O tribunal distrital rejeitou esse pedido emergencial em 31 de julho e então analisou o pedido mais amplo de liminar preliminar.

O tribunal distrital negou esse segundo pedido em setembro. Sua decisão sobre a liminar preliminar concluiu que o equilíbrio de danos e o interesse público favoreciam Minnesota. Também tratou o ajuizamento tardio da xAI como evidência contra a existência de dano irreparável imediato.

O Oitavo Circuito agora mudou qual parte arca com as consequências práticas durante o recurso. Minnesota perde temporariamente seu mecanismo de aplicação. A xAI evita a potencial responsabilidade prevista na lei enquanto preserva sua contestação constitucional.

A ação em si continua, e o tribunal de apelações não forneceu uma regra duradoura para leis semelhantes sobre IA. Outros estados, portanto, não podem tratar a liminar como um modelo completo. Podem, contudo, perceber que restrições amplas voltadas a ferramentas de imagem por IA enfrentam séria análise sob a Primeira Emenda.

A distinção processual também importa para os usuários. Uma liminar não cria um direito geral de gerar imagens sexuais não consensuais. Outras leis estaduais e federais ainda podem regular distribuição, assédio, exploração e material de abuso sexual infantil.

O que mudou é mais restrito. Minnesota não pode atualmente aplicar esta proibição específica focada em plataformas. A questão mais difícil é se os legisladores podem reformular tal lei sem perder seu propósito preventivo.

Como Funciona a Proibição de Nudificação da xAI em Minnesota

Minnesota regulou o acesso a uma categoria de capacidade de geração de imagens, e não apenas a publicação nociva de uma imagem concluída.

O texto legal define nudificação como alterar ou gerar uma imagem ou vídeo de uma pessoa identificável. O resultado deve retratar uma parte íntima ausente do material original. Também deve parecer realista o suficiente para pertencer àquela pessoa.

A lei abrange o proprietário ou controlador de um site, aplicativo, programa de software ou outro serviço. Operadores abrangidos não podem permitir que usuários acessem, baixem ou usem seus serviços para realizar nudificação proibida. Tampouco podem produzir essas imagens para usuários.

A proibição se estende à publicidade ou promoção de um serviço abrangido. Portanto, ela alcança mais do que o ato final de compartilhar conteúdo abusivo. Minnesota a elaborou para limitar, em primeiro lugar, o acesso a ferramentas capazes de criar esse conteúdo.

Um serviço fica fora da proibição quando seu uso exige habilidade técnica ou artística individualizada substancial. A exceção distingue recursos automatizados para consumidores de ferramentas que exigem orientação humana significativa. Essa distinção é central para o desenho da lei e uma fonte de atrito constitucional.

A lei concede às pessoas retratadas um direito privado de ação. Uma vítima pode buscar indenização compensatória, incluindo danos por angústia ou sofrimento mental. A lei permite recuperar até três vezes os danos efetivos, além de indenização punitiva e custos do litígio.

O procurador-geral de Minnesota também pode buscar aplicação civil. Uma violação pode gerar uma penalidade de até US$ 500.000 para cada acesso, download ou uso ilícito. Essa escala torna a incerteza sobre o alcance da lei especialmente importante para as plataformas.

Ao contrário de muitas leis que abordam deepfakes íntimos, Minnesota atribui responsabilidade diretamente aos provedores de tecnologia. Um deepfake é mídia sintética ou alterada que retrata realisticamente algo que uma pessoa não fez. Nudificação é um uso mais restrito que envolve anatomia íntima fabricada de forma realista.

Leis existentes frequentemente punem criadores ou distribuidores depois que uma imagem abusiva surge. Minnesota, em vez disso, buscou impedir que recursos automatizados acessíveis produzissem essas imagens. Os defensores veem a prevenção como necessária porque a remoção não pode reparar plenamente o dano depois que uma imagem se espalha.

Essa arquitetura preventiva também cria o problema da Primeira Emenda alegado pela xAI. A lei não depende exclusivamente de a pessoa retratada ter negado consentimento. Segundo a empresa, ela pode, portanto, alcançar imagens envolvendo adultos consentidores ou criadores editando suas próprias semelhanças.

A definição de “parte íntima” incorpora linguagem de outra lei de Minnesota. A xAI afirma que isso pode alcançar áreas do corpo exibidas em ambientes públicos comuns. A empresa argumenta que sátira, arte, medicina, jornalismo e expressão pessoal lícitos podem se enquadrar na proibição.

Minnesota contesta essa caracterização e aponta para o requisito de realismo da lei. A imagem deve parecer retratar uma parte íntima real pertencente a uma pessoa identificável. O estado também enfatiza a exceção de habilidade técnica e o objetivo protetivo da lei.

Nenhum dos lados contesta que imagens sexuais sintéticas não consensuais podem impor danos graves. A divergência diz respeito ao método jurídico. Minnesota visa o produto que viabiliza a conduta, enquanto a xAI afirma que o estado deve se concentrar mais estritamente em intenção nociva, ausência de consentimento ou distribuição ilegal.

Essa diferença explica por que o caso importa além do Grok. Sistemas generativos de uso geral combinam capacidades lícitas e ilícitas dentro do mesmo modelo. Uma regra de plataforma redigida em torno da capacidade pode, portanto, afetar muitos resultados que os legisladores jamais pretenderam suprimir.

Responsabilização das Plataformas Encontra a Primeira Emenda

A disputa central é entre a responsabilidade preventiva das plataformas e a exigência constitucional de regulação restrita e neutra quanto ao conteúdo.

A xAI descreve a lei de Minnesota como uma restrição excessivamente ampla e baseada em conteúdo sobre a expressão. Uma lei baseada em conteúdo atribui consequências jurídicas ao que uma manifestação comunica ou retrata. Os tribunais geralmente aplicam escrutínio rigoroso quando governos restringem a expressão nessa base.

A empresa não argumenta que toda imagem gerada merece proteção. Ela aceita o interesse de Minnesota em combater imagens sexuais não consensuais. Sua alegação é que a lei abrange substancialmente mais expressão do que esse objetivo legítimo exige.

Em sua petição, a xAI usou imagens hipotéticas e satíricas para ilustrar a amplitude alegada. Argumentou que imagens políticas protegidas, trabalhos artísticos, fotografias restauradas e projetos consensuais poderiam gerar responsabilidade para a plataforma. Também criticou a ausência de um porto seguro para esforços razoáveis de moderação.

Um porto seguro protegeria provedores que adotem precauções especificadas, mesmo quando usuários burlam esses controles. A lei de Minnesota não estabelece esse tipo de defesa de conformidade. Uma plataforma pode ficar exposta com base no uso proibido, e não na adequação de suas salvaguardas.

Essa escolha reflete a frustração do estado com a moderação reativa. Quando uma imagem sexual fotorrealista entra nas redes sociais, cópias podem persistir em diferentes contas e serviços. Um sistema de denúncia e remoção não pode garantir que a imagem desapareça.

O procurador-geral de Minnesota, Keith Ellison, enquadra a disputa em torno desse dano irreversível. Seu escritório afirma que produtos de nudificação geram imagens sexuais que prejudicam e assediam pessoas. O estado argumenta que sua lei protege a dignidade ao mesmo tempo que atribui responsabilidade às empresas que operam ferramentas automatizadas.

A defesa do estado também enfatiza a legitimidade política da lei. Legisladores de Minnesota a aprovaram com 197 votos combinados a favor e um contra. O apoio bipartidário, porém, não pode resolver sozinho uma contestação constitucional.

A xAI afirma que suas políticas já proíbem usos ilegais, nocivos ou abusivos que violem a privacidade. Também declarou que suspende ou encerra o acesso de infratores e reporta suspeitas de material de abuso sexual infantil. Essas são alegações da empresa sobre aplicação, não prova independente de que as salvaguardas funcionam de forma consistente.

A empresa havia dito anteriormente que limitaria os serviços em Minnesota caso a lei permanecesse aplicável. Essa resposta ilustra como regras estaduais podem moldar a disponibilidade de produtos. Provedores podem bloquear geograficamente capacidades em vez de aceitar responsabilidade incerta em uma jurisdição.

Bloqueio geográfico significa restringir um recurso de acordo com a localização do usuário. Ele oferece às plataformas um método prático de conformidade, mas os controles de localização são imperfeitos. Usuários podem mascarar sua localização, enquanto empresas podem bloquear por engano acessos lícitos.

A abordagem de Minnesota tenta deslocar a responsabilidade para etapas anteriores. Em vez de depender inteiramente de vítimas para processarem abusadores individuais, ela cria incentivos para que provedores impeçam resultados proibidos. No entanto, quanto mais forte o incentivo, maior a probabilidade de as plataformas suprimirem material lícito que esteja na fronteira.

Esse é o principal dilema do caso. Uma medida restrita pode deixar vítimas expostas porque criadores de conteúdo nocivo se adaptam rapidamente. Uma medida ampla pode transformar expressão lícita em dano colateral, pois os provedores moderam com cautela.

A ordem sem explicação do tribunal de apelação não diz aos legisladores onde está esse equilíbrio. Ela sinaliza que a questão merece análise contínua. Não estabelece que plataformas de IA sejam imunes a regras voltadas a resultados nocivos.

Por que o Grok tornou o conflito imediato

O Grok transformou um debate abstrato sobre a regulação de imagens por IA em uma disputa sobre um produto de consumo amplamente acessível.

O chatbot Grok e o gerador Grok Imagine, da xAI, estão disponíveis por meio do X e de outras interfaces. Essa distribuição coloca a geração de imagens ao lado de uma grande rede social. A criação e a publicação podem, portanto, ocorrer em um ambiente de produto estreitamente conectado.

A preocupação não é exclusiva da xAI. Muitos geradores de imagens conseguem produzir pessoas realistas, alterar fotografias ou seguir prompts sexualizados. O Grok se tornou o réu imediato porque Minnesota identificou suas capacidades acessíveis de criação de imagens, e a xAI contestou a lei antes de sua aplicação.

A ação da empresa argumenta que seus produtos permitem sátira, arte, animação e edição fotográfica comum. Ela afirma que as definições de Minnesota não separam claramente esses usos da nudez artificial proibida. O estado responde que os usos benéficos da ferramenta não eliminam os nocivos.

A controvérsia pública se intensificou depois que usuários geraram imagens sexualizadas envolvendo mulheres e crianças. Mais tarde, a xAI disse ter implementado medidas que bloqueiam algumas edições de pessoas reais com roupas reveladoras. Essas mudanças mostraram que os provedores podem alterar o comportamento de seus produtos, mas não que qualquer controle seja abrangente.

O histórico jurídico mais amplo destaca vários modelos regulatórios. A lei federal exige que serviços abrangidos adotem processos de remoção para imagens íntimas não consensuais. O Texas estabelece responsabilidade quando operadores sabem que não há consentimento ou deixam de remover prontamente material denunciado.

Minnesota escolheu um modelo mais preventivo, direcionado ao acesso à tecnologia automatizada de nudez artificial. Ele não espera pela distribuição nem exige a mesma sequência de notificações. Isso o torna mais protetivo antes da publicação, mas mais vulnerável a alegações de abrangência excessiva.

Essa distinção pressiona todo provedor que oferece recursos de geração de imagens. Uma empresa precisa decidir se desenvolverá controles específicos para cada jurisdição, desativará capacidades de forma ampla ou contestará a lei. Cada opção envolve custos técnicos, jurídicos e reputacionais.

Desenvolvedores menores enfrentam as mesmas questões sem os recursos da xAI para litígios. Eles precisam determinar se seu software exige habilidade humana suficiente para se qualificar à exceção de Minnesota. A incerteza pode incentivá-los a bloquear uma categoria inteira de edição.

A disputa também expõe os limites das políticas de produto. Termos de serviço podem proibir abusos, mas dependem de detecção e aplicação. Um usuário malicioso pode reformular prompts, combinar resultados ou mover o material para outra plataforma.

As regras jurídicas também têm limites. A fronteira de um estado não contém uma imagem on-line depois que outra pessoa a baixa. A aplicação da lei contra uma plataforma pode reduzir o acesso, mas não elimina modelos executados localmente nem serviços estrangeiros.

A resposta política mais crível exigirá, portanto, várias camadas. As plataformas precisam de controles preventivos, sistemas de denúncia e consequências claras para abusos. As vítimas precisam de procedimentos rápidos de remoção e vias práticas para obter reparação civil.

Os legisladores também precisam definir precisamente a conduta proibida. Regras baseadas em consentimento, intenção, identificabilidade, realismo e distribuição podem atingir o dano de maneira mais precisa. Cada elemento adicional, porém, pode tornar a aplicação mais lenta ou difícil.

O processo sobre nudez artificial envolvendo a xAI obriga os tribunais a avaliar onde a responsabilidade da plataforma se torna supressão inconstitucional. Essa questão voltará a surgir entre geradores de imagens, modelos abertos, serviços de hospedagem e plataformas sociais. O Grok é o ponto focal atual, não o limite da questão.

O que a liminar não resolve

Os argumentos mais fortes de ambos os lados continuam sem teste porque o tribunal de apelação não apresentou justificativa para sua intervenção.

A primeira incerteza diz respeito ao fundamento jurídico da liminar. O Oitavo Circuito pode estar preocupado com expressão protegida, dano irreparável, as definições da lei ou a análise do tribunal distrital. Uma ordem de uma frase não permite distinguir entre essas possibilidades.

A segunda incerteza envolve o consentimento. A lei de Minnesota define resultados proibidos por meio de pessoas identificáveis, anatomia alterada e realismo. Ela não torna a ausência de consentimento o elemento central de todo uso abrangido.

Essa omissão fortalece o argumento de abrangência excessiva da xAI. Um adulto pode autorizar uma imagem alterada ou editar sua própria foto. Um artista político pode produzir uma sátira reconhecível sem alegar que a imagem registra a realidade.

Minnesota pode responder que a fabricação realista de imagens íntimas cria riscos distintos, mesmo quando algumas aplicações parecem benignas. Ainda assim, o estado precisa demonstrar por que a cobertura escolhida continua adequadamente delimitada. Proteger vítimas não valida automaticamente toda restrição adotada para esse fim.

A terceira incerteza diz respeito à exceção de habilidade técnica. Exigir julgamento humano substancial pode proteger artistas digitais tradicionais que usam software complexo. Também pode criar uma distinção incomum entre imagens idênticas, baseada em quanto esforço o criador empregou.

Uma imagem editada manualmente pode se qualificar à exceção, enquanto um equivalente gerado por prompt não. Essa diferença atende à tentativa de Minnesota de atingir a automação escalável. Ela também suscita perguntas sobre se o esforço do autor é uma linha divisória constitucionalmente válida.

A quarta incerteza envolve o conhecimento da plataforma. A lei não passa a operar apenas depois que um provedor recebe uma denúncia sobre uma imagem específica. A xAI argumenta que isso expõe serviços à responsabilidade sem um requisito significativo de conhecimento ou intenção.

Minnesota desenhou essa característica deliberadamente porque produtos automatizados podem facilitar abusos em larga escala. Exigir notificação para cada imagem pode transferir novamente o ônus para as vítimas. O problema constitucional é decidir quanta responsabilidade preventiva um estado pode impor.

A quinta incerteza é a eficácia prática. Uma proibição ampla pode reduzir o acesso por meio das principais plataformas de consumo. Ela também pode levar usuários determinados a modelos baixáveis, serviços offshore ou ferramentas sem canais de denúncia.

A própria liminar também pode gerar interpretações enganosas. Ela não endossa abuso de imagens não consensuais nem elimina outras proteções jurídicas. Trata-se de saber se Minnesota pode aplicar uma lei específica durante um recurso constitucional em andamento.

A ordem tampouco prova que as salvaguardas da xAI sejam adequadas. As políticas declaradas pela empresa exigem evidências sobre sua aplicação no mundo real. Uma plataforma pode proibir conteúdo nocivo por escrito e ainda assim ter dificuldade para impedir mau uso repetido.

As alegações do estado merecem escrutínio semelhante. Danos graves justificam regulação, mas não demonstram que toda imagem abrangida cause o mesmo prejuízo. Os tribunais examinarão a linguagem legal, e não apenas descrições políticas.

Portanto, os leitores devem evitar tratar a disputa como uma escolha entre proteger vítimas e proteger abusadores. A questão mais difícil é como proteger vítimas sem conceder aos governos autoridade desnecessariamente ampla sobre ferramentas expressivas.

Esse enquadramento não torna o dano abstrato. Imagens sexuais sintéticas podem prejudicar emprego, educação, relacionamentos e segurança pessoal. Significa que a medida precisa resistir à análise constitucional e, ao mesmo tempo, permanecer utilizável pelas vítimas.

Três sinais a observar à medida que o recurso avança

A próxima fase mostrará se a abordagem de Minnesota se torna um modelo, um alerta ou um ponto de partida para legislação mais restrita.

O primeiro sinal são as manifestações sobre o mérito no Oitavo Circuito e qualquer decisão fundamentada. O processo do recurso identifica a disputa como X.AI LLC v. Keith Ellison. A análise final do tribunal importa mais do que a ordem provisória sem explicação.

Uma decisão centrada em abrangência excessiva pressionaria Minnesota a restringir a definição de resultados proibidos. Uma decisão focada na ausência de consentimento ou no conhecimento do provedor ofereceria aos legisladores um caminho mais claro para corrigir a lei. Uma decisão processual poderia deixar sem solução a disputa mais ampla sobre a Primeira Emenda.

Observe se o tribunal distingue entre criar, fornecer e distribuir uma imagem. Essas atividades envolvem participantes diferentes e oportunidades diferentes de prevenção. Um teste jurídico durável precisa explicar qual agente pode ser regulado e em quais condições.

O segundo sinal é a resposta de Minnesota. O estado pode defender o texto existente, buscar nova medida recursal ou começar a considerar alterações. Uma lei revisada pode incorporar consentimento, conhecimento, salvaguardas razoáveis ou uma proteção legal para provedores.

Qualquer alteração criaria dilemas. Uma proteção legal poderia recompensar moderação séria enquanto protege desenvolvedores responsáveis. Requisitos fracos também poderiam permitir que plataformas alegassem conformidade sem impedir abusos previsíveis.

Um requisito de consentimento separaria melhor a expressão autorizada da exploração. Comprovar a ausência de consentimento em larga escala pode ser difícil, especialmente antes de uma imagem ser gerada. As plataformas precisariam de métodos que não criem novos riscos à privacidade ou à identidade.

O terceiro sinal é o comportamento do produto da xAI durante a liminar. A empresa pode restaurar o acesso afetado, manter restrições voluntariamente ou introduzir controles mais precisos. Sua escolha testará a alegação de que salvaguardas internas podem enfrentar abusos sem a proibição de Minnesota.

Evidências independentes importarão mais do que declarações de políticas. Pesquisadores e jornalistas devem examinar se os usuários ainda conseguem induzir sistemas a produzir material proibido. Também devem acompanhar a rapidez com que os provedores respondem quando as salvaguardas falham.

Outros estados acompanharão esses desdobramentos de perto. Uma decisão fundamentada contra Minnesota poderia direcioná-los à responsabilidade baseada em notificação ou a restrições de distribuição. Uma decisão favorável a Minnesota poderia incentivar mais leis voltadas à disponibilidade de recursos automatizados.

Desenvolvedores devem monitorar definições relacionadas a realismo, identificabilidade, consentimento e habilidade técnica. Esses termos podem determinar se um editor de imagens de uso geral se torna um serviço regulamentado de nudez artificial. As equipes de produto também devem manter registros claros de decisões de moderação e testes de salvaguardas.

Usuários de IA não devem interpretar a suspensão como permissão. Criar ou compartilhar imagens íntimas sem consentimento pode violar outras leis e regras de plataformas. Imagens envolvendo menores apresentam preocupações criminais e de segurança especialmente graves.

Para formuladores de políticas, a lição central já é visível. Regular um resultado nocivo é mais fácil de defender quando uma lei identifica com precisão o dano, o agente responsável e o estado mental exigido. Proibições amplas de capacidades permitem prevenção mais rápida, mas enfrentam maior pressão constitucional.

Para as plataformas, litígio não pode substituir engenharia de segurança confiável. Se empresas querem leis mais restritas, precisam de evidências críveis de que controles menos restritivos funcionam. Isso exige políticas transparentes, aplicação efetiva e respostas mensuráveis a abusos denunciados.

A apelação da proibição de nudificação da xAI em Minnesota testará se um estado estabeleceu seu limite jurídico no lugar errado. Ela não decidirá se o abuso sexual sintético merece intervenção. As próximas decisões determinarão quais intervenções os tribunais permitem e se as plataformas conseguem oferecer uma alternativa convincente.

Os leitores devem acompanhar, nessa ordem, a fundamentação escrita da apelação, a resposta legislativa de Minnesota e os controles reais de produto da xAI. Juntos, esses sinais revelarão se essa liminar restringe a regulamentação da IA ou apenas adia uma regra reformulada.