La demanda de Verge xAI sitúa la prohibición de desnudar imágenes de Minnesota en rumbo de colisión con la Primera Enmienda

xAI demandó a Minnesota cuando faltaban cinco días para que entrara en vigor, el 1 de agosto, la primera prohibición del país sobre tecnología accesible para desnudar imágenes.

La empresa sostiene que la ley de Minnesota la obliga a restringir la edición de imágenes de Grok que es legal o a arriesgarse a sanciones de hasta 500.000 dólares por cada acceso, descarga o uso ilícito. Por tanto, la disputa verge xai es más amplia que una sola función cuestionable. Plantea si un estado puede regular una herramienta de IA antes de que se cree o distribuya una imagen dañina.

El fiscal general de Minnesota, Keith Ellison, ve un problema más inmediato. Los sistemas de IA pueden transformar fotografías comunes en imágenes íntimas realistas sin el consentimiento de la persona retratada. Los legisladores quieren interrumpir ese daño desde su creación, en vez de depender solo de retiradas de contenido o procesos judiciales tras la distribución.

Eso crea el conflicto central. Minnesota considera que el acceso fácil a la tecnología para desnudar imágenes representa un peligro a nivel de producto. xAI afirma que la ley impone una restricción basada en el contenido que alcanza expresiones protegidas, incluidas ediciones consensuadas y no sexuales.

El caso llega después de que Grok enfrentara escrutinio internacional por imágenes sexualizadas de personas reales. En enero, xAI respondió con nuevas restricciones, controles de cuentas y bloqueos según la ubicación. Ahora, su demanda sostiene que Minnesota exige un filtrado más amplio del que esas salvaguardias pueden proporcionar de forma fiable.

El resultado importará más allá de Grok. Un fallo favorable a Minnesota daría a los estados un modelo para regular funciones generativas antes de que ocurra un uso indebido. Un fallo favorable a xAI empujaría a los legisladores hacia normas más acotadas, centradas en el consentimiento, los usuarios dañinos y la distribución.

Lo que cambia la ley de Minnesota para Grok

La ley de Minnesota traslada la responsabilidad legal de la persona que crea una imagen abusiva a la empresa que ofrece una forma sencilla de crearla.

El Capítulo 72, promulgado como HF 1606, prohíbe a una persona que controle un sitio web, aplicación o servicio permitir que los usuarios desnuden una imagen o un video. También prohíbe realizar esa alteración para un usuario.

La definición abarca medios generados o alterados que representen una parte íntima ausente en la imagen original. El resultado debe parecer lo suficientemente realista como para que una persona razonable lo asocie con un individuo identificable.

La prohibición no depende de la distribución pública. Una generación privada puede activar la ley porque el evento regulado es el acceso a la capacidad misma. También está prohibido anunciar o promocionar un servicio cubierto.

Ese diseño diferencia el enfoque de Minnesota de muchas leyes que regulan las imágenes íntimas no consentidas. Esas medidas suelen centrarse en la creación, posesión, publicación o incumplimiento de retirar material dañino tras recibir una notificación.

Minnesota, en cambio, apunta al proveedor del servicio en el momento en que un sistema automatizado transforma una instrucción y una imagen de origen en una representación íntima. El estatuto sobre desnudar imágenes del estado deja explícita esa decisión.

Una persona afectada puede reclamar daños compensatorios, incluidos hasta tres veces los daños reales, además de daños punitivos y honorarios de abogados. El fiscal general también puede solicitar sanciones civiles de hasta 500.000 dólares por cada acceso, descarga o uso ilícito.

Esas sanciones por uso explican la urgencia de xAI. Una función ampliamente disponible puede procesar muchas solicitudes de usuarios antes de que una empresa detecte una nueva evasión o un fallo de moderación. Incluso una tasa de error pequeña puede generar una exposición considerable a escala de consumo.

La ley contempla una exención cuando un servicio exige del usuario una habilidad técnica o artística individualizada sustancial. Esa distinción parece buscar separar los productos de desnudar imágenes con solo pulsar un botón del software de edición convencional.

Sin embargo, la exención crea su propio problema de delimitación. Los generadores de imágenes modernos pueden aceptar instrucciones detalladas, imágenes de referencia, máscaras e indicaciones iterativas sin exigir conocimientos tradicionales de edición. Los tribunales deben decidir qué nivel de dirección humana constituye habilidad y criterio sustanciales.

El estatuto tampoco prevé una excepción amplia por consentimiento dentro de su definición central. Según la demanda de xAI, esto significa que la prohibición puede alcanzar a un adulto que edite su propia imagen o autorice a otra persona a crear una representación íntima.

Los legisladores de Minnesota se concentraron en la facilidad del abuso, más que en todos los posibles usos legales. La Cámara aprobó la medida por 132 votos a 1, lo que indica un respaldo político inusualmente amplio para regular esta función.

La representante Jess Hanson, autora del proyecto, describió la tecnología como un sistema capaz de producir imágenes íntimas “con solo pulsar un botón”. Ese lenguaje identifica el objetivo de la legislatura: la automatización que reduce el esfuerzo necesario para cometer abusos basados en imágenes.

Sin embargo, la misma automatización permite ediciones inocuas. Un sistema general de imágenes no funciona mediante un interruptor físico independiente etiquetado como desnudar imágenes. Interpreta instrucciones, imágenes de origen y contexto a través de un único modelo adaptable.

La demanda verge xai convierte ese solapamiento técnico en una cuestión constitucional. Si los proveedores no pueden aislar todas las salidas prohibidas, podrían suprimir una gama más amplia de solicitudes legales para controlar su riesgo jurídico.

Para Minnesota, la preocupación por el bloqueo excesivo es secundaria frente a la prevención de daños inmediatos. Para xAI, es una prueba de que el estatuto regula demasiada expresión protegida. El tribunal debe determinar qué descripción se ajusta mejor al funcionamiento real de la ley.

Por qué xAI afirma que la prohibición alcanza imágenes protegidas

El argumento más sólido de xAI no es que los deepfakes no consentidos merezcan protección, sino que Minnesota regula muchas imágenes ajenas a ese abuso.

La empresa dice que acepta el interés de Minnesota en detener las imágenes íntimas no consentidas. En cambio, su demanda cuestiona cómo el estado definió la tecnología prohibida y asignó la responsabilidad.

Según los informes sobre la demanda, xAI sostiene que el estatuto carece de un puerto seguro para proveedores que hagan esfuerzos de buena fe para prevenir usos indebidos. Un sistema de moderación podría bloquear la mayoría de las instrucciones abusivas y aun así dejar a su operador expuesto cuando una solicitud tenga éxito.

Esta distinción importa porque los sistemas generativos no siguen un menú fijo de resultados. Los usuarios pueden escribir mal palabras, sustituirlas por jerga, dividir instrucciones entre varias solicitudes o describir indirectamente un resultado prohibido.

Los modelos también pueden malinterpretar solicitudes inocentes. Un filtro de seguridad podría tratar como contenido prohibido los trajes de baño, las ilustraciones médicas, las fotografías restauradas o los personajes ficticios. Por ello, una aplicación más estricta puede reducir el abuso y, al mismo tiempo, aumentar las negativas erróneas.

xAI afirma que Minnesota le deja sin otra opción práctica que restringir de diversas maneras las funciones de edición de Grok Imagine. Una respuesta probable es el bloqueo por ubicación de usuarios que se cree que están en Minnesota.

El geobloqueo es imperfecto. Las direcciones de internet no siempre revelan con precisión la ubicación de un usuario, mientras que los viajes, las redes corporativas y las herramientas de privacidad complican la aplicación. Los registros de cuentas ofrecen otra señal, pero también plantean dudas sobre privacidad y verificación.

Una segunda respuesta es un filtrado más amplio de instrucciones. La empresa podría rechazar solicitudes que mencionen quitar ropa, anatomía íntima o ediciones realistas de personas identificables. Este método es más fácil de desplegar, pero puede bloquear transformaciones legales.

Una tercera respuesta es desactivar algunas funciones de imagen a imagen. Eso reduciría el riesgo creado cuando un usuario carga una fotografía real. También eliminaría herramientas legítimas utilizadas para vestuarios, restauración, animación y alteraciones creativas.

La reclamación constitucional de la empresa se basa en esas restricciones posteriores. El arte visual, la sátira, la parodia y la expresión sexual consensuada pueden recibir protección de la Primera Enmienda. Una ley que impone cargas sobre esas categorías generalmente requiere una relación estrecha entre sus restricciones y el objetivo del gobierno.

Minnesota puede responder que la ley regula una función comercial de un producto, no una opinión ni un punto de vista. También puede sostener que las representaciones íntimas realistas de personas identificables generan daños diferenciados para la privacidad y la seguridad.

La dificultad es que el estatuto clasifica los resultados según su contenido. Que una edición esté prohibida depende de qué partes del cuerpo represente el resultado y de cuán realista sea la asociación con una persona.

xAI también cuestiona la definición incorporada de una “parte íntima”. La empresa afirma que su amplitud puede abarcar a hombres sin camisa, ediciones con trajes de baño y anatomía visible habitualmente en entornos públicos.

Ese argumento no resuelve el caso. Los tribunales suelen evaluar el lenguaje de los estatutos en su contexto, y Minnesota puede defender una interpretación más limitada durante el litigio. El estado también podría recalcar que la imagen debe añadir una parte íntima ausente en la original.

Aun así, los proveedores toman decisiones de cumplimiento antes de que los tribunales resuelvan cada ambigüedad. La posibilidad de una sanción de 500.000 dólares incentiva un filtrado conservador, incluso cuando una empresa considera que una edición concreta sigue siendo legal.

Aquí es donde la disputa verge xai se convierte en un argumento de censura previa. El efecto práctico de una responsabilidad incierta puede detener la expresión antes de que alguien la solicite, revise o comparta.

La posición de xAI también enfrenta un desafío de credibilidad. La disputa siguió a fallos muy visibles relacionados con imágenes sexualizadas generadas por Grok. Un tribunal puede evaluar la ley de forma independiente y, al mismo tiempo, reconocer por qué Minnesota rechazó las salvaguardias voluntarias como suficientes.

La verdadera disyuntiva es capacidad frente a daño prevenible

El caso pone a prueba si la responsabilidad debe surgir cuando un sistema general de IA facilita el abuso, en vez de hacerlo solo después de que un usuario complete el abuso.

La teoría de Minnesota responde a la escala y velocidad de las herramientas de imágenes generativas. Antes, una persona necesitaba habilidades de edición, tiempo y software especializado para producir una falsificación convincente. Un sistema conversacional puede reducir ese proceso a una fotografía cargada y una instrucción breve.

Esa reducción del esfuerzo cambia quién puede cometer el abuso. También cambia la rapidez con la que pueden crearse, copiarse y circular imágenes dañinas antes de que una persona afectada las descubra.

El daño no comienza únicamente cuando una imagen alcanza una audiencia amplia. Un perpetrador puede utilizar una imagen generada de forma privada para coacción, acoso, extorsión o humillación. Una víctima puede no llegar a saber nunca qué servicio la creó.

Las normas de retirada siguen siendo importantes, pero operan después de la generación y, a menudo, después de la distribución. La TAKE IT DOWN Act federal prohíbe determinadas publicaciones no consentidas y exige que las plataformas cubiertas establezcan un proceso de notificación y retirada.

Minnesota eligió un punto de intervención más temprano. Su ley pide a los proveedores que impidan un resultado descrito de forma limitada antes de que exista el archivo. Ese enfoque se parece más a la regulación de seguridad de productos que a la moderación de contenido ordinaria.

El problema es que la IA generativa difumina la línea entre producto y expresión. Una calculadora produce un número mediante reglas predecibles. Un modelo de imágenes produce material expresivo moldeado conjuntamente por el software, los datos de entrenamiento, las instrucciones y las decisiones iterativas del usuario.

Por tanto, un tribunal debe decidir qué grado de protección constitucional corresponde al proveedor, al usuario y a la imagen resultante. También debe determinar si Minnesota seleccionó el método viable menos restrictivo.

La respuesta de Ellison se centra en las víctimas, no en la arquitectura del modelo. Calificó de espantosas las aplicaciones de IA que desnudan a personas sin su consentimiento y afirmó que pueden causar daños emocionales, personales y profesionales. Su postura rechaza la premisa de que se trate simplemente de un desacuerdo abstracto sobre la política de IA.

Esa posición cuenta con un fuerte apoyo político porque el uso ofensivo es fácil de entender. Una persona sube la fotografía de otra, pide a un sistema que elimine la ropa y recibe una falsificación realista sin permiso.

Sin embargo, los casos constitucionales más difíciles rara vez se refieren únicamente a la conducta que todos condenan. Dependen de la actividad lícita adicional que abarca la norma y de si una aplicación más limitada podría proteger a las víctimas.

Minnesota podría haber limitado la responsabilidad a las representaciones creadas sin consentimiento. Podría haber exigido conocimiento, desprecio temerario o una incapacidad reiterada de responder. También podría haber creado una excepción de responsabilidad vinculada a salvaguardas documentadas.

En cambio, los legisladores eligieron una prohibición amplia de acceso y grandes sanciones por cada uso. Esa estructura reduce la necesidad de demostrar que un proveedor comprendía la intención de un usuario concreto. También traslada el coste de la incertidumbre a la plataforma.

La disputa entre verge y xAI revela una verdad incómoda sobre los filtros de seguridad. Ningún proveedor puede prometer una aplicación perfecta en cada prompt, idioma, actualización de modelo y técnica adversarial.

Si el estándar legal exige cero resultados prohibidos, los proveedores desactivarán capacidades lícitas cercanas. Si el estándar tolera demasiados fallos, las víctimas asumirán las consecuencias de abusos previsibles.

No se trata simplemente de una contienda entre seguridad y libertad de expresión. Es una disputa sobre quién debe absorber los errores inevitables creados por una clasificación imperfecta.

Minnesota asigna esos errores a las empresas de IA porque construyeron y distribuyeron la capacidad. xAI sostiene que la Constitución impide que el estado convierta la expresión lícita en daño colateral.

La decisión final deberá afrontar directamente esa disyuntiva. Las salvaguardas técnicas pueden reducir el abuso, pero no pueden eliminar la elección jurídica incorporada en el umbral.

Las salvaguardas anteriores de Grok complican el caso de xAI

xAI puede impugnar una ley excesivamente amplia y, al mismo tiempo, afrontar serias preguntas sobre por qué los controles anteriores de Grok fallaron ante una presión previsible.

En enero, usuarios emplearon Grok para transformar fotografías de personas reales en imágenes sexualizadas. Gobiernos y reguladores reaccionaron después de que circularan públicamente en X ejemplos que involucraban a mujeres y aparentes menores.

Posteriormente, xAI restringió la generación y edición de imágenes a usuarios de pago en X. Afirmó que la información de las cuentas ayudaría a identificar a personas que intentaran infringir leyes o normas de la plataforma.

La empresa también anunció medidas técnicas para impedir que la cuenta de Grok editara a personas reales para ponerles bikinis, ropa interior u otras prendas reveladoras. Dijo que los controles basados en la ubicación bloquearían contenido allí donde las leyes aplicables lo prohibieran.

Esos cambios demuestran que xAI puede restringir algunos resultados. También respaldan su argumento de que el cumplimiento suele requerir categorías amplias, en lugar de determinaciones precisas de consentimiento.

Un modelo no puede saber de forma fiable si la persona representada autorizó una edición. Por lo general, no tiene acceso a registros de identidad, autorizaciones, acuerdos privados ni a los deseos actuales del sujeto.

Como resultado, una salvaguarda basada en el consentimiento necesita verificación externa o supuestos conservadores. El proveedor podría exigir que la persona representada confirme el permiso, lo que genera riesgos de privacidad, suplantación de identidad y operativos.

Las actuales normas de uso aceptable de xAI prohíben desnudar a personas reales o situar su imagen en contextos íntimos o sexuales. También prohíben representaciones pornográficas de personas reales.

Las normas contractuales ayudan a establecer expectativas, pero no garantizan el comportamiento del modelo. Los términos solo cobran sentido cuando la detección, la aplicación de las normas y el diseño del producto los respaldan de forma coherente.

Los usuarios tampoco pueden tratar una prohibición como prueba de que los resultados prohibidos son imposibles. Los sistemas de seguridad pueden fallar mediante prompts indirectos, manipulación de imágenes, actualizaciones del modelo o errores ordinarios de clasificación.

Una investigación oficial canadiense sobre privacidad agudizó esa preocupación. El comisionado de privacidad de Canadá concluyó que X actualizó su evaluación de impacto sobre la privacidad de Grok Imagine recién en marzo de 2026.

Esa actualización se produjo tras informes generalizados sobre imágenes íntimas no consentidas y material de abuso sexual infantil, según las conclusiones sobre privacidad del regulador. El momento sugiere que los procesos de gobernanza no anticiparon plenamente los riesgos más visibles de la función antes de su despliegue.

Eso no demuestra que la ley de Minnesota sea constitucional. Una empresa con un mal historial de seguridad conserva el derecho a impugnar una ley ilícita.

Sin embargo, debilita una narrativa simple en la que una autorregulación responsable hacía innecesaria la intervención del estado. Minnesota puede señalar la secuencia de lanzamiento, uso indebido, reacción pública y controles reactivos.

La empresa puede responder que sus salvaguardas posteriores demuestran que la regulación debería premiar las mejoras de buena fe. Un proveedor que invierte en bloquear abusos no debería afrontar la misma exposición que un servicio dedicado a desnudar personas.

La exención de la ley por competencia técnica refuerza este desacuerdo. El software local especializado podría permanecer fuera de la prohibición cuando los usuarios necesiten conocimientos sustanciales. Un servicio conversacional con controles de seguridad puede seguir cubierto porque facilita la creación de imágenes.

Ese resultado puede parecer contraproducente desde una perspectiva de aplicación. La plataforma visible y basada en cuentas se vuelve más fácil de regular que un modelo privado que opera sin moderación ni comprobaciones de identidad.

Minnesota podría aceptar esa limitación. Las legislaturas suelen abordar la parte accesible de un problema sin resolver todos los usos perjudiciales. Sin embargo, la eficacia selectiva sigue importando cuando una ley carga sobre actividad protegida.

Otros grandes proveedores de IA suelen restringir el contenido sexual que involucra a personas reales. Sus sistemas también utilizan clasificadores y aplicación de políticas que pueden rechazar prompts inocuos.

Por tanto, la comparación pertinente no es con un servicio que tenga salvaguardas perfectas. Es si el modelo de responsabilidad de Minnesota ofrece una mejor protección que obligaciones más limitadas adoptadas en toda la industria.

El caso verge xai necesitará pruebas sobre el comportamiento real del sistema, no solo descripciones contrapuestas. La precisión de los filtros, las tasas de elusión, los controles de geolocalización y la arquitectura del producto pueden influir en cómo un juez evalúa la carga.

Qué ocurre después de la fecha límite del 1 de agosto

Tres señales mostrarán si esta demanda se convierte en una disputa limitada sobre cumplimiento o en una prueba nacional para regular las capacidades de la IA generativa.

La primera señal es la actuación judicial de emergencia. xAI presentó la demanda poco antes de la fecha de entrada en vigor de la ley, el 1 de agosto, lo que convierte el alivio preliminar en un elemento central de su estrategia.

Para obtener una medida cautelar, la empresa debe convencer al tribunal de que enfrenta un daño irreparable y tiene una posibilidad real de prosperar. Minnesota hará hincapié en la protección de las víctimas, el apoyo legislativo y el interés del estado en prevenir abusos.

Una resolución temporal no resolverá todas las cuestiones constitucionales. Aun así, revelará cómo caracteriza el juez la ley.

Si el tribunal considera la ley principalmente como una regulación de productos, Minnesota obtiene una ventaja inicial. Si el tribunal la considera una restricción de expresión basada en el contenido, el estado afrontará un examen constitucional más exigente.

La segunda señal es la respuesta de producto de xAI. Los usuarios deberían observar si Grok desactiva la edición de imágenes en Minnesota, introduce comprobaciones de identidad más estrictas o amplía los rechazos globales.

Una restricción limitada basada en la ubicación respaldaría la afirmación de xAI de que la ley fragmenta un servicio ampliamente disponible. Una restricción a escala nacional mostraría cómo una jurisdicción puede influir en el diseño de productos más allá de sus fronteras.

Un filtrado más amplio también generaría pruebas sobre efectos colaterales. Los informes de solicitudes bloqueadas de restauración, animación, moda o imágenes ficticias reforzarían el argumento de xAI sobre la excesiva amplitud.

La persistencia de resultados prohibidos apuntaría en la dirección contraria. Respaldaría la opinión de Minnesota de que las políticas voluntarias y la moderación ordinaria no pueden controlar adecuadamente una función accesible.

La tercera señal es la imitación legislativa. Otros estados estudiarán tanto la demanda como el modelo de aplicación de Minnesota antes de redactar sus propias normas.

Una medida cautelar rápida animaría a los legisladores a añadir elementos de consentimiento, estándares de conocimiento y excepciones de responsabilidad. Esos cambios centrarían la responsabilidad en servicios intencionales o fallos reiterados de moderación.

Si Minnesota supera la revisión inicial, los estados podrían adoptar prohibiciones a nivel de capacidad para otras funciones generativas de alto riesgo. La clonación de voz, la suplantación de identidad y las herramientas automatizadas de fraude plantean preguntas similares sobre regular el acceso antes de un uso perjudicial.

La política federal también importa. La TAKE IT DOWN Act establece una base nacional para la publicación y retirada, pero no responde plenamente a si los estados pueden prohibir una herramienta de creación.

Esa laguna deja a las empresas ante múltiples puntos de intervención. Una norma puede regular el acceso al modelo, otra puede regular la conducta del usuario y una tercera puede exigir a las plataformas retirar material publicado.

Para los desarrolladores, la lección práctica es que las políticas escritas ya no completan la tarea de cumplimiento. Los equipos necesitan pruebas que muestren cómo funcionan los clasificadores, cómo se gestionan las denuncias y cómo los cambios en el modelo afectan al riesgo.

Los gestores de producto deberían documentar qué salvaguardas operan antes de la generación, después de la generación y durante la distribución. También deberían hacer seguimiento de falsos positivos, patrones de elusión y tiempos de respuesta, sin tratar ninguna métrica como prueba de seguridad completa.

Los compradores empresariales deberían plantear preguntas similares antes de permitir herramientas generativas de imágenes en flujos de trabajo de cara al cliente. La exposición legal puede surgir de las capacidades accesibles de un producto, incluso cuando los empleados reciben instrucciones contra el uso indebido.

Los trabajadores del conocimiento y los usuarios comunes afrontan una preocupación más simple. Una función disponible hoy puede desaparecer regionalmente cuando su proveedor no puede conciliar la legislación local con un modelo de uso general.

La demanda también cuestiona una suposición habitual sobre la regulación de la IA. Los legisladores no tienen que clasificar un modelo completo como seguro o peligroso. Pueden dirigirse a una categoría de resultados y aun así remodelar el producto circundante.

Ese enfoque específico parece limitado en el lenguaje legislativo. Sus consecuencias técnicas pueden ser amplias porque un modelo produce muchas formas interdependientes de expresión.

No debe predecirse la sentencia final únicamente a partir de la presentación de xAI. Minnesota aún no había revisado ni recibido formalmente la demanda cuando Ellison emitió su respuesta inicial.

La defensa formal del estado puede ofrecer interpretaciones legislativas más limitadas que aborden algunos ejemplos controvertidos. También puede presentar pruebas sobre las víctimas, el diseño del producto y los límites de las soluciones posteriores a la publicación.

xAI debe demostrar algo más que inconvenientes. Debe vincular el texto y las sanciones de la ley con expresión protegida que, de otro modo, crearían sus usuarios.

Minnesota debe demostrar algo más que un objetivo convincente. Debe defender por qué esta prohibición centrada en el proveedor se ajusta a ese objetivo sin suprimir demasiado material lícito.

Observe primero la decisión sobre la medida cautelar, en segundo lugar las restricciones de Grok y en tercer lugar la legislación imitadora. Juntas, esas señales determinarán si la cobertura de verge xai registra un bloqueo temporal o el inicio de un nuevo modelo regulatorio.

Los lectores deberían tener presente una pregunta: ¿pueden los legisladores prevenir el abuso automatizado de imágenes sin obligar a los sistemas de uso general a suprimir la creación lícita? Las primeras órdenes judiciales no pondrán fin a ese debate, pero establecerán qué parte deberá soportar la carga más pesada a continuación.