xAI conteste l’interdiction par le Minnesota des services d’IA de déshabillage

xAI a poursuivi le Minnesota quatre jours avant l’entrée en vigueur prévue d’une loi inédite visant les services d’IA de déshabillage. Les lecteurs arrivant via des recherches amazon engadget découvriront un litige bien plus vaste qu’une seule application ou qu’un seul État. Le Minnesota veut empêcher la création d’images intimes réalistes sans consentement. xAI affirme que l’État a choisi une voie inconstitutionnelle pour poursuivre cet objectif.

La plainte soumet une question réglementaire fondamentale à un tribunal fédéral. Un État peut-il restreindre un outil d’IA parce que ses utilisateurs peuvent s’en servir pour produire des images préjudiciables, même lorsque cet outil a des usages licites ? La réponse affectera les générateurs d’images généralistes, les applications spécialisées de déshabillage, les boutiques d’applications et les futures lois étatiques sur l’IA.

Le Minnesota soutient que la création elle-même cause un préjudice, car une image fabriquée réaliste peut échapper presque immédiatement au contrôle de son créateur. xAI reconnaît l’intérêt de l’État à mettre fin aux images intimes non consenties. Toutefois, l’entreprise affirme que le House File 1606 réglemente trop largement des formes d’expression protégées et offre une protection insuffisante aux services qui tentent de prévenir les abus.

Ce que change réellement la nouvelle loi du Minnesota

Le Minnesota déplace l’application de la loi en amont, de la sanction de la diffusion à la restriction des outils capables de créer de la nudité réaliste fabriquée.

xAI a déposé sa plainte fédérale le 27 juillet 2026, selon la couverture du procès. Le calendrier compte, car la loi du Minnesota devait entrer en vigueur le 1er août. L’entreprise cherche à bloquer son application avant que d’éventuelles réclamations ne commencent à s’accumuler.

Le gouverneur Tim Walz a signé le House File 1606 le 7 mai. La loi ajoute la section 325E.91 aux lois commerciales du Minnesota et s’applique aux réclamations nées à partir du 1er août.

Le texte définit le déshabillage numérique par deux exigences liées. Premièrement, le logiciel doit modifier ou générer une image ou une vidéo afin d’y montrer une partie intime absente de l’original. Deuxièmement, le résultat doit paraître suffisamment réaliste pour qu’une personne raisonnable croie que cette partie du corps appartient à la personne identifiable.

Cette condition d’image réaliste restreint quelque peu le champ de la loi. Une parodie grossière ou un dessin clairement fictif ne satisfait pas automatiquement au critère légal. Pourtant, xAI soutient que d’autres définitions restent suffisamment larges pour englober la retouche et la génération d’images licites.

L’interdiction centrale s’applique à toute personne contrôlant un site web, une application, un programme ou tout autre service. Cet opérateur ne peut pas permettre à un utilisateur d’accéder au service ou de l’utiliser pour déshabiller numériquement une image. L’opérateur ne peut pas non plus effectuer cette transformation pour un utilisateur.

Le Minnesota interdit séparément la publicité ou la promotion de services qui accomplissent ces actes. Cette disposition va au-delà du développeur qui produit un modèle. Elle peut toucher les spécialistes du marketing, les canaux de distribution et les entreprises orientant les utilisateurs vers des services visés.

La loi prévoit une exemption lorsqu’un service exige des compétences technologiques ou artistiques humaines substantielles pour produire l’image. Cette distinction semble conçue pour séparer les outils automatisés de déshabillage des logiciels créatifs nécessitant beaucoup de travail. Elle crée aussi une frontière difficile entre la génération en un clic et la retouche sophistiquée dirigée par un humain.

Le texte officiel n’établit pas d’exception simple fondée sur le consentement dans sa définition du déshabillage numérique. xAI soutient donc que l’interdiction peut englober un adulte modifiant une image de lui-même ou autorisant quelqu’un d’autre à le faire. La question de savoir si un tribunal retiendra cette interprétation déterminera la portée de la loi.

Une personne représentée peut engager une action civile et réclamer des dommages-intérêts compensatoires, y compris pour préjudice moral. La loi autorise également des dommages-intérêts punitifs, une injonction, les frais de justice et toute autre mesure qu’un tribunal juge appropriée.

Le procureur général du Minnesota peut aussi faire appliquer la loi séparément. L’amende civile peut atteindre $500,000 pour chaque accès, téléchargement ou utilisation illégale. Les pénalités recouvrées sont destinées à des programmes venant en aide aux victimes d’agressions sexuelles, de violences conjugales, de maltraitance d’enfants et d’autres crimes.

Cette structure par utilisation crée la préoccupation commerciale la plus immédiate de xAI. Un service comptant de nombreux utilisateurs au Minnesota pourrait faire face à une théorie de responsabilité cumulative plutôt qu’à une seule sanction liée à une décision concernant un produit. La plainte soutiendrait que le texte ne prévoit aucune exonération pour les mesures de sécurité prises de bonne foi.

Le Minnesota a également inclus un langage préservant les protections fédérales prévues par la Section 230, la loi qui protège souvent les services en ligne contre la responsabilité liée aux contenus créés par les utilisateurs. Toutefois, son interaction concrète reste contestée. L’État vise les fonctionnalités d’un service, tandis que xAI qualifie le litige de tentative d’imposer une responsabilité pour les expressions générées par l’intermédiaire de ce service.

Le résultat n’est pas une interdiction classique de diffuser de la pornodivulgation. La loi réglemente l’accès à une catégorie de capacités de création d’images avant qu’un fichier généré n’atteigne un réseau social, un service de messagerie ou un site web public. Cette conception en amont crée à la fois la valeur préventive revendiquée de la loi et sa vulnérabilité constitutionnelle.

Pourquoi l’État a privilégié la prévention aux retraits de contenu

Les législateurs du Minnesota ont conclu que retirer des images abusives après leur publication ne peut pas annuler le préjudice causé lorsqu’une image sexuelle crédible existe déjà.

La plupart des lois existantes se concentrent sur la publication ou le partage d’images intimes non consenties. Ces règles deviennent utiles après qu’une personne a généré une image, l’a envoyée ou l’a publiée publiquement. La loi du Minnesota tente d’intervenir plus tôt en rendant certains outils de création indisponibles.

L’approche de l’État est née des témoignages de personnes visées par la technologie de déshabillage numérique. Molly Kelley a déclaré aux législateurs qu’une personne qu’elle connaissait avait utilisé des photos familiales ordinaires pour créer des images et vidéos sexuelles réalistes. Elle a ensuite appris que cette même personne avait ciblé environ 80 à 85 autres femmes, selon de précédents articles sur les travaux législatifs.

Ce récit montre pourquoi le consentement ne peut être réduit à la possession d’une photographie source. Une photo publiée pour des amis ou des proches n’autorise pas une autre personne à en fabriquer une version intime. Le résultat synthétique peut paraître crédible même si l’événement représenté n’a jamais eu lieu.

Une fois qu’une image existe, la personne ciblée fait face à plusieurs problèmes distincts. Des copies peuvent circuler dans des groupes privés, des comptes anonymes et des services étrangers. Les moteurs de recherche et les plateformes peuvent retirer des fichiers connus, mais des versions modifiées peuvent réapparaître. Une victime peut également peiner à prouver l’origine d’un fichier.

La loi fédérale TAKE IT DOWN Act traite une partie de ce problème en exigeant des plateformes concernées qu’elles mettent en place une procédure de retrait des images intimes non consenties. Elle reflète une approche centrée sur la diffusion : les plateformes réagissent après qu’une victime a identifié un contenu préjudiciable.

Les législateurs du Minnesota ont estimé que les retraits de contenu ne suffisaient pas à eux seuls. La sénatrice Erin Maye Quade, l’une des principales soutiens du texte, a présenté le déshabillage numérique comme un comportement préjudiciable plutôt que comme une expression protégée. Selon elle, les entreprises ne devraient pas lancer de systèmes de création automatisée sans assumer la responsabilité de leur usage abusif prévisible.

Les défenseurs des victimes avancent un argument connexe concernant l’ampleur du phénomène. Un artiste humain pouvait fabriquer une image avant l’IA générative, mais cela exigeait du temps et des compétences. Les outils automatisés abaissent ces barrières et permettent à une seule personne de produire rapidement de nombreuses images crédibles.

Ce changement touche davantage que la seule commodité. Il réduit le temps dont disposent une personne ciblée, une plateforme, une école ou un employeur pour réagir. Il permet aussi à un agresseur de tester des variations jusqu’à obtenir un résultat convaincant.

Les services spécialisés de déshabillage numérique constituent le cas le plus clair pour le Minnesota. Leur interface, leur marketing et le résultat attendu peuvent tous pointer vers le même objectif. Les systèmes généralistes comme Grok posent un cas plus difficile, car ils produisent de nombreuses catégories d’images licites à côté de contenus interdits.

La loi de l’État ne distingue pas seulement les produits selon leur image de marque. Son libellé opérationnel se concentre sur le fait qu’un service permet ou non à un utilisateur d’effectuer une transformation visée. Un générateur aux capacités étendues peut donc être exposé si ses garde-fous échouent.

Cette caractéristique met xAI sous pression, car Grok associe des requêtes conversationnelles à la génération et à la retouche d’images. Un utilisateur n’a pas besoin d’un logiciel graphique spécialisé ni d’un long processus de travail. La même accessibilité qui rend les outils génératifs utiles peut aussi faciliter les abus.

Grok a également suscité un examen international au début de 2026 après que des utilisateurs ont généré des images sexualisées impliquant des personnes réelles. xAI a ensuite déclaré avoir mis en place des mesures empêchant le compte Grok de modifier les images de personnes réelles pour leur faire porter des vêtements révélateurs. L’entreprise a aussi indiqué qu’elle appliquerait des restrictions géographiques lorsque la législation locale interdit certains résultats.

Ces contrôles soutiennent l’argument de xAI selon lequel elle interdit déjà les usages abusifs. Ils appuient aussi la thèse du Minnesota selon laquelle les fournisseurs de modèles peuvent modifier l’accès et le comportement des résultats lorsque les conséquences juridiques l’exigent.

Une interdiction dans les conditions d’utilisation n’arrête pas toujours un utilisateur déterminé. Les filtres peuvent manquer des requêtes indirectes, des formulations nouvelles ou des séquences de retouche d’images. À l’inverse, un filtre imparfait ne prouve pas qu’un fournisseur avait l’intention de produire un résultat abusif.

Cet écart entre la politique et le comportement du produit se trouve au cœur du litige. Le Minnesota veut une responsabilité capable de modifier les décisions d’ingénierie avant que les victimes ne subissent un préjudice. xAI affirme que la charge qui en résulte réprime la création d’images licites alors que des recours plus ciblés restent disponibles.

La piste Amazon Engadget mène à un test de liberté d’expression

L’enjeu central n’est pas de savoir si les images sexuelles non consenties sont préjudiciables, mais si le Minnesota peut réglementer aussi largement un outil expressif généraliste.

L’expression amazon engadget constitue une voie de recherche maladroite vers cette affaire, mais le litige sous-jacent est précis. xAI soutient que le Minnesota a créé une restriction fondée sur le contenu, ce qui signifie que la loi traite une image différemment en raison de ce qu’elle représente.

Les restrictions de la parole fondées sur le contenu font l’objet d’un contrôle constitutionnel exigeant. Le gouvernement doit généralement démontrer un intérêt impérieux et montrer que sa loi est étroitement adaptée. Le Minnesota peut aisément identifier un intérêt sérieux à protéger les personnes contre l’exploitation sexuelle, mais l’adaptation étroite reste contestée.

xAI ne prétend pas que toute image intime non consentie mérite une protection. Sa plainte accepterait l’intérêt du Minnesota à interdire la diffusion d’images nues fabriquées impliquant des personnes réelles. L’entreprise attaque plutôt la couverture du texte concernant les outils de création, les images consenties, les images créées par soi-même et les parties du corps légalement visibles dans des lieux publics.

Un exemple concerne la définition légale d’une partie intime, qui renvoie à une autre section du droit du Minnesota. xAI affirme que cette définition incorporée peut viser des représentations allant au-delà de ce qu’un utilisateur ordinaire considérerait comme du déshabillage numérique. Elle cite des possibilités impliquant des maillots de bain, des personnes torse nu, de la satire, des photos de famille et d’autres retouches créatives.

Le Minnesota peut répondre que le texte exige une modification réaliste impliquant une personne identifiable. L’État peut également soutenir que la loi régit le fonctionnement de services automatisés, et non l’idée ou le point de vue sous-jacent d’une personne.

Cette distinction entre conduite et expression fera l’objet d’un examen attentif. Une loi régissant la manière dont une entreprise traite des photographies importées peut s’apparenter à une réglementation des produits. Cependant, la génération d’images produit également du contenu expressif, et la loi définit l’activité interdite par le contenu de cette production.

L’exemption fondée sur la compétence humaine complique les deux positions. Le Minnesota peut affirmer qu’il vise l’exploitation automatisée plutôt que l’art traditionnel. xAI peut soutenir que la loi favorise l’expression créée selon une méthode tout en imposant des contraintes à cette même expression lorsqu’elle est créée par une autre.

Les tribunaux examineront également si la loi laisse ouvertes des alternatives légales. Un utilisateur du Minnesota pourrait conserver l’accès à des logiciels d’édition classiques exigeant des compétences substantielles. Pourtant, bloquer les fonctions d’image d’un modèle à usage général pourrait entraver bien davantage d’activités que les abus ciblés.

C’est pourquoi une clause d’exonération est importante. Une telle clause protège un fournisseur qui applique des garde-fous précis, tels que le blocage des invites explicites, la réponse aux signalements, la conservation des preuves et la suspension des comptes abusifs. La loi du Minnesota n’exonère pas expressément un fournisseur au motif qu’il a déployé des efforts raisonnables.

Sans cette protection, un fournisseur fait face à un choix difficile. Il peut tenter d’identifier chaque demande couverte, restreindre toute édition d’images impliquant des personnes identifiables, ou désactiver les fonctionnalités concernées au Minnesota. Chaque option entraîne des faux positifs et des coûts opérationnels.

Le géoblocage constitue la réponse la plus directe. Un service identifie les utilisateurs présumés se trouver au Minnesota et leur retire une fonctionnalité. Toutefois, les contrôles de localisation sont imparfaits, car les personnes voyagent, utilisent des outils de protection de la vie privée ou accèdent aux services via des réseaux d’entreprise.

Les filtres d’invites offrent une deuxième option. Ils peuvent rejeter les demandes directes visant à retirer des vêtements ou à fabriquer des images intimes. Les flux de travail plus indirects restent plus difficiles à classer, car le même langage peut apparaître dans des contextes médicaux, éducatifs, artistiques ou liés à la sécurité.

Les classificateurs d’images offrent une autre couche de protection. Un service peut examiner les photographies importées et les résultats générés afin de détecter la nudité ou le contenu sexuel. Cependant, la classification seule ne peut pas établir de manière fiable le consentement, l’identité, la satire, ni déterminer si une partie du corps modifiée apparaît dans l’image originale.

Les fournisseurs peuvent également limiter l’édition de photographies impliquant de vraies personnes. xAI affirme avoir déjà mis en œuvre des mesures en ce sens. De telles restrictions peuvent réduire les abus, mais elles risquent d’entraver des usages bénins liés aux costumes, à la restauration, à la mode, au fitness ou aux photos de famille.

Le procès teste donc la manière dont la loi devrait répartir les erreurs de classification. L’approche du Minnesota fait peser davantage de risques sur le fournisseur lorsqu’un contenu nuisible passe entre les mailles du filet. L’approche privilégiée par xAI s’appuie davantage sur les politiques des plateformes, l’application des règles auprès des utilisateurs et les lois visant la création ou la diffusion par l’auteur des faits.

Aucune de ces répartitions n’élimine les préjudices. Des filtres agressifs entravent l’expression légale, tandis que des systèmes permissifs exposent de vraies personnes à des contenus sexuels fabriqués. La question juridique est de savoir si le Minnesota a choisi un équilibre constitutionnellement admissible.

Les affirmations de xAI en matière de sécurité font face à un problème de crédibilité

xAI doit démontrer que la loi du Minnesota est trop large sans demander au tribunal d’ignorer les défaillances documentées concernant les contrôles d’image de Grok.

L’entreprise affirme que ses règles interdisent les activités illégales, nuisibles et abusives qui violent la vie privée d’autrui. Elle indique également que les utilisateurs ne peuvent pas modifier les images de personnes réelles afin de les sexualiser ou de les dénuder sans leur consentement.

Selon xAI, l’application de ces règles peut inclure la suspension ou la résiliation de comptes ainsi que le signalement de contenus présumés d’abus sexuels sur mineurs. L’entreprise a publiquement présenté sa position comme une tolérance zéro envers l’exploitation sexuelle des enfants, la nudité non consentie et les contenus sexuels non souhaités.

Ces politiques comptent, mais elles ne vérifient pas indépendamment les performances du produit. La question pertinente est la fréquence à laquelle Grok refuse les demandes abusives, la rapidité avec laquelle xAI réagit aux contournements et la possibilité pour les récidivistes de revenir avec de nouveaux comptes.

L’ancien « spicy mode » de Grok a rendu la question de la crédibilité plus délicate. Cette fonctionnalité autorisait des contenus explicites générés, tandis que des utilisateurs trouvaient également des moyens de demander des modifications sexualisées impliquant de vraies personnes. Les gouvernements et les défenseurs de la sécurité ont réagi par des enquêtes et des demandes de contrôles plus stricts.

xAI a déclaré en janvier avoir mis en place des mesures pour empêcher le compte Grok de modifier des personnes réelles en bikinis, sous-vêtements ou autres tenues révélatrices. Ce changement démontre une capacité à restreindre les résultats après une pression publique.

Il ne tranche pas la question de savoir si les garde-fous sont complets. Les systèmes génératifs répondent de manière probabiliste, et les utilisateurs testent continuellement des invites alternatives. Une restriction qui fonctionne pour une instruction directe peut échouer au cours d’une conversation plus longue ou d’une tâche d’édition en plusieurs étapes.

L’argument constitutionnel de l’entreprise ne devrait pas dépendre de la démonstration d’une modération parfaite. Une loi peut être trop large même lorsque le plaignant a commis de graves erreurs. Les tribunaux évaluent le champ d’application de la loi, et non simplement la sympathie que peut inspirer une entreprise donnée.

De même, le Minnesota ne devrait pas avoir à prouver que chaque modèle à usage général est conçu comme une application de nudification. L’État peut s’appuyer sur des éléments montrant que la facilité de génération d’images change l’ampleur pratique des abus. Sa tâche plus difficile consiste à relier ces éléments à chaque service et à chaque résultat couverts par la loi.

Des experts juridiques indépendants ont averti pendant le processus législatif que la proposition nécessitait des définitions plus étroites. Wayne Unger, de la Quinnipiac University School of Law, a soutenu que le Minnesota avait besoin de davantage de clarté autour de la nudification. Riana Pfefferkorn, de Stanford, a soulevé des préoccupations à la fois liées au Premier amendement et à la responsabilité fédérale des intermédiaires.

Ces avertissements empêchent de réduire l’affaire à xAI contre les victimes. On peut soutenir une forte protection contre les abus sexuels synthétiques tout en s’interrogeant sur la précision de la rédaction de cette loi. Un tribunal pourrait bloquer une partie de la loi sans rejeter la prévention comme objectif politique légitime.

L’État dispose de plusieurs moyens de défense possibles. Il peut souligner l’exigence d’image réaliste, l’exigence de personne identifiable et l’exemption fondée sur la compétence humaine. Il peut également soutenir que la création automatisée est une conduite étroitement liée à un préjudice prévisible.

xAI mettra probablement l’accent sur des exemples situés aux limites de la loi. Les images consensuelles d’adultes, la satire, les transformations artistiques et les représentations ordinaires du corps peuvent aider à démontrer l’excès de portée. L’entreprise peut également souligner l’absence d’une exigence explicite d’intention pour les fournisseurs de services.

L’État reviendra probablement à la conception du produit. Un service spécialisé conçu et commercialisé pour le déshabillage synthétique présente un risque différent d’un logiciel d’édition neutre. Le Minnesota pourrait affirmer que les fournisseurs restent capables de restreindre la fonctionnalité spécifique plutôt que d’abandonner la génération d’images.

Cependant, le texte de la loi régit plus que les acteurs manifestement les plus répréhensibles. Les tribunaux ne sauvent généralement pas une loi trop large au seul motif que les responsables promettent une application mesurée. Les définitions et les interprétations restrictives disponibles importeront donc davantage que les assurances politiques.

Le plafond de $500,000 accroît l’effet dissuasif potentiel. Lorsque chaque accès, téléchargement ou utilisation illégal peut entraîner une sanction distincte, un fournisseur ne peut pas attendre sereinement plusieurs décisions de justice pour clarifier les limites.

Dans le même temps, décrire la sanction maximale ne permet pas d’établir ce qu’un tribunal accorderait dans un cas particulier. L’application de la loi exige une procédure judiciaire, et les défendeurs peuvent contester la responsabilité, la compétence, le lien de causalité et la violation alléguée.

La Section 230 ajoute une autre dimension non résolue. Le Minnesota précise expressément que sa loi doit rester conforme aux protections fédérales. xAI peut néanmoins soutenir que l’État impose indirectement une responsabilité pour du contenu créé par les utilisateurs, tandis que le Minnesota peut qualifier l’acte réglementé de fourniture d’un service défectueux.

Le propre modèle d’un fournisseur peut également affaiblir l’analogie classique avec l’intermédiaire. L’utilisateur fournit une invite ou une photographie, mais le système du fournisseur génère les pixels. Les tribunaux pourraient distinguer ce processus du simple hébergement d’un fichier créé ailleurs.

Cela rend l’affaire pertinente pour toute entreprise proposant des fonctionnalités génératives. La frontière entre outil, éditeur et produit devient plus difficile à maintenir. La loi du Minnesota impose cette frontière dans un litige concret impliquant des victimes identifiables et une production expressive.

L’expérience du Minnesota va au-delà des règles existantes sur les deepfakes

La loi est inhabituelle parce qu’elle cible une capacité avant sa diffusion, alors que d’autres gouvernements se sont généralement concentrés sur les créateurs, les distributeurs ou les obligations de retrait.

Le cadre fédéral TAKE IT DOWN se concentre sur les images intimes non consenties après leur publication. Il prévoit des conséquences pénales pour certaines publications et exige des services concernés qu’ils proposent une procédure de retrait.

Le Texas a adopté un modèle différent. Sa loi peut exposer les exploitants de sites web ou d’applications à une responsabilité civile lorsqu’ils savent que le consentement est absent ou qu’ils ne retirent pas les contenus couverts après notification. Cette structure s’appuie davantage sur la connaissance et la réponse.

San Francisco a engagé des poursuites contre des sites web spécialisés dans la nudification en vertu de lois existantes régissant les pratiques commerciales abusives et la pornographie non consentie. Son contentieux se concentre sur des services prétendument organisés autour d’un objectif nuisible plutôt que sur chaque générateur d’images à usage général.

Le Minnesota a choisi une voie préventive plus large. La loi n’attend ni la diffusion publique, ni la notification d’une victime, ni la preuve qu’un exploitant s’est présenté comme un service de nudification. La capacité du fournisseur à faciliter la transformation couverte devient le déclencheur.

Cette conception ressemble à une réglementation de la sécurité des produits sur un point. L’État identifie une fonction dangereuse et exige des entreprises qu’elles la retirent. Pourtant, le résultat du produit est une image, ce qui fait entrer directement l’expression et le Premier amendement dans l’analyse.

Une comparaison historique peut être faite avec les lois sur les deepfakes politiques. Les tribunaux ont examiné de près les efforts des États visant à restreindre les contenus électoraux trompeurs, notamment lorsqu’une loi établit des distinctions fondées sur le contenu. Certaines lois ont résisté à des contestations particulières, tandis que d’autres ont été bloquées.

Des entreprises liées à Musk sont déjà impliquées dans ce combat plus large. X a précédemment contesté la loi du Minnesota sur les deepfakes électoraux et soutenu qu’elle violait les protections de la liberté d’expression. Cet historique donne à la nouvelle affaire un cadre constitutionnel familier, bien que l’exploitation sexuelle implique des intérêts et des préjudices différents.

Le litige sur la nudification survient également dans un contexte de pression sur les exploitants de boutiques d’applications. Apple et Google ont été critiqués pour la distribution d’applications qui font la promotion du déshabillage synthétique ou le permettent. Une enquête citée par Engadget a identifié à ce moment-là 18 de ces applications dans la boutique d’Apple et 20 dans Google Play.

Le retrait des boutiques peut réduire les découvertes occasionnelles, mais il ne peut pas éliminer les services web ou les applications installées hors boutique. Il dépend également de la capacité des examinateurs à reconnaître des descriptions trompeuses et à tester des fonctionnalités dissimulées.

L’interdiction de publicité du Minnesota tente de traiter une partie de cette chaîne de distribution. Un service peut devenir plus difficile à trouver si les entreprises ne peuvent pas en faire la promotion dans l’État. Toutefois, cette clause soulève des questions distinctes sur qui est considéré comme un promoteur et sur le niveau de connaissance qu’il doit posséder.

Les fournisseurs à usage général font face à un défi de conformité différent. OpenAI, Google, Meta et d’autres développeurs de modèles imposent des règles contre l’exploitation sexuelle et les contenus intimes non consentis. Leurs garde-fous varient selon le produit, le mode de déploiement et la possibilité pour les utilisateurs d’importer des photographies.

La comparaison sectorielle ne consiste donc pas à déterminer quelle entreprise dispose d’un filtre parfait. Aucune ne peut garantir de manière crédible que chaque résultat de modèle restera conforme face à une utilisation adversariale. La comparaison significative porte sur les choix de conception, les tests, les contrôles d’accès, les systèmes de signalement et la transparence après les défaillances.

Les services spécialisés peuvent souvent être jugés à l’aune de leur objectif affiché. Un produit invitant les utilisateurs à « déshabiller » une personne laisse peu de place à l’ambiguïté. Un modèle prenant en charge des maquettes publicitaires, la restauration de photos, des mèmes et des illustrations exige des décisions tenant compte du contexte.

L’exemption du Minnesota liée aux compétences techniques crée également des conséquences concurrentielles. Les logiciels traditionnels nécessitant un travail manuel détaillé bénéficient d’un traitement différent de la génération automatisée. Cette différence pourrait inciter les fournisseurs à ajouter de la friction, un contrôle humain ou des étapes de retouche supplémentaires.

Cette friction supplémentaire n’est pas nécessairement inutile. Exiger d’un utilisateur qu’il démontre ses compétences, documente son consentement ou effectue des vérifications d’identité peut décourager les abus opportunistes. Toutefois, des modifications purement cosmétiques du flux de travail ne devraient pas devenir une échappatoire pour un service produisant les mêmes résultats nuisibles.

Un modèle de politique publique plus solide pourrait combiner plusieurs outils. Les législateurs peuvent cibler les créateurs malveillants, exiger un retrait rapide, imposer des obligations aux services conçus à des fins d’abus et prévoir des refuges juridiques pour les fournisseurs généralistes qui respectent des garanties définies.

Un tel modèle ne satisferait pas toutes les préoccupations liées à la liberté d’expression ou à la sécurité. Il pourrait toutefois mieux aligner la responsabilité sur l’intention, la connaissance, la finalité du produit et la réponse après notification.

Le Minnesota a plutôt créé un cas test tranché. Si la loi est maintenue, d’autres États disposeront d’un modèle pour des restrictions de l’IA fondées sur les capacités. Si elle échoue, les législateurs recevront une feuille de route judiciaire indiquant quelles définitions ou quels mécanismes de responsabilité doivent être révisés.

Ce qui attend la procédure xAI au Minnesota

Trois signaux détermineront si l’approche du Minnesota devient un modèle national ou un avertissement sur les risques de rédiger des lois sur l’IA trop larges.

Le premier signal concernera le traitement par le tribunal des mesures d’urgence. xAI a déposé sa requête peu avant la date d’entrée en vigueur du 1er août ; la question immédiate est donc de savoir si l’application de la loi doit être suspendue pendant la poursuite du contentieux.

Pour obtenir une mesure provisoire, xAI doit répondre à plusieurs critères, notamment ses chances de succès et le risque de préjudice irréparable. L’analyse initiale du tribunal ne tranchera pas définitivement l’affaire, mais elle peut révéler quels arguments constitutionnels semblent les plus solides.

Une injonction large affaiblirait le modèle du Minnesota et encouragerait les contestations de lois préventives similaires. Une ordonnance plus limitée pourrait préserver les protections contre les services manifestement abusifs tout en suspendant les applications contestées concernant le consentement ou les outils généralistes.

Le deuxième signal portera sur la manière dont le tribunal qualifie l’activité réglementée. S’il considère la génération d’images principalement comme une expression protégée, le Minnesota fera face à un examen constitutionnel exigeant. S’il considère la nudification automatisée comme un comportement nuisible, l’État disposera d’une plus grande marge de réglementation.

Cette qualification dépendra du texte législatif et d’exemples concrets. Le tribunal pourrait examiner si la loi peut être limitée aux transformations non consenties, si l’exemption liée aux compétences humaines est pertinente sur le plan constitutionnel et si les usages légitimes restent entravés.

Le traitement de la Section 230 par le tribunal sera également important. Une décision estimant que les pixels générés par un modèle diffèrent du contenu utilisateur hébergé pourrait influencer des litiges allant bien au-delà des images intimes. Elle affecterait la manière dont les tribunaux conçoivent la responsabilité liée aux résultats génératifs dans les services d’IA destinés au grand public.

Le troisième signal sera la réponse opérationnelle du secteur. xAI et d’autres fournisseurs peuvent améliorer leurs filtres, introduire des restrictions géographiques, limiter la retouche de personnes réelles ou publier des données d’application plus claires pendant que la procédure suit son cours.

De meilleures garanties étayeraient l’argument selon lequel une conformité ciblée est possible. Des échecs persistants renforceraient les demandes en faveur d’obligations exécutoires plutôt que de règles volontaires.

La transparence sera particulièrement importante. Les fournisseurs publient rarement suffisamment d’informations pour évaluer les taux de refus, les schémas de contournement, les recours ou les abus répétés. Des rapports de sécurité agrégés pourraient aider les législateurs à distinguer les systèmes généralistes responsables des services bâtis autour de l’exploitation.

L’application des règles par les magasins d’applications constitue une autre mesure pratique. Apple et Google peuvent renforcer leurs contrôles, retirer les services utilisant des descriptions trompeuses et surveiller les produits après leur approbation. Ces mesures ne résoudront pas les arguments constitutionnels de xAI, mais elles peuvent réduire la diffusion d’applications spécialisées de nudification.

Les législateurs devraient suivre l’affaire avant de reprendre le libellé du Minnesota. Une réplique précipitée pourrait hériter des mêmes différends concernant le consentement, les définitions et les refuges juridiques. Des lois plus précises peuvent toujours imposer des obligations substantielles sans traiter chaque générateur d’images de manière identique.

Pour les utilisateurs d’IA, cette affaire illustre pourquoi la disponibilité des fonctionnalités dépend de plus en plus du lieu. Les fournisseurs adaptent déjà leurs résultats aux règles nationales, et les lois des États peuvent créer une carte encore plus fragmentée. Un outil disponible au Wisconsin pourrait se comporter différemment de l’autre côté de la frontière du Minnesota.

Les développeurs doivent également conserver des dossiers fiables sur les modifications des modèles, les tests de sécurité et les réponses aux abus. Ces dossiers peuvent montrer si une entreprise a sciemment ignoré des défaillances ou a déployé des efforts soutenus pour les prévenir. Ils peuvent aussi révéler les écarts entre les promesses publiques et les contrôles réellement en place.

Les acheteurs en entreprise devraient poser des questions similaires avant d’activer la génération d’images. Les seules politiques offrent une assurance limitée. Les acheteurs doivent comprendre si un fournisseur peut restreindre la retouche de personnes réelles, enquêter sur les abus et préserver les preuves sans collecter de données personnelles inutiles.

Les travailleurs du savoir qui suivent le litige via des recherches amazon engadget devraient éviter d’y voir un simple référendum sur xAI. La question la plus durable est de savoir si une réglementation fondée sur les capacités peut protéger les victimes sans interdire de larges catégories d’expression licite.

Le Minnesota a identifié une véritable faiblesse des politiques centrées sur le retrait. Le retrait ne commence qu’après qu’une victime a découvert une image, compris où elle est apparue et suivi un processus de signalement. À ce stade, des copies peuvent déjà échapper à tout contrôle effectif.

xAI a identifié une véritable faiblesse de la solution du Minnesota. Une loi visant les abus non consentis peut atteindre des images consenties ou créées par la personne elle-même si ses définitions ne comportent pas les limites nécessaires. De lourdes sanctions pour chaque utilisation amplifient ce problème de rédaction.

Le meilleur résultat n’exigerait pas de choisir entre des outils sans restriction et l’absence totale de retouche automatisée d’images. Il établirait des garanties exécutoires liées au consentement, à la finalité du produit, à la connaissance du fournisseur et à la qualité de sa réponse.

Le tribunal fédéral dispose désormais de la première occasion de mettre à l’épreuve l’approche du Minnesota. Son ordonnance initiale, sa qualification de l’activité générative et la réponse du secteur en matière de sécurité fourniront les preuves les plus claires.

Les lecteurs devraient surveiller ces signaux plutôt que les réactions politiques les plus bruyantes. La question essentielle est de savoir si les législateurs peuvent arrêter l’exploitation sexuelle automatisée au point de création tout en préservant les outils licites. La réponse façonnera la prochaine génération de lois étatiques sur l’IA.