xAI contesta il divieto del Minnesota sui servizi di nudificazione tramite IA

xAI ha citato in giudizio il Minnesota quattro giorni prima dell’entrata in vigore prevista di una legge senza precedenti che prende di mira i servizi di nudificazione tramite IA. I lettori arrivati tramite ricerche amazon engadget troveranno una controversia molto più ampia di una singola app o di un singolo Stato. Il Minnesota vuole impedire la creazione di immagini intime realistiche senza consenso. xAI sostiene che lo Stato abbia scelto un modo incostituzionale per perseguire tale obiettivo.

Il ricorso pone una domanda normativa fondamentale davanti a un tribunale federale. Uno Stato può limitare uno strumento di IA perché gli utenti possono utilizzarlo per produrre immagini dannose, anche quando lo strumento ha impieghi leciti? La risposta influenzerà i generatori di immagini per uso generale, le app specializzate per la nudificazione, gli app store e le future leggi statali sull’IA.

Il Minnesota sostiene che la stessa creazione causi danno, poiché un’immagine fabbricata realistica può sfuggire al controllo di chi l’ha realizzata quasi immediatamente. xAI riconosce l’interesse dello Stato nel fermare le immagini intime non consensuali. Tuttavia, afferma che l’House File 1606 regolamenti in modo troppo ampio forme di espressione protette e offra tutele insufficienti ai servizi che cercano di prevenire gli abusi.

Cosa cambia realmente con la nuova legge del Minnesota

Il Minnesota sta spostando l’applicazione della legge a monte, dalla punizione della diffusione alla limitazione degli strumenti capaci di creare nudità fabbricate realistiche.

xAI ha presentato la sua causa federale il 27 luglio 2026, secondo la copertura della causa. La tempistica è rilevante perché la legge del Minnesota sarebbe dovuta entrare in vigore il 1° agosto. L’azienda chiede di bloccarne l’applicazione prima che inizino ad accumularsi potenziali pretese.

Il governatore Tim Walz ha firmato l’House File 1606 il 7 maggio. La legge aggiunge la Sezione 325E.91 agli statuti commerciali del Minnesota e si applica alle pretese sorte dal 1° agosto in poi.

La norma definisce la nudificazione attraverso due requisiti collegati. In primo luogo, il software deve alterare o generare un’immagine o un video per mostrare una parte intima assente dall’originale. In secondo luogo, il risultato deve apparire sufficientemente realistico da indurre una persona ragionevole a credere che quella parte del corpo appartenga alla persona identificabile.

La condizione dell’immagine realistica restringe in parte la legge. Una parodia grossolana o un disegno chiaramente fittizio non soddisfa automaticamente il test previsto dalla norma. Tuttavia, xAI sostiene che altre definizioni restino abbastanza ampie da ricomprendere l’editing e la generazione di immagini leciti.

Il divieto centrale si applica a chiunque controlli un sito web, un’applicazione, un programma o un altro servizio. Tale operatore non può consentire a un utente di accedere al servizio o usarlo per nudificare un’immagine. L’operatore non può neppure eseguire la trasformazione per conto di un utente.

Il Minnesota vieta separatamente la pubblicità o la promozione di servizi che eseguono tali azioni. Questa disposizione va oltre lo sviluppatore che produce un modello. Potenzialmente riguarda operatori di marketing, canali di distribuzione e aziende che indirizzano gli utenti verso servizi coperti dalla legge.

La legge prevede un’esenzione quando un servizio richiede notevoli competenze tecnologiche o artistiche umane per produrre l’immagine. Questa distinzione sembra pensata per separare gli strumenti automatici di nudificazione dal software creativo ad alta intensità di lavoro. Crea inoltre un confine difficile tra la generazione con un clic e l’editing sofisticato guidato dall’uomo.

Lo statuto ufficiale non stabilisce una semplice eccezione per il consenso nella sua definizione di nudificazione. xAI sostiene quindi che il divieto possa comprendere un adulto che modifica un’immagine di sé stesso o autorizza un’altra persona a farlo. L’eventuale accoglimento di questa interpretazione da parte di un tribunale determinerà la portata della legge.

La persona raffigurata può avviare un’azione civile e chiedere danni compensativi, compresi quelli per sofferenza psicologica. La legge consente inoltre danni punitivi, un’ingiunzione, spese legali e altri rimedi che un tribunale ritenga appropriati.

Il procuratore generale del Minnesota può applicare la legge separatamente. La sanzione civile può arrivare a $500.000 per ogni accesso, download o utilizzo illecito. Le sanzioni recuperate sono destinate a programmi a sostegno delle vittime di aggressioni sessuali, violenza domestica, abusi sui minori e altri reati.

Questa struttura per singolo utilizzo crea la preoccupazione commerciale più immediata per xAI. Un servizio con molti utenti del Minnesota potrebbe affrontare una teoria di responsabilità moltiplicativa anziché una sola sanzione per una singola decisione sul prodotto. Secondo quanto riferito, il ricorso sostiene che lo statuto non offra alcun porto sicuro per misure di sicurezza adottate in buona fede.

Il Minnesota ha inoltre incluso un linguaggio che preserva le tutele federali previste dalla Sezione 230, la legge che spesso protegge i servizi online dalla responsabilità per i contenuti creati dagli utenti. Tuttavia, l’interazione pratica resta contestata. Lo Stato prende di mira la funzionalità di un servizio, mentre xAI descrive la controversia come un tentativo di imporre responsabilità per l’espressione generata tramite quel servizio.

Il risultato non è un divieto convenzionale sulla diffusione di revenge porn. Regola l’accesso a una categoria di capacità di creazione di immagini prima che un file generato raggiunga un social network, un servizio di messaggistica o un sito web pubblico. Questa progettazione a monte crea sia il valore preventivo rivendicato dalla legge sia la sua vulnerabilità costituzionale.

Perché lo Stato ha scelto la prevenzione anziché le rimozioni

I legislatori del Minnesota hanno concluso che rimuovere immagini abusive dopo la pubblicazione non può annullare il danno causato dall’esistenza di un’immagine sessuale credibile.

La maggior parte delle leggi esistenti si concentra sulla pubblicazione o sulla condivisione di immagini intime non consensuali. Tali norme diventano utili dopo che qualcuno ha generato un’immagine, l’ha inviata o l’ha pubblicata. Lo statuto del Minnesota tenta di intervenire prima, rendendo indisponibili determinati strumenti di creazione.

L’approccio dello Stato è nato dalle testimonianze di persone prese di mira dalla tecnologia di nudificazione. Molly Kelley ha riferito ai legislatori che una persona da lei conosciuta aveva usato normali foto di famiglia per creare immagini e video sessuali realistici. In seguito ha scoperto che la stessa persona aveva preso di mira circa altre 80-85 donne, secondo precedenti resoconti legislativi.

Questo racconto illustra perché il consenso non possa essere ridotto al possesso di una fotografia sorgente. Una foto pubblicata per amici o parenti non autorizza un’altra persona a fabbricarne una versione intima. L’output sintetico può apparire credibile anche se l’evento raffigurato non è mai avvenuto.

Una volta che un’immagine esiste, la persona presa di mira affronta diversi problemi distinti. Le copie possono circolare in gruppi privati, account anonimi e servizi stranieri. Motori di ricerca e piattaforme possono rimuovere file noti, ma versioni modificate potrebbero riapparire. Una vittima può inoltre faticare a dimostrare da dove provenga un file.

La legge federale TAKE IT DOWN affronta una parte di questo problema imponendo alle piattaforme coperte di istituire una procedura di rimozione per le immagini intime non consensuali. Riflette un approccio centrato sulla distribuzione: le piattaforme reagiscono dopo che una vittima identifica il materiale dannoso.

I legislatori del Minnesota hanno deciso che le sole rimozioni non fossero sufficienti. La senatrice Erin Maye Quade, tra le principali sostenitrici, ha definito la nudificazione una condotta dannosa anziché un’espressione protetta. La sua posizione è che le aziende non dovrebbero rilasciare sistemi automatici di creazione senza assumersi la responsabilità del loro prevedibile uso improprio.

Le associazioni di tutela delle vittime avanzano un’argomentazione collegata sulla scala del fenomeno. Un artista umano poteva fabbricare un’immagine anche prima dell’IA generativa, ma ciò richiedeva tempo e competenza. Gli strumenti automatici abbassano tali barriere e consentono a una persona di produrre rapidamente molte immagini credibili.

Questo cambiamento riguarda più della semplice comodità. Riduce il tempo a disposizione di una persona presa di mira, di una piattaforma, di una scuola o di un datore di lavoro per reagire. Consente inoltre a un abusante di sperimentare varianti finché un output non risulta convincente.

I servizi specializzati nella nudificazione rappresentano il caso più chiaro per il Minnesota. La loro interfaccia, il marketing e l’output previsto possono tutti indicare la medesima finalità. I sistemi per uso generale come Grok rappresentano un caso più difficile perché producono molte categorie di immagini lecite oltre al materiale proibito.

La legge dello Stato non distingue i prodotti soltanto in base al branding. Il suo linguaggio operativo si concentra sul fatto che un servizio consenta a un utente di eseguire una trasformazione coperta. Un generatore dalle capacità ampie può quindi essere esposto a responsabilità se le sue protezioni falliscono.

Questa caratteristica mette sotto pressione xAI perché Grok combina prompt conversazionali con generazione ed editing di immagini. Un utente non ha bisogno di software grafico specializzato né di un flusso di lavoro lungo. La stessa accessibilità che rende utili gli strumenti generativi può rendere più facile l’abuso.

Grok ha inoltre attirato l’attenzione internazionale all’inizio del 2026, dopo che gli utenti hanno generato immagini sessualizzate che coinvolgevano persone reali. xAI ha poi dichiarato di aver introdotto misure che impediscono all’account Grok di modificare immagini di persone reali trasformandole in abiti succinti. L’azienda ha anche affermato che applicherà restrizioni geografiche laddove la legge locale vieti determinati output.

Questi controlli sostengono l’argomento di xAI secondo cui vieta già gli usi impropri. Sostengono però anche la tesi del Minnesota secondo cui i fornitori di modelli possono modificare l’accesso e il comportamento degli output quando le conseguenze legali lo richiedono.

Un divieto nei termini di servizio non ferma sempre un utente determinato. I filtri possono non rilevare prompt indiretti, formulazioni nuove o sequenze di modifica delle immagini. Al contrario, un filtro imperfetto non dimostra che un fornitore intendesse un risultato abusivo.

Questo divario tra politica e comportamento del prodotto è al centro della controversia. Il Minnesota vuole una responsabilità capace di modificare le decisioni ingegneristiche prima che le vittime subiscano danni. xAI afferma che il conseguente onere sopprime la creazione lecita di immagini quando restano disponibili rimedi più circoscritti.

Il percorso Amazon Engadget conduce a un test sulla libertà di espressione

La questione centrale non è se le immagini sessuali non consensuali siano dannose, ma se il Minnesota possa regolamentare in modo così ampio uno strumento espressivo per uso generale.

La frase amazon engadget è un percorso di ricerca scomodo per arrivare alla storia, ma la controversia sottostante è precisa. xAI sostiene che il Minnesota abbia creato una restrizione basata sul contenuto, ovvero che la legge tratti un’immagine in modo diverso per ciò che raffigura.

Le restrizioni alla libertà di espressione basate sul contenuto sono soggette a un rigoroso esame costituzionale. In generale, il governo deve dimostrare un interesse cogente e mostrare che la propria legge è calibrata in modo restrittivo. Il Minnesota può facilmente individuare un serio interesse nella protezione delle persone dallo sfruttamento sessuale, ma resta controversa la calibrazione restrittiva della misura.

xAI non sostiene che ogni immagine intima non consensuale meriti protezione. Secondo quanto riferito, il suo ricorso accetta l’interesse del Minnesota nel vietare la diffusione di immagini nude fabbricate che coinvolgono persone reali. L’azienda attacca invece l’applicazione dello statuto agli strumenti di creazione, alle immagini consensuali, alle immagini create da sé e alle parti del corpo mostrate lecitamente in contesti pubblici.

Un esempio riguarda la definizione statutaria di parte intima, che rimanda a un’altra sezione della legge del Minnesota. xAI sostiene che tale definizione incorporata possa estendersi a raffigurazioni che vanno oltre ciò che un utente comune intenderebbe come nudificazione. Cita possibilità che coinvolgono costumi da bagno, persone a torso nudo, satira, fotografie di famiglia e altri interventi creativi.

Il Minnesota può rispondere che lo statuto richiede un’alterazione realistica che coinvolga una persona identificabile. Lo Stato può inoltre sostenere che la legge disciplini il funzionamento dei servizi automatici, non l’idea o il punto di vista sottostante di una persona.

Quella distinzione tra condotta e linguaggio riceverà un’attenta valutazione. Una legge che disciplina il modo in cui un’azienda elabora fotografie caricate può somigliare a una regolamentazione di prodotto. Tuttavia, la generazione di immagini produce anche materiale espressivo, e la legge definisce l’operatività vietata attraverso il contenuto di tale output.

L’esenzione per l’abilità umana complica entrambe le posizioni. Il Minnesota può sostenere di prendere di mira lo sfruttamento automatizzato anziché l’arte tradizionale. xAI può argomentare che la legge favorisce l’espressione creata con un metodo, imponendo al contempo oneri sulla medesima espressione creata con un altro.

I tribunali valuteranno anche se la legge lasci aperte alternative lecite. Un utente del Minnesota potrebbe mantenere l’accesso a software di editing convenzionali che richiedono notevoli competenze. Eppure, bloccare le funzioni di immagine di un modello per uso generale potrebbe gravare su attività molto più ampie rispetto all’abuso preso di mira.

Ecco perché un porto sicuro è importante. Un porto sicuro protegge un fornitore che adotta misure di salvaguardia specifiche, come bloccare prompt espliciti, rispondere alle segnalazioni, conservare le prove e sospendere gli account abusivi. La legge del Minnesota non esonera espressamente un fornitore perché ha compiuto sforzi ragionevoli.

Senza tale protezione, un fornitore affronta una scelta difficile. Può tentare di identificare ogni richiesta soggetta alla legge, limitare tutte le modifiche di immagini che coinvolgono persone identificabili oppure disabilitare le funzionalità pertinenti in Minnesota. Ogni opzione genera falsi positivi e costi operativi.

Il geoblocking è la risposta più diretta. Un servizio identifica gli utenti che ritiene si trovino in Minnesota e lì non rende disponibile una funzione. Tuttavia, i controlli sulla posizione sono imperfetti perché le persone viaggiano, usano strumenti per la privacy o accedono ai servizi attraverso reti aziendali.

I filtri sui prompt offrono una seconda opzione. Possono rifiutare richieste dirette di rimuovere indumenti o fabbricare immagini intime. I flussi di lavoro più indiretti restano più difficili da classificare, poiché lo stesso linguaggio può comparire in contesti medici, educativi, artistici o legati alla sicurezza.

I classificatori di immagini offrono un ulteriore livello. Un servizio può esaminare le fotografie caricate e gli output generati alla ricerca di nudità o contenuti sessuali. Tuttavia, la sola classificazione non può stabilire in modo affidabile il consenso, l’identità, la satira o se una parte del corpo alterata appaia nell’immagine originale.

I fornitori possono anche limitare l’editing di fotografie che coinvolgono persone reali. xAI afferma di avere già implementato misure in questa direzione. Tali restrizioni possono ridurre gli abusi, ma potrebbero interferire con attività innocue che riguardano costumi, restauro, moda, fitness o immagini di famiglia.

La causa mette quindi alla prova dove la legge debba collocare gli errori di classificazione. L’approccio del Minnesota attribuisce più rischio al fornitore quando un output dannoso riesce a superare i controlli. L’approccio preferito da xAI fa maggiore affidamento sulle politiche della piattaforma, sull’applicazione delle regole agli utenti e sulle leggi che colpiscono la creazione o la distribuzione da parte dell’autore dell’illecito.

Nessuna delle due ripartizioni elimina il danno. Filtri aggressivi gravano sull’espressione lecita, mentre sistemi permissivi espongono persone reali a materiale sessuale fabbricato. La questione legale è se il Minnesota abbia scelto un equilibrio costituzionalmente ammissibile.

Le affermazioni di xAI sulla sicurezza affrontano un problema di credibilità

xAI deve dimostrare che la legge del Minnesota è troppo ampia senza chiedere al tribunale di ignorare i fallimenti documentati relativi ai controlli sulle immagini di Grok.

L’azienda afferma che le sue regole vietano attività illegali, dannose e abusive che violano la privacy di un’altra persona. Afferma inoltre che gli utenti non possono alterare immagini di persone reali per sessualizzarle o renderle nude senza consenso.

Secondo xAI, l’applicazione delle regole può includere la sospensione o la chiusura degli account e la segnalazione di sospetto materiale relativo ad abusi sessuali su minori. L’azienda ha pubblicamente descritto la propria posizione come di tolleranza zero verso lo sfruttamento sessuale dei minori, la nudità non consensuale e i contenuti sessuali indesiderati.

Tali politiche sono rilevanti, ma non verificano autonomamente le prestazioni del prodotto. La questione pertinente è con quale frequenza Grok rifiuti richieste abusive, quanto rapidamente xAI reagisca alle elusioni e se i recidivi possano tornare attraverso nuovi account.

La precedente “spicy mode” di Grok ha reso più difficile la questione della credibilità. La funzione consentiva contenuti espliciti generati, mentre gli utenti hanno trovato anche modi per richiedere alterazioni sessualizzate che coinvolgevano persone reali. Governi e sostenitori della sicurezza hanno risposto con indagini e richieste di controlli più rigorosi.

A gennaio xAI ha dichiarato di avere implementato misure per impedire all’account Grok di modificare persone reali facendole apparire in bikini, biancheria intima o altri indumenti succinti. Quel cambiamento dimostra la capacità di restringere gli output dopo pressioni pubbliche.

Non risolve però la questione se le misure di salvaguardia siano complete. I sistemi generativi rispondono in modo probabilistico e gli utenti testano continuamente prompt alternativi. Una restrizione che funziona per un’istruzione diretta può fallire nel corso di una conversazione più lunga o di un’attività di editing in più passaggi.

Il caso costituzionale dell’azienda non dovrebbe dipendere dal dimostrare una moderazione perfetta. Una legge può essere eccessivamente ampia anche quando il ricorrente ha commesso gravi errori. I tribunali valutano la portata della legge, non semplicemente se una determinata azienda appaia simpatica.

Allo stesso modo, il Minnesota non dovrebbe dover dimostrare che ogni modello per uso generale sia progettato come un’app per spogliare digitalmente. Lo Stato può basarsi su prove del fatto che la semplice generazione di immagini cambi la scala pratica dell’abuso. Il suo compito più difficile è collegare tali prove a ogni servizio e output coperto dalla legge.

Esperti legali indipendenti hanno avvertito durante il processo legislativo che la proposta necessitava di definizioni più ristrette. Wayne Unger della Quinnipiac University School of Law ha sostenuto che il Minnesota aveva bisogno di maggiore chiarezza sulla nudificazione. Riana Pfefferkorn di Stanford ha sollevato preoccupazioni sia riguardo al Primo Emendamento sia alla responsabilità federale degli intermediari.

Tali avvertimenti impediscono che il caso venga ridotto a xAI contro le vittime. Si può sostenere una forte protezione contro l’abuso sessuale sintetico e al tempo stesso chiedersi se questa legge sia redatta con sufficiente precisione. Un tribunale potrebbe bloccare una parte della legge senza respingere la prevenzione come obiettivo politico legittimo.

Lo Stato dispone di diverse possibili difese. Può sottolineare il requisito dell’immagine realistica, il requisito della persona identificabile e l’esenzione per l’abilità umana. Può anche sostenere che la creazione automatizzata sia una condotta strettamente connessa a un danno prevedibile.

xAI probabilmente porrà l’accento su esempi ai confini della legge. Immagini consensuali tra adulti, satira, trasformazioni artistiche e normali raffigurazioni del corpo possono contribuire a dimostrare un’eccessiva ampiezza. L’azienda può anche richiamare l’assenza di un esplicito requisito di intenzionalità per i fornitori di servizi.

Lo Stato probabilmente tornerà sul design del prodotto. Un servizio specializzato, sviluppato e commercializzato per lo spogliamento sintetico, presenta un rischio diverso rispetto a un software di editing neutrale. Il Minnesota può sostenere che i fornitori restino in grado di limitare la funzionalità specifica anziché abbandonare la generazione di immagini.

Tuttavia, il testo della legge disciplina più dei più evidenti cattivi attori. I tribunali normalmente non salvano una legge eccessivamente ampia soltanto perché i funzionari promettono un’applicazione moderata. Le definizioni e le interpretazioni restrittive disponibili conteranno quindi più delle assicurazioni politiche.

Il tetto di $500.000 aumenta il potenziale effetto dissuasivo. Quando ogni accesso, download o utilizzo illecito può far scattare una sanzione separata, un fornitore non può attendere serenamente diverse decisioni giudiziarie per chiarire i confini.

Allo stesso tempo, descrivere la sanzione massima non stabilisce ciò che un tribunale concederebbe in un caso specifico. L’applicazione richiede un procedimento legale e i convenuti possono contestare responsabilità, giurisdizione, nesso causale e la violazione contestata.

La Sezione 230 aggiunge un ulteriore livello irrisolto. Il Minnesota afferma espressamente che la sua legge deve restare coerente con le protezioni federali. xAI può comunque sostenere che lo Stato stia imponendo indirettamente responsabilità per contenuti creati dagli utenti, mentre il Minnesota può caratterizzare l’atto regolamentato come l’offerta di un servizio difettoso.

Anche il modello stesso di un fornitore può indebolire la classica analogia con l’intermediario. L’utente fornisce un prompt o una fotografia, ma il sistema del fornitore genera i pixel. I tribunali potrebbero distinguere questo processo dal semplice hosting di un file creato altrove.

Ciò rende il caso rilevante per ogni azienda che offre funzionalità generative. Il confine tra strumento, editore e prodotto sta diventando più difficile da mantenere. La legge del Minnesota porta tale confine in una controversia concreta che coinvolge vittime identificabili e output espressivi.

L’esperimento del Minnesota va oltre le norme esistenti sui deepfake

La legge è insolita perché prende di mira la capacità prima della diffusione, mentre altri governi si sono generalmente concentrati su creatori, distributori o obblighi di rimozione.

Il quadro federale TAKE IT DOWN si concentra sulle immagini intime non consensuali dopo la loro pubblicazione. Prevede conseguenze penali per determinate pubblicazioni e impone ai servizi coperti di fornire una procedura di rimozione.

Il Texas ha adottato un modello diverso. La sua legge può esporre gli operatori di siti web o app a responsabilità civile quando sanno che manca il consenso o non rimuovono il materiale coperto dopo una notifica. Questa struttura fa maggiore affidamento sulla conoscenza e sulla risposta.

San Francisco ha perseguito siti web specializzati nella nudificazione in base alle leggi esistenti che regolano pratiche commerciali abusive e pornografia non consensuale. Il suo contenzioso si concentra su servizi presumibilmente organizzati attorno a uno scopo dannoso anziché su ogni generatore di immagini per uso generale.

Il Minnesota ha scelto una strada preventiva più ampia. La legge non attende la distribuzione pubblica, la notifica di una vittima o prove che un operatore si sia commercializzato come servizio di nudificazione. La capacità del fornitore di facilitare la trasformazione coperta diventa l’elemento determinante.

Questo design somiglia sotto un aspetto alla regolamentazione sulla sicurezza dei prodotti. Lo Stato individua una funzione pericolosa e impone alle aziende di non offrirla. Tuttavia, l’output del prodotto è un’immagine, il che porta direttamente nell’analisi l’espressione e il Primo Emendamento.

Un confronto storico proviene dalle leggi sui deepfake politici. I tribunali hanno esaminato attentamente gli sforzi statali per limitare i media elettorali ingannevoli, soprattutto quando una legge traccia distinzioni basate sul contenuto. Alcune leggi sono sopravvissute a specifiche impugnazioni, mentre altre sono state bloccate.

Le aziende legate a Musk sono già coinvolte in questa battaglia più ampia. X ha in precedenza contestato la legge del Minnesota sui deepfake elettorali, sostenendo che violasse le tutele della libertà di espressione. Questa storia conferisce al nuovo caso un quadro costituzionale familiare, sebbene lo sfruttamento sessuale presenti interessi e danni diversi.

La controversia sulla nudificazione arriva anche nel mezzo delle pressioni sugli operatori degli app store. Apple e Google sono state criticate per la distribuzione di app che pubblicizzano o consentono lo spogliamento sintetico. Un’indagine citata da Engadget ha identificato all’epoca 18 di tali app nello store di Apple e 20 in Google Play.

La rimozione dagli store può ridurre la scoperta occasionale, ma non può eliminare i servizi web o le applicazioni installate tramite sideloading. Dipende inoltre dal fatto che i revisori riconoscano descrizioni fuorvianti e testino funzionalità nascoste.

Il divieto di pubblicità del Minnesota tenta di affrontare una parte di quella catena di distribuzione. Un servizio può diventare più difficile da trovare se le aziende non possono promuoverlo nello Stato. Tuttavia, la clausola solleva questioni separate su chi sia considerato un promotore e su quale conoscenza debba possedere.

I fornitori per uso generale affrontano una sfida di conformità diversa. OpenAI, Google, Meta e altri sviluppatori di modelli impongono regole contro lo sfruttamento sessuale e i contenuti intimi non consensuali. Le loro misure di salvaguardia variano a seconda del prodotto, del metodo di distribuzione e della possibilità per gli utenti di caricare fotografie.

Il confronto nel settore non riguarda quindi quale azienda disponga di un filtro perfetto. Nessuna può garantire credibilmente che ogni output del modello resti conforme in presenza di un uso avversariale. Il confronto significativo riguarda le scelte di progettazione, i test, i controlli di accesso, i sistemi di segnalazione e la trasparenza dopo i fallimenti.

I servizi specializzati possono spesso essere valutati in base al loro scopo dichiarato. Un prodotto che invita gli utenti a “spogliare” una persona lascia poco spazio all’ambiguità. Un modello che supporta mockup pubblicitari, restauro fotografico, meme e illustrazioni richiede invece decisioni basate sul contesto.

L’esenzione del Minnesota per le competenze tecniche crea inoltre conseguenze competitive. Il software tradizionale che richiede un lavoro manuale dettagliato riceve un trattamento diverso dalla generazione automatizzata. Questa differenza potrebbe incoraggiare i fornitori ad aggiungere attriti, controllo umano o ulteriori passaggi di editing.

Un maggiore attrito non è necessariamente inutile. Richiedere a un utente di dimostrare competenza, documentare il consenso o completare verifiche dell’identità può scoraggiare gli abusi opportunistici. Tuttavia, modifiche cosmetiche al flusso di lavoro non dovrebbero diventare una scappatoia per un servizio che produce gli stessi risultati dannosi.

Un modello normativo più solido potrebbe combinare diversi strumenti. I legislatori possono colpire i creatori malevoli, richiedere rimozioni rapide, imporre obblighi ai servizi progettati per l’abuso e offrire tutele ai fornitori generalisti che seguono garanzie definite.

Un simile modello non soddisferebbe ogni preoccupazione relativa alla libertà di espressione o alla sicurezza. Potrebbe però allineare più strettamente la responsabilità a intenzione, conoscenza, finalità del prodotto e risposta successiva alla segnalazione.

Il Minnesota ha invece creato un caso di prova netto. Se la legge resisterà, altri Stati avranno un modello per restrizioni dell’IA basate sulle capacità. Se fallirà, i legislatori riceveranno una mappa giudiziaria che mostrerà quali definizioni o meccanismi di responsabilità richiedono revisione.

Cosa succede ora nella causa xAI in Minnesota

Tre segnali determineranno se l’approccio del Minnesota diventerà un modello nazionale o un monito sui rischi di redigere leggi sull’IA troppo ampie.

Il primo segnale è il modo in cui il tribunale tratterà i provvedimenti d’urgenza. xAI ha depositato il ricorso poco prima della data di entrata in vigore del 1° agosto, rendendo immediata la questione se l’applicazione della legge debba essere sospesa mentre il contenzioso prosegue.

Per ottenere un provvedimento preliminare, xAI deve affrontare diversi fattori, tra cui la probabilità di successo e la prospettiva di un danno irreparabile. L’analisi iniziale del tribunale non deciderà definitivamente il caso, ma può rivelare quali argomentazioni costituzionali appaiono più solide.

Un’ingiunzione ampia indebolirebbe il modello del Minnesota e incoraggerebbe contestazioni contro leggi preventive simili. Un provvedimento limitato potrebbe preservare le protezioni contro servizi chiaramente abusivi, sospendendo al contempo le applicazioni controverse che riguardano il consenso o gli strumenti generalisti.

Il secondo segnale riguarda il modo in cui il tribunale caratterizzerà l’attività regolamentata. Se considererà la generazione di immagini principalmente come espressione protetta, il Minnesota dovrà affrontare un severo scrutinio costituzionale. Se invece considererà la nudificazione automatizzata come condotta dannosa, lo Stato avrà maggiore margine per regolamentarla.

Questa classificazione dipenderà dal testo normativo e da esempi concreti. Il tribunale potrebbe esaminare se la legge possa essere circoscritta alle trasformazioni non consensuali, se l’esenzione per le competenze umane sia costituzionalmente rilevante e se gli usi legittimi restino gravati da oneri.

Sarà rilevante anche il modo in cui il tribunale gestirà la Sezione 230. Una decisione secondo cui i pixel generati da un modello differiscono dai contenuti degli utenti ospitati da una piattaforma potrebbe influenzare controversie ben oltre le immagini intime. Inciderebbe sul modo in cui i tribunali intendono la responsabilità per gli output generativi nei servizi di IA per consumatori.

Il terzo segnale è la risposta operativa del settore. xAI e altri fornitori possono migliorare i filtri, introdurre restrizioni geografiche, limitare l’editing di persone reali o pubblicare dati di applicazione più chiari mentre la causa procede.

Garanzie migliori sosterrebbero l’argomento secondo cui una conformità mirata è possibile. Fallimenti persistenti rafforzerebbero le richieste di obblighi applicabili, anziché di regole volontarie.

La trasparenza sarà particolarmente importante. I fornitori raramente pubblicano informazioni sufficienti per valutare tassi di rifiuto, schemi di elusione, ricorsi o abusi ripetuti. Rapporti aggregati sulla sicurezza potrebbero aiutare i legislatori a distinguere i sistemi generalisti responsabili dai servizi costruiti attorno allo sfruttamento.

L’applicazione delle regole negli app store è un’altra misura pratica. Apple e Google possono rendere più rigorose le revisioni, rimuovere servizi che usano descrizioni fuorvianti e monitorare i prodotti dopo l’approvazione. Queste azioni non risolveranno le rivendicazioni costituzionali di xAI, ma possono ridurre la distribuzione di app specializzate nella nudificazione.

I legislatori dovrebbero seguire il caso prima di copiare il testo del Minnesota. Una replica affrettata potrebbe ereditare le stesse controversie su consenso, definizioni e tutele. Leggi più precise possono comunque imporre obblighi significativi senza trattare ogni generatore di immagini allo stesso modo.

Per gli utenti dell’IA, il caso illustra perché la disponibilità delle funzionalità dipenda sempre più dalla posizione geografica. I fornitori già adattano gli output alle norme nazionali, e le leggi statali possono produrre una mappa ancora più frammentata. Uno strumento disponibile in Wisconsin potrebbe comportarsi diversamente oltre il confine con il Minnesota.

Gli sviluppatori devono inoltre conservare registri affidabili delle modifiche ai modelli, dei test di sicurezza e delle risposte agli abusi. Tali registri possono dimostrare se un’azienda ha consapevolmente ignorato i fallimenti o ha compiuto sforzi costanti per prevenirli. Possono anche mettere in luce divari tra promesse pubbliche e controlli effettivi.

Gli acquirenti aziendali dovrebbero porre domande simili prima di abilitare la generazione di immagini. Le sole policy offrono garanzie limitate. Gli acquirenti devono comprendere se un fornitore possa limitare l’editing di persone reali, indagare sugli usi impropri e preservare le prove senza raccogliere dati personali non necessari.

I knowledge worker che seguono la controversia tramite ricerche amazon engadget dovrebbero evitare di considerarla un semplice referendum su xAI. La questione più duratura è se una regolamentazione basata sulle capacità possa proteggere le vittime senza vietare ampie categorie di espressione lecita.

Il Minnesota ha individuato una reale debolezza nelle politiche incentrate sulla rimozione. La rimozione inizia solo dopo che una vittima scopre un’immagine, comprende dove è comparsa e affronta una procedura di segnalazione. A quel punto, le copie potrebbero già essere al di là di un controllo efficace.

xAI ha individuato una reale debolezza nella soluzione del Minnesota. Una legge mirata agli abusi non consensuali può raggiungere immagini consensuali o create dalla stessa persona se le sue definizioni non prevedono i limiti necessari. Gravi sanzioni per singolo utilizzo amplificano questo problema di redazione.

Il miglior risultato non richiederebbe di scegliere tra strumenti senza restrizioni e l’assenza totale di editing automatizzato delle immagini. Stabilirebbe garanzie applicabili legate al consenso, alla finalità del prodotto, alla conoscenza del fornitore e alla qualità della risposta.

Il tribunale federale ha ora la prima opportunità di mettere alla prova l’approccio del Minnesota. Il suo provvedimento iniziale, la sua classificazione dell’attività generativa e la risposta del settore in materia di sicurezza forniranno le prove più chiare.

I lettori dovrebbero osservare questi segnali anziché la reazione politica più rumorosa. La domanda chiave è se i legislatori possano fermare lo sfruttamento sessuale automatizzato nel punto della sua creazione, preservando al contempo gli strumenti leciti. La risposta plasmerà la prossima generazione di leggi statali sull’IA.