xAI kwestionuje zakaz usług AI do „rozbierania” obrazów w Minnesocie

xAI pozwało stan Minnesota cztery dni przed wejściem w życie pierwszej w swoim rodzaju ustawy wymierzonej w usługi AI służące do tworzenia nagich wizerunków. Czytelnicy trafiający tu przez wyszukiwania amazon engadget znajdą spór znacznie większy niż jedna aplikacja czy jeden stan. Minnesota chce zapobiegać tworzeniu realistycznych intymnych obrazów bez zgody osób na nich przedstawionych. xAI twierdzi, że stan wybrał niekonstytucyjny sposób realizacji tego celu.

Pozew stawia przed sądem federalnym podstawowe pytanie regulacyjne. Czy stan może ograniczyć narzędzie AI, ponieważ użytkownicy mogą wykorzystać je do tworzenia szkodliwych obrazów, nawet jeśli narzędzie ma legalne zastosowania? Odpowiedź wpłynie na generatory obrazów ogólnego przeznaczenia, wyspecjalizowane aplikacje do „rozbierania” zdjęć, sklepy z aplikacjami i przyszłe stanowe przepisy dotyczące AI.

Minnesota argumentuje, że samo tworzenie powoduje szkodę, ponieważ realistyczny sfałszowany obraz może niemal natychmiast wymknąć się spod kontroli jego twórcy. xAI uznaje interes stanu w powstrzymywaniu niekonsensualnych intymnych treści. Twierdzi jednak, że House File 1606 zbyt szeroko reguluje chronioną ekspresję i zapewnia niewystarczającą ochronę usługom próbującym zapobiegać nadużyciom.

Co faktycznie zmienia nowa ustawa Minnesoty

Minnesota przesuwa egzekwowanie prawa na wcześniejszy etap — od karania za rozpowszechnianie do ograniczania narzędzi, które mogą tworzyć realistyczną sfabrykowaną nagość.

Według relacji o pozwie, xAI złożyło pozew federalny 27 lipca 2026 roku. Termin ma znaczenie, ponieważ ustawa Minnesoty miała wejść w życie 1 sierpnia. Firma chce zablokować jej egzekwowanie, zanim zaczną narastać potencjalne roszczenia.

Gubernator Tim Walz podpisał House File 1606 7 maja. Ustawa dodaje sekcję 325E.91 do przepisów handlowych Minnesoty i ma zastosowanie do roszczeń powstałych od 1 sierpnia.

Ustawa definiuje „rozbieranie” obrazów za pomocą dwóch powiązanych wymogów. Po pierwsze, oprogramowanie musi zmieniać lub generować obraz albo wideo tak, aby przedstawiało intymną część ciała nieobecną w oryginale. Po drugie, rezultat musi wyglądać na tyle realistycznie, by rozsądna osoba uznała, że ta część ciała należy do możliwej do zidentyfikowania osoby.

Warunek realistyczności obrazu w pewnym stopniu zawęża zakres ustawy. Prymitywna parodia lub wyraźnie fikcyjny rysunek nie spełnia automatycznie testu ustawowego. xAI twierdzi jednak, że pozostałe definicje nadal są na tyle szerokie, by objąć zgodną z prawem edycję i generowanie obrazów.

Główny zakaz dotyczy każdej osoby kontrolującej stronę internetową, aplikację, program lub inną usługę. Taki operator nie może pozwolić użytkownikowi uzyskać dostępu do usługi ani korzystać z niej w celu „rozebrania” obrazu. Operator nie może też wykonywać takiej transformacji dla użytkownika.

Minnesota osobno zakazuje reklamowania lub promowania usług wykonujących takie działania. Przepis wykracza poza twórcę opracowującego model. Potencjalnie obejmuje marketerów, kanały dystrybucji i firmy kierujące użytkowników do objętych nim usług.

Ustawa przewiduje wyjątek, gdy usługa wymaga znacznych ludzkich umiejętności technologicznych lub artystycznych, aby stworzyć obraz. Rozróżnienie to wydaje się mieć na celu oddzielenie zautomatyzowanych narzędzi do „rozbierania” zdjęć od pracochłonnego kreatywnego oprogramowania. Tworzy też trudną granicę między generowaniem jednym kliknięciem a zaawansowaną edycją kierowaną przez człowieka.

Oficjalny tekst ustawy nie ustanawia prostego wyjątku opartego na zgodzie w ramach definicji „rozbierania” obrazów. xAI argumentuje więc, że zakaz może obejmować dorosłą osobę zmieniającą własny wizerunek lub upoważniającą kogoś innego do takiego działania. To, czy sąd zaakceptuje tę interpretację, wpłynie na zasięg ustawy.

Osoba przedstawiona na obrazie może wnieść powództwo cywilne i dochodzić odszkodowania wyrównawczego, w tym za cierpienie psychiczne. Ustawa dopuszcza również odszkodowanie karne, nakaz sądowy, koszty prawne i inne środki, które sąd uzna za właściwe.

Prokurator generalny Minnesoty może egzekwować ustawę niezależnie. Kara cywilna może sięgać 500 000 dolarów za każdy bezprawny dostęp, pobranie lub użycie. Odzyskane kary mają trafiać do programów wspierających ofiary napaści seksualnej, przemocy domowej, krzywdzenia dzieci i innych przestępstw.

Taka struktura kar za każde użycie rodzi najpilniejszą obawę biznesową xAI. Usługa mająca wielu użytkowników w Minnesocie mogłaby stanąć wobec narastającej odpowiedzialności, a nie jednej kary za pojedynczą decyzję produktową. Pozew, jak podawano, argumentuje, że ustawa nie oferuje bezpiecznej przystani dla podejmowanych w dobrej wierze środków bezpieczeństwa.

Minnesota zawarła również zapis zachowujący federalne zabezpieczenia wynikające z Section 230, ustawy często chroniącej usługi internetowe przed odpowiedzialnością za materiały tworzone przez użytkowników. Praktyczna relacja między tymi regulacjami pozostaje jednak sporna. Stan celuje w funkcjonalność usługi, podczas gdy xAI przedstawia spór jako próbę narzucenia odpowiedzialności za ekspresję generowaną za pośrednictwem tej usługi.

Rezultatem nie jest konwencjonalny zakaz rozpowszechniania pornografii odwetowej. Ustawa reguluje dostęp do kategorii możliwości tworzenia obrazów, zanim wygenerowany plik trafi do sieci społecznościowej, komunikatora lub publicznej strony internetowej. Ta wczesna ingerencja tworzy zarówno deklarowaną wartość prewencyjną ustawy, jak i jej konstytucyjną słabość.

Dlaczego stan wybrał prewencję zamiast usuwania treści

Ustawodawcy Minnesoty uznali, że usunięcie szkodliwych obrazów po publikacji nie może cofnąć krzywdy wyrządzonej w chwili, gdy wiarygodny seksualizowany obraz już istnieje.

Większość istniejących przepisów koncentruje się na publikowaniu lub udostępnianiu niekonsensualnych intymnych materiałów. Reguły te stają się użyteczne po tym, jak ktoś wygeneruje obraz, wyśle go lub opublikuje publicznie. Ustawa Minnesoty próbuje interweniować wcześniej, czyniąc określone narzędzia do tworzenia niedostępnymi.

Podejście stanu wyrosło ze świadectw osób dotkniętych technologią „rozbierania” obrazów. Molly Kelley powiedziała ustawodawcom, że znana jej osoba wykorzystała zwykłe rodzinne zdjęcia do stworzenia realistycznych seksualizowanych obrazów i filmów. Później dowiedziała się, że ta sama osoba obrała za cel około 80–85 innych kobiet, zgodnie z wcześniejszym raportem legislacyjnym.

Ta relacja pokazuje, dlaczego zgody nie można sprowadzać do posiadania źródłowej fotografii. Zdjęcie opublikowane dla przyjaciół lub krewnych nie upoważnia innej osoby do sfabrykowania jego intymnej wersji. Syntetyczny rezultat może wyglądać wiarygodnie, choć przedstawione zdarzenie nigdy nie miało miejsca.

Gdy obraz już istnieje, osoba na nim przedstawiona staje wobec kilku odrębnych problemów. Kopie mogą trafić do prywatnych grup, anonimowych kont i zagranicznych usług. Wyszukiwarki i platformy mogą usuwać znane pliki, ale zmienione wersje mogą wracać. Ofiara może też mieć trudność z ustaleniem pochodzenia pliku.

Federalna ustawa TAKE IT DOWN Act rozwiązuje część tego problemu, wymagając od objętych nią platform ustanowienia procesu usuwania niekonsensualnych intymnych treści. Odzwierciedla ona podejście skoncentrowane na dystrybucji: platformy reagują, gdy ofiara zidentyfikuje szkodliwy materiał.

Ustawodawcy Minnesoty uznali, że samo usuwanie treści jest niewystarczające. Senator Erin Maye Quade, jedna z głównych zwolenniczek regulacji, przedstawiała „rozbieranie” obrazów jako szkodliwe działanie, a nie chronioną ekspresję. Jej stanowisko zakłada, że firmy nie powinny udostępniać zautomatyzowanych systemów tworzenia bez odpowiedzialności za ich przewidywalne nadużycia.

Rzecznicy ofiar przedstawiają powiązany argument dotyczący skali. Przed generatywną AI człowiek-artysta mógł sfabrykować obraz, ale wymagało to czasu i umiejętności. Zautomatyzowane narzędzia obniżają te bariery i pozwalają jednej osobie szybko tworzyć wiele wiarygodnych obrazów.

Ta zmiana dotyczy czegoś więcej niż wygody. Skraca czas dostępny na reakcję osoby poszkodowanej, platformy, szkoły lub pracodawcy. Pozwala również sprawcy testować warianty, aż rezultat stanie się przekonujący.

Wyspecjalizowane usługi do „rozbierania” zdjęć stanowią dla Minnesoty najbardziej jednoznaczny przypadek. Ich interfejs, marketing i oczekiwany rezultat mogą wskazywać na ten sam cel. Systemy ogólnego przeznaczenia, takie jak Grok, stanowią trudniejszy przypadek, ponieważ tworzą wiele kategorii zgodnych z prawem obrazów obok materiałów zakazanych.

Ustawa stanowa nie rozróżnia produktów wyłącznie na podstawie ich marki. Jej zasadnicze brzmienie koncentruje się na tym, czy usługa pozwala użytkownikowi przeprowadzić objętą przepisem transformację. Generator o szerokich możliwościach może więc ponosić odpowiedzialność, jeśli jego zabezpieczenia zawiodą.

Ta cecha wywiera presję na xAI, ponieważ Grok łączy konwersacyjne prompty z generowaniem i edycją obrazów. Użytkownik nie potrzebuje wyspecjalizowanego oprogramowania graficznego ani długiego procesu pracy. Ta sama dostępność, która czyni narzędzia generatywne użytecznymi, może ułatwiać nadużycia.

Grok znalazł się również pod międzynarodową obserwacją na początku 2026 roku po tym, jak użytkownicy wygenerowali seksualizowane obrazy z udziałem prawdziwych osób. xAI podało później, że wprowadziło środki uniemożliwiające kontu Grok edytowanie obrazów prawdziwych osób tak, by przedstawiały je w skąpym ubraniu. Firma stwierdziła również, że będzie stosować ograniczenia geograficzne tam, gdzie lokalne prawo zakazuje określonych rezultatów.

Kontrole te wspierają argument xAI, że firma już zakazuje nadużyć. Wspierają też stanowisko Minnesoty, że dostawcy modeli mogą zmieniać zasady dostępu i zachowanie rezultatów, gdy wymagają tego konsekwencje prawne.

Zakaz w warunkach świadczenia usług nie zawsze powstrzymuje zdeterminowanego użytkownika. Filtry mogą nie rozpoznać pośrednich promptów, nowych sformułowań lub sekwencji edycji obrazu. Z drugiej strony niedoskonały filtr nie dowodzi, że dostawca zamierzał uzyskać wynik o charakterze nadużycia.

Ta luka między polityką a zachowaniem produktu leży w centrum sporu. Minnesota chce odpowiedzialności zdolnej zmieniać decyzje inżynieryjne, zanim ofiary zostaną skrzywdzone. xAI twierdzi, że wynikające z tego obciążenie tłumi zgodne z prawem tworzenie obrazów, podczas gdy węższe środki zaradcze pozostają dostępne.

Ślad Amazon Engadget prowadzi do testu wolności słowa

Sednem sporu nie jest to, czy niekonsensualne seksualizowane obrazy są szkodliwe, lecz to, czy Minnesota może tak szeroko regulować narzędzie ekspresyjne ogólnego przeznaczenia.

Wyrażenie amazon engadget jest niezręczną ścieżką wyszukiwania prowadzącą do tej historii, ale leżący u jej podstaw spór jest precyzyjny. xAI argumentuje, że Minnesota stworzyła ograniczenie zależne od treści, co oznacza, że ustawa traktuje obraz inaczej ze względu na to, co przedstawia.

Ograniczenia wypowiedzi zależne od treści podlegają rygorystycznej kontroli konstytucyjnej. Władze zasadniczo muszą wykazać istnienie nadrzędnego interesu oraz to, że ich ustawa jest precyzyjnie dostosowana do celu. Minnesota może łatwo wskazać poważny interes w ochronie ludzi przed wykorzystywaniem seksualnym, ale kwestia wąskiego dostosowania pozostaje sporna.

xAI nie twierdzi, że każdy niekonsensualny intymny obraz zasługuje na ochronę. Pozew, jak podawano, uznaje interes Minnesoty w zakazie rozpowszechniania sfabrykowanych nagich obrazów z udziałem prawdziwych osób. Firma kwestionuje natomiast objęcie ustawą narzędzi do tworzenia, obrazów za zgodą, obrazów tworzonych przez samą osobę oraz części ciała legalnie eksponowanych w miejscach publicznych.

Jeden z przykładów dotyczy ustawowej definicji intymnej części ciała, która odsyła do innego przepisu prawa Minnesoty. xAI twierdzi, że włączona definicja może obejmować przedstawienia wykraczające poza to, co przeciętny użytkownik uznałby za „rozbieranie” obrazów. Wskazuje na możliwe przypadki związane ze strojami kąpielowymi, osobami bez koszuli, satyrą, rodzinnymi fotografiami i inną kreatywną edycją.

Minnesota może odpowiedzieć, że ustawa wymaga realistycznej modyfikacji dotyczącej możliwej do zidentyfikowania osoby. Stan może również argumentować, że prawo reguluje działanie zautomatyzowanych usług, a nie podstawową ideę lub punkt widzenia danej osoby.

To rozróżnienie między działaniem a wypowiedzią będzie przedmiotem wnikliwej analizy. Ustawa regulująca sposób, w jaki firma przetwarza przesyłane fotografie, może przypominać regulację produktu. Jednak generowanie obrazów tworzy również materiały o charakterze ekspresyjnym, a ustawa definiuje zakazane działanie przez treść takiego wyniku.

Wyłączenie dotyczące umiejętności człowieka komplikuje oba stanowiska. Minnesota może twierdzić, że celem jest zautomatyzowane wykorzystywanie, a nie tradycyjna sztuka. xAI może argumentować, że prawo faworyzuje ekspresję tworzoną jedną metodą, jednocześnie obciążając identyczną ekspresję tworzoną inną metodą.

Sądy rozważą również, czy ustawa pozostawia dostępne zgodne z prawem alternatywy. Użytkownik w Minnesocie może zachować dostęp do konwencjonalnego oprogramowania do edycji, które wymaga znacznych umiejętności. Jednak zablokowanie funkcji obrazowych modelu ogólnego przeznaczenia może obciążyć znacznie szerszy zakres działań niż ukierunkowane nadużycie.

Właśnie dlatego bezpieczna przystań ma znaczenie. Bezpieczna przystań chroni dostawcę, który stosuje określone zabezpieczenia, takie jak blokowanie jednoznacznych poleceń, reagowanie na zgłoszenia, zachowywanie dowodów i zawieszanie kont dopuszczających się nadużyć. Ustawa Minnesoty nie zwalnia wyraźnie dostawcy z odpowiedzialności tylko dlatego, że podjął rozsądne działania.

Bez takiej ochrony dostawca staje przed trudnym wyborem. Może próbować identyfikować każde objęte ustawą żądanie, ograniczyć całą edycję obrazów obejmującą osoby możliwe do zidentyfikowania albo wyłączyć odpowiednią funkcjonalność w Minnesocie. Każda z tych opcji powoduje fałszywie pozytywne wyniki i koszty operacyjne.

Geoblokowanie jest najbardziej bezpośrednią odpowiedzią. Usługa identyfikuje użytkowników, którzy według jej oceny znajdują się w Minnesocie, i nie udostępnia tam określonej funkcji. Kontrole lokalizacji są jednak niedoskonałe, ponieważ ludzie podróżują, korzystają z narzędzi ochrony prywatności lub uzyskują dostęp do usług przez sieci korporacyjne.

Filtry poleceń stanowią drugą opcję. Mogą odrzucać bezpośrednie żądania usunięcia odzieży lub tworzenia sfabrykowanych intymnych wizerunków. Bardziej pośrednie przepływy pracy pozostają trudniejsze do sklasyfikowania, ponieważ ten sam język może pojawiać się w kontekstach medycznych, edukacyjnych, artystycznych lub związanych z bezpieczeństwem.

Klasyfikatory obrazów oferują kolejną warstwę. Usługa może sprawdzać przesyłane fotografie i generowane wyniki pod kątem nagości lub treści seksualnych. Sama klasyfikacja nie może jednak wiarygodnie ustalić zgody, tożsamości, satyry ani tego, czy zmieniona część ciała występuje na oryginalnym obrazie.

Dostawcy mogą również ograniczać edycję fotografii przedstawiających prawdziwe osoby. xAI twierdzi, że wdrożyło już środki w tym kierunku. Takie ograniczenia mogą zmniejszać nadużycia, ale mogą zakłócać nieszkodliwe zadania związane z kostiumami, renowacją, modą, fitness lub zdjęciami rodzinnymi.

Pozew sprawdza zatem, po której stronie prawo powinno umiejscowić błędy klasyfikacji. Podejście Minnesoty przenosi większe ryzyko na dostawcę, gdy szkodliwe wyniki przedostają się przez zabezpieczenia. Preferowane przez xAI podejście w większym stopniu opiera się na zasadach platformy, egzekwowaniu zasad wobec użytkowników oraz prawie wymierzonym w tworzenie lub rozpowszechnianie przez sprawcę.

Żaden z tych podziałów ryzyka nie eliminuje szkody. Agresywne filtry obciążają zgodną z prawem ekspresję, a pobłażliwe systemy narażają prawdziwe osoby na sfabrykowane materiały seksualne. Pytanie prawne brzmi, czy Minnesota wybrała równowagę dopuszczalną konstytucyjnie.

Zastrzeżenia xAI dotyczące bezpieczeństwa napotykają problem wiarygodności

xAI musi wykazać, że prawo Minnesoty jest zbyt szerokie, nie prosząc sądu o zignorowanie udokumentowanych niepowodzeń związanych z kontrolami obrazów w Grok.

Firma twierdzi, że jej zasady zakazują nielegalnej, szkodliwej i stanowiącej nadużycie działalności, która narusza prywatność innej osoby. Twierdzi również, że użytkownicy nie mogą bez zgody zmieniać obrazów prawdziwych osób w celu ich seksualizacji lub pozbawiania odzieży.

Według xAI egzekwowanie zasad może obejmować zawieszanie lub zamykanie kont oraz zgłaszanie podejrzewanych materiałów przedstawiających seksualne wykorzystywanie dzieci. Firma publicznie określała swoje stanowisko jako politykę zerowej tolerancji wobec seksualnego wykorzystywania dzieci, niekonsensualnej nagości i niechcianych treści seksualnych.

Te zasady są istotne, ale same w sobie nie weryfikują działania produktu. Kluczowe pytanie dotyczy tego, jak często Grok odmawia realizacji nadużywających żądań, jak szybko xAI reaguje na obchodzenie zabezpieczeń oraz czy recydywiści mogą wracać za pośrednictwem nowych kont.

Wcześniejszy „spicy mode” Grok utrudnił ocenę wiarygodności. Funkcja zezwalała na generowanie treści jednoznacznych, a użytkownicy znajdowali również sposoby na żądanie seksualizowanych zmian dotyczących prawdziwych osób. Rządy i rzecznicy bezpieczeństwa odpowiedzieli dochodzeniami oraz żądaniami silniejszych kontroli.

xAI poinformowało w styczniu, że wdrożyło środki mające uniemożliwić kontu Grok przerabianie prawdziwych osób na osoby w bikini, bieliźnie lub innym skąpym stroju. Ta zmiana pokazuje zdolność do zawężania wyników po presji publicznej.

Nie rozstrzyga ona jednak, czy zabezpieczenia są kompleksowe. Systemy generatywne reagują probabilistycznie, a użytkownicy nieustannie testują alternatywne polecenia. Ograniczenie działające przy bezpośredniej instrukcji może zawieść podczas dłuższej rozmowy lub wieloetapowego zadania edycyjnego.

Konstytucyjna argumentacja firmy nie powinna zależeć od udowodnienia doskonałej moderacji. Ustawa może być zbyt szeroka, nawet jeśli powód popełnił poważne błędy. Sądy oceniają zakres ustawy, a nie tylko to, czy konkretna firma wydaje się godna sympatii.

Minnesota również nie powinna musieć dowodzić, że każdy model ogólnego przeznaczenia został zaprojektowany jako aplikacja do cyfrowego rozbierania. Stan może oprzeć się na dowodach, że łatwe generowanie obrazów zmienia praktyczną skalę nadużyć. Trudniejsze zadanie polega na powiązaniu tych dowodów z każdą usługą i każdym wynikiem objętym ustawą.

Niezależni eksperci prawni ostrzegali podczas procesu legislacyjnego, że propozycja potrzebowała węższych definicji. Wayne Unger z Quinnipiac University School of Law argumentował, że Minnesota potrzebuje większej jasności wokół cyfrowego rozbierania. Riana Pfefferkorn ze Stanford wskazała zarówno na kwestie Pierwszej Poprawki, jak i federalnej odpowiedzialności pośredników.

Te ostrzeżenia uniemożliwiają sprowadzenie sprawy do konfliktu xAI z ofiarami. Można popierać silną ochronę przed syntetycznymi nadużyciami seksualnymi, jednocześnie kwestionując, czy ustawa została sformułowana wystarczająco precyzyjnie. Sąd mógłby zablokować część prawa, nie odrzucając prewencji jako uzasadnionego celu polityki publicznej.

Stan ma kilka możliwych linii obrony. Może podkreślać wymóg realistycznego obrazu, wymóg osoby możliwej do zidentyfikowania oraz wyłączenie dotyczące umiejętności człowieka. Może również argumentować, że zautomatyzowane tworzenie jest działaniem ściśle związanym z przewidywalną szkodą.

xAI prawdopodobnie zaakcentuje przykłady z granic obowiązywania prawa. Konsensualne obrazy dorosłych, satyra, transformacje artystyczne i zwykłe przedstawienia ciała mogą pomóc wykazać nadmierną szerokość. Firma może również wskazać na brak wyraźnego wymogu zamiaru w odniesieniu do dostawców usług.

Stan prawdopodobnie powróci do kwestii projektu produktu. Wyspecjalizowana usługa stworzona i promowana z myślą o syntetycznym rozbieraniu stwarza inne ryzyko niż neutralne oprogramowanie do edycji. Minnesota może argumentować, że dostawcy nadal są w stanie ograniczyć konkretną funkcjonalność, zamiast porzucać generowanie obrazów.

Tekst ustawy obejmuje jednak więcej niż tylko najbardziej oczywistych złych aktorów. Sądy co do zasady nie ratują zbyt szerokiej ustawy wyłącznie dlatego, że urzędnicy obiecują powściągliwe egzekwowanie. Definicje i dostępne interpretacje zawężające będą zatem ważniejsze niż polityczne zapewnienia.

Limit 500 000 dolarów zwiększa potencjalny efekt mrożący. Gdy każdy bezprawny dostęp, pobranie lub użycie może skutkować odrębną karą, dostawca nie może spokojnie czekać na kilka orzeczeń sądowych wyjaśniających granice.

Jednocześnie opisanie maksymalnej kary nie przesądza, co sąd zasądziłby w konkretnej sprawie. Egzekwowanie wymaga procedury prawnej, a pozwani mogą kwestionować odpowiedzialność, jurysdykcję, związek przyczynowy i zarzucane naruszenie.

Section 230 dodaje kolejną nierozstrzygniętą warstwę. Minnesota wyraźnie stwierdza, że jej prawo musi pozostać zgodne z federalnymi ochronami. xAI może nadal argumentować, że stan pośrednio nakłada odpowiedzialność za treści tworzone przez użytkowników, podczas gdy Minnesota może scharakteryzować regulowane działanie jako oferowanie wadliwej usługi.

Własny model dostawcy może również osłabić klasyczną analogię do pośrednika. Użytkownik dostarcza polecenie lub fotografię, lecz system dostawcy generuje piksele. Sądy mogą odróżnić ten proces od zwykłego hostowania pliku utworzonego gdzie indziej.

To czyni sprawę istotną dla każdej firmy oferującej funkcje generatywne. Granicę między narzędziem, wydawcą i produktem coraz trudniej utrzymać. Prawo Minnesoty przenosi tę granicę do konkretnego sporu dotyczącego możliwych do zidentyfikowania ofiar i ekspresyjnych wyników.

Eksperyment Minnesoty wykracza poza istniejące przepisy dotyczące deepfake’ów

Ustawa jest nietypowa, ponieważ dotyczy możliwości jeszcze przed rozpowszechnieniem, podczas gdy inne rządy na ogół koncentrowały się na twórcach, dystrybutorach lub obowiązkach usuwania treści.

Federalne ramy TAKE IT DOWN koncentrują się na niekonsensualnych intymnych obrazach po ich opublikowaniu. Przewidują konsekwencje karne za określone przypadki publikacji i wymagają od objętych nimi usług zapewnienia procesu usuwania.

Teksas zastosował inny model. Jego prawo może narazić operatorów stron internetowych lub aplikacji na odpowiedzialność cywilną, gdy wiedzą o braku zgody lub nie usuną objętych nim materiałów po otrzymaniu zawiadomienia. Taka struktura w większym stopniu opiera się na wiedzy i reakcji.

San Francisco podjęło działania przeciwko wyspecjalizowanym stronom internetowym umożliwiającym cyfrowe rozbieranie, korzystając z istniejących przepisów dotyczących szkodliwych praktyk biznesowych i niekonsensualnej pornografii. Postępowania koncentrują się na usługach rzekomo zorganizowanych wokół szkodliwego celu, a nie na każdym generatorze obrazów ogólnego przeznaczenia.

Minnesota wybrała szerszą drogę prewencyjną. Ustawa nie czeka na publiczne rozpowszechnienie, zawiadomienie ofiary ani dowody, że operator promował się jako usługa do cyfrowego rozbierania. Czynnikiem uruchamiającym staje się zdolność dostawcy do ułatwienia objętej ustawą transformacji.

Pod jednym względem ten projekt przypomina regulację bezpieczeństwa produktów. Stan identyfikuje niebezpieczną funkcję i wymaga od firm jej niewdrażania. Wynikiem działania produktu jest jednak obraz, co wprowadza ekspresję i Pierwszą Poprawkę bezpośrednio do analizy.

Historyczne porównanie można znaleźć w przepisach dotyczących politycznych deepfake’ów. Sądy analizowały stanowe próby ograniczania zwodniczych materiałów wyborczych, zwłaszcza gdy prawo wprowadza rozróżnienia oparte na treści. Niektóre ustawy przetrwały konkretne zaskarżenia, podczas gdy inne zostały zablokowane.

Firmy związane z Muskiem są już zaangażowane w tę szerszą walkę. X wcześniej zakwestionował prawo Minnesoty dotyczące deepfake’ów wyborczych i argumentował, że narusza ono ochronę wolności słowa. Ta historia nadaje nowej sprawie znajome ramy konstytucyjne, choć wykorzystywanie seksualne wiąże się z innymi interesami i szkodami.

Spór o cyfrowe rozbieranie pojawia się również w czasie presji na operatorów sklepów z aplikacjami. Apple i Google spotkały się z krytyką za dystrybucję aplikacji reklamujących lub umożliwiających syntetyczne rozbieranie. Dochodzenie cytowane przez Engadget zidentyfikowało wówczas 18 takich aplikacji w sklepie Apple i 20 w Google Play.

Usuwanie ze sklepów może ograniczyć przypadkowe odkrywanie aplikacji, ale nie może wyeliminować usług internetowych ani aplikacji instalowanych spoza sklepu. Zależy także od tego, czy recenzenci rozpoznają mylące opisy i przetestują ukrytą funkcjonalność.

Zakaz reklamowania w Minnesocie próbuje objąć część tego łańcucha dystrybucji. Usługa może stać się trudniejsza do znalezienia, jeśli firmy nie mogą jej promować w stanie. Klauzula rodzi jednak odrębne pytania o to, kto jest uznawany za promotora i jaką wiedzę musi posiadać.

Dostawcy ogólnego przeznaczenia stoją przed innym wyzwaniem w zakresie zgodności. OpenAI, Google, Meta i inni twórcy modeli nakładają zasady przeciwko wykorzystywaniu seksualnemu oraz niekonsensualnym treściom intymnym. Ich zabezpieczenia różnią się w zależności od produktu, metody wdrożenia i tego, czy użytkownicy mogą przesyłać fotografie.

Porównanie branżowe nie dotyczy zatem tego, która firma ma doskonały filtr. Żadna nie może wiarygodnie zagwarantować, że każdy wynik modelu pozostanie zgodny z zasadami przy użyciu o charakterze adwersarialnym. Znaczące porównanie dotyczy wyborów projektowych, testowania, kontroli dostępu, systemów zgłaszania i przejrzystości po niepowodzeniach.

Usługi wyspecjalizowane często można ocenić po deklarowanym przeznaczeniu. Produkt zachęcający użytkowników do „rozbierania” osoby nie pozostawia wiele miejsca na wątpliwości. Model obsługujący makiety reklamowe, renowację zdjęć, memy i ilustracje wymaga decyzji zależnych od kontekstu.

Wyjątek Minnesoty dotyczący umiejętności technicznych wywołuje również konsekwencje konkurencyjne. Tradycyjne oprogramowanie wymagające szczegółowej pracy ręcznej jest traktowane inaczej niż zautomatyzowane generowanie. Ta różnica może skłonić dostawców do wprowadzania dodatkowych utrudnień, kontroli człowieka lub kolejnych etapów edycji.

Dodatkowe utrudnienia nie muszą być bezcelowe. Wymaganie od użytkownika wykazania umiejętności, udokumentowania zgody lub przejścia kontroli tożsamości może zniechęcać do oportunistycznych nadużyć. Mimo to kosmetyczne zmiany w procesie nie powinny stawać się furtką dla usługi wywołującej te same szkodliwe skutki.

Silniejszy model polityki mógłby łączyć kilka narzędzi. Ustawodawcy mogą wymierzać przepisy w złośliwych twórców, wymagać szybkiego usuwania, nakładać obowiązki na usługi zaprojektowane z myślą o nadużyciach oraz zapewniać bezpieczne przystanie dostawcom ogólnego przeznaczenia stosującym określone zabezpieczenia.

Taki model nie zaspokoiłby wszystkich obaw dotyczących wolności słowa ani bezpieczeństwa. Mógłby jednak lepiej powiązać odpowiedzialność z intencją, wiedzą, przeznaczeniem produktu i reakcją po otrzymaniu zgłoszenia.

Minnesota stworzyła natomiast wyraźny przypadek testowy. Jeśli ustawa się utrzyma, inne stany otrzymają wzór ograniczeń AI opartych na możliwościach. Jeśli upadnie, ustawodawcy otrzymają sądową mapę wskazującą, które definicje lub mechanizmy odpowiedzialności wymagają poprawy.

Co wydarzy się dalej w sprawie xAI przeciwko Minnesocie

Trzy sygnały zdecydują, czy podejście Minnesoty stanie się ogólnokrajowym wzorem, czy ostrzeżeniem przed zbyt szerokim formułowaniem przepisów dotyczących AI.

Pierwszym sygnałem będzie podejście sądu do nadzwyczajnego środka ochrony. xAI złożyło pozew tuż przed datą wejścia ustawy w życie, 1 sierpnia, więc bezpośrednie pytanie brzmi, czy egzekwowanie przepisów powinno zostać wstrzymane na czas trwania postępowania.

Aby uzyskać wstępną ochronę, xAI musi odnieść się do kilku czynników, w tym prawdopodobieństwa wygranej oraz ryzyka nieodwracalnej szkody. Wczesna analiza sądu nie rozstrzygnie sprawy ostatecznie, ale może ujawnić, które argumenty konstytucyjne wydają się najsilniejsze.

Szeroki nakaz sądowy osłabiłby model Minnesoty i zachęcił do zaskarżania podobnych ustaw prewencyjnych. Wąskie postanowienie mogłoby zachować ochronę przed wyraźnie nadużywającymi usługami, jednocześnie wstrzymując sporne zastosowania związane ze zgodą lub narzędziami ogólnego przeznaczenia.

Drugim sygnałem będzie to, jak sąd scharakteryzuje regulowaną działalność. Jeśli uzna generowanie obrazów przede wszystkim za chronioną formę wypowiedzi, Minnesota będzie musiała sprostać rygorystycznej kontroli konstytucyjnej. Jeśli uzna zautomatyzowane „rozbieranie” za szkodliwe działanie, stan zyska większe pole do regulacji.

Ta klasyfikacja będzie zależeć od treści ustawy i konkretnych przykładów. Sąd może zbadać, czy przepisy można zawęzić do przekształceń bez zgody, czy wyjątek dotyczący umiejętności człowieka ma znaczenie konstytucyjne oraz czy legalne zastosowania nadal są obciążone.

Istotne będzie także podejście sądu do Sekcji 230. Orzeczenie, że piksele wygenerowane przez model różnią się od hostowanych treści użytkowników, mogłoby wpłynąć na spory wykraczające daleko poza intymne obrazy. Oddziaływałoby na to, jak sądy rozumieją odpowiedzialność za generatywne wyniki w konsumenckich usługach AI.

Trzecim sygnałem będzie operacyjna reakcja branży. xAI i inni dostawcy mogą ulepszyć filtry, wprowadzić ograniczenia geograficzne, ograniczyć edycję wizerunku prawdziwych osób lub publikować bardziej przejrzyste dane dotyczące egzekwowania zasad w trakcie postępowania.

Lepsze zabezpieczenia wsparłyby argument, że ukierunkowana zgodność z przepisami jest możliwa. Utrzymujące się porażki wzmocniłyby postulaty wprowadzenia egzekwowalnych obowiązków zamiast dobrowolnych zasad.

Szczególnie istotna będzie przejrzystość. Dostawcy rzadko publikują wystarczająco dużo informacji, by ocenić wskaźniki odmów, schematy obchodzenia zabezpieczeń, odwołania czy powtarzające się nadużycia. Zbiorcze raporty bezpieczeństwa mogłyby pomóc ustawodawcom odróżnić odpowiedzialne systemy ogólnego przeznaczenia od usług zbudowanych wokół wykorzystywania.

Egzekwowanie zasad przez sklepy z aplikacjami to kolejny praktyczny środek. Apple i Google mogą zaostrzyć weryfikację, usuwać usługi korzystające z mylących opisów oraz monitorować produkty po zatwierdzeniu. Działania te nie rozstrzygną konstytucyjnych roszczeń xAI, ale mogą ograniczyć dystrybucję wyspecjalizowanych aplikacji nudify.

Ustawodawcy powinni obserwować sprawę, zanim skopiują brzmienie przepisów Minnesoty. Pospieszna kopia mogłaby odziedziczyć te same spory dotyczące zgody, definicji i bezpiecznych przystani. Bardziej precyzyjne ustawy nadal mogą nakładać istotne obowiązki, nie traktując każdego generatora obrazów identycznie.

Dla użytkowników AI sprawa pokazuje, dlaczego dostępność funkcji coraz częściej zależy od lokalizacji. Dostawcy już dostosowują wyniki do przepisów krajowych, a prawa stanowe mogą stworzyć jeszcze bardziej rozdrobnioną mapę. Narzędzie dostępne w Wisconsin może działać inaczej po przekroczeniu granicy Minnesoty.

Programiści muszą również zachowywać wiarygodne rejestry zmian modeli, testów bezpieczeństwa i reakcji na nadużycia. Takie zapisy mogą wykazać, czy firma świadomie ignorowała błędy, czy podejmowała konsekwentne wysiłki, aby im zapobiegać. Mogą też ujawnić rozbieżności między publicznymi obietnicami a rzeczywistymi kontrolami.

Nabywcy korporacyjni powinni zadawać podobne pytania przed włączeniem generowania obrazów. Same polityki zapewniają ograniczoną gwarancję. Nabywcy muszą rozumieć, czy dostawca potrafi ograniczać edycję wizerunku prawdziwych osób, badać niewłaściwe użycie i zachowywać dowody bez gromadzenia niepotrzebnych danych osobowych.

Pracownicy wiedzy śledzący spór poprzez wyszukiwania amazon engadget powinni unikać traktowania go jako prostego referendum w sprawie xAI. Trwalszą kwestią jest to, czy regulacja oparta na możliwościach może chronić ofiary bez zakazywania szerokich kategorii legalnej wypowiedzi.

Minnesota wskazała rzeczywistą słabość polityki skoncentrowanej na usuwaniu treści. Usuwanie rozpoczyna się dopiero po tym, jak ofiara odkryje obraz, zrozumie, gdzie się pojawił, i przejdzie przez proces zgłaszania. Do tego czasu kopie mogą już znajdować się poza skuteczną kontrolą.

xAI wskazało rzeczywistą słabość rozwiązania Minnesoty. Ustawa wymierzona w nadużycia bez zgody może obejmować obrazy stworzone za zgodą lub przez samą osobę, jeśli jej definicjom brakuje niezbędnych ograniczeń. Surowe kary za każde użycie potęgują ten problem redakcyjny.

Najlepszy rezultat nie wymagałby wyboru między nieograniczonymi narzędziami a całkowitym zakazem automatycznej edycji obrazów. Ustanowiłby egzekwowalne zabezpieczenia powiązane ze zgodą, przeznaczeniem produktu, wiedzą dostawcy i jakością reakcji.

Sąd federalny ma teraz pierwszą okazję, by przetestować podejście Minnesoty. Jego początkowe postanowienie, klasyfikacja działalności generatywnej oraz reakcja branży w zakresie bezpieczeństwa dostarczą najjaśniejszych dowodów.

Czytelnicy powinni obserwować te sygnały, a nie najgłośniejszą reakcję polityczną. Kluczowe pytanie brzmi, czy ustawodawcy mogą powstrzymać zautomatyzowane wykorzystywanie seksualne na etapie tworzenia, zachowując jednocześnie legalne narzędzia. Odpowiedź ukształtuje kolejną generację stanowych przepisów dotyczących AI.