Przepisy dotyczące AI w kampaniach w Karolinie Południowej pozostają w tyle, gdy treści polityczne tanieją
Przepisy dotyczące AI w kampaniach w Karolinie Południowej pozostają nieustalone, mimo że generatywna AI stała się istotnym czynnikiem w cyklu wyborczym 2026 roku. Kampanie mogą dziś tworzyć komunikaty, analizować dane wyborców i produkować materiały cyfrowe przy mniejszym zaangażowaniu ludzi i niższych kosztach. Ta efektywność poszerza dostęp do profesjonalnych narzędzi kampanijnych, ale zarazem ułatwia tworzenie syntetycznych treści politycznych i utrudnia ich ocenę.
Spór nie toczy się już po prostu między kampaniami korzystającymi z AI a tymi, które z niej nie korzystają. Chodzi o napięcie między niedrogą ekspresją polityczną a wiarygodnymi sygnałami dotyczącymi tego, kto stworzył przekaz, co zostało zmienione i czy kandydat rzeczywiście powiedział to, co widzą wyborcy.
Ustawodawcy Karoliny Południowej rozważali ukierunkowaną odpowiedź w postaci przepisów dotyczących zwodniczych deepfake’ów. Projekt nie posunął się naprzód, zanim sezon wyborczy nabrał tempa. Tymczasem do czerwca 2026 roku 31 stanów uchwaliło przepisy dotyczące politycznych deepfake’ów, według National Conference of State Legislatures.
W rezultacie kampanie, wyborcy, redakcje i platformy w Karolinie Południowej działają bez szerokich ram stanowych zaprojektowanych z myślą o politycznych materiałach tworzonych przez AI. Istniejące przepisy nadal mają zastosowanie w niektórych sytuacjach, lecz nie ustanawiają powszechnego obowiązku ujawniania syntetycznych treści kampanijnych.
Raport rozróżnia uchwalone prawo od oczekujących projektów i dobrowolnych praktyk. Szczegóły legislacyjne sprawdzono w oficjalnym rejestrze Zgromadzenia Ogólnego Karoliny Południowej dotyczącym H. 3517, w tym w historii statusu i tekście projektu. Twierdzenia dotyczące prawa federalnego przypisano Federal Election Commission, Federal Communications Commission oraz Sądowi Najwyższemu USA. Przykłady dotyczące pojedynczych kampanii przedstawiono jako opisane przypadki, a nie dowód, że każda kampania korzysta z AI w ten sam sposób.
AI przeszła od eksperymentu kampanijnego do infrastruktury kampanii
Bezpośrednia zmiana ma charakter operacyjny: AI wpływa obecnie na rutynową pracę kampanii, a także na reklamy polityczne oglądane przez wyborców.
Generatywna AI, czyli oprogramowanie tworzące nowe teksty, obrazy, dźwięk lub wideo na podstawie instrukcji, może skrócić kilka procesów kampanijnych. Pracownicy mogą korzystać z niej do przygotowywania komunikatów prasowych, tworzenia wariantów postów społecznościowych, podsumowywania badań lub opracowywania wstępnych projektów.
Gibbs Knotts, profesor nauk politycznych na Coastal Carolina University, opisał tę szeroką adopcję w niedawnym materiale WBTV o kampaniach. Powiedział, że AI stawała się częścią strategii kampanii, analiz i pisania komunikatów prasowych. Jego komentarze opisują zaobserwowane praktyki kampanijne, a nie kompleksowy pomiar wykorzystania AI we wszystkich wyścigach wyborczych w Karolinie Południowej.
Ma to znaczenie, ponieważ technologia polityczna rzadko pojawia się w jednym, łatwym do uregulowania formacie. Kampania może prywatnie używać modelu językowego do przygotowania zarysu przemówienia. Może też opublikować wygenerowany przez AI obraz przedstawiający przeciwnika na wydarzeniu, które nigdy się nie odbyło.
Działania te wykorzystują powiązaną technologię, lecz stwarzają bardzo różne ryzyka. Pierwsze przypomina zwykłe oprogramowanie zwiększające produktywność. Drugie może zmienić to, co wyborcy sądzą o prawdziwej osobie.
Kampanie odczuwają również presję, by tworzyć więcej materiałów dla większej liczby kanałów. Jedno ogłoszenie może stać się e-mailem, apelem o darowizny, scenariuszem wideo, obrazem, ulotką i wieloma postami społecznościowymi. AI zmniejsza nakład pracy potrzebny do stworzenia tych wariantów.
Ta przewaga ma szczególne znaczenie dla lokalnych kandydatów i kandydatów startujących w mniej eksponowanych wyborach. Mniejsze kampanie mogą nie mieć wyspecjalizowanych badaczy, projektantów, montażystów wideo ani konsultantów ds. komunikacji. System AI może dać im niedrogi punkt wyjścia do pracy, która wcześniej wymagała kilku specjalistów.
Kandydat do legislatury stanu Georgia podał praktyczny przykład podczas cyklu wyborczego w 2024 roku. Jego kampania korzystała z artykułów wygenerowanych przez AI, fikcyjnych obrazów i sklonowanej wersji jego głosu. Kandydat powiedział Associated Press, że oszczędność czasu pozwoliła mu spotkać się z większą liczbą wyborców.
Ten sam przypadek ujawnił jednak kompromis. Jego przeciwnik argumentował, że komunikacja generowana przez AI osłabiała autentyczność, której wyborcy oczekiwali od kandydatów. Spór nie dotyczył tego, czy technologia działała. Dotyczył tego, co powinna reprezentować komunikacja polityczna.
Dla wyborcy praktyczna różnica może być trudna do dostrzeżenia. E-mail kampanijny dopracowany przez asystenta AI do pisania może wyglądać tak samo jak tekst zredagowany przez pracownika. Sklonowany głos w materiale wideo może mieć znacznie poważniejsze skutki, ponieważ odbiorca może rozsądnie uznać, że kandydat nagrał te słowa. Bez ujawnienia tej informacji odbiorcy nie mogą wiarygodnie odróżnić tych procesów wyłącznie na podstawie gotowego materiału.
Pracownik kampanii dostrzegłby inną praktyczną różnicę. Wykorzystanie AI do przekształcenia zatwierdzonego dokumentu programowego w trzy szkice postów społecznościowych nadal pozostawia oryginalne źródło dostępne do porównania. Wygenerowanie realistycznego nagrania przeciwnika wypowiadającego słowa, których nigdy nie powiedział, nie tworzy autentycznego nagrania do sprawdzenia. Drugi proces wymaga więc mechanizmów ujawniania i zatwierdzania, których zwykła pomoc w redagowaniu może nie wymagać.
Dlatego polityczna AI w Karolinie Południowej nie może być traktowana wyłącznie jako problem deepfake’ów. Znaczna część jej zastosowań jest zwyczajna, niewidoczna i potencjalnie korzystna. Kampania może wykorzystywać AI w całym wewnętrznym procesie, nie publikując zwodniczych mediów.
Rutynowe wdrażanie buduje jednak zdolność do tworzenia publicznych treści na dużą skalę. Gdy te same narzędzia mogą tworzyć realistyczne głosy, twarze i wydarzenia, granica między pomocą a podszywaniem się nabiera znaczenia politycznego.
Kluczowe rozróżnienie nie dotyczy tego, czy kampania gdzieś wykorzystała AI. Chodzi o to, czy wyborcy otrzymują kontekst potrzebny do oceny powstałego przekazu.
Tańsza produkcja pomaga małym kampaniom i ich atakującym
AI obniża koszt uczestnictwa w polityce, ale obniża też koszt zalewania wyścigu wyborczego wprowadzającymi w błąd materiałami.
Kampanie polityczne zawsze zależały od nierównych zasobów. Dobrze finansowani kandydaci mogą zatrudniać konsultantów, zlecać sondaże, testować reklamy i szybko reagować na ataki. Lokalni rywale często polegają na wolontariuszach i ograniczonym zainteresowaniu mediów.
Generatywna AI zmniejsza część tej luki operacyjnej. Kandydat może korzystać z niej do tworzenia pomysłów na przekazy, tłumaczenia materiałów, oczyszczania dźwięku lub przygotowywania szkiców grafik. Kontrola człowieka pozostaje niezbędna, ale początkowy ciężar produkcji maleje.
Może to poprawić konkurencję polityczną. Mała kampania może komunikować się bardziej konsekwentnie lub przekierować czas pracowników na spotkania z wyborcami. Technologia może również pomóc osobom z ograniczonym doświadczeniem w projektowaniu, pisaniu czy produkcji wideo wyrażać idee w bardziej dopracowanej formie.
Dostępność działa jednak w obie strony. Osoba tworząca fałszywy klip potrzebuje mniej umiejętności technicznych, czasu i budżetu niż wymagały wcześniejsze formy zaawansowanej manipulacji.
Deepfake’i to syntetyczne obrazy, nagrania lub filmy realistycznie przedstawiające wydarzenia albo wypowiedzi, które nie miały miejsca. Są tylko jedną kategorią perswazji wspomaganej przez AI. Wprowadzające w błąd treści mogą też łączyć prawdziwe nagrania, wygenerowaną narrację, selektywny montaż i fałszywe podpisy.
Sfingowane wideo nie musi oszukać każdego odbiorcy. Może osiągnąć cel, docierając do niewielkiej grupy w decydującym momencie, zmuszając kampanię do poświęcenia czasu na jego dementowanie lub zasiewając niepewność wokół autentycznych dowodów.
Ryzyko staje się wyraźniejsze w mniej nagłaśnianych rywalizacjach. Kandydaci krajowi przyciągają reporterów, fact-checkerów, badaczy opozycji i duże zespoły komunikacyjne. Kandydat do rady hrabstwa lub legislatury stanowej może nie mieć żadnej z tych form ochrony.
Relacja Associated Press na temat kampanii w wyborach mniej eksponowanych wykazała, że niedrogie narzędzia AI mogą pomagać kandydatom w prowadzeniu kampanii. Wykazała też, że mniejsze kampanie mogą mieć trudności z przeciwdziałaniem fałszywym treściom generowanym przez AI.
Wybory na burmistrza Shreveport w 2022 roku były wczesnym ostrzeżeniem. Komitet polityczny wykorzystał zmanipulowane media wymierzone w urzędującego burmistrza Adriana Perkinsa. Według Associated Press materiał zawierał oznaczenie, lecz Perkins powiedział, że jego kampania nie miała zasobów, by skutecznie zareagować.
W praktyce ujawnienie informacji nie eliminuje więc automatycznie szkody. Wyborca może zobaczyć przycięty zrzut ekranu z usuniętą oryginalną etykietą, obejrzeć skrócony repost pomijający informację lub natknąć się na kopię udostępnioną w prywatnej grupie bez pierwotnego kontekstu. Jasne oznaczenie może zwiększyć rozliczalność, ale nie jest w stanie odwrócić każdego wrażenia.
Lokalna redakcja stanęłaby przed podobnym problemem weryfikacji. Przed osadzeniem spornego klipu reporterzy musieliby odnaleźć najwcześniej dostępne przesłanie, skontaktować się z przedstawioną kampanią, zbadać wszelkie dane o pochodzeniu materiału i zdecydować, jak dużą część można pokazać bez jego wzmacniania. Mała redakcja może być zmuszona wykonać tę pracę, podczas gdy klip już rozprzestrzenia się w czatach grupowych i kanałach społecznościowych.
Komisja wyborcza mogłaby zmierzyć się z jeszcze bardziej bezpośrednią wersją tego problemu. Gdyby syntetyczne nagranie fałszywie informowało wyborców o zamknięciu lokalu wyborczego, urzędnicy musieliby skorygować twierdzenie na stronie internetowej, kontach społecznościowych, w lokalnych mediach i na liniach telefonicznych. Etykieta dołączona do oryginalnego nagrania niewiele by pomogła, gdyby nieoznaczone kopie już krążyły.
Szybkość potęguje problem. Kampanie mogą teraz generować wiele wariantów przekazu i rozpowszechniać je, zanim przeciwnicy lub redakcje zakończą weryfikację. Gdy pojawia się korekta, pierwotna treść mogła już dotrzeć do zamierzonej grupy odbiorców.
Te asymetrie sprawiają, że przepisy Karoliny Południowej dotyczące AI w kampaniach są czymś więcej niż pytaniem o ograniczanie kreatywności kampanijnej. Decydenci muszą rozstrzygnąć, kto ponosi ciężar, gdy syntetyczne treści wywołują dezorientację.
Przepis mógłby nałożyć ten ciężar na nadawców poprzez obowiązkowe etykiety. Mógłby zapewnić przedstawionym kandydatom szybką drogę sądową. Platformy mogłyby być zobowiązane do zachowania informacji o pochodzeniu, czyli zapisów dotyczących źródła materiału i sposobu jego zmiany.
Każde podejście wiąże się z odmiennymi kosztami egzekwowania i obawami dotyczącymi wolności wypowiedzi. Brak działania również rozdziela koszty. Nakłada większą odpowiedzialność na wyborców, dziennikarzy, urzędników wyborczych i kampanie będące celem ataku, gdy wątpliwe materiały już krążą.
Przepisy dotyczące AI w kampaniach w Karolinie Południowej utknęły na etapie ujawniania informacji
Główny projekt Karoliny Południowej opowiadał się za oznaczaniem zwodniczych mediów zamiast wprowadzania całkowitego zakazu wspomaganej przez AI wypowiedzi kampanijnej.
Projekt House Bill 3517 został zgłoszony wstępnie w grudniu 2024 roku, wniesiony w styczniu 2025 roku i skierowany do Komisji Sądownictwa Izby Reprezentantów. Oficjalny rejestr Zgromadzenia Ogólnego Karoliny Południowej dotyczący H. 3517 nie wskazuje żadnych działań legislacyjnych po skierowaniu projektu 14 stycznia 2025 roku w trakcie sesji 2025–2026. Ponieważ projekt nie stał się prawem, jego postanowienia są tu opisane jako propozycje, a nie obowiązujące wymogi prawne.
Projekt koncentrował się na zwodniczych syntetycznych przedstawieniach kandydatów. Definiował media syntetyczne jako zmanipulowane lub wygenerowane obrazy, dźwięk lub wideo tworzące realistyczny, lecz fałszywy obraz.
Jej ograniczenia miały obowiązywać w ciągu 90 dni przed wyborami. Dystrybucja byłaby zakazana, gdy dana osoba wiedziała lub powinna była wiedzieć, że treść w sposób zwodniczy przedstawiała kandydata znajdującego się na karcie wyborczej.
Propozycja zawierała jednak istotny wyjątek. Dystrybucja mogłaby być kontynuowana, gdy materiał zawierał informację, że obraz, nagranie wideo lub dźwięk został zmanipulowany albo wygenerowany przez sztuczną inteligencję.
Wymagane oznaczenie miało pozostać widoczne przez cały czas trwania filmu. Informacja dźwiękowa byłaby odtwarzana na początku i na końcu, a w dłuższych nagraniach powtarzana w odstępach nie dłuższych niż dwie minuty.
H. 3517 przyznawał również przedstawionym kandydatom możliwość dochodzenia roszczeń cywilnych. Mogliby wystąpić o nakaz sądowy wstrzymujący publikację oraz dochodzić od sponsora odszkodowania ogólnego lub szczególnego.
Uwzględniono także sankcje karne. Zgodnie z treścią projektu pierwsze naruszenie mogło skutkować zarzutem wykroczenia zagrożonego karą do 90 dni więzienia, grzywną do 500 USD albo obiema tymi karami. Drugie naruszenie w ciągu pięciu lat mogło zostać uznane za przestępstwo zagrożone karą do pięciu lat pozbawienia wolności, grzywną do 1 000 USD albo obiema tymi karami.
Przepisy te pokazują, że propozycja była węższa niż ogólna ustawa Karoliny Południowej dotycząca AI w polityce. Nie regulowała strategii kampanii, badań wspieranych przez AI, zwykłego copywritingu ani każdego wygenerowanego obrazu.
Jej celem były zwodnicze przedstawienia kandydatów w ograniczonym okresie wyborczym. Nawet wtedy dystrybucja mogłaby być dozwolona po zamieszczeniu zgodnego z wymogami oznaczenia.
Projekt przewidywał także wyjątki dla satyry lub parodii oraz określonych zastosowań w wiadomościach, filmach dokumentalnych, nadawaniu i periodykach. Te wyjątki mają znaczenie, ponieważ propozycję napisano tak, by przeciwdziałać zwodniczym przedstawieniom kandydatów bez automatycznego uznawania relacjonowania lub oczywistej komedii politycznej za niezgodne z prawem.
Taka konstrukcja odzwierciedla szerszy trend na poziomie stanów. Zasady dotyczące oznaczania próbują chronić swobodę wypowiedzi politycznej, jednocześnie informując odbiorców o sposobie powstania przekazu. Unikają też wymagania od rządu, by rozstrzygał, czy każde twierdzenie polityczne jest prawdziwe.
Brak postępu prac nad projektem oznacza, że Karolina Południowa weszła w późny okres kampanii 2026 roku bez takich dedykowanych ram prawnych. Nieobecność tych przepisów nie legalizuje oszustwa, tłumienia głosowania, zniesławienia ani każdej formy podszywania się pod inną osobę.
Zamiast tego egzekwowanie prawa pozostaje uzależnione od ustaw napisanych z myślą o innych zachowaniach. Ustawy te mogą dotyczyć szkodliwego działania, nie ustanawiają jednak spójnych oznaczeń dla politycznych materiałów medialnych generowanych przez AI.
To rozróżnienie ma znaczenie dla wyborców. Zwodniczy robocall może naruszać przepisy telekomunikacyjne lub chroniące wyborców. Fałszywa reklama może stanowić podstawę roszczenia cywilnego. Mimo to legalne syntetyczne treści nadal mogą być rozpowszechniane bez oznaczenia AI.
Ustawodawcy Karoliny Południowej muszą zatem zdecydować, czy stan potrzebuje przepisu dotyczącego konkretnie takich treści przed kolejnym cyklem wyborczym. Muszą również ustalić, czy 90-dniowe okno jest wystarczające, skoro materiały polityczne mogą pozostawać w internecie przez lata.
Proponowana definicja może wymagać ponownego przemyślenia. Odwoływała się do generatywnych sieci przeciwstawnych, jednej z metod generowania syntetycznych mediów, ale obejmowała też „inną technologię cyfrową”. Wiele nowszych systemów opiera się na modelach dyfuzyjnych lub innych podejściach technicznych.
Ustawodawstwo zbyt ściśle powiązane z jedną metodą może szybko się zestarzeć. Bardziej neutralna technologicznie definicja mogłaby koncentrować się na wynikającym z niej wprowadzeniu w błąd i istotnej modyfikacji, zachowując jednocześnie wystarczającą precyzję, aby nie obejmować rutynowej edycji.
Ujawnienie informacji oferuje rozwiązanie pośrednie, a nie pełną obronę
Główny kompromis polityczny przeciwstawia przejrzystą wypowiedź polityczną przepisom na tyle szerokim, że mogą ograniczać satyrę, krytykę i legalne narzędzia produkcyjne.
Ujawnianie informacji stało się najczęstszą odpowiedzią stanów na zwodnicze materiały wyborcze tworzone z użyciem AI. Zamiast zakazywać każdego syntetycznego przekazu, stany wymagają komunikatu wyjaśniającego, że treść została utworzona lub zmodyfikowana z użyciem AI.
Do 23 czerwca 2026 roku National Conference of State Legislatures podała, że 31 stanów uchwaliło przepisy regulujące polityczne deepfake’i. Jej monitor polityk stanowych wskazał dwa szerokie modele: ograniczone zakazy oraz wymogi ujawniania informacji.
Minnesota i Teksas stosują ograniczone czasowo zakazy dotyczące niektórych zwodniczych materiałów. Maryland stosuje zakaz obowiązujący przez cały rok, podczas gdy pozostałe 28 stanów opiera się przede wszystkim na wymogach ujawniania informacji, zgodnie z analizą NCSL.
Ten schemat odzwierciedla presję konstytucyjną. Wypowiedź polityczna korzysta z silnej ochrony wynikającej z Pierwszej Poprawki, w tym także w pewnym zakresie wypowiedź przesadzona, ostra lub fałszywa. W *United States v. Alvarez*, 567 U.S. 709 (2012) Sąd Najwyższy USA odrzucił twierdzenie, że fałszywe oświadczenia całkowicie nie podlegają ochronie Pierwszej Poprawki. Orzeczenie nie dotyczyło AI ani wyborczych deepfake’ów i nie przesądza, że każde ograniczenie dotyczące deepfake’ów jest niekonstytucyjne. Pokazuje jednak, dlaczego szeroko sformułowane ograniczenia fałszywej ekspresji politycznej mogą podlegać kontroli konstytucyjnej.
Satyra tworzy jeden oczywisty problem z wyznaczeniem granicy. Wyraźnie komediowy obraz może umieszczać kandydata w fikcyjnej scenie, aby przekazać punkt polityczny. Traktowanie go jak zwodniczego podszywania się mogłoby objąć chroniony komentarz przepisami wyborczymi.
Filmy dokumentalne i relacjonowanie wiadomości stwarzają inne komplikacje. Dziennikarze mogą potrzebować pokazać zmanipulowane treści, wyjaśniając, dlaczego są fałszywe. Funkcjonalna reguła potrzebuje wyjątków, ale bez tworzenia luk dla reklamodawców kampanijnych.
Ujawnianie informacji jest atrakcyjne, ponieważ nie wymaga od stanu zatwierdzania przekazów politycznych przed publikacją. Wymaga od nadawców wskazania materiału syntetycznego, podobnie jak istniejące oznaczenia kampanijne wskazują, kto zapłacił za reklamę.
Etykiety różnią się jednak skutecznością. Mały tekst, krótkie komunikaty lub niejasne sformułowania mogą być technicznie obecne, a jednocześnie w praktyce niewidoczne. Dźwięk i wideo wymagają różnych standardów, ponieważ odbiorcy korzystają z nich w odmienny sposób.
Ponowne publikowanie to kolejna słabość. Oznaczenie może zniknąć, gdy ktoś wykona zrzut ekranu obrazu, przytnie film lub prześle tylko fragment nagrania. Metadane mogą także zostać usunięte przez platformy.
Na przykład wyborca może po raz pierwszy zetknąć się z syntetycznym filmem jako z pionowym repostem w mediach społecznościowych, a nie jako z oryginalną reklamą kampanii. Jeśli konto przytnie dolną część kadru, umieszczone tam oznaczenie może zniknąć. Jeżeli ten sam wyborca później zobaczy w prywatnej wiadomości nieruchomy obraz pobrany z klipu, ani pierwotna etykieta, ani konto źródłowe mogą już nie być widoczne.
Systemy cyfrowego pochodzenia treści mogą zachowywać informacje o źródle pliku i historii jego edycji. Dane te mogą pomóc platformom i dziennikarzom oceniać materiały, lecz nie gwarantują, że zwykli odbiorcy je sprawdzą.
Odporna polityka może zatem wymagać zarówno widocznego ujawnienia informacji, jak i pochodzenia odczytywalnego maszynowo. Widoczny komunikat służy wyborcom, podczas gdy osadzone informacje wspierają weryfikację i obsługę przez platformy.
Nawet takie połączenie nie może rozstrzygnąć, czy stojąca za przekazem argumentacja polityczna jest uczciwa. Prawdziwe zdjęcie zestawione z fałszywym podpisem może wprowadzać w błąd, nie zawierając wygenerowanych pikseli. Syntetyczna rekonstrukcja może przekazywać udokumentowane wydarzenie, nie udając autentycznego nagrania.
Przepisy powinny zatem koncentrować się na istotnym wprowadzeniu w błąd dotyczącym wyglądu, działań lub wypowiedzi prawdziwej osoby. Nie powinny obiecywać wyeliminowania dezinformacji jako całości.
Kampanie potrzebują również wewnętrznych mechanizmów kontroli. Wygenerowane wersje robocze powinny pozostawać powiązane z oryginalnymi źródłami, zatwierdzeniami przez ludzi i dokumentacją publikacji. Wiarygodne gromadzenie informacji może pomóc zespołom zachowywać te odniesienia zamiast polegać na niepowiązanych wynikach AI.
W praktyce mogłoby to oznaczać zachowanie oryginalnego nagrania, promptu lub instrukcji edycji, akceptacji członka zespołu i finalnego wyeksportowanego pliku. Jeśli głos lub scena zostaną później zakwestionowane, kampania miałaby możliwy do prześledzenia zapis pokazujący, co wygenerowano i kto zatwierdził publikację.
Przydatnym testem jest to, czy osoba spoza zespołu produkcyjnego mogłaby odtworzyć sposób powstania przekazu. W przypadku syntetycznego filmu dokumentacja powinna wskazywać materiał źródłowy, wygenerowane elementy, odniesienia faktyczne, redaktora, osobę zatwierdzającą, tekst ujawnienia informacji oraz czas publikacji. Jeśli kampania nie potrafi przedstawić takiego łańcucha, redakcja lub regulator ma mniej dowodów pozwalających odróżnić błąd od celowego podszywania się.
Praktyka ta nie zastępuje prawa. Ogranicza jednak możliwe do uniknięcia błędy i dostarcza kampaniom dowodów, gdy pojawiają się pytania o sposób utworzenia przekazu.
Dla Karoliny Południowej ujawnianie informacji pozostaje najjaśniejszym rozwiązaniem pośrednim rozważanym w H. 3517. Trudność polega na zdefiniowaniu, które treści wymagają etykiety, jak widoczna musi ona być oraz kto pozostaje odpowiedzialny po redystrybucji.
Przepisy federalne obejmują części problemu
Istniejące uprawnienia federalne dotyczą konkretnych zachowań, lecz nie zapewniają uniwersalnej etykiety dla każdej reklamy politycznej wygenerowanej przez AI.
Federalna Komisja Wyborcza rozpatrywała w 2024 roku wniosek o stworzenie szerszych zasad dotyczących reklam kampanijnych wykorzystujących AI. Zdecydowała się nie wszczynać wnioskowanego procesu tworzenia przepisów.
Zamiast tego komisja wydała interpretację wyjaśniającą, że istniejące federalne ograniczenia dotyczące oszukańczego wprowadzania w błąd mogą mieć zastosowanie niezależnie od użytej technologii. Przepis obejmuje szczególne sytuacje związane z fałszywymi twierdzeniami o wypowiadaniu się lub działaniu w imieniu kandydatów albo partii politycznych.
Interpretacja FEC z września 2024 roku stwierdza, że 52 U.S.C. § 30124 i 11 C.F.R. § 110.16 są neutralne technologicznie i mogą mieć zastosowanie do oszukańczego wprowadzania w błąd dokonywanego za pomocą mediów wspieranych przez AI. Agencja podała, że będzie stosować ustawę do konkretnych technologii indywidualnie w każdym przypadku. Uprawnienie to jest węższe niż ogólny zakaz zwodniczych materiałów kampanijnych i nie wymaga, aby każda federalna reklama polityczna zawierająca element wygenerowany przez AI posiadała oznaczenie AI.
To rozróżnienie jest istotne, ponieważ federalne prawo kampanijne nakłada obowiązek zamieszczania informacji o sponsorze w wielu komunikatach. Takie komunikaty informują wyborców, kto zapłacił za przekaz, lecz nie muszą wyjaśniać, czy jego głos, obraz lub scena zostały wygenerowane.
Federalna Komisja Łączności podjęła odrębne działanie dotyczące połączeń. W lutym 2024 roku orzekła, że głosy generowane przez AI są głosami sztucznymi lub wcześniej nagranymi w rozumieniu Telephone Consumer Protection Act.
Declaratory Ruling FCC, *Implications of Artificial Intelligence Technologies on Protecting Consumers from Unwanted Robocalls and Robotexts*, CG Docket No. 23-362, FCC 24-17 ustaliło, że połączenia wykorzystujące takie głosy mieszczą się w istniejących ograniczeniach TCPA. Nastąpiło to po incydencie w New Hampshire z udziałem głosu wygenerowanego przez AI, przypominającego głos ówczesnego prezydenta Joe Bidena, i dało prokuratorom generalnym stanów kolejną podstawę prawną do ścigania niektórych nielegalnych robocalli.
Orzeczenie nie zakazało w każdych okolicznościach wszystkich połączeń politycznych generowanych przez AI. Legalność robocalli zależy również od zgody, celu i mających zastosowanie wyjątków ustawowych. Pokazało jednak, że istniejące ustawy mogą obejmować nowe metody techniczne.
Dla odbiorcy ta rozproszona ochrona daje różne praktyczne sygnały. Połączenie może podlegać regulacji, ponieważ wykorzystuje sztuczny głos, podczas gdy internetowy film zawierający ten sam sklonowany głos może podlegać innemu zestawowi przepisów federalnych, stanowych, platformowych i cywilnych. Technologia leżąca u podstaw może być podobna, mimo że ścieżka egzekwowania prawa zmienia się zależnie od kanału dystrybucji.
Zespół ds. zgodności kampanii musiałby zatem zadać co najmniej cztery odrębne pytania przed dystrybucją: kto zapłacił za przekaz, czy fałszywie podaje się on za wypowiedź innego kandydata lub partii, czy sposób dostarczenia uruchamia przepisy telekomunikacyjne oraz czy stanowe prawo dotyczące mediów syntetycznych wymaga oznaczenia. Spełnienie jednego testu nie oznacza zgodności z pozostałymi.
To rozproszone podejście pozostawia luki między agencjami i jurysdykcjami. FEC reguluje finansowanie federalnych kampanii, a nie całość wyborów stanowych i lokalnych. FCC nadzoruje systemy komunikacyjne, ale nie każde internetowe wideo czy zdjęcie.
Dlatego stanowe przepisy wyborcze pozostają kluczowe. Mogą regulować przekazy dotyczące kandydatów stanowych i lokalnych, określać formaty ujawnień oraz zapewniać lokalne procedury szybkiego zadośćuczynienia.
Jednak system oparty na przepisach poszczególnych stanów prowadzi do niespójnych oczekiwań. Reklama kampanijna może być legalna bez oznaczenia w jednej jurysdykcji, a w innej wymagać konkretnej informacji. Dystrybucja internetowa rzadko respektuje granice stanów.
Platformy muszą zdecydować, czy stosować najsurowszą stanową zasadę w całym kraju, kierować oznaczenia geograficznie czy tworzyć odrębne procedury obsługi dla każdej jurysdykcji. Małe kampanie stają przed tym samym problemem zgodności, mając do dyspozycji mniej prawników.
Federalne przepisy ustanawiające standard bazowy mogłyby ograniczyć tę niespójność, lecz nadal musiałyby zachować przestrzeń dla legalnej wypowiedzi politycznej. Musiałyby też odróżniać wprowadzające w błąd podszywanie się od rutynowej edycji i nieszkodliwej pomocy generatywnej.
Do tego czasu Karolina Południowa pozostaje częścią mozaiki przepisów. Obowiązujące prawo może karać niektóre szkodliwe działania, lecz stan nie przyjął kompleksowego standardu ujawniania informacji o syntetycznych materiałach wyborczych.
Ta niepewność wpływa na coś więcej niż egzekwowanie prawa po incydencie. Kształtuje planowanie kampanii przed publikacją. Zespoły muszą decydować, co ujawniać dobrowolnie, nawet gdy prawo stanowe nie wymaga tego jednoznacznie.
Praktyczna kampania powinna zakładać, że nieoznaczone syntetyczne przedstawienia stwarzają ryzyko reputacyjne. Prawne zezwolenie nie gwarantuje akceptacji wyborców, dystrybucji przez platformy ani przychylnego relacjonowania przez prasę.
Dobrowolne oznaczenia mogą ustanowić normę, zanim zadziałają ustawodawcy. Mogą też pokazać, gdzie oznaczenia działają słabo, dostarczając decydentom dowodów dla przyszłych standardów.
Kolejnym testem jest to, czy przepisy mogą nadążyć za kampaniami
Debata będzie zależeć od trzech obserwowalnych zjawisk: ponownego podjęcia prac nad ustawodawstwem stanowym, praktyk kampanii dotyczących ujawnień oraz działań egzekucyjnych związanych z wprowadzającymi w błąd treściami.
Po pierwsze, ustawodawcy mogą ponownie przeanalizować zasady dotyczące kampanii wykorzystujących AI w Karolinie Południowej, korzystając z doświadczeń innych stanów. Przyszła propozycja mogłaby definiować zwodnicze media syntetyczne poprzez ich skutek, zamiast opierać się przede wszystkim na jednej metodzie generowania.
Ponownie przedstawiona ustawa musiałaby też mieć jasny zakres. Ustawodawcy muszą zdecydować, czy zasada dotyczy wyłącznie kandydatów, czy obejmuje również urzędników wyborczych, pytania referendalne i sfabrykowane wydarzenia mające na celu zniechęcanie do głosowania.
Termin wymaga podobnej analizy. Okres 90 dni skupia egzekwowanie prawa w pobliżu wyborów, gdy szkoda może być największa. Pozostawia jednak wcześniejsze syntetyczne treści poza zakresem szczególnej zasady, nawet jeśli materiał pozostaje online podczas głosowania.
Jeśli ustawodawcy ponownie przedstawią propozycję dotyczącą ujawnień, jej los pokaże, czy Zgromadzenie Ogólne jest gotowe ponownie rozważyć tę kwestię. Posiedzenia komisji włączą również do publicznego rejestru obawy dotyczące egzekwowania prawa, definicje techniczne i zastrzeżenia konstytucyjne.
Po drugie, kampanie mogą przyjąć dobrowolne standardy, zanim pojawi się obowiązek. Standardy te powinny oddzielać wewnętrzne wsparcie od publicznego podszywania się i wymagać wyraźnego oznaczenia, gdy media syntetyczne realistycznie przedstawiają osobę.
Właściwą miarą nie jest liczba kampanii deklarujących odpowiedzialne użycie AI. Jest nią to, czy ich opublikowane reklamy zawierają spójne, zrozumiałe informacje, które pozostają widoczne podczas zwykłego udostępniania.
Kampanie powinny również zachowywać rzeczywiste materiały źródłowe stojące za wygenerowanymi scenami lub cytatami. Przegląd przeprowadzany przez ludzi powinien weryfikować twierdzenia przed publikacją, zwłaszcza gdy treść przedstawia słowa lub działania przeciwnika.
Po trzecie, egzekwowanie prawa pokaże, jak istniejące przepisy działają w konkretnych sprawach. Późny syntetyczny atak może, zależnie od treści, nadawcy, sposobu dystrybucji i skutku, wiązać się z przepisami o zniesławieniu, ustawami przeciw tłumieniu głosowania, wymogami finansowania kampanii lub federalnym prawem komunikacyjnym.
To, czy istniejące procedury zapewniają terminowe środki ochrony, stanie się jaśniejsze dopiero dzięki oficjalnym rejestrom działań egzekucyjnych i orzeczeniom sądowym. Jeśli spory będą wielokrotnie wypadać poza obecne przepisy lub toczyć się zbyt wolno, by zaradzić szkodom w okresie wyborczym, ustawodawcy będą mieli bardziej konkretne dowody do rozważenia podczas debaty nad odrębną regulacją.
Rzeczywiste spory wyjaśnią też różnicę między oszustwem a oczywistą parodią. Sądy, urzędnicy wyborczy i platformy mogą dojść do różnych wniosków, co zwiększyłoby presję na wyraźniejszy standard ustawowy.
Wyborcy powinni śledzić oznaczenia równie uważnie jak samą treść. Informacja musi pozostać czytelna, słyszalna i dołączona do materiału. Powiadomienie ukryte w opisie lub usunięte podczas ponownego publikowania zapewnia niewielką ochronę.
Czytelnik oceniający budzący wątpliwości klip może podjąć kilka konkretnych kroków: szukać najwcześniejszego przesłania zamiast ponownego posta, sprawdzić, czy kandydat lub urząd wyborczy odniósł się do materiału, porównać głos lub nagranie z uwierzytelnionym zapisem oraz zapoznać się z relacjami wyjaśniającymi sposób weryfikacji mediów. Żaden z tych kroków sam w sobie nie dowodzi autentyczności, lecz razem dostarczają więcej dowodów niż sam wizualny realizm.
Redakcje ponoszą powiązaną odpowiedzialność. Powtarzanie sfabrykowanego klipu podczas jego demaskowania może zwiększać jego zasięg. Relacjonowanie powinno stawiać weryfikację na pierwszym miejscu, pokazywać tylko to, co konieczne, i unikać prezentowania mediów syntetycznych bez kontekstu.
Platformy mogą pomóc, zachowując dane o pochodzeniu, udostępniając widoczne ostrzeżenia oraz tworząc szybsze kanały dla urzędników wyborczych i przedstawionych kandydatów. Systemy te potrzebują przejrzystych procedur odwoławczych, aby krytyka polityczna nie była usuwana wyłącznie dlatego, że wykorzystuje edytowane media.
Szersze wyzwanie ma wymiar kulturowy, a nie tylko prawny. W miarę jak treści syntetyczne stają się powszechne, ludzie mogą nie ufać autentycznym nagraniom. Badacze i prawnicy często opisują to jako „dywidendę kłamcy”: możliwość odrzucenia autentycznego dowodu wyłącznie przez twierdzenie, że został wygenerowany lub zmanipulowany.
Zasady ujawniania rozwiązują tylko jedną stronę tego problemu. Rejestry pochodzenia, wiarygodne relacjonowanie, odpowiedzialność kampanii i sceptycyzm opinii publicznej muszą współdziałać.
Karolina Południowa nie musi zakazywać produktywnego wykorzystania generatywnej AI, aby chronić wyborców. Może odróżniać zwykłe wsparcie od zwodniczego podszywania się i zapewnić ludziom istotny kontekst, zanim media syntetyczne wpłyną na ich rozumienie sytuacji.
Kolejny krok legislacyjny stanu pokaże, czy ujawnianie informacji stanie się częścią tej odpowiedzi. Do tego czasu każda kampania ma wybór: wykorzystywać AI wyłącznie dlatego, że jest tania, albo korzystać z niej wraz z rejestrami i oznaczeniami, które wyborcy mogą ocenić.
Ten wybór ukształtuje zaufanie polityczne, zanim zrobi to jakakolwiek ustawa. Wyborcy, kampanie i ustawodawcy powinni zadawać to samo pytanie oparte na faktach za każdym razem, gdy pojawiają się media syntetyczne: czy ten przekaz jasno wskazuje swoje pochodzenie i modyfikacje, czy też opiera się na tym, że ludzie pomylą wygenerowaną treść z rzeczywistością?
