Zasady Meta dotyczące deepfake’ów AI zawiodły w dwóch sprawach o nękanie, twierdzi Rada Nadzorcza

Zasady Meta dotyczące deepfake’ów AI zawiodły w dwóch sprawach na Facebooku dotyczących kobiet będących celem syntetycznych nagrań wideo — wynika z decyzji opublikowanych 17 września. Rada Nadzorcza uchyliła decyzje Meta o pozostawieniu obu postów w sieci i określiła zabezpieczenia firmy jako „konsekwentnie i fundamentalnie niewystarczające”.

Jedno nagranie podszywało się pod szkocką radną Partii Pracy i fałszywie przypisywało jej podburzające komentarze o uchodźcach. Drugie przekształciło wywiad z młodą muzułmańską działaczką na rzecz zdrowia w sfabrykowane przedstawienie mające ośmieszyć jej wygląd i pracę.

Sprawy te ujawniają szerszy konflikt między preferencją Meta dla zachowania spornej wypowiedzi a realiami syntetycznego nękania. Etykiety, formularze zgłoszeń i automatyczna selekcja zapewniają ograniczoną ochronę, gdy realistyczne fałszerstwo nigdy nie trafia do oceny człowieka.

To jest główny problem. Meta ma zasady dotyczące mowy nienawiści, nękania, dezinformacji i zmanipulowanych mediów. Mimo to oba posty przeszły przez luki między tymi politykami, nawet po zgłoszeniu ich przez użytkowników.

Rada chce, aby Meta traktowała podejrzenie manipulacji AI jako powód do szybszej kontroli. Jej zalecenia obejmują priorytetowe kierowanie zgłoszonych syntetycznych treści do weryfikacji przez ludzi oraz rozszerzenie ochrony przed niechcianymi zmanipulowanymi wizerunkami.

Zasady Meta dotyczące deepfake’ów AI nie uwzględniły dwóch różnych form szkody

Orzeczenia pokazują, że problem Meta nie polega na jednej wadliwej polityce. Jest nim niezdolność kilku polityk do współdziałania, gdy AI staje się narzędziem nękania.

Sprawa polityczna dotyczyła albumu na Facebooku opublikowanego w listopadzie 2025 roku. Zawierał on realistyczne syntetyczne nagranie wideo przedstawiające szkocką radną Partii Pracy wypowiadającą się o uchodźcach i przemocy seksualnej.

Radna miała mówić, że uchodźcy są nadal mile widziani, nawet jeśli gwałcą kobiety, ponieważ biali ludzie popełniają tę samą zbrodnię. Nigdy nie wypowiedziała takiego stwierdzenia.

Album zawierał również drugie zmanipulowane nagranie wideo oraz prawdziwe zdjęcie identyfikujące kilka kobiet uczestniczących w proteście przeciw skrajnej prawicy. W podpisie znalazło się niepoparte dowodami oskarżenie, że radna uchylała się od podatków.

Użytkownik nie ujawnił użycia AI. Facebook nie dodał informacyjnej etykiety wyjaśniającej, że nagranie prawdopodobnie zostało stworzone lub zmienione.

Dwóch użytkowników zgłosiło post na podstawie zasad Meta dotyczących znęcania się i nękania. Żadne zgłoszenie nie otrzymało priorytetowej weryfikacji przez człowieka, podobnie stało się po odwołaniach użytkowników.

Gdy Rada opisała sprawę, post miał mniej niż 50 reakcji i komentarzy oraz mniej niż 50 udostępnień. Ograniczone zaangażowanie stało się częścią uzasadnienia Meta dla pozostawienia go bez zmian.

Meta początkowo uznała, że post nie narusza jej standardów. Firma potraktowała radną jako dorosłą osobę publiczną, co wykluczało ją z jednej ochrony obejmującej niechciane zmanipulowane wizerunki.

Firma potraktowała też nagranie jako satyrę. Według wcześniejszego opisu sprawy Rady, Meta uznała, że jest mało prawdopodobne, by materiał istotnie wprowadzał opinię publiczną w błąd w ważnej sprawie.

Meta nie zastosowała etykiety AI wysokiego ryzyka. Firma stwierdziła, że treść nie dotyczyła wyborów ani kryzysu i przyciągnęła niewielkie zaangażowanie.

Rada doszła do innego wniosku. Ustaliła, że post powinien zostać usunięty na podstawie zasad Meta dotyczących mowy nienawiści.

Większość uznała, że fałszerstwo przypisywało uchodźcom jako grupie zachowania przestępcze i seksualnie drapieżne. To rozróżnienie miało znaczenie, ponieważ Meta zinterpretowała wypowiedź jako odnoszącą się jedynie do części uchodźców.

Rada stwierdziła również, że nagranie wymagało etykiety AI wysokiego ryzyka. Taka etykieta informuje, że realistyczna treść została cyfrowo utworzona lub zmieniona i stwarza podwyższone ryzyko wprowadzenia w błąd.

Druga sprawa dotyczyła młodej muzułmanki, która jako wolontariuszka działała w kampanii poprawiającej edukację zdrowotną kobiet. Jej pierwotny wywiad dotyczył schorzeń wpływających na kobiety i dziewczęta ze społeczności mniejszości etnicznych.

Zmanipulowane nagranie przedstawiało ją natomiast jako osobę twierdzącą, że pełni oficjalną funkcję w ochronie zdrowia, wykonującą absurdalne ćwiczenia, udzielającą porad fitness i jedzącą niezdrowe jedzenie. Nie wypowiedziała tych słów ani nie wykonywała tych czynności.

Fałszerstwo przekształciło jej działalność na rzecz zdrowia w wizualny atak na jej wygląd. Komentarze pod postem wyśmiewały jej wagę i hidżab.

W chwili wyboru sprawy przez Radę konkretny post na Facebooku miał ponad 5 000 wyświetleń, ponad 200 reakcji i ponad 50 komentarzy. Powiązane zmanipulowane nagrania i obrazy miały podobno dotrzeć do znacznie większej publiczności na kilku platformach.

Użytkownik zgłosił post na Facebooku jako przypadek znęcania się i nękania. Zautomatyzowany proces Meta nie nadał priorytetu zgłoszeniu ani późniejszemu odwołaniu w celu weryfikacji przez człowieka.

Post pozostał online bez etykiety AI. Według akt sprawy działaczki Rady Meta początkowo nie stwierdziła wyraźnej wypowiedzi atakującej wygląd kobiety.

Meta stwierdziła też, że jej zasada dotycząca niechcianych zmanipulowanych wizerunków obejmuje zmiany w wyglądzie osoby. Nie obejmowała sfabrykowanych przedstawień tego, co dana osoba mówi lub robi.

To rozróżnienie pozostawiło główną taktykę poza zakresem zasady. Nagranie wykorzystywało autentyczny wizerunek, by wymyślić zachowanie i zachęcić do drwin, zamiast jedynie zmieniać twarz lub ciało osoby będącej celem.

Meta ostatecznie usunęła post za nękanie po tym, jak Rada podjęła sprawę i zadała firmie pytania. Ta korekta dotyczyła jednego nagrania, ale nie naprawiła systemu zgłaszania, który je przeoczył.

Obie decyzje dotyczą zatem różnych form szkody. Jedna łączyła syntetyczne podszywanie się pod kogoś z pełnym nienawiści przekazem wymierzonym w uchodźców. Druga wykorzystywała sfabrykowane zachowanie do podtrzymywania nękania opartego na wyglądzie.

Obie dotarły do tego samego proceduralnego impasu. Zgłoszenia zostały złożone, nastąpiły odwołania, a terminowa weryfikacja przez człowieka nie miała miejsca.

Automatyczna selekcja staje się faktyczną polityką moderacji

Pisemna zasada zapewnia niewielką ochronę, gdy system nigdy nie przekazuje istotnego zgłoszenia osobie mogącej ją zastosować.

Meta moderuje treści na skalę, która czyni automatyzację nieuniknioną. Klasyfikatory oceniają prawdopodobieństwo, że post narusza zasadę, stwarza poważną szkodę lub zasługuje na uwagę człowieka.

To sprawia, że ustalanie priorytetów jest decyzją merytoryczną. Zgłoszenie automatycznie zamknięte nie tylko dłużej czeka na weryfikację. W praktyce platforma zdecydowała, że zgłoszona szkoda nie uzasadnia zbadania sprawy.

Obie nowe sprawy pokazują tę porażkę. Użytkownicy wskazali podejrzewaną manipulację AI i nękanie, jednak sygnały te nie doprowadziły do weryfikacji przez człowieka, zanim odwołanie nie trafiło do Rady Nadzorczej.

Rada prosi więc Meta o priorytetowe traktowanie zgłoszonych treści, gdy dostępne sygnały wskazują na prawdopodobne wygenerowanie przez AI. Zalecenie to dotyczy bramy do egzekwowania zasad, a nie tylko treści polityki.

To istotna zmiana w debacie o zasadach Meta dotyczących deepfake’ów AI. Wcześniejsze argumenty często koncentrowały się na tym, czy sfabrykowane media powinny być usuwane czy oznaczane.

Te sprawy dodają wcześniejsze pytanie: czy Meta rozpozna treść jako syntetyczną i w ogóle rozpatrzy skargę?

Polityczny deepfake pokazuje, dlaczego zaangażowanie nie może być głównym testem ryzyka. Sfabrykowane oświadczenie może zagrozić osobie będącej jego celem lub ją zdyskredytować, zanim stanie się szeroko wirusowe.

Niskie zaangażowanie może być także tymczasowe. Systemy rekomendacji, ponowne publikacje, edytowane kopie i aktywność na innych platformach mogą przenieść syntetyczne media znacznie poza ich pierwotną publiczność.

Sprawa działaczki pokazuje inną słabość. Pojedynczy post może wydawać się niewielki według standardów platformy, a jednocześnie należeć do znacznie większej, wieloplatformowej kampanii nękania.

Recenzent analizujący wyłącznie odizolowany post mógłby dostrzec niezręczną parodię. Osoba znająca kontekst zobaczyłaby zmanipulowane nagranie wywiadu, drwiny z wyglądu i skoordynowaną uwagę skierowaną na prawdziwą osobę.

Automatyzacja ma trudności z takim kontekstem. Musi połączyć syntetyczny występ, komentarze, pierwotny wywiad, rolę osoby będącej celem i szerszą kampanię.

Meta osobno promowała nowsze systemy AI jako sposób na poprawę egzekwowania zasad dotyczących treści i wsparcia użytkowników. W marcu Rada odnotowała twierdzenie Meta, że takie systemy mogłyby działać w 98 procentach języków używanych online.

Rada ostrzegła również, że takie podejście niesie ryzyko. Lepsze pokrycie językowe nie przekłada się automatycznie na lepsze oceny satyry, ukierunkowanego nadużycia, kontekstu politycznego czy zmanipulowanej tożsamości.

Najnowsze sprawy stanowią konkretny test tych twierdzeń. Systemy Meta nie musiały automatycznie rozstrzygać każdego trudnego pytania.

Musiały wykryć wystarczające ryzyko, aby przekazać zgłoszenia wyszkolonym recenzentom. Nawet to bardziej ograniczone zadanie zakończyło się niepowodzeniem.

Nadanie priorytetu podejrzanym mediom syntetycznym nie wymagałoby automatycznego usuwania. Traktowałoby prawdopodobną manipulację AI jako sygnał eskalacji, podobnie jak wirusowość lub wiarygodne groźby.

To rozróżnienie chroni swobodę wypowiedzi. Satyra, parodia i uzasadniona krytyka polityczna mogłyby pozostać online po kontekstowej weryfikacji, podczas gdy realistyczne podszywanie się pod kogoś podlegałoby dokładniejszej kontroli.

Zmniejszyłoby to także znaczenie wyboru przez ofiarę idealnej kategorii zgłoszenia. Nie można oczekiwać, że użytkownicy będą rozumieć, która wewnętrzna zasada reguluje sfabrykowane zachowanie, manipulację wizualną lub zwodnicze nagranie audio.

Proces zgłaszania powinien kierować skargę na podstawie przedstawionych dowodów. Nie powinien uzależniać możliwości uzyskania środka zaradczego od tego, czy osoba w trudnej sytuacji prawidłowo odróżni nękanie od dezinformacji.

Obecna struktura Meta dzieli jeden szkodliwy materiał między kilka polityk. Deepfake może być zwodniczy, pełen nienawiści, nękający, wykorzystujący seksualnie lub oszukańczy, czasem jednocześnie.

System musi oceniać te wymiary łącznie. W przeciwnym razie każda polityka może odrzucić odpowiedzialność, podczas gdy treść pozostaje online.

Dlatego zalecenie Rady wykracza poza dwa skrajne przypadki. Kwestionuje operacyjną logikę decydującą o tym, które skargi otrzymują merytoryczne rozpatrzenie.

Strategia etykietowania Meta nie może udźwignąć całego ciężaru

Etykiety nadal są użyteczne w przypadku spornej lub satyrycznej wypowiedzi, ale nie mogą zastąpić egzekwowania zasad, gdy syntetyczna treść narusza inną regułę.

Meta zmieniła swoje podejście do zmanipulowanych mediów w 2024 roku po wcześniejszej decyzji Rady Nadzorczej dotyczącej zmienionego nagrania wideo prezydenta Joe Bidena. Firma zaczęła dążyć do oznaczania większej liczby syntetycznych treści zamiast usuwania ich wyłącznie dlatego, że zostały zmanipulowane.

Ten kierunek odpowiadał na rzeczywistą kwestię swobody wypowiedzi. Usuwanie każdego edytowanego lub wygenerowanego przez AI obrazu objęłoby parodię, sztukę, komentarz polityczny i nieszkodliwą twórczość.

Zmienione podejście miało obejmować więcej formatów. Dotyczyło nagrań wideo, audio i obrazów wykrywanych za pomocą wskaźników branżowych lub ujawnianych przez osoby przesyłające treści.

Rada początkowo z zadowoleniem przyjęła te zmiany w etykietowaniu. Etykiety mogłyby dostarczać widzom użytecznego kontekstu, a usuwanie byłoby zarezerwowane dla treści naruszających inne standardy.

Nowe orzeczenia nie odrzucają tego modelu. Pokazują, co dzieje się, gdy wspierające go systemy są zbyt wąskie.

Żadne z kwestionowanych nagrań nie otrzymało informacyjnej etykiety AI, zanim interweniowała Rada. Jedno nie spełniało kryterium wysokiego ryzyka Meta, natomiast drugie uniknęło zarówno etykietowania, jak i terminowego egzekwowania zasad dotyczących nękania.

Niewielka informacja „AI Info” również odnosi się tylko do części problemu. Informuje odbiorców o pochodzeniu, czyli o tym, skąd treść pochodzi i jak została zmieniona.

Nie odpowiada jednak na pytanie, czy post atakuje konkretną osobę, przypisuje jej nienawistne twierdzenia lub stanowi część długotrwałego nękania.

Zalecenia Rady dotyczące politycznego nagrania wideo idą dalej. Według doniesień obejmują one rozszerzenie sytuacji, w których stosuje się oznaczenia AI wysokiego ryzyka, oraz ograniczanie dystrybucji treści otrzymujących takie oznaczenia.

Rada zaleciła również ekrany ostrzegawcze wymagające dodatkowego działania przed obejrzeniem syntetycznych mediów wysokiego ryzyka. Tego rodzaju utrudnienie może spowolnić przypadkowe udostępnianie bez wprowadzania powszechnego zakazu.

Inna propozycja zakłada zwiększenie kar dla kont, które wielokrotnie rozpowszechniają zwodnicze treści AI. Takie podejście koncentruje się na wzorcach zachowań, zamiast oceniać każdy post w oderwaniu od innych.

Rada chce większej przejrzystości w zakresie tego, kiedy Meta stosuje oznaczenia AI. Bez danych zewnętrzni obserwatorzy nie mogą ustalić, czy oznaczenia pojawiają się konsekwentnie w różnych językach, formatach, regionach lub przy politycznie wrażliwych tematach.

Oznaczenia zależą też od wykrywania. Metadane mogą zniknąć, gdy plik zostanie edytowany, nagrany z ekranu, skompresowany lub przeniesiony między usługami.

Poświadczenia treści, w tym standard C2PA, mogą zachować podpisane informacje o pochodzeniu pliku i historii jego edycji. Pozostają jednak sygnałami, a nie pełnym testem prawdziwości.

Autentyczne nagranie może mieć ważne poświadczenia, a mimo to być przedstawione z fałszywym podpisem. Szkodliwy syntetyczny film może nie mieć poświadczeń, co nie dowodzi, że zawarte w nim twierdzenia są sfabrykowane.

Oznacza to, że technologia pochodzenia musi wspierać moderację uwzględniającą kontekst. Nie może jej zastąpić.

Rada zastosowała już tę zasadę do seksualizowanego podszywania się pod inne osoby. W czerwcowej decyzji dotyczącej deepfake’u z 2026 roku uchyliła decyzję Meta o pozostawieniu wygenerowanego przez AI filmu w sieci.

Sprawa dotyczyła niepublicznej kobiety przedstawionej w seksualizowanej, sfabrykowanej scenie. Zautomatyzowany system Meta wykrył potencjalną szkodę, lecz nie nadał treści priorytetu do weryfikacji.

Rada uznała, że seksualne podszywanie się przy użyciu AI powinno stanowić sygnał braku zgody. Wezwała również Meta do umożliwienia wyznaczonym zaufanym kontom zgłaszania takich nadużyć w imieniu ofiar.

Obecne orzeczenia rozszerzają tę samą logikę poza wyraźnie seksualne materiały. Wygenerowanie przez AI może być dowodem, że dana osoba nie wyraziła zgody na sfabrykowaną wypowiedź lub zachowanie.

Nie oznacza to, że każda nieautoryzowana parodia powinna zostać usunięta. Osoby publiczne nadal mogą być właściwymi obiektami ostrej krytyki, komedii i komentarza politycznego.

Syntetyczne media zmieniają jednak sposób ataku. Mogą sprawić, że rozpoznawalna osoba wygląda tak, jakby wypowiadała właśnie słowa wykorzystane przeciwko niej.

Ten mechanizm zasługuje na uznanie w polityce platformy. Ofiara nie powinna tracić ochrony dlatego, że sprawca sfabrykował jej zachowanie, zamiast przekształcić jej ciało.

Sprawa działaczki bezpośrednio ujawnia to rozróżnienie. Zasada Meta traktowała wizualną modyfikację jako potencjalnie podlegającą działaniu, lecz wykluczała wymyślony występ z wykorzystaniem wizerunku tej samej osoby.

Dla osoby będącej celem i dla odbiorców różnica może być bez znaczenia. Obie techniki tworzą fałszywe dowody dotyczące rzeczywistej osoby.

Strategia oznaczania Meta potrzebuje zatem uzupełniających zasad obejmujących sfabrykowane działania, przypisywanie wypowiedzi i nękanie. W przeciwnym razie informacja o pochodzeniu stanie się odpowiedzią platformy na zachowanie wymagające usunięcia.

Trudne pytanie brzmi: gdzie kończy się satyra, a zaczyna ukierunkowane oszustwo

Meta nie rozwiąże problemu nękania za pomocą deepfake’ów, usuwając każde podszywanie się pod inną osobę, ale ochrona satyry nie wymaga ignorowania przewidywalnej i ukierunkowanej szkody.

Sprawa polityczna przedstawia ostrzejszy konflikt dotyczący wolności wypowiedzi. Dotyczyła urzędnika publicznego, polityki imigracyjnej, działalności protestacyjnej oraz języka, który można było interpretować jako groteskową satyrę polityczną.

Według doniesień jeden członek Rady zgłosił zdanie odrębne wobec analizy przemawiającej za usunięciem, argumentując, że post zasługiwał na silniejszą ochronę jako wypowiedź polityczna. Tego zastrzeżenia nie należy lekceważyć.

Urzędnicy publiczni muszą tolerować intensywną krytykę. Platformy nie powinny dawać politykom szerokiej możliwości usuwania parodii tylko dlatego, że przypisuje im ona przesadzone stanowiska.

Satyra często opiera się na oczywistym fałszywym przedstawieniu. Jej sens może zależeć od tego, czy odbiorcy rozpoznają, że mówca nigdy nie wypowiedziałby sfabrykowanej kwestii.

AI komplikuje tę konwencję, ponieważ forma prezentacji i przekaz mogą wskazywać w różnych kierunkach. Absurdalne stwierdzenie może sugerować parodię, podczas gdy realistyczne wideo i zsynchronizowana mowa sugerują autentyczność.

Kontekst znika także podczas udostępniania. Post rozumiany jako satyra w jednej grupie politycznej może dotrzeć do innej publiczności jako pozorne nagranie.

Rada stwierdziła, że film z radnym wyglądał realistycznie, choć niedoskonała synchronizacja wskazywała na manipulację. Meta mimo to uznała treść za satyryczną i niskiego ryzyka.

Większość uznała, że post robił więcej niż tylko krytykował polityka. Przekazywał twierdzenie łączące uchodźców jako grupę z gwałtem i drapieżnym zachowaniem.

Ta analiza nienawistnego postępowania przeniosła uwagę z podszywającego się pod radnego na inny cel. Fałszerstwo umieściło dyskryminujące założenie w rzekomej wypowiedzi przeciwnika.

Sprawy nie można więc sprowadzić do prawdy kontra fałsz. Dotyczy ona wzajemnego oddziaływania zwodniczej formy, krytyki politycznej i wrogości wobec grup.

Sprawa działaczki zawiera mniej niejednoznaczności. Nie była ona urzędniczką publiczną, a film czerpał siłę z prawdziwego wywiadu na temat zdrowia kobiet.

Sfabrykowane sceny zamieniły ten występ w materiał do ośmieszania. Komentarze na temat jej wagi i hidżabu wyraźniej wskazywały zamierzony kierunek kpin.

Początkowa analiza Meta szukała wyraźnego stwierdzenia, że jest ona gorsza z powodu swojego wyglądu. Rada uznała film i jego otaczający kontekst za wystarczające do stwierdzenia nękania.

Ta rozbieżność ujawnia powracający problem moderacji. Nękanie często działa poprzez insynuacje, montaż, powtarzalność i udział odbiorców, a nie poprzez jedno zakazane zdanie.

Generatywne wideo ułatwia pakowanie takich taktyk. Atakujący może zaprojektować występ, który zachęca do nadużyć, unikając jednocześnie bezpośrednich tekstowych obelg.

Kobiety uczestniczące w debacie publicznej są szczególnie narażone. Współprzewodnicząca Rady Pamela San Martin powiedziała, że deepfake’i są coraz częściej wykorzystywane do nękania i uciszania kobiet — od polityczek po osoby prywatne.

Ten wzorzec ma znaczenie, ponieważ szkoda wykracza poza korektę reputacji. Osoba będąca celem może ograniczyć udział w życiu publicznym, gdy każdy wywiad lub fotografia mogą stać się surowcem do sfabrykowanego zachowania.

Platformy muszą jednak unikać założenia, że wszystkie obraźliwe syntetyczne media uciszają ich cel. Niektóre posty są prymitywnymi żartami, krytyką lub chronionym komentarzem bez wystarczających podstaw do usunięcia.

Działający system wymaga stopniowanych reakcji. Mogą one obejmować oznaczenie AI, ograniczone rekomendacje, ekran ostrzegawczy, weryfikację przez człowieka, kary dla konta lub usunięcie na podstawie innej polityki.

Reakcja powinna odpowiadać możliwej do zidentyfikowania szkodzie. Realistyczne oszustwo dotyczące sprawy publicznej wymaga innego traktowania niż oczywista karykatura udostępniona w jednoznacznie komediowym kontekście.

Znaczenie ma również wielokrotne publikowanie. Jedna niejednoznaczna parodia może wyglądać inaczej, gdy to samo konto rozpowszechnia liczne syntetyczne ataki na wskazaną z imienia osobę.

Zachowanie odbiorców dostarcza kolejnego sygnału. Komentarze, podpisy i język używany przy ponownym udostępnianiu mogą pokazać, czy użytkownicy rozumieją satyrę, czy traktują sfabrykowaną wypowiedź jako autentyczną.

Żaden z tych sygnałów nie zapewnia idealnej decyzji. Moderacja w skali Meta będzie prowadzić do błędów, a zwiększona weryfikacja może przeciążyć systemy lub tłumić legalną wypowiedź.

To najsilniejszy argument przeciw prostemu eskalowaniu każdego podejrzanego posta AI. Atakujący mogliby także fałszywie zgłaszać krytykę jako syntetyczną, aby wywoływać opóźnienia lub ograniczenie dystrybucji.

Meta będzie potrzebować zabezpieczeń przed takim nadużyciem. Nadanie priorytetu powinno oznaczać szybką, uwzględniającą kontekst weryfikację, a nie automatyczne założenie, że zgłoszona treść narusza politykę.

Żądanie Rady nadal jest rozsądne, ponieważ obecna równowaga zawiodła na wcześniejszym etapie. Żadne z pierwotnych zgłoszeń nie dotarło do oceny człowieka niezbędnej do rozważenia satyry, kontekstu lub szkody.

Firma nie może bronić zniuansowanych zasad za pomocą procesu, który uniemożliwia uwzględnienie niuansów w decyzji.

Meta ma teraz trzy testy do zaliczenia

Kolejny etap pokaże, czy Meta potraktuje te orzeczenia jako odosobnione korekty, czy przeprojektuje systemy, które wielokrotnie zawiodły.

Pierwszym sygnałem będzie formalna odpowiedź Meta. Firma ma 60 dni na odniesienie się do zaleceń Rady, choć rekomendacje dotyczące polityki nie są wiążące.

Same decyzje w sprawach mają większą moc. Oversight Board może wymagać od Meta odwrócenia decyzji dotyczącej treści w przypadku rozpatrywanego posta, z zastrzeżeniem określonych wyjątków bezpieczeństwa.

Szczegółowa odpowiedź powinna wyjaśnić, czy Meta będzie nadawać priorytet zgłoszonym treściom wykazującym wiarygodne sygnały AI. Powinna też wskazać, które sygnały uruchomią weryfikację.

Sygnały te mogą obejmować ujawnienie przez użytkownika, osadzone poświadczenia, artefakty audiowizualne, pasujące syntetyczne kopie, zachowanie konta, podpisy oraz zgłoszenia od zaufanych organizacji.

Meta musi też wyjaśnić, jak zapobiegnie złośliwym zgłoszeniom. Kanał priorytetowy bez zabezpieczeń mógłby stać się narzędziem tłumienia satyry politycznej lub niewygodnych dowodów.

Drugim sygnałem jest szersza definicja niechcianych zmanipulowanych wizerunków. Obecne rozróżnienie między zmienionym wyglądem a sfabrykowanym zachowaniem trudno obronić po orzeczeniu w sprawie działaczki.

Zmieniona definicja powinna obejmować realistyczne przedstawienia osób prywatnych mówiących lub robiących rzeczy, których nigdy nie powiedziały ani nie zrobiły. Nie powinna zależeć wyłącznie od zgłoszenia złożonego przez osobę będącą celem.

Ofiary mogą nie korzystać z Facebooka, mogły zamknąć swoje konta albo nie być w stanie monitorować kopii rozpowszechnianych w grupach i na stronach.

Zaufani przedstawiciele potrzebują ścieżki zgłaszania w ich imieniu. Meta powinna też pozwolić recenzentom korzystać z kontekstowych dowodów braku zgody.

Orzeczenie dotyczące seksualizowanego deepfake’u ustanowiło użyteczny precedens. Samo podszywanie się przy użyciu AI może pomóc ustalić, że intymna treść była rozpowszechniana bez zgody.

Nękanie o charakterze nieseksualnym wymaga ostrożniejszego testu, lecz podstawowa zasada nadal obowiązuje. Fałszerstwo jest istotnym dowodem, gdy czyjś wizerunek staje się nośnikiem nadużyć.

Trzecim sygnałem jest kontrola dystrybucji. Usunięcie jednego posta po miesiącach odwołań nie rozwiązuje problemu duplikatów, systemów rekomendacji ani kont, które wielokrotnie publikują zwodnicze media.

Według doniesień Rada zaproponowała obniżanie widoczności treści AI wysokiego ryzyka i umieszczanie przed nimi ekranów ostrzegawczych. Meta powinna ujawnić, czy takie środki są stosowane konsekwentnie na Facebooku i Instagramie.

Powinna również publikować istotne dane. Przydatne wskaźniki obejmowałyby liczbę zastosowanych oznaczeń AI, zgłoszeń eskalowanych, rozpatrzonych odwołań oraz postów o ograniczonej widoczności lub usuniętych.

Tam, gdzie pozwala na to prywatność, wskaźniki te powinny być podzielone według typu treści, języka i regionu. Łączne sumy mogłyby ukryć duże luki na rynkach o mniejszych zasobach.

Meta powinna także raportować szybkość weryfikacji. Prawidłowa decyzja podjęta po kulminacji kampanii nękania zapewnia osobie będącej celem ograniczoną ochronę.

Firma potrzebuje również ram postępowania wobec recydywistów. Konta, które wielokrotnie rozpowszechniają nieoznaczone zwodnicze media, stwarzają inne ryzyko niż użytkownicy udostępniający jedną kwestionowaną parodię.

Surowsze kary mogłyby obejmować ograniczenie rekomendacji, tymczasowe limity publikowania, utratę monetyzacji lub sankcje wobec konta. Meta potrzebowałaby jasnych progów i rzeczywistej możliwości odwołania.

Gdy pojawiły się pierwsze doniesienia, firma nie odpowiedziała publicznie na prośby o komentarz. Jej ostateczna odpowiedź powinna odnieść się do systemowej krytyki Rady, a nie tylko do faktów dotyczących dwóch postów.

Nadzorcza Rada również staje przed testem wiarygodności. Jej rekomendacje mogą wskazywać luki, lecz powtarzające się ustalenia o niewystarczającym wdrożeniu przynoszą coraz mniejsze korzyści.

Rada powinna śledzić, czy Meta wdraża każdą rekomendację i czy zmieniają się wyniki egzekwowania zasad. Sam tekst polityki nie może dowieść, że zgłoszone deepfake’i trafiają do wykwalifikowanych recenzentów.

Badacze i organizacje społeczeństwa obywatelskiego powinni monitorować efekty przenoszenia problemu. Bardziej zdecydowane egzekwowanie zasad przez Facebook może przesunąć syntetyczne nękanie do prywatnych grup, szyfrowanych kanałów lub konkurencyjnych usług.

Nie usprawiedliwia to bezczynności. Oznacza to, że sukces należy mierzyć ograniczeniem zasięgu, szybszą interwencją i lepszymi środkami ochrony dla ofiar, a nie twierdzeniami o całkowitej eliminacji.

Dla użytkowników bezpośrednia lekcja jest niewygodna. Zgłoszenie podejrzanego deepfake’a nie gwarantuje, że obejrzy go człowiek, nawet po odwołaniu.

Osoby będące celem syntetycznych materiałów powinny zachowywać linki, zrzuty ekranu, daty, podpisy i powiązane kopie. Dowody te mogą pomóc wykazać manipulację, kontekst i powtarzające się zachowania.

Dziennikarze i organizacje cytujące kwestionowane nagrania powinni jasno opisywać status ich weryfikacji. Powtarzanie sfabrykowanego zarzutu, nawet w celu jego obalenia, może zwiększyć jego zasięg.

Organizacje, których pracownicy działają publicznie, powinny również ustanowić procedurę eskalacji zanim dojdzie do incydentu. Syntetyczne nękanie rozprzestrzenia się szybciej niż improwizowana reakcja.

Szersza branża technologiczna powinna traktować te orzeczenia jako ostrzeżenie projektowe. Bezpieczeństwo mediów generatywnych nie może kończyć się na filtrach modeli ani widocznych znakach wodnych.

Gdy syntetyczny materiał trafia na platformę, o jego wpływie decydują zgłaszanie, wykrywanie, weryfikacja, dystrybucja i środki naprawcze. Słabość na dowolnym etapie może zniwelować zabezpieczenia stosowane gdzie indziej.

Kolejne działania Meta pokażą, czy jej systemy rozumieją ten łańcuch. Wąska aktualizacja etykiet pozostawiłaby główną przyczynę problemu nietkniętą.

Decydującą zmianą byłby proces zgłaszania, który traktuje wiarygodne sygnały AI jako kontekst wymagający oceny. Proces ten musi chronić mowę polityczną, a zarazem szybko reagować na ukierunkowane nadużycia.

Zasady Meta dotyczące deepfake’ów AI stoją teraz przed praktycznym testem, a nie kolejną debatą koncepcyjną. Czy firma potrafi połączyć swoje polityki, zanim sfabrykowane nagranie stanie się trwałym dowodem przeciwko jego celowi?

Obserwujcie 60-dniową odpowiedź Meta, ewentualne rozszerzenie ochrony przed zmanipulowanymi materiałami oraz pierwsze dane dotyczące przejrzystości zgłoszeń priorytetyzowanych przez AI. Sygnały te pokażą, czy najnowsze orzeczenia zmienią egzekwowanie zasad, czy jedynie udokumentują kolejną porażkę.