Wykrywanie reklam przez Meta AI celuje w ukryte linki prowadzące do materiałów naruszających zasady, ale luka zaufania pozostaje

Meta rozszerzyła system wykrywania reklam przez Meta AI po tym, jak śledczy odkryli płatne reklamy ukrywające linki do materiałów przedstawiających seksualne wykorzystywanie dzieci za pozornie zwyczajnymi kreacjami.

Wdrożenie z 7 października ma zlikwidować trudną lukę moderacyjną. Reklama może wyglądać nieszkodliwie, a jednocześnie kierować użytkowników do nielegalnych materiałów, szkodliwych aplikacji lub działalności stanowiącej nadużycie w innych miejscach internetu. Meta twierdzi, że jej nowe systemy analizują te ukryte sygnały, zanim reklamodawcy zdołają zwiększyć skalę kampanii.

Zmiana ma znaczenie, ponieważ wcześniejsze zabezpieczenia nie powstrzymały powtarzających się kampanii na Facebooku, Instagramie, Messengerze, Threads i w szerszej sieci reklamowej Meta. Badacze nadal znajdowali reklamy stanowiące nadużycie, mimo że Meta informowała o wdrożeniu ulepszonego wykrywania. Główny konflikt jest dziś jasny: Meta dodaje kolejne mechanizmy automatyzacji, podczas gdy przeciwnicy nieustannie uczą się je omijać.

Nowy system Meta wykracza poza samą reklamę

Najważniejsza zmiana polega na tym, że proces weryfikacji Meta bada teraz miejsce, do którego prowadzi reklama, a nie tylko to, co znajduje się w jej treści.

Meta opisała pięć dodatków w ogłoszeniu z 7 października. Łącznie obejmują one język, miejsca docelowe, treści historyczne, testy obronne i wielokrotnych sprawców. Firma przedstawia je jako skoordynowaną odpowiedź na to, co określa mianem wrogiego schematu reklamowego.

Pierwszym dodatkiem jest dedykowany duży model językowy służący do wykrywania „signpostingu”. Meta używa tego terminu wobec pozornie niewinnych treści, które w ukryty sposób kierują użytkowników do materiałów przedstawiających seksualne wykorzystywanie dzieci lub powiązanej szkodliwej działalności.

Signposting tworzy problem klasyfikacyjny. Widoczny obraz lub tekst mogą nie naruszać zasad, gdy są oceniane osobno. Ich znaczenie staje się jasne dopiero po uwzględnieniu miejsca docelowego, zachowania reklamodawcy i innych sygnałów kontekstowych.

Właśnie w takim kontekście pomocny może być LLM. Duży model językowy analizuje relacje między słowami, symbolami, instrukcjami i wskazówkami konwersacyjnymi. Może rozpoznawać wzorce, których prostsze filtry słów kluczowych mogłyby nie wychwycić.

Druga zmiana Meta dostarcza jej systemom więcej informacji o miejscu docelowym reklamy. Firma twierdzi, że pozwala jej to blokować strony internetowe naruszające zasady i podejmować działania wobec kont odpowiedzialnych za kierowanie użytkowników na takie strony.

To istotne rozszerzenie zakresu weryfikacji. Reklama nie jest już traktowana jako odizolowany zasób kreatywny. Strona docelowa oraz ścieżka między reklamą a tą stroną stają się częścią decyzji dotyczącej bezpieczeństwa.

Meta wprowadziła również dodatkowe przeszukiwania istniejących treści reklamowych wspierane przez AI. Mają one ujawniać materiały przeoczone przez wcześniejsze systemy. Sygnały wykorzystywane w tych przeszukiwaniach będą rozszerzane, gdy śledczy odkryją nowe wzorce omijania zabezpieczeń.

Czwarte narzędzie działa jak zautomatyzowany atakujący. Meta nazywa je agentem AI do red teamingu, czyli systemem AI sondującym zabezpieczenia pod kątem słabości, zanim przestępcy będą mogli wykorzystać je na dużą skalę.

Agent ma naśladować wrogie taktyki i ujawniać luki w zabezpieczeniach Meta. Zmienia to red teaming z okresowego ćwiczenia w potencjalnie ciągły proces testowania.

Meta twierdzi wreszcie, że wzmocniła wykrywanie recydywy. Systemy te próbują rozpoznawać reklamodawców, którzy wracają z nowymi kontami po usunięciu wcześniejszych kont.

Kompletny pakiet obejmuje różne etapy kampanii stanowiącej nadużycie. Wykrywanie bada reklamę, analiza miejsca docelowego sprawdza ścieżkę wyjścia, przeszukiwania szukają przeoczeń, red teaming poszukuje luk, a mechanizmy przeciw recydywie celują w powracających operatorów.

Nowe zabezpieczenia Meta oznaczają zatem coś więcej niż kolejny klasyfikator obrazów. Mają modelować całą kampanię otaczającą reklamę.

To rozróżnienie jest kluczowe. Konwencjonalny filtr pyta, czy konkretnie przesłany materiał narusza regułę. Nowsze podejście Meta pyta, czy kilka pozornie nieszkodliwych elementów wspólnie tworzy ścieżkę prowadzącą do nadużycia.

Meta nie opublikowała jednak wskaźników wykrywalności, odsetków wyników fałszywie pozytywnych ani niezależnych rezultatów testów tych narzędzi. Firma opisała komponenty, lecz osoby z zewnątrz nie mogą jeszcze zmierzyć ich skuteczności.

Dlaczego wykrywanie reklam przez Meta AI śledzi teraz miejsce docelowe

Wykrywanie reklam przez Meta AI przenosi się dalej w dół ścieżki, ponieważ źli aktorzy mogą ukrywać intencje poza treścią, którą Meta początkowo weryfikuje.

Pozornie zwyczajna reklama może pełnić funkcję pierwszego kroku na dłuższej ścieżce konwersji. Kreacja uzyskuje dostęp do odbiorców Meta, podczas gdy zewnętrzna strona lub aplikacja dostarcza szkodliwy materiał.

To rozdzielenie pomaga reklamodawcy omijać proste reguły moderacji. Reklama pokazywana systemom Meta może różnić się od tego, z czym użytkownik ostatecznie się zetknie. Przekierowania mogą także zmieniać się zależnie od lokalizacji, urządzenia, historii konta lub czasu.

Technika przypomina maskowanie, które wyświetla różne treści recenzentom i docelowym odbiorcom. Meta już wykorzystuje AI do badania maskowania w reklamach oszustw. Kampanie związane z wykorzystywaniem dzieci tworzą bardziej pilną wersję tego samego problemu technicznego.

System uwzględniający miejsce docelowe może śledzić przekierowania, klasyfikować strony docelowe i porównywać je z obietnicą zawartą w reklamie. Może również szukać powtarzających się domen, identyfikatorów aplikacji, powiązań płatniczych lub klastrów kont.

Analiza miejsca docelowego ma jednak ograniczenia. Operatorzy mogą rotować domeny, opóźniać szkodliwe zachowania lub umieszczać pozornie zgodną z zasadami stronę przed ostatecznym miejscem docelowym. Aplikacje mobilne mogą też zmieniać swoje działanie po przejściu weryfikacji w sklepie.

Meta twierdzi, że blokuje zewnętrzne strony internetowe hostujące lub tworzące zakazane materiały. Po zablokowaniu linku firma wyszukuje reklamy, posty i komentarze zawierające ten adres.

Firma twierdzi także, że reklamy zawierające zablokowany link powinny być odrzucane podczas przesyłania. Tworzy to użyteczny mechanizm ograniczania skutków po zidentyfikowaniu domeny.

Trudniejszy problem dotyczy nieznanych miejsc docelowych. System musi zdecydować, czy nieznany link jest niebezpieczny, zanim zetkną się z nim użytkownicy. Wymaga to wnioskowania kontekstowego, analizy zachowania albo obu tych elementów.

Dedykowany model Meta wydaje się zaprojektowany z myślą o tej luce. Może badać sygnały signpostingu, które samodzielnie nie kwalifikują się jako zakazana treść. Analiza miejsca docelowego może następnie sprawdzić, czy sygnały te odpowiadają szkodliwej ścieżce.

Meta korzysta z PhotoDNA i powiązanej technologii dopasowywania w swoich aplikacjach od 2011 roku. Dopasowywanie skrótów porównuje przesyłane multimedia z cyfrowymi odciskami palca znanych materiałów przedstawiających nadużycia.

Podejście to pozostaje wartościowe w przypadku znanych plików i niemal identycznych kopii. Jest mniej bezpośrednio skuteczne, gdy reklama jest wizualnie nieszkodliwa, została niedawno wygenerowana, krótko wyświetla treści stanowiące nadużycie lub kieruje użytkowników gdzie indziej.

Nowe narzędzia uzupełniają więc dopasowywanie skrótów, a nie je zastępują. Koncentrują się na intencji, ścieżkach i skoordynowanym zachowaniu, zamiast dopasowywać wyłącznie znane materiały.

Meta udostępnia również określone sygnały naruszeń za pośrednictwem programu Lantern organizacji Tech Coalition. Uczestniczące firmy mogą wykorzystywać te sygnały do wykrywania kont i zachowań stanowiących nadużycie w różnych usługach.

Współpraca międzyplatformowa ma znaczenie, ponieważ sprawcy rzadko polegają na jednej firmie. Reklama może zaczynać się w Meta, prowadzić do sklepu z aplikacjami, a kończyć na prywatnie prowadzonych stronach internetowych lub w komunikatorach.

Meta przedstawiła to szersze podejście we wcześniejszym opisie działań na rzecz bezpieczeństwa dzieci. Narzędzia z października dodają do tej strategii wyraźniejszą warstwę przeciwdziałania działaniom wrogim.

Ta zmiana wywiera presję także poza Meta. Apple i Google prowadzą sklepy z aplikacjami, które hostowały niektóre produkty promowane w badanych reklamach. Dostawcy domen, usługi płatnicze i inne platformy również mogą pojawiać się w łańcuchu dystrybucji.

Żaden pojedynczy system moderacji nie może kontrolować całego tego łańcucha. Meta może odmówić reklamodawcom dostępu do swoich odbiorców, lecz usunięcie podstawowej usługi wymaga działania innych pośredników.

To sprawia, że analiza miejsca docelowego jest jednocześnie konieczna i niepełna. Może ograniczyć rolę Meta jako kanału pozyskiwania użytkowników, lecz nie może wyeliminować szkodliwych produktów z szerszego internetu.

Wdrożenie następuje po setkach zgłoszonych niepowodzeń

Ogłoszenie Meta jest odpowiedzią na udokumentowane błędy moderacji, a nie środkiem ostrożności wprowadzonym przed ujawnieniem problemu.

Tech Transparency Project, czyli TTP, badał reklamy pojawiające się w usługach Meta. Jego badacze poinformowali o znalezieniu ponad 350 filmowych reklam stanowiących nadużycie od końca 2025 roku.

Ponad 250 dodatkowych reklam miało zostać wyemitowanych po tym, jak pierwsza grupa przyciągnęła uwagę opinii publicznej w sierpniu 2026 roku. Niektóre powtarzały materiał, który Meta już wcześniej usunęła.

Reklamy pojawiały się na Facebooku, Instagramie, Messengerze, Threads oraz w sieci reklamowej Meta. Badacze stwierdzili, że wiele z nich promowało aplikacje AI do tworzenia obrazów lub wideo, zdolne do generowania intymnych materiałów bez zgody osób przedstawionych.

Niektóre reklamy miały rzekomo zaczynać się od zwyczajnych fotografii nieletnich. Krótkie filmy następnie przekształcały te obrazy w drastyczne sceny seksualne.

Badacze zidentyfikowali rzeczywiste źródła zdjęć przedstawiających czworo nieletnich. Obejmowały one publiczne fotografie z mediów społecznościowych, zdjęcia stockowe i oficjalne zdjęcie członka europejskiej rodziny królewskiej.

To rozróżnienie jest istotne. Syntetyczny rezultat nie oznacza, że szkoda jest oderwana od prawdziwych osób. Systemy generatywne mogą przekształcić zwyczajne zdjęcie prawdziwego dziecka w materiały o charakterze przestępczym.

Według wrześniowego dochodzenia reklamy dotarły do ponad 29 000 kont w Unii Europejskiej. Dotarły też do około 7 000 kont w Wielkiej Brytanii.

Dostępne dane reklamowe nie zapewniały porównywalnych sum wyświetleń dla każdego rynku. Badacze zidentyfikowali ponad 250 reklam pojawiających się w Stanach Zjednoczonych, 120 w Australii i 80 w Indiach.

Meta oświadczyła, że większość reklam uzyskała mniej niż 200 wyświetleń. Dodała też, że uzyskała mniej niż 5 000 USD od grupy wskazanej przez badaczy.

Liczby te nie rozstrzygają podstawowej kwestii bezpieczeństwa. Problem polega na tym, czy płatna dystrybucja zapewniła szkodliwym treściom drogę przez system, który sprawdza reklamy przed publikacją.

Standardy reklamowe Meta zakazują seksualnego wykorzystywania dzieci, przemocy wobec dzieci i nagości z ich udziałem. Firma zakazuje także usług zaprojektowanych do tworzenia intymnych materiałów bez zgody osób przedstawionych.

Płatna reklama, która przechodzi weryfikację, tworzy poważniejszy problem odpowiedzialności niż zwykły post, który wymknął się moderacji. Reklama jest kontrolowanym produktem komercyjnym, a Meta przyjmuje pieniądze za jej dystrybucję.

Badacze TTP powiedzieli, że niektóre zgłoszone reklamy pozostawały widoczne nawet przez tydzień. W tym czasie zdobywały kolejne wyświetlenia.

Meta zakwestionowała wszelkie sugestie, że toleruje takie materiały. Rzecznik firmy powiedział, że Meta aktywnie walczy z wykorzystywaniem dzieci i wcześniej usunęła już wiele zidentyfikowanych reklam.

Firma stwierdziła także, że niektóre filmy były trudne do sklasyfikowania, ponieważ obrazy nieletnich pojawiały się jedynie na chwilę albo były rozmyte. To wyjaśnienie ujawnia słabość, którą przeciwnicy mogą celowo wykorzystywać.

We wrześniu prokurator miejski San Francisco David Chiu wysłał do Meta pismo wzywające do zaprzestania naruszeń. Urząd zażądał informacji o błędach weryfikacji, powracających reklamodawcach, procedurach eskalacji oraz zgłoszeniach do organów odpowiedzialnych za bezpieczeństwo dzieci.

Wyzwanie ze strony miasta koncentrowało się na rozbieżności między zasadami Meta a powtarzającym się emitowaniem zakazanych reklam. Meta zakwestionowała, czy urząd ma jurysdykcję, ponieważ dostępne dane nie wykazały, aby reklamy te dotarły do San Francisco.

Inne organy również zaczęły badać tę sprawę. Urzędnicy w Michigan i na Florydzie wskazali, że analizują zgłoszone reklamy, podczas gdy australijski regulator eSafety zażądał informacji od Meta.

Indie stały się kolejnym istotnym punktem nacisku. Krajowy organ ds. praw dziecka wezwał we wrześniu przedstawicieli Meta India w związku z zarzutami dotyczącymi materiałów przedstawiających wykorzystywanie dzieci na platformach firmy.

Meta twierdzi, że w pierwszej połowie 2026 r. podjęła działania wobec 5,3 mln materiałów dotyczących seksualnego wykorzystywania dzieci na Facebooku i Instagramie w Indiach. Firma podaje, że ponad 98 procent z nich wykryto proaktywnie.

Liczby te pokazują ogromną skalę egzekwowania zasad. Nie ujawniają jednak, jak skutecznie system reklamowy wyłapuje ukryte linki, recydywistów lub nowo wygenerowane materiały.

To właśnie jest luka zaufania otaczająca wdrożenie. Meta może dokumentować miliony usunięć, podczas gdy badacze nadal mogą odkrywać trwałe błędy na powierzchni podlegającej komercyjnej weryfikacji.

Moderacja AI mierzy się z przeciwnikiem, który stale się zmienia

Główny kompromis dotyczy szybkości i pewności: Meta potrzebuje zautomatyzowanego egzekwowania zasad na dużą skalę, ale każda automatyczna decyzja tworzy nowe możliwości błędów i obchodzenia zabezpieczeń.

Meta analizuje ogromny strumień treści i reklam. Sama weryfikacja przez ludzi nie jest w stanie w czasie rzeczywistym sprawdzić każdej kreacji, przekierowania, strony docelowej, powiązania konta i sygnału behawioralnego.

Automatyzacja jest więc nieunikniona. Modele mogą skanować więcej materiałów, łączyć odległe sygnały i reagować szybciej niż zespół prowadzący ręczne dochodzenia.

Skala nie gwarantuje jednak dokładności. Detektor zoptymalizowany pod kątem agresywnego usuwania może blokować legalne konta. Detektor dostrojony tak, by ograniczać fałszywe alarmy, może przepuszczać więcej szkodliwych materiałów.

Egzekwowanie zasad bezpieczeństwa dzieci zwiększa oba rodzaje kosztów. Fałszywie negatywny wynik może narazić użytkowników na nielegalne materiały i przedłużyć krzywdę ofiar. Fałszywie pozytywny wynik może niesłusznie ukarać reklamodawcę lub użytkownika.

Meta nie ujawniła progów decyzyjnych stojących za jej nowymi modelami. Nie wyjaśniła też, jak często człowiek weryfikuje przypadki o najwyższym ryzyku.

Niezależne dowody pozostają szczególnie ważne, ponieważ Meta kontroluje system weryfikacji, dane o egzekwowaniu zasad i bibliotekę reklam. Badacze mogą obserwować widoczne porażki, lecz nie mogą policzyć każdego skutecznie zablokowanego przypadku.

Agent red-teamingu Meta stanowi interesującą odpowiedź na tę asymetrię. Może generować lub testować warianty szybciej, niż zespół ludzi jest w stanie ręcznie je tworzyć.

Agent mógłby badać zmienione sformułowania, rozmyte obrazy, sekwencje przekierowań i nowe wzorce kont. Następnie mógłby ujawniać kombinacje, które przechodzą przez jedno zabezpieczenie, ale zawodzą przy innym.

Wewnętrzny zespół red team nadal działa jednak w ramach założeń wybranych przez Meta. Może przeoczyć taktyki, których jego projektanci nie przewidzieli, albo wzorce danych nieobecne w środowisku testowym.

Przestępczy operatorzy również otrzymują informacje zwrotne. Jeśli reklama zostanie zaakceptowana, odrzucona lub usunięta, dowiadują się czegoś o mechanizmach kontroli platformy. Mogą następnie zmienić treść i spróbować ponownie.

Wykrywanie recydywy odpowiada na ten cykl, łącząc nowe konta z wcześniej zablokowanymi operatorami. Sygnały mogą obejmować infrastrukturę, relacje płatnicze, zachowania administracyjne lub powtarzające się wzorce kreacji.

Meta nie podała szczegółów dotyczących wykorzystywanych sygnałów. To pominięcie jest zrozumiałe, ponieważ pełne ujawnienie mogłoby pomóc atakującym. Utrudnia jednak niezależną ocenę.

Rosnąca liczba materiałów dotyczących wykorzystywania, generowanych przez AI, zwiększa pilność problemu. NCMEC podaje, że między styczniem 2023 r. a grudniem 2025 r. sklasyfikowało ponad 158 000 przesłanych obrazów i filmów jako wygenerowane przez AI.

NCMEC odnotowało również dramatyczny wzrost liczby zgłoszeń dotyczących generatywnej AI. Jego wytyczne dotyczące generatywnej AI ostrzegają, że syntetyczne obrazy nadal mogą wykorzystywać możliwe do zidentyfikowania dzieci i wspierać inne zachowania o charakterze nadużycia.

Rosnąca liczba zgłoszeń może obciążać zarówno śledczych, jak i platformy. Lepsze wykrywanie prowadzi do większej liczby zgłoszeń, ale muszą one zawierać wystarczająco dużo informacji, aby władze mogły podjąć działania.

Jakość ma znaczenie obok ilości. System, który zasypuje śledczych słabo sklasyfikowanymi materiałami, może zużywać zasoby bez poprawy identyfikacji ofiar.

Meta podaje, że zgłasza pozorne materiały dotyczące wykorzystywania dzieci do NCMEC, gdy wymaga tego prawo. Ogłosiła również bezpośrednie zgłaszanie indyjskich spraw dotyczących bezpieczeństwa dzieci do krajowego National Cyber Crime Reporting Portal.

To połączenie zgłoszeniowe jest ważne, lecz usuwanie i zgłaszanie służą różnym celom. Usunięcie reklamy ogranicza jej dystrybucję. Szczegółowe zgłoszenie może pomóc śledczym zidentyfikować ofiary, reklamodawców lub powiązane sieci.

Wykrywanie reklam przez Meta AI musi zatem wspierać kilka rezultatów. Musi odrzucać szkodliwe reklamy, wyłączać skoordynowane konta, zachowywać użyteczne dowody, blokować miejsca docelowe i kierować wiarygodne zgłoszenia do władz.

Model, który dobrze wykonuje jedno zadanie, może nadal zawodzić jako część szerszego systemu. Zablokowanie pojedynczej kreacji niewiele daje, jeśli ten sam operator natychmiast wraca z innym kontem i domeną.

Kluczowym testem jest trwałość efektu. Meta musi wykazać, że jej systemy ograniczają całe sieci nadużyć, a nie tylko pojedyncze reklamy już zidentyfikowane przez badaczy.

Deklaracje Meta dotyczące bezpieczeństwa stoją teraz przed mierzalnym testem

Nowe mechanizmy będą miały znaczenie tylko wtedy, gdy ograniczą powtarzające się kampanie, zanim odkryją je zewnętrzni śledczy.

Meta przedstawiła wielowarstwową ochronę. Łączy ona analizę treści, inspekcję miejsc docelowych, retrospektywne przeglądy, testy adversarialne, blokowanie linków i wykrywanie recydywistów.

Taka konstrukcja odpowiada strukturze zagrożenia. Szkodliwa reklama rzadko ogranicza się do pojedynczego obrazu. Obejmuje reklamodawcę, zasoby kreatywne, zasady dostarczania, linki, aplikacje, domeny i konta zastępcze.

Firma ma również dostęp do sygnałów niedostępnych dla zewnętrznych badaczy. Może analizować historię kont, instrumenty płatnicze, powiązania administracyjne, informacje o urządzeniach i wcześniejsze działania egzekucyjne.

Ta przewaga powinna pozwolić Meta przejść od reaktywnych usunięć do zakłócania sieci na poziomie całej infrastruktury. Firma podaje, że byli śledczy FBI już prowadzą ręczne dochodzenia dotyczące sieci kont drapieżników.

Obawy dotyczą realizacji. Badacze wielokrotnie identyfikowali reklamy po ogłoszeniu wcześniejszych zabezpieczeń. Niektóre kampanie ponownie wykorzystywały obrazy albo działały dalej za pośrednictwem powiązanych produktów i kont.

Ta historia sprawia, że październikowe wdrożenie jest twierdzeniem możliwym do sprawdzenia. Meta powinna być w stanie wykazać mniej skutecznych publikacji, krótsze okresy ekspozycji i niższy odsetek powrotów wśród usuniętych reklamodawców.

Publiczna przejrzystość zadecyduje o tym, czy osoby z zewnątrz będą mogły ocenić to twierdzenie. Meta publikuje obecnie statystyki egzekwowania zasad, ale szerokie sumy dotyczące treści nie odpowiadają na pytania o błędy w reklamach.

Przydatny raport rozdzielałby reklamy zablokowane przed publikacją od reklam usuniętych po ich wyświetleniu. Pokazywałby również medianę czasu ekspozycji i odsetek reklamodawców, którzy próbowali wrócić.

Egzekwowanie zasad wobec miejsc docelowych zasługuje na osobne raportowanie. Meta mogłaby ujawnić, ile domen lub aplikacji zablokowano, jak często zmieniały się przekierowania i ile powiązanych kont wyłączono.

Firma powinna także rozróżniać dopasowywanie znanych materiałów od wykrywania kontekstowego. Taki podział pokazałby, czy LLM i narzędzia do analizy miejsc docelowych faktycznie wychwytują różne zagrożenia.

Fałszywie pozytywne wyniki również wymagają uwagi. Godny zaufania system potrzebuje procesu odwoławczego dla niesłusznie zablokowanych reklamodawców oraz znaczącej weryfikacji przez ludzi w decyzjach o dużym wpływie.

Meta nie powinna publikować szczegółów technicznych umożliwiających obchodzenie zabezpieczeń. Może jednak nadal udostępniać zbiorcze dane o skuteczności, wyniki niezależnych audytów i jasne definicje każdej kategorii egzekwowania zasad.

Bezpośrednie porozumienie Meta dotyczące zgłoszeń w Indiach oferuje kolejny mierzalny obszar. Władze mogą ocenić, czy zgłoszenia docierają szybciej, zawierają lepsze dowody i prowadzą do większej liczby spraw, w których można podjąć skuteczne działania.

Zewnętrzna kontrola będzie trwała niezależnie od ujawnień Meta. Dziennikarze, badacze społeczeństwa obywatelskiego, regulatorzy i śledczy zajmujący się sklepami z aplikacjami mogą sprawdzać, czy podobne reklamy pozostają dostępne.

Oryginalny raport z października przedstawiał narzędzia jako odpowiedź na reklamy ukrywające szkodliwe miejsca docelowe. Taka perspektywa przenosi ciężar na wyniki, a nie opisy modeli.

Meta nie musi udowadniać, że żadna szkodliwa reklama nigdy nie przejdzie weryfikacji. Żaden system moderacji nie może wiarygodnie zagwarantować doskonałego zapobiegania działaniom adaptujących się przeciwników.

Musi jednak wykazać, że znane taktyki przestają działać w sposób niezawodny. Powtarzające się reklamy wykorzystujące znane treści, powiązane konta lub wcześniej zidentyfikowane miejsca docelowe powinny stawać się coraz rzadsze.

Dopóki takie wyniki się nie pojawią, wdrożenie pozostaje obiecującą architekturą obronną powiązaną z nierozwiązanym bilansem błędów w egzekwowaniu zasad.

Trzy sygnały pokażą, czy narzędzia działają

Kolejne dowody powinny pochodzić z odsetka powrotów recydywistów, niezależnych ustaleń i reakcji regulatorów — w tej kolejności.

Pierwszym sygnałem będzie to, czy wcześniej usunięci reklamodawcy i powiązani operatorzy wracają. Wzmocnione mechanizmy Meta przeciw recydywie powinny ograniczyć powtarzające się kampanie związane ze wspólną infrastrukturą lub zachowaniem.

Widoczny spadek wspierałby twierdzenie Meta, że zakłóca sieci, zamiast usuwać odizolowane reklamy. Dalsze powtarzanie się takich przypadków osłabiłoby argumenty za nowym systemem.

Drugim sygnałem będą ustalenia niezależnych badaczy w kolejnych miesiącach. TTP i inni śledczy mogą sprawdzić, czy zakazane reklamy nadal pojawiają się po październikowym wdrożeniu.

Najbardziej wymowne odkrycia dotyczyłyby znanych taktyk. Należą do nich pozornie nieszkodliwe kreacje, krótkie kadry przedstawiające nadużycia, przekierowania, rotujące domeny i aplikacje powracające pod nową marką.

Niższy wskaźnik odkryć nie dowodziłby całkowitego zapobiegania. Nadal dostarczałby jednak użytecznych dowodów, że powierzchnia ataku się zawęziła.

Badacze powinni dokumentować, kiedy każda reklama pojawiła się po raz pierwszy, kiedy została zgłoszona i kiedy Meta ją usunęła. Taka oś czasu może odróżnić proaktywne egzekwowanie zasad od reaktywnego sprzątania.

Trzecim sygnałem będzie reakcja regulatorów. San Francisco zażądało wyjaśnień dotyczących systemów Meta, podczas gdy władze w innych jurysdykcjach rozpoczęły własne przeglądy.

Regulatorzy mogą zażądać audytów, szczegółowego raportowania, zachowania dokumentacji reklamodawców lub zmian w weryfikacji przez ludzi. Mogą także zbadać rolę sklepów z aplikacjami i innych pośredników.

Ustalenie regulatora, że Meta wielokrotnie ignorowała znane wzorce, podważyłoby jej narrację dotyczącą bezpieczeństwa. Dowody szybszego działania i lepszego raportowania ją wzmocniłyby.

Czytelnicy powinni również obserwować własne ujawnienia Meta dotyczące przejrzystości. Szerokie sumy usunięć będą mniej informacyjne niż wskaźniki specyficzne dla reklam, powiązane z ekspozycją, powtarzającymi się zachowaniami i proaktywnym wykrywaniem.

Wykrywanie reklam przez Meta AI ma teraz jasno określony cel techniczny: identyfikować szkodliwą ścieżkę nawet wtedy, gdy pierwszy krok wygląda normalnie. Trudniejszym zadaniem jest udowodnienie, że działa, zanim użytkownicy lub badacze napotkają błąd.

Ten dowód będzie wymagał danych wykraczających poza komunikat firmy. Obserwuj, czy powtarzający się reklamodawcy znikają, czy niezależne dochodzenia odkrywają mniej kampanii nadużyć oraz czy regulatorzy dostrzegają mierzalną poprawę.

Dla każdego, kto ocenia moderację AI, pytanie nie brzmi już, czy modele potrafią skanować reklamy. Chodzi o to, czy platforma potrafi wystarczająco szybko połączyć słabe sygnały, aby zatrzymać adaptującą się sieć. Śledź kolejne niezależne audyty i ujawnienia dotyczące egzekwowania zasad, a następnie porównaj je z twierdzeniami Meta.