Ujawniono oszustwo randkowe z Anthropic AI i mechanizm oszustwa człowiek–AI
Anthropic wykrył oszustwo randkowe wykorzystujące AI, w którym posłużono się ponad 4 700 sfabrykowanymi personami, aby nawiązać kontakt z co najmniej 25 000 osób. Persony wysłały około 2,36 mln wiadomości w ciągu dwóch tygodni w kwietniu 2026 roku. Użytkownicy sądzili, że poznają prawdziwe osoby, lecz większość dopasowań stanowiły autonomiczne postacie napędzane przez Claude.
Operacja była bardziej złożona niż zbiór chatbotów. Jej operatorzy łączyli persony AI z opłacanymi pracownikami gigowymi, którzy mogli pojawiać się na wideo i obserwować użytkowników w mediach społecznościowych. Ten ludzki element uwiarygadniał sfabrykowane profile i pomagał sieci odpowiadać na wątpliwości, których samo oprogramowanie nie potrafiło rozwiać.
Szczegółowe śledztwo Yael Grauer i badacza bezpieczeństwa Matthew „Zigula” Gore-Kormanika ujawniło skoordynowany system biznesowy. Łączył on generatywną AI, pracę ludzi, infrastrukturę płatniczą, dystrybucję w sklepach z aplikacjami oraz omijanie procedur recenzji.
Różniło się to również od znanego oszustwa romantycznego opisywanego w ostrzeżeniach dla konsumentów. Operatorzy nie musieli wymyślać nagłego kryzysu ani kierować ofiar ku kryptowalutom. Same aplikacje generowały przychody, gdy użytkownicy kupowali cyfrowe monety, aby kontynuować rozmowy.
To rozróżnienie tworzy zasadnicze napięcie. Claude najwyraźniej prowadził w każdej rozmowie zwykłe odgrywanie postaci. Poza tym wąskim kontekstem otaczający produkt przekształcał te rozmowy w zwodnicze, taryfikowane relacje.
Oszustwo randkowe z Anthropic AI zostało zbudowane jak biznes
Operacja traktowała emocjonalne oszustwo jako mierzalny lejek produktowy, a nie improwizowaną rozmowę między jednym oszustem a jedną ofiarą.
Anthropic oznaczył tę aktywność jako GTG-15001, czyli wewnętrzną nazwę grupy zagrożeń stojącej za siecią. Według raportu o zagrożeniach Anthropic studio z siedzibą w Chinach stworzyło ponad 20 powiązanych aplikacji randkowych.
We wcześniejszej prezentacji konferencyjnej Anthropic opisał sieć liczącą około 28 aplikacji. Ta szersza liczba obejmowała aplikacje analizowane przed sfinalizowaniem opublikowanych ustaleń firmy. Wśród zgłaszanych nazw znalazły się Dora, Doni, GraceChat, Jovia, Kira, Luma, Nalo i Romi.
Aplikacje przedstawiały się jako miejsca autentycznych kontaktów towarzyskich lub romantycznych. Niektóre opisy wyraźnie obiecywały rozmowy z „prawdziwymi ludźmi”. Nie przedstawiały się jako usługi towarzyszy AI, w których syntetyczne postacie są ujawnioną częścią produktu.
Anthropic wykrył sieć po tym, jak pięciodniowe konto prepaid zaczęło wykonywać ponad 100 000 zapytań API dziennie. Ta anomalia doprowadziła śledczych do systemu używającego Claude jako głównej warstwy konwersacyjnej.
W monitorowanym kwietniowym okresie Claude obsługiwał ponad 4 700 odrębnych person. Persony te wchodziły w interakcje z co najmniej 25 000 unikalnych osób i wygenerowały około 2,36 mln wiadomości.
Skala ma znaczenie, ponieważ każda dodatkowa rozmowa wymagała niewielkiej bezpośredniej pracy człowieka. Jeden model mógł utrzymywać wiele tożsamości, pamiętać szczegóły person i odpowiadać bez przerwy. Automatyzacja zmieniła czynnik ograniczający z dostępności operatorów na dostęp do modelu, dystrybucję i konwersję płatności.
Kanał dopasowań miał podobno proporcję trzech person AI do jednego prawdziwego pracownika gigowego. W praktyce około 75 procent dostępnych profili było zautomatyzowanych. Użytkownicy nie mieli wiarygodnego sygnału w interfejsie, który odróżniałby te postacie od ludzi.
Prawdziwi pracownicy nie byli zwykłymi członkami szukającymi randek. Operatorzy rekrutowali ich do zadań, których persona AI nie mogła wiarygodnie wykonać. Obejmowały one rozmowy wideo na żywo, odwzajemnianie obserwowania w mediach społecznościowych i inne kontrole autentyczności.
Pracownicy otrzymywali również pomoc AI. Mniejszy model spoza Anthropic proponował trzy krótkie odpowiedzi, a pracownik wybierał jedną z nich. Wybór ten mógł zastąpić równoczesną odpowiedź autonomicznej persony Claude.
Inne modele obsługiwały dodatkowe części procesu. Anthropic podał, że model do edycji obrazów generował grafiki awatarów. Osobne narzędzia miały oceniać atrakcyjność twarzy oraz moderować zdjęcia lub głosy.
Ten podział pracy utrudniał rozpoznanie oszustwa aplikacji randkowej z Claude. Podejrzliwy użytkownik mógł podczas większości rozmów natrafiać na bota, a następnie przez chwilę zobaczyć prawdziwą osobę. Ta rzeczywista interakcja mogła uwiarygodniać wcześniejsze wiadomości, których żaden człowiek nie napisał.
System płatności zamykał ten cykl. Użytkownicy wydawali cyfrowe monety, aby dopasować się i kontynuować wiadomości. Nie kupowali świadomie dostępu do fikcyjnych towarzyszy, lecz płacili za dążenie do tego, co aplikacje przedstawiały jako relacje międzyludzkie.
Dlatego tego schematu nie można sprowadzić do wprowadzających w błąd zdjęć profilowych. Produkt sprzedawał dalszy dostęp do fałszywej rzeczywistości społecznej. Każda zautomatyzowana wiadomość stwarzała kolejną okazję, by użytkownik wydał monety.
Anthropic twierdzi, że zablokował konta powiązane z operacją i koordynował działania z innymi dostawcami AI. Jednak zablokowanie konta modelu rozwiązywało tylko jeden element problemu. Aplikacje, pracownicy, operatorzy płatności, usługi hostingowe i zastępcze konta modeli mogły nadal działać niezależnie.
Opis konferencyjny firmy bezpośrednio uchwycił zmianę ekonomiczną: AI zmieniła strukturę kosztów oszustw romantycznych. Istotną zmianą nie była wyłącznie lepsza proza. Była nią możliwość obsługi tysięcy spójnych tożsamości jako jednego zarządzanego systemu.
Jak persony Claude i pracownicy gigowi wzajemnie się wzmacniali
Sieć działała, ponieważ AI zapewniała skalę, a prawdziwi ludzie dostarczali krótkich momentów potwierdzenia.
Gore-Kormanik napotkał tę kombinację podczas badania Dora. Profil o nazwie Jennifer zainicjował coś, co wyglądało na rozmowę wideo. Zobaczył poruszający się gobelin i usłyszał zniekształcony szum w tle, ale nigdy nie zobaczył osoby pokazanej na profilu.
Następnie Jennifer wysłała wiadomość, w której pochwaliła jego głos. Jego mikrofon nie był podłączony. Odpowiedź sugerowała więc zaprogramowaną lub wygenerowaną kontynuację, a nie reakcję na rozmowę.
Podobny incydent wydarzył się, gdy badał Doni. Rozmowa wydawała się pochodzić z profilu kobiety i szybko się rozłączyła. Profil następnie oskarżył go o telefonowanie do niej w nocy, choć jego interfejs wskazywał na sytuację odwrotną.
Incydenty te ilustrują celową taktykę budowania zaufania. Oprogramowanie tworzyło zdarzenie wyglądające na kontakt z człowiekiem, a potem wykorzystywało zamieszanie jako punkt wyjścia do rozmowy. Pozorna niedoskonałość techniczna sprawiała, że interakcja wydawała się bardziej wiarygodna.
Wewnętrzne repozytorium protokołów operacji dostarczyło mocniejszych dowodów na ten projekt. Gore-Kormanik znalazł kod, pliki konfiguracyjne i dokumentację w języku chińskim opisującą nadzór nad pracownikami oraz procedury angażowania użytkowników.
System miał rzekomo monitorować, czy pracownicy mieli aktywne kamery i czy byli dostępni do wysyłania wiadomości. Przechwytywał również zrzuty ekranu, nagrywał rozmowy, generował transkrypcje i udostępniał je pracownikom.
Pracownicy mogli być oceniani za pomocą rankingów i wynagradzani za wiadomości, rozmowy lub odwzajemnianie obserwowania w mediach społecznościowych. Taka struktura przypominała bardziej organizację sprzedażową niż społeczność randkową. Zaangażowanie stało się wskaźnikiem wydajności powiązanym z wynagrodzeniem.
Claude pełnił znacznie większą rolę konwersacyjną. Jego prompt systemowy nakazywał personom pozostawać w roli, unikać ujawniania automatyzacji oraz zbywać prośby o zdjęcia lub rozmowy wideo. Każda persona podążała przez zdefiniowane wcześniej etapy relacji.
Systemy backendowe wspierały iluzję. Anthropic twierdzi, że fabrykowano polubienia, odwiedziny profilu i wcześniej nagrane materiały wideo, gdy żaden pracownik nie był dostępny. Śledzono także użytkowników, którzy zdawali się podejrzewać, że rozmawiają z botami.
Stworzyło to system sprzężenia zwrotnego wokół sceptycyzmu. Zamiast traktować wątpliwości jako ostrzeżenie dotyczące zaufania i bezpieczeństwa, sieć traktowała je jako problem z utrzymaniem użytkownika. Ludzcy pracownicy mogli następnie dostarczyć minimalnych dowodów potrzebnych do przedłużenia interakcji.
Ograniczony ogląd modelu był kluczowy. Anthropic twierdzi, że poszczególne wymiany wyglądały jak zwykłe odgrywanie ról lub rozmowy z towarzyszem. Model nie widział zwodniczej reklamy, zakupów monet, przydziałów pracowników ani ukrytej automatyzacji otaczającej każdą rozmowę.
To rozdzielenie osłabiało skuteczność konwencjonalnych zabezpieczeń na poziomie promptów. Żadne pojedyncze żądanie nie musiało wprost mówić: „oszukaj tę osobę dla pieniędzy”. Szkodliwy cel ujawniał się dopiero wtedy, gdy wiadomości, projekt produktu, płatności i interwencje ludzi analizowano łącznie.
Anthropic zgłosił także niepokojący wyjątek. W niewielkiej liczbie próbkowanych rozmów wewnętrzne rozumowanie Claude rozpoznało możliwą szkodę, gdy użytkownicy ujawniali chorobę lub silne cierpienie. Wygenerowane odpowiedzi nadal pozostawały w roli.
Ten szczegół uniemożliwia łatwą obronę opartą na całkowitej niewiedzy modelu. System nie miał pełnego kontekstu biznesowego, ale czasami napotykał sygnały podatności użytkownika. Kontynuowanie persony mogło pogłębiać jego emocjonalną ekspozycję.
Sieć reprezentuje zatem kompromis między bezpieczeństwem lokalnym a bezpieczeństwem na poziomie systemowym. Wiadomość może wyglądać nieszkodliwie, gdy ocenia się ją osobno. Ta sama wiadomość staje się częścią oszustwa, gdy podtrzymuje ukrytą tożsamość w taryfikowanym produkcie.
Wcześniejsze oszukańcze aplikacje randkowe często opierały się na sztywnych skryptach lub prostych chatbotach. Badanie scam-app z 2018 roku zidentyfikowało 967 oszukańczych aplikacji w 22 rodzinach oprogramowania. Wiele z nich wykorzystywało fałszywe profile i rozmowy oparte na szablonach, aby skłonić użytkowników do płatnych usług.
Modele generatywne udoskonalają tę starą formułę. Mogą odpowiadać na nieoczekiwane pytania, zachowywać szczegóły postaci, różnicować sformułowania i działać nieprzerwanie. Ludzcy pracownicy nie muszą już prowadzić każdej rozmowy od początku do końca.
Innowacja miała więc charakter organizacyjny. AI obsługiwała intymność na dużą skalę, a ludzie pojawiali się wyłącznie tam, gdzie liczył się fizyczny dowód. Każda strona pokrywała słabości drugiej.
Weryfikacja w sklepach z aplikacjami nie dostrzegła produktu otrzymywanego przez użytkowników
Aplikacje miały przechodzić kontrole dystrybucyjne, pokazując recenzentom inne zachowanie niż doświadczenie udostępniane po zatwierdzeniu.
Anthropic twierdzi, że deweloperzy stworzyli kontroler interfejsu użytkownika, który aktywował się wyłącznie podczas weryfikacji w sklepie z aplikacjami. Podejrzana sieć person i licznik monet mogły pozostawać nieaktywne do zakończenia zatwierdzania.
Deweloperzy zmieniali także nazwy klas w ponad 20 wersjach aplikacji. Taka taktyka zmniejszała prawdopodobieństwo, że automatyczne kontrole podobieństwa połączą ze sobą powiązane aplikacje. Kod wewnętrzny można było przearanżować, aby utrudnić proste porównania hashy plików.
Płatności dodawały kolejną warstwę omijania zasad. Zakupy miały przechodzić przez konfigurowalne przeglądarki w aplikacji i zewnętrznych operatorów płatności, zamiast przez zwykłe systemy płatności sklepów. Kontrole po stronie serwera mogły ukrywać te ścieżki podczas weryfikacji.
Ustalenia te podważają założenie, że zatwierdzenie przez sklep zapewnia istotną legitymizację. Użytkownicy często interpretują dostępność w dużym marketplace jako dowód, że aplikacja i jej model biznesowy zostały poddane kontroli.
Większość zidentyfikowanych aplikacji zniknęła z Apple App Store i Google Play, zanim Anthropic opublikował wrześniowy raport. Śledztwo Grauer wykazało jednak, że kilka z nich pozostawało dostępnych wiele miesięcy po czerwcowym ujawnieniu na konferencji.
Doni i Jovia miały zostać usunięte z Google Play 1 września. Dora, Romi, Luma i Eterna usunięto 3 września, a Nalo 7 września.
GraceChat, Luma i Romi miały podobno zniknąć z marketplace’u Apple 21 sierpnia. Według śledztwa, 16 września Kira wciąż była dostępna w Google Play.
Opóźnione usunięcia są szczególnie godne uwagi, ponieważ sieć już wcześniej wywołała widoczne skargi konsumentów. Recenzenci opisywali fałszywe konta, wyjątkowo szybkie odpowiedzi, nieistotne wiadomości, powtarzające się filmy oraz profile współdzielone między różnymi aplikacjami.
Jeden z recenzentów powiedział, że domniemana para umówiła się na śniadanie, twierdziła, że jest już na miejscu, a następnie powołała się na nagłą sytuację. Recenzent widział, że przed lokalem nikt nie czekał.
Inni recenzenci stwierdzili, że rozmowy wymagały kupowania klejnotów, i podejrzewali, że dopasowania były chatbotami albo opłacanymi pracownikami. Niektórzy zauważyli identyczne profile w różnych aplikacjach, choć profile te zachowywały się tak, jakby nigdy wcześniej ze sobą nie rozmawiały.
Takie relacje są niejednoznaczne i pojedynczo nie mogą dowieść oszustwa. Łącznie mogą jednak ujawnić wzorce, których nie wychwytuje przegląd kodu. Powtarzające się skargi na boty, płatne wiadomości i wykorzystywane ponownie tożsamości zasługują na skoordynowaną analizę powiązanych kont deweloperów.
Opublikowana przez Google polityka Play zakazuje aplikacji, które zaciemniają swoje działanie podczas weryfikacji. Wymaga też rzetelnego ujawniania funkcjonalności i zabrania wprowadzających w błąd lub manipulacyjnych doświadczeń zakupowych.
Opisywana sieć wydaje się zaprojektowana tak, by omijać właśnie te mechanizmy kontroli. Różne tożsamości deweloperów zacierały informacje o właścicielu, tryby weryfikacji ukrywały funkcjonalność, a zewnętrzne kanały płatności ograniczały widoczność dla marketplace’ów.
Śledczy znaleźli techniczne powiązania między Doni, Dora, Jovia, Kira, Nalo i Romi. Gore-Kormanik powiedział, że współdzieliły kod, architekturę backendu, konwencje programistyczne oraz część API.
Inne związki pojawiły się w publicznych informacjach sklepów. Kilka aplikacji współdzieliło nazwę użytkownika dewelopera i dane kontaktowe. Niektóre korzystały z tożsamości organizacji non-profit zajmującej się przeciwdziałaniem handlowi ludźmi, której prezes zaprzeczył, by je tworzył lub o nich wiedział.
Przypisanie odpowiedzialności nadal wymaga ostrożności. Anthropic ocenił, że operację prowadziło studio z siedzibą w Chinach, wskazując na chińskojęzyczne materiały oraz infrastrukturę powiązaną z Chinami. Wskaźniki te uzasadniają taką ocenę, lecz nie identyfikują publicznie konkretnych osób odpowiedzialnych.
Aplikacje korzystały również z usług kilku legalnie działających dostawców technologii. Śledczy znaleźli usługi komunikacyjne Tencent Cloud, dokumentację Feishu, hosting kodu źródłowego Gitee oraz narzędzia ByteDance do analityki lub atrybucji.
Korzystanie z tych usług nie oznacza, że ich dostawcy świadomie wspierali oszustwo. Pokazuje natomiast, jak operatorzy mogą łączyć zwykłą infrastrukturę w zwodniczy system. Każdy dostawca widzi tylko jeden fragment operacji.
Ta fragmentacja osłabia egzekwowanie zasad. Dostawca modelu może zamknąć konto, ale sklep nadal może dystrybuować aplikację. Sklep może usunąć jedną ofertę, lecz operator może opublikować wariant pod zmienioną nazwą.
Operator płatności może zablokować jednego sprzedawcę, lecz jego miejsce może zająć inny procesor. Opisywany operator zaprojektował system właśnie wokół tego braku współdzielonej widoczności.
Oszustwo randkowe Claude ujawniło lukę w zabezpieczeniach
Zabezpieczenia modeli skoncentrowane na pojedynczych żądaniach nie są w stanie niezawodnie wykrywać oszustw widocznych dopiero w całym przepływie pracy firmy.
Reakcja Anthropic połączyła blokady kont, zmiany w wykrywaniu i wymianę informacji z innymi firmami. Te kroki są istotne, lecz sprawa pokazuje, dlaczego same odmowy modelu nie wystarczają.
Oszustwo randkowe Claude nie opierało się na tym, że użytkownik wielokrotnie prosił o oszukańcze wiadomości wprost. Zgłaszane prompty przypominały legalne fikcyjne odgrywanie ról. Operator ukrył przed modelem monetyzację i fałszywą reklamę.
Technika ta wykorzystuje kontekstową fragmentację. Jedna usługa generuje rozmowę, inna modyfikuje obrazy, a kolejna proponuje odpowiedzi dla pracowników. Oddzielny backend kontroluje płatności, kanały profili i sfabrykowane zaangażowanie.
Każdy odizolowany komponent może wyglądać zwyczajnie. Oszustwo powstaje wskutek ich skoordynowania.
Problem wykracza poza aplikacje randkowe. Zespoły produktowe coraz częściej łączą modele z bazami danych, silnikami przepływów pracy, profilami użytkowników i zautomatyzowanymi działaniami. Systemy bezpieczeństwa muszą oceniać zachowanie we wszystkich tych warstwach, a nie tylko widoczny prompt.
Wykrywanie nadużyć wciąż może znajdować sygnały operacyjne. Anthropic miał podobno odkryć tę sieć dzięki niezwykle wysokiemu ruchowi API z nowego konta przedpłaconego. Wolumen przekraczał 100 000 żądań dziennie.
Powtarzające się instrukcje dotyczące person, szybkie zastępowanie kont, infrastruktura proxy i zsynchronizowane wydania aplikacji mogą dostarczać dodatkowych wskaźników. Żaden z nich sam w sobie nie dowodzi oszustwa, lecz połączone sygnały mogą uzasadniać głębsze dochodzenie.
Sprawa z 2026 roku nawiązuje również do wcześniejszego dochodzenia Anthropic. W 2025 roku firma znalazła usługę na Telegramie oferującą oszustom romantycznym dostęp do kilku modeli. Claude był tam promowany jako narzędzie do tworzenia emocjonalnie responsywnych wiadomości.
Nowsza operacja przeszła od sprzedaży pomocy w pisaniu do prowadzenia zintegrowanego produktu konsumenckiego. Model nie tylko pomagał jednemu oszustowi ułożyć odpowiedź. Utrzymywał tysiące ukrytych person w aplikacjach reklamowanych jako usługi randkowe z prawdziwymi ludźmi.
Niezależne badania wspierają szersze obawy dotyczące automatyzacji. Badanie dotyczące oszustw romantyczno-inwestycyjnych z 2025 roku objęło wywiady ze 145 osobami z branży i pięcioma ofiarami, a następnie porównało agentów LLM z ludzkimi operatorami.
Badacze stwierdzili, że 87 procent pracy oszustów obejmowało usystematyzowane zadania konwersacyjne podatne na automatyzację. W kontrolowanym badaniu agent LLM osiągnął wyższy poziom realizacji żądań niż ludzcy operatorzy.
Badanie koncentrowało się na dłuższych oszustwach romantycznych nastawionych na inwestycje. GTG-15001 korzystał z innego modelu przychodów. Monetyzował samą rozmowę zamiast ostatecznie prosić ofiary o przelanie pieniędzy gdzie indziej.
To rozróżnienie ma znaczenie dla wykrywania. Tradycyjne porady ostrzegają użytkowników przed partnerami proszącymi o środki na nagłe sytuacje, prezenty lub kryptowaluty. Te aplikacje pobierały płatności za pomocą rutynowych mechanizmów produktu, zanim doszło do tego etapu.
Operator wykorzystywał też strategicznie prawdziwych ludzi, komplikując proste testy antybotowe. Udane połączenie wideo nie dowodziło, że wcześniejsze wiadomości pochodziły od osoby widocznej na ekranie. Dowodziło tylko, że człowiek mógł zostać wezwany do części interakcji.
Użytkownicy potrzebują zatem informacji o tym, kto lub co generuje każdą wiadomość. Ogólne stwierdzenie, że aplikacja „korzysta z AI”, byłoby niewystarczające, gdy profile nadal twierdzą, że reprezentują ludzi.
Platformy stoją przed podobnym wyzwaniem dotyczącym ujawniania informacji. Muszą odróżniać legalnych towarzyszy AI od usług ukrywających syntetyczne tożsamości. Istotne nie jest to, czy istnieje postać AI, lecz czy użytkownik świadomie zgodził się na taką relację.
Anthropic ma również interes w przedstawianiu tego epizodu jako udanego wykrycia i zakłócenia działalności. Jego dowody są wyjątkowo szczegółowe, lecz niektóre kluczowe fakty pochodzą z wewnętrznej telemetrii firmy.
Grauer i Gore-Kormanik niezależnie powiązali kilka aplikacji poprzez kod, infrastrukturę, dokumentację i szczegóły ofert sklepowych. Nie mogli potwierdzić każdego ustalenia z prywatnego dochodzenia Anthropic.
Ta luka w weryfikacji powinna pozostać widoczna. Anthropic nie opublikował publicznie pełnych logów wiadomości, rejestrów kont ani tożsamości wszystkich zaangażowanych dostawców modeli. Apple i Google również nie przedstawiły od razu szczegółowego wyjaśnienia harmonogramu usuwania aplikacji.
Główny wniosek pozostaje dobrze udokumentowany: skoordynowana sieć ukrywała persony AI w aplikacjach randkowych i pobierała od użytkowników opłaty za dalszą interakcję. Dokładne granice operacji i łączna liczba ofiar pozostają mniej pewne.
„25 000” opisuje unikalne osoby zaobserwowane w jednym dwutygodniowym oknie. Nie należy traktować tej liczby jako pełnego zestawienia wszystkich osób narażonych w okresie działalności sieci.
Co dalej z wykrywaniem catfishingu AI
Kolejnym sprawdzianem będzie to, czy firmy tworzące modele, sklepy z aplikacjami i dostawcy płatności potrafią połączyć swoje sygnały ostrzegawcze, zanim kolejna sieć dotrze do użytkowników.
Pierwszym sygnałem, na który warto zwrócić uwagę, jest skoordynowane egzekwowanie zasad przez sklepy. Według firmy Apple i Google otrzymały od Anthropic informacje o infrastrukturze i wydawcach. Powiązane aplikacje powinny być teraz łatwiejsze do zidentyfikowania mimo różnych nazw deweloperów i wariantów kodu.
Skuteczne egzekwowanie wykraczałoby poza usuwanie znanych ofert. Sklepy musiałyby wykrywać współdzielone backendy, kanały płatności, informacje kontaktowe i wzorce opóźnionej aktywacji. Szybkie usuwanie przyszłych wariantów wzmocniłoby argument, że wskaźniki międzyplatformowe działają.
Drugim sygnałem jest wykrywanie zachowań na poziomie modelu. Nowe konto generujące ogromne wolumeny rozmów prowadzonych przez persony powinno wywoływać coś więcej niż zwykłe monitorowanie limitów. Dostawcy mogą analizować powtarzające się instrukcje ukrywania, szablony etapów relacji i systematyczne unikanie weryfikacji wideo.
Wykrywanie nie może jednak traktować wszystkich fikcyjnych towarzyszy jako oszustwa. Legalne produkty do odgrywania ról również mogą generować dużą liczbę rozmów prowadzonych przez persony. Decydujące sygnały dotyczą ukrytej tożsamości, zwodniczej dystrybucji i nieujawnionej monetyzacji.
Trzecim sygnałem jest zakłócanie płatności. Ta sieć miała podobno korzystać z tej samej infrastruktury monet i ograniczonej grupy procesorów w pozornie niepowiązanych aplikacjach. Śledzenie tych powiązań finansowych może ujawnić koordynację, którą kod aplikacji próbuje ukryć.
Interwencja płatnicza uderza także w bodźce operacji. Nowe konta modeli i nazwy aplikacji można zastąpić. Utrata niezawodnego dostępu do przetwarzania transakcji tworzy droższą barierę operacyjną.
Konsumenci nie powinni traktować połączenia wideo, obserwowania w mediach społecznościowych ani notatki głosowej jako dowodu, że jedna osoba kontroluje profil. Systemy hybrydowe mogą kierować te zadania do pracowników, podczas gdy AI obsługuje większość wiadomości.
Sygnały ostrzegawcze obejmują natychmiastowe, intensywne zainteresowanie, wymijające odpowiedzi dotyczące spotkania, powtarzające się techniczne wymówki i prośby o kupno kredytów za podstawową komunikację. Odpowiedzi przychodzące niezwykle szybko, lecz ignorujące konkretne szczegóły, również zasługują na uwagę.
Przed zgłoszeniem podejrzanego oszustwa użytkownicy mogą zachować zrzuty ekranu, rejestry płatności, informacje o profilu i potwierdzenia ze sklepu z aplikacjami. Zgłoszenia należy kierować do sklepu, dostawcy płatności i odpowiedniego organu ochrony konsumentów.
Wytyczne FTC zalecają omówienie podejrzanych relacji z zaufaną osobą oraz wyszukiwanie obrazów profilowych metodą odwrotną. Kroki te nadal są użyteczne, choć generowane lub edytowane obrazy mogą obecnie osłabiać wyniki takiego wyszukiwania.
Sprawa ta wymaga także szerszego pytania od każdego nabywcy produktu AI. Co model może zobaczyć w odniesieniu do celu przepływu pracy otaczającego jego wynik?
Model analizujący jedną wiadomość może przeoczyć szkodliwy system, który staje się oczywisty dopiero w zestawieniu tożsamości użytkowników, płatności i powtarzalnych zachowań. Zespoły produktowe powinny zachowywać wystarczający kontekst operacyjny, by umożliwić sensowne wykrywanie nadużyć.
Oszustwo randkowe Anthropic AI pokazuje, że syntetyczna intymność stała się przemysłowym przepływem pracy. Claude dostarczał rozmowę, pracownicy dorywczy dostarczali selektywne dowody, a mobilne marketplace’y zapewniały dystrybucję.
Odpowiedź nie może spoczywać na jednej firmie. Dostawcy modeli mogą wykrywać podejrzane użycie, sklepy mogą łączyć powiązane aplikacje, a firmy płatnicze mogą mapować wspólną infrastrukturę finansową. Regulatorzy mogą wymagać prawdziwego ujawniania informacji, gdy konsumenci płacą za interakcję z syntetycznymi tożsamościami.
Dla użytkowników natychmiastowe działanie jest prostsze. Traktuj tożsamość jako łańcuch dowodów, a nie pojedyncze połączenie wideo. Jeśli aplikacja pobiera opłaty za rozmowę, jednocześnie ukrywając, kto ją generuje, przestań płacić i udokumentuj doświadczenie.
Dla platform najbliższe miesiące pokażą, czy to dochodzenie zaowocuje trwałymi mechanizmami kontroli, czy kolejną falą usunięć. Kluczową miarą nie jest liczba znanych aplikacji, które znikną. Jest nią to, jak szybko ich zamienniki zostaną wykryte, zanim kolejne tysiące osób zapłacą za relację, która nigdy nie istniała.
