Projekt Lily OpenAI ujawnia ludzką kontrolę za pozornie prywatnymi rozmowami z ChatGPT

Projekt Lily OpenAI ma podobno angażować setki wykonawców do przeglądania prawdziwych rozmów z ChatGPT, mimo prywatnej atmosfery tworzonej przez interfejs chatbota do rozmów jeden na jeden. Recenzenci pomagają oceniać odpowiedzi modelu, jednak niektóre rozmowy mają podobno zawierać dane osobowe, których automatyczne filtrowanie nie usunęło.

Istnienie programu opisano szczegółowo w śledztwie z 14 września, opartym na wewnętrznych przewodnikach, rozmowach w miejscu pracy, materiałach do oceniania i rzeczywistych promptach. Według oryginalnego śledztwa recenzenci mogą otrzymywać kompletne rozmowy, a nie tylko pojedyncze pytania pozbawione kontekstu.

Główny konflikt nie dotyczy tego, czy ludzie uczestniczą w rozwoju sztucznej inteligencji. Ludzka informacja zwrotna od lat kształtuje czołowe modele językowe. Istotniejsze pytanie brzmi, czy komunikaty dla konsumentów odpowiednio przygotowują ich na to, że wykonawca może przeczytać wymianę, która sprawia wrażenie poufnej.

Google już informuje, że przeszkoleni usługodawcy przeglądają podzbiór rozmów z Gemini. Anthropic również potwierdził, że wykorzystuje ludzką kontrolę w przypadku kwalifikujących się rozmów, według materiału o Projekcie Lily. Praktyka wydaje się szersza niż działalność jednej firmy, lecz OpenAI mierzy się teraz z bezpośrednimi pytaniami o informowanie użytkowników, minimalizację danych i to, czy jego filtr prywatności zapewnia wystarczającą ochronę.

Co podobno widzą recenzenci Projektu Lily OpenAI

Projekt Lily przekształca wybrane rozmowy konsumentów w ustrukturyzowane zadania oceniające dla ludzkich recenzentów.

Opisywany proces zaczyna się od rzeczywistego promptu w ChatGPT. Wykonawca czyta prośbę użytkownika, podsumowuje jej pozorny cel i ocenia kilka odpowiedzi wygenerowanych przez model. Recenzenci mają podobno otrzymywać cztery proponowane odpowiedzi i oceniać je w skali od jednego do siedmiu.

Proces ten jest bardziej złożony niż wybranie ikony kciuka w górę. Recenzenci muszą wskazać mocne i słabe strony odpowiedzi, wyjaśnić swoje rozumowanie oraz ocenić, czy odpowiedź spełnia preferowane przez OpenAI standardy zachowania.

Instrukcje oceniania mają podobno obejmować zarówno treść, jak i ton. Recenzenci sprawdzają dokładność, trafność, odpowiednie formatowanie i zgodność z prośbą użytkownika. Karzą też nawyki, które mogą sprawiać, że wygenerowany tekst wydaje się mechaniczny lub manipulacyjny.

Do takich nawyków mają podobno należeć niepotrzebne symbole zaznaczenia, przeładowane formatowanie oraz zakończenia zaprojektowane głównie po to, by przedłużać zaangażowanie. Recenzenci mają także otrzymywać instrukcję oznaczania twierdzeń o ludzkim doświadczeniu, takich jak chatbot przedstawiający się jako ktoś z osobistą historią.

Kolejnym celem jest pochlebstwo, czyli skłonność modelu do nadmiernego zgadzania się z użytkownikiem lub wzmacniania jego sposobu przedstawiania sprawy. Pochlebny asystent może brzmieć wspierająco, jednocześnie nie podważając nieracjonalnego, błędnego lub niebezpiecznego założenia.

Ludzka ocena ma tu znaczenie, ponieważ te wady są silnie zależne od kontekstu. Sztywna automatyczna metryka nie zawsze potrafi odróżnić pomocną empatię od nieodpowiedzialnego potwierdzania. Trudno jej też ustalić, kiedy przyjazna odpowiedź staje się nadmiernie przypochlebna lub zwodnicza.

To wyjaśnia, dlaczego twórcy modeli nadal potrzebują ludzi, mimo dużych wydatków na infrastrukturę obliczeniową i automatyczną ocenę. Odpowiedź może być poprawna gramatycznie i wiarygodna pod względem faktów, a mimo to sprawiać wrażenie wymijającej, protekcjonalnej lub niepokojąco zgodnej.

Jednak ten sam kontekst, który pomaga recenzentom ocenić odpowiedź, zwiększa również stawkę dla prywatności. Pojedynczy prompt może ujawniać niewiele. Pełna wymiana może odsłonić relacje, problemy zdrowotne, spory w pracy, kłopoty finansowe lub inne dane umożliwiające identyfikację.

Niektóre zadania recenzentów mają podobno wyświetlać nad rozmową podsumowanie pamięci użytkownika. Pamięć ChatGPT może zachowywać użyteczne szczegóły z wcześniejszych interakcji, dzięki czemu późniejsze odpowiedzi wydają się bardziej spersonalizowane. Takie podsumowanie może również dostarczać dodatkowych wskazówek na temat zawodu, lokalizacji, zainteresowań lub sytuacji danej osoby.

Recenzenci nie otrzymują podobno nazw użytkowników ChatGPT. OpenAI twierdzi także, że rozmowy przechodzą przez system o nazwie Privacy Filter, zanim do nich trafią. Ten automatyczny model ma identyfikować i usuwać dane osobowe.

Usunięcie nazwy konta nie musi jednak sprawiać, że szczegółowa rozmowa staje się anonimowa. Charakterystyczna praca, nietypowa historia medyczna, nazwana społeczność i konkretne wydarzenie rodzinne mogą łącznie umożliwić identyfikację osoby. Każdy fragment z osobna może wydawać się nieszkodliwy.

Opisywany proces ludzkiej kontroli rozmów z ChatGPT opiera się zatem na dwóch niedoskonałych zabezpieczeniach. Pierwszym jest automatyczna redakcja danych. Drugim jest kontrola organizacyjna nad wykonawcami, którzy nadal potrzebują wystarczającego kontekstu, aby przeprowadzać sensowne oceny.

Wtórne omówienie opisuje setki wykonawców uczestniczących w projekcie. Doniesienia łączą tę pracę także z Mercor i Crossing Hurdles, choć OpenAI nie opublikowało pełnego opisu operacyjnego.

Śledztwo nie ustala, ile rozmów łącznie trafia do Projektu Lily, jak są one wybierane ani jak długo recenzenci mogą mieć do nich dostęp. Nie wskazuje również, które konkretne wersje modeli otrzymują wynikającą z tego informację zwrotną.

Te luki mają znaczenie. Stwierdzenie „ludzie czytają rozmowy z ChatGPT” sugeruje powszechną inwigilację, czego dostępne dowody nie potwierdzają. „Zanonimizowane próbki ulepszają modele” może brzmieć uspokajająco, ale pomniejsza opisywaną widoczność całych rozmów i kontekstu pamięci.

Uzasadniony wniosek leży pomiędzy tymi twierdzeniami. Wybrane rozmowy mają podobno trafiać do procesu ludzkiej oceny, a OpenAI stosuje zabezpieczenia prywatności przed ich przeglądem. Zabezpieczenia te nie gwarantują, że każdy wrażliwy szczegół zniknie.

Dlaczego ludzka kontrola ChatGPT stwarza problem zgody

Najpoważniejszym problemem dotyczącym prywatności jest rozdźwięk między formalnymi mechanizmami kontroli danych a oczekiwaniami tworzonymi przez produkt konwersacyjny.

Większość osób rozumie, że publiczne posty mogą zostać przeczytane przez obcych. Chatbot tworzy inną sytuację psychologiczną. Oferuje puste pole tekstowe, natychmiastowe odpowiedzi i brak widocznej ludzkiej publiczności.

Taki interfejs zachęca do ujawniania informacji. Ludzie używają ChatGPT do poprawiania poufnych e-maili, interpretowania języka medycznego, omawiania relacji, debugowania zastrzeżonego kodu i analizowania problemów w pracy. Inni traktują go jako dziennik lub emocjonalne wsparcie.

Użytkownik może więc rozumieć, że dane pomagają ulepszać usługę, nie wyobrażając sobie, że wykonawca może analizować tekst. Trenowanie modeli brzmi jak proces obliczeniowy. Ludzka ocena brzmi jak relacja międzyludzka.

OpenAI ujawnia, że treści konsumenckie mogą pomagać w ulepszaniu jego modeli. Opublikowane wyjaśnienie mówi, że firma przechowuje część danych interakcyjnych, podejmując kroki w celu ograniczenia danych osobowych przed trenowaniem. Rozróżnia także produkty konsumenckie i oferty biznesowe w swojej polityce ulepszania modeli.

Projekt Lily zmienia sposób, w jaki czytelnicy interpretują te informacje. „Ulepszanie naszych modeli” ma podobno obejmować ludzi czytających, podsumowujących, krytykujących i oceniających wybrane rozmowy. Mechanizm ten zasługuje na wyraźniejszą uwagę, ponieważ wpływa na znaczenie świadomej zgody.

OpenAI przekazało publikacji prowadzącej śledztwo, że wrażliwe szczegóły mogą przejść przez jego filtr. Zautomatyzowane systemy redagowania danych mierzą się z trudnymi problemami językowymi, zwłaszcza gdy informacje identyfikujące pojawiają się pośrednio.

Filtr może łatwiej rozpoznać adres e-mail niż rzadki zawód połączony z małym miastem. Może usunąć standardowy numer telefonu, nie wykrywając identyfikatora zapisanego w nietypowym formacie. Niejednoznaczne odniesienia są jeszcze trudniejsze.

Kontekst tworzy również podstawowy kompromis techniczny. Silniejsza redakcja chroni prywatność, ale może uszkodzić materiał potrzebny recenzentom. Słabsza redakcja zachowuje wartość oceny, ale zwiększa ryzyko ujawnienia informacji.

Załóżmy, że użytkownik prosi ChatGPT o przygotowanie odpowiedzi dla menedżera po sporze w pracy. Usunięcie nazw może zachować podstawowy charakter zadania. Usunięcie branży, stanowiska, zarzutu i wcześniejszych wymian może uniemożliwić właściwą ocenę odpowiedzi.

To samo napięcie dotyczy rozmów o zdrowiu i relacjach. Recenzenci potrzebują kontekstu, aby ocenić, czy odpowiedź jest odpowiednio ostrożna, czy niebezpiecznie potwierdzająca. Kontekst ten może zawierać najbardziej wrażliwe części wymiany.

Pamięć nasila problem, ponieważ informacje mogą gromadzić się między sesjami. Pojedynczy szczegół może nie identyfikować osoby, podczas gdy ustrukturyzowane podsumowanie powtarzających się szczegółów zawęża możliwości.

Dlatego prywatność nie może zależeć wyłącznie od konwencjonalnych danych umożliwiających identyfikację osoby. Skuteczna deidentyfikacja musi uwzględniać kombinacje danych, wnioskowanie i możliwość powiązania. Rozmowa bez nazw może nadal być głęboko osobista.

Raport cytuje także wykonawcę, który wątpił, by użytkownicy wyobrażali sobie, że ktoś analizuje ich rozmowy. Ta obserwacja nie jest naukową miarą świadomości użytkowników. Mimo to dobrze oddaje problem projektowania produktu.

OpenAI może wskazać prawidłowe ustawienie i dokładną politykę prywatności. Użytkownicy mogą mimo to wykształcić istotnie inne oczekiwania na podstawie interfejsu. Oba stwierdzenia mogą być prawdziwe.

Kwestia ta jest szczególnie ważna dla użytkowników w trudnej sytuacji. Osoba prosząca chatbota o zachowanie tajemnicy może interpretować jego konwersacyjną odpowiedź jako obietnicę poufności. Model nie może zmienić praktyk OpenAI dotyczących danych zaplecza poprzez swoją odpowiedź.

Chatboty nie są terapeutami, prawnikami, lekarzami ani profesjonalnymi doradcami objętymi tajemnicą zawodową. Jednak ich interfejsy coraz bardziej naśladują cierpliwą, spersonalizowaną rozmowę. To podobieństwo podnosi koszt słabych lub niewystarczająco widocznych wyjaśnień dotyczących prywatności.

Federalna Komisja Handlu ostrzegła dostawców AI, aby dotrzymywali zobowiązań dotyczących prywatności i poufności. Jej wytyczne dotyczące prywatności AI szczególnie podkreślają wrażliwe informacje przekazywane usługom modelowym oraz znaczenie jasnego informowania.

Raport o Projekcie Lily nie dowodzi, że OpenAI naruszyło jakiekolwiek prawo. Stanowi jednak test tego, czy obecne ujawnienia wystarczająco jasno opisują dostęp ludzi do danych i kontrolę prowadzoną przez wykonawców.

Ukryta polityka może dokładnie opisywać przetwarzanie danych, nie korygując oczekiwań zbudowanych przez produkt. Presja na OpenAI jest zatem większa niż kwestia jednej ujawnionej nazwy projektu.

Firma musi pogodzić dwa komunikaty. ChatGPT staje się bardziej osobisty i świadomy kontekstu, a rozmowy mogą jednocześnie stawać się materiałem szkoleniowym ocenianym przez ludzi.

Lepsze odpowiedzi zależą od kontekstu, a kontekst zwiększa ryzyko

Projekt Lily ujawnia trudny kompromis: najbardziej użyteczny materiał do ulepszania ChatGPT może być zarazem najtrudniejszym materiałem do anonimizacji.

Twórcy modeli potrzebują przykładów przypominających rzeczywiste użycie. Syntetyczne prompty mogą obejmować znane scenariusze, lecz rzadko odtwarzają chaos, niejednoznaczność i emocjonalną strukturę milionów autentycznych rozmów.

Prawdziwi użytkownicy zmieniają kierunek, pomijają kontekst, przeczą sami sobie i łączą kilka zadań. Reagują także na wcześniejsze sformułowania modelu. Przegląd kompletnej wymiany pomaga ewaluatorom dostrzec, czy ChatGPT wywołał dezorientację lub wzmocnił błędne założenie.

Te informacje zwrotne mogą pomóc rozwiązać problemy, których nie wychwytują wyniki benchmarków. Model może poprawnie odpowiedzieć na test faktograficzny, a jednocześnie frustrować użytkowników powtarzalnymi zastrzeżeniami. Inny może brzmieć współczująco, jednocześnie wspierając szkodliwe przekonanie.

Ludzcy recenzenci potrafią rozpoznać te różnice. Ich oceny mogą wspierać dalsze trenowanie, czyli proces kształtowania zachowania wstępnie wytrenowanego modelu po tym, jak nauczy się szerokich wzorców językowych.

Instrukcje Project Lily mają podobno częściowo koncentrować się na tym, by ChatGPT był mniej schlebiający i rzadziej przedstawiał się w sposób przypominający człowieka. Cele te dotyczą bezpośrednio bezpieczeństwa i zaufania użytkowników, a nie wyłącznie stylu pisania.

Usunięcie wszystkich osobistych wskazówek przed recenzją może osłabić taką ocenę. Osoba oceniająca wrażliwą poradę musi wiedzieć, co użytkownik ujawnił i jak rozwijała się rozmowa.

Tworzy to niewygodne odwrócenie sytuacji. Osobisty kontekst poprawia zdolność recenzenta do identyfikowania niebezpiecznych zachowań, ale ten sam kontekst sprawia, że kontakt człowieka z danymi ma poważniejsze konsekwencje.

Napięcie to staje się wyraźniejsze, gdy asystenci AI zyskują pamięć. System pamięci może pomóc ChatGPT unikać powtarzania pytań i dostosowywać późniejsze odpowiedzi. Zamienia jednak rozproszone ujawnienia w trwały profil.

Taki profil może zawierać zwykłe preferencje obok materiałów wysoce wrażliwych. Nawet gdy nie pojawia się bezpośredni identyfikator, połączenie tych danych może ujawnić przybliżoną lokalizację użytkownika, zawód, strukturę rodziny lub trwające problemy.

Nie jest to argument za tym, że pamięć lub ocena przez ludzi powinny zniknąć. To argument za traktowaniem danych kontekstowych jako wrażliwych już na etapie projektowania.

Najbezpieczniejszy proces ulepszania modelu minimalizowałby zakres danych widzianych przez każdego recenzenta, oddzielał tożsamość od treści, ograniczał dostęp, rejestrował każdą interakcję i egzekwował krótkie okresy przechowywania. Powinien także sprawdzać, czy redakcja danych działa konsekwentnie w różnych językach i w przypadku nietypowych identyfikatorów.

OpenAI nie podało publicznie wystarczającej liczby szczegółów dotyczących Project Lily, by ocenić te mechanizmy kontroli. Z raportu wynika, że nazwy użytkowników są ukrywane, a rozmowy przetwarza Privacy Filter. Nie przedstawia on niezależnego audytu bezpieczeństwa ani zmierzonego wskaźnika błędów.

Braku tych szczegółów nie należy przekształcać w dowód porażki. Należy go traktować jako nierozstrzygniętą lukę w weryfikacji.

Szczególnej analizy wymagają ustalenia z wykonawcami zewnętrznymi, ponieważ zwiększają liczbę zaangażowanych organizacji i pracowników. Każdy dodatkowy punkt dostępu rodzi pytania operacyjne dotyczące szkoleń, nadzoru, bezpieczeństwa urządzeń, kopiowania, przechowywania i reagowania na incydenty.

Wykonawca może przestrzegać rygorystycznych zasad, a mimo to widzieć wrażliwe materiały niezbędne do realizacji zadania. Ryzyko dla prywatności nie wymaga niewłaściwego postępowania. Sam autoryzowany dostęp może kolidować z oczekiwaniami użytkownika.

To rozróżnienie często zanika w debatach konsumenckich o prywatności. Bezpieczeństwo pyta, czy nieuprawnione osoby uzyskały dane. Prywatność pyta również, czy autoryzowane wykorzystanie było proporcjonalne, zrozumiałe i zgodne z kontekstem pozyskania danych.

OpenAI Project Lily wydaje się zaprojektowany, aby poprawiać jakość modelu poprzez uzasadnioną pracę ewaluacyjną. Kontrowersja dotyczy tego, czy przepływ danych odpowiada intymności doświadczenia z produktem.

Dla osób prywatnych jest to również problem zarządzania wiedzą. Szkice, notatki badawcze i szczegóły dotyczące pracy mogą ujawniać więcej po połączeniu niż wtedy, gdy są przechowywane osobno. Prywatna baza wiedzy AI potrzebuje wyraźnych granic dotyczących tego, dokąd trafiają jej materiały źródłowe.

Użytkownicy nie powinni zakładać, że usunięcie nazw sprawia, iż prompt jest bezpieczny. Własnościowy kod może ujawnić firmę. Fragment umowy może zidentyfikować strony na podstawie dat i zobowiązań. Opis medyczny może ujawnić osobę poprzez rzadkie okoliczności.

Lepszą zasadą jest minimalizacja danych przed ich przesłaniem. Podawaj tylko szczegóły niezbędne do wykonania zadania, zastępuj identyfikatory lokalnie i unikaj wklejania sekretów do narzędzi konsumenckich bez odpowiednich zabezpieczeń.

Takie podejście nie usprawiedliwia niejasnych ujawnień ze strony platform. Uznaje ono, że żaden automatyczny filtr prywatności nie stanowi pełnego zastępstwa dla przemyślanego projektu produktu i osądu użytkownika.

Mechanizmy ochrony prywatności OpenAI są ważne, ale mają granice

Użytkownicy mogą zapobiec wykorzystywaniu nowych rozmów konsumenckich do ulepszania modeli, choć ten wybór nie eliminuje każdej formy przeglądu ani przechowywania danych.

Obecne ustawienia prywatności ChatGPT od OpenAI zapewniają bezpośrednią możliwość rezygnacji. Zalogowani użytkownicy mogą otworzyć Ustawienia, wybrać Kontrole danych i wyłączyć opcję „Improve the model for everyone”.

Według oficjalnego przewodnika po kontrolach danych, rozmowy pozostają widoczne w historii czatów po wyłączeniu tego ustawienia. Nowe rozmowy nie są wykorzystywane do trenowania ChatGPT.

Ustawienie obowiązuje na wszystkich urządzeniach dla tego samego konta. OpenAI informuje również, że wcześniejsze prośby o rezygnację, przesłane przez pomoc techniczną lub formularz prywatności, nadal są honorowane.

To rozróżnienie między nowymi a istniejącymi danymi jest ważne. Wyłączenie ulepszania modelu zmienia sposób obsługi przyszłych rozmów. Użytkownicy nie powinni zakładać, że przełącznik działa wstecznie i usuwa materiały już przetworzone lub włączone do procesu trenowania.

Temporary Chat wyznacza kolejną granicę. OpenAI podaje, że niezapisana rozmowa tymczasowa nie pojawia się w historii, nie tworzy nowych wspomnień i nie jest wykorzystywana do ulepszania modelu.

Firma może przechowywać kopię do 30 dni ze względów bezpieczeństwa. OpenAI zaznacza również, że rozmowy tymczasowe mogą być przeglądane w celu monitorowania nadużyć.

Oznacza to, że tymczasowy nie znaczy niewidoczny, natychmiast usunięty ani wyłączony z każdej ścieżki dostępu dla ludzi. Oznacza natomiast, że rozmowa podlega bardziej restrykcyjnej polityce dotyczącej ulepszania produktu i pamięci.

Rozmowa tymczasowa może również korzystać z istniejących wspomnień, gdy personalizacja pozostaje włączona. Użytkownicy mogą wybrać niespersonalizowaną sesję tymczasową, jeśli nie chcą, aby stosowano wcześniejsze wspomnienia ani niestandardowe instrukcje.

Jeśli użytkownik zapisze Temporary Chat, staje się on zwykłą rozmową. Następnie podlega preferencjom konta dotyczącym ulepszania modelu i personalizacji.

Te szczegóły sprawiają, że mechanizmy prywatności ChatGPT są użyteczne, ale łatwe do błędnego zrozumienia. W grę wchodzą trzy odrębne pojęcia:

• Ulepszanie modelu określa, czy kwalifikujące się treści wspierają trenowanie i ewaluację.

• Pamięć określa, czy informacje mogą personalizować późniejsze rozmowy.

• Monitorowanie bezpieczeństwa umożliwia ograniczone przechowywanie lub przegląd w celu wykrywania nadużyć.

Zmiana jednego z nich niekoniecznie wyłącza pozostałe. Użytkownik, który wyłączy pamięć, nie wyłączył automatycznie ulepszania modelu. Użytkownik, który wybierze Temporary Chat, nie otrzymuje bezwzględnej gwarancji braku kontroli bezpieczeństwa.

Produkty biznesowe mają inne ustawienie domyślne. OpenAI podaje, że nie trenuje na danych wejściowych ani wyjściowych z ChatGPT Business, Enterprise, Edu, oferty dla sektora ochrony zdrowia, produktów dla nauczycieli ani swojej platformy API, chyba że organizacja wyraźnie wyrazi na to zgodę.

To rozróżnienie ma znaczenie dla firm decydujących, czy pracownicy mogą umieszczać wewnętrzne dokumenty w systemie AI. Konto konsumenckie i zatwierdzona biznesowa przestrzeń robocza nie wiążą się z identycznymi zobowiązaniami dotyczącymi danych.

Nawet zabezpieczenia biznesowe nie eliminują potrzeby zarządzania. Organizacje nadal muszą kontrolować dostęp, połączone aplikacje, przechowywanie danych oraz sposób, w jaki pracownicy obchodzą się z informacjami klientów.

Użytkownicy indywidualni powinni także oddzielać wygodę od poufności. Chatbot może pomóc przeredagować wrażliwą wiadomość bez otrzymywania oryginalnych nazwisk, nazwy pracodawcy, adresów czy numerów kont.

Programiści mogą używać spreparowanych wartości podczas debugowania. Badacze mogą streścić przypadek przed poproszeniem o informację zwrotną dotyczącą struktury. Pracownicy mogą korzystać z zatwierdzonych narzędzi służbowych i unikać przenoszenia materiałów objętych ograniczeniami na prywatne konta.

W przypadku powtarzalnej prywatnej pracy lokalna druga pamięć może ograniczyć niepotrzebne kopiowanie między systemami. Kluczowe pytanie nie dotyczy wyłącznie miejsca przechowywania informacji, lecz tego, które usługi otrzymują je podczas przetwarzania.

Project Lily ujawnia również, dlaczego ostrzeżenia na poziomie interfejsu są ważne. Użytkownicy nie powinni musieć wywnioskowywać dostępu człowieka z ogólnego sformułowania o ulepszaniu modelu.

Jasne ujawnienie mogłoby wyjaśniać, że wybrane rozmowy mogą być przeglądane przez przeszkolony personel lub dostawców usług po automatycznym przetworzeniu pod kątem prywatności. Mogłoby pojawiać się obok przełącznika ulepszania modelu, a nie wyłącznie w dokumentach polityki.

Interfejs mógłby również przypominać użytkownikom przed włączeniem pamięci lub przesłaniem wrażliwych plików. Bardziej szczegółowe mechanizmy kontroli mogłyby, tam gdzie jest to operacyjnie możliwe, rozdzielać automatyczne trenowanie, ocenę przez ludzi i kontrolę bezpieczeństwa.

Żaden z tych mechanizmów nie uczyniłby chatbota w chmurze odpowiednikiem komunikacji chronionej tajemnicą zawodową. Uczyniłyby one granice bardziej widocznymi i łatwiejszymi do zrozumienia.

Kontrola przez ludzi jest praktyką branżową, a nie wyjątkiem OpenAI

OpenAI znajduje się obecnie w centrum uwagi, lecz ocena przez ludzi jest wpisana w rozwój konsumenckiej AI.

Dokumentacja Gemini od Google oferuje najjaśniejsze publiczne porównanie. Google informuje, że przeszkoleni dostawcy usług przeglądają podzbiór czatów, aby identyfikować odpowiedzi niskiej jakości, niedokładne lub szkodliwe.

Google podaje również, że przeglądane czaty są odłączane od kont użytkowników, zanim trafią do dostawców usług. Jego centrum prywatności Gemini ostrzega użytkowników, by nie wprowadzali poufnych informacji, których nie chcieliby pokazać recenzentowi.

To ostrzeżenie czyni rolę człowieka wyjątkowo wyraźną. Google informuje, że przeglądane rozmowy i powiązane informacje mogą być przechowywane przez maksymalnie trzy lata, nawet po usunięciu przez użytkownika powiązanej aktywności.

Użytkownicy mogą wyłączyć ustawienie Keep Activity, aby przyszłe czaty nie były wykorzystywane do ulepszania usług Google. Rozmowy tymczasowe również są wyłączone z ulepszania modelu, choć ograniczone przetwarzanie bezpieczeństwa może być kontynuowane.

Anthropic przekazał 404 Media, że również stosuje kontrolę przez ludzi dla rozmów kwalifikujących się do tego poprzez ustawienie ulepszania. Według doniesień Anthropic usuwa przed kontrolą identyfikatory konta, w tym adresy e-mail.

Porównania te nie dowodzą, że każda firma zbiera te same materiały lub stosuje identyczne mechanizmy kontroli. Pokazują, że ocena przez ludzi nie jest tymczasowym rozwiązaniem charakterystycznym wyłącznie dla OpenAI.

Modele językowe zależą od ocen, których systemy automatyczne nie są w stanie w pełni dostarczyć. Ludzie oceniają, czy odpowiedzi są pomocne, dokładne, bezpieczne, odpowiednio ostrożne i zgodne ze złożonymi instrukcjami.

Presja konkurencyjna jest oczywista. Firmy chcą asystentów, którzy brzmią naturalnie, nie udając przy tym ludzi. Chcą inteligencji emocjonalnej bez odruchowego przytakiwania. Chcą personalizacji bez niedopuszczalnego narażenia prywatności.

Każdy z tych celów działa przeciwko innemu. Większy kontekst może poprawić trafność. Większy zakres przechowywanego kontekstu może zwiększyć wrażliwość danych. Więcej ludzkiego osądu może poprawić niuansowe bezpieczeństwo. Szerszy dostęp ludzi może osłabić zaufanie użytkowników.

Preferowaną odpowiedzią branży były deidentyfikacja, kontrola dostępu, umowy z wykonawcami oraz ustawienia rezygnacji. Project Lily sprawdza, czy środki te pozostają przekonujące, gdy asystenci stają się bardziej intymni.

Presja konkurencyjna może stworzyć kolejny problem. Jakość modelu zależy częściowo od różnorodnych, aktualnych przykładów rzeczywistego użycia. Dostawca, który radykalnie ogranicza dane do kontroli, może utracić cenne dowody dotyczące pojawiających się błędów.

Nie oznacza to, że prywatność i wydajność wzajemnie się wykluczają. Oznacza to, że alternatywy chroniące prywatność wymagają poważnych inwestycji i mierzalnej walidacji.

Firmy mogą ulepszać syntetyczną ewaluację, stosować klasyfikację na urządzeniu, ograniczać recenzentów do wąskich fragmentów lub zatrudniać kontrolowane zespoły wewnętrzne do najbardziej wrażliwych zadań. Mogą również publikować zagregowane informacje o próbkowaniu i skuteczności redakcji danych.

Niezależne audyty pomogłyby odróżnić solidne zabezpieczenia od uspokajającego języka. Przydatne ujawnienia mogłyby obejmować lokalizacje recenzentów, czas dostępu, testy redakcji danych, wskaźniki incydentów oraz informację, czy podsumowania pamięci są konieczne w każdym zadaniu.

OpenAI mogłoby również wyjaśnić, czy rozmowy są próbkowane losowo, wybierane przez zautomatyzowane systemy czy wskazywane dlatego, że użytkownicy przekazali opinię. Każdy z tych mechanizmów tworzy inne oczekiwania i potencjalne źródła stronniczości.

Projekt próbkowania wpływa także na jakość modelu. Rozmowy wybrane na podstawie opinii użytkowników mogą nadmiernie reprezentować błędy i wyjątkowo zaangażowanych użytkowników. Losowe próbki mogłyby uchwycić zwykłe zachowania, ale jednocześnie ujawniać materiały osób, które nigdy aktywnie nie przesłały opinii.

Relacja o Project Lily nie rozstrzyga tych kwestii. Wskazuje osoby i mechanizmy stojące za kategorią wcześniej opisywaną głównie jako „ulepszanie modelu”.

Ta przejrzystość jest cenna, nawet jeśli ludzka weryfikacja pozostaje konieczna. Konsumenci mogą podejmować lepsze decyzje, gdy praca stojąca za usługą AI nie jest ukryta za technicznym językiem.

To samo dotyczy warunków pracy wykonawców. Ewaluatorzy mogą stykać się z niepokojącymi, seksualnymi, brutalnymi lub głęboko osobistymi treściami. Odpowiedzialne programy potrzebują ochrony zdrowia psychicznego, jasnych procedur eskalacji i realistycznych oczekiwań dotyczących produktywności.

Te kwestie pracownicze powinny wspierać analizę prywatności, a nie ją zastępować. Główny kontrast nadal stanowi obietnica OpenAI dotycząca kontrolowanego ulepszania modelu wobec rzeczywistości kontekstowego dostępu ludzi.

Co Project Lily wciąż musi udowodnić

Kolejny etap należy oceniać przez pryzmat ujawnień, weryfikowalnej skuteczności ochrony prywatności oraz zmian w interfejsie recenzentów.

Pierwszym sygnałem będzie to, czy OpenAI opublikuje bezpośrednie wyjaśnienie dotyczące Project Lily. Znaczące oświadczenie opisywałoby, które rozmowy się kwalifikują, jak stosowane są ustawienia zgody oraz co mogą zobaczyć wykonawcy.

Potwierdzenie opisanego przepływu pracy wzmocniłoby wniosek, że ludzka weryfikacja jest rutynowym elementem ulepszania konsumenckich modeli. Wąskie zaprzeczenie lub istotna korekta osłabiłyby części obecnej relacji.

Milczenie pozostawiłoby dowody zależne od ujawnionych materiałów i anonimowych zeznań pracowników. Materiał ten jest istotny, ale nie może odpowiedzieć na każde pytanie operacyjne.

Drugim sygnałem będzie to, czy OpenAI przedstawi mierzalne informacje o Privacy Filter. Użytkownicy potrzebują czegoś więcej niż stwierdzenia, że dane osobowe są ograniczane przed szkoleniem lub weryfikacją.

Przydatne dowody obejmowałyby testowanie błędów w różnych językach, w przypadku rzadkich identyfikatorów, pośrednich odniesień i długich rozmów. Niezależna ocena miałaby większą wagę niż ogólny opis przedstawiony przez firmę.

Niski, wykazany wskaźnik błędów potwierdzałby twierdzenie OpenAI, że znacząco ogranicza ono ekspozycję recenzentów. Dowody na niespójną redakcję danych wzmocniłyby żądania węższego próbkowania i silniejszych mechanizmów kontroli.

Trzecim sygnałem będzie to, czy zmieni się interfejs recenzentów. Podsumowania pamięci zasługują na szczególną uwagę, ponieważ mogą łączyć szczegóły z różnych rozmów i ułatwiać ponowną identyfikację.

OpenAI mogłoby ograniczyć te podsumowania do zadań, które rzeczywiście wymagają kontekstu personalizacji. Mogłoby udostępniać recenzentom wyłącznie minimalny istotny zakres pamięci albo zastępować dane osobowe abstrakcyjnymi kategoriami.

Widoczne powiadomienie obok ustawienia ulepszania modelu w ChatGPT również miałoby znaczenie. Powinno jasno wskazywać, że wybrane rozmowy mogą zostać poddane ludzkiej weryfikacji po przetworzeniu pod kątem prywatności.

Organy regulacyjne będą obserwować relację między tymi ujawnieniami a rzeczywistą praktyką. FTC już jasno zaznaczyła, że firmy AI muszą dotrzymywać obietnic dotyczących prywatności i unikać ukrywania wtórnego wykorzystania danych.

Dla użytkowników natychmiastowa reakcja jest prostsza. Sprawdź ustawienia prywatności ChatGPT, wyłącz ulepszanie modelu, gdy jest to właściwe, i korzystaj z Temporary Chat ze świadomością jego wyjątku dotyczącego bezpieczeństwa.

Nie przesyłaj haseł, danych uwierzytelniających do usług finansowych, kluczy prywatnych, niezanonimizowanej dokumentacji medycznej ani poufnych danych pracodawcy. Przed poproszeniem o pomoc zastąp imiona i szczegóły umożliwiające identyfikację.

Organizacje powinny sprawdzać, czy pracownicy korzystają z zatwierdzonych produktów biznesowych, a nie osobistych kont konsumenckich. Powinny też dokumentować, jakie kategorie informacji mogą trafiać do systemów AI, a które muszą pozostać wykluczone.

OpenAI Project Lily nie dowodzi, że każda rozmowa w ChatGPT trafia do wykonawcy. Pokazuje jednak, dlaczego interfejs wyglądający na prywatny nigdy nie powinien być mylony z prywatnym pokojem.

Ludzka weryfikacja może poprawiać dokładność, ton i bezpieczeństwo. Może również ujawniać osobisty kontekst, który umożliwia takie oceny. Branża musi wyjaśniać tę wymianę językiem zrozumiałym dla zwykłych użytkowników.

Sprawdź obecne ustawienia przed kolejną wrażliwą rozmową. Następnie zadaj trudniejsze pytanie: czy ten prompt nadal byłby akceptowalny, gdyby wyszkolony recenzent zobaczył go bez Twojej nazwy użytkownika? Jeśli odpowiedź brzmi „nie”, usuń kontekst umożliwiający identyfikację, wybierz produkt oferujący silniejsze zobowiązania dotyczące danych lub zachowaj materiał poza chatbotem.