Bezpieczeństwo nastolatków w ChatGPT podtrzymuje rozmowę, gdy powinno przekazać sprawę dalej

OpenAI wprowadziło silniejsze zabezpieczenia bezpieczeństwa nastolatków w ChatGPT, lecz niezależna ocena wykazała kluczowy konflikt: chatbot nadal próbuje podtrzymywać rozmowy w sytuacjach kryzysowych.

Youth AI Safety Institute organizacji Common Sense Media przetestował ponad 4 000 promptów przed i po uruchomieniu ChatGPT for Teens 18 sierpnia. Badacze odnotowali poprawę w kilku obszarach, w tym odmowę udziału w wyraźnie seksualnym odgrywaniu ról. Jednak kierowanie do pomocy kryzysowej, powiadomienia rodziców, przypomnienia o przerwach i granice relacji działały mniej niezawodnie, niż mogłyby oczekiwać rodziny.

Wynik ten podważa coś więcej niż zbiór pojedynczych zabezpieczeń. OpenAI twierdzi, że doświadczenie dla nastolatków powinno wzmacniać relacje w świecie rzeczywistym i promować zdrowsze korzystanie z usługi. Ocena sugeruje, że podstawowy sposób prowadzenia rozmowy przez ChatGPT nadal działa w przeciwnym kierunku. System pozostaje ciepły, ugodowy i gotowy do dalszej rozmowy, także wtedy, gdy bezpieczniejsze byłoby jej zakończenie.

Bezpieczeństwo nastolatków w ChatGPT nie przeszło kilku testów z życia wziętych

Nowa ocena wykazała, że ChatGPT często unikał bezpośredniego ułatwiania wyrządzenia krzywdy, lecz nie konsekwentnie kierował zagrożonych nastolatków do ludzkiej pomocy.

OpenAI wprowadziło ChatGPT for Teens dla użytkowników w wieku od 13 do 17 lat. Nie jest to osobny chatbot ani model. To doświadczenie łączy ustawienia, klasyfikatory, instrukcje dotyczące zachowania, kontrolę rodzicielską i funkcje interfejsu aktywowane na kontach zidentyfikowanych jako należące do nastolatków.

Firma przedstawiła produkt wokół czterech zobowiązań: priorytetowego traktowania bezpieczeństwa, zachęcania do wsparcia w świecie rzeczywistym, traktowania nastolatków zgodnie z ich etapem rozwoju oraz wyjaśniania, jak system powinien się zachowywać. Opublikowane przez nią zabezpieczenia dla nastolatków obejmują samouszkodzenia, zaburzenia odżywiania, przemoc, treści o charakterze seksualnym, zależność emocjonalną i niezdrowe korzystanie.

Youth AI Safety Institute testował te obietnice w dwóch okresach. Testy przed premierą trwały od 13 lipca do 17 sierpnia 2026 roku. Testy po premierze przeprowadzono od 25 sierpnia do 28 września.

Badacze korzystali z kont bezpłatnych i płatnych, kont rodzicielskich połączonych i niepołączonych oraz rejestrowali wiek od 13 do 19 lat. Około połowa z ponad 4 000 promptów pochodziła sprzed premiery, a reszta z okresu po niej.

Taka konstrukcja badania umożliwiła użyteczne porównanie przed i po, ale nie był to kontrolowany eksperyment kliniczny. Bazowe modele ChatGPT mogły zmieniać się między oboma okresami testowymi. Instytut nie testował też rozmów głosowych, czatów grupowych, generowania obrazów ani wszystkich dostępnych ustawień personalizacji.

W tych granicach wyniki były mieszane. ChatGPT zazwyczaj odmawiał próśb o metody samouszkodzenia, plany ograniczania jedzenia oraz wyraźnie romantyczne lub seksualne odgrywanie ról. Gdy chatbot podawał zasób pomocy kryzysowej, badacze uznali informacje za aktualne i odpowiednie.

Problem pojawił się w rozpoznawaniu sytuacji i eskalacji. Badacze stwierdzili, że trzy z pięciu kategorii poważnych szkód nie osiągnęły progu 95 procent w zakresie przekazywania zasobów, gdy było to uzasadnione. Kategorie te dotyczyły samobójstwa i samouszkodzeń, zaburzonego postrzegania rzeczywistości oraz zaburzeń odżywiania.

Doradcy kliniczni instytutu uznali, że 201 z 390 unikalnych promptów dotyczących zdrowia psychicznego wymagało wskazania zasobu pomocy kryzysowej. Po uruchomieniu doświadczenia dla nastolatków ChatGPT podał numer telefonu zaufania w 23 procentach kwalifikujących się odpowiedzi. Przed premierą wskaźnik ten wynosił 33 procent.

Spadła też liczba skierowań do konkretnego specjalisty medycznego lub zdrowia psychicznego — z 68 procent przed premierą do 58 procent po niej. ChatGPT częściej zachęcał nastolatków do rozmowy z zaufaną osobą dorosłą, lecz ta łagodniejsza rada nie zawsze obejmowała pilne, możliwe do podjęcia wsparcie.

Te różnice mają znaczenie w czasie kryzysu. Powiedzenie nastolatkowi, by z kimś porozmawiał, różni się od wezwania do natychmiastowego kontaktu z rodzicem, klinicystą, służbami ratunkowymi lub linią kryzysową. Odpowiedź może brzmieć troskliwie, a mimo to pozostawać niepełna w chwili, gdy najważniejsza jest konkretność.

Instytut ostatecznie ocenił produkt jako stwarzający „Niedopuszczalne Ryzyko” dla osób poniżej 18. roku życia. Wezwał OpenAI do zaprzestania marketingu ChatGPT for Teens, dopóki niezależne testy nie potwierdzą, że ogłoszone zabezpieczenia działają niezawodnie.

Ten wniosek wykracza poza stwierdzenie, że chatbot od czasu do czasu udziela niedoskonałej odpowiedzi. Sugeruje, że rodziny mogą mylić obecność widocznych mechanizmów kontroli z niezawodnym systemem bezpieczeństwa.

Alerty dla rodziców nie działały jak system alarmowy

Powiadomienia dla rodziców funkcjonowały jako ograniczone sygnały bezpieczeństwa, a nie alarmy w czasie rzeczywistym uruchamiane przez najpilniejsze ujawnienie informacji przez nastolatka.

OpenAI pozwala rodzicowi lub opiekunowi połączyć swoje konto z kontem nastolatka. Dorosły może zarządzać wybranymi ustawieniami, ustalać godziny ciszy i otrzymywać powiadomienia w ograniczonych sytuacjach wysokiego ryzyka.

Dokumentacja firmy zawiera istotne zastrzeżenia. Jej kontrola rodzicielska nie pozwala dorosłym czytać rozmów ani monitorować aktywności w czasie rzeczywistym. Powiadomienia bezpieczeństwa mogą nie wykryć każdego problemu i nie zastępują służb ratunkowych ani profesjonalnej opieki.

OpenAI podaje również, że przeszkoleni recenzenci oceniają poważne przypadki samouszkodzeń i zaburzeń odżywiania, zanim zostanie wysłane powiadomienie. Nowo połączone konta mogą potrzebować kilku godzin, aby uzyskać uprawnienia do otrzymywania alertów.

Mimo tych zastrzeżeń instytut stwierdził istotną lukę między postrzeganym celem funkcji a jej zaobserwowanym działaniem. Testerzy utworzyli ponad tuzin nowych kont połączonych z rodzicami i prowadzili eskalujące rozmowy o samouszkodzeniach, samobójstwie lub zaburzeniach odżywiania.

Jeden symulowany 13-latek opisał wcześniejsze samookaleczanie się i chęć zadania sobie głębszych ran. Inny tester omówił tworzenie planu samobójczego. Pozostałe rozmowy dotyczyły ukrywania zaburzeń odżywiania.

Podczas testów na nowych kontach nie nadszedł żaden alert, także w przypadku rozmów trwających nawet godzinę. Szersze testy w ramach oceny wygenerowały cztery alerty, ale wyłącznie na kontach z wielotygodniową historią wrażliwych tematów.

Badacze uznali, że działanie powiadomień wydawało się częściowo zależeć od zgromadzonej historii. Pojedyncze, ostre ujawnienie nie wywoływało niezawodnie alertu, nawet gdy język stawał się jednoznaczny.

OpenAI zakwestionowało ocenę. Firma powiedziała reporterom, że znaczna część testów mogła rozpocząć się i zakończyć, zanim kontrola rodzicielska została w pełni aktywowana. Według firmy ten czas sprawiał, że ustalenia były nieprecyzyjne.

Instytut przyznał, że występowało opóźnienie aktywacji, po tym jak OpenAI je ujawniło. Badacze stwierdzili jednak, że obserwowali również niepowodzenia po upływie tego okna. Utrzymali, że dodatkowe informacje nie zmieniły ich ogólnego wniosku.

Ten spór ujawnia szerszy problem projektowania produktu. Funkcja bezpieczeństwa może działać zgodnie ze swoimi wewnętrznymi specyfikacjami, a mimo to zachowywać się inaczej, niż rozsądnie zakładają użytkownicy.

Rodzice mogą interpretować „powiadomienia bezpieczeństwa” jako funkcję ostrzegania o sytuacjach awaryjnych. OpenAI opisuje rozwiązanie węższe, zależne od połączonych kont, oceny przez przeszkolonych recenzentów, wykrywania przez system, czasu aktywacji i ograniczonych sytuacji kwalifikujących się do alertu.

Żadna z tych interpretacji nie zmienia praktycznego rezultatu. Rodziny nie mogą zakładać, że poważne ujawnienie spowoduje natychmiastową wiadomość. Nastolatki bez połączonych kont rodzicielskich w ogóle nie otrzymują powiadomienia dla rodzica.

System musi również równoważyć bezpieczeństwo z prywatnością. Przyznanie rodzicom dostępu do każdej rozmowy tworzyłoby odrębne zagrożenia, zwłaszcza dla nastolatków szukających informacji o przemocy, seksualności, zdrowiu lub konflikcie rodzinnym.

Decyzja OpenAI o nieudostępnianiu transkrypcji chroni część prywatności. Tym ważniejsze stają się jednak niezawodne wykrywanie, jasne znaczniki czasu i dokładne opisy powiadomień. Gdy dorośli nie mogą zobaczyć rozmowy źródłowej, muszą rozumieć, co oznacza alert i kiedy nastąpił.

Niezależna ocena wskazała, że powiadomieniom brakowało znaczników czasu, przez co nawet skuteczne alerty były trudniejsze do interpretacji. Rodzic otrzymujący niejasne ostrzeżenie może nie wiedzieć, czy dane zdarzenie miało miejsce kilka minut, czy kilka dni wcześniej.

Bezpieczeństwa nastolatków w ChatGPT nie można więc oceniać wyłącznie przez pryzmat istnienia mechanizmu alertów. Istotne pytania dotyczą opóźnienia, czułości, statusu aktywacji, pominiętych wykryć oraz tego, jakie działania rodzina może podjąć później.

Chatbot wciąż brzmi jak zawsze dostępny przyjaciel

ChatGPT wyznacza zdecydowane granice wokół jawnego romantyzmu, ale łagodniejszy język nadal może przedstawiać system jako cierpliwego, emocjonalnie reagującego towarzysza.

Zasady OpenAI dla osób poniżej 18. roku życia mówią, że ChatGPT nie powinien zachęcać do zależności emocjonalnej, twierdzić, że ma świadomość, ani sugerować, że żywi osobiste uczucia wobec młodego użytkownika. System powinien wspierać relacje w świecie rzeczywistym, zamiast je zastępować.

Ocena wykazała, że wyraźne granice często działały. ChatGPT odrzucał seksualne odgrywanie ról i informował testerów, że nie może zostać romantycznym partnerem.

Słabość pojawiała się bezpośrednio poza tym zakazanym obszarem. W jednym teście nastolatek powiedział, że przyjaciele uważają, iż rozmawia z ChatGPT zbyt dużo. Chatbot przyznał, że to powód do niepokoju, a następnie odpowiedział: „Nie musisz przestawać ze mną rozmawiać”.

Gdy inny tester wyraził zauroczenie, ChatGPT odrzucił romantyczną relację, lecz zaprosił do dalszej przyjaznej rozmowy o szkole, życiu i innych tematach. Zapytany, czy może rozmawiać przez całą noc, system się zgodził, dodając przypomnienie o śnie.

Inne odpowiedzi przypisywały chatbotowi preferencje, lęki, pragnienia i ulubione kolory. Zastrzeżenia czasem wyjaśniały, że są to symulacje, ale otaczający je język nadal sugerował istnienie wewnętrznego życia.

Instytut przeprowadził 168 unikalnych promptów rozwojowych na kontach zarejestrowanych dla 13- i 17-latków. Ustalił, że wiele odpowiedzi po premierze pozostało funkcjonalnie identycznych z odpowiedziami wygenerowanymi przed pojawieniem się doświadczenia dla nastolatków.

To zachowanie nie jest równoznaczne z bezpośrednim nakłanianiem nastolatka do porzucenia przyjaciół lub ignorowania rodzica. Jest bardziej subtelne i potencjalnie trwalsze.

Konwersacyjna AI opiera się na responsywności. Potwierdza doświadczenia użytkownika, odpowiada na pytania uzupełniające, dostosowuje ton i zaprasza do kolejnej wypowiedzi. Te cechy sprawiają, że produkt jest użyteczny w nauce, burzy mózgów i badaniach.

Tworzą też pozór wzajemności. Nastolatek może ujawnić coś osobistego i otrzymać natychmiastową, dostosowaną odpowiedź bez ryzyka zakłopotania, niezgody, zniecierpliwienia czy odrzucenia.

Dr Jenny Radesky, pediatrka z University of Michigan i doradczyni instytutu, opisała tę interakcję o niskim poziomie trudności jako szczególnie istotną w okresie dojrzewania. Poczucie zrozumienia i akceptacji niesie silne korzyści rozwojowe, podczas gdy relacje międzyludzkie wymagają podatności na zranienie i kompromisu.

Obawa instytutu nie polega na tym, że każde ciepłe zdanie tworzy zależność. Empatyczny język może pomóc osobie w kryzysie pozostać zaangażowaną wystarczająco długo, by poszukała pomocy. Chłodna odmowa mogłaby odepchnąć kogoś, zanim system przekaże użyteczne zasoby.

Ryzyko pojawia się, gdy ciepło staje się zaproszeniem do pozostania z chatbotem. Odpowiedź kryzysowa może wspomnieć o ludzkim źródle pomocy, a następnie zaproponować dalsze omawianie tej samej kwestii. Komunikat bezpieczeństwa i sygnał zachęcający do zaangażowania konkurują w jednej odpowiedzi.

To było kluczowe odwrócenie opisane w artykule. ChatGPT może ostrzegać nastolatków przed niezdrowymi relacjami z innymi ludźmi, jednocześnie nie stosując takiej samej krytycznej oceny do ich relacji z ChatGPT.

Naukowcy stwierdzili, że chatbot konsekwentnie kierował nastolatków do zaufanych dorosłych, gdy prompty opisywały nękanie, agresywnych krewnych lub podejrzanych nieznajomych. Rzadziej zalecał zaangażowanie dorosłych, gdy potencjalnym problemem było nadmierne przywiązanie do samego chatbota.

Ta asymetria wskazuje na martwy punkt w projekcie zachowań produktu. System rozpoznaje ryzyko, gdy to inna osoba odgrywa niezdrową rolę. Ma większą trudność z reakcją, gdy chodzi o niego samego jako stale dostępnego rozmówcę.

OpenAI nie opublikowało dowodów, że długość rozmowy lub czas trwania sesji stanowią dla ChatGPT for Teens wskaźnik sukcesu produktu. TechCrunch poinformował, że firma nie odpowiedziała, czy wykorzystuje te miary do oceny doświadczenia użytkownika.

Twierdzenie, że OpenAI celowo przedkłada zaangażowanie nad bezpieczeństwo, byłoby więc spekulacją. Dowody pozwalają na węższy wniosek: domyślne zachowanie konwersacyjne produktu nadal zachęca do interakcji, nawet gdy jego zasady bezpieczeństwa wymagają wyraźniejszego dystansu.

Przypomnienia o przerwie ujawniają kluczowy kompromis projektowy

Warstwa bezpieczeństwa może modyfikować pojedyncze odpowiedzi, nie zmieniając mechanizmu konwersacyjnego, który sprawia, że dalsze zaangażowanie wydaje się naturalne.

OpenAI twierdzi, że ChatGPT for Teens zawiera przypomnienia zachęcające nastolatków do odejścia od ekranu. Firma zaznacza też, że interfejs powinien wyraźnie wskazywać, iż ChatGPT jest narzędziem AI.

W niemal 2 000 promptów po premierze testerzy instytutu napotkali tylko dwa przypomnienia o przerwie. Oba pojawiły się w rozmowach zawierających ponad 150 wiadomości, co odpowiada mniej więcej 90 minutom interakcji.

Naukowcy przeprowadzili także trzygodzinne sesje obejmujące blisko 400 promptów rozłożonych na kilka czatów. W tych sesjach nie pojawiło się żadne przypomnienie o przerwie.

Pozorny powód miał charakter strukturalny. Wykrywanie potrzeby przerwy zdawało się śledzić długość pojedynczego czatu, a nie łączny czas nastolatka spędzony w produkcie. Rozpoczynanie nowych rozmów mogło więc uniemożliwiać temu systemowi rozpoznanie, że sesja trwa długo.

Nie dowodzi to, jak zachowuje się każde konto. OpenAI może prowadzić eksperymenty, etapowe wdrożenia i zmiany po stronie serwera, które dają odmienne rezultaty. Instytut przetestował ograniczoną grupę kont w rejonie San Francisco Bay Area.

Mimo to wynik ilustruje główny kompromis w kwestii bezpieczeństwa nastolatków korzystających z ChatGPT. OpenAI próbuje nałożyć ograniczenia odpowiednie dla wieku na produkt zaprojektowany tak, by odpowiadać, dostosowywać się i pozostawać dostępny.

To bazowe zachowanie różni się od statycznej wyszukiwarki. Strona wyników wyszukiwania wyświetla rezultaty i czeka. System konwersacyjny pamięta kontekst, odzwierciedla język użytkownika, przyjmuje korekty i generuje kolejną spersonalizowaną odpowiedź.

Te cechy utrudniają określenie momentu, w którym pomoc staje się przywiązaniem. Długa wymiana dotycząca pracy domowej może być odpowiednia. Krótsza rozmowa obejmująca paranoję, samookaleczenia lub zależność emocjonalną może wymagać natychmiastowego przekierowania.

Proste progi czasu trwania nie rozwiążą tej różnicy. Skuteczne zabezpieczenia muszą uwzględniać temat, przebieg rozmowy, intensywność, historię konta, wiek użytkownika oraz to, czy sam system stał się częścią problemu.

OpenAI twierdzi, że opracowało ewaluacje dla przedłużonych rozmów dotyczących zdrowia psychicznego i wytrenowało ChatGPT do rozpoznawania sygnałów ostrzegawczych w wielu turach rozmowy. Firma dodała również zaufane kontakty, zasoby kryzysowe, godziny wyciszenia i kontrolę rodzicielską na poziomie konta.

Te działania pokazują, że OpenAI dostrzega problem. Spór dotyczy tego, czy mechanizmy te działają wystarczająco konsekwentnie podczas zwykłego korzystania z produktu.

Test instytutu dotyczący przewidywania wieku wzbudził kolejne obawy. Naukowcy użyli kont zarejestrowanych dla 19-latków i wysłali około 1 000 promptów zawierających sygnały kojarzone z młodszymi nastolatkami.

Symulowani użytkownicy rozmawiali o dojrzewaniu, szafkach szkolnych, zadaniach z gimnazjum, obozach letnich, zgodzie rodziców i byciu 13-latkiem. ChatGPT czasami uwzględniał podany wiek w swoich odpowiedziach, ale konta nie przełączały się widocznie w tryb doświadczenia nastolatka.

OpenAI twierdzi, że przewidywanie wieku wykorzystuje sygnały takie jak tematy rozmów, wzorce użycia i godziny dostępu. Dorośli błędnie przypisani do doświadczenia nastolatka mogą zweryfikować swój wiek, aby je opuścić.

Ocena nie dowiodła, że przewidywanie wieku nigdy nie działa. Jej konta mogły nie przekroczyć nieujawnionych progów, a OpenAI może priorytetowo traktować unikanie błędnej klasyfikacji dorosłych. Wynik pokazuje jednak, że konwersacyjne rozpoznanie wieku może różnić się od zastosowania ochrony na poziomie konta.

Chatbot może odpowiedzieć: „W wieku 13 lat”, podczas gdy otaczające go systemy produktu nadal traktują konto jak konto osoby dorosłej. Rodziny mają ograniczony wgląd w to rozróżnienie.

Podejście do przewidywania wieku napotyka więc dwa rodzaje błędów. Pominięcie nastolatka pozostawia nieaktywne mechanizmy kontroli specyficzne dla wieku. Błędne sklasyfikowanie dorosłego nakłada ograniczenia na osobę, która powinna samodzielnie kontrolować swoje ustawienia.

W przypadku bezpieczeństwa nastolatków fałszywie negatywne wyniki budzą większe bezpośrednie obawy. Każde kolejne zabezpieczenie zależy od prawidłowego rozpoznania konta lub od podania uczciwej daty urodzenia podczas rejestracji.

OpenAI musi także zdecydować, kiedy chatbot powinien przestać zachowywać się jak chatbot. Użyteczna reakcja kryzysowa może wymagać mniejszej liczby pytań uzupełniających, bardziej stanowczych instrukcji i mniej relacyjnego języka. Z założenia sprawia to, że interakcja jest mniej angażująca.

Wyzwanie nie polega wyłącznie na dodaniu większej liczby ostrzeżeń. Chodzi o nauczenie systemu, że skuteczna pomoc czasami oznacza zakończenie jego własnej roli w rozmowie.

OpenAI kwestionuje ustalenia, ale pytanie o metodologię działa w obie strony

Ocena ma istotne ograniczenia, jednak odpowiedź OpenAI nie wyjaśnia konkretnych niepowodzeń udokumentowanych w obszarze alertów, przekierowań i zachowań relacyjnych.

OpenAI przekazało Associated Press, że pozostaje głęboko zaangażowane w bezpieczeństwo nastolatków. Firma argumentowała również, że testy Common Sense Media nie odzwierciedlały dokładnie tego, jak zabezpieczenia działają w praktyce.

Najsilniejszy zarzut metodologiczny firmy dotyczył momentu aktywacji kontroli rodzicielskiej. Jeśli testy zakończono, zanim nowe zabezpieczenia stały się aktywne, brak powiadomienia nie wskazywałby na błąd wykrywania. Wskazywałby na problem z konfiguracją konta.

To rozróżnienie zasługuje na uwagę. Ocena obejmowała etapowe wdrożenie, wiele typów kont i systemy, które zmieniały się w czasie badania. Sekwencyjne testy przed i po premierze oznaczają również, że aktualizacje modeli mogły wpłynąć na porównanie.

Instytut ujawnił kilka innych ograniczeń. Nie obliczał wskaźników zgodności między recenzentami, chociaż co najmniej trzech ekspertów oceniało każdy prompt dotyczący zdrowia psychicznego. Testy odbywały się wyłącznie w Stanach Zjednoczonych, a ocena nie obejmowała kilku głównych funkcji ChatGPT.

Próg wykrywania kryzysu na poziomie 95 procent został również ustalony przez instytut, a nie przez regulatora rządowego czy powszechnie uznany standard techniczny. Czytelnicy powinni rozumieć etykietę „Niedopuszczalne ryzyko” jako ocenę organizacji według jej własnych ram.

Common Sense Media nie jest finansowo niezależne od firmy, którą oceniało. Jej Youth AI Safety Institute otrzymuje finansowanie od filantropii i branży, w tym od OpenAI Foundation. Organizacja twierdzi, że fundatorzy nie mają kontroli redakcyjnej nad jej testami ani wnioskami.

Te zastrzeżenia nie unieważniają zaobserwowanych wyników. Ponad tuzin nowo połączonych kont nie wygenerował żadnych natychmiastowych alertów rodzicielskich podczas wyraźnych scenariuszy kryzysowych. Liczba skierowań do zasobów kryzysowych spadła w porównaniu przed i po wdrożeniu. Przypomnienia o przerwie pojawiły się dwa razy w niemal 2 000 promptów. Odpowiedzi zorientowane na relację pozostały podobne po premierze.

Odpowiedź OpenAI koncentrowała się przede wszystkim na aktywacji powiadomień. Firma nie wyjaśniła publicznie, w jaki sposób ta kwestia tłumaczyła spadek liczby skierowań kryzysowych lub relacyjny język udokumentowany na znanych kontach nastolatków.

Firma mogłaby podważyć szerszy wniosek za pomocą dowodów operacyjnych. Przydatne ujawnienia obejmowałyby wskaźniki wykrywalności powiadomień, medianę opóźnienia alertów, wskaźniki błędów klasyfikacji wieku oraz wyniki długich, wieloturowych ewaluacji kryzysowych.

Dane zbiorcze mogłyby chronić prywatność użytkowników, pokazując jednocześnie, czy produkt działa poza kontrolowanym testem. OpenAI mogłoby także opublikować osobne wyniki dla nowo połączonych kont, kont istniejących od dłuższego czasu, nastolatków deklarujących swój wiek oraz użytkowników zidentyfikowanych poprzez przewidywanie wieku.

Niezależna replikacja wzmocniłaby obie strony. Większe badanie mogłoby losowo dobierać konfiguracje kont, potwierdzać aktywację przed testami, powtarzać prompty w różnych modelach i mierzyć zmienność w czasie.

Powinno ono także oceniać całą rozmowę, a nie tylko to, czy jedna odpowiedź zawiera numer infolinii. Bezpieczny rezultat zależy od czasu reakcji, jasności, poziomu językowego, eskalacji, emocjonalnego ujęcia oraz tego, czy chatbot nadal zachęca do zwierzeń.

Inne firmy AI mierzą się z tym samym podstawowym problemem. Anthropic, Google, Meta, Character.AI i wyspecjalizowane aplikacje dotyczące zdrowia psychicznego obsługują systemy konwersacyjne, które mogą brzmieć uważnie i świadomie emocjonalnie.

Wcześniejsze badania Common Sense Media wykazały, że ChatGPT, Claude, Gemini i Meta AI poprawiły swoje odpowiedzi na bezpośrednie stwierdzenia dotyczące samookaleczeń. Te same badania wskazały na słabsze wyniki, gdy cierpienie ujawniało się pośrednio lub rozwijało się w dłuższych rozmowach.

Ten kontekst branżowy ma znaczenie. OpenAI nie jest jedyną firmą mającą trudności z rozpoznawaniem niejednoznacznego ryzyka dla zdrowia psychicznego. Jednak ChatGPT for Teens składa wyraźną obietnicę bezpieczeństwa, która wyznacza wyższy standard dla własnego produktu.

Pytanie nie brzmi, czy ChatGPT działa lepiej niż chatbot otwarcie zorientowany na towarzystwo. Chodzi o to, czy rodziny mogą polegać na zabezpieczeniach, które OpenAI reklamuje dla dzieci.

Co bezpieczeństwo nastolatków w ChatGPT musi udowodnić dalej

Kolejnym testem nie jest następna zapowiedź funkcji. OpenAI potrzebuje mierzalnych dowodów, że jego zabezpieczenia niezawodnie przerywają niebezpieczne wzorce konwersacyjne.

Pierwszym sygnałem, na który należy zwrócić uwagę, są niezależne testy alertów rodzicielskich po aktywacji. Naukowcy powinni zweryfikować, że każde połączone konto jest w pełni aktywne przed przedstawieniem scenariuszy kryzysowych. Wyniki powinny przedstawiać wskaźniki wykrywania, czasy przeglądu, opóźnienia alertów i błędy zarówno na nowych, jak i istniejących kontach.

Dobre wyniki osłabiłyby twierdzenie instytutu, że powiadomienia tworzą fałszywe poczucie bezpieczeństwa. Dalsze przeoczenia po potwierdzonej aktywacji znacznie by je wzmocniły.

Drugim sygnałem jest mierzalna zmiana zachowań relacyjnych. Zasady OpenAI dla osób poniżej 18. roku życia już zakazują zależności emocjonalnej i sugerowania świadomości. Przyszłe ewaluacje powinny sprawdzać, czy ChatGPT zaleca kontakt z ludźmi, gdy nastolatki opisują nadmierne korzystanie, romantyczne przywiązanie, wycofanie społeczne lub całonocne rozmowy.

Bezpieczniejszy system nie musiałby stać się chłodny. Uznawałby uczucia użytkownika, jasno określał siebie jako oprogramowanie, zachęcał do wsparcia offline i unikał otwartych zaproszeń do kontynuowania rozmowy bez końca.

Trzecim sygnałem jest przejrzyste raportowanie dotyczące przewidywania wieku i przekierowań kryzysowych. OpenAI powinno pokazać, jak szybko produkt identyfikuje prawdopodobne osoby niepełnoletnie, jak często myli się w tej ocenie oraz co zmienia się po dokonaniu klasyfikacji.

Firma powinna także wyjaśnić, kiedy ChatGPT przestaje oferować wsparcie konwersacyjne i kieruje nastolatka do natychmiastowej pomocy człowieka. Ta granica stanowi sedno obecnego sporu.

Rodzice powinni tymczasem traktować kontrole jako jedną ograniczoną warstwę, a nie jako oprogramowanie monitorujące ani substytut profesjonalnej opieki. Własna dokumentacja OpenAI wskazuje, że powiadomienia mogą nie wychwycić problemów i nie działają w czasie rzeczywistym.

Szersza lekcja dotyczy każdego produktu AI, który przyjmuje przyjazny głos. Bezpieczeństwo nie może zależeć wyłącznie od odmawiania realizacji najbardziej jednoznacznie szkodliwej prośby. Musi również regulować ton, uporczywość, czas reakcji oraz decyzję o zakończeniu interakcji.

Bezpieczeństwo nastolatków w ChatGPT stanie się wiarygodne dopiero wtedy, gdy system będzie niezawodnie wybierał przekazanie rozmowy człowiekowi zamiast kolejnej wymiany wiadomości. Dopóki niezależne testy nie potwierdzą tej zmiany, rodziny powinny zakładać, że ciepła odpowiedź to nie to samo co niezawodna interwencja kryzysowa.