Blokowanie nagich zdjęć przez Apple i Google wobec brytyjskiego nakazu prawnego

Apple i Google stoją obecnie wobec brytyjskiego nakazu prawnego po tym, jak trzymiesięczne rozmowy nie przyniosły oczekiwanych przez ministrów mechanizmów ochrony dzieci.

Proponowane zasady blokowania nagich zdjęć przez Apple i Google uniemożliwiłyby osobom poniżej 18. roku życia robienie, oglądanie lub wysyłanie nagich zdjęć. Ochrona działałaby w aparatach, usługach komunikacyjnych i aplikacjach innych firm, zamiast ograniczać się do wybranych usług.

To znacznie dalej idąca ingerencja niż ostrzeżenia już wbudowane w iPhone’y i urządzenia z Androidem. Systemy te zazwyczaj wykrywają podejrzaną nagość na urządzeniu, rozmywają obraz i pozwalają części użytkowników kontynuować. Wielka Brytania chce domyślnej blokady, którą mogłyby wyłączyć wyłącznie zweryfikowane osoby dorosłe.

Spór nie dotyczy więc tego, czy technologia potrafi rozpoznać nagość. Apple i Google już stosują w tym celu klasyfikację wykonywaną na urządzeniu. Chodzi o to, czy dostawcy systemów operacyjnych powinni zmienić ochronne ostrzeżenie w obowiązkową kontrolę obejmującą całe urządzenie.

Rząd twierdzi, że przepisy są obecnie konieczne, ponieważ dobrowolne propozycje nie odpowiadały skali internetowego uwodzenia dzieci, przymusu i wymuszeń seksualnych. Obrońcy prywatności odpowiadają, że powszechne kontrole wieku i klasyfikowanie treści mogą same tworzyć zagrożenia.

Brytyjski nakaz wykracza poza ostrzeżenia na poziomie aplikacji

Rząd chce, aby ochronę dzieci egzekwował system operacyjny, a nie aby pozostawiano ją rodzicom lub poszczególnym aplikacjom.

Sekretarz kultury Lisa Nandy powiedziała parlamentowi 8 września, że rząd wprowadzi ustawę zasadniczą obejmującą zabezpieczenia na poziomie urządzenia. Oficjalne ogłoszenie nastąpiło 9 września.

Rząd po raz pierwszy wyznaczył firmom technologicznym trzymiesięczny termin 8 czerwca. Urzędnicy resortu kultury i Home Office pracowali następnie z Apple i Google nad technicznymi planami działania.

Nandy przyznała, że obie firmy podjęły istotne zobowiązania. Powiedziała też, że opracowały zmiany na poziomie systemu operacyjnego, które przechodzą od rozmywania niektórych obrazów do blokowania ich na urządzeniach osób niepełnoletnich.

Ministrowie mimo to uznali, że propozycje nie spełniały ich celu. Rządowy plan ochrony urządzeń opiera się na trzech zasadach.

Po pierwsze, użytkownicy poniżej 18. roku życia nie powinni móc robić, oglądać ani wysyłać nagich zdjęć. Ograniczenie powinno obejmować aparaty w urządzeniach, wbudowane funkcje i aplikacje innych firm.

Po drugie, ochrona powinna być domyślnie aktywna. Rodzice i opiekunowie nie musieliby szukać ustawienia, instalować kolejnej aplikacji ani konfigurować każdej usługi osobno.

Po trzecie, aby wyłączyć ograniczenie, użytkownik musiałby potwierdzić pełnoletność za pomocą tego, co rząd nazywa solidnym potwierdzaniem wieku. Odpowiedzialność za rozróżnienie tych przypadków ponosiłby dostawca, a nie dziecko czy rodzic.

Zasady te przekształcają znaną funkcję kontroli rodzicielskiej w wymóg infrastrukturalny. Twórca aplikacji może moderować obrazy we własnej usłudze. Dostawca systemu operacyjnego może ingerować, gdy aparat rejestruje obraz, gdy oprogramowanie go otwiera lub gdy inna aplikacja próbuje go udostępnić.

Rząd rozważa również obowiązki dla aplikacji używanych przez dzieci. Rozszerzyłoby to odpowiedzialność poza Apple i Google, na usługi takie jak komunikatory i platformy społecznościowe.

Jednak w chwili ogłoszenia polityki nie opublikowano ostatecznego projektu ustawy. Rząd nie podał daty wdrożenia, standardu technicznego, modelu egzekwowania ani pełnej definicji zakazanej nagości.

W ogłoszeniu wskazano, że przepisy zostaną wprowadzone tak szybko, jak to możliwe, przy jednoczesnym uznaniu złożoności sprawy. Ministrowie pozostawili też możliwość ponownej oceny prawa, jeśli firmy niezależnie wprowadzą odpowiednie zabezpieczenia.

To zastrzeżenie ma znaczenie. Ogłoszenie rozpoczyna proces legislacyjny, a nie natychmiastowe ogólnokrajowe przełączenie. Między polityką a działającą blokadą wciąż stoją kontrola parlamentarna, konsultacje techniczne, zasady egzekwowania i okresy wdrożeniowe.

Główna zmiana pozostaje jednak jasna. Wielka Brytania nie uznaje już opcjonalnych ostrzeżeń w wybranych aplikacjach za wystarczającą odpowiedź na wykorzystywanie dzieci za pomocą obrazów.

Dlaczego Apple i Google znajdują się pod bezpośrednią presją

Apple i Google kontrolują warstwę, na której — zdaniem rządu — ochrona może towarzyszyć dziecku w każdej aplikacji.

Przepisy dotyczące bezpieczeństwa online tradycyjnie skupiały się na usługach, które hostują, rekomendują lub przesyłają treści. Proponowana polityka sięga głębiej w stos technologiczny.

Sieć społecznościowa może zablokować konto lub usunąć post. Usługa komunikacyjna może ograniczyć nieznane kontakty. Żadne z tych działań nie powstrzymuje dziecka przed utworzeniem obrazu aparatem ani przed przeniesieniem go przez inną aplikację.

Apple i Google zajmują inną pozycję. Ich systemy operacyjne pośredniczą w dostępie do aparatów, ekranów, pamięci masowej, menu udostępniania, kont i uprawnień aplikacji.

Ta kontrola czyni je głównymi celami presji rządu. Oznacza też, że każdy błąd techniczny może wpłynąć na znacznie więcej działań niż błąd w jednej platformie społecznościowej.

Argumentacja rządu zaczyna się od przymusu, a nie od dobrowolnie tworzonej treści dla dorosłych. Nandy powiedziała, że dzieci są uwodzone, manipulowane i szantażowane, by tworzyły intymne obrazy w usługach internetowych.

Jej oświadczenie w Izbie Gmin przywołało szacunek Internet Watch Foundation, według którego 91 procent istotnych obrazów jest tworzonych samodzielnie. Termin ten opisuje materiały powstałe, gdy dziecko fizycznie przebywa samo, choć do ich stworzenia może prowadzić przymus lub uwodzenie.

Nandy powiedziała również, że około 9 000 przestępstw seksualnego wykorzystywania dzieci rocznie zawiera element internetowy. Osoby poniżej 18. roku życia stanowią niemal jedną czwartą osób będących celem szantażu online, zgodnie z przedstawionymi przez nią danymi.

Fakty te wyjaśniają, dlaczego rząd chce ingerować, zanim obraz trafi na platformę. Gdy wymuszony obraz zostanie wysłany, sprawca może go skopiować, rozpowszechnić lub wykorzystać do wymuszenia seksualnego.

Blokada na poziomie urządzenia próbuje przerwać ten łańcuch wcześniej. Mogłaby zakłócić rejestrowanie, wyświetlanie lub przesyłanie, zanim materiał opuści kontrolę dziecka.

Rząd chce również zasady, która nie zależy od idealnej konfiguracji rodzicielskiej. Kontrole urządzeń rodzinnych często wymagają właściwego typu konta, aktualnego oprogramowania, aktywnej grupy rodzinnej oraz ustawień, które pozostają włączone.

Dzieci mogą korzystać z nieprawidłowo skonfigurowanego konta. Rodziny mogą współdzielić urządzenia. Nastolatek może otrzymać obraz przez aplikację, która nie korzysta z obecnego interfejsu bezpieczeństwa systemu operacyjnego.

Domyślna reguła ustawowa przeniosłaby odpowiedzialność za takie błędy konfiguracji na dostawców technologii. Apple i Google musiałyby wykazać, że zabezpieczenia działają konsekwentnie w przypadku zidentyfikowanych nieletnich użytkowników.

Ta presja wpisuje się w szerszy brytyjski zwrot w stronę usług uwzględniających wiek użytkownika. Online Safety Act już wymaga od objętych nim platform ochrony dzieci przed szkodliwymi treściami, w tym pornografią.

Ofcom poinformował, że odsetek dzieci napotykających wysoce skuteczne kontrole przy prośbie o potwierdzenie wieku wzrósł z 25 procent do 43 procent między lipcem 2025 r. a styczniem 2026 r. Jego ustalenia dotyczące kontroli wieku wskazały również luki w wyszukiwaniu, usługach randkowych i wnioskowaniu o wieku w mediach społecznościowych.

Regulator oczekuje, że systemy operacyjne, sklepy z aplikacjami i urządzenia odegrają większą rolę. Planuje opublikować raport o zabezpieczeniach sklepów z aplikacjami do stycznia 2027 r.

Apple i Google stoją więc wobec czegoś więcej niż pojedynczego żądania dotyczącego funkcji. Wielka Brytania buduje model, w którym zweryfikowany wiek wpływa na doświadczenie użytkownika we wszystkich usługach i funkcjach urządzenia.

Blokowanie nagich zdjęć przez Apple i Google zmienia model bezpieczeństwa

Kluczowy kompromis dotyczy wyboru między bardziej stanowczą blokadą działającą wcześnie a systemem ostrzeżeń, który zachowuje wybór użytkownika i ogranicza ingerencję w skali całego systemu.

Apple już domyślnie włącza funkcję Communication Safety dla dzieci poniżej 18. roku życia na obsługiwanych urządzeniach. Funkcja wykorzystuje uczenie maszynowe na urządzeniu do identyfikowania zdjęć lub filmów, które mogą zawierać nagość.

Przetwarzanie na urządzeniu oznacza, że klasyfikacja odbywa się lokalnie, zamiast przesyłać każdy obraz do inspekcji. Apple twierdzi, że nie otrzymuje obrazu ani informacji o wykryciu nagości.

Funkcja Communication Safety firmy Apple obejmuje Messages, AirDrop, funkcje FaceTime, udostępnione albumy, Contact Posters oraz niektóre przepływy udostępniania w aplikacjach innych firm. Zakres różni się zależnie od urządzenia.

Gdy system wykryje podejrzaną nagość, rozmywa treść i wyświetla wskazówki. Dziecko może opuścić rozmowę, zablokować kontakt, poszukać pomocy lub skontaktować się z zaufaną osobą dorosłą.

W przypadku dzieci poniżej 13. roku życia przed wyświetleniem wykrytej treści wymagany jest kod Screen Time. Starsze dzieci mogą zazwyczaj przejść dalej po dodatkowych ostrzeżeniach.

Google stosuje podobny model oparty na ostrzeżeniach w Google Messages. Ostrzeżenia o treściach wrażliwych są domyślnie włączone dla nadzorowanych użytkowników.

System rozmywa podejrzane nagie obrazy i wyświetla to, co Google nazywa „progiem zwalniającym”. Oferuje informacje o bezpieczeństwie i opcje blokowania, lecz nadal może pozwolić nadzorowanemu użytkownikowi wyświetlić, wysłać lub przekazać dalej treść.

Google twierdzi, że jego kontrole treści wrażliwych wykorzystują SafetyCore do lokalnego klasyfikowania obrazów. Dane umożliwiające identyfikację, treść oraz wyniki klasyfikacji nie są wysyłane na serwery Google.

SafetyCore przetwarza obraz tylko wtedy, gdy zintegrowana aplikacja żąda klasyfikacji. W udokumentowanym wdrożeniu Google Messages nie sprawdza stale każdego obrazu obsługiwanego przez każdą aplikację na Androidzie.

Brytyjska propozycja wymaga innego rezultatu. Ostrzeżenie prosi użytkownika o ponowne rozważenie decyzji. Blokada odbiera wybór każdemu, kto zostanie sklasyfikowany jako dziecko.

Wymaga również szerszego zasięgu. Obecne mechanizmy działają w określonych aplikacjach i ścieżkach udostępniania. Rząd chce, by ochrona obejmowała aparat i aplikacje innych firm w całym urządzeniu.

Ta różnica rodzi trudne pytania inżynieryjne. Apple i Google muszą ustalić, którzy użytkownicy mają mniej niż 18 lat, dokładnie wykrywać nagość, uniemożliwiać aplikacjom omijanie wyniku i unikać wysyłania prywatnych mediów do centralnej usługi.

Muszą także zdecydować, gdzie następuje interwencja. System mógłby klasyfikować obraz z aparatu przed zapisaniem, sprawdzać pliki, gdy aplikacja prosi o dostęp, analizować piksele wyświetlane na ekranie lub łączyć kilka punktów kontrolnych.

Każde podejście ma ograniczenia. Kontrole na poziomie aparatu mogą nie wykrywać importowanych plików. Kontrole w menu udostępniania mogą pomijać aplikacje korzystające z własnych systemów przesyłania. Analiza ekranu zapewniałaby szerokie pokrycie, ale także szerszy wpływ na prywatność.

Szyfrowane komunikatory dodają kolejną warstwę. Szyfrowanie end-to-end chroni treść podczas przesyłania między uczestnikami, lecz urządzenie nadal musi wyświetlić odszyfrowany obraz odbiorcy.

Lokalna klasyfikacja może działać przed szyfrowaniem lub po odszyfrowaniu, nie dając usłudze czytelnej kopii podczas przesyłania. Taka konstrukcja nie łamie automatycznie szyfrowania.

Krytycy rozróżniają jednak szyfrowanie od prywatności na urządzeniu końcowym. Wiadomość może pozostać zaszyfrowana podczas transmisji, podczas gdy oprogramowanie w telefonie ocenia jej treść.

Wielka Brytania nie opublikowała jeszcze wystarczających szczegółów technicznych, aby ustalić, jakiego projektu będzie wymagać. Twierdzenia, że propozycja z konieczności wysyła każde zdjęcie na serwer rządowy, nie są poparte dowodami.

Równie przedwczesne jest twierdzenie przeciwne. Przetwarzanie na urządzeniu ogranicza ekspozycję, lecz szczegóły wdrożenia decydują o tym, jakie dane są zachowywane, czy wykrycia są zgłaszane oraz w jaki sposób modele otrzymują aktualizacje.

Bezwzględna blokada wymaga również wysokiego standardu dokładności. Fałszywie pozytywny wynik mógłby zablokować rodzinne zdjęcia, informacje zdrowotne, dzieła sztuki, materiały edukacyjne lub dowody, które ktoś musi zachować.

Fałszywie negatywny wynik mógłby przepuścić materiał będący celem kontroli. Sprawcy mogą też przycinać, zniekształcać, zasłaniać lub przekształcać obrazy, aby oszukać klasyfikator.

Kontrole bezpieczeństwa dzieci Apple i Google muszą zatem rozwiązać problem szerszy niż rozpoznawanie odsłoniętej skóry. Muszą podejmować wiarygodne decyzje niezależnie od wieku, typu sylwetki, warunków oświetleniowych, kontekstu medycznego, uwarunkowań kulturowych i mediów syntetycznych.

Pożądany przez rząd rezultat łatwo opisać. Mechanizm potrzebny, by osiągnąć go bez nadmiernych skutków ubocznych, już nie.

Weryfikacja wieku i prywatność są najtrudniejszymi testami

Wykrywanie nagości to tylko połowa systemu, ponieważ domyślna blokada nie może działać bez ustalenia, kto jest osobą dorosłą.

Zasada rządu mówi, że dorośli powinni zweryfikować swój wiek przed uzyskaniem dostępu do nieograniczonych funkcji urządzenia. Tworzy to drugi system techniczny, działający obok klasyfikacji obrazów.

Weryfikacja wieku to szeroka kategoria obejmująca metody ustalania lub szacowania, czy ktoś osiągnął próg wieku. Opcje obejmują dokumenty tożsamości, dane płatnicze, szacowanie wieku na podstawie twarzy, zaufane dane konta lub potwierdzenie od innego dostawcy.

Ostateczny wybór wpłynie na konsekwencje polityki dla prywatności. Metoda przechowująca dokumenty tożsamości niesie inne ryzyka niż wielokrotnego użytku potwierdzenie, że dana osoba ma ponad 18 lat.

Apple już wykorzystuje zadeklarowany wiek, konta dziecięce i ustawienia rodzinne do dostosowywania zabezpieczeń. Google używa kont nadzorowanych i Family Link w udokumentowanych kontrolach Messages.

Systemy te mogą identyfikować wiele dzieci, ale nie potwierdzają wieku każdego użytkownika urządzenia. Konta mogą zawierać błędne daty urodzenia, a urządzenia mogą przechodzić między członkami rodziny.

Rząd chce, aby dostawcy ponosili ciężar ustalenia pełnoletności. Mogłoby to wywierać presję na firmy, by weryfikowały więcej użytkowników, w tym dorosłych, którzy nigdy nie korzystają z kontroli rodzicielskiej.

Open Rights Group i inne organizacje społeczeństwa obywatelskiego ostrzegały, że rozszerzanie bramek wiekowych może wymagać szerokiej weryfikacji tożsamości. Ich ostrzeżenie dotyczące prywatności argumentuje, że takie systemy mogą ujawniać wrażliwe dane osobowe i ograniczać zwykły dostęp.

Ta obawa nie eliminuje szkody, której ministrowie chcą przeciwdziałać. Pokazuje, dlaczego ustawodawstwo musi określać minimalizację danych, limity retencji, wymogi bezpieczeństwa, ścieżki odwoławcze i niezależne testy.

Projekt najbardziej chroniący prywatność ujawniałby jedynie niezbędny fakt. Usługa musi wiedzieć, że użytkownik spełnia określony próg, a niekoniecznie znać jego imię, adres czy datę urodzenia.

Nawet ten ograniczony sygnał musi pozostawać dokładny w przypadku współdzielonych urządzeń. Zweryfikowany dorosły nie powinien móc pozostawić konta dziecka trwale bez ograniczeń, a dziecko nie powinno zostać pozbawione dostępu do legalnych materiałów bez możliwości odwołania.

Błędy klasyfikacji stwarzają kolejny problem związany z odpowiedzialnością. Obecne systemy ostrzegawcze pozostawiają drogę wyjścia, ponieważ maszyna może się mylić.

Prawna bezwzględna blokada wymaga sposobu zakwestionowania takiej decyzji. Mechanizm odwoławczy, który pozwalałby jednak dziecku natychmiast ominąć każdy wynik, podważyłby politykę.

Ustawodawstwo będzie musiało zdefiniować wyjątki lub procedury weryfikacji bez tworzenia łatwego obejścia dla sprawców. Musi też wyjaśnić, czy rodzice mogą uchylić blokadę i w jakich okolicznościach.

Zakres rodzi dalszą niepewność. „Nagie obrazy” to pojęcie szersze niż nielegalne materiały przedstawiające seksualne wykorzystywanie dzieci. Może obejmować legalne treści dla dorosłych i nieszkodliwe obrazy pozbawione jakiegokolwiek kontekstu seksualnego.

Cel rządu obejmuje zarówno wykonywanie, jak i otrzymywanie obrazów. Rodzi to pytania o fotografie medyczne, dowody służące ochronie, karmienie piersią, zdjęcia rodzinne i zasoby edukacyjne.

Ustawodawcy nie muszą publikować w ustawie modelu uczenia maszynowego. Muszą jednak wystarczająco precyzyjnie zdefiniować oczekiwany rezultat, aby dostawcy, regulatorzy, sądy i użytkownicy mogli go zrozumieć.

Niezależne testy wydajności będą niezbędne. Deklaracje dotyczące dokładności powinny obejmować wyniki fałszywie pozytywne i fałszywie negatywne na realistycznych urządzeniach oraz treściach, a nie tylko na starannie dobranym zestawie testowym.

Testy powinny również badać próby obejścia wykrywania. Model działający na zwykłych fotografiach może działać inaczej na zrzutach ekranu, kolażach, rysunkach, obrazach generowanych lub mocno edytowanych plikach.

Rząd stwierdził, że dorośli, którzy zweryfikują swój wiek, powinni pozostać nieobjęci ograniczeniami. Dopóki nie zostaną opublikowane zabezpieczenia techniczne i prawne, obietnica ta pozostaje celem, a nie wykazanym rezultatem.

Apple i Google prawdopodobnie będą argumentować, że ich lokalne przetwarzanie już zapewnia podstawę. Obrońcy prywatności skupią się na tym, czy ta podstawa rozszerza się w ciągłą inspekcję urządzeń końcowych.

Oba pytania powinny należeć do tej samej oceny. System bezpieczeństwa dzieci może ograniczać jedną poważną szkodę, jednocześnie wprowadzając inną, jeśli gromadzi nadmierne dane tożsamościowe lub blokuje legalne materiały bez możliwości weryfikacji.

Trzy sygnały pokażą, co naprawdę oznacza prawo

Projekt ustawy, wdrożenia platform i wyniki niezależnych testów zdecydują, czy stanie się to ukierunkowaną ochroną dzieci, czy precedensem szerokiej kontroli urządzeń.

Pierwszym sygnałem jest tekst podstawowego ustawodawstwa. Czytelnicy powinni zwrócić uwagę na objęte nim firmy, definicję nagości, uprawnienia egzekucyjne i harmonogram.

Najważniejszym szczegółem będzie zakres. Obowiązek ograniczony do systemów operacyjnych na zidentyfikowanych kontach dziecięcych różni się od wymogu obejmującego każdy ekran, plik i aplikację na każdym urządzeniu w Wielkiej Brytanii.

Projekt ustawy powinien również wskazać regulatora i standard zgodności. Bez tych elementów firmy nie mogą wiedzieć, jak będą oceniane dokładność, prywatność i odporność na obchodzenie zabezpieczeń.

Jasne zabezpieczenia wzmocniłyby argumentację rządu. Nieprecyzyjne uprawnienie do rozszerzania kategorii skanowania lub gromadzenia danych tożsamościowych wzmocniłoby obawy krytyków.

Drugim sygnałem jest harmonogram wdrożenia przedstawiony przez Apple i Google. Nandy powiedziała, że obie firmy podjęły istotne zobowiązania, ale rząd nie opublikował ich pełnych propozycji.

Warto obserwować, czy Apple rozszerzy Communication Safety do prawdziwej blokady obejmującej całe urządzenie. Obecny system już obejmuje kilka usług własnych i wybrane działania związane z udostępnianiem w aplikacjach firm trzecich.

W przypadku Google pytanie brzmi, czy SafetyCore rozszerzy się poza Google Messages. Model aplikacyjny Androida obejmuje usługi Google, oprogramowanie producentów, alternatywne aplikacje do przesyłania wiadomości i zróżnicowany sprzęt.

Spójna reguła Androida może zatem wymagać nowych interfejsów systemu operacyjnego i prac związanych ze zgodnością po stronie producentów urządzeń. Może też wymagać od twórców aplikacji używania standardowej warstwy klasyfikacji lub polityki.

Architektura prywatności firm ma takie samo znaczenie jak zasięg funkcji. Lokalna klasyfikacja, ograniczona telemetria, przejrzyste aktualizacje modeli i wąsko określone potwierdzenia wieku ograniczyłyby część ryzyk.

Inspekcja po stronie serwera, szerokie raportowanie zdarzeń lub trwałe przechowywanie danych tożsamościowych zmieniłyby ocenę. Żadna z firm nie zobowiązała się publicznie do takiego projektu w materiałach dostępnych w chwili ogłoszenia.

Trzecim sygnałem są niezależne dowody dotyczące rzeczywistej skuteczności. Oświadczenia rządowe i demonstracje firm nie mogą zastąpić testów w warunkach normalnego użytkowania przez rodziny.

Ewaluatorzy powinni mierzyć, czy kontrola zatrzymuje wykonywanie, wyświetlanie i udostępnianie obrazów w aplikacjach wbudowanych oraz aplikacjach firm trzecich. Powinni osobno raportować wskaźniki wyników fałszywie pozytywnych i fałszywie negatywnych.

Testy powinny obejmować obrazy o legalnych kontekstach i modyfikacjach o charakterze adwersarialnym. Powinny także badać, co dzieje się, gdy konta są błędnie skonfigurowane lub urządzenia są współdzielone.

Zachowanie użytkowników dostarczy kolejnej części tych dowodów. Jeśli dzieci przeniosą się na niezarządzane urządzenia, narzędzia oparte na przeglądarce lub alternatywne metody transferu, polityka może przesuwać ryzyko zamiast je eliminować.

Nie oznacza to, że zapobieganie jest bezcelowe. Oznacza to, że kontrola urządzeń musi funkcjonować obok wsparcia dla ofiar, moderacji platform, dochodzeń wobec sprawców, bezpieczniejszych domyślnych ustawień kontaktów oraz edukacji dotyczącej przymusu.

Czerwcowe zasady Ofcom już zobowiązują usługi komunikatorów i mediów społecznościowych do przeciwdziałania ryzyku cyberflashing i groomingu. Oczekuje się, że usługi z bezpośrednimi wiadomościami oraz ryzykiem groomingu będą domyślnie ograniczać kontakt dzieci z nieznajomymi.

Ochrona na poziomie urządzenia mogłaby zamknąć luki między tymi usługami. Nie może zastąpić obowiązków platform, na których sprawcy znajdują dzieci, kontaktują się z nimi i manipulują nimi.

Znaczenie będzie miała również reakcja międzynarodowa. Jeśli Wielka Brytania stworzy wykonalny standard, inne rządy mogą skopiować jego połączenie weryfikacji wieku i lokalnej kontroli treści.

Jeśli wdrożenie doprowadzi do nadmiernego blokowania, naruszeń danych lub powszechnego obchodzenia zabezpieczeń, polityka może zamiast tego stać się ostrzeżeniem przed regulowaniem złożonych systemów poprzez absolutny rezultat.

Blokowanie nagich obrazów przez Apple i Google jest więc czymś większym niż kolejna aktualizacja kontroli rodzicielskiej. Wymaga od dwóch dostawców systemów operacyjnych egzekwowania prawnego rozróżnienia wewnątrz najbardziej osobistych komputerów, jakie posiadają ludzie.

Argument za ochroną dzieci jest bezpośredni i pilny. Obrazy tworzone pod przymusem mogą stać się narzędziami powtarzającego się nadużycia, szantażu i rozpowszechniania.

Nierozstrzygnięte pytanie brzmi, czy ustawodawcy potrafią przełożyć tę pilność na precyzyjny obowiązek techniczny. Nadchodzący projekt ustawy musi określić, kto jest objęty, co zostaje zablokowane, jak ustala się pełnoletność i jak korygowane są błędy.

Czytelnicy powinni oceniać tę politykę przez pryzmat tych konkretnych szczegółów, a nie haseł dotyczących bezpieczeństwa lub inwigilacji. Należy domagać się opublikowanych standardów, niezależnych testów i ścisłych ograniczeń dotyczących danych tożsamościowych.

Jeśli Wielka Brytania zdoła wymagać skutecznych zabezpieczeń przy zachowaniu lokalnego charakteru klasyfikacji i funkcjonalnych odwołań, ustanowi istotny model ochrony dzieci. Jeśli zabezpieczenia te pozostaną nieprecyzyjne, to samo prawo może znormalizować znacznie szerszą kontrolę nad prywatnymi urządzeniami.