Apple und Google: Sperrung von Nacktbildern steht vor britischer Gesetzespflicht
Apple und Google stehen nun vor einer britischen Gesetzespflicht, nachdem dreimonatige Gespräche nicht die von Ministern geforderten Kinderschutzmaßnahmen hervorgebracht haben.
Die vorgeschlagenen Regeln zur Sperrung von Nacktbildern bei Apple und Google würden es Personen unter 18 Jahren unmöglich machen, Nacktbilder aufzunehmen, anzusehen oder zu versenden. Der Schutz würde über Kameras, Messaging-Dienste und Drittanbieter-Apps hinweg gelten, statt bei ausgewählten Diensten zu enden.
Das wäre ein deutlich weitergehender Eingriff als die bereits in iPhones und Android-Geräten integrierten Warnungen. Diese Systeme erkennen in der Regel mutmaßliche Nacktheit auf dem Gerät, verwischen das Bild und erlauben manchen Nutzern, dennoch fortzufahren. Das Vereinigte Königreich will eine standardmäßige Sperre, die nur verifizierte Erwachsene deaktivieren können.
Im Streit geht es daher nicht darum, ob Technologie Nacktheit erkennen kann. Apple und Google nutzen dafür bereits Klassifizierung direkt auf dem Gerät. Es geht darum, ob Anbieter von Betriebssystemen eine Schutzwarnung in eine verpflichtende Kontrolle für ein gesamtes Gerät verwandeln sollten.
Die Regierung erklärt, Gesetzgebung sei nun notwendig, weil freiwillige Vorschläge dem Ausmaß von Online-Grooming, Nötigung und sexueller Erpressung nicht gerecht geworden seien. Datenschutzvertreter entgegnen, dass universelle Altersprüfungen und Inhaltsklassifizierung eigene Risiken schaffen können.
Die britische Vorgabe geht über Warnungen auf App-Ebene hinaus
Die Regierung will den Kinderschutz durch das Betriebssystem durchsetzen lassen, statt ihn Eltern oder einzelnen Apps zu überlassen.
Kulturministerin Lisa Nandy teilte dem Parlament am 8. September mit, dass die Regierung ein Primärgesetz für Schutzmaßnahmen auf Geräteebene einbringen werde. Eine offizielle Ankündigung folgte am 9. September.
Die Regierung hatte Technologieunternehmen erstmals am 8. Juni eine Frist von drei Monaten gesetzt. Beamte des Kulturministeriums und des Innenministeriums arbeiteten anschließend mit Apple und Google an technischen Fahrplänen.
Nandy räumte ein, dass beide Unternehmen erhebliche Zusagen gemacht hätten. Sie sagte außerdem, sie hätten Änderungen auf Betriebssystemebene entwickelt, die vom Verwischen mancher Bilder zu deren Sperrung auf Geräten Minderjähriger übergehen.
Die Minister kamen dennoch zu dem Schluss, dass die Vorschläge ihr Ziel nicht erfüllten. Der Plan der Regierung zum Geräteschutz beruht auf drei Grundsätzen.
Erstens sollten Nutzer unter 18 Jahren keine Nacktbilder aufnehmen, ansehen oder versenden können. Die Einschränkung soll Gerätekameras, integrierte Funktionen und Drittanbieter-Apps umfassen.
Zweitens soll der Schutz standardmäßig aktiv sein. Eltern und Betreuende müssten keine Einstellung suchen, keine weitere Anwendung installieren oder jeden Dienst separat konfigurieren.
Drittens soll ein Nutzer seine Volljährigkeit durch das nach Auffassung der Regierung robuste Verfahren der Altersverifikation nachweisen müssen, bevor die Einschränkung deaktiviert werden kann. Die Verantwortung für diese Unterscheidung läge beim Anbieter und nicht beim Kind oder den Eltern.
Diese Grundsätze machen aus einer bekannten Funktion zur elterlichen Kontrolle eine Infrastrukturvorgabe. Ein App-Entwickler kann Bilder innerhalb seines eigenen Dienstes moderieren. Ein Betriebssystemanbieter kann eingreifen, wenn eine Kamera ein Bild aufnimmt, Software es öffnet oder eine andere App versucht, es zu teilen.
Die Regierung erwägt außerdem Pflichten für Apps, die von Kindern genutzt werden. Damit würde sich die Verantwortung über Apple und Google hinaus auf Dienste wie Messaging- und Social-Media-Plattformen erstrecken.
Zum Zeitpunkt der politischen Ankündigung lag jedoch kein endgültiger Gesetzentwurf vor. Die Regierung hatte weder einen Umsetzungstermin noch einen technischen Standard, ein Durchsetzungsmodell oder eine vollständige Definition verbotener Nacktheit veröffentlicht.
In ihrer Ankündigung hieß es, die Gesetzgebung werde so bald wie möglich vorgelegt, wobei die Komplexität des Themas anerkannt werde. Die Minister ließen zudem die Möglichkeit offen, das Gesetz neu zu bewerten, falls Unternehmen eigenständig angemessene Schutzmaßnahmen einführen.
Diese Einschränkung ist wichtig. Die Ankündigung leitet einen Gesetzgebungsprozess ein, keine sofortige landesweite Umstellung. Parlamentarische Prüfung, technische Konsultationen, Durchsetzungsregeln und Umsetzungsfristen liegen noch zwischen der Politik und einer funktionierenden Sperre.
Die zentrale Änderung bleibt dennoch klar. Das Vereinigte Königreich akzeptiert optionale Warnungen in ausgewählten Apps nicht länger als ausreichende Antwort auf bildbasierte Ausbeutung von Kindern.
Warum Apple und Google direkt unter Druck stehen
Apple und Google kontrollieren die Ebene, auf der die Regierung glaubt, dass Schutz einem Kind über jede App hinweg folgen kann.
Die Regulierung der Online-Sicherheit konzentrierte sich traditionell auf Dienste, die Inhalte hosten, empfehlen oder übertragen. Die vorgeschlagene Politik greift tiefer in den Technologiestack ein.
Ein soziales Netzwerk kann ein Konto sperren oder einen Beitrag entfernen. Ein Messaging-Dienst kann unbekannte Kontakte einschränken. Keine dieser Maßnahmen hindert ein Kind daran, mit der Kamera ein Bild zu erstellen oder es über eine andere Anwendung weiterzugeben.
Apple und Google befinden sich in einer anderen Position. Ihre Betriebssysteme vermitteln den Zugriff auf Kameras, Bildschirme, Speicher, Freigabemenüs, Konten und App-Berechtigungen.
Diese Kontrolle macht sie zu den primären Zielen des Drucks durch die Regierung. Sie bedeutet aber auch, dass jeder technische Fehler weit mehr Aktivitäten betreffen kann als ein Fehler innerhalb einer einzelnen sozialen Plattform.
Die Argumentation der Regierung beginnt bei Nötigung und nicht bei einvernehmlichen Inhalten Erwachsener. Nandy sagte, Kinder würden über Online-Dienste dazu gebracht, manipuliert und erpresst, intime Bilder zu erstellen.
Ihre Erklärung im Unterhaus verwies auf eine Schätzung der Internet Watch Foundation, wonach 91 Prozent der relevanten Bilder selbst erstellt seien. Der Begriff beschreibt Material, das entsteht, wenn ein Kind offenbar körperlich allein ist, auch wenn Nötigung oder Grooming seine Erstellung ausgelöst haben können.
Nandy sagte zudem, dass jährlich rund 9.000 Straftaten des sexuellen Kindesmissbrauchs einen Online-Bezug hätten. Nach den von ihr vorgelegten Zahlen entfällt auf Menschen unter 18 Jahren fast ein Viertel der Betroffenen von Online-Erpressung.
Diese Tatsachen erklären, warum die Regierung eingreifen will, bevor ein Bild eine Plattform erreicht. Sobald ein unter Zwang entstandenes Bild versendet wurde, kann ein Täter es kopieren, weiterverbreiten oder für sexuelle Erpressung nutzen.
Eine Sperre auf Geräteebene versucht, diese Kette früher zu unterbrechen. Sie könnte Aufnahme, Anzeige oder Übertragung verhindern, bevor das Material die Kontrolle des Kindes verlässt.
Die Regierung will außerdem eine Regel, die nicht von einer perfekten Einrichtung durch Eltern abhängt. Steuerungen für Familiengeräte erfordern häufig den richtigen Kontotyp, aktuelle Software, eine aktive Familiengruppe und Einstellungen, die aktiviert bleiben.
Kinder können ein falsch konfiguriertes Konto nutzen. Familien können Geräte gemeinsam verwenden. Ein Teenager kann ein Bild über eine App erhalten, die nicht die vorhandene Sicherheitsoberfläche des Betriebssystems nutzt.
Eine gesetzliche Standardeinstellung würde diese Konfigurationsfehler auf Technologieanbieter verlagern. Apple und Google müssten nachweisen, dass Schutzmaßnahmen bei identifizierten minderjährigen Nutzern zuverlässig funktionieren.
Dieser Druck passt zu einer breiteren britischen Entwicklung hin zu altersbewussten Diensten. Der Online Safety Act verpflichtet betroffene Plattformen bereits dazu, Kinder vor schädlichen Inhalten einschließlich Pornografie zu schützen.
Ofcom berichtete, dass der Anteil der Kinder, die beim Nachweis ihres Alters auf hochwirksame Prüfungen trafen, zwischen Juli 2025 und Januar 2026 von 25 Prozent auf 43 Prozent stieg. Seine Ergebnisse zu Altersprüfungen zeigten zudem Lücken bei Suche, Dating-Diensten und der Altersschätzung in sozialen Medien auf.
Die Regulierungsbehörde erwartet, dass Betriebssysteme, App-Stores und Geräte eine größere Rolle übernehmen. Sie plant, bis Januar 2027 über Schutzmaßnahmen in App-Stores zu berichten.
Apple und Google sehen sich daher mit mehr als einer isolierten Funktionsanforderung konfrontiert. Das Vereinigte Königreich entwickelt ein Modell, in dem ein verifiziertes Alter die Nutzungserfahrung über Dienste und Gerätefunktionen hinweg beeinflusst.
Die Sperrung von Nacktbildern bei Apple und Google verändert das Sicherheitsmodell
Der zentrale Zielkonflikt besteht zwischen einer strengeren Sperre, die früh greift, und einem Warnsystem, das Nutzern Wahlfreiheit lässt und Eingriffe auf Systemebene begrenzt.
Apple aktiviert Communication Safety auf unterstützten Geräten bereits standardmäßig für Kinder unter 18 Jahren. Die Funktion nutzt maschinelles Lernen auf dem Gerät, um Fotos oder Videos zu erkennen, die offenbar Nacktheit enthalten.
Verarbeitung auf dem Gerät bedeutet, dass die Klassifizierung lokal erfolgt, anstatt jedes Bild zur Prüfung hochzuladen. Apple erklärt, dass es weder das Bild noch einen Hinweis darauf erhält, dass Nacktheit erkannt wurde.
Apples Communication Safety umfasst Messages, AirDrop, FaceTime-Funktionen, geteilte Alben, Contact Posters und einige Freigabeabläufe von Drittanbietern. Die Abdeckung variiert je nach Gerät.
Wenn das System mutmaßliche Nacktheit erkennt, verwischt es den Inhalt und zeigt Hinweise an. Ein Kind kann die Unterhaltung verlassen, einen Kontakt blockieren, Hilfe suchen oder einen vertrauenswürdigen Erwachsenen kontaktieren.
Für Kinder unter 13 Jahren ist ein Screen Time-Code erforderlich, bevor erkannte Inhalte angezeigt werden. Ältere Kinder können die Intervention nach zusätzlichen Warnungen in der Regel umgehen.
Google verfolgt in Google Messages ein ähnliches warnbasiertes Modell. Warnungen zu sensiblen Inhalten sind für beaufsichtigte Nutzer standardmäßig aktiviert.
Das System verwischt mutmaßliche Nacktbilder und zeigt, was Google als „Speed Bump“ bezeichnet. Es bietet Sicherheitsinformationen und Blockieroptionen, kann einem beaufsichtigten Nutzer aber weiterhin erlauben, den Inhalt anzusehen, zu senden oder weiterzuleiten.
Google erklärt, dass seine Steuerungen für sensible Inhalte SafetyCore zur lokalen Klassifizierung von Bildern nutzen. Identifizierbare Daten, Inhalte und Klassifizierungsergebnisse werden nicht an die Server von Google gesendet.
SafetyCore verarbeitet ein Bild nur, wenn eine integrierte App eine Klassifizierung anfordert. In der dokumentierten Google-Messages-Implementierung untersucht es nicht fortlaufend jedes Bild, das von jeder Android-App verarbeitet wird.
Der britische Vorschlag verlangt ein anderes Ergebnis. Eine Warnung fordert den Nutzer zum Umdenken auf. Eine Sperre nimmt jedem Nutzer, der als Kind eingestuft wird, diese Wahl.
Er verlangt zudem eine größere Reichweite. Aktuelle Steuerungen funktionieren innerhalb definierter Anwendungen und Freigabepfade. Die Regierung will, dass der Schutz die Kamera und Drittanbieter-Apps auf dem gesamten Gerät umfasst.
Dieser Unterschied wirft schwierige technische Fragen auf. Apple und Google müssen erkennen, welche Nutzer unter 18 sind, Nacktheit zuverlässig feststellen, verhindern, dass Anwendungen das Ergebnis umgehen, und vermeiden, private Medien an einen zentralen Dienst zu senden.
Sie müssen außerdem entscheiden, wo der Eingriff erfolgt. Ein System könnte die Kameraausgabe vor dem Speichern klassifizieren, Dateien prüfen, wenn eine App Zugriff anfordert, auf dem Bildschirm angezeigte Pixel analysieren oder mehrere Kontrollpunkte kombinieren.
Jeder Ansatz hat Grenzen. Kontrollen auf Kameraebene könnten importierte Dateien übersehen. Kontrollen über das Freigabemenü könnten Apps übersehen, die eigene Übertragungssysteme nutzen. Die Bildschirmanalyse hätte eine breite Abdeckung, aber auch einen größeren Eingriff in die Privatsphäre.
Ende-zu-Ende-Verschlüsselung fügt eine weitere Ebene hinzu. Sie schützt Inhalte während der Übertragung zwischen Teilnehmern, doch ein Gerät muss das entschlüsselte Bild dem Empfänger weiterhin anzeigen.
Lokale Klassifizierung kann vor der Verschlüsselung oder nach der Entschlüsselung erfolgen, ohne dem Dienst während der Übertragung eine lesbare Kopie zu geben. Dieses Design bricht die Verschlüsselung nicht automatisch.
Kritiker unterscheiden jedoch zwischen Verschlüsselung und Datenschutz am Endpunkt. Eine Nachricht kann während der Übertragung verschlüsselt bleiben, während Software auf dem Telefon ihren Inhalt bewertet.
Das Vereinigte Königreich hat bislang nicht genügend technische Details veröffentlicht, um festzustellen, welches Design es verlangen wird. Behauptungen, der Vorschlag sende zwangsläufig jedes Foto an einen Regierungsserver, sind nicht belegt.
Die gegenteilige Behauptung ist ebenfalls verfrüht. Verarbeitung auf dem Gerät verringert die Offenlegung, doch die Implementierungsdetails bestimmen, welche Daten gespeichert werden, ob Erkennungen gemeldet werden und wie Modelle Updates erhalten.
Ein striktes Blockieren erfordert zudem einen hohen Genauigkeitsstandard. Ein Fehlalarm könnte Familienfotos, Gesundheitsinformationen, Kunst, Bildungsmaterial oder Beweise behindern, die jemand bewahren muss.
Ein übersehener Treffer könnte dazu führen, dass das anvisierte Material durchgelassen wird. Täter könnten Bilder außerdem zuschneiden, verzerren, überdecken oder verändern, um einen Klassifikator zu umgehen.
Die Kinderschutzkontrollen von Apple und Google müssen daher ein umfassenderes Problem lösen als die Erkennung entblößter Haut. Sie müssen verlässliche Entscheidungen über Altersgruppen, Körperformen, Lichtverhältnisse, medizinische Kontexte, kulturelle Situationen und synthetische Medien hinweg liefern.
Das von der Regierung angestrebte Ergebnis lässt sich einfach beschreiben. Der Mechanismus, der es ohne übermäßige Kollateraleffekte erreichen soll, nicht.
Altersverifikation und Datenschutz sind die härtesten Prüfsteine
Die Nacktheitserkennung ist nur die Hälfte des Systems, denn eine standardmäßige Sperre kann nicht funktionieren, ohne zu entscheiden, wer erwachsen ist.
Der Grundsatz der Regierung besagt, dass Erwachsene ihr Alter bestätigen sollten, bevor sie auf uneingeschränkte Gerätefunktionen zugreifen. Dadurch entsteht neben der Bildklassifizierung ein zweites technisches System.
Altersverifikation ist eine breite Kategorie, die Methoden umfasst, mit denen festgestellt oder geschätzt wird, ob jemand eine Altersgrenze erreicht. Zu den Optionen gehören Ausweisdokumente, Zahlungsdaten, Gesichtsschätzungen des Alters, vertrauenswürdige Kontodatensätze oder eine Bestätigung durch einen anderen Anbieter.
Die letztliche Wahl wird die Auswirkungen der Politik auf die Privatsphäre prägen. Eine Methode, die Ausweisdokumente speichert, birgt andere Risiken als ein wiederverwendbarer Nachweis, der lediglich bestätigt, dass jemand über 18 ist.
Apple nutzt bereits angegebene Altersangaben, Kinderkonten und Familieneinstellungen, um Schutzmaßnahmen anzupassen. Google nutzt beaufsichtigte Konten und Family Link für die dokumentierten Controls in Messages.
Diese Systeme können viele Kinder identifizieren, beweisen jedoch nicht das Alter jedes Gerätenutzers. Konten können falsche Geburtsdaten enthalten, und Geräte können zwischen Familienmitgliedern wechseln.
Die Regierung möchte den Anbietern die Verantwortung für die Feststellung der Volljährigkeit übertragen. Das könnte Unternehmen dazu drängen, mehr Nutzer zu überprüfen, einschließlich Erwachsener, die niemals Jugendschutzfunktionen nutzen.
Open Rights Group und andere zivilgesellschaftliche Organisationen haben gewarnt, dass ausgeweitete Alterskontrollen umfassende Identitätsprüfungen erfordern können. Ihre Datenschutzwarnung argumentiert, dass solche Systeme sensible personenbezogene Daten offenlegen und den gewöhnlichen Zugang einschränken können.
Diese Sorge beseitigt nicht den Schaden, den Minister angehen wollen. Sie zeigt, warum die Gesetzgebung Datenminimierung, Aufbewahrungsgrenzen, Sicherheitsanforderungen, Beschwerdewege und unabhängige Tests festlegen muss.
Das datenschutzfreundlichste Design würde nur die erforderliche Tatsache offenlegen. Ein Dienst muss wissen, dass ein Nutzer einen Schwellenwert erfüllt, nicht unbedingt dessen Namen, Adresse oder Geburtsdatum.
Selbst dieses begrenzte Signal muss auf gemeinsam genutzten Geräten korrekt bleiben. Ein verifizierter Erwachsener sollte nicht in der Lage sein, ein Kinderkonto dauerhaft uneingeschränkt zu lassen; zugleich sollte ein Kind nicht ohne Rechtsmittel von legitimem Material ausgeschlossen werden.
Klassifizierungsfehler schaffen ein weiteres Verantwortungsproblem. Aktuelle Warnsysteme lassen einen Ausweg offen, weil eine Maschine falsch liegen kann.
Eine gesetzliche harte Sperre benötigt eine Möglichkeit, diese Entscheidung anzufechten. Doch ein Einspruchsmechanismus, der einem Kind erlaubt, jedes Ergebnis sofort zu umgehen, würde die Politik untergraben.
Die Gesetzgebung wird Ausnahmen oder Prüfverfahren definieren müssen, ohne eine einfache Umgehungsmöglichkeit für Täter zu schaffen. Sie muss außerdem erklären, ob Eltern eine Sperre aufheben können und unter welchen Umständen.
Der Geltungsbereich schafft weitere Unsicherheit. „Nacktbilder“ ist weiter gefasst als illegales Material über sexuellen Kindesmissbrauch. Der Ausdruck kann rechtmäßige Inhalte für Erwachsene und harmlose Bilder ohne sexuellen Kontext umfassen.
Das Ziel der Regierung betrifft sowohl das Aufnehmen als auch das Empfangen von Bildern. Das wirft Fragen zu medizinischen Fotografien, Beweisen zum Schutz Betroffener, Stillen, Familienbildern und Bildungsmaterialien auf.
Gesetzgeber müssen kein Machine-Learning-Modell im Gesetz veröffentlichen. Sie müssen das erwartete Ergebnis jedoch präzise genug definieren, damit Anbieter, Regulierungsbehörden, Gerichte und Nutzer es verstehen können.
Unabhängige Leistungstests werden unverzichtbar sein. Genauigkeitsangaben sollten Fehlalarme und übersehene Treffer auf realistischen Geräten und bei realistischen Inhalten abdecken, nicht nur einen kuratierten Testsatz.
Tests sollten auch Versuche zur Umgehung der Erkennung untersuchen. Ein Modell, das bei gewöhnlichen Fotografien funktioniert, kann bei Screenshots, Collagen, Zeichnungen, generierten Bildern oder stark bearbeiteten Dateien anders abschneiden.
Die Regierung hat erklärt, Erwachsene, die ihr Alter bestätigen, sollten unbeeinträchtigt bleiben. Solange technische und rechtliche Schutzvorkehrungen nicht veröffentlicht sind, bleibt dieses Versprechen ein Ziel und kein nachgewiesenes Ergebnis.
Apple und Google werden wahrscheinlich argumentieren, dass ihre lokale Verarbeitung bereits eine Grundlage bietet. Datenschutzbefürworter werden sich darauf konzentrieren, ob diese Grundlage zu einer kontinuierlichen Prüfung an Endgeräten ausgeweitet wird.
Beide Fragen gehören in dieselbe Bewertung. Ein Kinderschutzsystem kann einen schweren Schaden verringern und zugleich einen anderen verursachen, wenn es übermäßige Identitätsdaten sammelt oder legitimes Material ohne Überprüfung sperrt.
Drei Signale werden zeigen, was das Gesetz wirklich bedeutet
Der Gesetzentwurf, die Plattformimplementierungen und unabhängige Testergebnisse werden entscheiden, ob daraus gezielter Kinderschutz oder ein Präzedenzfall für umfassende Gerätekontrolle wird.
Das erste Signal ist der Text der primären Gesetzgebung. Leser sollten auf die erfassten Unternehmen, die Definition von Nacktheit, Durchsetzungsbefugnisse und den Zeitplan achten.
Das wichtigste Detail wird der Geltungsbereich sein. Eine Pflicht, die auf Betriebssysteme für identifizierte Kinderkonten beschränkt ist, unterscheidet sich von einer Vorgabe, die jeden Bildschirm, jede Datei und jede Anwendung auf jedem britischen Gerät betrifft.
Der Gesetzentwurf sollte außerdem eine Regulierungsbehörde und einen Compliance-Standard benennen. Ohne diese Elemente können Unternehmen nicht wissen, wie Genauigkeit, Datenschutz und Widerstandsfähigkeit gegen Umgehung beurteilt werden.
Klare Schutzvorkehrungen würden die Argumentation der Regierung stärken. Eine vage Befugnis, Scan-Kategorien auszuweiten oder Identitätsdaten zu sammeln, würde die Bedenken der Kritiker stärken.
Das zweite Signal ist der Implementierungsfahrplan von Apple und Google. Nandy sagte, beide Unternehmen hätten bedeutende Zusagen gemacht, doch die Regierung hat ihre vollständigen Vorschläge nicht veröffentlicht.
Zu beobachten ist, ob Apple Communication Safety zu einer echten geräteweiten Sperre ausweitet. Das bestehende System erfasst bereits mehrere eigene Dienste und ausgewählte Freigabeaktionen in Drittanbieter-Apps.
Bei Google lautet die Frage, ob SafetyCore über Google Messages hinaus erweitert wird. Das Anwendungsmodell von Android umfasst Google-Dienste, Software von Geräteherstellern, alternative Messaging-Apps und unterschiedliche Hardware.
Eine einheitliche Android-Regel könnte daher neue Betriebssystemschnittstellen und Compliance-Arbeit von Geräteherstellern erfordern. Sie könnte außerdem verlangen, dass App-Entwickler eine standardisierte Klassifizierungs- oder Richtlinienebene nutzen.
Die Datenschutzarchitektur der Unternehmen ist ebenso wichtig wie die Funktionsabdeckung. Lokale Klassifizierung, begrenzte Telemetrie, transparente Modellupdates und eng begrenzte Altersnachweise würden einige Risiken reduzieren.
Serverseitige Prüfung, umfassende Ereignismeldungen oder dauerhafte Speicherung von Identitätsdaten würden die Bewertung verändern. Keines der Unternehmen hat sich in den zum Zeitpunkt der Ankündigung verfügbaren Materialien öffentlich zu einem solchen Design verpflichtet.
Das dritte Signal sind unabhängige Belege zur Leistung unter realen Bedingungen. Regierungserklärungen und Unternehmensdemonstrationen können Tests im normalen Familienalltag nicht ersetzen.
Prüfer sollten messen, ob die Kontrollen Aufnahme, Anzeige und Weitergabe in integrierten und Drittanbieter-Apps verhindern. Sie sollten Fehlalarm- und Übersehungsraten getrennt ausweisen.
Die Tests sollten Bilder mit legitimen Kontexten und absichtlichen Umgehungsmodifikationen umfassen. Sie sollten außerdem untersuchen, was geschieht, wenn Konten falsch konfiguriert sind oder Geräte gemeinsam genutzt werden.
Das Nutzerverhalten wird einen weiteren Teil dieser Belege liefern. Wenn Kinder zu nicht verwalteten Geräten, browserbasierten Tools oder alternativen Übertragungsmethoden wechseln, könnte die Politik Risiken verlagern statt beseitigen.
Das macht Prävention nicht sinnlos. Es bedeutet, dass Gerätekontrollen neben Unterstützung für Betroffene, Plattformmoderation, Ermittlungen gegen Täter, sichereren Standard-Kontakteinstellungen und Aufklärung über Zwang stehen müssen.
Die Juni-Regeln von Ofcom drängen Messaging- und Social-Media-Dienste bereits dazu, Risiken durch Cyberflashing und Grooming anzugehen. Von Diensten mit Direktnachrichten und Grooming-Risiken wird erwartet, dass sie den Kontakt von Kindern zu Fremden standardmäßig begrenzen.
Schutz auf Geräteebene könnte Lücken zwischen diesen Diensten schließen. Er kann die Verpflichtungen der Plattformen nicht ersetzen, auf denen Täter Kinder finden, kontaktieren und manipulieren.
Auch die internationale Reaktion wird wichtig sein. Wenn das Vereinigte Königreich einen praktikablen Standard schafft, könnten andere Regierungen dessen Kombination aus Altersverifikation und lokalen Inhaltskontrollen übernehmen.
Falls die Umsetzung zu übermäßigen Sperrungen, Datenpannen oder weit verbreiteter Umgehung führt, könnte die Politik stattdessen zu einer Warnung davor werden, komplexe Systeme durch ein absolutes Ergebnis regulieren zu wollen.
Das Blockieren von Nacktbildern durch Apple und Google ist folglich mehr als ein weiteres Update für Jugendschutzfunktionen. Es verlangt von zwei Betriebssystemanbietern, auf den persönlichsten Computern der Menschen eine rechtliche Unterscheidung durchzusetzen.
Die Argumentation für den Kinderschutz ist direkt und dringend. Unter Zwang erstellte Bilder können zu Instrumenten wiederholten Missbrauchs, von Erpressung und Verbreitung werden.
Die ungelöste Frage ist, ob Gesetzgeber diese Dringlichkeit in eine präzise technische Pflicht übersetzen können. Der kommende Gesetzentwurf muss definieren, wer erfasst wird, was gesperrt wird, wie Volljährigkeit festgestellt wird und wie Fehler korrigiert werden.
Leser sollten die Politik anhand dieser konkreten Details beurteilen, nicht anhand von Schlagworten über Sicherheit oder Überwachung. Sie sollten veröffentlichte Standards, unabhängige Tests und strenge Grenzen für Identitätsdaten verlangen.
Wenn das Vereinigte Königreich wirksame Schutzvorkehrungen verlangen kann, während die Klassifizierung lokal bleibt und Einsprüche praktikabel sind, wird es ein bemerkenswertes Modell für den Kinderschutz schaffen. Bleiben diese Schutzvorkehrungen vage, könnte dasselbe Gesetz eine weitaus umfassendere Kontrolle privater Geräte normalisieren.
