Le blocage des images de nudité par Apple et Google face à une obligation légale au Royaume-Uni

Apple et Google font désormais face à une obligation légale au Royaume-Uni, après l’échec de trois mois de discussions à mettre en place les contrôles de sécurité des enfants exigés par les ministres.

Les règles proposées de blocage des images de nudité par Apple et Google empêcheraient toute personne de moins de 18 ans de prendre, de voir ou d’envoyer des images de nudité. La protection s’appliquerait aux appareils photo, aux services de messagerie et aux applications tierces, plutôt que de se limiter à certains services.

Il s’agit d’une intervention bien plus large que les avertissements déjà intégrés aux iPhone et aux appareils Android. Ces systèmes détectent généralement une suspicion de nudité sur l’appareil, floutent l’image et permettent à certains utilisateurs de poursuivre. Le Royaume-Uni souhaite un blocage activé par défaut, que seuls des adultes dont l’âge a été vérifié pourraient désactiver.

Le différend ne porte donc pas sur la capacité de la technologie à reconnaître la nudité. Apple et Google utilisent déjà une classification sur l’appareil à cette fin. Il concerne la question de savoir si les fournisseurs de systèmes d’exploitation devraient transformer un avertissement protecteur en contrôle obligatoire à l’échelle d’un appareil entier.

Le gouvernement affirme que la législation est désormais nécessaire, car les propositions volontaires ne correspondaient pas à l’ampleur du grooming en ligne, de la coercition et de l’extorsion sexuelle. Les défenseurs de la vie privée répondent que les contrôles universels d’âge et la classification de contenus peuvent créer leurs propres risques.

L’obligation britannique va au-delà des avertissements au niveau des applications

Le gouvernement veut que la protection des enfants soit imposée par le système d’exploitation, et non laissée aux parents ou aux applications individuelles.

La ministre de la Culture, Lisa Nandy, a déclaré au Parlement le 8 septembre que le gouvernement introduirait une législation primaire couvrant les protections au niveau des appareils. Une annonce officielle a suivi le 9 septembre.

Le gouvernement avait d’abord accordé aux entreprises technologiques un délai de trois mois, le 8 juin. Des responsables du département de la Culture et du Home Office ont ensuite travaillé avec Apple et Google sur des feuilles de route techniques.

Nandy a reconnu que les deux entreprises avaient pris des engagements importants. Elle a également déclaré qu’elles avaient développé des changements au niveau du système d’exploitation, passant du floutage de certaines images à leur blocage sur les appareils d’utilisateurs mineurs.

Les ministres ont néanmoins conclu que les propositions ne répondaient pas à leur objectif. Le plan de protection des appareils du gouvernement repose sur trois principes.

Premièrement, les utilisateurs de moins de 18 ans devraient être incapables de prendre, de voir ou d’envoyer des images de nudité. La restriction devrait couvrir les appareils photo, les fonctions intégrées et les applications tierces.

Deuxièmement, la protection devrait être activée par défaut. Les parents et les aidants n’auraient pas besoin de trouver un réglage, d’installer une autre application ou de configurer chaque service séparément.

Troisièmement, un utilisateur devrait prouver qu’il est adulte au moyen de ce que le gouvernement appelle une assurance de l’âge robuste avant de désactiver la restriction. Le fournisseur, plutôt que l’enfant ou le parent, serait responsable d’établir cette distinction.

Ces principes transforment une fonction familière de contrôle parental en exigence d’infrastructure. Un développeur d’application peut modérer les images au sein de son propre service. Un fournisseur de système d’exploitation peut intervenir lorsqu’un appareil photo capture une image, lorsqu’un logiciel l’ouvre ou lorsqu’une autre application tente de la partager.

Le gouvernement envisage également des obligations pour les applications utilisées par les enfants. Cela étendrait la responsabilité au-delà d’Apple et Google, à des services tels que les plateformes de messagerie et les réseaux sociaux.

Toutefois, aucun projet de loi final n’était public lors de l’annonce de cette politique. Le gouvernement n’avait publié ni date de mise en œuvre, ni norme technique, ni modèle d’application, ni définition complète de la nudité interdite.

Son annonce indiquait que la législation arriverait dès que possible, tout en reconnaissant la complexité du sujet. Les ministres ont aussi laissé ouverte la possibilité de réévaluer la loi si les entreprises mettent elles-mêmes en place des protections adéquates.

Cette réserve est importante. L’annonce ouvre un processus législatif, et ne déclenche pas immédiatement un basculement national. L’examen parlementaire, la consultation technique, les règles d’application et les périodes de mise en œuvre séparent encore la politique d’un blocage opérationnel.

Le changement central reste clair. Le Royaume-Uni n’accepte plus les avertissements facultatifs au sein d’applications sélectionnées comme réponse suffisante à l’exploitation des enfants fondée sur des images.

Pourquoi Apple et Google subissent une pression directe

Apple et Google contrôlent la couche technologique où le gouvernement estime que la protection peut suivre un enfant à travers chaque application.

La régulation de la sécurité en ligne s’est traditionnellement concentrée sur les services qui hébergent, recommandent ou transmettent du contenu. La politique proposée descend plus profondément dans la pile technologique.

Un réseau social peut bloquer un compte ou supprimer une publication. Un service de messagerie peut restreindre les contacts inconnus. Aucune de ces mesures n’empêche un enfant de créer une image avec l’appareil photo ou de la transférer via une autre application.

Apple et Google occupent une position différente. Leurs systèmes d’exploitation contrôlent l’accès aux appareils photo, aux écrans, au stockage, aux menus de partage, aux comptes et aux autorisations des applications.

Ce contrôle en fait les principales cibles de pression du gouvernement. Il signifie également que toute erreur technique peut affecter bien plus d’activités qu’une erreur au sein d’une seule plateforme sociale.

L’argument du gouvernement commence par la coercition plutôt que par le contenu adulte consensuel. Nandy a déclaré que des enfants sont groomés, manipulés et victimes de chantage afin de créer des images intimes sur des services en ligne.

Sa déclaration aux Communes citait une estimation de l’Internet Watch Foundation selon laquelle 91 % des images concernées sont auto-produites. Ce terme désigne du contenu créé alors qu’un enfant semble être physiquement seul, même si la coercition ou le grooming peuvent conduire à sa création.

Nandy a également indiqué qu’environ 9 000 infractions d’abus sexuels sur enfants par an comportent un élément en ligne. Les moins de 18 ans représentent près d’un quart des personnes visées par le chantage en ligne, selon les chiffres qu’elle a présentés.

Ces faits expliquent pourquoi le gouvernement veut intervenir avant qu’une image n’atteigne une plateforme. Lorsqu’une image obtenue sous contrainte a été envoyée, un auteur peut la copier, la redistribuer ou l’utiliser à des fins d’extorsion sexuelle.

Un blocage au niveau de l’appareil tente de rompre cette chaîne plus tôt. Il pourrait interrompre la capture, l’affichage ou la transmission avant que le contenu ne quitte le contrôle de l’enfant.

Le gouvernement veut également une règle qui ne dépende pas d’une configuration parentale parfaite. Les contrôles familiaux des appareils exigent souvent le bon type de compte, des logiciels à jour, un groupe familial actif et des réglages qui restent activés.

Les enfants peuvent utiliser un compte mal configuré. Des familles peuvent partager des appareils. Un adolescent peut recevoir une image par une application qui n’utilise pas l’interface de sécurité existante du système d’exploitation.

Une obligation légale par défaut transférerait ces échecs de configuration vers les fournisseurs technologiques. Apple et Google devraient démontrer que les protections fonctionnent de façon cohérente pour les utilisateurs identifiés comme enfants.

Cette pression s’inscrit dans un mouvement britannique plus large vers des services tenant compte de l’âge. L’Online Safety Act exige déjà des plateformes concernées qu’elles protègent les enfants contre les contenus préjudiciables, y compris la pornographie.

Ofcom a indiqué que la proportion d’enfants confrontés à des contrôles très efficaces lorsqu’ils doivent prouver leur âge est passée de 25 % à 43 % entre juillet 2025 et janvier 2026. Ses constats sur les contrôles d’âge ont également relevé des lacunes dans la recherche, les services de rencontre et l’inférence d’âge sur les réseaux sociaux.

Le régulateur attend des systèmes d’exploitation, des boutiques d’applications et des appareils qu’ils jouent un rôle accru. Il prévoit de publier un rapport sur les protections des boutiques d’applications d’ici janvier 2027.

Apple et Google font donc face à bien plus qu’une demande isolée de fonctionnalité. Le Royaume-Uni construit un modèle dans lequel un âge vérifié influence l’expérience à travers les services et les fonctions de l’appareil.

Le blocage des images de nudité par Apple et Google modifie le modèle de sécurité

Le compromis central oppose un blocage plus strict qui intervient tôt à un système d’avertissement qui préserve le choix des utilisateurs et limite l’intervention à l’échelle du système.

Apple active déjà Communication Safety par défaut pour les enfants de moins de 18 ans sur les appareils compatibles. Cette fonction utilise l’apprentissage automatique sur l’appareil pour identifier des photos ou vidéos qui semblent contenir de la nudité.

Le traitement sur l’appareil signifie que la classification se fait localement au lieu de téléverser chaque image à des fins d’inspection. Apple indique ne recevoir ni l’image ni l’indication qu’une nudité a été détectée.

La fonctionnalité Communication Safety d’Apple couvre Messages, AirDrop, les fonctions FaceTime, les albums partagés, les Contact Posters et certains flux de partage tiers. La couverture varie selon l’appareil.

Lorsque le système détecte une suspicion de nudité, il floute le contenu et présente des conseils. Un enfant peut quitter la conversation, bloquer un contact, demander de l’aide ou contacter un adulte de confiance.

Pour les enfants de moins de 13 ans, un code Screen Time est requis avant de consulter le contenu détecté. Les enfants plus âgés peuvent généralement passer outre l’intervention après des avertissements supplémentaires.

Google suit un modèle similaire fondé sur des avertissements dans Google Messages. Les avertissements relatifs aux contenus sensibles sont activés par défaut pour les utilisateurs supervisés.

Le système floute les images suspectées de nudité et affiche ce que Google appelle un « speed bump ». Il propose des informations de sécurité et des options de blocage, mais peut toujours permettre à un utilisateur supervisé de voir, d’envoyer ou de transférer le contenu.

Google indique que ses contrôles de contenu sensible utilisent SafetyCore pour classifier les images localement. Les données identifiables, le contenu et les résultats de classification ne sont pas envoyés aux serveurs de Google.

SafetyCore ne traite une image que lorsqu’une application intégrée demande une classification. Dans l’implémentation documentée de Google Messages, il n’inspecte pas continuellement chaque image traitée par chaque application Android.

La proposition britannique exige un résultat différent. Un avertissement demande à l’utilisateur de reconsidérer son choix. Un blocage supprime ce choix pour toute personne classée comme enfant.

Elle exige également une portée plus large. Les contrôles actuels fonctionnent dans des applications et des parcours de partage définis. Le gouvernement veut que la protection couvre l’appareil photo et les applications tierces sur l’ensemble de l’appareil.

Cette différence soulève de difficiles questions d’ingénierie. Apple et Google doivent identifier les utilisateurs de moins de 18 ans, détecter la nudité avec précision, empêcher les applications de contourner le résultat et éviter d’envoyer des médias privés à un service centralisé.

Ils doivent également décider où l’intervention se produit. Un système pourrait classifier la sortie de l’appareil photo avant l’enregistrement, inspecter des fichiers lorsqu’une application demande l’accès, analyser les pixels affichés à l’écran ou combiner plusieurs points de contrôle.

Chaque approche présente des limites. Les contrôles au niveau de l’appareil photo pourraient ne pas détecter les fichiers importés. Les contrôles de feuille de partage pourraient manquer les applications utilisant leurs propres systèmes de transfert. L’analyse de l’écran offrirait une large couverture, mais aussi une empreinte plus importante sur la vie privée.

La messagerie chiffrée ajoute une autre couche. Le chiffrement de bout en bout protège le contenu pendant son transit entre les participants, mais un appareil doit tout de même afficher l’image déchiffrée à son destinataire.

La classification locale peut fonctionner avant le chiffrement ou après le déchiffrement sans fournir au service une copie lisible en transit. Cette conception ne brise pas automatiquement le chiffrement.

Toutefois, les critiques distinguent le chiffrement de la confidentialité au niveau des terminaux. Un message peut rester chiffré durant sa transmission tandis qu’un logiciel sur le téléphone évalue son contenu.

Le Royaume-Uni n’a pas encore publié suffisamment de détails techniques pour établir quelle conception il exigera. Les affirmations selon lesquelles la proposition enverrait nécessairement chaque photo à un serveur gouvernemental ne sont pas étayées.

L’affirmation inverse est également prématurée. Le traitement sur l’appareil réduit l’exposition, mais les détails de mise en œuvre déterminent quelles données sont conservées, si les détections sont signalées et comment les modèles reçoivent leurs mises à jour.

Un blocage strict exige aussi un niveau de précision élevé. Un faux positif pourrait empêcher l’accès à des photos de famille, des informations médicales, des œuvres d’art, des contenus éducatifs ou des preuves qu’une personne doit conserver.

Un faux négatif pourrait laisser passer le contenu ciblé. Les auteurs d’infractions peuvent aussi recadrer, déformer, masquer ou transformer des images afin de tromper un classificateur.

Les contrôles de sécurité des enfants d’Apple et Google doivent donc résoudre un problème plus vaste que la simple reconnaissance de peau dénudée. Ils doivent fournir des décisions fiables pour tous les âges, morphologies, conditions d’éclairage, contextes médicaux, environnements culturels et médias synthétiques.

L’objectif recherché par le gouvernement est simple à décrire. Le mécanisme nécessaire pour l’atteindre sans effets collatéraux excessifs ne l’est pas.

La vérification de l’âge et la protection de la vie privée constituent les épreuves les plus difficiles

La détection de nudité ne représente que la moitié du système, car un blocage par défaut ne peut fonctionner sans déterminer qui est adulte.

Le principe du gouvernement prévoit que les adultes vérifient leur âge avant d’accéder à des fonctions d’appareil non restreintes. Cela crée un second système technique, en parallèle de la classification d’images.

La vérification de l’âge désigne un vaste ensemble de méthodes permettant d’établir ou d’estimer si une personne atteint un seuil d’âge. Les options comprennent les documents d’identité, les données de paiement, l’estimation de l’âge par reconnaissance faciale, les données de comptes de confiance ou la confirmation par un autre fournisseur.

Le choix final façonnera les conséquences de la politique sur la vie privée. Une méthode qui stocke des documents d’identité comporte des risques différents d’une preuve réutilisable confirmant seulement qu’une personne a plus de 18 ans.

Apple utilise déjà les âges déclarés, les comptes enfants et les paramètres familiaux pour adapter les protections. Google utilise des comptes supervisés et Family Link pour ses contrôles documentés dans Messages.

Ces systèmes peuvent identifier de nombreux enfants, mais ils ne prouvent pas l’âge de chaque utilisateur d’un appareil. Les comptes peuvent contenir des dates de naissance erronées, et les appareils peuvent être partagés entre membres d’une famille.

Le gouvernement souhaite que les fournisseurs assument la charge d’établir la majorité. Cela pourrait pousser les entreprises à vérifier davantage d’utilisateurs, y compris des adultes qui n’utilisent jamais les contrôles parentaux.

Open Rights Group et d’autres organisations de la société civile ont averti que l’extension des barrières d’âge peut exiger des contrôles d’identité généralisés. Leur avertissement sur la vie privée soutient que ces systèmes peuvent exposer des données personnelles sensibles et restreindre l’accès ordinaire.

Cette préoccupation n’efface pas le préjudice que les ministres souhaitent traiter. Elle montre pourquoi la législation doit préciser la minimisation des données, les limites de conservation, les exigences de sécurité, les voies de recours et les tests indépendants.

La conception la plus respectueuse de la vie privée ne révélerait que le fait nécessaire. Un service doit savoir qu’un utilisateur atteint un seuil, pas nécessairement connaître son nom, son adresse ou sa date de naissance.

Même ce signal limité doit rester fiable sur les appareils partagés. Un adulte vérifié ne devrait pas pouvoir laisser un compte enfant définitivement non restreint, tandis qu’un enfant ne devrait pas être privé de contenus légitimes sans possibilité de recours.

Les erreurs de classification soulèvent un autre problème de responsabilité. Les systèmes d’avertissement actuels préservent une possibilité de passer outre, car une machine peut se tromper.

Un blocage strict imposé par la loi exige un moyen de contester cette décision. Pourtant, un mécanisme de recours permettant à un enfant de contourner immédiatement chaque résultat compromettrait la politique.

La législation devra définir des exceptions ou procédures de révision sans créer une échappatoire facile pour les auteurs d’abus. Elle devra aussi expliquer si les parents peuvent outrepasser un blocage et dans quelles circonstances.

Le périmètre crée une incertitude supplémentaire. Les « images nues » couvrent un champ plus large que les contenus pédopornographiques illégaux. L’expression peut englober des contenus adultes licites et des images anodines dépourvues de tout contexte sexuel.

L’objectif du gouvernement couvre la prise de photos autant que leur réception. Cela soulève des questions concernant les photographies médicales, les preuves de protection, l’allaitement, les images familiales et les ressources éducatives.

Les législateurs n’ont pas besoin de publier dans la loi un modèle d’apprentissage automatique. Ils doivent toutefois définir le résultat attendu avec suffisamment de précision pour que les fournisseurs, régulateurs, tribunaux et utilisateurs le comprennent.

Des tests indépendants de performance seront essentiels. Les affirmations de précision devraient couvrir les faux positifs et les faux négatifs sur des appareils et contenus réalistes, et non seulement sur un jeu de test sélectionné.

Les tests devraient aussi examiner les tentatives d’évasion de la détection. Un modèle efficace sur des photographies ordinaires peut se comporter différemment face à des captures d’écran, collages, dessins, images générées ou fichiers fortement retouchés.

Le gouvernement a déclaré que les adultes vérifiant leur âge ne devraient pas être affectés. Tant que des garanties techniques et juridiques ne seront pas publiées, cette promesse restera un objectif plutôt qu’un résultat démontré.

Apple et Google feront probablement valoir que leur traitement local offre déjà une base. Les défenseurs de la vie privée se concentreront sur la question de savoir si cette base évolue vers une inspection continue des terminaux.

Ces deux questions doivent faire partie de la même évaluation. Un système de sécurité des enfants peut réduire un préjudice grave tout en en introduisant un autre s’il collecte des données d’identité excessives ou bloque du contenu légitime sans examen.

Trois signaux montreront ce que la loi signifie réellement

Le projet de loi, les mises en œuvre des plateformes et les résultats de tests indépendants détermineront s’il s’agit d’une protection ciblée des enfants ou d’un précédent de contrôle étendu des appareils.

Le premier signal sera le texte de la législation principale. Les lecteurs devront examiner les entreprises concernées, la définition de la nudité, les pouvoirs d’exécution et le calendrier.

Le détail le plus important sera le périmètre. Une obligation limitée aux systèmes d’exploitation sur des comptes enfants identifiés diffère d’une exigence touchant chaque écran, fichier et application de chaque appareil britannique.

Le projet de loi devrait également désigner un régulateur et une norme de conformité. Sans ces éléments, les entreprises ne peuvent pas savoir comment seront évaluées la précision, la protection de la vie privée et la résistance au contournement.

Des garanties claires renforceraient l’argument du gouvernement. Une autorité vague permettant d’étendre les catégories analysées ou de collecter des données d’identité renforcerait les préoccupations des critiques.

Le deuxième signal sera la feuille de route de mise en œuvre d’Apple et Google. Nandy a déclaré que les deux entreprises avaient pris des engagements significatifs, mais le gouvernement n’a pas publié leurs propositions complètes.

Il faudra observer si Apple étend Communication Safety en un véritable blocage à l’échelle de l’appareil. Son système existant atteint déjà plusieurs services internes et certaines actions de partage par des tiers.

Pour Google, la question est de savoir si SafetyCore s’étend au-delà de Google Messages. Le modèle applicatif d’Android couvre les services Google, les logiciels des fabricants, les applications de messagerie alternatives et des matériels variés.

Une règle Android cohérente pourrait donc nécessiter de nouvelles interfaces du système d’exploitation et un travail de conformité de la part des fabricants d’appareils. Elle pourrait également obliger les développeurs d’applications à utiliser une couche standard de classification ou de politique.

L’architecture de protection de la vie privée des entreprises compte autant que la couverture des fonctionnalités. Une classification locale, une télémétrie limitée, des mises à jour de modèles transparentes et des preuves d’âge strictement ciblées réduiraient certains risques.

Une inspection côté serveur, un signalement généralisé des événements ou un stockage persistant de l’identité modifieraient l’évaluation. Aucune des deux entreprises ne s’est publiquement engagée dans une telle conception dans les documents disponibles au moment de l’annonce.

Le troisième signal sera constitué d’éléments indépendants sur les performances dans le monde réel. Les déclarations du gouvernement et les démonstrations des entreprises ne peuvent se substituer à des tests couvrant l’utilisation familiale normale.

Les évaluateurs devraient mesurer si les contrôles empêchent la capture, l’affichage et le partage dans les applications intégrées comme dans celles de tiers. Ils devraient rapporter séparément les taux de faux positifs et de faux négatifs.

Les tests devraient inclure des images dans des contextes légitimes et des modifications adversariales. Ils devraient aussi examiner ce qui se produit lorsque les comptes sont mal configurés ou que les appareils sont partagés.

Le comportement des utilisateurs apportera une autre partie de ces éléments. Si les enfants se tournent vers des appareils non gérés, des outils basés sur le navigateur ou d’autres méthodes de transfert, la politique pourrait déplacer le risque plutôt que l’éliminer.

Cela ne rend pas la prévention inutile. Cela signifie que les contrôles sur les appareils doivent s’ajouter au soutien aux victimes, à la modération des plateformes, aux enquêtes sur les auteurs d’infractions, à des paramètres de contact plus sûrs et à l’éducation sur la coercition.

Les règles d’Ofcom de juin poussent déjà les services de messagerie et les réseaux sociaux à traiter les risques de cyberflashing et de grooming. Les services exposés à la messagerie directe et au grooming sont censés limiter par défaut les contacts des enfants avec des inconnus.

La protection au niveau de l’appareil pourrait combler les lacunes entre ces services. Elle ne peut pas remplacer les obligations des plateformes sur lesquelles les auteurs trouvent, contactent et manipulent des enfants.

La réponse internationale comptera également. Si le Royaume-Uni établit une norme praticable, d’autres gouvernements pourraient reprendre sa combinaison de vérification de l’âge et de contrôles locaux des contenus.

Si la mise en œuvre entraîne un surblocage, des fuites de données ou des contournements généralisés, la politique pourrait au contraire devenir un avertissement contre la régulation de systèmes complexes par un résultat absolu.

Le blocage d’images nues par Apple et Google dépasse donc une simple mise à jour du contrôle parental. Il demande à deux fournisseurs de systèmes d’exploitation de faire respecter une distinction juridique au sein des ordinateurs les plus personnels que possèdent les gens.

L’argument en faveur de la protection des enfants est direct et urgent. Les images créées sous la contrainte peuvent devenir des instruments d’abus répétés, de chantage et de diffusion.

La question non résolue est de savoir si les législateurs peuvent transformer cette urgence en une obligation technique précise. Le futur projet de loi doit définir qui est concerné, ce qui est bloqué, comment la majorité est établie et comment les erreurs sont corrigées.

Les lecteurs devraient évaluer cette politique à travers ces détails concrets, et non à travers des slogans sur la sécurité ou la surveillance. Il faut exiger des normes publiées, des tests indépendants et des limites strictes sur les données d’identité.

Si le Royaume-Uni peut imposer des garanties efficaces tout en maintenant la classification locale et des recours praticables, il établira un modèle notable de protection des enfants. Si ces protections restent vagues, la même loi pourrait normaliser un contrôle beaucoup plus large des appareils privés.