Les applications d’IA de déshabillage mettent les élèves en danger à la rentrée

Google News a fait remonter un avertissement saisissant pour la rentrée : des outils d’IA de « déshabillage » peuvent transformer en quelques minutes une simple photo d’élève en image sexuelle fabriquée de toutes pièces.

L’article de CBS News fait écho à une alerte plus large du National Center for Missing and Exploited Children, ou NCMEC. L’organisation indique constater davantage d’incidents scolaires impliquant des camarades, le plus souvent âgés de 14 à 17 ans. Une photo d’annuaire, une publication sur les réseaux sociaux, une photo d’équipe ou une image copiée depuis le téléphone d’un ami peuvent servir de matière première.

Il ne s’agit pas simplement d’un nouveau débat sur des contenus inappropriés en ligne. C’est la rencontre entre une génération d’images désormais accessible et des institutions conçues pour réagir une fois les faits rendus visibles. Écoles, boutiques d’applications, moteurs de recherche, plateformes sociales et familles font désormais face à différentes facettes d’un même problème. Le conflit central oppose les capacités de l’IA aux garde-fous qui encadrent son utilisation.

L’avertissement de rentrée concerne des photos ordinaires

Le changement essentiel est que produire des images abusives ne nécessite plus une véritable photo intime.

Les applications de déshabillage utilisent l’IA générative pour fabriquer une représentation nue ou sexuellement explicite d’une personne figurant sur une photo normale. L’image obtenue est synthétique, mais elle conserve suffisamment de caractéristiques reconnaissables pour identifier et humilier la personne visée.

Cette distinction modifie le risque auquel sont confrontés les élèves. Les conseils traditionnels insistaient souvent sur le fait de ne jamais créer ou envoyer de photos intimes. Ils restent utiles, mais ne peuvent empêcher quelqu’un d’utiliser sans autorisation une image où la personne est entièrement habillée.

Un élève peut avoir très peu de contrôle sur la photo source. Elle peut provenir d’une page sportive, d’une cérémonie scolaire, d’un profil social public ou d’une discussion de groupe. Il suffit à l’auteur d’avoir accès à une image reconnaissable et à un outil de génération disponible.

L’avertissement de rentrée du NCMEC, daté du 11 août, indique que ces images peuvent être créées à partir de photographies prises lors d’événements scolaires ou stockées sur le téléphone d’un autre enfant. Il précise également que les applications spécialisées ne constituent pas le seul moyen. Des générateurs d’images gratuits et des chatbots peuvent parfois être détournés dans le même but.

L’agence affirme que des incidents apparaissent dans des écoles à travers les États-Unis, impliquant fréquemment des camarades âgés de 14 à 17 ans. Les images peuvent ensuite circuler via des messages privés, des discussions de groupe et des réseaux sociaux avant que les adultes ne comprennent ce qui s’est passé.

Ce mode de diffusion compte. Une image fabriquée n’a pas besoin de convaincre tout Internet pour causer du tort. Il peut lui suffire d’atteindre une classe, une équipe sportive ou un groupe d’amis dont les membres reconnaissent l’élève représenté.

L’image peut déclencher du harcèlement même lorsque les personnes qui la voient savent qu’elle est fausse. Elle place l’identité d’une personne réelle dans une situation explicite sans son consentement. La victime peut alors devoir répondre à des questions sur son authenticité, expliquer l’image ou tenter de retrouver chaque copie.

Le NCMEC conseille aux enfants qui reçoivent ce type de contenu de ne pas le sauvegarder ni le redistribuer. Cette recommandation reconnaît un problème pratique difficile. Les élèves peuvent penser qu’ils préservent des preuves, avertissent des amis ou dénoncent le créateur, alors que chaque nouvelle copie prolonge l’abus.

Les parents doivent également éviter de traiter l’incident comme un simple conflit entre élèves. Les faits peuvent relever du harcèlement sexuel, de l’intimidation, de l’extorsion, d’atteintes à la vie privée et, potentiellement, d’images illégales impliquant un mineur.

La personne représentée n’a pas consenti à la création ni à la diffusion de l’image. Le fait que l’image ne montre pas un véritable corps ne fait pas disparaître cette violation.

C’est pourquoi cet avertissement sur la sécurité scolaire invite les familles à parler de cette technologie avant qu’un incident ne survienne. Un élève devrait déjà savoir qui contacter, quoi ne pas transmettre et pourquoi une image synthétique peut malgré tout causer un préjudice réel.

Le titre de Google News illustre la portée troublante de cette technologie en affirmant que toute photo peut être ciblée. Cette formule ne doit pas être comprise comme une affirmation de laboratoire concernant chaque modèle et chaque image. Elle décrit la vulnérabilité concrète créée lorsque des photographies ordinaires et reconnaissables suffisent comme données d’entrée à une fabrication sexualisée.

L’obstacle est passé de l’obtention de contenu intime à l’obtention de presque n’importe quel portrait exploitable. C’est ce changement qui oblige les écoles et les familles à reconsidérer leurs dispositifs de sécurité existants.

Pourquoi la couverture de Google News accroît la pression sur toute la chaîne de diffusion

Le risque ne commence ni ne s’arrête avec la personne qui appuie sur le bouton de génération.

Un incident de déshabillage par IA dépend d’une chaîne de diffusion interconnectée. Quelqu’un découvre un outil, obtient une photographie, génère une image et partage le résultat. D’autres utilisateurs et plateformes copient ensuite ce contenu, le recommandent, l’hébergent ou le redistribuent.

Les recherches de l’organisation de protection de l’enfance Thorn montrent à quel point cette chaîne peut paraître ordinaire. Son étude de 2025 a interrogé 1 200 personnes âgées de 13 à 20 ans aux États-Unis. Les chercheurs ont mené cette enquête entre le 27 septembre et le 7 octobre 2024.

Parmi les répondants, 41 % avaient entendu parler de nus deepfake. La proportion s’élevait à 31 % chez les adolescents de 13 à 17 ans. Treize pour cent de l’ensemble des participants ont déclaré connaître personnellement une personne ciblée alors qu’elle avait moins de 18 ans.

Six pour cent ont indiqué que quelqu’un avait créé un nu deepfake à leur image. Thorn a averti que certains résultats reposaient sur de petits sous-échantillons, mais ils documentent néanmoins une exposition directe plutôt qu’une préoccupation hypothétique.

Les chiffres d’accès montrent pourquoi la responsabilité ne peut reposer sur les seules écoles. Parmi le petit groupe ayant reconnu avoir créé des nus deepfake d’autres personnes, 71 % ont découvert les outils concernés par l’intermédiaire des réseaux sociaux. Cinquante-trois pour cent ont cité les moteurs de recherche et 70 % ont déclaré avoir téléchargé une application via une boutique d’applications.

Ces pourcentages ne doivent pas être interprétés comme des taux représentatifs de l’ensemble de la population. Seuls 24 répondants ont reconnu avoir créé de telles images. Thorn qualifie les résultats relatifs aux créateurs d’indicatifs, en raison de cette base limitée.

Même avec cette réserve, les circuits d’accès méritent attention. Ils renvoient à des services grand public établis plutôt qu’à des communautés techniques obscures. La découverte, l’installation et la diffusion peuvent toutes se dérouler sur des plateformes déjà présentes sur le téléphone d’un élève.

Cela met plusieurs groupes sous pression.

Les boutiques d’applications doivent décider si des produits commercialisés pour la manipulation sexualisée d’images ont leur place dans leurs catalogues. Les fournisseurs de recherche doivent déterminer à quel moment leurs outils orientent les utilisateurs vers des services conçus pour des abus non consentis. Les plateformes sociales doivent détecter à la fois la promotion et la circulation de ces contenus. Les prestataires de paiement et d’hébergement influencent la capacité de services spécialisés à fonctionner à grande échelle.

Thorn a constaté que 65 % des créateurs s’étant eux-mêmes déclarés comme tels partageaient leur production sous une forme ou une autre. Trente pour cent ont indiqué l’avoir partagée avec des camarades d’école, tandis que 26 % l’ont envoyée à la personne ciblée.

Ces chiffres révèlent l’écart entre les contrôles de création et les systèmes de retrait. Bloquer une requête ou supprimer une application ne récupère pas les fichiers déjà enregistrés sur des appareils. Inversement, supprimer une image diffusée n’empêche pas quelqu’un d’en générer une autre version à partir de la photographie originale.

L’étude sur l’exposition des jeunes a également constaté que 84 % des victimes identifiées avaient recherché une forme d’aide. Soixante pour cent ont utilisé un outil de sécurité en ligne, tandis que 57 % ont cherché de l’aide hors ligne.

Toutefois, les réactions que les personnes pensaient adopter ne correspondaient pas toujours à ce que les victimes avaient réellement fait. Parmi les non-victimes, 62 % pensaient qu’elles en parleraient à un parent ou à un adulte de confiance. Seules 34 % des victimes ont déclaré l’avoir fait.

Chez les adolescents, 72 % des non-victimes pensaient qu’ils en parleraient à un adulte de confiance. Le chiffre réel parmi les victimes adolescentes était de 48 %.

La honte, l’incertitude et la peur d’une escalade peuvent pousser un élève concerné à se taire. Une politique scolaire reposant entièrement sur un signalement rapide de la victime passera donc à côté de certains incidents.

La même étude a révélé que 48 % des victimes avaient utilisé des outils de blocage, tandis que 35 % avaient signalé l’utilisateur fautif. Le blocage peut mettre fin au contact direct, mais il ne peut supprimer les copies circulant via d’autres comptes ou groupes privés.

Google News peut accroître la sensibilisation du public à cette menace, mais la sensibilisation n’est que la première intervention. Les entreprises qui contrôlent la découverte et la diffusion doivent réduire l’accès, répondre aux signalements et empêcher le retour immédiat de contenus supprimés.

Les écoles font face à une pression différente. Elles ont besoin d’un processus de signalement que les élèves peuvent utiliser sans être tenus pour responsables de la photo source ni interrogés sur l’authenticité de l’image. Elles ont également besoin de règles couvrant la création, la possession, les menaces et la redistribution.

Une politique limitée aux photographies « réelles » laisse une dangereuse faille. Les images sexuelles synthétiques peuvent viser la même dignité, la même identité et le même environnement scolaire que les formes classiques d’abus fondé sur l’image.

Les capacités faciles d’accès de l’IA dépassent les garde-fous institutionnels

Le compromis central n’oppose plus la qualité de génération d’images à la commodité ; il oppose un large accès créatif à des usages abusifs prévisibles contre des personnes identifiables.

Les systèmes d’images modernes peuvent modifier les vêtements, la position du corps, l’éclairage et le contexte environnant. La technologie sous-jacente a des usages légitimes dans le divertissement, la conception, la publicité et l’accessibilité.

Le problème survient lorsqu’un système accepte l’image d’une personne réelle et produit un résultat sexualisé sans vérifier son consentement. Un modèle généraliste peut interdire ce comportement dans ses règles publiées tout en produisant des résultats incohérents. Un service spécialisé de déshabillage peut, lui, promouvoir directement ce comportement.

Cette distinction influe sur l’application des règles. Retirer une application explicitement commercialisée est relativement simple. Empêcher un modèle d’images généraliste de répondre à chaque demande déguisée ou évolutive est plus difficile.

Les systèmes de sécurité peuvent examiner les requêtes, les images sources et les résultats générés. Ils peuvent refuser les transformations sexuelles impliquant des personnes identifiables, appliquer des contrôles sensibles à l’âge ou limiter les comptes présentant un comportement abusif.

Aucune de ces mesures ne garantit une détection parfaite. Il peut être difficile de déterminer l’âge à partir d’une image, et les filtres automatisés commettent des erreurs. Les auteurs modifient également leurs formulations, recadrent les images ou passent d’un service à l’autre.

Mais des garde-fous imparfaits ne sont pas pour autant inutiles. Ajouter de la friction peut réduire les abus opportunistes, en particulier lorsque l’auteur est un adolescent motivé par la curiosité, la pression des pairs, les représailles ou le désir d’impressionner ses amis.

Le petit échantillon de créateurs de Thorn a relevé plusieurs motivations de ce type. Les répondants ont évoqué la curiosité, la vengeance, l’intérêt sexuel et l’influence sociale. Ces motivations suggèrent que tous les incidents ne commencent pas par un auteur sophistiqué prêt à franchir d’importants obstacles techniques.

La facilité d’accès modifie les comportements à la marge. Un élève qui ne formerait jamais un modèle ni ne naviguerait sur un forum spécialisé clandestin peut tout de même essayer un outil présenté dans son fil social ou dans une recherche sur une boutique d’applications.

C’est pourquoi une coalition incluant Thorn a appelé au retrait des outils de déshabillage des boutiques d’applications, des résultats de recherche, des services d’hébergement et des systèmes de paiement. Le groupe défend également des systèmes de détection et des mesures de sécurité dès le développement des produits.

La proposition de garde-fous pour l’industrie considère la disponibilité comme un problème d’écosystème. Son principe est qu’aucune intervention isolée ne peut couvrir la découverte, la création et la circulation.

Les arguments en faveur de contrôles plus stricts sont particulièrement convaincants lorsqu’un produit a pour fonction principale de fabriquer des images intimes de personnes reconnaissables. Un tel service ne peut revendiquer qu’un usage légitime limité et présente un mode d’abus évident.

Les outils à usage général exigent une approche plus prudente. Les fournisseurs peuvent bloquer les retouches sexuelles non consenties sans interdire la génération d’images ordinaire. Ils peuvent aussi tester si les contrôles de sécurité résistent aux tentatives courantes de les contourner.

Les plateformes devraient examiner le langage promotionnel autant que les fichiers générés. Une publicité promettant de « retirer les vêtements » d’une photographie signale une intention nuisible avant même qu’une victime ne signale un résultat.

Les moteurs de recherche disposent d’un autre levier. Selon les recherches de Thorn, 53 % des jeunes créateurs ayant reconnu en produire ont découvert les technologies concernées par l’intermédiaire de services de recherche. Un fournisseur de recherche peut rétrograder ou retirer les services conçus autour de l’abus tout en préservant les informations légitimes sur les deepfakes, l’aide aux victimes et la recherche sur la sécurité.

Cela rend le mot-clé principal de cette histoire particulièrement maladroit. Les personnes découvrant le titre de CBS via Google News peuvent rechercher le nom de l’agrégateur, mais « google news » ne désigne pas le préjudice sous-jacent. Il décrit une voie par laquelle le public a découvert ce reportage.

L’intention de recherche substantielle concerne les applications d’IA de déshabillage, les nus générés par deepfake, la sécurité à l’école et les options de retrait. Faire d’un terme d’agrégateur le centre de l’histoire masquerait les entreprises et les institutions capables de réellement changer l’issue.

La même prudence s’applique aux affirmations selon lesquelles les systèmes d’IA déshabillent « n’importe quelle » photographie. Les résultats varient selon l’outil, l’image et la configuration de sécurité. Le risque systémique ne dépend pas d’une réussite technique universelle.

Une tentative échouée ne protège pas l’élève suivant. Il suffit qu’un outil fonctionne assez souvent, sur un nombre suffisant d’images reconnaissables, pour que l’abus se propage dans une communauté scolaire.

Le mécanisme crée également des coûts asymétriques. Générer ou transférer une image prend peu de temps. La documenter, la signaler, retrouver les copies, contacter les plateformes et soutenir la victime peut prendre des jours ou des semaines.

Ce déséquilibre explique pourquoi la modération après coup ne peut pas porter seule toute la réponse. La prévention de la génération et de la découverte doit accompagner le retrait, l’éducation et le soutien aux victimes.

Les règles fédérales de retrait aident, mais n’empêchent pas la création

Les États-Unis exigent désormais une action plus rapide des plateformes, mais un processus de retrait sous 48 heures ne commence qu’après que l’abus a déjà eu lieu.

La TAKE IT DOWN Act est devenue loi le 19 mai 2025. Elle couvre la publication non consentie de représentations visuelles intimes, y compris certaines images créées ou modifiées numériquement.

Ses exigences à l’égard des plateformes sont entrées en vigueur le 19 mai 2026. Les services concernés doivent prévoir une procédure claire pour demander le retrait de contenu intime admissible.

Après réception d’une demande valide, une plateforme doit retirer le matériel signalé et les copies identiques connues dans les 48 heures. La règle s’applique aux faux numériques créés avec des logiciels, des applications ou l’IA, et pas seulement aux photographies authentiques.

La Federal Trade Commission veille au respect de ces obligations par les plateformes. Elle a également créé un canal de plainte pour les personnes qui ne trouvent pas le mécanisme de retrait d’une plateforme ou estiment qu’une demande valide n’a pas été traitée correctement.

Les règles fédérales de conformité couvrent un large éventail de services, notamment les réseaux sociaux, les produits de messagerie, les communautés de jeu et les plateformes de partage d’images. Les violations peuvent être traitées comme des violations d’une règle de la FTC.

Ce cadre offre aux victimes une voie plus cohérente pour exiger une action. Il impose également aux plateformes de déployer des efforts raisonnables pour trouver les copies identiques connues, au lieu d’exiger des victimes qu’elles localisent elles-mêmes chaque republication.

Cette exigence répond à l’une des caractéristiques les plus épuisantes des abus fondés sur l’image. Une personne ciblée ne devrait pas avoir à surveiller des dizaines de comptes et à soumettre les mêmes preuves à répétition.

Le hachage peut aider les plateformes à reconnaître les copies sans redistribuer publiquement l’image source. Un hachage est une empreinte numérique générée à partir d’un fichier. Les services participants peuvent comparer les empreintes et bloquer les contenus correspondants.

Le service Take It Down de NCMEC utilise ce principe pour les images impliquant des personnes qui avaient moins de 18 ans lorsque le contenu a été créé. L’image reste sur l’appareil de l’utilisateur pendant que le service génère l’empreinte.

Les plateformes participantes peuvent ensuite utiliser cette empreinte pour détecter les fichiers correspondants. L’outil n’efface pas l’ensemble d’internet et ne peut pas garantir le retrait sur les services non participants.

La loi présente des limites similaires. Une réponse sous 48 heures peut réduire l’exposition continue, mais deux jours représentent une longue période dans une discussion de groupe scolaire qui évolue rapidement. Les élèves peuvent faire des captures d’écran, modifier des fichiers ou déplacer le contenu vers un autre service.

L’exigence relative aux copies identiques connues ne couvre pas non plus automatiquement tous les dérivés modifiés. Le recadrage, les superpositions, la recompression ou d’autres changements peuvent compliquer la détection des correspondances.

Une victime doit généralement savoir que l’image existe avant de demander son retrait. Certains créateurs ne partagent jamais leur production publiquement, et certaines diffusions se font dans des groupes fermés que la personne ciblée ne peut pas voir.

La règle traite donc plus directement la diffusion que la génération. Elle n’empêche pas un modèle d’accepter la photographie d’un élève et ne remplace pas les contrôles au sein des magasins d’applications ou des services d’IA.

L’application de la loi reste une autre question ouverte. La FTC n’a commencé à faire appliquer les dispositions concernant les plateformes que trois mois avant cet avertissement de rentrée. Les premières plaintes, enquêtes et réponses des plateformes montreront si le processus fonctionne sous une pression réelle.

Des groupes de défense des libertés civiles ont également exprimé des inquiétudes : les systèmes de retrait étendus nécessitent des garanties de procédure régulière. Les plateformes doivent distinguer les demandes valides des requêtes frauduleuses tout en agissant dans un délai court.

Cette tension ne nie pas la nécessité du retrait. Elle signifie que les services ont besoin de contrôles d’identité sécurisés, de mises à jour transparentes de l’état des demandes, de recours et d’un traitement limité des preuves sensibles.

Les écoles ne devraient pas attendre qu’un processus fédéral de plainte résolve un préjudice immédiat sur le campus. Les administrateurs peuvent préserver les informations nécessaires sans encourager les élèves à faire circuler l’image. Ils peuvent dissocier le soutien à la victime des décisions disciplinaires ou relevant des forces de l’ordre.

Un élève visé par une image fabriquée peut avoir besoin de changements d’emploi du temps, de conseils psychologiques, d’aide pour signaler des comptes et de protection contre les représailles. Ces besoins existent, que les enquêteurs aient ou non identifié le créateur.

Les écoles doivent également communiquer avec prudence. Répéter des détails explicites lors d’assemblées ou d’alertes aux familles peut attiser la curiosité et favoriser la diffusion. Les consignes devraient expliquer le comportement, les conséquences et la voie de signalement sans identifier les victimes.

Les familles devraient éviter de télécharger ou de transférer à répétition des contenus présumés illégaux. NCMEC recommande de signaler toute suspicion d’exploitation sexuelle d’enfants via sa CyberTipline et de contacter les autorités locales lorsque cela est approprié.

La loi est importante parce qu’elle crée une obligation de réponse pour les plateformes. Elle reste incomplète parce que la victime subit toujours le premier choc, souvent avant qu’un adulte ou une institution sache ce qui s’est passé.

Ce que les lecteurs de Google News devraient surveiller au cours de l’année scolaire

Le prochain test consiste à déterminer si la distribution d’applications, l’application des règles par les plateformes et les systèmes de signalement scolaire réduisent les incidents avant que l’avertissement ne devienne un rituel annuel.

Le premier signal concerne l’application des règles par les magasins d’applications et les moteurs de recherche. Des chercheurs ont documenté que de jeunes créateurs découvrent ces outils par des canaux grand public familiers. Apple, Google, les fournisseurs de recherche et les réseaux publicitaires peuvent modifier de manière significative l’accès à ces outils.

L’indicateur important n’est pas une annonce de retrait ponctuelle. Les observateurs devraient vérifier si des applications renommées, des versions web et des services imitateurs réapparaissent. Une application efficace des règles doit examiner la fonction et le marketing, et pas seulement le nom d’une marque interdite.

Ce signal renforcerait les arguments en faveur d’une intervention à l’échelle de l’écosystème si l’accès devient mesurablement plus difficile. Une promotion continue via les canaux grand public affaiblirait les affirmations selon lesquelles les politiques de sécurité volontaires fonctionnent.

Le deuxième signal est l’application de la TAKE IT DOWN Act par la FTC. Les plateformes concernées doivent exploiter des systèmes de retrait conformes depuis le 19 mai 2026.

Les familles et les défenseurs devraient vérifier si les outils de signalement sont visibles pour les personnes sans compte, si les plateformes attribuent des numéros de suivi et si les demandes valides donnent lieu à une action dans les 48 heures. La FTC indique accepter les plaintes concernant les procédures absentes ou inefficaces.

Le lancement de l’application par la FTC montre que l’agence a envoyé des rappels de conformité aux grandes entreprises technologiques. Des affaires publiques préciseraient comment le régulateur interprète les efforts raisonnables visant à retrouver les doublons.

Un retrait rapide et cohérent renforcerait la valeur de la loi comme mesure de réduction des préjudices. Des retards répétés, des formulaires inaccessibles ou une faible détection des doublons montreraient qu’une conformité formelle n’apporte pas de soulagement concret.

Le troisième signal est de savoir si les écoles mettent en place des protocoles précis concernant les images synthétiques. Une politique générale de lutte contre le cyberharcèlement peut ne pas indiquer au personnel comment traiter un faux explicite impliquant un mineur.

Un protocole utile devrait identifier une voie de signalement confidentielle, interdire la redistribution, préserver les preuves de manière appropriée et attribuer la responsabilité du contact avec les plateformes. Il devrait également établir un soutien pour l’élève ciblé avant de déterminer les sanctions.

Les écoles devraient expliquer que fabriquer une image n’est pas inoffensif simplement parce que le corps représenté est synthétique. Elles devraient également éviter de faire peser sur les élèves la charge de prouver le contraire à chaque camarade de classe.

L’interprétation des signalements d’incidents exigera de la prudence. Une hausse des signalements peut refléter davantage d’abus, une meilleure sensibilisation ou une confiance accrue dans les systèmes de soutien. Les écoles devraient examiner les résultats, la récidive et les délais de réponse en parallèle des totaux bruts.

Les familles disposent d’une liste de contrôle plus immédiate. Les parents peuvent demander si leur enfant a entendu parler des applications de déshabillage, si les camarades les considèrent comme des plaisanteries et vers quel adulte l’enfant se tournerait après un incident.

La conversation devrait couvrir à la fois le fait d’être victime et la participation. Un enfant peut recevoir une image avant même de devenir une cible. Il a besoin d’une instruction claire : ne pas l’enregistrer, la demander, la remixer ni la transférer.

Les élèves ont aussi besoin d’être rassurés : demander de l’aide ne déclenchera pas de reproches pour avoir publié une photographie normale. Dire aux enfants de disparaître des pages de l’école et de la vie sociale n’est ni réaliste ni juste.

Les lecteurs de Google News devraient également éviter de réduire le sujet au danger venant d’inconnus. NCMEC indique que de nombreux incidents impliquent des camarades de classe. La personne qui détient l’image source peut déjà appartenir au réseau social ou scolaire de la victime.

Les entreprises technologiques devraient publier des données de transparence significatives. Parmi les informations utiles figureraient le nombre de demandes de retouches sexuelles impliquant des personnes réelles bloquées, les applications de déshabillage retirées, les délais de réponse aux signalements d’images intimes et la prévention des téléversements répétés.

Les chiffres agrégés doivent fournir assez de contexte pour être interprétables. Une hausse du nombre de blocages peut indiquer une demande accrue, une meilleure détection, ou les deux. Les entreprises devraient expliquer les changements de mesure et donner aux chercheurs indépendants un accès contrôlé lorsque la confidentialité le permet.

Les développeurs d’IA devraient tester les garde-fous contre des schémas d’abus réalistes avant la mise sur le marché. L’évaluation devrait inclure des prompts modifiés, des photos d’élèves recadrées, des âges ambigus et des tentatives de sexualiser une personne identifiable.

Aucun filtre technique ne résoudra tous les cas. L’objectif est de réduire les abus réussis, de créer des éléments permettant une intervention et d’empêcher leur répétition facile d’un compte à l’autre.

La leçon dépasse un seul titre de CBS ou un seul cycle de Google News. L’IA grand public a réduit l’effort nécessaire pour transformer l’identité d’une autre personne sans son consentement. La gouvernance doit donc commencer avant qu’un contenu ne devienne viral.

Les parents peuvent entamer ce travail par une question directe : « Que ferais-tu si quelqu’un t’envoyait un faux nu d’un camarade de classe ? » Les établissements scolaires peuvent y répondre par une procédure confidentielle, tandis que les plateformes peuvent le faire par des garde-fous mesurables et un retrait rapide.

Si un élève est déjà concerné, privilégiez sa sécurité plutôt que l’enquête menée par ses pairs. Ne faites pas circuler l’image, documentez où elle est apparue sans en créer de copies supplémentaires, contactez la plateforme concernée et impliquez un adulte de confiance. Signalez toute suspicion d’exploitation d’enfants à NCMEC ou aux autorités compétentes. L’image est peut-être fabriquée, mais la détresse, l’exposition et le besoin de soutien de la personne sont bien réels.