Il blocco delle immagini di nudo di Apple e Google affronta un obbligo legale nel Regno Unito
Apple e Google affrontano ora un obbligo legale nel Regno Unito, dopo che tre mesi di colloqui non sono riusciti a produrre i controlli per la sicurezza dei minori richiesti dai ministri.
Le proposte di regole per il blocco delle immagini di nudo di Apple e Google renderebbero impossibile per chiunque abbia meno di 18 anni scattare, visualizzare o inviare immagini di nudo. La protezione opererebbe su fotocamere, servizi di messaggistica e app di terze parti, anziché limitarsi a servizi selezionati.
Si tratta di un intervento molto più ampio rispetto agli avvisi già integrati in iPhone e dispositivi Android. Questi sistemi generalmente rilevano sul dispositivo la presunta nudità, la sfocano e consentono ad alcuni utenti di proseguire. Il Regno Unito vuole invece un blocco predefinito che solo adulti con età verificata possano disattivare.
La disputa, quindi, non riguarda la capacità della tecnologia di riconoscere la nudità. Apple e Google utilizzano già classificazioni sul dispositivo a questo scopo. Riguarda piuttosto se i fornitori di sistemi operativi debbano trasformare un avviso protettivo in un controllo obbligatorio sull'intero dispositivo.
Il governo afferma che la legislazione è ora necessaria perché le proposte volontarie non corrispondevano alla portata dell'adescamento online, della coercizione e dell'estorsione sessuale. I difensori della privacy ribattono che verifiche universali dell'età e classificazione dei contenuti possono creare rischi propri.
L'obbligo del Regno Unito va oltre gli avvisi a livello di app
Il governo vuole che la protezione dei minori sia applicata dal sistema operativo, senza lasciarla ai genitori o alle singole app.
La segretaria alla Cultura Lisa Nandy ha dichiarato al Parlamento l'8 settembre che il governo introdurrà una legislazione primaria relativa alle protezioni a livello di dispositivo. Un annuncio ufficiale è seguito il 9 settembre.
Il governo aveva inizialmente concesso alle aziende tecnologiche un termine di tre mesi l'8 giugno. Funzionari del dipartimento della Cultura e dell'Home Office hanno quindi lavorato con Apple e Google sulle roadmap tecniche.
Nandy ha riconosciuto che entrambe le aziende avevano assunto impegni significativi. Ha inoltre affermato che avevano sviluppato modifiche a livello di sistema operativo, passando dalla sfocatura di alcune immagini al loro blocco sui dispositivi di utenti minorenni.
I ministri hanno tuttavia concluso che le proposte non soddisfacevano il loro obiettivo. Il piano di protezione dei dispositivi del governo si basa su tre principi.
In primo luogo, gli utenti sotto i 18 anni non dovrebbero poter scattare, visualizzare o inviare immagini di nudo. La restrizione dovrebbe riguardare fotocamere dei dispositivi, funzioni integrate e app di terze parti.
In secondo luogo, la protezione dovrebbe essere attiva per impostazione predefinita. Genitori e tutori non dovrebbero dover trovare un'impostazione, installare un'altra applicazione o configurare separatamente ogni servizio.
In terzo luogo, un utente dovrebbe dimostrare di essere adulto tramite quella che il governo definisce una solida verifica dell'età prima di disattivare la restrizione. La responsabilità di effettuare questa distinzione spetterebbe al fornitore, anziché al minore o al genitore.
Questi principi trasformano una familiare funzione di controllo parentale in un requisito infrastrutturale. Uno sviluppatore di app può moderare le immagini all'interno del proprio servizio. Un fornitore di sistemi operativi può intervenire quando una fotocamera acquisisce un'immagine, quando un software la apre o quando un'altra app tenta di condividerla.
Il governo sta inoltre valutando obblighi per le app utilizzate dai minori. Ciò estenderebbe la responsabilità oltre Apple e Google a servizi quali piattaforme di messaggistica e social.
Tuttavia, al momento dell'annuncio della politica non era pubblico alcun disegno di legge definitivo. Il governo non aveva pubblicato una data di attuazione, uno standard tecnico, un modello di applicazione o una definizione completa della nudità vietata.
Il suo annuncio affermava che la legislazione sarebbe arrivata il prima possibile, pur riconoscendo la complessità della questione. I ministri hanno inoltre lasciato aperta la possibilità di riesaminare la legge se le aziende avessero introdotto autonomamente protezioni adeguate.
Questa precisazione è importante. L'annuncio avvia un processo legislativo, non un'immediata attivazione nazionale. Esame parlamentare, consultazione tecnica, norme di applicazione e periodi di implementazione si frappongono ancora tra la politica e un blocco operativo.
Il cambiamento centrale resta comunque chiaro. Il Regno Unito non accetta più avvisi opzionali all'interno di app selezionate come risposta sufficiente allo sfruttamento sessuale dei minori basato sulle immagini.
Perché Apple e Google sono sottoposte a pressione diretta
Apple e Google controllano il livello in cui, secondo il governo, la protezione può seguire un minore attraverso ogni app.
La regolamentazione della sicurezza online si è tradizionalmente concentrata sui servizi che ospitano, raccomandano o trasmettono contenuti. La politica proposta si sposta più in profondità nello stack tecnologico.
Un social network può bloccare un account o rimuovere un post. Un servizio di messaggistica può limitare i contatti sconosciuti. Nessuna delle due azioni impedisce a un minore di creare un'immagine con la fotocamera o di trasferirla tramite un'altra applicazione.
Apple e Google si trovano in una posizione diversa. I loro sistemi operativi mediano l'accesso a fotocamere, schermi, archiviazione, menu di condivisione, account e autorizzazioni delle applicazioni.
Questo controllo le rende i principali bersagli della pressione governativa. Significa inoltre che qualunque errore tecnico può influire su molte più attività rispetto a un errore all'interno di una singola piattaforma social.
La tesi del governo parte dalla coercizione, non dai contenuti consensuali tra adulti. Nandy ha affermato che i minori vengono adescati, manipolati e ricattati affinché creino immagini intime attraverso i servizi online.
La sua dichiarazione alla Camera dei Comuni ha citato una stima della Internet Watch Foundation secondo cui il 91 percento delle immagini rilevanti è autoprodotto. Il termine descrive materiale realizzato quando un minore appare fisicamente solo, sebbene coercizione o adescamento possano spingerne la creazione.
Nandy ha inoltre affermato che circa 9.000 reati di abuso sessuale su minori ogni anno includono un elemento online. Le persone sotto i 18 anni rappresentano quasi un quarto dei soggetti di ricatto online, secondo le cifre da lei presentate.
Questi dati spiegano perché il governo voglia intervenire prima che un'immagine raggiunga una piattaforma. Una volta inviata un'immagine coercitiva, un autore di reato può copiarla, ridistribuirla o usarla per estorsione sessuale.
Un blocco a livello di dispositivo tenta di spezzare prima questa catena. Potrebbe interrompere l'acquisizione, la visualizzazione o la trasmissione prima che il materiale esca dal controllo del minore.
Il governo vuole inoltre una regola che non dipenda da una configurazione genitoriale perfetta. I controlli familiari sui dispositivi richiedono spesso il tipo di account corretto, software aggiornato, un gruppo famiglia attivo e impostazioni che restino abilitate.
I minori potrebbero utilizzare un account configurato in modo errato. Le famiglie potrebbero condividere dispositivi. Un adolescente potrebbe ricevere un'immagine attraverso un'app che non utilizza l'interfaccia di sicurezza esistente del sistema operativo.
Un'impostazione predefinita prevista dalla legge trasferirebbe queste carenze di configurazione sui fornitori tecnologici. Apple e Google dovrebbero dimostrare che le protezioni funzionano in modo coerente per gli utenti minorenni identificati.
Questa pressione si allinea a una più ampia evoluzione del Regno Unito verso servizi consapevoli dell'età. L'Online Safety Act richiede già alle piattaforme interessate di proteggere i minori da contenuti dannosi, inclusa la pornografia.
Ofcom ha riferito che la percentuale di minori che incontrano controlli altamente efficaci quando viene chiesto loro di dimostrare la propria età è salita dal 25 percento al 43 percento tra luglio 2025 e gennaio 2026. Le sue conclusioni sulle verifiche dell'età hanno inoltre individuato lacune nella ricerca, nei servizi di incontri e nell'inferenza dell'età sui social media.
L'autorità di regolamentazione si aspetta che sistemi operativi, app store e dispositivi assumano un ruolo più ampio. Prevede di riferire sulle protezioni degli app store entro gennaio 2027.
Apple e Google stanno quindi affrontando più di una singola richiesta isolata di funzionalità. Il Regno Unito sta costruendo un modello in cui un'età verificata influenza l'esperienza attraverso servizi e funzioni del dispositivo.
Il blocco delle immagini di nudo di Apple e Google cambia il modello di sicurezza
Il compromesso principale è tra un blocco più rigido che interviene tempestivamente e un sistema di avvisi che preserva la scelta dell'utente e limita l'intervento sull'intero sistema.
Apple abilita già Communication Safety per impostazione predefinita per i minori di 18 anni sui dispositivi supportati. La funzione utilizza il machine learning sul dispositivo per identificare foto o video che sembrano contenere nudità.
L'elaborazione sul dispositivo significa che la classificazione avviene localmente invece di caricare ogni immagine per l'ispezione. Apple afferma di non ricevere l'immagine né un'indicazione del rilevamento della nudità.
La Communication Safety di Apple copre Messages, AirDrop, funzioni FaceTime, album condivisi, Contact Posters e alcuni flussi di condivisione di terze parti. La copertura varia a seconda del dispositivo.
Quando il sistema rileva una presunta nudità, sfoca il contenuto e presenta indicazioni. Un minore può abbandonare la conversazione, bloccare un contatto, chiedere aiuto o contattare un adulto fidato.
Per i minori di 13 anni, è necessario un codice Screen Time prima di visualizzare i contenuti rilevati. I minori più grandi possono generalmente superare l'intervento dopo ulteriori avvisi.
Google segue uno schema simile basato sugli avvisi in Google Messages. Gli avvisi sui contenuti sensibili sono abilitati per impostazione predefinita per gli utenti supervisionati.
Il sistema sfoca le presunte immagini di nudo e visualizza quello che Google definisce uno speed bump. Offre informazioni di sicurezza e opzioni di blocco, ma può comunque consentire a un utente supervisionato di visualizzare, inviare o inoltrare il contenuto.
Google afferma che i suoi controlli sui contenuti sensibili utilizzano SafetyCore per classificare le immagini localmente. Dati identificabili, contenuti e risultati della classificazione non vengono inviati ai server di Google.
SafetyCore elabora un'immagine solo quando un'app integrata richiede la classificazione. Nell'implementazione documentata di Google Messages, non ispeziona continuamente ogni immagine gestita da ogni app Android.
La proposta del Regno Unito richiede un esito diverso. Un avviso chiede all'utente di riconsiderare. Un blocco elimina la scelta per chiunque sia classificato come minore.
Richiede inoltre una portata più ampia. I controlli attuali operano all'interno di applicazioni e percorsi di condivisione definiti. Il governo vuole che la protezione copra la fotocamera e le app di terze parti sull'intero dispositivo.
Questa differenza crea difficili interrogativi ingegneristici. Apple e Google devono identificare quali utenti hanno meno di 18 anni, rilevare accuratamente la nudità, impedire alle applicazioni di aggirare il risultato ed evitare di inviare media privati a un servizio centrale.
Devono inoltre decidere dove avvenga l'intervento. Un sistema potrebbe classificare l'output della fotocamera prima del salvataggio, ispezionare i file quando un'app richiede l'accesso, analizzare i pixel visualizzati sullo schermo o combinare più punti di controllo.
Ogni approccio presenta limiti. I controlli a livello di fotocamera potrebbero non rilevare i file importati. I controlli del menu di condivisione potrebbero non rilevare le app che utilizzano i propri sistemi di trasferimento. L'analisi dello schermo offrirebbe un'ampia copertura, ma anche un impatto più esteso sulla privacy.
La messaggistica cifrata aggiunge un ulteriore livello. La crittografia end-to-end protegge il contenuto durante il trasferimento tra i partecipanti, ma un dispositivo deve comunque visualizzare l'immagine decifrata al destinatario.
La classificazione locale può operare prima della crittografia o dopo la decifratura senza fornire al servizio una copia leggibile durante il trasferimento. Questa progettazione non compromette automaticamente la crittografia.
Tuttavia, i critici distinguono tra crittografia e privacy dell'endpoint. Un messaggio può rimanere cifrato durante la trasmissione mentre il software sul telefono ne valuta il contenuto.
Il Regno Unito non ha ancora pubblicato dettagli tecnici sufficienti per stabilire quale progettazione richiederà. Le affermazioni secondo cui la proposta invia necessariamente ogni foto a un server governativo non sono supportate.
Anche l’affermazione opposta è prematura. L’elaborazione sul dispositivo riduce l’esposizione, ma sono i dettagli dell’implementazione a stabilire quali dati vengano conservati, se i rilevamenti vengano segnalati e in che modo i modelli ricevano aggiornamenti.
Un blocco rigido richiede inoltre standard di accuratezza elevati. Un falso positivo potrebbe impedire l’accesso a fotografie di famiglia, informazioni sanitarie, opere d’arte, materiale didattico o prove che qualcuno deve conservare.
Un falso negativo potrebbe lasciare passare il materiale preso di mira. I responsabili potrebbero inoltre ritagliare, distorcere, coprire o trasformare le immagini per eludere un classificatore.
I controlli di sicurezza per minori di Apple e Google devono quindi risolvere un problema più ampio del semplice riconoscimento della pelle esposta. Devono produrre decisioni affidabili tra età, corporature, condizioni di illuminazione, contesti medici, contesti culturali e media sintetici.
L’esito desiderato dal governo è semplice da descrivere. Il meccanismo necessario per raggiungerlo senza eccessivi effetti collaterali non lo è.
La verifica dell’età e la privacy sono le prove più difficili
Il rilevamento della nudità è solo metà del sistema, perché un blocco predefinito non può funzionare senza stabilire chi sia adulto.
Il principio del governo afferma che gli adulti dovrebbero verificare la propria età prima di accedere a funzioni del dispositivo senza restrizioni. Ciò crea un secondo sistema tecnico accanto alla classificazione delle immagini.
La verifica dell’età è una categoria ampia che comprende metodi per stabilire o stimare se una persona raggiunga una soglia di età. Le opzioni includono documenti d’identità, dati di pagamento, stima dell’età tramite il volto, registri di account affidabili o conferma da parte di un altro fornitore.
La scelta finale determinerà l’impatto della politica sulla privacy. Un metodo che conserva documenti d’identità comporta rischi diversi rispetto a una prova riutilizzabile che confermi soltanto che una persona ha più di 18 anni.
Apple utilizza già le età dichiarate, gli account per minori e le impostazioni familiari per adattare le protezioni. Google utilizza account supervisionati e Family Link per i controlli documentati di Messages.
Questi sistemi possono identificare molti minori, ma non dimostrano l’età di ogni utente del dispositivo. Gli account possono contenere date di nascita errate e i dispositivi possono passare tra membri della famiglia.
Il governo vuole che siano i fornitori a sostenere l’onere di stabilire la maggiore età. Ciò potrebbe spingere le aziende a verificare più utenti, compresi adulti che non usano mai i controlli parentali.
Open Rights Group e altre organizzazioni della società civile hanno avvertito che l’espansione dei controlli dell’età può richiedere verifiche d’identità su vasta scala. Il loro avvertimento sulla privacy sostiene che tali sistemi possono esporre dati personali sensibili e limitare il normale accesso.
La preoccupazione non cancella il danno che i ministri vogliono affrontare. Mostra perché la legislazione debba specificare minimizzazione dei dati, limiti di conservazione, requisiti di sicurezza, procedure di ricorso e test indipendenti.
La progettazione più rispettosa della privacy rivelerebbe soltanto il fatto necessario. Un servizio deve sapere che un utente supera una soglia, non necessariamente il suo nome, indirizzo o data di nascita.
Anche questo segnale limitato deve rimanere accurato sui dispositivi condivisi. Un adulto verificato non dovrebbe poter lasciare un account per minori permanentemente senza restrizioni, mentre un minore non dovrebbe essere escluso senza possibilità di ricorso da materiale legittimo.
Gli errori di classificazione pongono un ulteriore problema di responsabilità. Gli attuali sistemi di avviso preservano una via d’uscita perché una macchina può sbagliare.
Un blocco rigido previsto dalla legge richiede un modo per contestare la decisione. Tuttavia, un meccanismo di ricorso che consenta a un minore di aggirare immediatamente ogni risultato comprometterebbe la politica.
La legislazione dovrà definire eccezioni o procedure di revisione senza creare una facile scappatoia per gli abusanti. Dovrà inoltre spiegare se i genitori possano annullare un blocco e in quali circostanze.
L’ambito di applicazione crea ulteriore incertezza. Le “immagini nude” comprendono più del materiale illegale di abuso sessuale su minori. L’espressione può includere contenuti per adulti leciti e immagini innocue prive di qualsiasi contesto sessuale.
L’obiettivo del governo comprende sia la creazione sia la ricezione di immagini. Ciò solleva interrogativi su fotografie mediche, prove per la tutela, allattamento al seno, immagini familiari e risorse educative.
I legislatori non devono pubblicare un modello di apprendimento automatico nella legislazione. Devono però definire il risultato atteso in modo abbastanza preciso affinché fornitori, autorità di regolamentazione, tribunali e utenti possano comprenderlo.
I test indipendenti sulle prestazioni saranno essenziali. Le dichiarazioni di accuratezza dovrebbero coprire falsi positivi e falsi negativi su dispositivi e contenuti realistici, non soltanto su un set di test selezionato.
I test dovrebbero inoltre esaminare i tentativi di eludere il rilevamento. Un modello che funziona su fotografie comuni potrebbe comportarsi diversamente con screenshot, collage, disegni, immagini generate o file pesantemente modificati.
Il governo ha affermato che gli adulti che verificano la propria età dovrebbero rimanere inalterati. Finché non saranno pubblicate garanzie tecniche e legali, questa promessa resta un obiettivo anziché un risultato dimostrato.
Apple e Google probabilmente sosterranno che la loro elaborazione locale offra già una base. I difensori della privacy si concentreranno sul fatto che tale base si estenda o meno a un’ispezione continua degli endpoint.
Entrambe le questioni appartengono alla stessa valutazione. Un sistema di sicurezza per minori può ridurre un grave danno introducendone un altro se raccoglie dati identitari eccessivi o blocca materiale legittimo senza revisione.
Tre segnali mostreranno che cosa significhi davvero la legge
Il disegno di legge, le implementazioni delle piattaforme e i risultati dei test indipendenti determineranno se questo diventerà una protezione mirata dei minori o un precedente di ampio controllo dei dispositivi.
Il primo segnale è il testo della legislazione primaria. I lettori dovrebbero cercare le aziende interessate, la definizione di nudità, i poteri di applicazione e il calendario.
Il dettaglio più importante sarà l’ambito. Un obbligo limitato ai sistemi operativi su account per minori identificati è diverso da un requisito che riguardi ogni schermo, file e applicazione su ogni dispositivo del Regno Unito.
Il disegno di legge dovrebbe inoltre identificare un’autorità di regolamentazione e uno standard di conformità. Senza questi elementi, le aziende non possono sapere come verranno giudicate accuratezza, privacy e resistenza all’elusione.
Garanzie chiare rafforzerebbero la posizione del governo. Un’autorità vaga per ampliare le categorie di scansione o raccogliere dati identitari rafforzerebbe le preoccupazioni dei critici.
Il secondo segnale è la roadmap di implementazione di Apple e Google. Nandy ha affermato che entrambe le aziende hanno assunto impegni significativi, ma il governo non ha pubblicato le loro proposte complete.
Occorre osservare se Apple estenderà Communication Safety trasformandolo in un vero blocco a livello dell’intero dispositivo. Il suo sistema esistente raggiunge già diversi servizi proprietari e azioni di condivisione selezionate di terze parti.
Per Google, la questione è se SafetyCore si espanderà oltre Google Messages. Il modello applicativo di Android comprende servizi Google, software dei produttori, app di messaggistica alternative e hardware diversificato.
Una regola Android coerente potrebbe quindi richiedere nuove interfacce del sistema operativo e attività di conformità da parte dei produttori di dispositivi. Potrebbe inoltre richiedere agli sviluppatori di app di utilizzare un livello standard di classificazione o policy.
L’architettura della privacy delle aziende conta quanto la copertura delle funzionalità. Classificazione locale, telemetria limitata, aggiornamenti trasparenti dei modelli e prove d’età circoscritte ridurrebbero alcuni rischi.
L’ispezione lato server, un’ampia segnalazione degli eventi o la conservazione persistente dell’identità cambierebbero la valutazione. Nessuna delle due aziende si è impegnata pubblicamente per un simile progetto nei materiali disponibili al momento dell’annuncio.
Il terzo segnale è costituito da prove indipendenti sulle prestazioni nel mondo reale. Le dichiarazioni governative e le dimostrazioni aziendali non possono sostituire i test sull’uso familiare ordinario.
I valutatori dovrebbero misurare se i controlli impediscano acquisizione, visualizzazione e condivisione nelle app integrate e di terze parti. Dovrebbero riportare separatamente i tassi di falsi positivi e falsi negativi.
I test dovrebbero includere immagini con contesti legittimi e modifiche avversarie. Dovrebbero inoltre esaminare cosa accade quando gli account sono configurati in modo errato o i dispositivi sono condivisi.
Il comportamento degli utenti fornirà un’altra parte di queste prove. Se i minori passano a dispositivi non gestiti, strumenti basati su browser o metodi di trasferimento alternativi, la politica potrebbe spostare il rischio anziché eliminarlo.
Ciò non rende inutile la prevenzione. Significa che i controlli dei dispositivi devono affiancarsi al supporto alle vittime, alla moderazione delle piattaforme, alle indagini sui responsabili, a impostazioni di contatto più sicure e all’educazione sulla coercizione.
Le regole di Ofcom di giugno spingono già i servizi di messaggistica e social a contrastare i rischi di cyberflashing e adescamento. I servizi esposti alla messaggistica diretta e all’adescamento dovrebbero limitare per impostazione predefinita i contatti dei minori con gli sconosciuti.
La protezione a livello di dispositivo potrebbe colmare le lacune tra questi servizi. Non può sostituire gli obblighi delle piattaforme dove i responsabili trovano, contattano e manipolano i minori.
Anche la risposta internazionale sarà importante. Se il Regno Unito creerà uno standard praticabile, altri governi potrebbero copiarne la combinazione di verifica dell’età e controlli locali sui contenuti.
Se l’implementazione produrrà blocchi eccessivi, violazioni dei dati o un’elusione diffusa, la politica potrebbe invece diventare un monito contro la regolamentazione di sistemi complessi tramite un risultato assoluto.
Il blocco delle immagini nude di Apple e Google è quindi più di un altro aggiornamento dei controlli parentali. Chiede a due fornitori di sistemi operativi di applicare una distinzione legale all’interno dei computer più personali che le persone possiedono.
La ragione della protezione dei minori è diretta e urgente. Le immagini create sotto coercizione possono diventare strumenti di abuso ripetuto, ricatto e diffusione.
La questione irrisolta è se i legislatori possano trasformare quell’urgenza in un obbligo tecnico preciso. Il prossimo disegno di legge dovrà definire chi è coperto, cosa viene bloccato, come viene stabilita la maggiore età e come vengono corretti gli errori.
I lettori dovrebbero giudicare la politica attraverso questi dettagli concreti, non attraverso slogan sulla sicurezza o sulla sorveglianza. Occorrono standard pubblicati, test indipendenti e limiti rigorosi sui dati identitari.
Se il Regno Unito riuscirà a richiedere garanzie efficaci mantenendo locale la classificazione e praticabili i ricorsi, stabilirà un notevole modello di sicurezza per minori. Se queste protezioni resteranno vaghe, la stessa legge potrebbe normalizzare un controllo molto più ampio sui dispositivi privati.
