I reati deepfake della polizia britannica sono in aumento, ma il conteggio ufficiale rileva solo una parte del danno
I casi di reati deepfake registrati dalla polizia britannica in 20 forze hanno raggiunto quota 163 entro luglio 2026, secondo i dati riportati da The Telegraph. Il conteggio comparabile era pari a 10 nel 2023. L'aumento suggerisce che i media sintetici siano passati da rischio teorico a elemento della quotidiana attività di polizia.
Tuttavia, i dati non rappresentano un totale nazionale completo dei reati. Derivano da ricerche di termini quali “AI-generated”, “deepfake” e “nudify” nei registri della polizia. Venti forze hanno fornito dati pertinenti, mentre Inghilterra e Galles contano 43 forze di polizia territoriali.
Il numero principale racconta quindi una storia su due fronti. La polizia incontra un numero maggiore di reati con una componente IA identificabile, in particolare abusi basati su immagini sessualizzate. Allo stesso tempo, pratiche di registrazione incoerenti rendono difficile misurarne la reale portata.
Questa tensione è importante perché Inghilterra e Galles hanno modificato la legge nello stesso periodo. Creare o richiedere un'immagine intima presunta di un adulto senza consenso è diventato uno specifico reato nel febbraio 2026. Il Parlamento ha inoltre preso di mira i servizi progettati per generare tali immagini.
La sfida si è spostata dal riconoscimento del danno alla sua individuazione, registrazione, indagine e rimozione. Le leggi possono definire un reato. Non possono identificare automaticamente ogni immagine manipolata, conservare prove all'estero o convincere le vittime che segnalare l'accaduto sarà utile.
I reati deepfake della polizia britannica sono aumentati in un dataset parziale
I 163 reati registrati sono un segnale d'allarme, non una stima della prevalenza nazionale.
Le cifre riportate dalla polizia coprono i registri restituiti da 20 forze attraverso parole chiave associate ai media sintetici. Secondo il resoconto di The Telegraph, il totale è salito da 10 nel 2023 a 163 entro luglio 2026.
Si tratta di un aumento di oltre sedici volte tra i punti finali riportati. Tuttavia, il confronto non dovrebbe essere interpretato come una misura precisa della frequenza con cui le persone hanno creato deepfake in entrambi i periodi.
Una ricerca per parole chiave dipende dai termini inseriti da operatori delle chiamate, agenti, investigatori e vittime. Una forza potrebbe descrivere una fotografia manipolata come “AI-generated”. Un'altra potrebbe registrare una condotta analoga come molestie, ricatto, comunicazioni malevole o abuso di immagini intime.
Un terzo registro potrebbe spiegare l'alterazione senza utilizzare alcuno dei termini cercati. Quel caso non apparirebbe nel risultato, pur coinvolgendo la stessa tecnologia e un danno comparabile.
Il dataset include inoltre meno della metà delle forze di polizia territoriali di Inghilterra e Galles. Non stabilisce cosa sia accaduto nelle forze che non hanno restituito informazioni utilizzabili. Né mostra se ogni forza rispondente abbia cercato negli stessi campi, con le stesse grafie o negli stessi intervalli di date.
Anche il termine “reato” richiede analoga cautela. Un registro contenente “deepfake” non rappresenta necessariamente un illecito distinto, formulato specificamente per la creazione di deepfake. La polizia classifica le condotte in base alla legge applicabile al comportamento, che può includere reati sessuali, di comunicazione, frode, stalking o tutela dei minori.
Alcuni registri potrebbero riguardare audio generato dall'IA usato per impersonare qualcuno. Altri potrebbero concernere immagini sessuali alterate, minacce di pubblicarle o materiale che coinvolge minori. Il metodo basato sulle parole chiave raggruppa casi tecnologicamente correlati che possono differire sostanzialmente per condotta e trattamento legale.
Anche le modalità di registrazione sono cambiate tra il 2023 e il 2026. La consapevolezza pubblica è cresciuta, gli agenti hanno acquisito un vocabolario per i media sintetici e i nuovi reati hanno fornito alla polizia etichette più chiare. Una parte dell'aumento riflette probabilmente più reati, mentre un'altra parte riflette un migliore riconoscimento e una migliore documentazione.
Questa precisazione non rende irrilevante l'aumento. Una misura amministrativa imperfetta può comunque rivelare un cambiamento operativo significativo. Gli stessi termini compaiono in molti più registri di polizia, in più giurisdizioni, in un periodo di segnalazione molto più breve.
Le principali domande senza risposta riguardano gli esiti. I dati pubblici non forniscono una ripartizione nazionale standardizzata di arresti, incriminazioni, procedimenti giudiziari, età delle vittime o categorie di reato. Senza questi dettagli, il conteggio misura la domanda registrata più chiaramente del successo nell'applicazione della legge.
I responsabili della polizia necessitano pertanto di un metodo comune per contrassegnare i reati abilitati dall'IA. Altrimenti, i decisori politici continueranno a confrontare ricerche per parole chiave che variano in base alla forza, al sistema software e alle pratiche degli agenti.
Un quadro nazionale affidabile distinguerebbe le immagini intime sintetiche dall'imitazione vocale, dalle frodi, dalle prove fabbricate e dal materiale di abuso sessuale su minori generato dall'IA. Terrebbe inoltre traccia del fatto che ciascun caso abbia riguardato creazione, distribuzione, minacce o caricamenti ripetuti.
Finché tale sistema non esisterà, 163 va letto come una soglia minima all'interno di un dataset parziale. Mostra un problema in crescita, ma non ne definisce i confini.
Perché gli strumenti nudify hanno cambiato la scala dell'abuso
I servizi nudify riducono un atto tecnicamente difficile a un caricamento, un prompt e un'immagine generata.
Un deepfake è un contenuto sintetico o alterato che raffigura falsamente una persona reale mentre fa o dice qualcosa. Uno strumento nudify è un servizio progettato per far apparire nuda o sessualmente esposta una persona vestita.
In passato, la produzione di deepfake richiedeva spesso software specialistico, hardware adeguato, molte immagini di origine e tempo considerevole. I servizi per i consumatori ora nascondono gran parte di quel lavoro dietro moduli web, bot di messaggistica o assistenti di immagini integrati.
L'autore del reato non deve comprendere l'addestramento dei modelli. Una fotografia scolastica, un'immagine di profilo social o un normale ritratto possono diventare il materiale di origine. La distribuzione può poi avvenire tramite chat di gruppo, social network, forum o messaggi diretti.
Questa barriera più bassa cambia chi può commettere l'abuso e dove esso avviene. Un compagno di classe può prendere di mira un altro studente. Un ex partner può fabbricare materiale umiliante. Uno sconosciuto può alterare una fotografia pubblica e associarla a un nome.
L'immagine può essere fabbricata, ma la violazione è legata a un'identità reale. Gli spettatori possono riconoscere il volto, la scuola, il luogo di lavoro o l'account social. Le vittime possono quindi subire derisione, molestie sessuali, estorsione o richieste ripetute di dimostrare che l'immagine è falsa.
Il danno persiste anche dopo una smentita tecnica. Una vittima può dimostrare che un'immagine è stata generata e perdere comunque il controllo della sua circolazione. Le copie possono trasferirsi su nuovi account o piattaforme dopo che il caricamento originale è scomparso.
La scala aggrava il problema. Wired ha identificato almeno 50 bot Telegram che affermavano di creare immagini o video espliciti in un'indagine del 2024 sui bot nudify. Quel reportage ha mostrato come automazione, infrastruttura di messaggistica e interfacce semplici possano trasformare un abuso individualizzato in un servizio.
I generatori di immagini per uso generale aggiungono un ulteriore livello. Non sono necessariamente commercializzati per l'abuso, ma misure di protezione deboli possono consentire trasformazioni sessualizzate di persone reali. La distinzione tra un prodotto nudify dedicato e un assistente mainstream usato impropriamente diventa quindi importante sia per la legge sia per l'applicazione della legge.
Uno strumento su misura ha uno scopo evidente. Un modello generale può svolgere molte funzioni legittime pur producendo output vietati in seguito a determinati prompt o modifiche. Gli sviluppatori devono verificare se le protezioni funzionano tra lingue, richieste indirette, modifiche delle immagini e tentativi ripetuti.
La tecnologia può anche creare un problema probatorio. Gli investigatori devono stabilire chi abbia inviato l'immagine, chi abbia generato l'output, chi l'abbia condiviso e se la persona raffigurata abbia acconsentito. Tali azioni possono coinvolgere persone, account, dispositivi e Paesi diversi.
I fornitori di servizi possono detenere registri essenziali, inclusi orari di caricamento, identificatori degli account, registri di pagamento, prompt e output generati. Se un fornitore conserva poche informazioni o opera all'estero, la polizia può faticare a ottenerle prima che vengano eliminate.
La crittografia e i metodi di pagamento anonimi possono aggiungere ulteriori ostacoli. Anche quando gli agenti identificano un account, collegarlo a una persona oltre ogni ragionevole dubbio resta un compito distinto.
Queste dinamiche spiegano perché i casi registrati possano aumentare più rapidamente della capacità di applicazione della legge. La generazione è immediata. L'indagine dipende ancora dalla conservazione delle prove, dalla collaborazione delle piattaforme, dal lavoro forense e dalle procedure legali.
Le nuove leggi spostano la responsabilità dalla condivisione alla creazione
Inghilterra e Galles ora criminalizzano una porzione più ampia della catena abusiva, incluse la creazione e le richieste effettuate prima della distribuzione di un'immagine.
La condivisione o la minaccia di condividere immagini intime senza consenso era già coperta dal Sexual Offences Act 2003, in seguito alle modifiche introdotte dall'Online Safety Act 2023. Tale quadro include immagini alterate o interamente fabbricate.
Rimaneva una lacuna relativa alla creazione di una presunta immagine intima di un adulto quando il creatore non la distribuiva. Il Data (Use and Access) Act 2025 ha introdotto reati che coprono la creazione e le richieste di creazione senza consenso o senza una ragionevole convinzione dell'esistenza del consenso.
Tali reati sono entrati in vigore il 6 febbraio 2026. La tempistica è centrale per interpretare i nuovi dati della polizia, poiché le condotte registrate in precedenza potrebbero essere state indagate ai sensi di reati differenti.
La legge utilizza l'espressione “purported intimate image” per coprire un'immagine che sembra mostrare una persona reale in uno stato intimo, ma che non è esclusivamente una fotografia o un filmato autentico di quella persona. Questa formulazione tecnologicamente neutra evita di legare il reato a un singolo modello o metodo di generazione.
Riconosce inoltre che il danno inizia prima della pubblicazione. Creare un'immagine senza consenso può di per sé violare l'autonomia sessuale di una persona, anche se la polizia non può dimostrare che il creatore l'abbia distribuita.
Anche richiedere la creazione è coperto. Ciò è rilevante quando una persona incarica un servizio, l'operatore di un bot o un altro individuo di fabbricare l'immagine.
Il Crime and Policing Act 2026 si spinge oltre affrontando i generatori. Le sue disposizioni sulla nudificazione prendono di mira la realizzazione, l'adattamento, la fornitura o l'offerta di qualcosa destinato all'uso come generatore di presunte immagini intime.
La legislazione definisce “thing” in modo sufficientemente ampio da includere un programma, informazioni elettroniche o un servizio. La responsabilità dipende in parte dal fatto che una persona ragionevole lo considererebbe realizzato o fornito per generare presunte immagini intime.
La pena massima per il reato relativo al generatore può arrivare a tre anni di carcere in seguito a condanna su atto d'accusa, oltre a una multa illimitata. La legge contiene anche difese, esenzioni per intermediari e disposizioni relative alla responsabilità societaria.
Un fornitore può invocare una difesa dimostrando di aver adottato tutte le misure ragionevoli per prevenire l'uso improprio. Ciò crea una questione pratica di conformità per gli sviluppatori di IA multiuso: quali test, controlli di accesso, attività di monitoraggio e procedure di risposta siano considerati ragionevoli?
La stessa legge istituisce ordini di cancellazione delle immagini. Un tribunale può richiedere a un autore di rendere il materiale coperto inutilizzabile, inclusa l'eliminazione delle copie digitali o l'organizzazione della rimozione o dell'occultamento permanente dei contenuti online.
Questi cambiamenti creano una catena legale più completa. La legge può raggiungere la creazione, le richieste, la distribuzione, le minacce, i generatori dedicati e il possesso o controllo continuativo dopo la condanna.
Tuttavia, l’entrata in vigore non garantisce un impatto operativo immediato. Sezioni diverse possono richiedere misure di avvio, linee guida, standard tecnici o attuazione normativa. La polizia deve inoltre essere formata per riconoscere quale reato si applichi a una specifica sequenza di azioni.
Gli investigatori devono distinguere tra adulti e minori, poiché si applicano regimi legislativi diversi. I presunti reati relativi a immagini intime di adulti non sostituiscono le leggi che riguardano immagini indecenti o pseudo-fotografiche di minori.
Il nuovo quadro è quindi più ampio, ma anche più complesso. Gli agenti devono identificare la vittima, il tipo di immagine, l’azione del sospettato, lo stato del consenso, la cronologia della diffusione e il generatore coinvolto.
Uno standard nazionale di registrazione renderebbe visibile questa complessità. Senza di esso, il pubblico potrebbe osservare un totale in aumento senza sapere se il sistema giudiziario stia utilizzando efficacemente i nuovi reati.
Polizia e piattaforme ora condividono l’onere dell’applicazione
Il confronto centrale non è più tra legge e illegalità; è tra una generazione più rapida e un rilevamento e una rimozione più lenti.
La polizia può indagare su singoli sospettati, sequestrare dispositivi, raccogliere dichiarazioni e richiedere registri alle piattaforme. Non può monitorare continuamente ogni servizio su cui immagini abusive potrebbero essere create o ripubblicate.
Le piattaforme controllano i sistemi che generano, ospitano, raccomandano e replicano contenuti. Le loro decisioni di prodotto determinano se un utente possa caricare la fotografia di un’altra persona, richiedere una modifica sessualizzata e pubblicare il risultato in pochi minuti.
Ciò rende la prevenzione una questione di progettazione oltre che di attività di polizia. I servizi possono limitare le trasformazioni sessualizzate che coinvolgono persone identificabili, testare prompt avversariali, limitare la frequenza dei tentativi ripetuti e conservare le prove dopo segnalazioni valide.
Possono anche utilizzare hash, ossia impronte digitali derivate dai file, per identificare copie note. I sistemi di corrispondenza possono ridurre i caricamenti ripetuti senza richiedere alle vittime di individuare manualmente ogni singola istanza.
Il Crime and Policing Act impone ai servizi coperti di tipo user-to-user e di ricerca il dovere di agire sulle segnalazioni valide relative a immagini intime. Richiede la rimozione o la soppressione non appena ragionevolmente praticabile, entro e non oltre 48 ore.
Le norme prevedono la corrispondenza tra il contenuto segnalato e le copie identiche o sostanzialmente identiche. Questo elemento è importante perché piccole modifiche, ritagli, didascalie o compressioni potrebbero altrimenti eludere la semplice corrispondenza esatta dei file.
Ofcom ha separatamente proposto requisiti di rilevamento più rigorosi nell’ambito dei suoi Illegal Content Codes. Il regolatore ha dichiarato che le modifiche ai codici dovrebbero entrare in vigore nell’autunno 2026, subordinatamente alla procedura pertinente.
Questo livello relativo alle piattaforme cambia il calcolo della pressione. Una vittima non dovrebbe dover fare affidamento esclusivamente sull’identificazione e sul perseguimento del creatore originario. Una rimozione rapida può limitare l’esposizione mentre prosegue un’indagine penale.
Tuttavia, il rilevamento automatizzato comporta compromessi. Un sistema deve distinguere l’abuso di immagini intime da contenuti leciti di natura medica, educativa, giornalistica, artistica e consensuale. Una corrispondenza debole non individua le copie modificate, mentre filtri troppo ampi possono rimuovere materiale legittimo.
I media sintetici aggiungono un’ulteriore complicazione. I modelli di rilevamento non identificano sempre se un’immagine sia stata generata, e le tecniche di generazione continuano a cambiare. Un falso negativo può lasciare online contenuti dannosi, mentre un falso positivo può bloccare l’espressione lecita.
Il consenso non può sempre essere dedotto dai pixel. Un’immagine realistica potrebbe essere autentica e condivisa consensualmente, autentica e sottratta, oppure sintetica e non autorizzata. Le piattaforme necessitano di procedure di segnalazione che incorporino il contesto fornito dalla persona raffigurata.
Le vittime hanno inoltre bisogno di un percorso che non le esponga a ulteriori danni. Richiedere caricamenti ripetuti di un’immagine abusiva, documenti d’identità eccessivi o segnalazioni separate per ogni copia può ricreare la perdita di controllo.
Le esigenze probatorie della polizia e delle piattaforme possono entrare in conflitto con la cancellazione immediata. Gli investigatori potrebbero aver bisogno di registri conservati, mentre le vittime desiderano ragionevolmente che l’accesso pubblico venga interrotto subito. I fornitori necessitano di procedure che limitino l’accesso senza distruggere dati giuridicamente rilevanti.
I servizi internazionali creano ulteriori frizioni. Un’azienda potrebbe non avere una sede nel Regno Unito, conservare dati in un’altra giurisdizione o rispondere lentamente alle richieste delle forze dell’ordine. Blocchi e sanzioni finanziarie possono fare pressione sui fornitori, ma l’attribuzione richiede comunque tempo.
Il governo ha creato PoliceAI e un Policing AI Threat Hub per coordinare la risposta ai reati abilitati dall’IA. Il suo programma di polizia dovrebbe fornire alle forze strumenti di rilevamento dei deepfake e formazione.
La tecnologia di rilevamento può aiutare a smistare le prove, ma non può decidere autonomamente un caso. Gli agenti necessitano comunque di provenienza, testimonianze, registri degli account e prove provenienti dai dispositivi. Il punteggio di confidenza di un rilevatore non dimostra chi abbia creato o condiviso un’immagine.
Il modello di applicazione più solido combina prevenzione da parte delle piattaforme, segnalazione rapida da parte delle vittime, conservazione delle prove, capacità specialistiche della polizia e azione penale. Lasciare debole anche un solo elemento offre agli autori una via per aggirare gli altri.
Cosa i 163 casi ancora non ci dicono
La maggiore incertezza non riguarda il fatto che l’abuso stia aumentando, ma quanto rimanga non denunciato o nascosto da classificazioni incoerenti.
Le vittime possono evitare di rivolgersi alla polizia perché temono di non essere credute, la pubblicità, che i genitori lo scoprano, conseguenze lavorative o un’ulteriore diffusione. Alcune inizialmente non sanno se l’immagine sia autentica, manipolata o interamente sintetica.
Altre possono segnalare direttamente a una piattaforma senza contattare la polizia. Una scuola potrebbe gestire un incidente internamente, mentre un datore di lavoro potrebbe trattarlo come cattiva condotta. Ciascun percorso può lasciare il comportamento al di fuori delle statistiche penali.
Il dataset di 20 forze non può misurare questi casi mancanti. Né può rivelare quanti rapporti abbiano coinvolto donne, uomini, adulti o minori, a meno che le forze sottostanti non abbiano raccolto e divulgato tali campi in modo coerente.
L’uso sessualizzato dei deepfake è ampiamente considerato un abuso di genere. I servizi dedicati al nudify sono stati spesso progettati attorno a corpi femminili, mentre i casi pubblici hanno ripetutamente preso di mira donne e ragazze.
Tuttavia, il totale riportato dalla polizia non dovrebbe essere utilizzato per assegnare un profilo delle vittime che il dataset non ha dimostrato. Statistiche nazionali migliori dovrebbero pubblicare informazioni demografiche con garanzie a tutela delle vittime.
La stessa cautela si applica all’espressione “crimine dell’IA”. L’IA può essere lo strumento, la prova, il bersaglio o un dettaglio incidentale di un caso. Un deepfake usato per umiliazione sessuale presenta esigenze investigative diverse da quelle di audio clonati usati nelle frodi di pagamento.
I risultati basati su parole chiave possono anche contare un linguaggio in evoluzione, non soltanto comportamenti in evoluzione. Il termine “deepfake” è diventato più familiare dopo incidenti di alto profilo e dibattiti legislativi. Un agente che nel 2023 scriveva “immagine modificata” potrebbe nel 2026 scrivere “deepfake generato dall’IA”.
Le nuove leggi possono causare un aumento apparente migliorando la classificazione. È un risultato auspicabile se vittime precedentemente invisibili ricevono una risposta più accurata. Ciononostante, complica i confronti anno su anno.
Esiste un altro confine relativo ai minori. La legge vigente tratta già come illegale il materiale realistico di abuso sessuale su minori generato dall’IA, attraverso disposizioni riguardanti pseudo-fotografie indecenti e materiale correlato.
L’Internet Watch Foundation ha identificato 8.029 immagini e video realistici generati dall’IA che raffiguravano abusi sessuali su minori nel corso del 2025. La sua valutazione del 2026 ha inoltre descritto l’uso delle sembianze di minori reali e segnali di servizi di generazione commercializzati.
Queste cifre misurano materiale valutato da una hotline specialistica, non reati registrati dalla polizia. Non dovrebbero essere sommati ai 163 casi. La differenza illustra perché il Regno Unito necessiti di misure connesse che coprano segnalazioni delle vittime, rimozioni dalle piattaforme, rilevamenti delle hotline, indagini e risultati giudiziari.
Gli esiti dell’applicazione sono particolarmente importanti. Un numero crescente di segnalazioni accompagnato da poche richieste di prove, arresti o imputazioni indicherebbe una lacuna operativa. Più imputazioni ai sensi dei nuovi reati di creazione suggerirebbero che la legislazione si stia traducendo in pratica.
Le statistiche pubbliche dovrebbero anche mostrare il tempo necessario alla rimozione. Un’immagine che rimane ampiamente accessibile per giorni può causare danni duraturi anche quando un sospettato viene infine identificato.
I ricercatori dovranno verificare se il dovere di 48 ore riduca l’esposizione sui principali servizi. Dovrebbero inoltre esaminare se le comunità abusive migrino verso siti più piccoli, canali crittografati o fornitori al di fuori del Regno Unito.
Il numero 163 apre quindi l’indagine anziché chiuderla. Conferma che gli agenti stanno riscontrando più accuse legate all’IA, ma non può da solo stabilire prevalenza, vittimizzazione o deterrenza.
Tre segnali mostreranno se la risposta funziona
Il prossimo banco di prova è se il cambiamento giuridico produca miglioramenti misurabili nella registrazione, nella rimozione e negli esiti penali.
Il primo segnale è un dataset nazionale standardizzato della polizia. Il Home Office, PoliceAI o il National Police Chiefs’ Council dovrebbero definire indicatori coerenti per i reati abilitati dall’IA in tutte le 43 forze territoriali.
Quel sistema dovrebbe distinguere tra creazione di immagini, richieste, condivisione, minacce, fornitura di generatori, frode e materiale di abuso sessuale su minori. Dovrebbe inoltre registrare se l’IA sia stata confermata, sospettata o semplicemente menzionata.
Un dataset standardizzato rivelerebbe se l’attuale aumento continui dopo che la terminologia si sarà stabilizzata. Consentirebbe confronti tra le forze senza fare affidamento su ricerche separate per parole chiave.
Aiuterebbe inoltre a individuare lacune nella formazione. Se popolazioni simili producono tassi di registrazione radicalmente diversi, la differenza potrebbe riflettere canali di segnalazione, consapevolezza degli agenti o capacità investigativa locale.
Il secondo segnale è l’attuazione da parte di Ofcom di protezioni più forti per le immagini intime. Le misure importanti non sono solo le norme scritte, ma la velocità di rimozione, la prevenzione dei caricamenti ripetuti, la gestione dei reclami e l’applicazione nei confronti dei servizi non conformi.
Un risultato significativo mostrerebbe vittime che segnalano una sola volta e vedono le copie corrispondenti soppresse sulle piattaforme coperte. La ricomparsa ripetuta indebolirebbe l’affermazione secondo cui il quadro normativo restituisce il controllo alle vittime.
La trasparenza sarà importante in questo ambito. I rapporti aggregati dovrebbero mostrare quante notifiche ricevono le piattaforme, con quale frequenza agiscono entro 48 ore e quante decisioni vengono contestate o revocate.
Il terzo segnale è il primo corpus di casi ai sensi dei reati del 2026. Imputazioni e sentenze chiariranno come i pubblici ministeri provino la creazione, le richieste, l’assenza di consenso e la responsabilità per la fornitura di un generatore.
I primi casi metteranno inoltre alla prova la difesa dei “passi ragionevoli” disponibile per alcuni fornitori. I tribunali potrebbero dover esaminare se le salvaguardie siano state significative, documentate e testate contro abusi prevedibili.
Questi esiti dovrebbero essere valutati con attenzione. Un basso numero di procedimenti penali potrebbe indicare un’applicazione debole, ma potrebbe anche riflettere le tempistiche investigative o una prevenzione efficace. Un numero elevato potrebbe significare un rilevamento migliore, anziché un maggiore abuso sottostante.
La misura più utile combinerà diversi esiti: meno caricamenti dannosi, rimozione più rapida, sostegno più forte alle vittime, indagini più chiare e procedimenti penali proporzionati.
Per gli sviluppatori di IA, la lezione è già concreta. I test di sicurezza devono includere tentativi di sessualizzare persone identificabili, non solo richieste di contenuti espliciti in generale. I fornitori necessitano inoltre di sistemi di segnalazione e conservazione delle prove prima che si verifichino incidenti.
Per le scuole e i datori di lavoro, le immagini sintetiche dovrebbero essere trattate come veri abusi, anziché essere liquidate perché il corpo raffigurato è fabbricato. I piani di risposta devono proteggere la persona presa di mira, preservare le prove e limitare la ricircolazione.
Per gli utenti, lo scetticismo verso i media manipolati resta necessario, ma il peso non può ricadere soltanto sul pubblico. Una vittima non dovrebbe dover vincere una disputa pubblica di analisi forense prima che una piattaforma intervenga.
I dati della polizia britannica sui reati legati ai deepfake mostrano che il problema è entrato nelle istituzioni di routine. La prossima domanda è se tali istituzioni possano muoversi con la stessa rapidità degli strumenti che causano il danno.
Occorre seguire gli standard nazionali di registrazione, l’attuazione da parte di Ofcom e i primi procedimenti giudiziari ai sensi delle leggi ampliate. Nel loro insieme, questi segnali mostreranno se i 163 casi segnino l’inizio di una responsabilità effettiva o soltanto una maggiore visibilità su un problema molto più ampio.
