L’allerta di Letitia James per gli informatori sull’AI mette in guardia i laboratori di frontiera
Il 17 settembre, la procuratrice generale di New York Letitia James ha diffuso un’allerta per gli informatori sull’AI, indirizzando i lavoratori del settore verso un canale statale riservato per le segnalazioni. L’iniziativa riguarda informazioni su uno sviluppo dell’AI non sicuro o illegale che potrebbe mettere a rischio i cittadini di New York.
L’annuncio contiene un chiarimento importante. James non ha lanciato un nuovo sito web dedicato esclusivamente all’intelligenza artificiale. Il suo ufficio sta invitando gli addetti ai lavori dell’AI a utilizzare un sistema crittografato per gli informatori che New York ha introdotto nel 2019.
Questa distinzione rende l’iniziativa più significativa, non meno. New York sta collegando un canale investigativo consolidato a un nuovo quadro di applicazione delle norme, mesi prima dell’entrata in vigore del RAISE Act.
Il confronto immediato è tra gli investigatori statali in cerca di prove e le aziende di AI che continuano a controllare la maggior parte delle informazioni sui propri modelli. Queste aziende pubblicano rapporti sulla sicurezza e mantengono sistemi interni di segnalazione, ma le autorità di regolamentazione raramente vedono ogni test, incidente o misura di protezione abbandonata.
New York ora vuole che dipendenti, appaltatori e altri insider contribuiscano a colmare questa lacuna. La questione centrale è se si fideranno del canale statale.
L’allerta di Letitia James per gli informatori sull’AI utilizza un portale esistente
New York ha modificato lo scopo e l’urgenza di un canale di segnalazione esistente, anziché creare un sistema di reclami riservato all’AI.
L’allerta al settore della procuratrice generale invita i lavoratori a conoscenza delle aziende di AI a segnalare condotte potenzialmente illegali. Indica specificamente i rischi per la cybersicurezza, l’economia e altri ambiti della sicurezza come aree oggetto di particolare attenzione.
La richiesta va oltre gli scandali pubblici o i reclami dei consumatori. Cerca informazioni detenute da persone che possono vedere come un modello sia stato sviluppato, testato, protetto o distribuito.
Questo gruppo potrebbe includere ricercatori che hanno valutato capacità pericolose. Gli ingegneri della sicurezza potrebbero disporre di prove su una violazione non segnalata o su controlli di accesso inadeguati. Il personale di prodotto potrebbe sapere se un’azienda ha ignorato rischi documentati prima del rilascio.
L’allerta non nomina alcuna azienda né sostiene che un particolare sviluppatore abbia violato la legge. Non annuncia neppure un’indagine, una causa o un accordo di applicazione delle norme.
Funziona invece come un invito a fornire prove. James sta dicendo agli insider che New York dispone già di un canale per le informazioni che altrimenti potrebbero rimanere all’interno dei sistemi aziendali.
Il portale protetto sottostante supporta invii anonimi e comunicazioni bidirezionali. L’utente riceve un codice segreto che consente messaggi successivi senza fornire la propria identità.
Chi cerca un anonimato più forte deve installare Tor Browser e visitare l’indirizzo onion del portale. Tor instrada il traffico attraverso più relay, contribuendo a oscurare la posizione e le informazioni di rete dell’utente.
Un modulo di invio richiede l’oggetto, una descrizione ed eventuali file di supporto. Questo formato semplice consente a un lavoratore di fornire documenti mantenendo al contempo una conversazione continua con gli investigatori.
Tuttavia, le istruzioni della stessa procuratrice generale includono un avvertimento cruciale. La trasmissione può essere anonima, ma non è garantito che il contenuto inviato rimanga anonimo o riservato.
Un documento può rivelare il suo autore attraverso metadati, formulazioni, registri di accesso o dettagli noti soltanto a pochi dipendenti. Gli investigatori potrebbero inoltre dover utilizzare le informazioni in un procedimento legale.
I potenziali informatori devono quindi affrontare due questioni distinte. Devono valutare la sicurezza del canale di comunicazione e gli indizi identificativi contenuti nelle loro prove.
Lo Stato ha annunciato per la prima volta il sistema per gli informatori il 2 ottobre 2019. All’epoca, l’ufficio lo descrisse come una piattaforma open source per il trasferimento crittografato di documenti e la comunicazione bidirezionale anonima.
L’allerta del 2026 riutilizza questa infrastruttura per una sfida di applicazione delle norme molto più specifica. I sistemi di AI avanzati sono difficili da ispezionare per gli esterni, mentre i dipendenti possono osservare direttamente test, incidenti e decisioni interne.
Il cambiamento è quindi istituzionale piuttosto che tecnico. New York ha incluso lo sviluppo dell’AI nell’ambito di applicazione del portale e ha chiesto pubblicamente agli insider di farsi avanti.
Perché New York sta chiedendo ai lavoratori dell’AI di intervenire ora
La tempistica collega le segnalazioni volontarie di oggi a poteri più forti di divulgazione e applicazione delle norme in arrivo il 1° gennaio 2027.
Il Responsible AI Safety and Education Act di New York, comunemente chiamato RAISE Act, si applica ai grandi sviluppatori di modelli di frontiera. Un modello di frontiera è un sistema general-purpose altamente capace, la cui scala può creare insolite preoccupazioni di sicurezza.
La legge richiede agli sviluppatori interessati di pubblicare informazioni sui propri quadri di sicurezza. Stabilisce inoltre obblighi di segnalazione degli incidenti per specifiche forme di danno critico.
La governatrice Kathy Hochul ha firmato la legislazione il 19 dicembre 2025. Il riepilogo del RAISE Act dello Stato afferma che gli sviluppatori interessati devono segnalare gli incidenti qualificanti entro 72 ore dalla determinazione che un incidente si è verificato.
L’atto crea inoltre un ufficio di supervisione all’interno del Dipartimento dei servizi finanziari di New York. Tale ufficio valuterà i grandi sviluppatori di modelli di frontiera e pubblicherà relazioni annuali.
James potrà avviare azioni civili quando uno sviluppatore interessato non presenta le segnalazioni richieste o rilascia dichiarazioni false. I materiali statali indicano sanzioni fino a 1 milione di dollari per una prima violazione.
Le violazioni successive possono comportare sanzioni fino a 3 milioni di dollari. Queste cifre riguardano le violazioni del RAISE Act, non il semplice atto di ricevere una segnalazione da un informatore.
L’allerta di settembre arriva circa tre mesi e mezzo prima dell’entrata in vigore della legge. Questo intervallo offre all’ufficio della procuratrice generale il tempo di raccogliere prove, comprendere i modelli di segnalazione e prepararsi all’applicazione delle norme.
Le leggi esistenti offrono già all’ufficio altre vie per intervenire. L’allerta cita lo SHIELD Act di New York, che richiede misure ragionevoli di sicurezza dei dati per le informazioni private.
L’ufficio richiama inoltre le protezioni della privacy e le leggi contro l’uso improprio dei computer, l’hacking e la frode. Di conseguenza, un reclamo non deve attendere il RAISE Act se descrive una condotta già disciplinata altrove.
Questo crea due tempistiche per le aziende di AI.
La prima riguarda gli obblighi legali attuali. Un fallimento della sicurezza, una violazione della privacy, una pratica ingannevole o un reato informatico possono già attirare attenzione.
La seconda riguarda il nuovo quadro per i modelli di frontiera. Da gennaio, gli sviluppatori interessati dovranno operare secondo regole più esplicite di trasparenza e segnalazione degli incidenti.
I documenti di un insider possono collegare queste due tempistiche. I messaggi interni potrebbero mostrare quando i dirigenti hanno appreso di un incidente, come lo hanno classificato e se ne è seguita una segnalazione obbligatoria.
Queste prove sono importanti perché una regola di segnalazione entro 72 ore dipende dalla determinazione di un’azienda che un incidente si sia verificato. Possono sorgere controversie su ciò che i dipendenti sapevano, quando l’organizzazione ne è venuta a conoscenza e come i decisori hanno caratterizzato l’evento.
L’allerta colloca i lavoratori all’interno di questo meccanismo di applicazione delle norme. Le autorità di regolamentazione non si affidano soltanto alla relazione pubblica finale di un’azienda o a un quadro di sicurezza rifinito.
Stanno chiedendo prove sul processo che vi è dietro.
I sistemi interni di sicurezza dell’AI affrontano ora una verifica esterna
La tensione principale non riguarda più l’esistenza di canali di segnalazione nelle aziende di AI, ma se i sistemi interni rivelino abbastanza da soddisfare le autorità esterne.
Diversi importanti sviluppatori di AI mantengono team per la sicurezza, procedure per gli incidenti, programmi di valutazione e canali interni di segnalazione. Questi sistemi possono identificare problemi prima della distribuzione e indirizzare le preoccupazioni verso specialisti tecnici o legali.
OpenAI, per esempio, afferma che i propri dipendenti possono rivolgersi ai manager, alle risorse umane, ai team di conformità, al personale legale o a una linea di integrità disponibile 24 ore su 24. L’azienda afferma inoltre di vietare ritorsioni per la segnalazione di questioni coperte.
Tali sistemi hanno una valida funzione operativa. Una segnalazione tecnica richiede spesso un contesto che manca a un investigatore esterno, e un team interno può talvolta rispondere rapidamente.
Tuttavia, la revisione interna e la divulgazione alle autorità di regolamentazione risolvono problemi diversi. L’azienda decide come sia composto il proprio meccanismo interno, quali risultati vengano sottoposti a escalation e quali informazioni diventino pubbliche.
Un portale statale sottrae questo controllo al datore di lavoro. Offre ai lavoratori un’altra destinazione quando ritengono che la revisione interna sia fallita, che siano possibili ritorsioni o che si sia verificata una violazione legale.
La pressione è particolarmente forte nello sviluppo dell’AI di frontiera. Un’azienda potrebbe disporre di informazioni esclusive sul processo di addestramento di un modello, sulle valutazioni, sui controlli di sicurezza e sulle capacità pericolose.
I ricercatori esterni generalmente non possono riprodurre ogni test. I clienti non possono ispezionare i registri interni degli incidenti. Le autorità di regolamentazione dipendono spesso dalle divulgazioni della stessa organizzazione sottoposta a pressione commerciale.
Questo squilibrio informativo ha plasmato per anni il dibattito sugli informatori dell’AI.
Nel giugno 2024, 13 dipendenti attuali ed ex dipendenti associati principalmente a OpenAI e Google DeepMind hanno firmato un appello pubblico per protezioni più forti. Un resoconto indipendente ha riferito che il gruppo chiedeva il diritto di avvertire autorità di regolamentazione, consigli di amministrazione e pubblico.
I firmatari hanno sostenuto che i dipendenti possono possedere importanti informazioni sui rischi non disponibili per i governi e la società civile. Hanno inoltre avvertito che gli incentivi finanziari possono scoraggiare una supervisione significativa.
OpenAI ha risposto di offrire già modalità con cui i dipendenti possono esprimere preoccupazioni, inclusa una linea di integrità anonima. Ha inoltre sottolineato l’importanza di un dibattito rigoroso.
Queste posizioni non sono del tutto incompatibili. Un’azienda può mantenere controlli interni credibili mentre un governo offre anche un canale esterno di segnalazione.
Il conflitto emerge quando le conclusioni interne e le prove esterne divergono. Un dipendente può considerare il risultato di un test un serio avvertimento, mentre la dirigenza ritiene il rischio gestibile.
Un’autorità di regolamentazione potrebbe quindi aver bisogno di valutazioni grezze, registri decisionali e comunicazioni per stabilire se l’azienda abbia rispettato la legge applicabile. Le sole assicurazioni aziendali non possono risolvere quella controversia fattuale.
L’iniziativa di New York segnala agli sviluppatori di AI che i registri interni possono raggiungere la procuratrice generale in modo indipendente. Offre inoltre ai team di conformità un ulteriore motivo per documentare come le preoccupazioni siano state ricevute e risolte.
Questa pressione va oltre i ricercatori che lavorano direttamente sui modelli. I dipendenti delle aree legale, sicurezza, policy, operazioni e prodotto possono tutti osservare decisioni rilevanti per un’indagine.
Anche gli appaltatori possono possedere documenti importanti. Tuttavia, l’ambito di qualsiasi protezione legale dipende dalle circostanze della persona e dalla legge che disciplina la divulgazione.
Il portale in sé non trasforma ogni controversia sul luogo di lavoro in un’azione protetta di whistleblowing. Né stabilisce che ogni disaccordo sulla sicurezza dell’AI implichi una condotta illegale.
Crea una via per presentare prove. Gli investigatori devono comunque stabilire se i fatti rientrino nella loro autorità.
La California mostra come appare un sistema dedicato di segnalazione sull’AI
New York combina un ampio portale per whistleblower con le imminenti norme sull’AI, mentre la California ha creato un percorso di segnalazione previsto dalla legge e più specializzato.
Il Transparency in Frontier Artificial Intelligence Act della California offre il confronto statale più chiaro. La legge impone ai grandi sviluppatori di AI di frontiera di pubblicare framework che descrivano il loro approccio ai rischi catastrofici e agli incidenti critici di sicurezza.
La California identifica inoltre i dipendenti interessati che valutano, gestiscono o affrontano i rischi derivanti dai foundation model. Questi lavoratori possono segnalare pericoli specificati o violazioni di legge a destinatari designati, incluso il procuratore generale dello Stato.
Il Dipartimento di Giustizia della California mette a disposizione una categoria di segnalazione dedicata per questi dipendenti. Le sue linee guida sui rischi dell’AI affermano che gli sviluppatori di AI di frontiera non possono ostacolare le divulgazioni tutelate né adottare ritorsioni contro i dipendenti che le effettuano.
La California deve inoltre pubblicare ogni anno informazioni anonimizzate e aggregate sulle segnalazioni dei dipendenti. Questo obbligo potrebbe offrire al pubblico una certa visibilità sulla frequenza di utilizzo del canale.
L’avviso diffuso da New York a settembre è più ampio nell’invito, ma meno specializzato nella presentazione. Indirizza i lavoratori verso l’infrastruttura generale del procuratore generale per i whistleblower, anziché verso una categoria di invio specifica per l’AI.
Questo approccio offre flessibilità. Una denuncia che riguarda privacy, cybersecurity, frode o un’altra legge esistente non deve rientrare in una definizione ristretta di rischio dell’AI di frontiera.
Tuttavia, un’impostazione ampia può creare incertezza per i lavoratori. Potrebbero non capire subito se una preoccupazione tecnica di sicurezza costituisca una condotta illegale o debba essere sottoposta a un altro regolatore.
La pagina del portale spiega come inviare informazioni, ma non fornisce una tassonomia specifica per l’AI. Non elenca esempi di rischi dei modelli, funzioni lavorative coperte o lo standard probatorio per ogni tipo di preoccupazione.
Il sistema californiano offre istruzioni più esplicite per una categoria definita di lavoratori e rischi. Il sistema di New York può ricevere una gamma più ampia di accuse e lasciare agli investigatori il compito di classificarle.
Nessuno dei due modelli elimina la difficoltà centrale. Un canale di segnalazione è utile solo se gli insider lo comprendono, si fidano e ritengono che il suo utilizzo porterà a un esame significativo.
I due Stati stanno inoltre creando aspettative sovrapposte per le aziende che operano a livello nazionale. Uno sviluppatore di AI di frontiera può essere soggetto a un framework nel luogo in cui sviluppa i modelli e a un altro dove i suoi prodotti incidono sui residenti.
Questa sovrapposizione può incoraggiare le aziende ad adottare uno standard nazionale comune di conformità. Mantenere processi di gestione degli incidenti completamente separati per ogni Stato diventa difficile con l’espansione degli obblighi di segnalazione.
Può inoltre generare controversie su definizioni e giurisdizione. Un’azienda può contestare di rientrare nella qualifica di sviluppatore coperto o che un evento soddisfi la soglia applicabile.
Per i responsabili della conformità, la risposta operativa più sicura è una documentazione accurata. I team hanno bisogno di registri che dimostrino quali valutazioni sono state svolte, chi ha esaminato i risultati, come sono stati classificati gli incidenti e perché una divulgazione sia stata effettuata o omessa.
Questi registri possono sostenere l’azienda se i regolatori in seguito mettono in discussione la sua decisione. Possono anche sostenere un whistleblower che ritenga che il processo documentato sia stato ignorato.
Il risultato è un cambiamento silenzioso nella responsabilità. I framework per la sicurezza dell’AI stanno passando da dichiarazioni volontarie a documenti che possono essere verificati nel corso di un’indagine.
Un Canale Anonimo Non Elimina il Rischio per i Whistleblower
Il portale riduce il rischio di comunicazione, ma non può garantire anonimato, tutela legale o il successo di un’indagine.
Tor può rendere più difficile risalire all’origine di rete di un invio. Non può rimuovere i dettagli identificativi incorporati in un documento o nei fatti circostanti.
Un rapporto di test può contenere un campo autore, un timestamp, una cronologia delle revisioni o una formattazione insolita. Gli screenshot possono rivelare nomi degli account, dettagli del browser, identificativi interni di progetto o banner di notifica.
Anche una semplice descrizione può identificare la fonte. Se solo tre persone hanno partecipato a una riunione, un resoconto dettagliato può restringere immediatamente le possibilità.
Il procuratore generale avverte esplicitamente che non è garantito che i contenuti restino anonimi e riservati. I lavoratori non dovrebbero interpretare la trasmissione sicura come una promessa assoluta riguardo a ogni successivo utilizzo.
Anche le tutele legali variano. Le tradizionali norme sui whistleblower spesso si concentrano su sospette violazioni di legge, frodi, sicurezza pubblica o obblighi regolatori specificati.
I dipendenti che lavorano nell’AI potrebbero invece dissentire su un rischio che non ha ancora prodotto danni e non è chiaramente regolamentato. Una valutazione di un modello può mostrare un comportamento preoccupante senza dimostrare una condotta illegale.
Questo divario è emerso nella campagna del 2024 sul diritto di avvertire. I suoi firmatari hanno sostenuto che le ordinarie norme sui whistleblower possono essere inadeguate quando i dipendenti temono rischi emergenti non ancora disciplinati dalla legge.
Il RAISE Act restringe parte di questo divario creando obblighi concreti di trasparenza e segnalazione. Analogamente, la legge californiana definisce le divulgazioni relative a determinati rischi dei modelli di frontiera.
Tuttavia, nessun portale può decidere in anticipo ogni caso al limite. Fatti, status lavorativo, contratti, norme sui segreti commerciali e leggi applicabili sono tutti rilevanti.
I potenziali whistleblower affrontano anche un problema di verifica. I documenti interni possono essere autentici, mentre la conclusione tratta da essi può restare contestata.
Una valutazione di sicurezza fallita potrebbe indicare una grave debolezza. Potrebbe anche riflettere un test intenzionalmente severo che non rappresenta l’impiego ordinario.
Gli investigatori hanno bisogno di prove di contesto per distinguere queste possibilità. Ciò include la metodologia di test, le mitigazioni successive, i registri decisionali e le effettive condizioni di rilascio del sistema.
Le aziende meritano l’opportunità di rispondere alle accuse. La preoccupazione di un dipendente dovrebbe attivare un esame accurato, non un’assunzione automatica di illecito.
Viceversa, il rapporto pubblico di un’azienda sulla sicurezza non dovrebbe risolvere la questione quando le prove interne indicano altro. Il ruolo dello Stato è verificare entrambe le narrazioni alla luce dei documenti e della legge.
L’avviso lascia inoltre senza risposta diverse questioni pratiche.
New York non ha indicato quante denunce relative all’AI l’ufficio si aspetti. Non ha identificato un’unità di revisione dedicata, un obiettivo temporale di risposta o un calendario di rendicontazione pubblica per gli invii al portale.
L’annuncio non spiega come gli investigatori separeranno le prove urgenti di cybersecurity dalle critiche più ampie alle politiche. Non promette neppure un riscontro a ogni persona che presenta una segnalazione.
Queste omissioni non rendono il portale inefficace. Significano che il suo impatto non può essere valutato basandosi soltanto sull’annuncio.
Un sistema di segnalazione efficace necessita di una raccolta sicura, revisori competenti dal punto di vista tecnico, un triage coerente e un’applicazione credibile delle norme. Necessita anche di procedure che impediscano a segnalazioni di bassa qualità di travolgere le prove su cui si può agire.
Lo Stato deve bilanciare questi requisiti senza esporre le fonti o informazioni sensibili sui modelli. Questa sfida operativa è più difficile della pubblicazione di un link a un portale.
Cosa Dovrebbero Osservare Ora gli Sviluppatori e i Lavoratori dell’AI
Tre segnali mostreranno se l’avviso diventerà uno strumento di applicazione delle norme o resterà un invito pubblico con un impatto visibile limitato.
Il primo segnale sarà la pubblicazione di linee guida prima dell’entrata in vigore del RAISE Act, il 1° gennaio 2027.
Gli sviluppatori coperti hanno bisogno di chiarezza sulle divulgazioni dei framework di sicurezza, la classificazione degli incidenti, le procedure di segnalazione e le aspettative dell’ufficio di vigilanza. Regole dettagliate ridurranno l’ambiguità su ciò che le aziende devono documentare.
Le linee guida aiuteranno inoltre i lavoratori a distinguere un disaccordo di politica aziendale da informazioni che indicano una potenziale violazione. Obblighi più chiari rendono più facile valutare una segnalazione esterna.
Se New York pubblicherà materiali di attuazione dettagliati, l’avviso apparirà come il livello di raccolta di un sistema di applicazione delle norme più ampio. Linee guida scarne lascerebbero alle aziende e agli insider l’interpretazione autonoma dei confini principali.
Il secondo segnale sarà la prima azione pubblica di applicazione delle norme o indagine riconosciuta collegata allo sviluppo dell’AI.
New York non deve rivelare l’identità di un whistleblower per dimostrare che le segnalazioni ricevono un esame serio. Una denuncia può portare a richieste di documenti, interviste, un accordo transattivo o un contenzioso ai sensi delle leggi esistenti.
Qualsiasi azione di questo tipo avvertirebbe gli sviluppatori che le prove tecniche interne possono diventare prove regolatorie. Incoraggerebbe inoltre i team di conformità a esaminare le preoccupazioni irrisolte prima che raggiungano lo Stato.
L’assenza di un caso rapido non dimostrerebbe un fallimento. Le indagini tecniche complesse richiedono tempo e la riservatezza può tenere le questioni in corso lontane dalla vista del pubblico.
Tuttavia, un’azione visibile fornirebbe la prova più forte che il portale abbia modificato gli incentivi aziendali.
Il terzo segnale sarà se New York renderà pubbliche informazioni aggregate sulle denunce relative all’AI.
Il framework dedicato della California richiede una rendicontazione annuale anonimizzata sulle segnalazioni presentate dai dipendenti coperti. L’avviso di New York non annuncia un impegno equivalente alla pubblicazione.
I dati aggregati potrebbero rivelare quante segnalazioni arrivano, quali categorie predominano e quante ricevono un ulteriore esame. Lo Stato dovrebbe pubblicare tali informazioni senza esporre i segnalanti o prove riservate.
Questa rendicontazione permetterebbe ai responsabili delle politiche di valutare se i lavoratori si fidano del canale. Potrebbe anche rivelare debolezze nelle definizioni, nella sensibilizzazione o nella capacità investigativa.
Le aziende di AI dovrebbero osservare questi segnali perché incidono su più della sola esposizione legale. La fiducia nei processi interni di sicurezza dipende dal fatto che i dipendenti ritengano che le preoccupazioni ricevano un trattamento equo.
Un canale esterno credibile può rafforzare i sistemi interni offrendo alla dirigenza un motivo per risolvere i problemi con attenzione. Può anche rivelare dove l’escalation interna ha fallito.
I lavoratori dovrebbero distinguere la trasmissione sicura dalla protezione garantita. Prima di inviare documenti sensibili, dovrebbero considerare i metadati dei documenti, le modalità di accesso, le norme di riservatezza e un’adeguata consulenza legale.
L’avviso di Letitia James per i whistleblower dell’AI va quindi inteso soprattutto come un ponte regolatorio. Collega un portale anonimo già esistente, l’attuale autorità statale e l’imminente RAISE Act.
Il solo portale non renderà trasparente lo sviluppo dell’AI di frontiera. Il suo valore dipenderà dalle prove fornite dagli insider e dalla capacità dello Stato di indagarle.
I prossimi mesi mostreranno se New York trasformerà tali prove in regole chiare e responsabilità applicabile. Per gli sviluppatori, la domanda pratica è immediata: i loro registri interni di sicurezza resisterebbero oggi a un esame esterno?
