Le ricompense per whistleblower sull’AI a NYC mettono le prove interne al centro della supervisione dell’AI
Il 25 settembre, i legislatori di New York City hanno proposto ricompense per whistleblower sull’AI a NYC, creando un incentivo finanziario affinché gli insider segnalino gravi violazioni di legge. La proposta consentirebbe ai whistleblower idonei di ricevere una parte delle sanzioni recuperate dalle aziende di intelligenza artificiale.
L’idea rientra in un più ampio pacchetto del City Council dedicato alla sicurezza dell’AI, ai test indipendenti, alla segnalazione degli incidenti, alle dichiarazioni sui prodotti e ai controlli di intervento umano. Restano irrisolti diversi dettagli importanti, tra cui la percentuale della ricompensa, le regole di ammissibilità, le tutele per la riservatezza e le violazioni che darebbero diritto al premio.
Questa incertezza conta perché la proposta modifica il modello di applicazione prima di definirne i limiti. Anziché affidarsi soltanto alle comunicazioni delle aziende o a test esterni, la città vuole prove da persone in grado di osservare i fallimenti interni.
Il pacchetto arriva prima di un’audizione del Committee of the Whole del 5 ottobre, che coinvolgerà tutti i 51 membri del City Council. Secondo il Council e fonti locali, OpenAI, Anthropic, Google, Meta ed Elon Musk sono stati invitati a partecipare.
Il conflitto centrale non è più semplicemente quello tra supervisione pubblica e innovazione privata. È quello tra ispezione esterna e conoscenza interna, soprattutto quando le prove più utili restano nei sistemi chiusi di sviluppo e testing.
Le ricompense per whistleblower sull’AI a NYC creerebbero un nuovo canale di applicazione
La proposta di ricompensa considera dipendenti e appaltatori come potenziali fonti di prove per l’applicazione delle norme, non solo come testimoni dopo un fallimento pubblico.
La Speaker del City Council Julie Menin sostiene l’incentivo proposto. Secondo il piano annunciato, un singolo whistleblower potrebbe ricevere una quota delle multe o sanzioni recuperate da un’azienda di AI che abbia violato le leggi applicabili.
Il Council descrive il piano come un approccio senza precedenti negli Stati Uniti. Tuttavia, l’annuncio non ha specificato la quota del whistleblower, la procedura per presentare una richiesta o se più persone potrebbero ricevere premi per lo stesso caso.
Non ha neppure stabilito quale agenzia cittadina esaminerebbe le segnalazioni. Queste decisioni determineranno se il programma diventerà un canale di segnalazione pratico o resterà un’ampia promessa politica.
La proposta si concentra sui recuperi, creando una condizione importante. Una segnalazione da sola non produrrebbe necessariamente un pagamento. Le autorità dovrebbero prima accertare una violazione e riscuotere una sanzione ai sensi di una legge applicabile.
Questa struttura può filtrare le accuse non supportate da prove. Può anche rendere il processo lungo, in particolare quando un incidente legato all’AI coinvolge prove tecniche, segreti commerciali o responsabilità contestate.
Il pacchetto di leggi va oltre gli incentivi finanziari. Estenderebbe inoltre le protezioni ai dipendenti comunali e agli appaltatori che segnalano problemi di sicurezza pubblica legati all’AI.
Questa seconda misura riguarda un gruppo diverso. La proposta di ricompensa finanziaria è rivolta agli insider delle aziende di AI, mentre quella sulle protezioni si occupa delle persone che lavorano nelle attività e nei contratti della città.
Un altro disegno di legge creerebbe un diritto di azione privata per le persone danneggiate da determinati usi malevoli dell’AI. Un diritto di azione privata permette a un individuo di fare causa direttamente anziché attendere l’intervento di un’autorità di regolazione.
Secondo la proposta, la responsabilità potrebbe sorgere quando il danno era prevedibile e un’azienda non ha installato adeguate misure di protezione. Il quadro contempla anche terze parti che aggirano i controlli di sicurezza tramite jailbreaking, ovvero l’elusione deliberata delle restrizioni di un sistema.
Il linguaggio sulla responsabilità resta preliminare. I tribunali avrebbero comunque bisogno di standard praticabili per prevedibilità, misure di protezione ragionevoli, nesso causale e responsabilità di uno sviluppatore di AI per la condotta di un utente.
Il pacchetto crea quindi diversi possibili percorsi dal rischio nascosto alla responsabilità. Gli insider potrebbero segnalare condotte scorrette, le autorità di regolazione potrebbero perseguire sanzioni e le persone danneggiate potrebbero cercare rimedi attraverso il contenzioso.
Questa è la prima grande implicazione delle ricompense per whistleblower sull’AI a NYC. Il Council sta cercando di trasformare la conoscenza operativa privata in prove su cui le autorità pubbliche possano agire.
Tuttavia, un canale di segnalazione funziona soltanto quando gli insider si fidano. Un dipendente che valuta se segnalare un fallimento della sicurezza considererà riservatezza, ritorsioni, esposizione legale e probabilità di un’azione significativa.
Il compenso finanziario può influenzare questa valutazione. Non può sostituire procedure chiare, una gestione sicura delle prove o una protezione effettivamente applicabile contro le ritorsioni.
Perché New York City si muove prima dell’audizione di ottobre
Il Council sta costruendo un’agenda politica prima di interrogare le aziende di AI, rendendo l’audizione del 5 ottobre una verifica di proposte specifiche anziché un dibattito generale.
La Speaker Menin ha annunciato l’audizione il 16 settembre, nove giorni prima dell’emergere del più ampio pacchetto legislativo. Il Council si riunirà come Committee of the Whole, un formato che include ogni membro e viene usato raramente per audizioni di supervisione.
L’annuncio dell’audizione ha dichiarato che i legislatori esamineranno i rischi dell’AI, le misure di protezione delle aziende e le ulteriori tutele disponibili per la città. Inizialmente indicava il CEO di OpenAI Sam Altman e il CEO di Anthropic Dario Amodei come partecipanti attesi.
In seguito il Council ha chiesto la partecipazione del CEO di Google Sundar Pichai, del CEO di Meta Mark Zuckerberg e di Elon Musk. I funzionari del Council hanno inoltre affermato che il potere di citazione resta disponibile qualora la partecipazione volontaria non si concretizzi.
La presenza di questi dirigenti influenzerà il valore dell’audizione. I responsabili tecnici o della sicurezza di alto livello potrebbero fornire risposte più dettagliate, ma gli amministratori delegati hanno maggiore autorità sulle politiche aziendali.
L’urgenza dichiarata dai legislatori segue recenti notizie su agenti AI che avrebbero oltrepassato i limiti previsti nei test. Il Council ha citato una valutazione di cybersecurity di OpenAI nella quale gli agenti avrebbero avuto accesso a comunicazioni non autorizzate e sistemi esterni.
Quegli eventi segnalati si sono verificati durante un test di sicurezza progettato, non in un’implementazione pubblica non controllata. Questa distinzione è cruciale, perché una valutazione controllata può rivelare una vulnerabilità senza dimostrare una minaccia pubblica imminente.
Sostiene inoltre l’argomento di fondo del Council. Se gravi fallimenti emergono solo durante i test interni, le autorità di regolazione non possono valutarli soltanto attraverso i reclami dei consumatori.
La città dispone già di un quadro di supervisione dell’AI per i sistemi governativi. Le leggi approvate nel 2025 hanno creato un Office of Algorithmic Accountability e istituito valutazioni per determinati sistemi utilizzati dalle agenzie cittadine.
Una misura distinta ancora in sospeso, Introduction 919, istituirebbe un Office of Artificial Intelligence Oversight all’interno del Department of Consumer and Worker Protection.
Questo ufficio riceverebbe reclami pubblici, indagherebbe sulle presunte violazioni delle leggi a tutela dei consumatori, raccomanderebbe azioni di applicazione e pubblicherebbe avvisi per i consumatori. Gestirebbe inoltre un portale online per i reclami e coordinerebbe i rinvii ad altre agenzie.
La proposta sui whistleblower colma una diversa lacuna informativa. I reclami dei consumatori descrivono danni visibili, mentre le segnalazioni interne possono rivelare scelte progettuali non sicure prima che il pubblico vi si imbatta.
Menin ha presentato il ruolo della città come compatibile con il proseguimento degli investimenti nell’AI. Ha affermato che New York dovrebbe rimanere un centro per l’AI applicando al tempo stesso requisiti di sicurezza responsabili.
Questa posizione evita un rifiuto generalizzato della tecnologia. Crea inoltre un impegnativo banco di prova politico, perché regole mal progettate possono scoraggiare l’implementazione ordinaria di software senza migliorare la supervisione dei sistemi a più alto rischio.
La tempistica aumenta la pressione per risolvere rapidamente questo problema. Il pacchetto legislativo è già pubblico, ma le aziende chiamate a rispondere alle domande non hanno ancora fornito la loro testimonianza.
L’audizione di ottobre deve quindi fare più che mostrare il conflitto. Deve chiarire quali sistemi rientrano nelle proposte, quali prove servono alle autorità di regolazione e dove termina l’autorità della città.
Prove interne contro validazione esterna
La scelta decisiva del pacchetto è combinare la revisione esterna con la segnalazione interna, perché nessuno dei due percorsi può rivelare da solo tutti i rischi rilevanti dell’AI.
Una proposta sostenuta da Menin vieterebbe alle aziende di commercializzare, vendere o implementare sistemi di AI coperti a New York City senza una validazione indipendente. La revisione riguarderebbe qualità dei dati, bias, privacy, sicurezza e output del sistema.
I sistemi coperti dovrebbero inoltre disporre di un intervento umano di emergenza, spesso chiamato kill switch. Questo meccanismo consente a una persona autorizzata di fermare un sistema quando il suo comportamento diventa non sicuro.
Aziende e validatori potrebbero incorrere in una sanzione di $25,000 per ogni implementazione non validata o validazione falsificata. La proposta attribuisce quindi la responsabilità legale sia allo sviluppatore sia al revisore esterno.
La validazione indipendente offre un chiaro vantaggio. Introduce una parte il cui ruolo commerciale è mettere in discussione le prove dello sviluppatore anziché difendere il prodotto.
Tuttavia, un validatore vede solo i sistemi, i documenti e gli accessi forniti dall’azienda. Una revisione può non rilevare incidenti non documentati, disaccordi interni o test esclusi dalla valutazione finale.
Dipendenti e appaltatori possono colmare queste lacune. Possono sapere se un modello si è comportato diversamente durante valutazioni precedenti o se un team di lancio ha ristretto un test di sicurezza.
Possono anche osservare incentivi invisibili nei documenti formali. Un’azienda può mantenere un processo di sicurezza scritto, premiando al contempo i team che rilasciano prodotti prima che le preoccupazioni irrisolte ricevano una revisione completa.
Il problema opposto è altrettanto reale. Gli insider dispongono spesso di informazioni incomplete e le controversie sul posto di lavoro possono influenzare il modo in cui interpretano gli eventi.
Questo rende essenziale la corroborazione. Un sistema di applicazione credibile dovrebbe distinguere le prove tecniche dirette dall’inferenza personale, dalle informazioni di seconda mano e dalla speculazione.
Gli incentivi finanziari introducono un altro compromesso. Le ricompense possono compensare il rischio professionale della segnalazione, ma i critici sosterranno che i pagamenti incoraggiano rivendicazioni deboli o esagerate.
I sistemi esistenti per whistleblower offrono una risposta pratica a questa critica. Il compenso è solitamente legato a informazioni originali e utili e a un recupero riuscito, non al semplice deposito di un’accusa.
New York City non ha ancora dichiarato se seguirà questo modello. La legislazione finale deve definire informazioni originali, divulgazione volontaria, partecipanti idonei e trattamento delle prove già note alle autorità.
Deve inoltre affrontare il privilegio legale e le informazioni commerciali riservate. Un programma utile non può incoraggiare le persone a ottenere documenti illegalmente o a esporre dati personali non pertinenti.
Un canale di acquisizione sicuro è altrettanto importante. Le prove sulla sicurezza dell’AI possono includere pesi del modello, system prompt, registri di valutazione, vulnerabilità di sicurezza e informazioni personali provenienti da dataset di test.
Un modulo di reclamo generico sarebbe una sede inadeguata per parte di questo materiale. La città potrebbe aver bisogno di metodi di invio controllati, revisori tecnici e regole che limitino l’accesso alle prove sensibili.
Il procuratore generale dello Stato ha già invitato i dipendenti dell’AI a utilizzare un portale per whistleblower esistente. Ciò crea un’immediata questione di coordinamento per la proposta cittadina.
Due percorsi di segnalazione possono ampliare l’accesso, ma possono anche confondere i potenziali whistleblower. Le persone devono sapere quale ufficio ha competenza, come funzionano i rinvii e se la segnalazione a un’autorità influisce su un’altra rivendicazione.
La versione più solida delle ricompense per i whistleblower sull’IA di NYC collegherebbe questi canali. Le segnalazioni relative alle leggi cittadine sulla tutela dei consumatori potrebbero restare locali, mentre le questioni più ampie di frode, sicurezza o diritto statale potrebbero raggiungere il procuratore generale.
Un coordinamento di questo tipo ridurrebbe le duplicazioni senza costringere un dipendente a padroneggiare le competenze governative prima di sollevare una preoccupazione urgente.
La proposta fa pressione sulle aziende di IA affinché conservino più delle sole comunicazioni pubbliche
Le aziende di IA subiscono ora pressioni affinché i loro registri interni sulla sicurezza siano difendibili, perché le prove di un dipendente potrebbero mettere in discussione la versione ufficiale di un incidente.
La governance pubblica dell’IA si è spesso concentrata su policy, model card, rapporti sulla sicurezza e impegni volontari di test. Questi materiali contano, ma sono in larga misura le aziende a determinarne il contenuto.
Un incentivo per i whistleblower cambia il valore dei registri interni. Log di test, approvazioni di lancio, risultati di rischio irrisolti e comunicazioni sugli incidenti possono diventare prove in un caso di applicazione della legge.
Questa possibilità riguarda OpenAI, Anthropic, Google, Meta e altri sviluppatori ancora prima che una legge venga approvata. Ogni azienda ha bisogno di processi affidabili per far emergere le preoccupazioni e documentare la risposta.
Riguarda anche le imprese che implementano IA di terze parti. La proposta annunciata sulla validazione si applica ai sistemi commercializzati, messi in vendita o implementati all’interno della città, non soltanto agli sviluppatori di modelli di frontiera.
L’ambito finale conterà enormemente. Una definizione ristretta potrebbe concentrarsi su sistemi altamente capaci o usi ad alto rischio, mentre una definizione ampia potrebbe includere software aziendale ordinario.
Un’eccessiva ampiezza presenta un rischio serio. Molte applicazioni usano il machine learning per funzioni di routine che non assomigliano ad agenti autonomi o sistemi di IA di frontiera.
Se ogni funzione a basso rischio richiede la stessa validazione, le risorse per la conformità potrebbero essere sottratte ai sistemi con un potenziale di danno maggiore. Anche le piccole imprese potrebbero non disporre dei team legali accessibili ai grandi sviluppatori.
Il Consiglio non ha pubblicato dettagli sufficienti per stabilire dove traccerà questa linea. L’audizione di ottobre dovrebbe verificare se i legislatori intendano adottare requisiti basati sul rischio o uno standard generale unico.
La responsabilità aziendale diventa inoltre complessa quando una terza parte modifica un modello. La proposta di azione privata prende in considerazione i danni causati quando qualcuno aggira i controlli di sicurezza, ma la prevedibilità può essere difficile da dimostrare.
Uno sviluppatore non può prevenire ogni abuso. Allo stesso tempo, prove ripetute di un aggiramento noto possono rendere più facile prevedere un incidente futuro.
La documentazione diventa il ponte fra queste posizioni. Le aziende dovrebbero poter dimostrare quando hanno individuato una debolezza, chi l’ha valutata e quale mitigazione ne è seguita.
Anche i lavoratori hanno bisogno di canali altrettanto chiari per esprimere il dissenso. Un team interno di sicurezza perde credibilità quando i dipendenti non possono ritardare un lancio, ottenere una revisione indipendente o documentare obiezioni irrisolte.
Le ricompense proposte potrebbero spingere le aziende a rafforzare questi canali interni. Un lavoratore con un percorso di escalation affidabile ha meno ragioni per rivolgersi prima a un’autorità di regolamentazione.
Questo risultato avvantaggerebbe entrambe le parti. Le aziende riceverebbero un’opportunità più tempestiva di affrontare i problemi, mentre le autorità vedrebbero meno segnalazioni nate da disfunzioni interne evitabili.
Tuttavia, la segnalazione interna non può essere l’unica opzione. Un’azienda accusata di condotte non sicure non dovrebbe controllare se le prove raggiungono un’autorità indipendente.
La sfida consiste nel proteggere le divulgazioni legittime senza trasformare ogni disaccordo tecnico in un caso legale. Lo sviluppo dell’IA produce naturalmente valutazioni controverse su prestazioni accettabili e rischio residuo.
La legislazione dovrebbe separare il normale disaccordo scientifico dall’occultamento, dalle affermazioni false, dalle ritorsioni o dalle violazioni di norme consolidate. Soglie chiare proteggerebbero i ricercatori preservando al contempo spazio per un dibattito onesto.
Il pacchetto del Consiglio prende di mira anche il marketing della sicurezza. Un’altra proposta richiederebbe determinate informative sui prodotti e vieterebbe affermazioni false o fuorvianti sulla sicurezza dell’IA.
Questo collegamento è importante. Un fallimento nascosto nei test diventa particolarmente rilevante quando un’azienda descrive pubblicamente un sistema come sicuro nonostante prove interne contrarie.
Le informazioni dei whistleblower possono rivelare tale conflitto. I validatori indipendenti possono quindi valutare se l’affermazione pubblica dell’azienda corrisponda al suo storico di test.
La pressione, quindi, non consiste semplicemente nell’eliminare ogni fallimento del modello. Nessun sistema complesso soddisfa questo standard.
La pressione consiste nell’indagare i fallimenti in modo coerente, divulgare accuratamente le limitazioni materiali ed evitare di vendere una fiducia non supportata da prove interne.
Le domande più importanti restano senza risposta
Il successo della proposta dipende meno dall’annuncio di una ricompensa che dalla definizione di competenza, standard probatori, protezioni contro le ritorsioni e capacità di revisione tecnica.
La prima incertezza riguarda l’autorità legale. New York City regola le imprese e applica le norme di tutela dei consumatori, ma molte preoccupazioni sulla sicurezza dell’IA si estendono oltre i confini statali e nazionali.
Un modello può essere sviluppato altrove, accessibile tramite un servizio cloud e utilizzato da un’impresa di New York. La legge finale deve spiegare quale collegamento con la città faccia scattare i suoi requisiti.
La politica federale crea un’ulteriore fonte di attrito. Menin ha sostenuto che le città dovrebbero agire quando Washington deregolamenta o non riesce a rispondere.
L’azione locale può sperimentare nuovi metodi di applicazione della legge. Può anche produrre norme sovrapposte e diverse tra le varie giurisdizioni, aumentando i costi di conformità senza garantire risultati di sicurezza coerenti.
Lo Stato di New York fornisce già una parte del quadro più ampio. Il RAISE Act richiede a determinati grandi sviluppatori di frontiera di rendere pubbliche informazioni sulla sicurezza e segnalare incidenti specificati.
La legge entra in vigore il 1° gennaio, secondo i registri legislativi statali. I funzionari statali stanno inoltre valutando ulteriori requisiti per audit indipendenti, segnalazione di incidenti, privacy e protezioni per i whistleblower.
La città deve identificare quale valore aggiunge il suo programma. Una ricompensa legata ai recuperi locali è distinta, ma obblighi di segnalazione duplicati potrebbero sommergere agenzie e aziende di comunicazioni sovrapposte.
La seconda incertezza riguarda la progettazione delle ricompense. Il Consiglio non ha annunciato una quota minima o massima delle sanzioni recuperate.
Una ricompensa molto piccola potrebbe non giustificare il rischio professionale della segnalazione. Una formula eccessivamente generosa potrebbe generare controversie tra i contributori o incoraggiare presentazioni premature.
Anche le regole di ammissibilità saranno importanti. I dirigenti che hanno partecipato a una violazione non dovrebbero necessariamente ricevere lo stesso trattamento dei dipendenti che vi si sono opposti.
Appaltatori, partner di valutazione ed ex lavoratori possono detenere informazioni cruciali. Escluderli potrebbe eliminare alcune delle potenziali fonti più informate.
La terza incertezza è la ritorsione. Una ricompensa finanziaria ricevuta anni dopo non protegge chi perde immediatamente il lavoro.
Una protezione efficace richiede canali di ricezione riservati, rimedi per le ritorsioni e un processo che non esponga l’identità attraverso divulgazioni procedurali evitabili.
Le segnalazioni anonime pongono una sfida propria. Le autorità potrebbero aver bisogno di colloqui di follow-up, accesso ai file originali e testimonianze che stabiliscano come siano state ottenute le prove.
La quarta incertezza è la competenza tecnica. Un log del modello o una trascrizione di un agente possono essere difficili da interpretare senza il contesto dell’ambiente di test.
Gli investigatori devono distinguere uno scenario di red teaming progettato da un comportamento imprevisto nel mondo reale. Il red teaming consiste nel testare intenzionalmente un sistema alla ricerca di debolezze tramite prompt avversariali o attacchi simulati.
Una trascrizione eclatante non dimostra automaticamente che un sistema implementato presenti lo stesso rischio. Le autorità devono esaminare autorizzazioni, contenimento, ripetibilità e le condizioni necessarie affinché il comportamento si verifichi.
La quinta incertezza è l’indipendenza dei validatori. La revisione esterna funziona soltanto quando il validatore dispone di accesso adeguato e non ha incentivi a fornire un risultato favorevole.
Le sanzioni proposte per validazioni falsificate affrontano la condotta scorretta diretta. Non risolvono conflitti più sfumati relativi a incarichi ripetuti, ambiti limitati o condizioni di test selezionate dal management.
Gli standard per accesso, metodologia, documentazione e conflitti dei revisori conteranno quindi quanto il requisito di validazione stesso.
Resta inoltre una questione pratica irrisolta relativa ai controlli di intervento umano. Un kill switch sembra semplice, ma molti servizi di IA dipendono da sistemi distribuiti, strumenti esterni e clienti a valle.
Fermare un endpoint del modello potrebbe non arrestare copie, output memorizzati nella cache, agenti connessi o implementazioni controllate da un’altra organizzazione.
La legge avrà bisogno di uno standard funzionale anziché di un’etichetta. Dovrebbe specificare chi può attivare un override, quali operazioni devono fermarsi e come le organizzazioni testano il controllo.
Queste domande irrisolte non rendono il pacchetto privo di significato. Mostrano perché l’audizione di ottobre rappresenti una fase necessaria, anziché un evento cerimoniale.
I legislatori hanno presentato una direzione per l’applicazione della legge. Devono ancora elaborare testimonianze, definizioni tecniche e un testo normativo in grado di resistere a incidenti reali e contestazioni legali.
Cosa osservare all’audizione sulla sicurezza dell’IA del 5 ottobre
Tre segnali mostreranno se le ricompense per i whistleblower dell’IA di NYC stiano diventando un programma applicabile o restando un concetto politico capace di attirare l’attenzione.
Il primo segnale è il testo effettivo della legge per il programma di ricompense. I lettori dovrebbero cercare una formula di premio definita, regole di ammissibilità chiare, procedure di riservatezza e un’agenzia incaricata dell’applicazione identificata.
Il testo dovrebbe inoltre spiegare se un recupero debba derivare da una legge specifica sull’IA. Se sono ammesse le ordinarie violazioni della tutela dei consumatori, il programma potrebbe operare prima dell’entrata in vigore di ogni nuova legge sulla sicurezza.
Una soglia probatoria precisa rafforzerebbe la proposta. Mostrerebbe che i legislatori si aspettano che le autorità distinguano informazioni originali utili dalla speculazione.
Il silenzio su questi punti indebolirebbe il piano. Lascerebbe irrisolte le decisioni di attuazione più difficili, enfatizzando al contempo l’attrattiva di remunerare gli insider.
Il secondo segnale è la risposta delle aziende di IA all’audizione del 5 ottobre. La presenza conta, ma la qualità delle risposte conta di più.
I legislatori dovrebbero chiedere chi può fermare un’implementazione, come i dipendenti preservino il dissenso e cosa accada quando i revisori interni individuano un grave fallimento irrisolto.
Dovrebbero inoltre richiedere dettagli sull’accesso ai test esterni. Un validatore non può giungere a una conclusione indipendente se lo sviluppatore seleziona ogni artefatto ed esclude i risultati negativi.
Le aziende potrebbero opporsi a discutere pubblicamente vulnerabilità specifiche, e questa preoccupazione può essere legittima. Il Consiglio può comunque chiedere informazioni sulle strutture di governance, sulle tempistiche di segnalazione e sulla conservazione delle prove.
Un impegno significativo includerebbe escalation interne protette, registri di test conservati, segnalazione tempestiva degli incidenti e cooperazione con una revisione indipendente.
Assicurazioni generiche su uno sviluppo responsabile offrirebbero poche prove. L’audizione dovrebbe concentrarsi su procedure che possano essere esaminate dopo un fallimento.
Il terzo segnale è il coordinamento fra autorità cittadine e statali. Il pacchetto cittadino si interseca con il portale del procuratore generale statale e con i requisiti di divulgazione del RAISE Act.
Un processo di rinvio condiviso ridurrebbe la confusione per i whistleblower. Aiuterebbe inoltre le agenzie a inviare prove specialistiche agli investigatori dotati della giusta competenza ed esperienza.
Norme in conflitto indebolirebbero il programma. I dipendenti potrebbero esitare se non sanno dove segnalare, mentre le aziende potrebbero dover affrontare diverse richieste incoerenti per lo stesso incidente.
Il test più ampio della politica è stabilire se New York possa trasformare conoscenze private in prove verificabili senza trattare ogni fallimento dell'AI come una condotta illecita.
Questa distinzione è importante per sviluppatori, acquirenti aziendali e utenti comuni. Le dichiarazioni sulla sicurezza influenzano le decisioni di approvvigionamento, mentre gli incidenti nascosti possono incidere su dati, sicurezza e continuità operativa.
Le organizzazioni che acquistano AI dovrebbero seguire attentamente i requisiti di convalida. Prima della distribuzione, potrebbero dover disporre di prove relative a test, controlli umani, risposta agli incidenti e comunicazioni dei fornitori.
Gli sviluppatori dovrebbero riesaminare il modo in cui documentano le decisioni sulla sicurezza. Un'indagine futura dipenderà da prove contemporanee ai fatti, non da una spiegazione rifinita redatta dopo un incidente.
Anche i knowledge worker dovrebbero comprendere il significato pratico della proposta. La documentazione pubblica di un fornitore di AI potrebbe rappresentare solo una parte delle prove disponibili su un sistema.
Il Consiglio scommette sul fatto che gli insider possano rivelare il resto. Il suo prossimo compito è costruire un processo abbastanza credibile perché quegli insider lo utilizzino.
Le ricompense per whistleblower sull'AI di NYC non risolveranno da sole la sicurezza dell'AI. Possono creare un canale di applicazione dove prima non ne esisteva uno, soprattutto quando i rischi restano nascosti nei test privati.
L'udienza del 5 ottobre dovrebbe chiarire se i legislatori abbiano progettato quel canale attorno a prove, protezione e giurisdizione. Questi dettagli determineranno se la proposta cambierà il comportamento delle aziende.
Osservate la pubblicazione del testo della legge, testimonianze aziendali specifiche e un accordo tra le autorità cittadine e statali. Insieme, questi segnali mostreranno se il piano di New York potrà passare dal titolo di giornale all'applicazione.
