top of page

La supervisione di OpenAI si amplia mentre New York fissa una scadenza per la sicurezza dell'IA per i principali laboratori

18 minuti fa
Tempo di lettura: 13 min
Illustrative photograph. Photo: Hatice Baran / Pexels.

OpenAI e Anthropic devono registrarsi entro il 1° gennaio 2027, mentre New York inizia a rendere operativo il proprio quadro normativo sulla sicurezza dell'IA di frontiera. Lo Stato ha aperto il portale di registrazione il 10 novembre, trasformando i preparativi per la supervisione in un processo amministrativo concreto. L'ampliamento della supervisione di OpenAI mette in luce una tensione centrale: gli sviluppatori dovranno rispondere legalmente degli impegni sulla sicurezza che essi stessi descrivono.

Le tempistiche contano. New York ha aperto le registrazioni prima che entrino in vigore a gennaio i requisiti principali in materia di sicurezza, trasparenza e segnalazione degli incidenti. Descrivere l'intero sistema come già operativo confonderebbe la preparazione alla conformità con l'applicazione di tali obblighi sostanziali.

Il Responsible AI Safety and Education Act, noto come RAISE Act, sottopone i principali sviluppatori a una struttura comune di responsabilità. Anthropic sostiene pubblicamente questo approccio, pur affermando che la sola trasparenza non può affrontare i rischi più gravi. La questione immediata è quanto efficacemente New York possa collegare gli impegni pubblicati, le pratiche di sviluppo effettive e il controllo esterno.

La supervisione di OpenAI ha ora una scadenza a gennaio

L'annuncio di novembre avvia l'attuazione; gennaio porta gli obblighi fondamentali che danno uno scopo al processo di registrazione.

Secondo l'annuncio sulla registrazione dello Stato, i grandi sviluppatori di IA di frontiera devono registrarsi entro il 1° gennaio 2027. A partire da gennaio, dovranno inoltre pubblicare quadri di sicurezza. Gli sviluppatori di frontiera più in generale saranno soggetti a requisiti di trasparenza sui modelli e di segnalazione degli incidenti critici.

L'Office of Digital Innovation, Governance, Integrity, and Trust, o DIGIT, supervisionerà l'attuazione all'interno del Department of Financial Services di New York. Il suo ruolo offre agli sviluppatori un interlocutore governativo identificabile con l'avvicinarsi dei requisiti.

Per i lettori che seguono le notizie di novembre, la distinzione pratica è tra un processo di registrazione aperto e un consolidato storico di applicazione. Il portale dimostra progressi amministrativi. Non dimostra che ogni sviluppatore interessato si sia registrato, che ogni quadro soddisfi la legge o che la supervisione abbia ridotto il rischio.

Tali conclusioni richiedono prove dall'attuazione. Un annuncio di registrazione non può fornirle in anticipo.

Lo stesso annuncio ha lanciato il New York Center for AI Responsibility and Research presso la Binghamton University. Lo Stato afferma che il centro sosterrà valutazioni indipendenti e contribuirà a informare la supervisione, comprese le revisioni dei quadri di sicurezza pubblicati.

Questo abbinamento spiega l'ambizione più ampia. New York sta costruendo un processo per raccogliere informazioni, sviluppando al contempo le competenze necessarie per valutarle. Se queste funzioni si rafforzeranno a vicenda conterà più della sola esistenza di un portale per l'invio.

Un governo può ricevere un documento completo senza risolvere le questioni scientifiche al suo interno. Al contrario, la ricerca può individuare debolezze senza produrre immediatamente una conclusione applicabile. Collegare queste attività richiede sia giudizio tecnico sia chiare responsabilità istituzionali.

Per gli sviluppatori, la conseguenza immediata è una finestra di preparazione definita. Registrazione, pubblicazione e segnalazione implicano attività diverse, anche quando sostengono lo stesso obiettivo normativo. Trattarle come intercambiabili nasconderebbe il grado di effettiva preparazione di un'azienda.

Per i clienti aziendali, l'annuncio crea una data attorno alla quale organizzare le domande. Gli acquirenti possono distinguere i documenti preparati per i nuovi requisiti da materiali più vecchi che perseguivano uno scopo diverso. Possono anche chiedere quali versioni dei modelli tali documenti coprano.

La scadenza conta quindi oltre la programmazione amministrativa. Crea un punto osservabile in cui le promesse sulla preparazione possono essere confrontate con le prove disponibili. Il confronto inizierà con il materiale pubblicato, ma non dovrebbe fermarsi lì.

La pressione ricade sugli sviluppatori di modelli, con conseguenze per i loro clienti

La legge distingue gli sviluppatori di modelli interessati dalle normali aziende che utilizzano i loro prodotti.

In base alle definizioni legislative di modello di frontiera, l'ambito di applicazione dipende in parte dalla potenza di calcolo utilizzata nell'addestramento. Un modello di frontiera supera una soglia di 10^26 operazioni su numeri interi o in virgola mobile, ossia calcoli computazionali utilizzati durante l'addestramento.

Il calcolo include specifiche modifiche successive, anziché limitarsi all'esecuzione di addestramento originale. La distinta categoria dei grandi sviluppatori utilizza ricavi lordi annuali superiori a 500 milioni di dollari, congiuntamente alle affiliate, nel corso dell'anno solare precedente.

Queste distinzioni evitano una semplificazione fuorviante. New York non assegna obblighi identici a ogni azienda che aggiunge un chatbot al proprio sito web. Né un marchio noto, di per sé, risolve ogni questione relativa a quale modello o attività rientri nell'ambito di applicazione.

Per OpenAI e Anthropic, la questione riguarda la responsabilità a livello di sviluppo del modello. Per i clienti, gli effetti sono indiretti ma comunque rilevanti: i fornitori produrranno informazioni che possono orientare le decisioni di acquisto e implementazione.

Si consideri un'ipotetica azienda software che valuta un assistente di programmazione IA con accesso ai repository interni. Le sue preoccupazioni immediate includono autorizzazioni, informazioni sensibili e conseguenze di un'azione errata. Le informative sulla sicurezza di uno sviluppatore di modelli offrono un contesto aggiuntivo, ma non possono rispondere a ogni domanda su quella specifica implementazione.

Il cliente mantiene comunque il controllo su decisioni importanti. Sceglie a quali repository l'assistente può accedere, se le modifiche richiedono approvazione e come i dipendenti verificano il lavoro generato. La copertura normativa dello sviluppatore a monte non decide automaticamente tali scelte.

La distinzione conta anche per i knowledge worker. La documentazione sulla sicurezza di frontiera di un modello affronta una domanda diversa da quella relativa alla corretta sintesi di una riunione o alla citazione di un documento. Questi problemi quotidiani di affidabilità restano rilevanti anche quando un fornitore adempie ai propri obblighi di divulgazione.

Per i team che gestiscono una base di conoscenza ricercabile, la documentazione del fornitore va collocata accanto alle decisioni interne e ai registri di implementazione. Mantenere connessi questi materiali aiuta i revisori a comprendere quali presupposti abbiano sostenuto un determinato utilizzo.

Si tratta di un possibile vantaggio operativo, non di un esito normativo garantito. La divulgazione diventa utile quando qualcuno può interpretarla, confrontarla con i requisiti e agire sulle discrepanze.

Anche gli sviluppatori più piccoli richiedono una lettura più attenta rispetto a “la legge si applica solo ai laboratori più grandi”. Alcuni requisiti si applicano agli sviluppatori di frontiera in generale, mentre altri riguardano specificamente i grandi sviluppatori di frontiera. Le categorie hanno conseguenze diverse.

Questa struttura crea pressione su più dei soli team legali. Responsabili di prodotto, addetti alla sicurezza e valutatori tecnici devono avere una comprensione condivisa di ciò che l'azienda fa realmente. Altrimenti, una descrizione pubblica può allontanarsi dal processo seguito dai dipendenti.

Per i clienti, la domanda che ne deriva è concreta: la documentazione del fornitore aiuta a spiegare le sue decisioni, oppure conferma semplicemente l'esistenza di un documento? La risposta determinerà quanto valore pratico offriranno le nuove divulgazioni.

New York rende gli sviluppatori responsabili dei propri quadri di sicurezza

Il cambiamento centrale è il collegamento giuridico tra il quadro pubblicato da uno sviluppatore e la sua condotta.

Un quadro per l'IA di frontiera è un sistema documentato per valutare e gestire rischi catastrofici. I requisiti di trasparenza di New York impongono ai grandi sviluppatori di pubblicarne, attuarne e rispettarne uno.

Il quadro deve descrivere aspetti quali la valutazione dei rischi, le misure di protezione, la revisione dell'implementazione, la valutazione esterna e la governance interna. Deve inoltre affrontare i rischi derivanti dall'uso interno dei modelli.

Gli sviluppatori devono riesaminare i quadri almeno una volta all'anno. Le modifiche sostanziali richiedono la pubblicazione del quadro rivisto e di una spiegazione entro 30 giorni. Le informazioni sulla trasparenza del modello possono comparire in una più ampia model card o system card, un documento che descrive un modello e le sue valutazioni.

Il meccanismo di responsabilità risulta più chiaro nella separata disposizione sulle violazioni della legge. Il procuratore generale può perseguire sanzioni civili per determinate inadempienze, incluso il mancato rispetto, da parte di un grande sviluppatore, del proprio quadro. La legge non crea un diritto di azione privata.

Ciò rende rilevante la formulazione di un quadro. Una dichiarazione su come un'azienda valuta il pericolo può diventare un punto di riferimento per esaminare il suo comportamento. Il linguaggio pubblico sulla sicurezza assume quindi un significato che va oltre la reputazione.

Il compromesso è che gli sviluppatori mantengono una responsabilità sostanziale nel descrivere i propri processi. Questo può adattarsi a diversi approcci tecnici, ma rende importante anche la qualità di tali descrizioni.

Un quadro ricco di linguaggio discrezionale può rivelare meno di un documento che spiega chi decide, quali prove contano e come funzionano le eccezioni. Al contrario, un impegno estremamente specifico può diventare difficile da mantenere man mano che la tecnologia sottostante cambia.

Né il dettaglio né la flessibilità sono automaticamente preferibili. La domanda utile è se un lettore esterno possa comprendere il processo decisionale e individuare scostamenti significativi da esso.

Per esempio, un ipotetico quadro potrebbe descrivere una revisione aggiuntiva quando una valutazione rivela una nuova capacità pericolosa. Un revisore dovrebbe quindi capire cosa ha attivato la revisione e in che modo le sue conclusioni hanno influenzato la decisione finale.

L'esistenza di una riunione di revisione dimostrerebbe meno di un registro che mostri come le prove abbiano modificato l'esito. Ciò illustra perché la conformità procedurale e il giudizio sostanziale meritino un'attenzione separata.

La stessa distinzione si applica agli aggiornamenti dei documenti. Una spiegazione che identifichi i presupposti modificati aiuta i lettori a valutare la continuità. Un cambiamento non spiegato lascia incertezza sul fatto che la valutazione del rischio sottostante sia migliorata, peggiorata o sia stata semplicemente spostata altrove.

La supervisione di OpenAI in base a questo modello dipenderà in parte da quella traccia documentale. Lo Stato ha bisogno di informazioni sufficienti per confrontare il resoconto di un'azienda con le sue azioni, mentre i revisori tecnici necessitano di contesto sufficiente per valutare il resoconto stesso.

Per gli sviluppatori, la sfida è la coerenza organizzativa. Un quadro non può funzionare come descrizione accurata se i team interpretano i suoi termini in modo diverso. Per le autorità di regolamentazione, la sfida è valutare la coerenza senza scambiare un documento ben rifinito per una prova che ogni decisione rilevante lo abbia seguito.

È qui che la promessa della legge incontra i suoi limiti pratici: gli impegni applicabili necessitano di interpretazione, e l'interpretazione necessita di prove.

Anthropic sostiene la trasparenza pur affermando che è insufficiente

Il sostegno alla divulgazione obbligatoria non risolve la questione se la divulgazione fornisca una protezione adeguata.

Le priorità di politica sull'IA pubblicate da Anthropic sostengono la pubblicazione obbligatoria delle valutazioni dei rischi catastrofici e dei riepiloghi dei test di sicurezza. L'azienda indica il RAISE Act di New York tra le leggi che ha sostenuto.

Afferma inoltre che la sola trasparenza è insufficiente per i rischi più gravi. Le sue proposte più ampie includono valutazioni indipendenti e la divulgazione continuativa delle valutazioni dei rischi e degli incidenti di sicurezza. Si tratta delle posizioni di policy dell’azienda, non di conclusioni indipendenti sui suoi sistemi.

Questa posizione introduce un’importante distinzione nel dibattito. Uno sviluppatore può sostenere una legge sulla trasparenza pur chiedendo una supervisione aggiuntiva. Sostenere la legge non dimostra che le pratiche dell’azienda soddisfino ogni requisito.

Non dimostra neppure una sicurezza comparativa. L’attività di advocacy di Anthropic non può, da sola, dimostrare che i suoi modelli siano più sicuri di quelli di OpenAI. Allo stesso modo, sottoporre entrambe le aziende a supervisione non implica che i loro rischi, processi o capacità tecniche siano identici.

Per i lettori che confrontano i fornitori, questo è un confine utile. Allineamento alle policy, conformità normativa e sicurezza tecnica sono temi collegati, ma le prove relative a uno di essi non risolvono automaticamente gli altri.

L’approccio di New York spinge gli sviluppatori a rendere visibili alcuni aspetti del loro lavoro sulla sicurezza. La posizione dichiarata da Anthropic va oltre, riconoscendo che la visibilità non può svolgere ogni funzione protettiva.

L’argomento più solido a favore della trasparenza è pratico. Il controllo esterno diventa più difficile quando i processi sottostanti restano interamente privati. Le descrizioni pubbliche offrono a ricercatori, clienti e funzionari elementi concreti su cui interrogarsi.

La risposta scettica più forte è altrettanto pratica. Un riepilogo pubblicato può lasciare irrisolto se una valutazione misuri il pericolo rilevante, se le condizioni di test assomiglino alla distribuzione effettiva o se le misure protettive restino efficaci.

Si tratta di questioni analitiche, non di accuse contro uno sviluppatore specifico. Spiegano perché il contenuto di una divulgazione conti più della sua lunghezza o della sua presentazione.

Una valutazione indipendente può aiutare a esaminare queste questioni, ma anche l’indipendenza richiede scrutinio. I lettori devono comprendere l’accesso dell’organismo di valutazione, i limiti del lavoro e ciò che i risultati consentono di concludere. Il coinvolgimento di un’organizzazione esterna è informativo senza essere conclusivo.

C’è inoltre differenza tra identificare un’incertezza ed eliminarla. Una valutazione utile può mostrare che restano aperte questioni importanti. Trattare ogni questione irrisolta come prova di un fallimento scoraggerebbe una comunicazione franca.

L’errore opposto consiste nell’accettare l’incertezza come motivo per evitare del tutto un giudizio. Gli sviluppatori prendono comunque decisioni di distribuzione e i clienti decidono comunque quali sistemi ricevano accesso a compiti con conseguenze rilevanti.

Il valore del RAISE Act dipenderà in parte dal rendere tali decisioni più comprensibili. Ciò significa esaminare il ragionamento alla base di un rilascio, anziché trattare il sostegno alla regolamentazione o una dichiarazione di conformità come risposta definitiva.

Per OpenAI e Anthropic, quindi, lo standard emergente riguarda le prove che clienti e autorità di regolamentazione possono esaminare criticamente. La loro reputazione continuerà a essere rilevante, ma non può sostituire una spiegazione di come sia stata presa una decisione specifica.

La segnalazione degli incidenti offre visibilità alle autorità, con limiti per il pubblico

Una scadenza per la segnalazione offre alle autorità un canale informativo senza garantire l’accesso pubblico immediato a ogni incidente.

Le norme sulla segnalazione degli incidenti della legge richiedono in genere una notifica entro 72 ore dalla determinazione del verificarsi di un incidente qualificante. Il termine decorre anche dal momento in cui uno sviluppatore apprende fatti sufficienti a sostenere la ragionevole convinzione che un tale incidente si sia verificato.

Una disposizione separata richiede la divulgazione entro 24 ore a un’autorità competente quando un incidente critico rilevato comporta rischi imminenti di morte o lesioni gravi. Questi criteri sono più specifici di una generica promessa di segnalare tempestivamente i problemi.

Le segnalazioni di incidenti e determinate valutazioni interne dei rischi ricevono tutele di riservatezza. L’obbligo di relazione annuale dell’ufficio inizia il 1° gennaio 2028 e include informazioni anonimizzate e aggregate sugli incidenti.

La distinzione tra segnalazione riservata e trasparenza pubblica è essenziale. Le autorità possono acquisire una visibilità che i clienti non condividono immediatamente. Un osservatore pubblico non può presumere che l’assenza di casi divulgati significhi assenza di segnalazioni.

Neppure un mero conteggio delle segnalazioni dovrebbe trasformarsi in una classifica di sicurezza. Più segnalazioni potrebbero riflettere più incidenti, un rilevamento migliore, pratiche di segnalazione più ampie o una combinazione di questi fattori. Interpretare il conteggio richiede contesto.

Questo è un problema ricorrente di misurazione nei sistemi di sicurezza. Un processo di segnalazione modifica ciò che diventa visibile, e ciò può cambiare le prestazioni apparenti prima che migliorino le condizioni sottostanti. Questa possibilità merita attenzione quando emergeranno le prime cifre.

Il criterio di notifica attribuisce inoltre peso al riconoscimento interno. Una scadenza è utile solo quando l’organizzazione può identificare le prove pertinenti e inoltrarle a qualcuno in grado di agire.

Si immagini uno sviluppatore ipotetico che indaga su un comportamento inatteso durante l’uso interno. Il personale tecnico potrebbe dover anzitutto distinguere un artefatto di valutazione da una reale questione di sicurezza. Il processo di segnalazione dipende quindi dalla conservazione delle prove e dall’escalation appropriata della questione.

Questo esempio non dimostra che una qualsiasi azienda nominata abbia vissuto un tale incidente. Illustra perché gli obblighi di segnalazione collegano il giudizio tecnico alla responsabilità organizzativa.

Per i clienti, la struttura di riservatezza limita ciò che i confronti tra fornitori possono dimostrare. Il materiale pubblicato può descrivere un processo senza rivelare ogni evento gestito attraverso di esso.

Per le autorità di regolamentazione, le segnalazioni protette possono fornire informazioni che sarebbe sensibile o pericoloso divulgare ampiamente. La sfida associata è dimostrare che tali informazioni orientano la supervisione, rispettando al contempo queste tutele.

La fiducia pubblica dipenderà quindi da qualcosa di più del volume delle divulgazioni. Spiegazioni chiare dei metodi di supervisione, dei risultati aggregati e delle risposte istituzionali possono aiutare gli osservatori a valutare se il processo funzioni.

Anche una sanzione richiederebbe un’interpretazione attenta. L’applicazione della legge può rivelare un fallimento e dimostrare che le autorità vi hanno risposto. Nessuna di queste conclusioni, da sola, misura la sicurezza complessiva della tecnologia interessata.

La stessa cautela si applica prima che inizi l’applicazione della legge. La registrazione è prova di partecipazione a un processo amministrativo. Non è un’approvazione governativa dell’idoneità di un modello per ogni scopo.

Mantenere visibili queste distinzioni impedisce che la legge diventi una scorciatoia fuorviante nel marketing dei prodotti o nelle decisioni di acquisto. La supervisione aggiunge responsabilità, ma i lettori devono comunque chiedersi che cosa dimostri effettivamente ciascun segnale pubblico.

Osservare la registrazione, le divulgazioni sui rilasci e i primi segnali di scrutinio

I prossimi mesi offriranno prove osservabili sull’implementazione, anche prima che sia possibile misurare gli esiti di sicurezza a lungo termine.

In primo luogo, osservate la scadenza di registrazione di gennaio e qualsiasi chiarimento ufficiale su chi debba partecipare. Il segnale rilevante è se l’implementazione stabilisca un processo chiaro e utilizzabile per gli sviluppatori soggetti alla normativa.

Un processo di registrazione funzionante rafforzerebbe l’idea che New York sia passata dalla legislazione all’amministrazione. Confusione sulle responsabilità, istruzioni irrisolte o ostacoli procedurali ripetuti indebolirebbero questa valutazione.

Questo segnale ha un significato circoscritto. Una registrazione riuscita dimostrerebbe progressi su un requisito amministrativo. Non dimostrerebbe che lo Stato abbia esaminato ogni questione tecnica o approvato ogni sistema soggetto alla normativa.

In secondo luogo, osservate i framework di sicurezza e le divulgazioni sui modelli che accompagnano i rilasci dopo l’entrata in vigore dei requisiti. Il confronto utile riguarda ciò che i lettori possono ricavarne.

I materiali identificano il modello pertinente, spiegano il processo di valutazione e distinguono i risultati dalle questioni irrisolte? Un cliente può comprendere cosa è cambiato tra le versioni? Un aggiornamento spiega un cambiamento significativo nell’approccio dello sviluppatore?

Questi sono indicatori più solidi di una divulgazione informativa rispetto al solo volume dei documenti. Materiali più chiari e comparabili sosterrebbero l’argomento secondo cui la legge migliora il controllo esterno. Ambiguità ripetute renderebbero tale argomento più difficile da sostenere.

I confronti tra OpenAI e Anthropic dovrebbero restare specifici. Uno sviluppatore potrebbe spiegare più chiaramente un determinato processo senza dimostrare un vantaggio complessivo in termini di sicurezza. Le prove dovrebbero determinare la portata della conclusione.

In terzo luogo, osservate l’attività di revisione documentata pubblicamente, i metodi di valutazione e le linee guida delle istituzioni responsabili della supervisione. Il segnale importante è se lo scrutinio tecnico produca questioni identificabili o cambiamenti nelle pratiche.

Prove pubbliche di questo collegamento rafforzerebbero l’idea che la supervisione vada oltre la mera raccolta di documenti. L’assenza di primi risultati pubblici sarebbe meno conclusiva, considerate le norme di riservatezza e il tempo necessario per la valutazione.

Quest’ultimo segnale richiede pazienza senza abbandonare lo scrutinio. Un’istituzione appena avviata non può fornire immediatamente un solido storico di applicazione della legge. Può comunque spiegare le proprie priorità, i propri metodi e i limiti di ciò che può valutare.

Nel loro insieme, queste osservazioni offrono un modo concreto per seguire la supervisione di OpenAI con l’avvicinarsi di gennaio. Distinguono tra preparazione amministrativa, divulgazione informativa e revisione sostanziale, ciascuna delle quali sostiene una conclusione diversa.

Per gli sviluppatori e gli acquirenti aziendali, seguite questi segnali prima di trattare il linguaggio di conformità come un verdetto di sicurezza. Tenete insieme il framework pertinente, la divulgazione sul modello e la decisione interna di distribuzione, affinché i cambiamenti restino comprensibili. Chiedete ai fornitori quali prove sostengano le loro affermazioni e quali questioni i loro documenti lascino irrisolte. Nel confrontare OpenAI e Anthropic, concentratevi sul modello specifico e sull’uso proposto anziché su una reputazione generale di cautela. Un framework pubblicato può migliorare una conversazione di acquisto, ma qualcuno deve comunque esaminarne le ipotesi. Quando inizieranno i requisiti di New York, usate le nuove informazioni per porre domande più precise: che cosa è stato valutato, cosa resta incerto e quale decisione è cambiata alla luce delle prove?

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page