La legge di Anthropic sulla sicurezza dell'IA fissa una soglia elevata per bloccare i modelli pericolosi

Anthropic sta facendo pressione per una legge sulla sicurezza dell'IA che, secondo quanto riportato, riservi gli ordini di blocco dei modelli ai rischi che comportano più di 50 vittime o 1 miliardo di dollari di danni.

Questa soglia crea il conflitto centrale della proposta. Anthropic vuole una supervisione federale vincolante per l'IA di frontiera, ma il rimedio più incisivo del governo scatterebbe solo in presenza di una definizione di danno catastrofico.

La proposta non è un disegno di legge formalmente presentato e il suo testo riservato non ha ricevuto un esame legislativo pubblico. I dettagli provengono da una bozza riservata descritta da Politico e da successivi resoconti.

La bozza imporrebbe comunque obblighi prima che si verifichi una catastrofe. I grandi sviluppatori dovrebbero predisporre quadri di sicurezza, divulgare i rischi, segnalare incidenti gravi e sottoporsi a valutazioni esterne.

Tuttavia, tali requisiti preventivi conducono a un percorso di applicazione ristretto. Un valutatore qualificato segnalerebbe un rischio catastrofico imminente, il Dipartimento del Commercio porterebbe le prove in tribunale e un giudice federale deciderebbe se l'intervento sia giustificato.

Questa struttura sposta il dibattito oltre la questione se l'IA avanzata necessiti di regolamentazione. La domanda più difficile è quante prove debba avere il governo prima di fermare un modello che non ha ancora causato il danno temuto.

Le attuali norme californiane sull'IA di frontiera offrono il riferimento più vicino. La bozza federale riportata riprende le loro soglie di rischio catastrofico, ma collocherebbe il potere di bloccare i modelli all'interno di un unico processo federale.

Il risultato è un compromesso tra coerenza e flessibilità. Un unico standard nazionale potrebbe prevenire interventi arbitrari, rendendo però difficile agire tempestivamente quando le prove sono incomplete.

Cosa farebbe realmente la legge di Anthropic sulla sicurezza dell'IA

La proposta combina una supervisione ricorrente con un percorso strettamente limitato per fermare un modello.

Secondo la bozza riportata, gli sviluppatori di modelli di frontiera soggetti alla normativa dovrebbero creare e seguire quadri di sicurezza scritti. Questi documenti spiegherebbero come ciascuna azienda valuta i rischi gravi e decide se le protezioni siano adeguate.

Gli sviluppatori pubblicherebbero inoltre rapporti di trasparenza per i modelli di frontiera appena rilasciati. Segnalerebbero al Dipartimento del Commercio gli incidenti critici di sicurezza e garantirebbero tutele ai dipendenti che sollevano preoccupazioni sulla sicurezza.

Valutatori indipendenti esaminerebbero periodicamente le aziende soggette alla normativa e i loro modelli. Questi valutatori si registrerebbero presso il Dipartimento del Commercio, attribuendo all'agenzia un ruolo formale nel determinare chi possa condurre valutazioni regolamentate.

La proposta consentirebbe, secondo quanto riportato, a uno sviluppatore di pagare il proprio valutatore. Tale rapporto finanziario sarebbe consentito solo quando non compromette l'indipendenza del valutatore.

Questa impostazione ricorda il sistema che Anthropic ha iniziato a sperimentare volontariamente. In un aggiornamento sui valutatori del 15 ottobre, l'azienda ha dichiarato che sei dipendenti dell'organizzazione non profit METR avevano ricevuto hardware aziendale e un accesso simile a quello dei dipendenti.

Anthropic ha affermato che METR poteva pubblicare la propria analisi senza l'approvazione dell'azienda. Anthropic poteva comunque richiedere oscuramenti all'interno di categorie predefinite, comprese informazioni sui clienti, materiale protetto da privilegio e alcuni dettagli architetturali.

Altri valutatori operano con un accesso più ristretto. Anthropic ha dichiarato che i revisori di primo livello ricevono l'accesso scelto dall'azienda e possono pubblicare risultati solo con la sua approvazione.

La proposta federale tenterebbe di spostare la valutazione da accordi volontari a un sistema regolamentato. Eppure, le regole riportate lasciano senza risposta una domanda importante: come verrebbe misurata l'indipendenza quando un laboratorio fornisce sia l'accesso sia il pagamento?

La disposizione più rilevante della bozza riguarda l'intervento del governo. Il Dipartimento del Commercio potrebbe chiedere di fermare il rilascio o l'uso di un modello quando esso presenta un rischio catastrofico prevedibile e imminente.

Tale rischio dovrebbe, secondo quanto riportato, comportare più di 1 miliardo di dollari di danni o la morte o lesioni gravi di più di 50 persone. Dovrebbe inoltre derivare da pericoli specificati, tra cui armi biologiche, attacchi informatici o un modello che sfugge al controllo del suo sviluppatore.

Un valutatore che identificasse una simile minaccia la segnalerebbe al dipartimento entro 72 ore. Il Commercio presenterebbe poi le prove a un giudice federale nel Distretto di Columbia.

Il giudice, anziché il solo sviluppatore o la sola agenzia, deciderebbe se lo standard legale sia stato soddisfatto. Questo passaggio giudiziario potrebbe proteggere le aziende da restrizioni arbitrarie, ma aggiunge anche tempo e requisiti probatori.

La bozza impedirebbe, secondo quanto riportato, ad altri dipartimenti, agenzie o funzionari federali di ordinare autonomamente a un laboratorio soggetto alla normativa di interrompere il rilascio di un modello. Il Commercio diventerebbe il punto di accesso per quello specifico rimedio.

Questa esclusività è importante. I rischi dell'IA possono attraversare gli ambiti della sicurezza nazionale, della salute, delle forze dell'ordine, della tutela dei consumatori e delle infrastrutture, eppure la bozza convoglierebbe la decisione definitiva sul dispiegamento attraverso un solo dipartimento.

La soglia è un innesco legale, non una perdita accettabile

Le cifre definiscono quando un tribunale può bloccare un modello, non quanto danno Anthropic ritenga tollerabile.

I titoli su 50 morti o 1 miliardo di dollari possono far pensare che uno sviluppatore riceva il permesso di causare qualsiasi danno al di sotto di tali livelli. Non è l'interpretazione più accurata della proposta riportata.

La soglia si applica a uno specifico rimedio preventivo: fermare il rilascio o l'uso di un modello di frontiera a causa di una catastrofe prevista. Non cancella il diritto penale ordinario, la responsabilità per prodotto, le richieste per negligenza, le tutele dei consumatori o la regolamentazione settoriale.

Un attacco informatico che provochi danni inferiori potrebbe comunque essere illegale. Una lesione legata a un modello potrebbe comunque produrre contenziosi, indagini o azioni esecutive ai sensi di un'altra legge.

La bozza sembra inoltre creare obblighi applicabili prima che venga raggiunta la soglia catastrofica. Piani di sicurezza, rapporti sugli incidenti, valutazioni e informative veritiere non dovrebbero attendere decine di vittime.

Ciononostante, la soglia definisce ciò che il governo può fare nel momento più importante. Quando i funzionari ritengono che un modello sia pericoloso ma le prove restano probabilistiche, dovrebbero dimostrare sia l'imminenza sia la portata catastrofica.

Questa combinazione è impegnativa. Le valutazioni dei modelli di frontiera raramente forniscono una previsione netta secondo cui un sistema causerà un determinato numero di lesioni entro un periodo fisso.

I valutatori misurano di solito capacità, protezioni, condizioni di accesso e plausibili percorsi di uso improprio. Trasformare tali risultati in una previsione di danni finanziari o vittime richiede ulteriori ipotesi sugli attori umani e sulle condizioni di dispiegamento.

Il termine “prevedibile” chiede se il pericolo possa essere ragionevolmente anticipato. “Imminente” richiede una minaccia più immediata, sebbene l'interpretazione esatta della bozza sarebbe rilevante in tribunale.

Un modello potrebbe ridurre sostanzialmente le competenze necessarie per l'uso improprio biologico senza rivelare un attacco attivo. Potrebbe automatizzare lo sfruttamento di vulnerabilità informatiche senza identificare un bersaglio selezionato.

Tali risultati potrebbero giustificare controlli di accesso più rigorosi, ulteriori test o un rilascio ritardato. Potrebbero non soddisfare un tribunale che necessita di prove di una catastrofe imminente superiore a una soglia stabilita dalla legge.

L'Advanced AI Framework di Anthropic, pubblicato a giugno, fornisce la base politica della bozza. Si concentra su armi biologiche, operazioni informatiche offensive, perdita di controllo e ricerca e sviluppo automatizzati nell'IA.

Il quadro afferma che gli sviluppatori soggetti alla normativa dovrebbero testare modelli avanzati, pubblicare informazioni sulla sicurezza, coinvolgere valutatori indipendenti e rispondere a un'agenzia governativa. Presenta inoltre diversi modelli di applicazione, anziché un unico progetto definitivo.

Il suo ambito proposto coprirebbe gli sviluppatori che addestrano modelli al di sopra di una soglia di calcolo specificata e soddisfano requisiti sostanziali relativi ai ricavi dell'IA o alla spesa in ricerca. Questi limiti sono pensati per concentrare la conformità sulle aziende in grado di costruire i sistemi più avanzati.

Il quadro cita la legge californiana nel definire il rischio catastrofico. Tratta quindi le cifre relative a vittime e danni come un riferimento politico esistente, non come una misura appena inventata del danno accettabile.

Tuttavia, importare una definizione nel diritto federale fa più che riutilizzare un linguaggio familiare. Determina chi sopporta l'onere della prova e quando l'incertezza favorisce l'intervento.

Con una soglia più bassa, il governo rischia di fermare una tecnologia utile sulla base di previsioni deboli. Con una soglia più alta, il pubblico rischia di scoprire che le prove sono diventate legalmente sufficienti solo dopo che il dispiegamento era difficile da invertire.

Un unico custode federale crea chiarezza e un punto di strozzatura

Attribuire al Commercio l'autorità esclusiva di bloccare i modelli standardizzerebbe l'intervento, concentrando però un giudizio difficile in un'unica istituzione.

L'IA di frontiera non rientra ordinatamente in un'unica categoria regolamentare. Un singolo modello può influire sulla ricerca medica, sui sistemi militari, sui servizi finanziari, sulle comunicazioni e sulle infrastrutture critiche.

Molteplici agenzie possiedono già competenze rilevanti per tali usi. Le autorità sanitarie comprendono le minacce biologiche, le agenzie di cybersicurezza monitorano gli attacchi alle infrastrutture e le organizzazioni di sicurezza nazionale valutano le attività di Stati ostili.

La legge sulla sicurezza dell'IA di Anthropic riportata non eliminerebbe ogni potere di cui dispongono tali organismi. Il suo effetto più ristretto sarebbe rendere il Commercio il canale per un ordine che fermi il rilascio o l'uso di un modello soggetto alla normativa.

I sostenitori possono formulare un argomento pratico a favore di questo disegno. Un regolatore designato può sviluppare personale tecnico, stabilire procedure coerenti ed evitare ordini conflittuali da parte di agenzie che applicano standard diversi.

Anche il controllo giudiziario può disciplinare il processo. Il Commercio avrebbe bisogno di prove sufficientemente solide da convincere un giudice federale, anziché basarsi su una valutazione interna opaca.

Per gli sviluppatori, questo processo offre prevedibilità. Un'azienda potrebbe comprendere quale agenzia riceve le segnalazioni, quali valutatori sono qualificati e quale verifica legale disciplina una controversia sul dispiegamento.

La prevedibilità non è soltanto un vantaggio commerciale. Regole stabili possono aiutare i team di sicurezza a prendere decisioni interne senza dover indovinare come diverse agenzie risponderanno alle stesse prove.

La preoccupazione opposta riguarda la capacità istituzionale. Un'agenzia designata non può fornire una supervisione significativa senza sufficienti competenze tecniche, infrastrutture di sicurezza, finanziamenti e autorità per esaminare informazioni protette.

Il quadro di Anthropic riconosce questa sfida. Afferma che il governo dovrebbe sviluppare la capacità di condurre direttamente valutazioni delle capacità e analisi olistiche del rischio.

Finché tale capacità non esisterà, il governo dipenderà in larga misura da valutatori esterni e dalle informazioni fornite dagli sviluppatori. La qualità dell'applicazione dipenderebbe quindi dagli accordi di accesso creati prima che una controversia arrivi in tribunale.

Un'autorità concentrata può inoltre creare un collo di bottiglia durante un incidente in rapida evoluzione. Il valutatore deve riconoscere la minaccia, notificare il Commercio, sostenere un fascicolo probatorio e attendere l'azione giudiziaria.

Una scadenza di segnalazione di 72 ore sembra rapida in un documento di conformità. Può apparire molto più lenta quando un sistema autonomo, pesi di modello divulgati o una campagna informatica attiva si stanno diffondendo attraverso le reti.

L’attenzione della proposta sull’intervento soggetto a supervisione giudiziaria riflette una legittima preoccupazione per gli eccessi. Bloccare un modello è un atto straordinario, con conseguenze per clienti, ricercatori, competitività nazionale e interessi legati alla libertà di espressione.

Eppure, i rimedi straordinari sono spesso più preziosi prima che il danno diventi osservabile. Per questo, il modo in cui lo standard legale tratta previsioni, incertezza e prove riservate conta più dei numeri in prima pagina.

C’è anche una questione di federalismo. Gli Stati si sono mossi in anticipo perché il Congresso non ha creato un quadro organico per l’AI di frontiera.

Un portavoce di Anthropic ha dichiarato che la proposta riflette politiche che l’azienda promuove presso legislatori federali e statali da giugno. L’azienda le ha definite misure sensate che il Congresso dovrebbe adottare.

Il quadro proposto da Anthropic afferma che la preemption federale dovrebbe verificarsi solo quando il Congresso istituisce un regime solido che soddisfi rigorosi standard di sicurezza. Afferma inoltre che la preemption dovrebbe restare limitata e preservare l’autorità statale al di fuori di specifiche funzioni di governance dell’AI di frontiera.

Questo linguaggio è più misurato di un ampio divieto della regolamentazione statale dell’AI. Tuttavia, qualsiasi legge definitiva richiederebbe confini precisi, poiché un’autorità federale esclusiva può indebolire la sperimentazione degli Stati anche senza cancellare ogni legge statale.

La valutazione indipendente dipende da finanziamenti, accesso e diritti di pubblicazione

Il nome di un valutatore conta meno della sua capacità di esaminare le prove giuste e pubblicare conclusioni sgradite.

La valutazione indipendente è il principale ponte della proposta tra sviluppo privato e applicazione pubblica delle norme. Il governo non può agire su un rischio che non riesce a vedere, e i laboratori dispongono di informazioni che gli esterni non possono riprodurre.

Un valutatore serio necessita dell’accesso a modelli pre-release, decisioni sull’addestramento, misure di sicurezza interne, registri degli incidenti e condizioni in cui sono stati condotti i test. Il solo accesso al modello non è sufficiente.

I valutatori devono anche avere la competenza per riconoscere risultati fuorvianti. Un modello può comportarsi diversamente durante i test, e un benchmark può non cogliere rischi che emergono attraverso strumenti, attività di lunga durata o l’interazione tra più agenti.

Anthropic sostiene che i valutatori integrati possano colmare il divario informativo. Il suo attuale accordo con METR offre a un piccolo team esterno un accesso ampiamente comparabile a quello del personale interno addetto alla valutazione dei rischi.

L’approccio offre un vantaggio significativo rispetto a test esterni occasionali. I valutatori possono osservare il funzionamento dell’azienda, anziché limitarsi a ispezionare un modello finito poco prima del rilascio.

Questa vicinanza crea pressioni proprie. I valutatori lavorano nell’ambiente di sicurezza dell’azienda, dipendono dall’azienda per le informazioni e possono abituarsi alle sue assunzioni.

Il pagamento rende la questione più netta. Un revisore non perde automaticamente l’indipendenza perché l’azienda sottoposta a revisione paga il compenso. Revisori finanziari, laboratori di prova e organismi di certificazione operano spesso con accordi simili.

L’indipendenza dipende invece dalle garanzie. Il pagamento non può variare in base alla conclusione, il finanziamento continuativo non può dipendere da risultati favorevoli e il valutatore deve avere un controllo significativo sulla propria analisi pubblicata.

Secondo quanto riferito, la proposta consente il finanziamento da parte dello sviluppatore quando non influisce sull’indipendenza. Il principio è ragionevole, ma la sua applicazione richiede criteri misurabili.

Un regolatore dovrebbe esaminare partecipazioni azionarie, rapporti di consulenza, concentrazione dei ricavi, restrizioni contrattuali, legami tra il personale e la capacità del valutatore di sopravvivere alla perdita di un cliente.

I diritti di pubblicazione meritano uguale attenzione. Un valutatore che individua una grave debolezza ma non può descriverla pubblicamente offre una responsabilizzazione limitata, anche se può avvisare privatamente i regolatori.

Alcune omissioni sono inevitabili. Un rapporto pubblico non dovrebbe esporre dati dei clienti, vulnerabilità sfruttabili, pesi del modello o istruzioni che rendano più facile l’uso improprio in ambito biologico.

La questione difficile è chi classifica le informazioni e come vengono risolte le controversie. Se lo sviluppatore ha il controllo finale su ogni omissione, l’indipendenza del revisore diventa difficile da verificare per il pubblico.

L’attuale sistema di Anthropic illustra questo spettro. METR dispone di diritti di pubblicazione più forti rispetto ai valutatori che lavorano nel primo livello di accesso dell’azienda.

Questa variazione rende utile uno standard federale. La registrazione potrebbe stabilire regole minime di accesso, divulgazione, conflitto e pubblicazione per ogni sviluppatore interessato.

Tuttavia, la sola registrazione non può garantire la competenza. Il governo avrebbe bisogno di esperti sufficienti per ispezionare i metodi di valutazione e distinguere un’analisi attenta del rischio dal teatro della conformità.

Anche il mercato dei valutatori potrebbe essere ristretto. Le organizzazioni capaci di testare sistemi di frontiera ricevono spesso finanziamenti dalle stesse aziende, dagli investitori o dalle reti filantropiche coinvolte nello sviluppo dell’AI.

Questo non dimostra che le loro conclusioni siano compromesse. Significa però che le relazioni finanziarie e professionali dovrebbero essere divulgate, anziché liquidate come irrilevanti.

Un sistema di finanziamento condiviso potrebbe ridurre la dipendenza da un singolo sviluppatore. I laboratori soggetti alla normativa potrebbero versare contributi a un fondo amministrato in modo indipendente, che assegnerebbe i valutatori senza consentire alle aziende di negoziare direttamente il pagamento.

Il quadro di Anthropic solleva una possibilità simile. Raccomanda finanziamenti e standard che offrano ai valutatori un accesso sufficiente proteggendone al contempo l’indipendenza.

L’assegnazione casuale potrebbe essere utile anche nelle revisioni ad alta posta in gioco. Tuttavia, competenze specialistiche e autorizzazioni di sicurezza possono limitare quali valutatori siano in grado di esaminare un rischio specifico.

Il sistema più solido combinerebbe diversi meccanismi: diritti minimi di accesso, pubblicazione protetta, conflitti dichiarati, revisione governativa e più di un valutatore per i modelli dalle conseguenze più rilevanti.

Il vero compromesso è tra intervento precoce ed eccesso normativo

La proposta chiede alla società di accettare un’elevata soglia probatoria in cambio di protezione da interventi governativi prematuri.

Anthropic si è presentata come sostenitrice di regole più severe per l’AI di frontiera. Il suo quadro prevede test obbligatori, rapporti ricorrenti sui rischi, valutazione indipendente, divulgazione degli incidenti, protezione dei whistleblower e una reale applicazione delle norme.

Queste disposizioni sono più sostanziali di un impegno volontario. Creerebbero obblighi giuridici che gli sviluppatori leader non potrebbero abbandonare silenziosamente quando aumenta la pressione commerciale.

La soglia controversa non annulla tali obblighi. Disciplina il rimedio più severo e dovrebbe essere valutata all’interno di questa struttura più ampia.

Tuttavia, un regime di sicurezza può essere rigoroso sulla documentazione e debole nel momento decisivo. Se i regolatori non possono ritardare il rilascio finché una catastrofe non diventa prevedibile, imminente e quantificabile, la trasparenza può documentare i rischi senza controllarli.

Questa è la critica centrale rivolta ad Anthropic. L’azienda avverte che i sistemi di frontiera possono generare pericoli eccezionali, ma la sua proposta limita, secondo quanto riferito, l’intervento a un ristretto insieme di scenari catastrofici.

L’insieme dei rischi coperti conta quanto la soglia di gravità. Armi biologiche, grandi attacchi informatici e perdita di controllo meritano attenzione mirata perché possono provocare danni diffusi e difficili da invertire.

Altri problemi gravi possono rimanere al di fuori di questo quadro. Frode, manipolazione, discriminazione, consigli medici non sicuri, sostituzione del lavoro, perdita della privacy e comportamenti dannosi dei companion possono colpire molte persone senza assomigliare a un unico evento catastrofico.

Questi danni non dovrebbero necessariamente comportare un blocco nazionale del modello. Mostrano però perché la legge sulla sicurezza dell’AI di Anthropic non può sostituire politiche più ampie in materia di tutela dei consumatori, diritti civili, lavoro, sanità e concorrenza.

Una legge sulla sicurezza di frontiera dovrebbe affrontare pericoli sistemici rari. Altre leggi dovrebbero disciplinare i rilasci ordinari e i danni specifici dei singoli settori.

La difficoltà risiede nel confine. Una campagna informatica distribuita potrebbe accumulare perdite tra migliaia di vittime senza presentare un chiaro momento di danno catastrofico imminente.

Un agente AI potrebbe superare ripetutamente gli accessi autorizzati mentre ogni singolo incidente sembra gestibile. Una capacità biologica potrebbe diffondersi tra gli utenti prima che le autorità identifichino un concreto tentativo di militarizzazione.

Le soglie creano coerenza, ma creano anche discontinuità. Un evento previsto appena sotto la linea riceve un trattamento fondamentalmente diverso da uno appena sopra, anche quando entrambe le stime contengono grande incertezza.

Il linguaggio numerico può quindi suggerire una precisione maggiore di quella che gli attuali metodi di valutazione possono offrire. Gli esperti possono non concordare sulla capacità del modello, sull’intento dell’attaccante, sulle misure di protezione disponibili e sulle probabili conseguenze.

I tribunali gestiscono prove incerte in molti ambiti. La proposta riportata avrebbe comunque bisogno di regole che spieghino quale probabilità, orizzonte temporale e contributo causale soddisfino il suo standard.

“Contribuire materialmente” è particolarmente importante. Un modello di frontiera potrebbe non creare una minaccia da solo, ma potrebbe ridurre i tempi di ricerca, automatizzare il targeting o rendere accessibili conoscenze specialistiche.

I legislatori dovranno decidere se tale assistenza sia sufficiente. Uno standard che richieda che il modello sia la causa primaria potrebbe non cogliere rischi costruiti da più tecnologie e decisioni umane.

Uno standard che consideri sufficiente qualsiasi contributo potrebbe diventare troppo ampio. Anche software comuni e informazioni pubbliche sostengono attività legittime e malevole.

È improbabile che la risposta giusta derivi da un solo numero. Una legge praticabile necessita di rimedi graduali che corrispondano a diversi livelli di prova.

I regolatori potrebbero richiedere più test, limitare specifiche capacità, restringere l’accesso, imporre un monitoraggio più rigoroso o ritardare un rilascio prima di chiedere un divieto totale.

Il quadro di Anthropic discute diverse opzioni di applicazione, tra cui multe, restrizioni ai rilasci futuri e limiti di accesso per modelli già distribuiti. Questa scala merita lo stesso scrutinio riservato all’esito catastrofico finale.

La California dimostra perché i dettagli federali contano

Le soglie riportate hanno una storia, ma il loro effetto cambia quando entrano a far parte di un sistema esclusivo di applicazione federale.

La legge californiana sull’AI di frontiera utilizza un linguaggio simile per rischi catastrofici che comportano ingenti danni finanziari o più di 50 morti o feriti gravi. I suoi requisiti si concentrano fortemente sulla trasparenza e sugli incidenti critici di sicurezza.

Un’analisi di politica pubblica statale di California SB 53 ha descritto obblighi per i principali sviluppatori, proteggendo al contempo le aziende più piccole da oneri di conformità sproporzionati.

Questo precedente spiega perché Anthropic possa definire la proposta federale un’estensione di una politica consolidata. I numeri facevano già parte di un quadro statale negoziato.

Tuttavia, copiare una definizione non significa copiare l’intero contesto normativo. Procuratori generali statali, agenzie federali, tribunali e regolatori di settore hanno poteri e incentivi istituzionali diversi.

I requisiti della California possono coesistere con l’applicazione federale, a meno che il Congresso non li sostituisca. Una legge federale che limiti chi può fermare un modello produrrebbe un equilibrio diverso.

Il dibattito sul potere degli Stati si è intensificato perché la legislazione federale sull’AI ha proceduto lentamente. Gli Stati sono intervenuti sulla sicurezza di frontiera, decisioni automatizzate, deepfake, chatbot companion e requisiti di divulgazione.

Il conseguente mosaico normativo crea reali sfide di conformità. Uno sviluppatore di frontiera non può facilmente mantenere standard di rilascio contrastanti tra gli Stati quando un unico modello serve utenti in tutto il Paese.

Un quadro nazionale potrebbe risolvere questo problema. Potrebbe anche consolidare uno standard debole e impedire agli Stati di rispondere a nuove evidenze.

Il quadro pubblico di Anthropic cerca di trovare un compromesso. Sostiene regole federali, ma afferma che il Congresso dovrebbe sostituire il diritto statale solo nelle funzioni coperte da un solido regime federale.

Quella posizione lascia indefinita la parola più difficile: forte. Sviluppatori, autorità di regolamentazione, gruppi di interesse pubblico e funzionari statali valuteranno la forza in modo diverso.

La soglia delle vittime attirerà l’attenzione perché è facilmente comprensibile. Disposizioni più tecniche potrebbero determinare l’effettiva efficacia della legge.

Tali disposizioni includono quali sviluppatori rientrano nei requisiti, cosa costituisce un modello coperto, come gli valutatori ottengono accesso, entro quanto tempo gli incidenti devono essere segnalati e cosa il Dipartimento del Commercio può richiedere.

Sono importanti anche le regole per i modelli impiegati internamente. Un’azienda può utilizzare un sistema più capace nel proprio processo di ricerca prima di offrirlo a clienti esterni.

Una legge incentrata soltanto sui rilasci pubblici potrebbe non considerare agenti interni che svolgono ricerca, gestiscono infrastrutture o accelerano lo sviluppo della prossima generazione di modelli.

I pesi dei modelli presentano un’altra complicazione. Una volta che i pesi vengono sottratti o ampiamente distribuiti, un’ordinanza giudiziaria contro lo sviluppatore originario potrebbe non contenere più la capacità.

In questo scenario, requisiti di sicurezza preventiva potrebbero contare più di un successivo divieto di distribuzione. Le regole della proposta sulla sicurezza dei modelli e sulla notifica degli incidenti meritano quindi un attento esame.

Il Congresso dovrebbe inoltre coordinare il Dipartimento del Commercio con le agenzie che detengono informazioni di intelligence sulle minacce. L’autorità esclusiva non dovrebbe diventare accesso esclusivo alle informazioni.

Un ufficio designato potrebbe ricevere prove da organismi sanitari, informatici, della difesa, dell’intelligence e delle forze dell’ordine, mantenendo al contempo la responsabilità della richiesta al tribunale.

Questa struttura preserverebbe un unico canale decisionale senza isolarlo. Resta poco chiaro se la bozza riportata preveda tale coordinamento.

Cosa osservare prima che diventi legge

Tre segnali mostreranno se la proposta si trasformerà in una supervisione applicabile o resterà una bozza di politica redatta dall’industria.

Il primo segnale è il testo legislativo pubblico. Politico ha riferito che rappresentanti di Anthropic stavano presentando privatamente una bozza riservata ai legislatori, ma una proposta non è un disegno di legge finché un membro non la presenta.

Il testo presentato rivelerebbe definizioni, soglie di applicazione, linguaggio sulla preemption, strumenti di applicazione e scadenze procedurali. Le assegnazioni alle commissioni e gli sponsor indicati mostrerebbero se la proposta abbia un percorso credibile attraverso il Congresso.

Il testo pubblico consentirebbe inoltre agli esperti di verificare l’interpretazione suggerita dal titolo. Potrebbe confermare se la soglia di catastrofe riportata disciplini ogni azione di blocco o soltanto un rimedio definito.

Se i legislatori manterranno l’alta soglia ma aggiungeranno interventi graduali al di sotto di essa, il quadro diventerà più reattivo ai rischi incerti. Se la soglia diventerà l’unica strada per l’azione preventiva, le preoccupazioni per interventi tardivi cresceranno.

Il secondo segnale è il regolamento per i valutatori. Gli attuali accordi di Anthropic forniscono prove che le revisioni integrate siano operativamente possibili, ma non stabiliscono uno standard universale.

Il Dipartimento del Commercio avrebbe bisogno di criteri per registrazione, competenza, finanziamento, accesso, conflitti, sicurezza e pubblicazione. Il processo dovrebbe spiegare come un valutatore possa contestare informazioni trattenute o omissioni controverse.

I primi rapporti pubblici dei valutatori integrati costituiranno una prova pratica. I lettori dovrebbero esaminare se tali rapporti individuano debolezze, descrivono i limiti di accesso e separano le prove dalle affermazioni dell’azienda.

Un rapporto che si limitasse a confermare la conformità rivelerebbe poco. Un rapporto che documentasse disaccordi e rischi irrisolti offrirebbe prove più solide di indipendenza.

Il terzo segnale è il trattamento dell’autorità statale. I legislatori statali hanno ripetutamente sostenuto che le norme locali colmino un vuoto lasciato dal Congresso.

Le recenti notizie sulla spinta alla regolamentazione statale mostrano perché la preemption federale rimanga politicamente delicata. Un disegno di legge definitivo deve specificare quali funzioni statali sopravvivano.

Una preemption limitata, legata ai test sui modelli frontier, potrebbe ridurre gli obblighi di conformità duplicati preservando al contempo le tutele statali per consumatori e diritti civili. Una preemption ampia potrebbe trasformare un unico standard federale in un limite massimo.

Sviluppatori, acquirenti aziendali e utenti comuni dovrebbero seguire questi dettagli perché la governance dei modelli influisce sulla disponibilità dei prodotti e sulla fiducia. Un ritardo nel rilascio può modificare le roadmap dei fornitori, mentre una supervisione debole può trasferire ai clienti rischi non misurati.

I team aziendali non dovrebbero aspettare il Congresso prima di chiedere ai fornitori informazioni sui quadri di sicurezza, sulla segnalazione degli incidenti, sull’accesso dei valutatori e sugli avvisi relativi alle modifiche dei modelli. Queste domande aiutano gli acquirenti a valutare quante prove sostengano le garanzie di un fornitore.

Anche i knowledge worker necessitano di un modo affidabile per conservare documenti politici, risultati dei valutatori e impegni dei fornitori man mano che cambiano. Una base di conoscenza AI ricercabile può mantenere questi documenti collegati alle decisioni di approvvigionamento e di rischio.

Il disegno di legge di Anthropic sulla sicurezza dell’AI ha aperto un dibattito utile, ma i due numeri principali non lo risolvono. La vera prova è se i legislatori costruiranno un sistema in grado di agire prima che le prove catastrofiche diventino esperienza catastrofica.

Osservate il testo presentato, standard applicabili per i valutatori e un confine chiaro tra autorità federale e statale. Questi tre sviluppi mostreranno se la proposta offra una prevenzione credibile o soprattutto uno stretto percorso legale per emergenze già imminenti.