Il disegno di legge del Senato USA sui rischi dell'AI mette in guardia i produttori di modelli
I negoziatori del Senato USA stanno valutando un obbligo senza precedenti che richiederebbe ai principali sviluppatori di AI di ridurre i rischi catastrofici noti prima di rilasciare modelli avanzati. L'emergente disegno di legge del Senato USA sui rischi dell'AI prevede inoltre un intervento federale quando le autorità ritengono un modello troppo pericoloso per essere lanciato.
La proposta resta in fase di negoziazione, senza un testo di legge pubblico né una struttura di applicazione definitiva. Tuttavia, la sua architettura riportata segnala un cambiamento significativo. Washington andrebbe oltre i test volontari e chiederebbe agli sviluppatori di assumersi la responsabilità legale per pericoli prevedibili riguardanti minacce biologiche, nucleari e di altra natura estrema.
Questo cambiamento pone OpenAI, Anthropic e Google al centro di un difficile compromesso. Gli sviluppatori vogliono norme nazionali che sostituiscano un mosaico crescente di regole statali. Tuttavia, l'uniformità federale diventa molto più rilevante quando include un dovere di diligenza e un possibile potere del governo sui rilasci dei modelli.
La proposta trasferisce la responsabilità agli sviluppatori di AI
Il cambiamento centrale è un proposto obbligo legale di affrontare rischi catastrofici noti, non un'altra promessa volontaria sulla sicurezza.
Secondo le iniziali negoziazioni riportate, due collaboratori del Senato hanno descritto un proposto “duty of care” per gli sviluppatori di AI avanzata. Un dovere di diligenza è un obbligo legale di adottare misure ragionevoli contro danni prevedibili.
Questa formulazione conta perché modifica la questione regolatoria fondamentale. Le autorità non chiederebbero più soltanto se un'azienda abbia seguito il proprio quadro di sicurezza pubblicato. Potrebbero chiedere se l'azienda abbia progettato, testato e rilasciato il proprio prodotto prestando adeguata attenzione ai principali rischi noti.
Secondo quanto riportato, la proposta si concentra sui modelli con le capacità più avanzate. Non applicherebbe automaticamente gli stessi obblighi a ogni motore di raccomandazione, assistente aziendale o piccolo progetto open source.
La soglia esatta resta irrisolta. I negoziatori devono ancora definire quali capacità, metodi di addestramento, condizioni di distribuzione o indicatori di rischio farebbero rientrare un modello nella legge.
Questo confine determinerà se la legislazione resterà strettamente focalizzata. Uno standard basato sulle capacità può colpire sistemi in grado di assistere attività pericolose. Una definizione ampia potrebbe invece includere molti prodotti che non pongono alcuna minaccia catastrofica plausibile.
Gli esempi riportati includono l'assistenza dell'AI nella progettazione di armi biologiche o nucleari. Questi casi differiscono dai familiari danni ai consumatori, come pubblicità ingannevole, selezioni distorte o risposte inaccurate dei chatbot.
Riguardano eventi rari ma con conseguenze potenzialmente enormi. Richiedono inoltre competenze che i normali regolatori di prodotto potrebbero non possedere, tra cui biosicurezza, sicurezza nucleare, cybersecurity e valutazione avanzata dei modelli.
L'emergente disegno di legge del Senato USA sui rischi dell'AI coinvolgerebbe, secondo quanto riportato, esperti governativi nella verifica e nei test dei sistemi interessati. La senatrice Amy Klobuchar ha dichiarato di perseguire una supervisione bipartisan sui maggiori rischi posti dai modelli di AI.
Klobuchar ha inoltre descritto un requisito per cui gli sviluppatori lavorerebbero con esperti governativi su verifica e test. La sua dichiarazione indica che i legislatori stanno considerando più di semplice documentazione presentata dopo che un prodotto raggiunge gli utenti.
Separatamente, il senatore Ted Cruz ha dichiarato di lavorare con Klobuchar e con il leader della maggioranza al Senato John Thune sulle minacce biologiche e nucleari. Anche la senatrice Maria Cantwell, principale esponente democratica della Commissione Commercio, ha partecipato alle discussioni più ampie.
La Commissione Commercio del Senato ha giurisdizione sul Dipartimento del Commercio. Quel dipartimento ospita ricercatori federali sulla sicurezza dell'AI, rendendolo un probabile centro per le valutazioni tecniche se il Congresso istituirà un simile sistema.
Tuttavia, la proposta non è un disegno di legge completato. I negoziatori non hanno risolto pubblicamente l'esatta autorità del governo, la soglia dei modelli interessati, i rimedi disponibili o lo standard che i tribunali applicherebbero.
Questi dettagli mancanti impediscono conclusioni definitive sui costi di conformità o sui ritardi nei rilasci. Spiegano anche perché questa storia sia importante ora, prima che il linguaggio legislativo si irrigidisca attorno a un unico modello di applicazione.
Perché il disegno di legge del Senato USA sui rischi dell'AI cambia il dibattito sui rilasci
La proposta considera il lancio di un modello di frontiera una decisione di sicurezza che può richiedere una revisione esterna, non soltanto una decisione privata sul prodotto.
I negoziatori starebbero valutando l'autorità per il governo federale di bloccare determinati rilasci ritenuti non sicuri. Uno sviluppatore potrebbe contestare tale decisione in un tribunale federale, assegnando ai giudici un ruolo nelle controversie sul rischio tecnico.
Questa struttura tenta di rispondere a due preoccupazioni contrapposte. I sostenitori della sicurezza vogliono un modo credibile per fermare un rilascio eccezionalmente pericoloso. Gli sviluppatori necessitano di protezione contro un'agenzia che prenda una decisione arbitraria o non supportata.
Il controllo giudiziario offre una possibile garanzia, ma non risolve ogni problema. I tribunali necessitano comunque di standard normativi, di un fascicolo probatorio e dell'accesso a competenze per giudicare affermazioni altamente tecniche.
Uno sviluppatore di modelli potrebbe sostenere che le sue misure di salvaguardia riducano una capacità pericolosa al di sotto di una soglia accettabile. Il governo potrebbe rispondere che tali controlli falliscono contro utenti determinati, pesi rubati o distribuzioni modificate.
I giudici si troverebbero quindi ad affrontare prove riguardanti valutazioni, modelli di minaccia, restrizioni di accesso, cybersecurity e previsioni incerte. Alcune informazioni potrebbero coinvolgere segreti commerciali o questioni di sicurezza nazionale.
L'onere della prova sarà quindi importante quanto l'autorità principale del governo. Il Congresso deve decidere chi debba dimostrare sicurezza, pericolo o errore procedurale durante una controversia sul rilascio.
Anche i tempi presentano un'altra sfida. Un procedimento giudiziario che inizi dopo che pesi di modello senza restrizioni si sono diffusi online non può ripristinare un controllo significativo. Un processo che inizi troppo presto potrebbe ritardare sistemi utili sulla base di valutazioni immature.
Ciò crea un problema di progettazione centrale per il disegno di legge del Senato USA sui rischi dell'AI. L'intervento deve avvenire prima di un rilascio irreversibile, mentre le prove restano sufficientemente solide da giustificare l'azione del governo.
La proposta solleva anche interrogativi sugli aggiornamenti dei modelli. Gli sviluppatori migliorano ormai i servizi in modo continuo, talvolta modificando strumenti, misure di salvaguardia, livelli di accesso o versioni del modello sottostante senza lanciare un prodotto del tutto separato.
La legislazione deve distinguere gli adeguamenti di routine dai cambiamenti che richiedono una nuova revisione. Altrimenti, i regolatori potrebbero ignorare un aumento significativo delle capacità o ispezionare ripetutamente revisioni minori del prodotto.
OpenAI, Anthropic e Google conducono già varie forme di test interni. Tuttavia, i quadri aziendali differiscono per terminologia, soglie, pratiche di divulgazione e conseguenze associate a una valutazione fallita.
Un obbligo federale potrebbe trasformare pratiche selezionate in un minimo comune. Potrebbe inoltre costringere gli sviluppatori a documentare perché hanno rilasciato un modello dopo aver individuato un pericolo grave ma incerto.
Questa documentazione sarebbe significativa per i clienti aziendali. Gli acquirenti spesso ricevono model card, documentazione di sicurezza e garanzie contrattuali, ma hanno una visibilità limitata sulle più sensibili valutazioni pre-rilascio.
I test governativi non garantirebbero che un modello sia sicuro. Potrebbero fornire un'ulteriore fonte di controllo e creare una responsabilità più chiara quando le aziende conoscono un rischio grave.
Cantwell ha sostenuto che le agenzie federali e i laboratori nazionali dovrebbero guidare i test dei sistemi di frontiera. La sua posizione sui test sottolinea competenze in cybersecurity, biodefense e sicurezza nucleare.
Questo approccio differisce dall'assegnare ogni questione a un unico regolatore di uso generale. Laboratori specializzati potrebbero testare percorsi di minaccia concreti, mentre un'agenzia di coordinamento gestirebbe procedura e applicazione.
La parte difficile consiste nel trasformare i risultati della ricerca in una decisione difendibile sul rilascio. Le valutazioni possono individuare capacità in condizioni controllate, ma l'abuso nel mondo reale dipende dall'accesso, dalle competenze dell'utente, dalle misure di salvaguardia e dal contesto di distribuzione.
Un modello capace dietro controlli di accesso monitorati presenta una minaccia diversa rispetto a pesi scaricabili. La legge dovrà affrontare questa distinzione senza creare una facile via per aggirare la supervisione.
Norme federali e preminenza federale costituiscono il principale compromesso
Il compromesso politico della proposta abbina doveri nazionali di sicurezza a limiti sull'applicazione statale, contrapponendo l'uniformità all'autonomia regolatoria locale.
La misura riportata impedirebbe agli Stati di applicare alcune leggi relative ai rischi coperti dal quadro federale. Questa disposizione potrebbe contribuire ad attirare il sostegno dell'industria per la supervisione nazionale.
Gli sviluppatori affrontano una complessità crescente poiché gli Stati regolano modelli di frontiera, decisioni automatizzate, deepfake, privacy e sicurezza dei chatbot attraverso diverse strutture giuridiche. Norme nazionali potrebbero ridurre definizioni e obblighi di rendicontazione confliggenti.
Tuttavia, la preminenza federale modifica la posta in gioco per Stati e consumatori. Una legge federale che sostituisce protezioni più forti può indebolire la supervisione anche quando crea un nuovo requisito nazionale.
Il Senato ha già incontrato una forte resistenza a un'ampia preminenza federale sull'AI. Nel 2025, i senatori hanno votato 99 a 1 per rimuovere da una misura di bilancio una proposta restrizione di dieci anni sulla regolamentazione statale dell'AI.
Quel voto sulla moratoria ha mostrato che i legislatori possono sostenere una politica federale sull'AI pur respingendo un blocco generalizzato dell'azione statale. Gli attuali negoziati appaiono più circoscritti perché riguardano rischi specifici dei modelli di frontiera.
Anche una disposizione circoscritta richiederà una redazione accurata. Il Congresso deve definire se gli Stati perdano autorità solo sui doveri relativi ai rischi catastrofici o su ogni legge che riguardi un modello coperto.
La differenza è sostanziale. Una norma statale sulle valutazioni dei modelli di frontiera è vicina al proposto regime federale. Una legge su privacy, lavoro, tutela dei consumatori o diritti civili affronta una diversa categoria di danno.
La preminenza federale potrebbe influire anche sui tempi dell'applicazione. Gli Stati agiscono spesso mentre il Congresso discute la legislazione nazionale, specialmente quando i residenti segnalano danni immediati o le nuove tecnologie rivelano una lacuna giuridica.
I sostenitori dell'uniformità possono sostenere che la supervisione dei rischi catastrofici richieda un unico sistema nazionale. Le minacce biologiche e nucleari attraversano i confini statali, mentre i laboratori nazionali offrono competenze che gli Stati non possono facilmente riprodurre.
I critici possono rispondere che gli standard federali talvolta ristagnano. La sperimentazione statale può rivelare debolezze, testare approcci di applicazione e spingere le autorità nazionali ad aggiornare norme obsolete.
La California fornisce il più chiaro esempio recente. Il governatore Gavin Newsom ha posto il veto a SB 1047 nel 2024, avvertendo che le sue soglie incentrate sui modelli potevano regolamentare usi di base senza considerare il contesto di distribuzione.
Il suo messaggio di veto ha criticato un quadro fortemente legato alla scala computazionale. Ha inoltre riconosciuto la necessità di una protezione efficace contro gravi minacce dell'AI.
La California ha poi promulgato una legge rivista sull'AI di frontiera con obblighi di divulgazione dei protocolli di sicurezza e soglie per i sistemi principali. Questa storia mostra come le proposte statali possano evolversi dopo critiche tecniche e politiche.
Un accordo federale potrebbe trarre insegnamento da quelle lezioni. Potrebbe concentrarsi su un piccolo gruppo di modelli altamente capaci, tenendo conto al contempo dei controlli di accesso, degli ambienti di distribuzione e delle traiettorie di minaccia documentate.
Il più ampio quadro politico di Cruz ha favorito una regolamentazione più leggera e flessibilità nei test. Il suo quadro politico sull'IA ha proposto sandbox regolatorie e misure di protezione contro rischi per salute, sicurezza e frodi.
Le osservazioni di Klobuchar sottolineano la cooperazione obbligatoria con gli esperti del governo. Combinare queste posizioni richiederà probabilmente doveri rigorosi per i rischi estremi, insieme a spazio per il normale sviluppo dell'IA.
La contesa principale, quindi, non è semplicemente tra governo e industria. È uno scambio tra responsabilità federale e rimozione di controlli statali sovrapposti.
Gli sviluppatori ottengono prevedibilità solo se accettano obblighi nazionali sostanziali. Gli Stati rinunciano all'autorità solo se il sostituto federale è specifico, applicabile e in grado di adattarsi.
Questo scambio determinerà le prospettive della proposta di legge. Un obbligo debole abbinato a un'ampia preemption attirerebbe l'opposizione di funzionari statali e sostenitori della sicurezza.
Un obbligo forte senza confini chiari potrebbe far perdere il sostegno dei legislatori preoccupati per l'innovazione o la cattura regolatoria. I negoziatori hanno bisogno che entrambi gli elementi appaiano proporzionati.
Le domande più difficili restano senza risposta
Un dovere di diligenza funziona solo quando i legislatori definiscono i rischi noti, la mitigazione ragionevole e le prove necessarie per fermare un rilascio.
“I principali rischi noti” sembra una formulazione precisa, ma ogni parola crea incertezza giuridica. Un rischio può essere documentato senza essere misurabile, e una capacità può essere preoccupante senza dimostrare un probabile danno catastrofico.
I legislatori devono decidere quale conoscenza conti. Lo standard potrebbe considerare ricerche pubblicate, test interni alle aziende, intelligence governativa, incidenti o avvertimenti di dipendenti qualificati.
Unicamente basarsi su documenti pubblici escluderebbe informazioni classificate sulle minacce e valutazioni proprietarie. Unicamente basarsi su documenti controllati dal governo potrebbe rendere difficile agli sviluppatori contestare una decisione.
Il significato di mitigazione è altrettanto importante. Un'azienda potrebbe aggiungere addestramento al rifiuto, monitorare usi sospetti, limitare gli strumenti, ritardare la pubblicazione dei pesi aperti o restringere l'accesso ai clienti verificati.
Ogni controllo affronta un diverso percorso di fallimento. Nessuno offre una protezione completa contro credenziali rubate, estrazione del modello, fine-tuning, attacchi tramite prompt o infrastrutture compromesse.
La legislazione deve inoltre distinguere tra capacità e intenzione. Un modello per scopi generali può assistere la ricerca biologica legittima fornendo al contempo informazioni che diventano pericolose all'interno di un flusso di lavoro malevolo.
Un semplice blocco per argomento non risolverà il problema. I valutatori devono testare se un sistema riduce in modo significativo le competenze, il tempo o le risorse necessari per causare danni gravi.
Anche i falsi positivi comportano conseguenze. Sovrastimare una capacità pericolosa potrebbe incoraggiare usi impropri, sprecare risorse governative e dare agli sviluppatori affermati un vantaggio rispetto ai concorrenti più piccoli.
Un regime di conformità può favorire le grandi aziende quando test estesi, revisione legale e infrastrutture sicure diventano prerequisiti. OpenAI, Anthropic e Google possono assorbire requisiti che laboratori più piccoli non possono sostenere.
Una copertura limitata ai modelli più capaci riduce questa pressione, ma introduce effetti soglia. Uno sviluppatore che si avvicina alla soglia potrebbe modificare l'addestramento, ritardare la pubblicazione o dividere un sistema per evitare la regolamentazione.
Le soglie computazionali fisse sono relativamente facili da amministrare, ma invecchiano rapidamente. Le soglie basate sulle capacità si adattano meglio, ma richiedono valutazioni affidabili e un maggiore giudizio regolatorio.
L'Unione europea affronta già questioni simili. Le sue regole impongono obblighi aggiuntivi ai modelli per scopi generali classificati come portatori di rischio sistemico, incluse valutazioni, segnalazione degli incidenti, cybersecurity e mitigazione dei rischi.
Gli obblighi relativi al rischio sistemico della Commissione europea offrono al Congresso un confronto operativo. Mostrano anche quante linee guida diventino necessarie dopo che i legislatori approvano un ampio quadro normativo.
La proposta americana differisce sotto un aspetto potenzialmente importante. Secondo quanto riportato, i negoziati includono una possibile procedura per l'azione governativa contro il rilascio di un modello specifico, seguita da un ricorso presso un tribunale federale.
Ciò potrebbe produrre un confronto più diretto rispetto a un regime di conformità costruito principalmente attorno a documentazione e sanzioni amministrative. Rende inoltre essenziale il giusto processo.
Un'altra incertezza riguarda la capacità regolatoria. Gli esperti governativi devono tenere il passo con sistemi proprietari, metodi di minaccia in evoluzione e un settore che offre compensi più elevati per il raro talento tecnico.
Le agenzie avranno bisogno di accesso a risorse di calcolo sicure e di procedure per la gestione dei pesi dei modelli. Avranno inoltre bisogno dell'autorità per proteggere i segreti aziendali senza nascondere al pubblico ogni decisione regolatoria.
La cattura regolatoria presenta un ulteriore rischio. Se solo i maggiori sviluppatori possiedono gli strumenti e il personale necessari per definire i metodi di valutazione, gli standard federali potrebbero riflettere le loro pratiche preferite.
Ricercatori indipendenti, laboratori nazionali, gruppi della società civile ed esperti di settore necessitano di ruoli sostanziali. La loro partecipazione può mettere in discussione le ipotesi condivise sia dai funzionari governativi sia dalle aziende produttrici di modelli.
Anche le aziende potrebbero non essere d'accordo tra loro. Anthropic ha spesso sottolineato le politiche di sicurezza dei modelli frontier, mentre altri sviluppatori hanno avvertito che regole mal progettate possono ostacolare la concorrenza o lo sviluppo aperto.
Queste differenze non dovrebbero essere enfatizzate prima della pubblicazione del testo della proposta di legge. Non si dovrebbe dedurre la posizione di alcuna azienda su questo pacchetto specifico soltanto dalla sua posizione su proposte precedenti.
Il Congresso necessita inoltre di una struttura per la segnalazione degli incidenti. I test pre-rilascio non possono prevedere ogni comportamento che emerge attraverso nuovi strumenti, popolazioni di utenti più ampie o sperimentazioni avversarie.
Un dovere sostanziale dovrebbe continuare dopo la distribuzione. Gli sviluppatori necessitano di processi per rilevare incidenti gravi, rivalutare le protezioni, informare le autorità e limitare l'accesso quando cambiano le prove disponibili.
La legislazione dovrebbe evitare di trattare la certificazione come un'approvazione permanente. Un modello considerato gestibile il giorno del rilascio può diventare più rischioso dopo nuove integrazioni o scoperte esterne.
Allo stesso tempo, i regolatori dovrebbero evitare di trasformare ogni output inatteso in un caso di rischio catastrofico. La legittimità della legge dipende dal mantenere i suoi interventi straordinari legati a minacce straordinarie.
Queste scelte irrisolte non sono note tecniche a piè di pagina. Determinano se la proposta diventerà una legge sulla sicurezza mirata, una conformità simbolica o un ampio sistema di licenze.
Tre segnali mostreranno se la proposta può avanzare
Il prossimo banco di prova sarà verificare se i negoziatori trasformeranno un concetto incisivo in un testo legislativo circoscritto, capace di resistere a un esame tecnico, politico e giudiziario.
Il primo segnale è la pubblicazione dell'effettivo testo della proposta di legge. I lettori dovrebbero esaminare come il testo definisce i modelli coperti, i rischi catastrofici, la conoscenza degli sviluppatori, la mitigazione ragionevole e l'autorità del governo.
Una soglia chiara basata sulle capacità o sui rischi rafforzerebbe l'idea che i negoziatori cerchino una supervisione mirata sui modelli frontier. Una copertura vaga aumenterebbe le preoccupazioni riguardo ad applicazione imprevedibile e oneri sulle applicazioni ordinarie.
Il secondo segnale è la clausola finale di preemption. La sua portata rivelerà se l'uniformità federale funge da complemento limitato ai doveri relativi ai rischi catastrofici o da restrizione più ampia delle leggi statali sull'IA.
Un linguaggio che preservi le tutele relative a privacy, diritti civili, consumatori, lavoro ed elezioni sosterrebbe l'interpretazione più circoscritta. Una soppressione generalizzata riaprirebbe lo scontro politico che ha sconfitto la precedente moratoria.
Il terzo segnale è il processo di applicazione. Il Congresso deve identificare l'agenzia responsabile, il ruolo degli esperti tecnici, lo standard probatorio e il percorso verso un tempestivo riesame giudiziario.
Un processo con conclusioni scritte, accesso sicuro alle prove, scadenze e diritti di appello renderebbe più credibile l'intervento sul rilascio. Una discrezionalità esecutiva non specificata indebolirebbe il sostegno e inviterebbe a immediate contestazioni legali.
Il calendario crea una pressione propria. Reuters ha riferito che la Camera aveva solo una settimana di sessione programmata prima delle elezioni di medio termine del 3 novembre, mentre il Senato ne prevedeva tre.
Questa tempistica rende difficile l'approvazione anche se i negoziatori raggiungono un accordo. L'esame in commissione, il tempo in aula, l'approvazione della Camera e la conciliazione di testi diversi richiedono tutti coordinamento politico.
Il mancato rapido passaggio di una legge non cancellerebbe il cambiamento di fondo. I negoziati bipartisan su un dovere giuridico e sull'intervento nei rilasci dei modelli stabiliscono un punto di riferimento per il prossimo Congresso.
Il dibattito offre inoltre agli sviluppatori un motivo immediato per migliorare la documentazione. Le aziende che individuano un rischio significativo necessitano di documenti che mostrino come lo hanno testato, come hanno scelto le mitigazioni e come hanno monitorato la distribuzione.
Gli acquirenti aziendali dovrebbero osservare queste pratiche perché la regolamentazione può influenzare disponibilità dei modelli, obblighi contrattuali, prove di audit e calendari di rilascio. I team dipendenti da un unico fornitore necessitano di piani di emergenza per modelli ritardati o soggetti a restrizioni.
Gli sviluppatori che realizzano prodotti su modelli esterni dovrebbero inoltre seguire se gli obblighi si trasferiscono a valle. Un'azienda di modelli foundation potrebbe modificare i controlli di accesso, i termini di utilizzo accettabile, i requisiti di registrazione o le autorizzazioni degli strumenti per soddisfare i doveri federali.
I lavoratori della conoscenza affrontano una conseguenza più silenziosa. Le organizzazioni avranno bisogno di registri affidabili delle versioni dei modelli, delle politiche, delle valutazioni e delle decisioni interne man mano che le regole cambiano.
Una base di conoscenza sull'IA ricercabile può aiutare i team a preservare quel contesto. Tuttavia, la conservazione dei registri non può sostituire una valutazione tecnica o una consulenza legale.
Il disegno di legge del Senato degli Stati Uniti sui rischi dell'IA resta una proposta negoziata, non una restrizione promulgata. La sua importanza risiede nella responsabilità che attribuisce prima che i legislatori definiscano ogni dettaglio procedurale.
Washington sta valutando se i produttori di modelli frontier debbano assumersi un obbligo applicabile di ridurre pericoli catastrofici prevedibili. Sta inoltre valutando quando il governo possa interrompere una decisione privata di rilascio.
Osservate il testo della proposta di legge, il confine della preemption e il processo di riesame giudiziario. Insieme, questi elementi mostreranno se il Congresso ha progettato una supervisione mirata o ha semplicemente aperto un altro fronte irrisolto nella politica sull'IA.
