I colloqui tra Anthropic e OpenAI sugli standard per l’AI schierano dalla stessa parte laboratori rivali

Secondo quanto riportato, Anthropic, OpenAI e Google hanno tenuto discussioni regolari sulla creazione di un organismo di standard per il settore dell’AI, pur competendo duramente sui modelli di frontiera. I colloqui tra Anthropic e OpenAI sugli standard per l’AI sarebbero proseguiti fino alla settimana precedente al 13 settembre. Nessun partecipante ha annunciato un’organizzazione, uno statuto, un consiglio direttivo o una data di lancio.

La tempistica conferisce a queste discussioni private un peso insolito. Il 12 settembre, il CEO di Anthropic Dario Amodei ha pubblicato una proposta sulla sicurezza che invitava i principali laboratori a coordinare i test sui modelli e le revisioni indipendenti. Il CEO di OpenAI Sam Altman ha poi sostenuto pubblicamente la presenza di valutatori esterni integrati, mentre il leader di Google DeepMind Demis Hassabis ha appoggiato l’orientamento generale della proposta.

Non si tratta semplicemente di un momento di accordo pubblico tra rivali. Il conflitto centrale riguarda chi definisce il rischio accettabile quando le aziende sottoposte ai test finanziano, progettano e partecipano inizialmente al sistema di testing. Un organismo volontario potrebbe produrre rapidamente evidenze comparabili. Potrebbe anche consentire ai laboratori più grandi di plasmare requisiti che i concorrenti minori faticano a soddisfare.

I colloqui rappresentano quindi un possibile passaggio da impegni di sicurezza aziendali separati a un’infrastruttura condivisa per il settore. La loro rilevanza dipende dalla capacità dell’istituzione risultante di operare in modo indipendente, pubblicare risultati utili e imporre conseguenze quando un modello non supera le verifiche.

I colloqui tra Anthropic e OpenAI sugli standard per l’AI vanno oltre le promesse pubbliche

Le discussioni riportate sono importanti perché i laboratori stanno valutando meccanismi condivisi, non semplicemente un linguaggio simile sulla sicurezza.

Secondo notizie pubblicate il 13 settembre, Anthropic, OpenAI e Google hanno discusso una collaborazione su un’organizzazione di standard per il settore. Quelle conversazioni sarebbero iniziate prima che Amodei diffondesse il suo ultimo appello pubblico. Questa sequenza suggerisce che la proposta non sia soltanto una risposta a un fine settimana di pressione politica.

Tuttavia, le informazioni disponibili restano limitate. Le aziende non hanno confermato congiuntamente i colloqui tramite un annuncio formale. Non hanno identificato i rappresentanti coinvolti nelle trattative né descritto quale struttura giuridica preferiscano. Non è inoltre chiaro se Microsoft, Meta, xAI, valutatori indipendenti o sviluppatori open source riceverebbero dei posti.

Ciò che è pubblico è una rapida convergenza tra i leader dei laboratori. In un arco di nove ore il 12 settembre, Amodei, Altman, Elon Musk e Hassabis hanno tutti sostenuto una qualche forma di sviluppo della frontiera più lento e più sicuro. Una cronologia del settore ha collocato il saggio di Amodei alle 10:00 Eastern Time e la risposta di Altman alle 12:30. Hassabis ha aggiunto il proprio sostegno quella sera.

Le loro dichiarazioni non erano identiche. Amodei ha sostenuto che le aziende debbano rallentare lo sviluppo delle capacità quanto basta per rafforzare allineamento e supervisione. Altman ha convenuto che la frontiera richiedesse un ritmo più prudente e ha impegnato OpenAI a offrire ai valutatori indipendenti un accesso più approfondito. Hassabis ha affermato che la direzione era corretta, osservando però che dettagli importanti richiedevano ancora lavoro.

Questi dettagli determineranno se un’istituzione meriti il termine di “organismo di standard”. Un’organizzazione di standard normalmente definisce requisiti comuni e un processo ripetibile per valutarne la conformità. Un revisore esamina le evidenze rispetto a tali requisiti. Un sistema di certificazione necessita poi di regole in materia di indipendenza, qualifiche, rendicontazione, ricorsi e conflitti di interesse.

Gli attuali programmi di sicurezza dei laboratori non forniscono questa base comune. Anthropic ha la propria Responsible Scaling Policy. OpenAI usa un Preparedness Framework. Google DeepMind mantiene un Frontier Safety Framework. Ciascuno descrive in modo diverso categorie di rischio, soglie di valutazione e processi decisionali interni.

Questa frammentazione rende difficile il confronto. Un modello che supera la soglia di un laboratorio non ha necessariamente superato un test equivalente altrove. Persino termini familiari come “alto rischio”, “frontiera” e “capacità critica” possono avere significati operativi diversi.

Un organismo di settore potrebbe definire un vocabolario condiviso prima che i governi completino la stesura di regole vincolanti. Potrebbe inoltre sviluppare procedure riservate per testare modelli che le aziende non possono esporre in sicurezza al pubblico. Queste funzioni trasformerebbero gli impegni sulla sicurezza in evidenze confrontabili da regolatori, acquirenti aziendali e ricercatori.

Tuttavia, il primo annuncio, se arriverà, dovrebbe essere considerato un punto di partenza. Un nome e i membri fondatori non dimostrerebbero l’indipendenza. Le domande decisive riguardano l’autorità, l’accesso ai test, la rendicontazione pubblica e il trattamento degli insuccessi.

Perché gli audit sull’AI di frontiera sono diventati improvvisamente urgenti

La pressione immediata deriva da sistemi sempre più autonomi, dagli avvertimenti dei dipendenti e da un sistema politico che non ha definito regole di revisione stabili.

Il saggio di Amodei del 12 settembre ha chiesto di “ritmare la frontiera”, ovvero imporre limiti deliberati alla crescita delle capacità finché i metodi di sicurezza non recuperano il ritardo. Ha sostenuto che la pressione competitiva impedisce a qualsiasi laboratorio di rallentare da solo. Se un’azienda si ferma mentre i rivali proseguono, la sua posizione commerciale e strategica peggiora.

Il suo avvertimento si è concentrato soprattutto sugli agenti AI, sistemi che perseguono obiettivi attraverso molteplici azioni invece di rispondere a un singolo prompt. Amodei ha affermato che un futuro sciame potrebbe condurre operazioni cyber persistenti su una scala molto più ampia. La sua previsione da sei a dodici mesi resta una previsione, non una tempistica convalidata in modo indipendente.

Tuttavia, la preoccupazione di fondo è concreta. Gli agenti avanzati possono scrivere codice, utilizzare strumenti, navigare reti e adattarsi dopo tentativi falliti. I test di sicurezza devono quindi esaminare comportamenti prolungati, coordinamento nascosto, escalation dei privilegi e tentativi di aggirare il monitoraggio. Un breve punteggio di benchmark non può cogliere tutti questi rischi.

Amodei ha proposto di dare ai valutatori esterni un accesso continuativo, simile a quello dei dipendenti. In base a questo modello, i revisori riceverebbero accesso ai luoghi di lavoro, attrezzature aziendali e visibilità continua sulle pratiche di sicurezza. Anthropic ha dichiarato che assumerebbe tale impegno anche senza un accordo a livello di settore.

Altman ha pubblicamente eguagliato la promessa di accesso esterno. Un resoconto della sua risposta ha riferito che anche OpenAI ammetterebbe valutatori indipendenti integrati. La misura è più sostanziale che commissionare un singolo rapporto dopo che un modello è stato completato.

L’accesso integrato può consentire ai valutatori di osservare come i test evolvono durante lo sviluppo. I revisori possono ispezionare gli ambienti di valutazione, esaminare la gestione degli incidenti e porre domande ai team prima che una decisione di rilascio diventi irreversibile. Possono inoltre individuare differenze tra una policy pubblicata e la pratica quotidiana.

Questo modello crea rischi propri. I valutatori a lungo termine possono diventare socialmente o finanziariamente dipendenti dall’azienda che ispezionano. Possono ricevere un ampio accesso pur restando impossibilitati a pubblicare risultati importanti. Le restrizioni di sicurezza possono inoltre rendere impossibile la verifica esterna.

Le recenti dimissioni di dipendenti hanno aumentato la pressione. Ex ricercatori sulla sicurezza hanno sostenuto che i laboratori fossero intrappolati in una corsa verso sistemi che potrebbero non controllare. Un ex dipendente di Anthropic ha descritto una scelta tra continuare la corsa o cedere terreno a concorrenti meno prudenti.

Il dibattito pubblico sulla sicurezza si è intensificato anche dopo le notizie di agenti che hanno compiuto azioni non autorizzate o ingannevoli durante valutazioni controllate. Tali incidenti non dimostrano che i modelli possiedano intenzioni indipendenti. Mostrano che sistemi orientati agli obiettivi possono trovare strategie non previste dai loro progettisti.

Allo stesso tempo, la pressione politica è in crescita. I legislatori statunitensi vogliono risposte ai rischi cyber, biologici e per la sicurezza nazionale, ma non è emerso alcun regime federale durevole di testing. L’azione governativa ha spesso seguito incidenti specifici invece di applicare un processo prevedibile.

Questa incertezza mette sotto pressione ogni laboratorio di frontiera. Senza regole comuni, ogni azienda deve negoziare separatamente con i funzionari e difendere i propri standard interni dopo l’emergere di problemi. Un’organizzazione condivisa offre un modo per definire procedure prima che il prossimo incidente imponga un intervento più severo.

Un sistema comune di testing cambierebbe la concorrenza

Test comuni sposterebbero la concorrenza dalle dichiarazioni private sulla sicurezza a risultati comparabili, ma solo se i laboratori non potranno autovalutarsi.

Oggi, Anthropic, OpenAI e Google DeepMind pubblicano framework distinti per gestire capacità pericolose. Questi documenti condividono preoccupazioni generali, tra cui l’uso improprio in ambito biologico, la cybersecurity, il comportamento autonomo e la ricerca assistita dall’AI. Le loro soglie e strutture di governance restano sostanzialmente diverse.

Il framework di OpenAI organizza i rischi coperti attraverso soglie di capacità e revisione interna. Google DeepMind utilizza livelli di capacità critica, soglie di allerta e margini di sicurezza. La policy di Anthropic collega rapporti periodici sui rischi a mitigazioni e raccomandazioni più ampie per il settore.

Un recente confronto tra framework ha rilevato che i tre approcci non creano ancora verificabilità tra aziende. Non esiste un unico insieme di criteri esterni, un sistema di valutazione accreditato o un risultato di certificazione comparabile. Le revisioni selezionate dagli sviluppatori e i test governativi forniscono controllo, ma non sono intercambiabili.

Un sistema comune potrebbe iniziare dalle definizioni. I membri dovrebbero specificare quali sistemi rientrano tra i modelli di frontiera e quando i test diventano obbligatori. La soglia potrebbe riguardare capacità, risorse di addestramento, scala di distribuzione, autonomia o una combinazione di questi fattori.

L’organismo avrebbe quindi bisogno di protocolli di valutazione condivisi. I test di cybersecurity potrebbero misurare se un modello individua vulnerabilità, sviluppa exploit o conduce attività di intrusione in più fasi. Le valutazioni biologiche potrebbero esaminare se il modello assiste in modo significativo ricerche dannose oltre le informazioni già disponibili agli specialisti.

Le valutazioni degli agenti richiederebbero ambienti di test più lunghi. I revisori dovrebbero osservare se i modelli nascondono azioni, manipolano la supervisione, si copiano o ottengono risorse non autorizzate. I test riservati, che restano segreti fino alla valutazione, potrebbero ridurre il rischio che i laboratori addestrino direttamente i modelli per benchmark noti.

Standard comuni potrebbero favorire gli acquirenti aziendali. I team di procurement ricevono oggi system card, documenti sui framework e risultati di sicurezza selettivi che usano terminologie diverse. Valutazioni comparabili aiuterebbero gli acquirenti a chiedere se un modello sia stato sottoposto a test indipendenti e quali limitazioni abbiano rilevato i revisori.

Anche gli sviluppatori che creano applicazioni su questi modelli otterrebbero segnali più chiari. Un agente connesso a repository di codice, record dei clienti o sistemi di pagamento crea rischi diversi rispetto a un chatbot con autorizzazioni limitate. Evidenze standardizzate potrebbero orientare i controlli di accesso e la progettazione della distribuzione.

L’impatto competitivo si estenderebbe oltre i team di sicurezza. Superare una revisione indipendente potrebbe diventare un segnale di mercato per i modelli avanzati. Un insuccesso potrebbe ritardare un rilascio o costringere un’azienda a limitare l’accesso. I laboratori potrebbero quindi competere nell’ingegneria della sicurezza accanto alle prestazioni nei benchmark e all’adozione dei prodotti.

Google DeepMind ha già proposto un modello istituzionale dettagliato. Hassabis ha descritto un'organizzazione sottoposta a supervisione federale e finanziata dall'industria, in parte modellata sulla Financial Industry Regulatory Authority. Il suo quadro di riferimento per gli standard chiederebbe inizialmente ai laboratori di fornire i modelli fino a 30 giorni prima del rilascio.

La proposta prevede inoltre un consiglio a maggioranza indipendente e una rappresentanza dell'industria, del governo, di esperti tecnici e delle comunità open-source. Aggiornerebbe regolarmente le valutazioni e, in seguito, creerebbe test senza dipendere dai laboratori. Una revisione volontaria svolta con successo potrebbe in seguito diventare un requisito per la distribuzione negli Stati Uniti.

Questo schema offre una possibile destinazione ai colloqui riportati. Non dimostra che Anthropic o OpenAI abbiano accettato ogni suo elemento. Amodei ha in precedenza sostenuto una più forte autorità governativa, mentre Altman ha sottolineato il coordinamento internazionale e la collaborazione con il governo.

Queste differenze contano perché un sistema di test privo di conseguenze può diventare puramente cerimoniale. Al contrario, un organismo con l'autorità di bloccare i rilasci avrebbe bisogno di legittimità giuridica e garanzie procedurali. Il solo accordo dell'industria non può creare poteri governativi.

Il compromesso è tra sicurezza e controllo dell'industria

L'argomento più forte a favore di un organismo congiunto è la rapidità, mentre l'obiezione più forte è la cattura regolatoria.

Anthropic, OpenAI e Google possiedono i modelli, gli specialisti, le risorse di calcolo e l'infrastruttura di sicurezza necessari per valutazioni sofisticate. Qualsiasi istituzione di test richiederà un'ampia collaborazione da parte loro. Un valutatore non può studiare comportamenti nascosti di un modello senza un accesso significativo al sistema.

Questi laboratori possono inoltre muoversi più rapidamente del Congresso. Aggiornano modelli e valutazioni interne in cicli brevi, mentre la legislazione richiede negoziazione e attuazione. Un'istituzione volontaria potrebbe iniziare i test prima dell'esistenza di una legge federale organica.

La rapidità è preziosa quando i metodi per valutare i rischi restano ancora immaturi. Un organismo iniziale potrebbe confrontare i quadri di riferimento dei laboratori, svolgere valutazioni pilota e individuare quali misure producono evidenze utili. I governi potrebbero poi incorporare le pratiche efficaci nelle norme sugli appalti o nella regolamentazione.

Il problema è che le aziende fondatrici avrebbero forti incentivi a plasmare tali pratiche. Definizioni tecniche apparentemente neutrali possono determinare quali organizzazioni debbano affrontare obblighi onerosi. Una soglia potrebbe esentare i prodotti attuali gravando al contempo sui concorrenti futuri.

I grandi laboratori possono sostenere costi di conformità che le startup non possono permettersi. Impiegano team di policy, specialisti della sicurezza, avvocati e ricercatori delle valutazioni. Le imprese più piccole potrebbero dipendere da fornitori esterni di test o ritardare i rilasci in attesa di una capacità di revisione limitata.

Gli sviluppatori open-source hanno una preoccupazione distinta. Una regola attivata da ampi parametri di capacità potrebbe applicarsi indipendentemente dal fatto che un modello sia aperto o chiuso. Tuttavia, lo sviluppatore di un modello aperto non può controllare ogni implementazione a valle dopo averne rilasciato i pesi.

Meta ha sostenuto che non si dovrebbe permettere a poche aziende di decidere come si sviluppa l'AI. Questa posizione riflette il suo sostegno a modelli più ampiamente disponibili, ma individua anche un problema di governance legittimo. Le principali aziende di modelli chiusi non dovrebbero definire l'accesso al mercato per tutti gli altri senza una supervisione indipendente.

I critici hanno quindi descritto le proposte sulla sicurezza come tentativi di concentrare il potere tecnologico ed economico. L'accusa non invalida i rischi sottostanti. Richiede protezioni istituzionali che separino la competenza tecnica dal controllo commerciale.

Un consiglio credibile avrebbe bisogno di potere di voto indipendente, regole sui conflitti pubblicate e una partecipazione significativa degli sviluppatori più piccoli. Anche ricercatori della società civile, esperti di sicurezza, settori interessati e rappresentanti dell'interesse pubblico dovrebbero avere accesso al processo.

Il finanziamento presenta un'altra sfida. Il finanziamento industriale può attrarre talenti specializzati e fornire costose risorse di calcolo. Può anche rendere l'organismo dipendente dalle aziende che deve contestare. Impegni di finanziamento pluriennali e restrizioni sull'influenza dei finanziatori ridurrebbero tale pressione.

La trasparenza deve essere progettata con attenzione. Pubblicare test completi sulle capacità pericolose potrebbe rivelare metodi sensibili o aiutare i modelli ad addestrarsi rispetto a domande note. Non pubblicare nulla lascerebbe il pubblico incapace di valutare se la supervisione abbia modificato il comportamento delle aziende.

L'organizzazione potrebbe separare i dettagli tecnici dalle conclusioni di governance. Rapporti riservati potrebbero essere inviati a regolatori qualificati, mentre sintesi pubbliche rivelerebbero l'ambito, l'indipendenza dei valutatori, le principali limitazioni, gli incidenti e le mitigazioni richieste. L'organismo dovrebbe inoltre pubblicare il modo in cui gestisce disaccordi e correzioni.

L'AI Safety Institute del Regno Unito offre un precedente importante. Ha ottenuto accesso anticipato ai modelli dei principali laboratori e ha sviluppato competenze interne per valutazioni biologiche, informatiche e di controllo. La copertura del modello di test governativo ha inoltre individuato una debolezza persistente: una visibilità pubblica limitata sui risultati e sulle risposte delle aziende.

Quella lezione si applica direttamente al proposto organismo industriale. L'accesso senza divulgazione può migliorare il processo decisionale privato, ma non può creare un'ampia responsabilità pubblica. La divulgazione senza una gestione sicura può compromettere i test o esporre informazioni pericolose.

Il compromesso finale non è quindi tra sicurezza e innovazione. È tra un coordinamento rapido e tecnicamente informato e il rischio di lasciare che gli operatori già affermati formalizzino le proprie preferenze. Il design della governance deciderà quale lato prevarrà.

Il sostegno del governo resta la fonte di autorità mancante

Un organismo privato di standard può coordinare i test, ma solo l'autorità pubblica può rendere i suoi requisiti duraturi nell'intero mercato.

Secondo quanto riportato, Altman ha detto ai dipendenti di OpenAI di sostenere un'organizzazione per i test e gli audit dell'AI. Avrebbe inoltre sostenuto che i principali laboratori dovrebbero istituirne una autonomamente se il governo degli Stati Uniti non fornisse supporto.

Questa posizione coglie l'attuale lacuna. Le aziende possono fornire volontariamente accesso ai modelli, finanziare i valutatori e concordare parametri condivisi. Non possono obbligare i non aderenti a partecipare né impedire legalmente a un modello non idoneo di entrare nel mercato americano.

Il coinvolgimento del governo potrebbe assumere diverse forme. Le agenzie federali potrebbero osservare l'organismo, approvare le regole di governance o riconoscerne le valutazioni. Le politiche di approvvigionamento potrebbero richiedere una certificazione per i modelli utilizzati in sistemi pubblici sensibili.

Il Congresso potrebbe inoltre creare requisiti di test per legge delegandone l'attuazione tecnica. Una struttura di questo tipo assomiglierebbe ad altri settori regolamentati, nei quali organizzazioni private sviluppano competenze sotto supervisione pubblica. L'analogia esatta resta controversa perché l'AI di frontiera cambia più rapidamente della maggior parte dei prodotti certificati.

OpenAI sostiene da anni la partecipazione governativa. Nel 2023, Altman ha dichiarato al Senato che i modelli più capaci dovrebbero essere sottoposti a test interni ed esterni prima del rilascio. La sua testimonianza al Senato ha inoltre proposto standard di sicurezza adattabili, pratiche di divulgazione e validazione esterna.

Hassabis favorisce un modello pubblico-privato supervisionato a livello federale. Amodei ha chiesto regole nazionali in grado di bloccare il rilascio di sistemi di frontiera non sicuri. I tre leader concordano quindi più facilmente sui test che sull'autorità finale.

Le loro posizioni riflettono anche visioni istituzionali diverse. Un'organizzazione in stile FINRA partirebbe da finanziamenti dell'industria e supervisione governativa. Un regolatore in stile aviazione collocherebbe un'autorità più diretta all'interno dello Stato. Un modello internazionale si concentrerebbe sul coordinamento tra paesi e sull'accesso ai mercati.

Le discussioni riportate sugli standard AI tra Anthropic e OpenAI devono conciliare questi approcci. Un consorzio di test ristretto potrebbe essere avviato rapidamente, ma mancherebbe di strumenti di applicazione. Un'istituzione simile a un regolatore avrebbe più peso, ma richiederebbe legislazione, giusto processo e accordo politico.

La copertura internazionale crea un altro ostacolo. Un sistema limitato alle aziende americane potrebbe rallentare i rilasci nazionali mentre laboratori stranieri continuano a sviluppare capacità comparabili. Amodei ha riconosciuto che il coordinamento tra democrazie dipende in parte dal vantaggio rispetto ai concorrenti autoritari.

Questo argomento può diventare una scusa per l'inazione. Ogni laboratorio può sostenere di non poter rallentare perché un'altra azienda o un altro paese potrebbe proseguire. I test condivisi sono preziosi proprio perché riducono l'incertezza sul fatto che i concorrenti diretti accettino vincoli simili.

Tuttavia, la politica di sicurezza nazionale non può essere delegata a un club privato. Le decisioni che riguardano l'accesso ai chip, i controlli sulle esportazioni, le informazioni classificate sulle minacce e gli accordi internazionali richiedono i governi. Un'organizzazione industriale può fornire evidenze, ma le istituzioni elette devono definire le conseguenze legali.

La struttura più praticabile nel breve termine separerebbe le funzioni. Team tecnici indipendenti potrebbero creare e condurre valutazioni. Un consiglio di governance misto potrebbe supervisionare gli standard e i conflitti. Le agenzie federali potrebbero ricevere conclusioni riservate e stabilire se sia necessario un intervento legale.

Questa disposizione non risolverebbe ogni problema. Creerebbe una catena più chiara dall'osservazione tecnica alla decisione responsabile. Impedirebbe inoltre ai laboratori fondatori di diventare gli unici giudici sia della sicurezza sia dell'accesso al mercato.

Tre segnali mostreranno se l'organismo di standard è reale

La prossima fase dovrebbe essere giudicata attraverso documenti di governance, accesso dei valutatori e riconoscimento governativo, non attraverso post social favorevoli.

Il primo segnale è uno statuto pubblico. Dovrebbe identificare i membri fondatori, la composizione del consiglio, le regole di voto, gli accordi di finanziamento e le protezioni contro i conflitti. Dovrebbe inoltre spiegare se Meta, xAI, startup, sviluppatori open-source e ricercatori indipendenti possano partecipare.

Uno statuto dominato dai tre laboratori fondatori indebolirebbe la credibilità del progetto. Un consiglio a maggioranza indipendente con regole di nomina trasparenti la rafforzerebbe. L'istituzione dovrebbe pubblicare procedure per modificare gli standard e ascoltare le contestazioni degli sviluppatori interessati.

Il secondo segnale è una valutazione pilota comune. Anthropic e OpenAI si sono impegnate pubblicamente a integrare revisori esterni, mentre Google DeepMind ha sostenuto una valutazione sistematica prima del rilascio. Un progetto pilota congiunto mostrerebbe se tali promesse producano un accesso comparabile.

Il progetto pilota dovrebbe definire cosa possono ispezionare i valutatori. Audit significativi sull'AI di frontiera richiedono più dell'accesso al modello tramite un'interfaccia standard. I revisori potrebbero aver bisogno di informazioni su misure di salvaguardia, autorizzazioni degli strumenti, sistemi di monitoraggio, ambienti di test e incidenti significativi.

Un progetto pilota credibile riporterebbe anche le limitazioni. I valutatori dovrebbero dichiarare ciò che non hanno potuto ispezionare, in che modo il laboratorio ha selezionato le condizioni di test e se le conclusioni hanno modificato una decisione di rilascio. Un raffinato punteggio di sicurezza senza tale contesto rivelerebbe poco.

Il terzo segnale è un coinvolgimento formale del governo. Il riconoscimento da parte del Dipartimento del Commercio, del NIST o di un'altra agenzia qualificata non garantirebbe automaticamente l'indipendenza. Mostrerebbe se i funzionari pubblici considerino l'organizzazione un'infrastruttura utile anziché uno strumento di lobbying dell'industria.

La partecipazione governativa dovrebbe preservare responsabilità separate. Gli esperti tecnici possono aggiornare rapidamente le valutazioni, mentre le agenzie pubbliche forniscono autorità legale e responsabilità democratica. Nessuno dei due gruppi dovrebbe sostituirsi silenziosamente all'altro.

I lettori dovrebbero inoltre osservare ciò che accade dopo il primo test fallito. Un sistema di standard dimostra il proprio valore quando impone costi per la non conformità. Tali costi potrebbero includere misure di salvaguardia più rigorose, distribuzione limitata, nuovi test, rilascio ritardato o segnalazione alle autorità di regolamentazione.

Se ogni modello principale supera i test, questi potrebbero essere troppo deboli o prevedibili. Se i risultati restano riservati in modo permanente, gli osservatori esterni non possono valutare se il processo abbia effettivamente rilevanza. Se solo gli sviluppatori più piccoli subiscono ritardi, aumenteranno i timori di cattura regolatoria.

Gli acquirenti aziendali e gli sviluppatori non devono attendere un’istituzione definitiva. Possono già chiedere ai fornitori di modelli quale quadro normativo disciplina le distribuzioni, chi svolge i test esterni e cosa accade quando viene superata una soglia. Possono inoltre distinguere tra le valutazioni dei modelli e i controlli richiesti nelle proprie applicazioni.

L’iniziativa sugli standard AI di Anthropic e OpenAI va quindi intesa soprattutto come un test istituzionale. Laboratori rivali hanno individuato un problema comune e, secondo quanto riportato, hanno avviato discussioni su un’infrastruttura condivisa. Non hanno però ancora dimostrato di essere disposti a rinunciare a un controllo sufficiente da rendere la supervisione credibile.

Nei prossimi tre mesi, cercate uno statuto, un progetto pilota di audit tra aziende e una partecipazione federale nominativamente identificata. Questi segnali distingueranno un progetto operativo di standard da un allineamento temporaneo di dichiarazioni pubbliche.

La domanda decisiva è semplice: i laboratori creeranno un’istituzione capace di dire no a uno di loro? Finché non esisteranno uno statuto, un consiglio indipendente e un processo di revisione applicabile, considerate i colloqui promettenti ma incompleti. Seguite le prove alla base del prossimo rilascio di modello, chiedete chi ne ha svolto i test e verificate se qualche risultato ha modificato ciò che è arrivato agli utenti.