La proposta di Demis Hassabis per un organismo indipendente di vigilanza sulla sicurezza dell’IA affronta il suo primo banco di prova

Secondo quanto riportato, Demis Hassabis avrebbe illustrato a funzionari di alto livello dell’amministrazione Trump una nuova organizzazione per la sicurezza dell’IA prima di lasciare la guida operativa di Google DeepMind. L’articolo di Google Techmeme presenta un netto conflitto: le principali aziende di IA vogliono una supervisione indipendente, ma desiderano anche esercitare un’influenza sostanziale sulla sua progettazione.

Le discussioni riportate avrebbero coinvolto altri leader di laboratori e funzionari dell’amministrazione, incluso il segretario al Tesoro Scott Bessent. Tuttavia, non è stato formalmente istituito alcun nuovo organismo di regolamentazione e il governo non ha pubblicato uno statuto concordato. La proposta resta un’iniziativa politica in evoluzione, non un’istituzione operativa.

Nei resoconti emerge inoltre un’importante distinzione. Hassabis ha descritto pubblicamente un organismo di standard modellato principalmente su FINRA, il regolatore privato che supervisiona i broker-dealer statunitensi sotto vigilanza federale. Una struttura internazionale sul modello dell’IAEA è comparsa in proposte più ampie di politica sull’IA, compresi piani associati ad altri leader del settore.

Questa distinzione conta più dell’analogia. Un organismo nazionale di standard finanziato dal settore deriverebbe la propria autorità dalla legge statunitense e dall’accesso al mercato. Un’agenzia internazionale richiederebbe cooperazione tra governi in disaccordo su sicurezza, commercio, modelli aperti e controllo tecnologico.

La vera contesa, quindi, non è Google contro un altro laboratorio. È tra una supervisione progettata dal settore e un’autorità pubblica realmente indipendente. L’esito inciderebbe su ogni organizzazione che sviluppa, acquista o distribuisce sistemi di IA avanzati.

Cosa cambia davvero il rapporto di Google Techmeme

Gli incontri riportati spostano la proposta di Hassabis da un saggio pubblico a una discussione concreta con funzionari in grado di influenzare la politica statunitense.

L’aggregazione di Techmeme attribuisce il resoconto principale al Wall Street Journal. Secondo quell’articolo, Hassabis avrebbe discusso una nuova organizzazione per la sicurezza con leader di laboratori concorrenti e alti funzionari dell’amministrazione Trump.

Ciò non significa che l’amministrazione abbia approvato il piano. Significa che la proposta avrebbe raggiunto funzionari al di là delle agenzie che già conducono valutazioni volontarie dei modelli. Il coinvolgimento di Scott Bessent è rilevante perché il Tesoro supervisiona le istituzioni finanziarie e le sanzioni, due ambiti pertinenti all’analogia con FINRA.

Hassabis aveva già reso pubblico il quadro essenziale. La sua proposta descriveva un organismo indipendente di standard finanziato dal settore, supervisionato dal governo e composto da esperti tecnici. L’organismo svilupperebbe test per i modelli più avanzati prima del loro rilascio.

I modelli “frontier” sono sistemi prossimi al più alto livello di capacità attualmente disponibile. La categoria cambia con il migliorare della tecnologia, quindi qualsiasi soglia richiederebbe aggiornamenti regolari. Una definizione fissa diventerebbe rapidamente obsoleta o includerebbe troppi prodotti ordinari.

Hassabis ha proposto di iniziare con una partecipazione volontaria. I laboratori sottoporrebbero i modelli idonei a test prima della distribuzione, consentendo potenzialmente ai valutatori fino a 30 giorni. Il sistema potrebbe in seguito diventare obbligatorio se le sue valutazioni si dimostrassero credibili.

L’organizzazione collaborerebbe inoltre con agenzie federali e laboratori nazionali statunitensi. I suoi test si concentrerebbero su capacità rilevanti per cybersecurity, biologia, inganno e sicurezza nazionale. Il mandato sarebbe più ristretto rispetto alla valutazione di ogni possibile problema per consumatori o imprese.

Questa attività di pressione riportata è importante perché le proposte politiche spesso scompaiono dopo la pubblicazione. Discussioni dirette con funzionari e laboratori rivali indicano un tentativo di costruire sostegno istituzionale. Espongono anche interrogativi irrisolti su chi controllerebbe l’organismo risultante.

La tempistica aggiunge peso alla vicenda. Hassabis si è recentemente allontanato dalla leadership quotidiana di Google DeepMind ed è diventato chief scientist di Alphabet. Resta presidente di DeepMind mentre si concentra su questioni scientifiche e sociali di più lungo periodo.

Il memo della leadership di Google ha presentato il cambiamento come un modo per dare a Hassabis più tempo per il lavoro “di visione d’insieme”. La proposta sulla sicurezza appare ora strettamente connessa a questo focus ampliato.

Tuttavia, i lettori dovrebbero evitare di considerare il cambio di ruolo come una prova di indipendenza politica. Hassabis resta un dirigente di alto livello di Alphabet, con profondi legami istituzionali con una delle aziende interessate dalle future regole sull’IA.

Il rapporto di Google Techmeme cambia quindi lo status politico della proposta, non il suo status legale. Mostra un’attività di advocacy organizzata intorno a un possibile regolatore, lasciandone però irrisolti mandato, adesione, poteri esecutivi e giurisdizione.

Perché Hassabis vuole ora un organismo di vigilanza

Hassabis sostiene che i test volontari aziendali non siano più sufficienti, mentre la legislazione convenzionale si muove troppo lentamente rispetto all’evoluzione delle capacità dell’IA.

A luglio, Hassabis ha pubblicato un dettagliato quadro per l’IA frontier che chiede una supervisione più sistematica. Ha sostenuto che i sistemi avanzati richiedano test dinamici perché le loro capacità possono cambiare sostanzialmente tra una generazione di modelli e l’altra.

La sua tempistica era insolitamente aggressiva. In un’intervista ad Axios, ha affermato che un’organizzazione dovrebbe idealmente diventare operativa prima della fine del 2026. Ha inoltre detto che i leader dei principali laboratori concordavano in linea generale sulla necessità di test esterni.

L’organismo proposto affronterebbe una specifica lacuna normativa. I governi possono imporre restrizioni alle esportazioni, condizioni negli appalti o direttive d’emergenza. Tuttavia, questi strumenti non creano un processo di valutazione prevedibile prima di ogni rilascio significativo di un modello.

Un organismo permanente potrebbe sviluppare metodi di test riutilizzabili. Potrebbe assumere specialisti, mantenere infrastrutture di calcolo sicure, confrontare risultati tra sviluppatori e aggiornare le soglie di rischio. Le singole agenzie faticherebbero a replicare tale capacità per ogni modello.

La proposta riflette anche la visione di Hassabis secondo cui i rischi dell’IA avanzata stanno diventando più concreti. Ha evidenziato operazioni informatiche, uso improprio in ambito biologico, agenti sempre più autonomi e comportamenti ingannevoli. Si tratta di aree di capacità verificabili, anche quando le loro più ampie conseguenze sociali restano incerte.

Per gli sviluppatori, un protocollo condiviso potrebbe ridurre il numero di revisioni governative separate. Per i clienti aziendali, valutazioni indipendenti potrebbero offrire evidenze ulteriori rispetto al rapporto di sicurezza di un laboratorio. Per i funzionari, l’organizzazione potrebbe fornire competenze senza richiedere a ogni agenzia di creare un team dedicato ai modelli frontier.

Gli stessi benefici creano pressione sugli sviluppatori più piccoli. La conformità potrebbe richiedere accesso sicuro ai modelli, documentazione, personale specializzato e valutazioni ripetute. I grandi laboratori possono assorbire tali requisiti più facilmente di startup o gruppi open-source.

I modelli aperti creano un’ulteriore complicazione. I loro pesi possono essere distribuiti oltre confine e modificati dopo il rilascio. Un organismo progettato attorno all’accesso riservato prima del rilascio potrebbe avere difficoltà a valutare ogni derivato o a far rispettare una restrizione successiva.

La dimensione internazionale è ancora più difficile. Una regola statunitense sull’accesso al mercato può raggiungere sviluppatori stranieri che servono clienti americani. Non può però obbligare automaticamente laboratori che operano interamente in un’altra giurisdizione.

È qui che il confronto con l’IAEA diventa attraente. L’Agenzia internazionale per l’energia atomica combina competenze tecniche, ispezioni, accordi internazionali e relazioni con i governi nazionali. L’IA, tuttavia, non dispone del sistema consolidato di trattati e della catena di approvvigionamento di materiali propri della tecnologia nucleare.

I modelli di IA sono inoltre più facili da copiare degli impianti nucleari. L’addestramento richiede risorse concentrate, ma la distribuzione può diffondersi tramite servizi cloud, pesi scaricabili e distillazione. La supervisione deve quindi tenere conto sia dello sviluppo centralizzato sia della distribuzione decentralizzata.

Il piano pubblico di Hassabis compie un primo passo più realizzabile. Parte da un’organizzazione statunitense di standard e mira a costruire in seguito una convergenza internazionale. Questa sequenza evita di attendere un trattato globale prima di creare test.

Il compromesso riguarda la legittimità politica. Un organismo guidato dagli Stati Uniti potrebbe diventare un efficace custode dell’accesso al mercato interno, pur venendo percepito all’estero come uno strumento della politica industriale americana. La partecipazione globale dipenderebbe da metodi trasparenti e da una rappresentanza credibile.

FINRA, l’IAEA e una differenza cruciale

Il quadro pubblico di Hassabis assomiglia più direttamente a FINRA che all’IAEA, e confondere questi modelli oscura chi deterrà l’autorità legale.

FINRA è un’organizzazione finanziata dal settore che opera sotto la supervisione della Securities and Exchange Commission. Redige e applica regole per broker-dealer registrati, esamina le imprese e sanziona le violazioni all’interno di un quadro normativo.

Hassabis ha proposto un analogo assetto pubblico-privato per l’IA frontier. Il finanziamento del settore sosterrebbe competenze tecniche e risorse di calcolo. La supervisione governativa fornirebbe legittimità e una possibile strada verso la conformità obbligatoria.

Un organismo sul modello dell’IAEA parte da fondamenta diverse. Il mandato dell’IAEA deriva da uno statuto internazionale e da accordi tra Stati. Le sue salvaguardie operano attraverso impegni giuridici che i governi accettano e attuano.

La distinzione influenza quasi ogni scelta progettuale.

Un’organizzazione sul modello di FINRA potrebbe essere creata all’interno di un singolo sistema nazionale. Potrebbe collegare la certificazione all’accesso al mercato statunitense. Potrebbe svilupparsi rapidamente se amministrazione, Congresso, agenzie e principali sviluppatori raggiungessero un accordo.

Un’agenzia sul modello dell’IAEA richiederebbe negoziati diplomatici, impegni nazionali, diritti di ispezione, accordi di finanziamento e procedure per le controversie. Potrebbe avere una legittimità più ampia, ma stabilire un’autorità significativa richiederebbe più tempo.

Le analogie descrivono anche rapporti diversi con il settore. FINRA è un’organizzazione di autoregolamentazione i cui membri partecipano al sistema che finanziano. L’IAEA è un’organizzazione intergovernativa la cui autorità deriva dagli Stati, non dalle aziende regolamentate.

Il piano di Hassabis cerca di combinare caratteristiche utili provenienti da entrambe le direzioni. Cerca indipendenza tecnica, risorse del settore, supervisione pubblica e una futura influenza internazionale. Se una sola organizzazione possa mantenere tutte e quattro rimane il problema centrale.

I resoconti che descrivono la proposta come simile all’IAEA potrebbero riferirsi alla sua ambizione, piuttosto che alla sua struttura immediata. La visione è quella di un’istituzione affidabile per la sicurezza riconosciuta oltre confine. L’attuazione proposta inizia più vicino all’autoregolamentazione sotto supervisione federale.

Un’altra fonte di confusione è che i leader dell’IA hanno proposto quadri sovrapposti. Sam Altman ha discusso un sistema internazionale paragonato all’IAEA. Il CEO di Anthropic Dario Amodei ha sostenuto un regolatore con poteri governativi diretti più forti.

Axios ha riassunto la divisione come una scelta tra modelli istituzionali correlati. I leader sostengono in linea generale i test esterni, ma divergono su chi dovrebbe prendere le decisioni finali. Queste differenze diventano decisive quando un modello non supera una valutazione.

In un accordo volontario, un laboratorio potrebbe rinviare un rilascio, applicare mitigazioni o respingere la conclusione. In un sistema obbligatorio, un’agenzia potrebbe negare l’accesso al mercato. In un sistema internazionale, l’applicazione dipenderebbe comunque in larga misura dai governi partecipanti.

L’analogia, quindi, non dovrebbe sostituire i dettagli istituzionali. Un nome storico riconoscibile rende la proposta più facile da spiegare, ma non chiarisce come l’organizzazione otterrebbe prove o farebbe rispettare una decisione.

La storia google techmeme va interpretata soprattutto come il racconto di uno sforzo politico per creare un organismo industriale indipendente. Il suo assetto definitivo potrebbe attingere a più precedenti. Al momento, nessun documento pubblico verificato stabilisce una versione letterale dell’IAEA dedicata all’AI.

L’indipendenza è la prova più difficile per la proposta

Un organismo di vigilanza finanziato dall’industria può disporre di competenze tecniche, ma la sua credibilità dipende dalla possibilità o meno per i finanziatori di influenzare nomine, test, conclusioni o applicazione delle norme.

Hassabis immagina un consiglio con una maggioranza di esperti tecnici indipendenti. Anche industria, governi e rappresentanti dell’open source avrebbero dei seggi. Questa struttura cerca di bilanciare competenza e interessi concorrenti.

La sola composizione del consiglio non può garantire l’indipendenza. Le domande più difficili riguardano budget, nomina del personale, accesso alle prove, diritti di pubblicazione, ricorsi e procedure di rimozione. Sono questi meccanismi a determinare se gli esperti possano contestare un grande finanziatore.

Anche i test stessi creano occasioni di influenza. I laboratori conoscono i propri sistemi meglio dei valutatori esterni e devono spiegare architetture, misure di protezione e piani di rilascio. I revisori dipenderanno da questa collaborazione mentre cercano di verificare le dichiarazioni aziendali.

Un regolatore necessita inoltre di un accesso sicuro. I modelli di frontiera possono contenere segreti commerciali, capacità sensibili per la sicurezza e informazioni che influenzano prodotti futuri. Una violazione presso l’organismo di test danneggerebbe sia la sicurezza nazionale sia la concorrenza commerciale.

Questo crea un difficile problema di personale. I migliori valutatori lavorano spesso nei laboratori leader o mantengono stretti rapporti professionali con essi. Regole severe sui conflitti proteggono la credibilità, ma possono ridurre il bacino di talenti disponibile.

Il finanziamento dell’industria presenta un altro compromesso. Le agenzie pubbliche spesso faticano a eguagliare le retribuzioni private o a garantirsi sufficiente capacità di calcolo. I contributi dei laboratori potrebbero risolvere questi problemi, ma solo se i fondi non possono essere ritirati dopo una decisione sgradita.

Diversi analisti hanno contestato l’approccio di autoregolamentazione. Un’analisi di CIO ha citato l’analista Gartner Nader Henein, secondo cui le aziende a scopo di lucro affrontano conflitti inevitabili tra azionisti e interessi pubblici.

Altri critici hanno avvertito che un organismo incentrato sugli Stati Uniti potrebbe non ottenere accettazione globale. I Paesi potrebbero interpretare i test di sicurezza nazionale come parte della strategia di intelligence o industriale americana. Questa percezione potrebbe limitare la cooperazione anche quando i metodi tecnici sono validi.

Un’altra preoccupazione è la cattura del regolatore. La cattura si verifica quando un sistema di supervisione inizia a servire gli interessi del settore regolamentato. Una conformità complessa può proteggere involontariamente gli operatori già affermati, creando costi che i concorrenti più piccoli non possono sostenere.

Le maggiori aziende di AI dispongono già di team di sicurezza, uffici legali, rapporti con i governi e ampie risorse di calcolo. Entrerebbero in qualsiasi regime di certificazione con un vantaggio significativo. Una startup potrebbe affrontare la stessa regola formale senza un sostegno comparabile.

Gli sviluppatori open source potrebbero trovarsi in una situazione ancora meno adatta. Un laboratorio convenzionale può fornire accesso controllato al modello e programmare un rilascio attorno a una valutazione. Una comunità distribuita potrebbe non avere una singola entità giuridica in grado di assumere tali impegni.

Queste preoccupazioni non invalidano i test esterni. Mostrano perché l’indipendenza debba essere progettata come un sistema operativo, anziché promessa come un principio.

Garanzie credibili includerebbero finanziamenti protetti, criteri di valutazione trasparenti, regole di governance pubblicate, processi di nomina indipendenti e procedure di ricorso chiare. L’organizzazione avrebbe inoltre bisogno dell’autorità per divulgare i fallimenti senza rivelare dettagli tecnici pericolosi.

Dovrebbe distinguere i test sulle capacità catastrofiche dalla più ampia qualità del prodotto. Un modello può superare valutazioni sui rischi biologici o informatici, pur continuando a produrre risposte inaffidabili, gestire male informazioni personali o creare responsabilità per gli utenti aziendali.

Questo confine conta per gli acquirenti. La certificazione non dovrebbe trasformarsi in un’affermazione generale secondo cui un modello è “sicuro”. Indicherebbe soltanto le prestazioni rispetto a test definiti, in condizioni specificate, in un determinato momento.

La lettura scettica è dunque semplice. Un valutatore finanziato dall’industria potrebbe migliorare le prove disponibili senza riuscire a fornire un’applicazione indipendente delle norme. Il valore della proposta dipende dalla possibilità per l’autorità pubblica di agire quando i partecipanti dell’industria non concordano con le sue conclusioni.

La proposta mette sotto pressione ogni laboratorio di AI di frontiera

Un regime comune di test vincolerebbe Google, OpenAI e Anthropic, ma potrebbe anche stabilizzare un mercato oggi plasmato da interventi governativi improvvisati.

Google ha un interesse commerciale diretto in regole prevedibili. Distribuisce i modelli Gemini su prodotti per consumatori, cloud, produttività e sviluppatori. Restrizioni improvvise potrebbero sconvolgere i calendari di lancio e gli impegni verso i clienti in tutto quel portafoglio.

OpenAI affronta un’esposizione simile. I suoi modelli servono consumatori, sviluppatori, imprese e utenti governativi. Una valutazione prima del rilascio potrebbe ritardarne la distribuzione, ma una certificazione riconosciuta potrebbe ridurre l’incertezza dopo l’approvazione.

Anthropic ha costruito la propria identità attorno alla ricerca sulla sicurezza e a politiche strutturate di distribuzione. Ha inoltre sostenuto una supervisione vincolante dei sistemi più capaci. L’azienda potrebbe appoggiare valutazioni comuni pur dissentendo su chi debba detenere l’autorità finale.

Questi laboratori competono intensamente, ma condividono diversi interessi di policy. Tutti vogliono regole che riconoscano una ristretta categoria di frontiera. Nessuno vuole che ogni piccolo modello o normale funzionalità software sia sottoposto allo stesso processo di revisione.

Preferiscono inoltre requisiti prevedibili a restrizioni improvvise. Un calendario di valutazione noto può essere integrato nella pianificazione dei prodotti. Un intervento improvvisato può imporre negoziati dell’ultimo minuto senza test o scadenze concordati.

Questo interesse condiviso spiega perché leader rivali possano sostenere un organismo di vigilanza. Non significa che concordino su soglie, divulgazione, modelli aperti, accesso internazionale o applicazione delle norme. Ogni decisione può modificare il vantaggio competitivo.

Le soglie sono particolarmente sensibili. Se rientrano nella categoria solo pochi modelli costosi, le regole si concentrano sui grandi laboratori. Se gli indicatori di capacità sono troppo ampi, gli sviluppatori più piccoli potrebbero dover affrontare requisiti progettati per sistemi con risorse molto maggiori.

Anche i benchmark possono plasmare la ricerca. I laboratori ottimizzano rispetto alle misurazioni utilizzate per certificazione, approvvigionamento e confronto pubblico. Test mal progettati potrebbero premiare una conformità superficiale o non cogliere rischi che emergono solo dopo il rilascio.

Un sistema credibile deve aggiornare le proprie valutazioni senza rendere i requisiti imprevedibili. Deve inoltre adottare metodi resistenti alla preparazione deliberata degli sviluppatori. Altrimenti, i laboratori potrebbero calibrare i modelli sui test noti anziché ridurre il rischio di fondo.

La concorrenza tra giurisdizioni aggiunge pressione. L’Unione europea utilizza norme legislative sull’AI e regolatori nazionali. Il Regno Unito ha posto l’accento su un istituto per la sicurezza dell’AI e sulla cooperazione volontaria. La Cina applica propri controlli di licenza e sicurezza.

Un organismo statunitense di standard entrerebbe in questo panorama esistente, non lo sostituirebbe. Il suo contributo più forte potrebbe consistere nella produzione di prove tecniche che altre giurisdizioni possano riconoscere. Il riconoscimento reciproco ridurrebbe i test duplicati senza imporre leggi identiche.

Questo risultato richiede fiducia nei metodi sottostanti. I regolatori stranieri devono poter ispezionare i protocolli, contestare le ipotesi e contribuire agli aggiornamenti. Un processo americano chiuso faticherebbe a diventare un riferimento globale.

Gli acquirenti aziendali dovrebbero seguire attentamente questa competizione istituzionale. Un rapporto di valutazione riconosciuto potrebbe entrare nei requisiti di approvvigionamento, assicurazione e gestione del rischio. I fornitori potrebbero dover documentare quale versione del modello ha superato quale test.

Gli sviluppatori potrebbero inoltre incontrare nuove pratiche di rilascio. La presentazione anticipata potrebbe creare intervalli più lunghi tra il completamento interno e la disponibilità pubblica. I team applicativi dovrebbero pianificare attorno a modelli le cui date di lancio restano condizionate.

I lavoratori della conoscenza ne vedrebbero effetti indiretti. Test più rigorosi potrebbero ridurre l’accesso a modelli con capacità pericolose, ma non garantirebbero l’accuratezza nelle attività quotidiane. Gli utenti avrebbero comunque bisogno di verifiche, controlli sulla privacy e politiche organizzative chiare.

Il rapporto google techmeme va quindi oltre l’attività di lobbying di un singolo dirigente. Rivela un consenso emergente attorno alla valutazione esterna, insieme a uno scontro più profondo su autorità e struttura del mercato.

Tre segnali mostreranno se l’organismo di vigilanza è reale

La prossima prova non è un’altra approvazione da parte di un dirigente dell’AI, ma l’evidenza che la proposta stia acquisendo autorità legale, capacità operativa e credibilità internazionale.

Il primo segnale è una proposta formale della Casa Bianca o di un’agenzia. Dovrebbe identificare la base giuridica dell’organizzazione, l’agenzia di supervisione, l’ambito, i finanziamenti e il percorso di applicazione delle norme. Le discussioni informali non possono rispondere a queste domande.

Una proposta concreta rafforzerebbe l’idea che il lobbying riportato sia diventato politica. Un silenzio prolungato suggerirebbe che l’amministrazione resta interessata ma divisa. Gli impegni pubblici di deregolamentazione potrebbero inoltre limitare i poteri obbligatori di qualsiasi organismo.

Il secondo segnale è un impegno scritto da parte di più laboratori di frontiera. Google, OpenAI, Anthropic e altri sviluppatori dovrebbero accettare regole comuni di presentazione e test indipendenti. Un sostegno generico alle valutazioni di sicurezza non basta.

I dettagli dovrebbero coprire accesso anticipato, riservatezza, risultati dei test, interventi correttivi, ricorsi e valutazioni fallite. Un impegno senza conseguenze conserverebbe il sistema volontario che la proposta cerca di migliorare.

Conta anche la partecipazione di rappresentanti dell’open source. La loro inclusione non risolverebbe ogni problema di applicazione delle norme, ma l’esclusione indebolirebbe l’affermazione che l’organizzazione rappresenti l’intera comunità tecnica.

Il terzo segnale è il riconoscimento al di fuori degli Stati Uniti. La cooperazione con il Regno Unito, le istituzioni europee e altri grandi mercati dell’AI indicherebbe che l’organismo può influenzare gli standard globali. Un rifiuto all’estero esporrebbe i limiti di un approccio guidato dagli Stati Uniti.

L’accettazione internazionale non richiede un unico regolatore universale. I governi potrebbero mantenere l’applicazione sovrana delle norme condividendo al contempo prove tecniche e metodi di valutazione. Questa soluzione è più plausibile che trasferire immediatamente l’autorità a una nuova agenzia globale.

I lettori dovrebbero inoltre distinguere i progressi sui test dai progressi nella governance. Una valutazione pilota può dimostrare che i valutatori dispongono di capacità tecniche. Non può provare che l’istituzione resisterà alle pressioni durante un rilascio commerciale contestato.

Il nuovo ruolo di Hassabis in Alphabet gli offre tempo e prestigio per continuare a promuovere la proposta. Mantiene però visibile anche il conflitto di interessi. Sta sostenendo regole che influenzerebbero l’azienda di cui resta chief scientist e dirigente senior.

Questa tensione dovrebbe essere trattata come un vincolo progettuale, non come un’accusa personale. Gli esperti dell’industria possiedono conoscenze di cui i governi hanno bisogno. Le istituzioni pubbliche devono usare queste conoscenze senza rinunciare alla responsabilità finale.

L’esito più credibile combinerebbe test tecnici indipendenti con norme pubbliche applicabili. L’industria potrebbe finanziare le competenze e fornire accesso ai modelli. Il governo definirebbe gli obblighi legali, proteggerebbe il giusto processo e manterrebbe l’autorità sull’accesso al mercato.

Un esito più debole creerebbe un prestigioso club di certificazione dominato dai grandi laboratori. Un organismo del genere potrebbe produrre ricerche utili, rendendo però più difficile la concorrenza per gli sviluppatori più piccoli. Potrebbe anche offrire una copertura politica senza modificare le decisioni di rilascio.

Per gli sviluppatori e gli acquirenti aziendali, la questione pratica è se le valutazioni indipendenti entreranno a far parte della pipeline di rilascio. In tal caso, cambieranno la documentazione dei modelli, le revisioni degli approvvigionamenti e le tempistiche di lancio.

Per i responsabili politici, la domanda è se la velocità tecnica possa coesistere con la responsabilità democratica. Un’istituzione rapida può reagire all’evoluzione dei modelli, ma la velocità non può sostituire un’autorità trasparente.

Per chiunque segua la copertura google techmeme, il prossimo passo è pretendere dettagli istituzionali. Occorre cercare uno statuto pubblicato, leader indipendenti nominati, impegni vincolanti dei laboratori e cooperazione da parte delle autorità di regolamentazione straniere. Questi segnali mostreranno se Hassabis ha proposto un vero sistema di sicurezza o soltanto un’analogia convincente.