La Super Intelligence della Casa Bianca rinomina l'AI, ma la sicurezza dipende ancora dalla fiducia
L'iniziativa della Casa Bianca sulla super intelligence ha modificato il linguaggio federale e ottenuto un impegno volontario per la sicurezza dalle principali aziende tecnologiche nell'arco di una sola, intensa settimana. Il presidente Donald Trump ha ordinato alle agenzie esecutive di sostituire “artificial intelligence” con “Super Intelligence”, o “SI”, nella maggior parte delle comunicazioni ufficiali.
Trump si è inoltre unito ai leader tecnologici nel sostenere controlli di sicurezza per i modelli avanzati. Ha definito il loro accordo volontario “moralmente vincolante”, nonostante l'assenza di meccanismi legali di applicazione annunciati.
Da lontano, queste azioni sembrano complementari. Una eleva il nome della tecnologia, mentre l'altra promette di controllarne i rischi. Da vicino, rivelano una tensione più profonda.
L'amministrazione sta descrivendo gli attuali sistemi di AI con un termine tradizionalmente associato a un'intelligenza oltre le capacità umane. Al tempo stesso, chiede alle aziende che sviluppano tali sistemi di sorvegliarsi autonomamente attraverso revisioni, audit e controllo dei consigli di amministrazione.
Questa combinazione sposta il dibattito dalla necessità o meno di supervisionare l'AI a chi debba farlo. OpenAI, Anthropic, Google, Meta, Nvidia e le attività di AI di Elon Musk occupano ora entrambi i lati di questa questione.
Le aziende sviluppano i modelli, ne misurano le capacità, indagano sui fallimenti e decidono quali prove rendere disponibili agli esterni. Valutatori indipendenti entrano nel processo, ma l'accordo non istituisce un'agenzia federale di vigilanza né un sistema pubblico di sanzioni.
Il rebranding conta quindi più che per la sola presentazione. Il linguaggio può influenzare gli appalti, la diplomazia, le aspettative pubbliche e l'urgenza attribuita alle comuni distribuzioni software.
Definire ogni sistema interessato “super intelligence” attenua anche un'importante distinzione tecnica. Gli attuali modelli generativi possono svolgere compiti difficili senza possedere la superiorità ampia e affidabile che i ricercatori di solito associano alla superintelligenza.
La domanda centrale non è se la nuova etichetta suoni ambiziosa. È se i controlli volontari possano sostenere il peso normativo che Washington sta affidando loro.
Cosa ha effettivamente cambiato la Casa Bianca
L'amministrazione ha modificato immediatamente il vocabolario federale, lasciando però temporaneamente invariata la definizione normativa sottostante di AI.
Trump ha firmato l'Executive Order 14434 il 29 settembre 2026. L'ordine istruisce dipartimenti e agenzie dell'esecutivo a usare “Super Intelligence” e “SI” invece di “Artificial Intelligence” e “AI”.
L'obbligo riguarda la corrispondenza ufficiale, i siti web, i rapporti, le comunicazioni pubbliche, i documenti politici e altri materiali non normativi. Regolamenti, contratti, sovvenzioni, atti presidenziali e documenti storici emessi in precedenza non richiedono modifiche retroattive.
Questa limitazione è importante. L'ordine non riscrive istantaneamente ogni legge federale o contratto che contiene il termine “artificial intelligence”.
Per l'implementazione immediata, l'ordine definisce la SI attraverso l'attuale definizione normativa di AI nel diritto federale. In termini pratici, l'amministrazione ha cambiato l'etichetta prima di creare una categoria giuridica distinta.
L'executive order completo concede all'assistente presidenziale per la scienza e la tecnologia 60 giorni per proporre un testo legislativo per una definizione federale di SI. La proposta deve valutare se il Congresso debba modificare o sostituire l'attuale definizione di AI.
Deve inoltre identificare possibili modifiche agli attuali riferimenti normativi. Nell'ambito dello stesso processo possono essere raccomandate ulteriori azioni esecutive.
La scheda informativa federale che accompagna l'iniziativa presenta il cambiamento come un riconoscimento dell'espansione delle capacità tecnologiche. Sostiene che “artificial” sottovaluti ciò che i sistemi sono in grado di fare.
Tuttavia, l'ordine non contiene alcun nuovo benchmark che un modello debba superare prima di ricevere l'etichetta SI. Un sistema di sintesi documentale e un modello di ragionamento di frontiera possono quindi rientrare nella stessa terminologia rivista.
L'ordine non crea neppure un nuovo laboratorio di test, un regime di licenze, un obbligo di segnalazione degli incidenti o sanzioni civili. La sua azione diretta riguarda il linguaggio federale e lo sviluppo di una futura definizione.
Questo rende insolita la politica della Casa Bianca sulla super intelligence. Di norma, i governi definiscono una categoria regolamentata prima di applicarvi obblighi. In questo caso, il nome arriva per primo, mentre la definizione giuridica più significativa seguirà in seguito.
Lo stesso giorno è arrivato un impegno separato dell'industria. Dirigenti tecnologici hanno incontrato Trump e altri funzionari alla Casa Bianca, quindi hanno sostenuto standard volontari per le aziende che addestrano e distribuiscono modelli di frontiera.
I modelli di frontiera sono sistemi avanzati a uso generale vicini al limite delle capacità disponibili. La loro ampia utilità crea anche rischi che possono attraversare prodotti, clienti e settori.
L'accordo richiederebbe controlli interni, valutazioni dei modelli, audit esterni e revisione a livello di consiglio di amministrazione. Le aziende partecipanti si sono inoltre impegnate a continuare a incontrarsi per discutere standard e pratiche di sicurezza.
Queste due azioni creano il conflitto centrale dell'articolo. Il governo federale sta amplificando la percezione della potenza dell'AI, affidando al contempo gran parte dell'immediato lavoro sulla sicurezza ai suoi sviluppatori.
La Super Intelligence della Casa Bianca è un'etichetta, non un test delle capacità
Il nuovo nome descrive una priorità dell'amministrazione, non dimostra che i modelli attuali abbiano raggiunto la superintelligenza scientifica.
“Superintelligence” ha già un significato specifico in molte discussioni tecniche e politiche. In genere si riferisce a un sistema che supera le prestazioni umane in un'ampia gamma di importanti compiti cognitivi.
Gli attuali sistemi di AI non soddisfano costantemente questo standard. Possono scrivere software, analizzare documenti, generare contenuti multimediali e supportare la ricerca, ma continuano a produrre risposte false o a fallire compiti semplici.
Le loro prestazioni dipendono inoltre in misura rilevante da prompt, strumenti, accesso ai dati, progettazione del sistema e supervisione umana. Risultati impressionanti in un contesto non dimostrano una superiorità affidabile in ogni ambito.
L'Executive Order 14434 non afferma di fornire una simile dimostrazione tecnica. Tratta invece Super Intelligence come un nome sostitutivo per le tecnologie già coperte dalla definizione federale di AI.
Questa scelta trasforma il rebranding dell'AI di Trump in un segnale politico. Dipendenti federali, agenzie, appaltatori e partner internazionali incontreranno ripetutamente una terminologia che presenta questi sistemi come eccezionalmente capaci.
Questa impostazione può influenzare il modo in cui le istituzioni comprendono l'automazione ordinaria. Un responsabile degli appalti potrebbe interpretare un prodotto SI come più autonomo, affidabile o avanzato di quanto le sue prestazioni giustifichino.
Esiste anche il rischio opposto. Se le agenzie usano la stessa etichetta altisonante per ogni sistema di AI, il termine potrebbe diventare troppo ampio per guidare una supervisione significativa.
Un assistente amministrativo a basso rischio non dovrebbe ricevere lo stesso trattamento di governance di un sistema che opera infrastrutture critiche. Controlli efficaci dipendono da capacità, accesso, autonomia e danno potenziale.
Il futuro processo di definizione previsto dall'ordine potrebbe ripristinare tali distinzioni. L'assistente per la scienza e la tecnologia può raccomandare un linguaggio che separi le capacità di frontiera dai sistemi a minor rischio.
Il Congresso dovrebbe comunque accettare qualsiasi modifica normativa proposta. Fino ad allora, il diritto vigente continua a stabilire quali sistemi il governo regola effettivamente come AI.
La terminologia ha già prodotto resistenza politica. Il governatore della California Gavin Newsom ha firmato un ordine statale che preserva il termine “artificial intelligence” un giorno dopo l'azione federale.
L'annuncio della California ha esplicitamente respinto l'etichetta federale, affiancando la propria risposta a tutele per lavoratori e consumatori. Il quadro normativo sull'AI dello Stato richiede il coinvolgimento umano in determinate decisioni occupazionali e aggiunge obblighi di divulgazione relativi ai licenziamenti legati all'AI.
Questo disaccordo crea più di una competizione comunicativa. Le agenzie federali e le istituzioni californiane possono ora descrivere sistemi simili usando vocabolari ufficiali differenti.
Gli sviluppatori che vendono a entrambi i governi potrebbero avere bisogno di documentazione che colleghi la terminologia SI alle definizioni consolidate di AI. Gli avvocati dovranno comunque attenersi al linguaggio scritto nelle leggi e nei contratti applicabili.
I ricercatori affrontano un altro problema. Un'ampia etichetta politica può indebolire la comunicazione tra policymaker e specialisti tecnici che usano “superintelligence” in senso più ristretto.
Il pubblico potrebbe sentire che la superintelligenza è ufficialmente arrivata. L'ordine stesso non fornisce alcuna valutazione a sostegno di questa conclusione.
Questa distinzione sarà importante ogni volta che i funzionari descriveranno un fallimento di sistema o un nuovo appalto. I lettori dovrebbero chiedersi cosa fa il sistema, a quali risorse accede e come è stato testato.
Un nuovo nome non può rispondere a queste domande. Può solo influenzare quali domande le istituzioni pongono per prime.
L'accordo sulla sicurezza scambia l'applicazione delle norme con la velocità
L'impegno della Casa Bianca sulla sicurezza dell'AI crea rapidamente un processo comune, ma la conformità dipende dal fatto che le aziende rispettino gli impegni senza sanzioni federali annunciate.
L'accordo di settore è emerso dopo un incontro alla Casa Bianca a cui hanno partecipato leader di diverse aziende tecnologiche concorrenti. Tra i partecipanti figuravano Mark Zuckerberg di Meta, Dario Amodei di Anthropic, Sundar Pichai di Google, Jensen Huang di Nvidia e il presidente di OpenAI Greg Brockman.
Elon Musk e l'amministratore delegato di Microsoft Satya Nadella hanno partecipato anch'essi all'incontro più ampio. Il fondatore di Amazon Jeff Bezos e altri dirigenti tecnologici si sono uniti a funzionari dell'amministrazione e leader del Congresso.
Trump ha paragonato l'accordo a una costituzione e lo ha definito moralmente vincolante. Ha sostenuto che le aziende comprendessero già la necessità di controllarsi autonomamente.
Un impegno morale è diverso da un obbligo legale. Non conferisce automaticamente ai regolatori poteri investigativi, non stabilisce scadenze per la divulgazione né crea sanzioni per controlli mancati.
L'accordo contiene comunque idee di governance potenzialmente significative. Secondo una copia descritta nella copertura dell'accordo sulla sicurezza, le aziende si sono impegnate a quattro livelli di controlli e audit.
Tra gli elementi riportati figurano valutazioni interne, revisioni da parte di società esterne e supervisione che coinvolge i consigli di amministrazione. I partecipanti hanno inoltre accettato di incontrarsi regolarmente e sviluppare standard e pratiche condivise.
Tali misure possono migliorare la sicurezza se attuate con rigore. Un team interno può individuare precocemente i rischi perché comprende il modello, il processo di addestramento e l'infrastruttura.
I valutatori esterni possono mettere in discussione le ipotesi interne. La revisione del consiglio di amministrazione può portare rischi irrisolti oltre gli ingegneri e i responsabili di prodotto incaricati di un rilascio.
Tuttavia, ogni livello dipende da dettagli che non sono stati pienamente definiti pubblicamente. Gli auditor hanno bisogno di accesso, indipendenza, competenza tecnica e autorità per segnalare risultati scomodi.
I consigli di amministrazione hanno bisogno di informazioni sui rischi comparabili tra i vari rilasci. I team interni per la sicurezza devono avere sufficiente potere per ritardare il deployment quando le valutazioni rivelano problemi gravi.
L'impegno della Casa Bianca sulla sicurezza dell'AI non chiarisce chi selezioni gli auditor esterni né chi li paghi. Non stabilisce inoltre se i rapporti completi diventeranno pubblici.
Non esiste uno standard annunciato per gestire i disaccordi tra un’azienda e un valutatore. L’accordo non specifica una soglia uniforme di rilascio per capacità pericolose.
Anche le tempistiche pongono un’altra questione. Una revisione della sicurezza completata dopo il rilascio non può impedire l’esposizione iniziale di utenti, clienti o sistemi connessi.
L’accordo sembra inoltre concepito per preservare la velocità di sviluppo. I partecipanti possono adottare controlli senza attendere che il Congresso negozi una legge federale organica.
Questa rapidità è il vantaggio più evidente dell’accordo. Le aziende rivali condividono ora un impegno politico che i rispettivi responsabili della sicurezza possono citare nei dibattiti interni sui rilasci.
La sua debolezza deriva dalla stessa impostazione. Un sistema volontario può cambiare rapidamente, rimanere riservato o variare da un’azienda all’altra senza un processo formale di regolamentazione.
L’accordo riconosce che le sue pratiche potrebbero infine diventare legge o regolamento. Questa formulazione presenta l’autogoverno come un punto di partenza, non necessariamente come la politica definitiva.
Trump ha inoltre discusso la creazione di un comitato di circa 10 persone per supervisionare l’iniziativa più ampia. Al momento degli annunci iniziali, la sua composizione e la sua autorità restavano da definire.
Un comitato può coordinare gli standard e individuare le lacune. Non può far rispettare i requisiti a meno che i suoi poteri legali, i diritti di accesso, le procedure e le conseguenze non siano chiaramente definiti.
Il test a breve termine è dunque l’attuazione. Le aziende devono dimostrare che i controlli influenzano i rilasci dei modelli, non soltanto il modo in cui tali rilasci vengono descritti.
Le aziende di AI devono controllare se stesse e l’una l’altra
L’accordo chiede ai concorrenti di cooperare sulla sicurezza mentre continuano a competere per clienti, talenti, capacità di calcolo e influenza strategica.
Le pratiche di sicurezza condivise hanno senso perché i rischi dei modelli di frontiera possono estendersi oltre una singola azienda. Un modello vulnerabile può sostenere attacchi informatici, accelerare ricerche dannose o esporre sistemi aziendali connessi.
I controlli deboli di un laboratorio possono anche spingere i rivali a rilasciare più velocemente. Ogni azienda può temere di perdere clienti se le sue revisioni richiedono più tempo del processo di un concorrente.
Standard comuni possono ridurre questa pressione. Se ogni partecipante principale accetta aspettative simili in materia di test e audit, il lavoro sulla sicurezza diventa meno uno svantaggio commerciale unilaterale.
Le aziende non condividono però incentivi identici. Anthropic ha reso i controlli del rischio centrali nella propria identità pubblica, mentre Meta ha spesso enfatizzato l’accesso aperto e un’ampia distribuzione.
OpenAI bilancia prodotti per consumatori, implementazioni aziendali, servizi per sviluppatori e strumenti sempre più autonomi. Google integra i modelli nella ricerca, nel software di produttività, nei servizi cloud e nei prodotti mobili.
Nvidia fornisce l’infrastruttura di calcolo a gran parte del mercato. I suoi interessi in materia di sicurezza si sovrappongono a quelli degli sviluppatori di modelli, ma la sua posizione commerciale resta diversa.
Queste aziende definiscono e misurano inoltre il rischio dei modelli in modi differenti. Un impegno comune non produce immediatamente test comuni, formati probatori o soglie di implementazione comuni.
Amodei ha colto questa incertezza dopo l’incontro. Ha affermato che la tecnologia presenta rischi reali, mentre il meccanismo per affrontarli restava in discussione.
Zuckerberg ha descritto controlli interni, revisioni del rischio, valutazioni esterne e la revisione da parte di un consiglio indipendente. Pichai ha paragonato i processi proposti ai controlli finanziari all’interno di un’azienda.
Questi paragoni rivelano il meccanismo previsto. L’accordo tratta in parte la sicurezza dell’AI come una funzione di governance aziendale, con molteplici punti di controllo e responsabilità documentata.
I controlli finanziari funzionano perché operano all’interno di sistemi legali e professionali maturi. I revisori seguono standard dettagliati, le autorità di regolamentazione possono richiedere documenti e i dirigenti possono subire conseguenze per dichiarazioni false.
La supervisione dei modelli di frontiera non dispone di una struttura altrettanto consolidata. Le valutazioni evolvono man mano che i sistemi acquisiscono nuovi strumenti, orizzonti temporali più lunghi per le attività e maggiore accesso a servizi esterni.
Un modello può comportarsi in modo sicuro in un test controllato e diversamente dopo l’integrazione con l’esecuzione di codice, dati aziendali o flussi di lavoro automatizzati. Il rischio dipende dall’intero sistema implementato.
Il problema diventa più serio quando gli agenti AI agiscono su più applicazioni. Un agente è un sistema basato su modelli che può pianificare passaggi e utilizzare strumenti con una supervisione limitata.
Per gli acquirenti aziendali, il linguaggio degli audit non dovrebbe da solo sostituire la due diligence a livello di prodotto. Gli acquirenti devono comprendere accesso ai dati, conservazione, autorizzazioni, monitoraggio, approvazione umana e risposta agli incidenti.
I team necessitano inoltre di una registrazione affidabile di ciò che i loro sistemi hanno ricevuto e prodotto. Una base di conoscenza AI ricercabile può supportare la revisione interna, ma non sostituisce la trasparenza dei fornitori o i test indipendenti.
Gli sviluppatori hanno una responsabilità simile. Devono distinguere le affermazioni generali sulla sicurezza di un fornitore di modelli dai controlli applicati all’interno di un’applicazione specifica.
Un modello di frontiera può superare valutazioni generali mentre un’applicazione lo espone a strumenti non sicuri o privilegi eccessivi. La progettazione dell’implementazione resta parte del rischio.
L’accordo potrebbe essere utile creando formati interoperabili per la rendicontazione. Le aziende potrebbero divulgare categorie di valutazione, limitazioni note, indipendenza dei revisori e stato delle misure correttive senza esporre dettagli sensibili del modello.
Tuttavia, il coordinamento volontario solleva anche interrogativi su chi resti fuori dalla stanza. Sviluppatori più piccoli, comunità open source, team accademici, gruppi di lavoratori e organizzazioni della società civile potrebbero non avere un’influenza equivalente.
Uno standard creato da imprese dominanti può aumentare la qualità della sicurezza. Può anche diventare una barriera che favorisce le aziende in grado di finanziare complessi programmi di valutazione e audit.
Il governo deve quindi esaminare sia i risultati di sicurezza sia la struttura del mercato. Concentrare la supervisione all’interno dei laboratori più grandi darebbe loro maggiore potere sulle regole che disciplinano i concorrenti futuri.
L’autocontrollo non è automaticamente privo di significato. Diventa credibile solo quando soggetti esterni possono verificare il processo, confrontare i risultati e individuare i fallimenti.
Il compromesso centrale è tra responsabilità e flessibilità
I controlli volontari si adattano più rapidamente della legislazione, ma la loro flessibilità rende più difficile sapere se ogni azienda soddisfa la stessa soglia di sicurezza.
La regolamentazione dell’AI spesso resta indietro rispetto al cambiamento tecnico. Una norma dettagliata scritta per i modelli attuali può diventare obsoleta quando gli sviluppatori aggiungono nuovi strumenti, metodi di addestramento o modelli di implementazione.
Gli standard guidati dalle aziende possono rispondere più rapidamente. I laboratori possiedono già l’infrastruttura, gli specialisti e l’accesso necessari per valutare i propri sistemi.
Possono aggiornare i test dopo aver scoperto una nuova modalità di fallimento. Possono anche condividere informazioni sulle minacce più rapidamente di quanto il Congresso possa modificare una legge.
Questi vantaggi sostengono un quadro volontario iniziale. Non eliminano la necessità di una responsabilità indipendente.
La prima preoccupazione riguarda la divulgazione selettiva. Le aziende potrebbero pubblicare riepiloghi rassicuranti trattenendo test falliti, disaccordi interni o prove che hanno ritardato un rilascio.
La seconda preoccupazione riguarda la misurazione incoerente. Due laboratori possono usare etichette di sicurezza simili applicando soglie e condizioni di test diverse.
La terza preoccupazione riguarda la dipendenza dei revisori. Un valutatore pagato e scelto da uno sviluppatore di modelli può subire pressioni per proteggere la relazione commerciale.
La quarta preoccupazione riguarda il rimedio. Un audit rigoroso ha valore limitato se nessuna istituzione può imporre modifiche dopo aver individuato un rischio grave.
I resoconti dell’incontro alla Casa Bianca evidenziano questa lacuna. La copertura degli iniziali impegni sulla sicurezza non ha rilevato alcun meccanismo di applicazione annunciato.
I sostenitori dell’accordo possono ragionevolmente sostenere che gli impegni pubblici comportino comunque conseguenze reputazionali. Un’azienda che ignora il proprio impegno rischia critiche da clienti, dipendenti, investitori e altri firmatari.
La reputazione conta soprattutto quando i fallimenti diventano visibili. Alcuni problemi di sicurezza restano nascosti nelle valutazioni private, nelle segnalazioni riservate di incidenti o nei sistemi dei clienti.
La Casa Bianca potrebbe migliorare la credibilità definendo campi minimi di divulgazione. Le aziende potrebbero segnalare tempi degli audit, indipendenza dei valutatori, rilievi irrisolti e decisioni del consiglio in un formato coerente.
Il governo potrebbe anche specificare soglie per la segnalazione di incidenti gravi. Queste potrebbero includere accesso non autorizzato ai sistemi, elusione dei controlli umani o scoperte di capacità pericolose.
Nessuna di queste misure richiede la pubblicazione dei pesi dei modelli o di istruzioni di sicurezza sensibili. La trasparenza può descrivere gli esiti della governance senza esporre un percorso tecnico di attacco.
La California sta già presentando un approccio concorrente. Le sue politiche enfatizzano la valutazione indipendente, le tutele previste dalla legge e obblighi diretti in ambiti quali l’occupazione.
La risposta dello Stato mostra anche perché la sola terminologia federale non può unificare la politica nazionale. Gli Stati possono preservare il linguaggio consolidato sull’AI e creare requisiti che superano un accordo federale volontario.
Questa divergenza aumenterà il lavoro di conformità per le aziende. Può anche produrre utili confronti tra politiche.
Se l’approccio obbligatorio della California individua incidenti che i processi federali volontari non rilevano, crescerà la pressione per una legislazione nazionale. Se il modello federale si adatta più rapidamente e produce miglioramenti misurabili della sicurezza, i sostenitori citeranno tali risultati.
Le prove attuali non risolvono la competizione. L’accordo era stato appena annunciato e diversi dettagli dell’attuazione restavano sconosciuti.
La conclusione corretta è più limitata. Washington ha scelto controlli aziendali flessibili come risposta immediata, lasciando aperta la possibilità di una regolamentazione successiva.
L’onere della prova ricade ora sulle aziende e sull’amministrazione. Devono dimostrare che la flessibilità produce decisioni di sicurezza più solide, non semplicemente meno obblighi applicabili.
Il rebranding crea rischi pratici per il governo e gli acquirenti
Cambiare il nome può modificare le aspettative più rapidamente di quanto le agenzie possano aggiornare definizioni, formazione, contratti e classificazioni del rischio.
Le agenzie federali usano la terminologia per organizzare appalti, conformità, rendicontazione e formazione della forza lavoro. Una sostituzione a livello governativo crea quindi lavoro operativo anche senza modificare la tecnologia sottostante.
Siti web e documenti guida devono essere aggiornati. I dipendenti devono capire se le vecchie politiche sull’AI continuano ad applicarsi quando i nuovi documenti usano SI.
I contraenti potrebbero ricevere richieste che utilizzano entrambi i termini. I team legali devono distinguere le comunicazioni coperte dall’ordine da leggi e accordi storici che conservano il linguaggio AI.
Il coordinamento internazionale aggiunge un ulteriore livello. Altri governi, organismi di standardizzazione e istituzioni accademiche usano ancora artificial intelligence come categoria generale.
I diplomatici federali e i funzionari tecnici potrebbero dover tradurre tra la nuova terminologia nazionale e il linguaggio internazionale consolidato. Questa traduzione può creare ambiguità durante i negoziati.
L’etichetta rischia inoltre di sopravvalutare l’affidabilità del prodotto. Gli acquirenti potrebbero interpretare “super intelligence” come una classificazione delle capacità sostenuta dal governo anziché come una politica di comunicazione.
I fornitori possono sfruttare questa ambiguità nel marketing. Un prodotto descritto come SI può sembrare più avanzato anche quando utilizza lo stesso modello e la stessa architettura venduti prima dell’ordine.
I team di approvvigionamento dovrebbero rispondere con domande misurabili. Dovrebbero chiedere quali attività sono state testate, con quale frequenza il sistema fallisce e quale revisione umana rimane necessaria.
Dovrebbero inoltre esaminare se il modello può accedere a dati privati, eseguire codice, inviare messaggi o modificare registri aziendali. Queste autorizzazioni spesso contano più delle prestazioni nei benchmark.
I lavoratori della conoscenza affrontano un problema analogo. Una risposta sicura di sé da parte di un sistema avanzato può comunque contenere una citazione inventata, una condizione omessa o un calcolo errato.
Chiamare il sistema SI non elimina la necessità di riesaminare gli output rilevanti. Gli utenti dovrebbero conservare i materiali di origine e verificare le decisioni che riguardano clienti, finanze, occupazione o sicurezza.
La stessa cautela vale per i servizi pubblici. Un assistente AI può aiutare le persone a orientarsi tra le informazioni governative pur commettendo errori o riflettendo dati normativi incompleti.
Le agenzie hanno bisogno di canali di correzione e procedure di escalation. I cittadini dovrebbero sapere quando interagiscono con un sistema automatizzato e come contattare un decisore umano.
Il rebranding federale può comunque produrre un effetto utile. Costringe le agenzie a confrontarsi con quanto estesamente questi sistemi influenzino ormai le operazioni pubbliche.
Questa attenzione diventa preziosa se porta a inventari migliori, test, standard di approvvigionamento e formazione del personale. Diventa dannosa se un linguaggio enfatico sostituisce tali controlli.
L'ordine della Casa Bianca sulla superintelligenza sarà quindi giudicato dall'attuazione, non dalla ripetizione. Rinominare migliaia di documenti è facile da misurare, mentre migliorare la sicurezza è molto più difficile.
Una valutazione seria dovrebbe monitorare incidenti, risultati degli audit, ritardi nelle implementazioni e interventi correttivi. Contare gli usi del nuovo termine rivelerebbe poco sulla protezione del pubblico.
Tre segnali indicheranno se la politica ha davvero forza
I prossimi tre test sono la definizione federale, la struttura di vigilanza e la prova che gli audit possano modificare le decisioni di implementazione.
Il primo segnale è la proposta di definizione federale di Super Intelligence. L'Executive Order 14434 fissa una scadenza di 60 giorni affinché l'assistente del presidente per la scienza e la tecnologia presenti un testo legislativo.
Una definizione utile distinguerà livelli di capacità, contesti di implementazione e rischio. Non dovrebbe trattare ogni modello statistico, chatbot e agente autonomo come tecnicamente equivalente.
La proposta rafforzerà la politica se creerà confini chiari legati a caratteristiche misurabili. La indebolirà se SI resterà soltanto un sostituto universale di AI.
Il secondo segnale è la struttura di vigilanza promessa. Trump ha parlato di un comitato di circa 10 persone e di un nuovo funzionario responsabile della politica nazionale.
La composizione rivelerà quale giudizio conta. Un comitato dominato da dirigenti aziendali rafforzerebbe il modello di autoregolamentazione.
Un gruppo più ampio potrebbe includere valutatori tecnici, specialisti della sicurezza, rappresentanti dei lavoratori, ricercatori della società civile ed esperti di amministrazione pubblica. La sua autorità conta quanto la sua composizione.
La struttura necessita di accesso alle prove, un calendario di rendicontazione regolare e un processo per gestire le risultanze gravi. In caso contrario, funzionerà principalmente come forum di coordinamento.
Il terzo segnale è se un audit modifica un rilascio, un prodotto o un'implementazione. Il pubblico non ha bisogno di ogni dettaglio sensibile, ma ha bisogno di prove che i controlli influenzino le decisioni.
Un lancio rinviato, capacità limitate, accesso ridotto al sistema o una correzione pubblicata dimostrerebbero che la revisione ha conseguenze. Audit ripetuti senza interventi visibili darebbero ragione ai critici dell'autocontrollo.
La cronaca iniziale ha colto entrambi gli aspetti del momento. I dirigenti hanno descritto molteplici livelli di controllo, mentre Amodei ha affermato che il meccanismo per affrontare il rischio era ancora in discussione.
Questa incertezza è la vera storia dietro il rebranding dell'AI di Trump. L'amministrazione ha scelto un nome ambizioso prima di definire le regole che governeranno la tecnologia.
Per sviluppatori, acquirenti aziendali e utenti comuni, la risposta pratica è semplice. Osservate i controlli, non l'etichetta.
Chiedetevi se le valutazioni utilizzano test credibili, se gli auditor dispongono di indipendenza e se le conclusioni gravi raggiungono i decisori. Seguite ciò che accade dopo che un fallimento diventa noto.
La politica della Casa Bianca sulla superintelligenza conterà se produrrà prove comparabili e responsabilità applicabile. Senza questi risultati, “moralmente vincolante” resterà una promessa politica associata a una tecnologia rinominata.
Nei prossimi tre mesi, seguite la definizione federale, le nomine per la vigilanza e il primo intervento documentato derivante da un audit. Questi segnali mostreranno se Washington ha costruito un sistema di sicurezza o ha soprattutto cambiato il vocabolario.
