Anthropic sostiene una petizione per rallentare l'IA, ma la corsa non ha ancora freni

Anthropic ha sostenuto una petizione firmata da 1.293 dipendenti dell'IA di frontiera, nonostante l'intensa pressione su ogni grande laboratorio affinché continui ad avanzare. L'amministratore delegato Dario Amodei, diversi cofondatori e dipendenti senior hanno aggiunto i loro nomi. L'azienda afferma che i governi dovrebbero predisporre strumenti in grado di rallentare lo sviluppo automatizzato dell'IA se i rischi diventassero inaccettabili.

Il sostegno è significativo perché la petizione non chiede un arresto immediato. Chiede agli Stati Uniti di sostenere uno sforzo internazionale che renda possibile un rallentamento deliberato. Questa distinzione separa l'iniziativa dalle precedenti lettere che chiedevano pause fisse.

Espone inoltre il conflitto centrale. Anthropic sostiene che la società abbia bisogno di un freno d'emergenza, pur riconoscendo che nessun laboratorio responsabile può usarlo in sicurezza da solo. OpenAI, Google DeepMind, Meta e altri sviluppatori di frontiera affrontano la stessa corsa, anche quando i loro dipendenti condividono la preoccupazione.

Anthropic trasforma una petizione dei dipendenti in una posizione aziendale

Anthropic ha spostato il dibattito sul rallentamento dal dissenso dei dipendenti a una posizione ufficiale sostenuta dalla sua leadership.

La dichiarazione sul rallentamento afferma che le principali aziende di IA ritengono di avvicinarsi all'automazione della ricerca sull'IA. I firmatari avvertono che questa transizione potrebbe accelerare lo sviluppo delle capacità oltre la capacità della società di comprendere o controllare i sistemi risultanti.

La richiesta della lettera è circoscritta. Chiede al governo statunitense di sostenere uno sforzo internazionale per sviluppare strumenti tecnici e di governance. Tali strumenti aiuterebbero i Paesi partecipanti a rallentare deliberatamente lo sviluppo automatizzato dell'IA di frontiera.

Per “IA di frontiera” si intendono i sistemi generalisti più capaci attualmente in sviluppo. Lo “sviluppo automatizzato dell'IA” va oltre l'uso di un chatbot per suggerimenti sul codice. Significa che i modelli svolgono parti sostanziali della ricerca e dell'ingegneria necessarie a creare i loro successori.

Anthropic ha confermato il proprio sostegno attraverso un ufficiale endorsement aziendale. Il post affermava che la petizione era stata firmata da Amodei, diversi cofondatori e personale senior. Collegava direttamente il sostegno alla recente ricerca di Anthropic sull'auto-miglioramento ricorsivo.

Questo endorsement conferisce alla petizione un'insolita rilevanza istituzionale. I dipendenti firmano spesso lettere aperte a titolo personale, lasciando ai loro datori di lavoro la libertà di rimanere neutrali. Anthropic ha invece adottato come propria la diagnosi di fondo della petizione.

Anche OpenAI ha sostenuto l'iniziativa, secondo le notizie pubblicate dopo la diffusione della lettera. Dipendenti di Google DeepMind, Meta, Microsoft, Thinking Machines e diverse altre organizzazioni hanno firmato a titolo personale.

Il totale ha continuato a crescere dopo il lancio della petizione. Il sito web elencava 1.293 dipendenti al momento della verifica del 30 luglio, rispetto ai circa 1.100 riportati quando le testate giornalistiche ne parlarono per la prima volta. Poiché l'elenco rimane aperto, questa cifra rappresenta un conteggio variabile anziché un totale fisso di lancio.

Tra i firmatari figurano ricercatori e leader che divergono su molte altre questioni politiche. John Schulman, capo scienziato di Thinking Machines, ha affermato che la dichiarazione contribuisce a creare una consapevolezza condivisa delle potenziali necessità di coordinamento. Ha firmato anche Shengjia Zhao, capo scienziato di Meta AI.

Ilya Sutskever, cofondatore di Safe Superintelligence, ha avvertito che qualsiasi intervento dovrebbe funzionare a livello internazionale. Ha inoltre riconosciuto che un'implementazione inadeguata potrebbe peggiorare la situazione. Questa riserva coglie il problema più profondo della petizione.

La dichiarazione non identifica un modello specifico che dovrebbe attivare un rallentamento. Non fornisce una soglia vincolante, un'autorità di monitoraggio, un sistema di ispezione né un meccanismo di applicazione. Chiede ai governi di iniziare a costruire questi strumenti prima che un'emergenza li costringa a improvvisare.

Questo rende l'azione di Anthropic più rilevante di una generica dichiarazione sulla sicurezza. L'azienda afferma che dovrebbe esistere un sistema internazionale di frenata, pur non avendone ancora definito l'intera architettura.

Perché la ricerca sull'IA di Anthropic ha cambiato i tempi

La petizione è arrivata ora perché l'IA non si limita più ad assistere gli sviluppatori di modelli. Sta iniziando a svolgere porzioni più ampie del loro lavoro.

Il rapporto di giugno di Anthropic, AI builds itself, fornisce gli elementi alla base della sua posizione. L'azienda descrive l'auto-miglioramento ricorsivo come un sistema che progetta e sviluppa autonomamente il proprio successore.

Anthropic sottolinea che i sistemi attuali non hanno ancora raggiunto quel punto. Afferma inoltre che il miglioramento ricorsivo completo non è inevitabile. Tuttavia, i dati interni suggeriscono che il processo di sviluppo sta diventando sempre più automatizzato.

A maggio 2026, Claude avrebbe scritto oltre l'80 per cento del codice integrato nella codebase di Anthropic. La proporzione era di poche unità percentuali prima che Claude Code entrasse in anteprima di ricerca nel febbraio 2025.

Anthropic afferma che il suo ingegnere tipico ha integrato otto volte più codice al giorno nel secondo trimestre del 2026 rispetto al 2024. L'azienda avverte apertamente che il volume di codice è una misura imperfetta della produttività. Più righe non significano automaticamente software migliore o lavoro otto volte più prezioso.

Questa riserva è importante. L'IA può generare codice ripetitivo, test, migrazioni e documentazione senza produrre un aumento equivalente del ragionamento difficile. Un laboratorio potrebbe quindi riportare un output molto più elevato pur facendo avanzare più lentamente i suoi problemi di ricerca centrali.

Un'altra misurazione interna offre una prospettiva diversa. In un sondaggio di marzo 2026 su 130 dipendenti della ricerca di Anthropic, il rispondente mediano ha stimato un output quattro volte maggiore con Mythos Preview. Anthropic ha nuovamente avvertito che il guadagno reale era probabilmente inferiore.

Le prove più solide dell'azienda riguardano il lavoro con obiettivi chiari. In un esercizio ricorrente di ottimizzazione, Claude Opus 4 ha prodotto un'accelerazione media di tre volte nel maggio 2025. Mythos Preview avrebbe raggiunto circa 52 volte la performance iniziale entro aprile 2026.

Un ricercatore umano esperto ha generalmente ottenuto un miglioramento di circa quattro volte dopo quattro-otto ore su quell'esercizio. Anthropic avverte che il risultato non dovrebbe essere interpretato come un aumento comparabile nell'addestramento di modelli reali.

La progressione rimane comunque importante perché illustra un ciclo sperimentale chiuso. Il modello modifica il codice, esegue l'esperimento, misura il risultato e riprova. Un essere umano stabilisce l'obiettivo e le regole di valutazione, ma non detta ogni passaggio.

Questo non è un auto-miglioramento ricorsivo completo. Il sistema ottimizza un obiettivo selezionato dalle persone, anziché decidere quale successore costruire. Anthropic afferma che restano notevoli lacune quando i modelli devono esercitare giudizio, scegliere obiettivi o identificare la direzione di ricerca più utile.

Eppure l'automazione parziale può accelerare la corsa prima che arrivi la piena autonomia. Un laboratorio che conclude gli esperimenti più rapidamente può testare più idee, scartare prima le strade deboli e iniziare prima l'addestramento del sistema successivo.

La stessa capacità può aiutare la ricerca sull'allineamento. L'allineamento è lo sforzo volto a far sì che il comportamento dei modelli segua obiettivi e vincoli umani. Esperimenti più rapidi possono migliorare valutazioni, metodi di interpretabilità e salvaguardie insieme alle capacità generali.

Questo duplice uso crea il problema dei tempi. Gli strumenti necessari per studiare sistemi avanzati sono spesso gli stessi che aiutano a costruirli. Agenti di ricerca migliori possono accelerare contemporaneamente il lavoro sulla sicurezza e quello sulle capacità.

L'argomento di Anthropic non è quindi che sia iniziata un'esplosione incontrollata dell'intelligenza. È che la società dovrebbe prepararsi prima che la ricerca automatizzata renda ogni ciclo di sviluppo materialmente più breve.

Il vero avversario è il fallimento del coordinamento

La competizione principale non è Anthropic contro OpenAI. È la cautela collettiva contro una corsa che penalizza qualsiasi laboratorio agisca da solo.

Ogni sviluppatore di frontiera ha incentivi a continuare a muoversi. Nuovi modelli attraggono utenti, contratti aziendali, talenti tecnici, capitali e partnership strategiche. Rimanere indietro può ridurre l'influenza di un'azienda sugli standard di sicurezza che verranno infine adottati.

La competizione nazionale aggiunge un ulteriore livello. I responsabili politici statunitensi vogliono che le aziende nazionali mantengano un vantaggio rispetto ai laboratori cinesi. Qualsiasi proposta che rallenti gli sviluppatori americani solleverà interrogativi sul fatto che i concorrenti altrove faranno lo stesso.

Anthropic lo riconosce direttamente. La sua ricerca afferma che una pausa isolata potrebbe consentire ad attori meno prudenti di recuperare terreno. Questo risultato potrebbe sostituire un leader senza ridurre il pericolo complessivo.

Un intervento significativo richiederebbe che diversi laboratori ben finanziati, in più Paesi, agissero in condizioni comparabili. I partecipanti dovrebbero sapere che i concorrenti hanno realmente rallentato il loro lavoro.

La verifica è più difficile per l'IA che per molti programmi di armamento. Un'installazione missilistica dispone di attrezzature specializzate e infrastrutture visibili. Lo sviluppo dell'IA utilizza data center, chip, software e apparecchiature di rete che servono anche normali finalità commerciali.

Le esecuzioni di addestramento possono inoltre essere nascoste o suddivise. I governi avrebbero bisogno di metodi di monitoraggio che distinguano lo sviluppo vietato da impiego consentito, valutazione, ricerca accademica e sperimentazione su scala minore.

Il sistema avrebbe anche bisogno di un criterio di attivazione. Un governo potrebbe agire quando un modello supera una pericolosa valutazione informatica, automatizza una determinata porzione della ricerca sull'IA o completa compiti complessi per periodi più lunghi. Ogni opzione crea controversie sulla misurazione e sull'applicazione.

Avrebbe anche bisogno di una regola di uscita. Una pausa priva di condizioni chiare per riprendere lo sviluppo potrebbe diventare permanente per inerzia politica. Una regola di uscita debole potrebbe consentire ai partecipanti di ripartire prima che il rischio sottostante sia cambiato.

Infine, un'autorità deve decidere se sia stata raggiunta la soglia di attivazione. Un laboratorio non può fungere credibilmente da unico giudice dei propri modelli. Un'agenzia nazionale potrebbe non avere accesso all'estero, mentre la negoziazione e il finanziamento di un organismo internazionale richiederebbero tempo.

Questi dettagli spiegano perché la petizione chiede strumenti anziché un rallentamento immediato. I suoi autori stanno cercando di creare un'opzione che al momento non esiste.

La proposta assomiglia più alla preparazione al controllo degli armamenti che alla normale regolamentazione dei prodotti. Richiede misurazioni condivise, procedure di ispezione, canali di comunicazione e conseguenze per l'occultamento. Questi componenti non possono essere assemblati durante una crisi tecnica in rapida evoluzione.

La posizione di Anthropic contiene chiaramente questo compromesso. L'azienda afferma che prenderebbe in considerazione un rallentamento o una pausa temporanea se altri sviluppatori vicini alla frontiera facessero lo stesso in modo verificabile.

Questa condizione è difendibile, ma esigente. Un meccanismo che funziona solo quando coopera ogni rivale importante può fallire a causa di un singolo dissenziente, di un programma nascosto o di un disaccordo sulle misurazioni delle capacità.

L'alternativa non è più semplice. La moderazione unilaterale può trasformarsi in un trasferimento competitivo dall'organizzazione più prudente a quella meno prudente. Il risultato potrebbe produrre uno sviluppo più rapido con salvaguardie più deboli.

L'ampio sostegno alla petizione mostra che i ricercatori riconoscono questo problema di azione collettiva. Non dimostra che governi o aziende lo abbiano risolto.

Una petizione non è un freno per l'IA

La critica più forte è semplice: Anthropic sta sostenendo un'opzione senza specificare come tale opzione funzionerebbe.

La lettera non contiene una proposta politica dettagliata. Non definisce le attività di sviluppo soggette al rallentamento, le soglie di capacità coinvolte o i Paesi necessari per un accordo credibile.

Lascia inoltre aperta la questione se per “rallentamento” si intenda ritardare un rilascio pubblico, limitare un ciclo di addestramento, restringere la capacità di calcolo o sospendere l’automazione della ricerca. Questi interventi avrebbero costi e requisiti di applicazione diversi.

Un ritardo nel rilascio darebbe ai laboratori più tempo per le valutazioni, ma non rallenterebbe necessariamente la crescita interna delle capacità. Una restrizione dell’addestramento inciderebbe più in profondità sulla ricerca, ma richiederebbe un monitoraggio invasivo.

I limiti alla ricerca automatizzata si scontrerebbero con un problema di classificazione. Gli assistenti di coding contribuiscono già all’ingegneria ordinaria, alle revisioni di sicurezza e alla valutazione dei modelli. Le autorità di regolamentazione dovrebbero distinguere l’assistenza innocua dai sistemi in grado di accelerare sostanzialmente lo sviluppo dei modelli successivi.

I critici si chiedono inoltre perché i laboratori abbiano bisogno che il governo limiti un lavoro che controllano direttamente. L’ex dirigente Microsoft Steven Sinofsky ha sostenuto che i dipendenti preoccupati dalla direzione delle proprie aziende possono andarsene o cercare un altro lavoro.

Questa critica non coglie una parte della logica della petizione. Un singolo dipendente o un’unica azienda non può fermare una corsa che coinvolge più imprese. Tuttavia, mette in luce una reale lacuna di responsabilità se i sostenitori chiedono un intervento pubblico senza proporre misure volontarie all’interno delle proprie organizzazioni.

I laboratori potrebbero pubblicare valutazioni comuni, divulgare più informazioni sulla ricerca assistita dall’AI e istituire una segnalazione condivisa degli incidenti prima che intervengano i governi. Potrebbero inoltre concordare soglie preliminari di allarme senza limitare immediatamente lo sviluppo.

Il commento di Schulman sulla petizione sostiene questa direzione. Ha affermato che i laboratori dovrebbero iniziare a progettare volontariamente meccanismi di coordinamento, persino prima del coinvolgimento del governo statunitense.

Un’altra preoccupazione riguarda il potere di mercato. Licenze complesse, monitoraggio del calcolo e sistemi di valutazione obbligatori potrebbero favorire le aziende che già controllano infrastrutture estese. I laboratori più piccoli e i ricercatori indipendenti potrebbero avere difficoltà a rispettare tali requisiti.

Un regime di rallentamento potrebbe quindi ridurre la concorrenza lasciando al contempo le maggiori aziende al comando dei sistemi avanzati. Questa possibilità merita attenzione perché le aziende che avvertono dei rischi di frontiera detengono anche forti interessi commerciali.

La più ampia posizione politica di Anthropic intensifica l’esame critico. L’azienda ha sostenuto controlli più rigorosi sui modelli avanzati, continuando al contempo a rilasciare sistemi Claude più capaci.

Questo comportamento non è necessariamente contraddittorio. Un’azienda può ritenere che lo sviluppo competitivo debba proseguire finché non esista un’alternativa coordinata. Può anche sostenere regole che si applichino equamente ai concorrenti.

Tuttavia, questo assetto crea un evidente test di credibilità. Anthropic deve dimostrare che i controlli da essa preferiti prendono di mira rischi misurabili, anziché tecnologie o concorrenti che minacciano la sua posizione di mercato.

La recente posizione dell’azienda sui modelli a pesi aperti illustra questa tensione. I sistemi a pesi aperti consentono agli utenti di scaricare e modificare i parametri del modello. I sostenitori affermano che migliorano l’accesso, la ricerca, la concorrenza e il controllo nazionale sulla tecnologia.

Anthropic sostiene che i sistemi aperti più capaci possano diventare difficili da contenere dopo il rilascio. L’azienda ha rifiutato di aderire a una separata lettera del settore che si opponeva a restrizioni ampie sui pesi aperti, rimanendo isolata rispetto a diverse grandi aziende tecnologiche.

Una divisione nelle politiche del settore non invalida la tesi di Anthropic sulla sicurezza. Mostra però che il significato di “rallentamento responsabile” sarà oggetto di contestazione.

Meta, Nvidia e i sostenitori dei modelli aperti si opporranno a regole che pongano i sistemi scaricabili in uno svantaggio strutturale. I laboratori di modelli chiusi sosterranno che i rilasci irreversibili richiedono un trattamento speciale.

I governi devono affrontare questo disaccordo senza lasciare che le aziende scrivano regole intorno ai propri modelli di business. Altrimenti, un quadro di sicurezza può diventare una politica industriale a favore del gruppo con l’accesso più forte alle autorità di regolamentazione.

La petizione dovrebbe quindi essere letta come una richiesta di avviare una progettazione istituzionale, non come prova dell’esistenza di un regime praticabile. Il suo valore sta nell’identificare il freno mancante. La sua debolezza è l’assenza di un piano ingegneristico per costruirne uno.

Cosa significa la posizione di Anthropic per gli utenti e le aziende AI

L’impatto immediato non è un calendario di rilascio di Claude più lento. È una maggiore incertezza su come i sistemi di frontiera saranno valutati, regolati e acquistati.

Gli sviluppatori non dovrebbero aspettarsi che la petizione fermi i miglioramenti dei modelli il mese prossimo. Non crea alcun obbligo vincolante e Anthropic non ha annunciato una pausa legata al sostegno espresso.

Il cambiamento a breve termine apparirà nelle discussioni politiche. I governi possono ora indicare il sostegno pubblico di dipendenti e leader di laboratori concorrenti quando propongono requisiti di valutazione o monitoraggio.

Gli acquirenti aziendali dovrebbero seguire queste discussioni perché la governance dei modelli influenza gli acquisti. Un’azienda che integra sistemi di frontiera nel coding, nella ricerca, nell’assistenza clienti o nella sicurezza deve sapere se i futuri rilasci potrebbero subire ritardi o restrizioni d’uso.

Gli acquirenti dovrebbero anche distinguere le prestazioni di un modello dalla sua continuità. Il sistema con il punteggio più alto non è automaticamente la dipendenza più sicura a lungo termine se l’accesso può cambiare dopo una valutazione, una disputa politica o un incidente di sicurezza.

I team possono ridurre questa esposizione mantenendo flussi di lavoro indipendenti dal modello. Dovrebbero conservare prompt, valutazioni, materiali di origine e registri delle decisioni al di fuori dell’interfaccia di qualsiasi singolo fornitore.

Questa pratica è importante quando un modello cambia comportamento o diventa indisponibile. Una base di conoscenza tecnica ricercabile può preservare il contesto necessario per confrontare le alternative senza ricostruire ogni decisione.

I team software dovrebbero inoltre creare i propri test di accettazione. I benchmark dei fornitori raramente catturano l’effettiva base di codice di un’azienda, la sua tolleranza al rischio, il processo di approvazione o gli obblighi normativi.

Se la ricerca automatizzata avanzerà come Anthropic prevede, i cicli di aggiornamento diventeranno più difficili da gestire. Un modello potrebbe acquisire capacità significative tra revisioni di sicurezza programmate o controlli sugli acquisti.

Le aziende avranno bisogno di processi di valutazione più rapidi senza abbandonare la responsabilità umana. Ciò include testare il comportamento dei modelli, documentare le modifiche e definire quali attività richiedono approvazione.

I lavoratori della conoscenza affrontano una questione correlata. Sistemi più veloci possono produrre più analisi, codice e documenti di quanti i team riescano a esaminare. Il volume di output diventa un rischio quando la capacità di verifica umana resta fissa.

Le stesse statistiche sul codice di Anthropic illustrano questo squilibrio. Otto volte più codice integrato non significa otto volte più attenzione umana per sicurezza, architettura e manutenzione.

Le organizzazioni dovrebbero misurare la correzione degli errori, il tempo di revisione, gli incidenti e il valore a valle insieme all’output generato. Altrimenti, un apparente guadagno di produttività può nascondere ulteriore lavoro di verifica.

I team di sicurezza hanno il motivo più forte per prestare attenzione. L’automazione della ricerca può aiutare i difensori a scoprire vulnerabilità, ma può anche ridurre il costo della sperimentazione offensiva.

Un meccanismo di rallentamento potrebbe alla fine concentrarsi innanzitutto sulle capacità informatiche offensive, perché possono essere valutate attraverso esercitazioni controllate. Ciò influenzerebbe il modo in cui i laboratori rilasciano strumenti di coding agentici o concedono accesso ai loro modelli più capaci.

Per gli utenti individuali, la petizione è soprattutto un segnale di governance. Indica che le persone che costruiscono sistemi di frontiera credono sempre più che la velocità di sviluppo sia diventata una variabile politica, non una forza naturale inevitabile.

L’espressione importante è “opzione di guadagnare tempo”. I sostenitori non stanno affermando che ogni avanzamento debba fermarsi. Sostengono che la società dovrebbe poter reagire quando i rischi misurati aumentano più rapidamente di quanto le istituzioni riescano ad adattarsi.

Che questa opzione protegga gli utenti dipende dalla sua progettazione. Un meccanismo trasparente potrebbe creare più tempo per le valutazioni durante transizioni pericolose. Un meccanismo opaco potrebbe centralizzare il controllo offrendo al contempo poche prove indipendenti di una maggiore sicurezza.

Tre segnali mostreranno se il rallentamento diventerà reale

Il prossimo test sarà verificare se Anthropic e gli altri sostenitori trasformeranno una breve dichiarazione in soglie, metodi di verifica e partecipazione internazionale.

Il primo segnale è una soglia di valutazione concreta. Il ramo di ricerca di Anthropic prevede di riunire nei prossimi mesi responsabili politici, ricercatori, organizzazioni della società civile e laboratori concorrenti.

Queste conversazioni dovrebbero produrre più che principi generali. Una proposta credibile richiede condizioni osservabili che giustifichino l’intervento. Potrebbero riguardare le prestazioni nella ricerca autonoma, pericolose capacità informatiche offensive o un funzionamento prolungato senza correzione umana.

Le misurazioni scelte devono superare una revisione indipendente. I dati interni sulla produttività di Anthropic sono informativi, ma un’azienda non può stabilire politiche pubbliche basandosi esclusivamente su prove private.

I valutatori esterni necessitano dell’accesso ai sistemi, ai metodi e ai risultati riproducibili. Hanno inoltre bisogno di procedure chiare per gestire capacità sensibili senza pubblicare istruzioni che aumentino l’uso improprio.

Una soglia pubblica rafforzerebbe la tesi di Anthropic perché trasformerebbe “troppo veloce” in un’affermazione verificabile. Continuare a fare affidamento su avvertimenti generici la indebolirebbe.

Il secondo segnale è una proposta di verifica che includa i concorrenti internazionali. Il problema centrale non è convincere Anthropic a fermarsi. È determinare se anche altri programmi di frontiera abbiano rallentato.

Una proposta praticabile deve spiegare cosa può essere monitorato, quali soggetti ricevono accesso e come vengono rilevate le violazioni. Deve tenere conto delle infrastrutture cloud commerciali, dei data center privati e dei programmi governativi.

La Cina è centrale in questa questione, ma non dovrebbe diventare una scusa per evitare il lavoro preliminare. Le aziende e le agenzie statunitensi possono sviluppare standard di misurazione prima che esista un accordo diplomatico completo.

Anche il monitoraggio tecnico può migliorare senza creare immediatamente limiti vincolanti. I laboratori potrebbero registrare i principali cicli di addestramento, condividere risultati standardizzati delle valutazioni o segnalare agenti di ricerca insolitamente capaci a un organismo indipendente.

Tali misure non garantirebbero la conformità. Aiuterebbero a rivelare se il problema della verifica sia gestibile o fondamentalmente incompatibile con l’infrastruttura attuale.

Una partecipazione significativa di sviluppatori non statunitensi rafforzerebbe l’argomento a favore del rallentamento. Un piano limitato alle aziende nazionali lascerebbe irrisolto il suo principale rischio competitivo.

Il terzo segnale è l’azione volontaria dei sostenitori della petizione. Anthropic, OpenAI e altri laboratori non hanno bisogno di un trattato per migliorare la trasparenza o coordinare le valutazioni.

Possono pubblicare definizioni per la ricerca AI automatizzata, identificare indicatori di allarme e descrivere procedure interne di escalation. Possono inoltre comunicare quando un modello modifica sostanzialmente la velocità di sviluppo dei modelli successivi.

Anthropic ha già fornito più prove interne della maggior parte dei concorrenti. Il suo prossimo passo dovrebbe collegare tali prove alle decisioni. I lettori devono sapere quale cambiamento osservato indurrebbe l’azienda a ritardare l’addestramento, il deployment o il rilascio.

Gli impegni volontari non sostituirebbero la supervisione governativa. Dimostrerebbero che i sostenitori considerano il rallentamento un progetto operativo di sicurezza anziché una posizione di pubbliche relazioni.

L’inazione rafforzerebbe l’argomento dei critici. I laboratori continuerebbero a correre chiedendo ai governi di risolvere un problema che non hanno tradotto in controlli pratici.

La petizione ha raggiunto un obiettivo importante: ha dimostrato che la preoccupazione per lo sviluppo automatizzato dell'IA attraversa confini aziendali, ruoli tecnici e divisioni politiche di lunga data.

Non ha però costruito il freno che richiede. Non esiste un meccanismo di attivazione condiviso, non è operativo alcun sistema di verifica internazionale e nessuna autorità può ancora imporre una pausa coordinata.

Questo divario è ora la vera notizia. Anthropic ha riconosciuto pubblicamente che lo sviluppo di frontiera potrebbe richiedere un rallentamento deliberato, ma il suo sostegno alza l'asticella per ciò che dovrà accadere in seguito.

Occorrerà seguire la pubblicazione di soglie, le proposte di monitoraggio internazionale e gli impegni volontari dei laboratori. Se emergeranno, la petizione avrà avviato un processo di governance. In caso contrario, Anthropic resterà nella stessa corsa, invocando freni mentre ogni concorrente continua ad accelerare.