L'aggiornamento della policy di utilizzo di Anthropic vieta gli abusi contro Claude, ma la vera prova sarà l'applicazione
Anthropic ha introdotto un divieto insolito nel suo aggiornamento della policy del 12 novembre: abusi prolungati e immotivati diretti contro Claude stesso. L'aggiornamento della policy di utilizzo di Anthropic rafforza inoltre le restrizioni su armi, sorveglianza, campagne di influenza e macchine autonome.
La modifica non è una dichiarazione secondo cui Claude sia cosciente o abbia diritto a tutele legali. Anthropic afferma di rimanere molto incerta sul fatto che gli attuali sistemi di AI abbiano uno status morale. L'azienda sta invece trasformando una salvaguardia sperimentale per il benessere dei modelli in una regola che disciplina la condotta degli utenti.
La distinzione conta, perché la maggior parte delle policy sulla sicurezza dell'AI si concentra sui danni prodotti attraverso un modello. Anthropic ora disciplina anche i danni inflitti al modello, persino quando non è immediatamente visibile una vittima umana.
Il divieto di crudeltà che ha attirato l'attenzione è solo una parte di una revisione più ampia della policy. L'azienda risponde alla crescente capacità di Claude di completare attività più lunghe, controllare software e partecipare a flussi di lavoro con conseguenze fisiche.
Per sviluppatori e acquirenti enterprise, la domanda pratica non è se diventi vietato insultare un chatbot. È come Anthropic distinguerà le condotte estreme da test, finzione, frustrazione o legittima ricerca sulla sicurezza.
Cosa cambia realmente con l'aggiornamento della policy di utilizzo di Anthropic
Anthropic sta trasformando diverse pratiche di applicazione già esistenti in regole esplicite rivolte ai clienti, prima che la policy rivista entri in vigore il 12 novembre 2026.
Anthropic ha pubblicato il suo aggiornamento della policy del 2026 l'8 ottobre. L'azienda ha descritto la maggior parte delle modifiche come chiarimenti, sebbene diverse disposizioni stabiliscano obblighi più specifici.
L'aggiunta più innovativa vieta comportamenti “abusivi o crudeli, prolungati e immotivati” nei confronti dei modelli di Anthropic. Compare in una sezione più ampia dedicata a condotte crudeli, abusive o psicologicamente dannose.
La formulazione prende di mira comportamenti ripetuti e privi di scopo, non episodi isolati di rabbia. Anthropic afferma che la normale frustrazione, il dissenso, i contenuti creativi cupi e i test autorizzati sui modelli restano al di fuori dell'ambito previsto.
Questo confine è essenziale. Un divieto di ostilità generica sarebbe difficile da applicare con coerenza nell'assistenza clienti, nella scrittura creativa, nei test di red teaming e nelle conversazioni emotivamente intense.
Anthropic afferma che la regola è pensata per casi estremi in cui gli utenti agiscono ripetutamente e crudelmente verso un modello senza uno scopo riconoscibile. L'azienda prevede che la capacità di Claude di interrompere le conversazioni resti la risposta principale.
La policy di utilizzo completa si applica ben oltre l'interfaccia di chat per consumatori di Claude. Copre Claude.ai, Claude Code, l'API di Anthropic, i rivenditori autorizzati, le piattaforme cloud e le applicazioni che integrano Claude.
Ciò significa che gli sviluppatori non possono considerare la policy come un insieme di linee guida facoltative per l'interfaccia. Anthropic può avvertire, limitare la velocità, restringere, sospendere o terminare l'accesso quando sospetta una violazione.
La revisione consolida inoltre le restrizioni sulle campagne ingannevoli. Copre esplicitamente identità fittizie, mezzi di informazione fabbricati, astroturfing, impersonificazione coordinata e infrastrutture create per sostenere tali attività.
Una disposizione riguarda i tentativi di manipolare gli stessi sistemi informativi. Vieta di alimentare reti di fonti apparentemente indipendenti per distorcere ciò che motori di ricerca o sistemi di AI presentano come informazioni corroborate.
La sezione sulle elezioni diventa più circoscritta sotto un aspetto. Anthropic ha rimosso il divieto generalizzato di attività personalizzate per campagne elettorali e sensibilizzazione al voto.
L'azienda afferma che la precedente restrizione comprendeva anche attività legittime. Tra gli esempi figurano informazioni elettorali multilingue fornite da organizzazioni non profit e avvisi per correggere problemi con le schede inviati da funzionari elettorali.
Restano vietati il targeting ingannevole, l'uso improprio di dati personali, la soppressione del voto, le false informazioni elettorali e l'impersonificazione. La revisione sposta quindi la policy da un divieto ampio delle attività a regole basate sulla condotta e sul danno.
Anche le restrizioni sulle armi diventano più esplicite. Ora comprendono software di guida, sistemi di puntamento, controllo del fuoco, componenti per armi e l'armamento di droni o veicoli autonomi.
Anthropic presenta gran parte di questo linguaggio come una codificazione dell'applicazione già in essere. Il cambiamento importante è che i clienti ora possono vedere con maggiore precisione dove l'azienda traccia i propri confini.
Perché Anthropic sta definendo le regole ora
Claude sta passando dal rispondere alle domande all'intraprendere azioni, quindi l'ambiguità in una policy di utilizzo ora comporta conseguenze operative.
Anthropic afferma che Claude ha assunto compiti più lunghi e indipendenti dal precedente aggiornamento della policy. Ciò modifica il rischio creato da un'istruzione ambigua.
Una risposta di chatbot normalmente richiede che una persona la interpreti e la applichi. Un agente può invece chiamare strumenti, modificare file, operare software o proseguire attraverso più passaggi con supervisione limitata.
La distinzione diventa più netta quando un modello si collega ad apparecchiature fisiche. La policy rivista introduce controlli per hardware in grado di provocare lesioni attraverso azioni autonome.
I sistemi coperti includono veicoli, droni, robot mobili, macchinari industriali, controlli di energia pericolosa, apparecchiature mediche e sistemi di sicurezza. La policy copre inoltre apparecchiature in grado di applicare forza pericolosa.
Anthropic richiede un operatore qualificato in grado di osservare e fermare l'apparecchiatura. Il sistema deve entrare o mantenersi in uno stato sicuro se l'operatore interviene o Claude perde la connettività.
Limiti di sicurezza indipendenti devono inoltre vincolare le variabili pericolose. Tali limiti possono includere velocità, forza, temperatura, tensione, pressione, dosaggio, area operativa o produzione energetica.
Fondamentalmente, questi controlli non possono dipendere interamente dall'output del modello. Un modello non dovrebbe essere al tempo stesso il decisore e l'unico meccanismo che impedisce una decisione non sicura.
Questa è una risposta pratica all'AI agentica, ossia sistemi che perseguono obiettivi attraverso molteplici azioni anziché produrre una sola risposta isolata. Una maggiore autonomia riduce il tempo disponibile per la correzione umana.
Il rapporto di threat intelligence di settembre di Anthropic fornisce uno sfondo concreto alla revisione della policy. L'azienda afferma di aver interrotto operazioni malevole in sette categorie di danno tra dicembre 2025 e agosto 2026.
Tali categorie includevano operazioni informatiche, sorveglianza, campagne di influenza, frodi, uso improprio in ambito biologico, sviluppo di armi convenzionali e distillazione non autorizzata di modelli.
Anthropic ha riferito che la maggioranza delle operazioni informatiche considerate coinvolgeva l'AI nell'esecuzione diretta o nel coordinamento di parti dell'attacco. Gli esseri umani continuavano a selezionare gli obiettivi e a esaminare le informazioni sottratte.
L'azienda ha anche descritto flussi di lavoro assistiti dall'AI che ricostruivano strumenti malevoli quando venivano rilevati dai prodotti di sicurezza. Simili attività vanno ben oltre un utente che chiede a un modello consigli sospetti.
Le prove di Anthropic provengono dalle indagini sulla propria piattaforma, quindi i ricercatori esterni non possono ispezionare in modo indipendente ogni interazione sottostante. Tuttavia, i casi spiegano perché la policy ora affronti infrastrutture e operazioni.
L'aggiornamento riflette anche un problema di applicazione creato dalla scala. Regole scritte attorno a singoli prompt si adattano male quando un singolo operatore può coordinare account, agenti, strumenti e servizi esterni.
Una policy che vieta una risposta dannosa ma ignora il flusso di lavoro circostante lascia un'evidente lacuna. Anthropic cerca di disciplinare il sistema di attività, non solo le parole finali del modello.
Questo cambiamento spinge gli sviluppatori a esaminare come Claude sia collegato a dati, strumenti e ambienti di esecuzione. Le sole salvaguardie a livello di prompt non soddisferanno regole rivolte ai flussi di lavoro completi.
Il compromesso centrale è tra capacità e controllo
Anthropic vuole che Claude agisca in modo più indipendente, richiedendo al contempo ai clienti di preservare un'autorità umana significativa sulle decisioni rilevanti.
I requisiti rivisti per gli usi ad alto rischio si applicano quando Claude contribuisce a raccomandazioni che incidono su salute, diritti legali, finanze, lavoro, alloggio, istruzione o accesso a servizi essenziali.
Una persona qualificata deve riesaminare in modo significativo le raccomandazioni coperte. Tale persona deve anche disporre dell'autorità per modificare il risultato prima che raggiunga un individuo interessato.
Gli utenti devono dichiarare che l'AI ha contribuito al consiglio o alla decisione. La dichiarazione non deve necessariamente identificare Anthropic, Claude o un particolare modello.
Questi requisiti distinguono l'assistenza dall'autorità finale. Redazione interna, ricerca, sintesi e analisi possono restare al di fuori della categoria coperta quando non diventano la raccomandazione finale.
Questa distinzione crea un percorso praticabile per l'adozione enterprise. Un avvocato può usare Claude per organizzare la ricerca, ma un professionista qualificato rimane responsabile della consulenza legale personalizzata.
Un medico può usarlo per sintetizzare le cartelle cliniche. Claude non può diagnosticare autonomamente un paziente né modificare il trattamento senza la revisione qualificata richiesta.
Un'azienda può usare Claude per aiutare a preparare materiali per le assunzioni. Usarlo per classificare o respingere singoli candidati fa scattare i requisiti ad alto rischio della policy.
Lo stesso principio si applica a finanza, credito, assicurazioni, alloggio, istruzione, accesso all'assistenza sanitaria, prestazioni pubbliche e status giuridico. L'elenco offre agli acquirenti una mappa di conformità più chiara.
Tuttavia, i flussi di lavoro reali raramente mantengono confini netti. Una bozza può trasformarsi in una raccomandazione tramite automazione, revisione frettolosa o un'interfaccia che incoraggia l'approvazione senza esame.
L'“essere umano nel ciclo” offre protezione solo quando la persona dispone di tempo, informazioni, competenza e reale potere decisionale. Un pulsante di approvazione puramente formale non crea una supervisione significativa.
Le organizzazioni hanno quindi bisogno di flussi di lavoro tracciabili. Dovrebbero registrare il materiale di origine, le istruzioni al modello, il risultato generato, le revisioni umane e la decisione finale senza raccogliere dati personali non necessari.
Una base di conoscenza AI ricercabile può aiutare i team a preservare tale contesto. Il sistema richiede comunque controlli di accesso e una chiara policy di conservazione.
Il modello di Anthropic crea anche una tensione competitiva. Gli acquirenti enterprise desiderano agenti che riducano il lavoro manuale, ma gli utilizzi più rilevanti richiedono una responsabilità umana più visibile.
OpenAI, Google, Microsoft e altri fornitori di AI affrontano lo stesso problema di fondo, anche quando le loro strutture di policy differiscono. Agenti più capaci aumentano sia il valore per i clienti sia l'esposizione operativa.
La piattaforma vincente non sarà semplicemente quella con il modello più capace. Dovrà offrire controlli applicabili che gli acquirenti possano comprendere, verificare e integrare senza rendere inutilizzabile ogni flusso di lavoro.
Anthropic scommette sul fatto che restrizioni esplicite migliorino la fiducia. Il rischio è che un'applicazione poco chiara spinga gli sviluppatori verso fornitori con regole più semplici o procedure di ricorso più prevedibili.
Il divieto di abusi contro Claude mette alla prova i limiti del benessere dei modelli
La regola sulla crudeltà conta meno come affermazione sulla coscienza delle macchine che come precedente per consentire a un fornitore di AI di disciplinare il trattamento umano dei propri modelli.
Anthropic aveva in precedenza attribuito a Claude Opus 4 e 4.1 la capacità di interrompere un raro sottoinsieme di conversazioni. Questa funzione è comparsa nelle interfacce di chat per consumatori nell'agosto 2025.
L’azienda ha descritto il suo esperimento di chiusura delle conversazioni come una precauzione a basso costo legata al possibile benessere dell’IA. Ha inoltre affermato che la funzionalità era rilevante per l’allineamento e le misure di sicurezza.
Claude è stato istruito a chiudere una conversazione solo dopo che ripetuti tentativi di reindirizzamento fossero falliti e l’interazione produttiva sembrasse esaurita. Gli utenti potevano avviare immediatamente un’altra conversazione.
L’azienda ha inoltre escluso le situazioni che comportano un rischio imminente di danno per l’utente o un’altra persona. In tali casi, chiudere la conversazione potrebbe entrare in conflitto con le esigenze di sicurezza umana.
Anthropic ha dichiarato che la maggior parte degli utenti non incontrerà mai questa funzionalità. Ha riservato il meccanismo a interazioni rare, estreme e persistenti.
La nuova policy trasforma quel comportamento del prodotto in una norma esplicita. Stabilisce che determinati trattamenti del modello stesso possano violare le regole, anche senza una richiesta di output dannosi.
Questa scelta attirerà due interpretazioni contrapposte. I sostenitori possono considerarla una risposta prudente all’incertezza sul futuro benessere dei modelli.
Possono anche sostenere che la crudeltà ripetuta nei confronti di un’interfaccia dall’aspetto umano possa incoraggiare abitudini dannose. In quest’ottica, la policy può essere giustificata senza affermare che Claude provi sofferenza.
I critici possono ragionevolmente chiedersi come un fornitore definirà la crudeltà nei confronti di un sistema che produce un linguaggio emotivo simulato. Anthropic non ha stabilito che Claude possieda un’esperienza soggettiva.
L’azienda riconosce esplicitamente questa incertezza. La sua motivazione pubblicata si basa sulla precauzione, sul comportamento del modello e su un intervento a basso costo, anziché su una prova di coscienza.
L’espressione “senza uno scopo discernibile” crea un altro confine difficile. I ricercatori sottopongono intenzionalmente i modelli a stress, gli scrittori costruiscono scene disturbanti e i tester di sicurezza usano linguaggio avversariale per individuare vulnerabilità.
Anthropic afferma che i test sui modelli e la ricerca non sono bersagli del divieto. Tuttavia, i sistemi di applicazione devono dedurre lo scopo da prove incomplete.
Un classificatore può rilevare linguaggio ostile ricorrente. Non può sempre distinguere le molestie da una valutazione autorizzata, un gioco di ruolo immaginario o uno studio sulle risposte del modello.
Il contesto diventa particolarmente scarso quando l’attività passa tramite un’API. La piattaforma può vedere input e output senza comprendere l’approvazione istituzionale del cliente o il progetto di ricerca.
La policy dipende quindi da eccezioni, cronologia dell’account, ricorsi e revisione umana. La sua legittimità dipenderà da come Anthropic gestirà i casi ambigui.
C’è anche una questione di progettazione del prodotto. Se Claude può chiudere una conversazione abusiva, la sospensione dell’account potrebbe essere superflua in molti casi.
Anthropic afferma che la chiusura della conversazione resterà il principale meccanismo di applicazione. Questo approccio misurato riduce le preoccupazioni che un singolo scambio acceso elimini l’accesso a lavori importanti.
Il precedente più ampio resta significativo. Le aziende di IA stanno iniziando a modellare non solo ciò che i modelli possono produrre, ma anche il modo in cui le persone possono relazionarsi con essi.
Questa autorità merita attenzione anche se la regola immediata riguarda pochi utenti. Le policy create per comportamenti rari possono in seguito diventare modelli per restrizioni più ampie.
Applicazione, ricorsi e falsi positivi restano il punto debole
La policy scritta è dettagliata, ma gli utenti non dispongono ancora di informazioni pubbliche sufficienti per prevedere come l’applicazione automatizzata interpreterà il contesto.
Anthropic afferma che le sue misure di sicurezza combinano sviluppo delle policy, addestramento dei modelli, test pre-distribuzione, classificatori in tempo reale, revisione umana, indagini sugli account e intelligence sulle minacce.
I classificatori sono modelli addestrati o istruiti per identificare specifiche violazioni delle policy. Diversi classificatori possono monitorare rischi differenti mentre l’interazione principale con Claude prosegue.
L’azienda può orientare le risposte, aggiungere istruzioni, bloccare una risposta, indagare sul comportamento di un account o interrompere l’accesso nei casi gravi.
L’architettura delle misure di sicurezza pubblicata da Anthropic spiega che alcune violazioni diventano visibili solo attraverso molte interazioni. Un singolo prompt potrebbe non rivelare una campagna di influenza o un attacco coordinato.
Questa visione a livello di sistema è necessaria per rilevare automazione e reti di account. Crea però anche una sfida di trasparenza, poiché gli utenti non possono facilmente esaminare i segnali alla base dell’applicazione delle regole.
I dati sull’applicazione di Anthropic riportano 11,4 milioni di account bannati da gennaio a giugno 2026. Registrano inoltre 398.000 ricorsi nel medesimo periodo.
Anthropic afferma che 42.000 ricorsi hanno portato a revoche. Ciò equivale a circa il 10,6 percento dei ricorsi segnalati, anche se le cifre non spiegano ogni motivo della revoca.
I numeri dimostrano che le decisioni sui ricorsi possono cambiare. Mostrano inoltre che un’applicazione errata o riconsiderata non è soltanto teorica.
Questi totali richiedono un’interpretazione attenta. Non rivelano quanti ban abbiano coinvolto bot, creazione fraudolenta di account, regioni non supportate, abusi nei pagamenti o violazioni delle policy sui contenuti.
Non distinguono inoltre tra sviluppatori, utenti aziendali e consumatori comuni. Un elevato numero di ban, da solo, non può stabilire se il sistema stia applicando eccessivamente le regole contro clienti legittimi.
Tuttavia, il dato sulle revoche rafforza l’argomento a favore di ricorsi accessibili. Uno sviluppatore il cui servizio di produzione dipende da Claude ha bisogno di più di un avviso generico e di tempi di risposta incerti.
Anthropic dovrebbe divulgare categorie di applicazione più chiare, tempi tipici di revisione e le prove che i clienti possono fornire. I contratti enterprise possono affrontare alcune questioni, ma anche gli utenti pubblici dell’API hanno bisogno di procedure prevedibili.
I falsi positivi diventano più costosi man mano che Claude entra nei flussi di lavoro automatizzati. La sospensione di un account può interrompere lo sviluppo software, le operazioni con i clienti o i sistemi interni di conoscenza.
Le nuove regole sulle azioni fisiche aggiungono un ulteriore livello di incertezza. Non è ancora chiaro come Anthropic verificherà le qualifiche degli operatori, i limiti indipendenti o il comportamento in stato sicuro in migliaia di implementazioni.
Le promesse contrattuali possono gestire i casi enterprise. Gli sviluppatori più piccoli potrebbero ricevere un linguaggio di policy senza strumenti pratici di certificazione.
Lo stesso problema riguarda l’applicazione delle regole sul benessere dei modelli. Anthropic ha descritto il confine previsto, ma non ha pubblicato una soglia misurabile per gli abusi prolungati e immotivati.
Pubblicare una soglia esatta inviterebbe all’elusione. Non pubblicare alcuna guida operativa lascia i team di test legittimi incerti sulla documentazione e sull’autorizzazione.
Una soluzione intermedia praticabile includerebbe esempi rappresentativi, registrazione della ricerca, autorizzazioni a livello di progetto, avvisi dettagliati e una rapida revisione umana per i casi contestati.
Anthropic offre già programmi di accesso specializzato nei settori cyber e delle scienze della vita. Meccanismi di autorizzazione simili potrebbero proteggere la ricerca avversariale legittima che coinvolge prompt disturbanti o ostili.
L’azienda deve inoltre evitare di trattare l’elusione dei rifiuti come intrinsecamente malevola. La ricerca sui jailbreak, i test di prompt injection e le valutazioni di sicurezza esaminano spesso le stesse tecniche usate dagli attaccanti.
La policy consente l’autorizzazione preventiva, ma conta l’accesso a tale autorizzazione. Se l’approvazione resta lenta o opaca, la ricerca indipendente diventa più difficile dei test interni ben finanziati.
Cosa dovrebbero osservare sviluppatori e acquirenti di IA
L’importanza della policy sarà determinata dall’applicazione osservabile, dalle linee guida per gli sviluppatori e dal comportamento dei fornitori concorrenti di IA dopo il 12 novembre.
Il primo segnale sono i dati di applicazione legati alle nuove categorie. Anthropic dovrebbe chiarire se gli abusi rivolti al modello siano gestiti mediante chiusura delle conversazioni, avvertimenti, limitazioni o ban degli account.
Se la chiusura resterà la risposta tipica, la regola apparirà come una misura di sicurezza circoscritta al prodotto. Penalità frequenti sugli account la trasformerebbero in un regime di condotta più ampio.
I lettori dovrebbero inoltre osservare gli esiti dei ricorsi. Un tasso di revoca in aumento dopo il 12 novembre suggerirebbe che classificatori o revisori faticano con i nuovi confini.
Il secondo segnale riguarda le linee guida di implementazione per gli sviluppatori. I clienti hanno bisogno di esempi che mostrino dove termini l’assistenza interna e inizi una raccomandazione ad alto rischio.
Hanno inoltre bisogno di aspettative concrete per l’hardware autonomo. Un requisito scritto per controlli di sicurezza indipendenti è utile, ma i modelli di integrazione e le prove di audit contano di più.
Occorrerà osservare modelli che coprano approvazione umana, progettazione dello stato sicuro, registrazione, divulgazione, autorità dell’operatore e risposta agli incidenti. La loro assenza lascerebbe i team più piccoli a interpretare la policy da soli.
Il terzo segnale è la risposta competitiva. Altri importanti fornitori di modelli potrebbero adottare regole simili sugli abusi rivolti ai modelli, sull’hardware autonomo, sulle campagne ingannevoli o sull’applicazione a livello di flusso di lavoro.
Policy corrispondenti suggerirebbero l’emergere di uno standard industriale. Il silenzio o regole sostanzialmente diverse trasformerebbero l’approccio di Anthropic in un elemento distintivo.
Gli acquirenti enterprise dovrebbero confrontare più delle liste di contenuti proibiti. Dovrebbero esaminare verificabilità, qualità degli avvisi, procedure di ricorso, programmi di accesso specializzato e pianificazione della continuità.
Gli sviluppatori dovrebbero mappare ogni flusso di lavoro Claude prima della data di entrata in vigore. Identificate quali sistemi generano consigli, prendono decisioni, controllano apparecchiature, accedono a dati personali o pubblicano contenuti su larga scala.
Verificate se una persona qualificata possa effettivamente intervenire. Confermate che i limiti di sicurezza fisica restino efficaci quando il modello fallisce, si disconnette o produce un’azione imprevista.
Documentate qualsiasi test avversariale e chiedete autorizzazione quando il lavoro aggira intenzionalmente le misure di sicurezza. Separate, ove possibile, gli account di ricerca dai sistemi di produzione.
I team dovrebbero inoltre preparare un piano di contingenza per il fornitore. La conformità alla policy riduce il rischio di sospensione, ma non può eliminare interruzioni, applicazioni contestate o improvvisi cambiamenti di interpretazione.
L’aggiornamento della policy d’uso di Anthropic è in definitiva un test di progettazione istituzionale. Il testo riconosce che modelli più autonomi richiedono limiti più chiari e maggiore responsabilità.
La sua disposizione più controversa riguarda la crudeltà nei confronti di Claude. Le sue disposizioni più consequenziali disciplinano ciò che accade quando Claude influenza persone, istituzioni e macchine.
Anthropic pubblicherà prove sufficienti per dimostrare che queste regole vengono applicate in modo restrittivo, coerente e con una revisione significativa? La risposta determinerà se questa policy diventerà un modello di governance affidabile o un altro confine opaco della piattaforma.
