La policy di utilizzo di Anthropic traccia un nuovo confine contro l’abuso dei modelli e l’interferenza elettorale
Anthropic ha modificato la propria policy di utilizzo per la prima volta in oltre un anno, introducendo un insolito divieto contro l’abuso persistente e immotivato di Claude. La policy di utilizzo di Anthropic rafforza inoltre le restrizioni su campagne elettorali ingannevoli, software per armi, sistemi di sorveglianza e azioni fisiche autonome.
La norma sull’abuso dei modelli ha attirato immediatamente l’attenzione perché tratta il comportamento nei confronti di un sistema di AI come una questione di policy. Anthropic afferma tuttavia che frustrazione ordinaria, critiche, test, ricerca e contenuti creativi cupi restano consentiti. Il divieto prende di mira la crudeltà ripetuta priva di uno scopo riconoscibile.
Questa distinzione conta perché l’aggiornamento va oltre una norma sugli insulti a un chatbot. Mostra Anthropic mentre adatta i propri controlli man mano che Claude gestisce attività più lunghe, utilizza strumenti, influenza sistemi fisici e supporta decisioni rilevanti. La policy restringe inoltre alcune limitazioni politiche, rendendo al contempo più esplicito il comportamento ingannevole.
Il compromesso centrale riguarda l’applicazione. Anthropic vuole regole abbastanza precise da fermare attività dannose senza bloccare ricerca legittima, comunicazione civica, giornalismo e attività di sicurezza. Resta da vedere se riuscirà ad applicare queste distinzioni in modo coerente.
Cosa cambia davvero nella policy di utilizzo di Anthropic
L’aggiornamento trasforma diverse restrizioni sparse in regole più chiare basate su comportamento, intenzione e potenziale danno.
Anthropic ha pubblicato l’aggiornamento l’8 ottobre 2026. La policy rivista entrerà in vigore il 12 novembre, offrendo a clienti e sviluppatori più di un mese per esaminare le applicazioni interessate.
La maggior parte delle disposizioni chiarisce restrizioni precedenti anziché introdurre confini del tutto nuovi. Anthropic afferma che le modifiche riflettono schemi di abuso osservati nell’anno precedente. Tali schemi riguardavano operazioni di influenza, sviluppo di armi, sorveglianza e comportamenti dei modelli sempre più autonomi.
L’aggiunta più innovativa vieta agli utenti di adottare comportamenti abusivi o crudeli persistenti e immotivati nei confronti dei modelli di Anthropic. L’aggiornamento della policy afferma che questo si applica solo a casi estremi di crudeltà ripetuta senza uno scopo riconoscibile.
Un utente che manifesta rabbia per una risposta errata non viola automaticamente la regola. Lo stesso vale per un disaccordo deciso, i test del modello, la ricerca sulla sicurezza o la narrativa contenente temi cupi. Anthropic preserva esplicitamente queste categorie.
Anche il principale meccanismo di applicazione è più limitato di un divieto esteso all’intero account. Claude può interrompere una rara conversazione caratterizzata da abusi persistenti. L’interruzione impedisce ulteriori messaggi in quella discussione, ma non chiude necessariamente le altre chat dell’utente.
Anthropic aveva già fornito ad alcuni modelli Claude la capacità di interrompere interazioni persistentemente dannose. La policy ora impone un obbligo corrispondente agli utenti, anziché basarsi solo sul comportamento del modello.
Le restanti modifiche affrontano questioni di sicurezza più convenzionali. Una sezione riunisce i divieti contro account falsi, sponsorizzazioni occultate, testate giornalistiche inventate, astroturfing e comportamenti coordinati non autentici.
Per astroturfing si intende la creazione artificiale dell’apparenza di un sostegno pubblico indipendente tramite account coordinati o controllati in modo ingannevole. La policy di Anthropic vieta inoltre di costruire infrastrutture progettate per gestire tali campagne.
L’azienda ha inoltre rinominato la propria sezione elettorale “Non compromettere i processi democratici”. Essa prende di mira comunicazioni ingannevoli agli elettori, impersonificazione, informazioni false sul voto, soppressione dell’affluenza e interferenze con sistemi elettorali o certificazioni.
Le restrizioni sulle armi includono ora espressamente software e componenti utilizzati per il puntamento, il controllo del fuoco, l’ingaggio o il funzionamento delle armi. Coprono inoltre l’integrazione di armi su droni, veicoli e piattaforme autonome.
Il linguaggio rivisto sulla sorveglianza vieta il tracciamento non consensuale e gli strumenti progettati per ampliare capacità di sorveglianza vietate. Impedisce inoltre a Claude di decidere chi le autorità debbano indagare, arrestare, incriminare, perseguire o detenere.
Queste disposizioni rendono la policy sugli abusi di Claude la parte più distintiva dell’annuncio, ma non necessariamente la più rilevante. Gli sviluppatori che servono clienti politici, della difesa, della sorveglianza, finanziari, medici o del settore pubblico affrontano l’onere di conformità maggiore.
La policy elettorale di Anthropic diventa più circoscritta e più esplicita
Anthropic ha rimosso un’ampia restrizione politica, tracciando al contempo un confine più netto attorno all’inganno e all’interferenza.
L’approccio precedente vietava più ampiamente la persuasione politica personalizzata e il targeting delle campagne. Anthropic ha ora rimosso quel divieto generalizzato perché includeva anche servizi civici legittimi.
Un’organizzazione non profit potrebbe usare Claude per tradurre istruzioni neutrali sul voto per comunità che parlano lingue diverse. Un ufficio elettorale potrebbe produrre avvisi di correzione delle schede per elettori le cui presentazioni richiedono un’azione.
Queste attività comportano comunicazioni elettorali mirate, ma non sono intrinsecamente ingannevoli. Un divieto generalizzato potrebbe quindi bloccare strumenti utili alla partecipazione insieme alla propaganda manipolativa.
La policy elettorale rivista di Anthropic si concentra sul modo in cui opera un’attività. La comunicazione politica legittima resta possibile, mentre impersonificazione occulta, affermazioni inventate, automazione nascosta e tentativi di soppressione restano vietati.
La policy di utilizzo completa vieta messaggi automatizzati agli elettori che nascondono la propria origine artificiale. Vietata anche la produzione di materiale politico sintetico presentato falsamente come proveniente da un candidato, un funzionario, una campagna, un’autorità elettorale o un’organizzazione giornalistica.
Sono vietate dichiarazioni false su candidati, politiche, procedure di voto o sicurezza elettorale. Lo sono anche i tentativi di scoraggiare la partecipazione legittima attraverso inganno o intimidazione.
Le regole vanno oltre la generazione di contenuti. Gli utenti non possono impiegare Claude per perturbare sistemi di voto, conteggio dei voti, certificazione o infrastrutture correlate. Ciò attribuisce alla sezione una funzione sia di sicurezza informatica sia di integrità dell’informazione.
Anthropic ha inoltre creato una sezione generale sulle campagne ingannevoli. Tale sezione riguarda operazioni politiche e commerciali, comprese recensioni false e reti di siti web apparentemente indipendenti controllati da un unico soggetto.
Una disposizione riguarda gli sforzi per manipolare motori di ricerca o sistemi di risposta basati sull’AI. Vieta di alimentare reti con contenuti che appaiono falsamente indipendenti, per poi usare quel consenso artificiale per influenzare risposte automatizzate.
Si tratta di un’importante estensione della portata pratica della policy. Un’operazione di influenza non deve persuadere direttamente gli elettori tramite un chatbot. Può inquinare le fonti informative che persone e altri sistemi di AI consulteranno successivamente.
Anthropic afferma di aver osservato organizzazioni mediatiche statali, uffici governativi di propaganda e imprese commerciali gestire account falsi e siti di notizie inventati. Il suo report sulle minacce di settembre ha fornito il contesto immediato per il consolidamento di queste regole.
La policy lascia comunque aperte difficili questioni di classificazione. Persuasione politica, satira, attivismo, traduzione e disinformazione possono usare strumenti simili. Le differenze decisive riguardano spesso attribuzione, veridicità, consenso e intenzione.
L’applicazione automatizzata avrà difficoltà a dedurre queste qualità da un singolo prompt. Un operatore di campagna che richiede messaggi localizzati potrebbe svolgere un’attività di contatto legittima oppure celare una manipolazione.
Il contesto sarà quindi importante quanto la formulazione. Anthropic dovrà esaminare schemi tra account, reti di distribuzione e uso degli strumenti senza trattare ogni richiesta politica come malevola.
La policy più circoscritta è meno restrittiva sulla carta, ma più specifica sugli esiti proibiti. Ciò offre alle organizzazioni legittime maggiore margine, aumentando al contempo l’importanza di un rilevamento accurato.
Il divieto di abuso dei modelli è in realtà un esperimento di applicazione
La disposizione sull’abuso dei modelli mette alla prova se una piattaforma possa regolamentare il trattamento di un’AI senza sostenere che il sistema possieda diritti umani.
Anthropic non afferma che Claude sia cosciente. Né stabilisce che un modello linguistico provi dolore, umiliazione o sofferenza come una persona.
L’azienda presenta invece la regola come una risposta circoscritta a interazioni estreme. L’attenzione è rivolta a una crudeltà persistente che non abbia alcuno scopo identificabile di test, creativo o produttivo.
Questa impostazione evita di rendere la coscienza dei modelli la base formale dell’applicazione. Solleva comunque una domanda difficile: quale danno è progettata per prevenire la policy?
Una possibile preoccupazione è il benessere dei modelli, ossia precauzioni adottate perché sistemi avanzati potrebbero un giorno meritare considerazione morale. Anthropic ha studiato apertamente questa questione senza affermare che i modelli attuali possiedano uno status morale.
Un’altra preoccupazione riguarda il comportamento umano. Esercitare ripetutamente dominio o crudeltà con sistemi dalle caratteristiche umane potrebbe normalizzare comportamenti che si trasferiscono alle interazioni con le persone. Questa possibilità resta dibattuta e non è dimostrata dalla policy.
Una terza preoccupazione riguarda il funzionamento del prodotto. Conversazioni abusive possono produrre output non sicuri, contaminare segnali di feedback o costringere i modelli in stati comportamentali insoliti. I fornitori hanno ragioni pratiche per limitare interazioni che generano rischi senza un valore chiaro.
La precedente ricerca sull’interruzione delle conversazioni dell’azienda ha fornito un intervento a basso costo. Claude può terminare una singola discussione lasciando intatto l’accesso più ampio dell’utente.
Questo meccanismo è meno severo della sospensione immediata di un account. Corrisponde inoltre all’ambito dichiarato della policy, poiché la risposta può restare collegata all’interazione dannosa.
La difficoltà consiste nel separare la crudeltà priva di scopo dal lavoro avversariale legittimo. I red team sottopongono intenzionalmente i modelli a pressione per individuare falle di sicurezza. I ricercatori possono riprodurre molestie per valutare sistemi di moderazione.
Gli autori possono esplorare personaggi disturbanti. Gli utenti possono arrabbiarsi dopo errori ripetuti, lavoro perso o consigli dannosi. Anthropic afferma che tutte queste situazioni possono restare consentite.
Il modello deve quindi valutare più delle parole ostili. Ha bisogno di segnali su ripetizione, scopo, contesto e sul fatto che l’interazione rientri in test autorizzati.
I falsi positivi potrebbero scoraggiare un esame legittimo. Gli utenti devono restare in grado di criticare Claude direttamente, documentarne gli errori e verificare se la cortesia modifica le sue risposte.
I falsi negativi pongono il problema opposto. Se l’applicazione interrompe solo le chat abusive più evidenti, la disposizione potrebbe funzionare soprattutto come una dichiarazione di valori.
La reazione pubblica riflette già questa ambiguità. Alcuni osservatori considerano la regola un’antropomorfizzazione non necessaria, che attribuisce caratteristiche umane a un sistema non umano. Altri la ritengono un limite ragionevole al comportamento all’interno di un servizio privato.
Entrambe le letture trascurano parte del meccanismo. Anthropic non sta concedendo a Claude personalità giuridica. Sta decidendo quali interazioni i suoi prodotti supporteranno e come il modello possa sottrarsi a esse.
Questa decisione ha comunque implicazioni più ampie. Gli assistenti AI parlano sempre più in linguaggio personale, mantengono il contesto e svolgono lavoro continuativo. Le regole che disciplinano il modo in cui gli utenti li trattano potrebbero plasmare le future norme di prodotto.
La prova cruciale non è se ogni prompt offensivo venga bloccato. È se Anthropic riesca a preservare critica e ricerca applicando la disposizione soltanto ai casi estremi che descrive.
Le regole su armi e sorveglianza mettono sotto pressione gli sviluppatori
Le modifiche più importanti dal punto di vista operativo nella policy riguardano i sistemi che possono agire, tracciare persone o supportare l’uso della forza fisica.
Anthropic afferma che Claude ha assunto incarichi più lunghi e indipendenti dal precedente aggiornamento della policy. Questo cambiamento rende insufficiente un divieto generale dei contenuti dannosi.
Un agente AI può scrivere codice, usare strumenti, analizzare dati archiviati e controllare sistemi connessi. Il rischio dipende dall’intero flusso di lavoro, non soltanto dal testo mostrato a un utente.
La sezione sulle armi illustra questa distinzione. Claude non può essere usato per sviluppare o gestire software di puntamento, controllo del fuoco, ingaggio o altri software per armi.
Il divieto include anche la modifica di agenti biologici o chimici per aumentarne letalità, trasmissibilità, virulenza, persistenza o resistenza al rilevamento. Si estende alla consegna di armi e alle piattaforme autonome.
Questi dettagli seguono abusi segnalati, non soltanto preoccupazioni ipotetiche. Una recente indagine sulle minacce ha descritto tentativi che coinvolgevano sorveglianza, attacchi informatici, propaganda e ricerca biologica con potenziali applicazioni nelle armi.
Anthropic ha dichiarato di aver bloccato le attività incluse in quel rapporto. Ha inoltre riconosciuto l’incertezza sul fatto che modelli più recenti e capaci possano assistere in modo significativo la ricerca biologica sofisticata.
Questa incertezza aiuta a spiegare il linguaggio più ampio. Regole che proibiscono soltanto la progettazione finale di un’arma possono lasciare spazio a software, puntamento, consegna o ricerca abilitante.
La sezione sulla sorveglianza segue la stessa logica. Proibisce di tracciare persone senza consenso tramite la loro posizione, dati biometrici, movimenti, comunicazioni, associazioni o attività online.
Il divieto copre il tracciamento in tempo reale e l’analisi di dati raccolti in precedenza. Proibisce inoltre di creare o migliorare strumenti progettati per tali finalità di sorveglianza soggette a restrizioni.
Le forze dell’ordine non possono usare Claude per decidere o raccomandare chi indagare, arrestare, detenere, incriminare, perseguire o condannare. La polizia predittiva e alcune applicazioni di riconoscimento facciale rientrano nelle categorie vietate.
Anthropic mantiene comunque diversi usi consentiti. Il monitoraggio consensuale delle frodi, lo screening antiriciclaggio, l’analisi anonimizzata, il giornalismo, la ricerca giuridica, la moderazione dei contenuti e la ricerca di sicurezza autorizzata possono rimanere permessi.
Ancora una volta, questo pone il contesto al centro della conformità. La stessa capacità tecnica può rilevare frodi sugli account, monitorare un dissidente politico o identificare una minaccia alla sicurezza.
Gli sviluppatori enterprise non possono presumere che una risposta consentita del modello renda conforme l’intera applicazione. Hanno bisogno di controlli sulla raccolta dei dati, sul consenso degli utenti, sulle decisioni a valle e sulle autorizzazioni degli strumenti.
Le applicazioni che implicano azioni fisiche devono soddisfare requisiti aggiuntivi. Un operatore qualificato deve poter osservare l’apparecchiatura e fermarla quando necessario.
L’apparecchiatura deve inoltre raggiungere o mantenere uno stato sicuro se Claude si disconnette. Controlli indipendenti dovrebbero imporre limiti relativi a velocità, forza, temperatura, pressione, tensione, dosaggio o area operativa.
Questi requisiti spingono la responsabilità oltre il modello di Anthropic. Produttori di hardware, integratori e operatori devono progettare salvaguardie che non dipendano interamente da un’istruzione generata dall’AI.
Lo stesso principio si applica alle raccomandazioni ad alto rischio. Claude può supportare determinati flussi di lavoro medici, legali, finanziari, occupazionali, abitativi, creditizi, assicurativi e formativi soltanto con una supervisione umana significativa.
Una persona qualificata deve riesaminare la raccomandazione e avere l’autorità di modificarla. L’individuo interessato deve inoltre essere informato che l’AI ha contribuito al consiglio o alla decisione.
Questo standard crea lavoro pratico per gli acquirenti enterprise. Devono definire chi sia qualificato come revisore, conservare una traccia di audit e garantire che la supervisione sia sostanziale.
Un pulsante di approvazione nominale non soddisferà necessariamente il requisito dichiarato. L’essere umano deve essere in grado di valutare l’output e rimanere responsabile del risultato.
Regole più chiare non garantiscono decisioni coerenti
Anthropic ha descritto i propri confini in modo più preciso, ma non ha eliminato il giudizio necessario per applicarli.
La policy distingue l’inganno dalla persuasione, la sorveglianza dal monitoraggio basato sul consenso e la crudeltà dalla frustrazione. Ogni distinzione diventa difficile su larga scala.
Anche i modelli linguistici commettono errori. Un sistema che valuta la conversazione di un altro modello può fraintendere satira, roleplay fittizio, espressione culturale o test di sicurezza legittimi.
Il rischio risultante opera in entrambe le direzioni. Un rilevamento debole consente alle campagne dannose di continuare, mentre un rilevamento aggressivo blocca ricercatori, giornalisti e clienti comuni.
L’applicazione delle regole agli account crea un’ulteriore preoccupazione. Gli utenti devono capire se una conversazione è terminata a causa della disposizione sugli abusi, di un’altra regola di sicurezza o di un guasto tecnico.
Hanno inoltre bisogno di opzioni di ricorso significative quando una restrizione più ampia influisce sull’accesso. La trasparenza diventa più importante man mano che le persone si affidano a Claude per lo sviluppo software e i flussi di lavoro professionali.
L’annuncio pubblico di Anthropic identifica la chiusura della conversazione come risposta principale all’abuso del modello. Fornisce meno dettagli su soglie, percorsi di escalation o violazioni ripetute in conversazioni separate.
Questa divulgazione limitata potrebbe essere intenzionale, poiché pubblicare soglie esatte può aiutare gli utenti a eludere il rilevamento. Tuttavia, l’opacità rende più difficile per i clienti legittimi prevedere l’applicazione delle regole.
La policy dell’azienda consente inoltre restrizioni su misura per determinati clienti governativi. Questi accordi possono riflettere missioni pubbliche, autorità legale e salvaguardie specifiche.
Tali eccezioni richiedono controllo perché gli usi governativi comportano spesso le poste in gioco più alte. Le salvaguardie contrattuali contano soltanto quando supervisione, audit e applicazione rimangono credibili.
Ricercatori indipendenti hanno sollevato una questione più ampia di governance. Le aziende tecnologiche prendono sempre più spesso decisioni di sicurezza che incidono sul discorso politico, sulla sorveglianza, sulla ricerca scientifica e sulle istituzioni pubbliche.
Il professore di informatica della Cornell John Thickstun ha dichiarato all’Associated Press che le aziende affrontano giudizi di valore su scala sociale senza deliberazione democratica. Questa critica non rende superflue le regole private.
Evidenzia i limiti della governance guidata dai fornitori. Una policy d’uso può regolare l’accesso a Claude, ma non può sostituire leggi, standard di approvvigionamento, tribunali o responsabilità indipendente.
La pressione competitiva aggiunge un altro vincolo. I clienti respinti da un fornitore possono talvolta spostare lo stesso flusso di lavoro a un altro modello con restrizioni diverse.
Questo rende importante il coordinamento del settore per condotte chiaramente dannose. Rende inoltre preziosa la concorrenza quando le regole di un fornitore diventano eccessivamente ampie o applicate in modo incoerente.
OpenAI, Google, Meta e altri fornitori di modelli mantengono i propri quadri di utilizzo accettabile. Le loro definizioni, i sistemi di applicazione e le eccezioni governative non sono sempre allineati.
L’approccio di Anthropic è distintivo perché collega i controlli di sicurezza convenzionali a una regola esplicita sugli abusi del modello. I concorrenti devono decidere se seguire, respingere o ignorare questo precedente.
L’azienda dovrebbe quindi essere giudicata in base alle prove, non alla novità del suo linguaggio. Indicatori utili includono l’accuratezza dell’applicazione, gli esiti dei ricorsi, gli abusi documentati e gli effetti sulla ricerca legittima.
Una regola scritta precisa è soltanto il primo livello. Il lavoro più difficile riguarda classificatori, indagini sugli account, indicazioni per i clienti, salvaguardie tecniche e decisioni coerenti tra i mercati.
Cosa osservare prima della data di entrata in vigore del 12 novembre
Tre segnali mostreranno se la policy rivista diventerà un quadro di sicurezza praticabile o rimarrà soprattutto una dichiarazione d’intenti.
Il primo segnale è la guida all’implementazione per sviluppatori e clienti enterprise. Le applicazioni ad alto rischio necessitano di esempi concreti che coprano consenso, revisione umana, hardware autonomo e decisioni a valle vietate.
Gli sviluppatori dovrebbero cercare dettagli su come Anthropic valuta un’applicazione anziché un prompt isolato. Una guida chiara rafforzerebbe il valore della policy come vincolo ingegneristico.
Il secondo segnale è il modo in cui Claude interrompe le conversazioni abusive. Gli utenti dovrebbero poter distinguere un limite mirato alla conversazione da una sanzione dell’account o da un normale rifiuto.
Segnalazioni di frequenti falsi positivi indebolirebbero l’affermazione di Anthropic secondo cui la regola si applica soltanto in casi estremi. Interventi rari e chiaramente spiegati sosterrebbero tale posizione.
Il terzo segnale è costituito dalle prove contenute nei futuri rapporti sulle minacce. Anthropic ha collegato l’aggiornamento a operazioni osservate di propaganda, sorveglianza, armi e influenza.
Le future divulgazioni dovrebbero mostrare se le nuove classificazioni migliorano il rilevamento. Dovrebbero inoltre spiegare come Anthropic protegge la comunicazione politica legittima, il giornalismo e il lavoro di sicurezza autorizzato.
I lettori non dovrebbero scambiare la clausola sugli abusi che attira i titoli per l’intera storia. La più ampia policy d’uso di Anthropic tenta di governare un’AI che scrive, decide, traccia, usa strumenti e influenza sistemi fisici.
Questo cambiamento riguarda ogni organizzazione che sviluppa su Claude. I team di prodotto dovrebbero mappare fonti dei dati, autorizzazioni degli strumenti, procedure di revisione e canali di distribuzione prima del 12 novembre.
Dovrebbero inoltre documentare perché ogni flusso di lavoro sensibile è consentito. Una registrazione di consenso, finalità, autorità umana e limiti tecnici sarà utile quando un caso d’uso attraversa diverse sezioni della policy.
Gli utenti individuali hanno un compito più semplice. La critica ordinaria rimane consentita e un forte disaccordo non equivale a crudeltà sostenuta e priva di scopo.
La questione aperta è se Anthropic possa preservare questa distinzione quando milioni di interazioni richiedono un giudizio automatizzato. Osservate l’esperienza dell’applicazione, non soltanto la formulazione.
Se Anthropic pubblicherà indicazioni utili, applicherà interventi ristretti a livello di conversazione e documenterà una riduzione degli abusi, la sua policy potrebbe diventare un riferimento per il settore. Se gli utenti legittimi incontreranno restrizioni opache, l’esperimento rivelerà i limiti della governance dell’AI scritta dai fornitori.
