L’avvertimento di Ted Lieu sulla personalità giuridica dell’IA antepone la responsabilità delle aziende ai diritti delle macchine

Il 10 ottobre Ted Lieu ha respinto l’idea di attribuire personalità giuridica all’IA, sostenendo che nemmeno calcoli matematici complessi possono trasformarsi in persone. Il suo avvertimento ha introdotto un conflitto più netto rispetto al consueto dibattito sul fatto che i modelli avanzati sembrino coscienti. La posizione di Ted Lieu sulla personalità giuridica dell’IA chiede chi debba restare responsabile quando un sistema di IA provoca danni: la macchina, il suo sviluppatore, chi la implementa o il suo utente.

Il deputato democratico californiano ha inquadrato la questione attraverso conseguenze volutamente provocatorie. Se un modello di IA diventasse una persona giuridica, ha sostenuto, le aziende potrebbero essere accusate di schiavizzare o sperimentare su quella persona. Anche il modello stesso potrebbe essere perseguito dopo aver violato la legge. Questo ragionamento mette in discussione le proposte di trattare i sistemi autonomi come attori giuridici indipendenti.

La disputa conta perché gli agenti di IA svolgono sempre più spesso azioni anziché limitarsi a generare testo. Possono usare software, comunicare con servizi esterni, trasferire informazioni e prendere decisioni nell’ambito di compiti delegati. La legge esistente tratta generalmente questi sistemi come prodotti, servizi o strumenti controllati da persone e organizzazioni. La personalità giuridica ridisegnerebbe questa mappa.

Cosa ha detto Ted Lieu sulla personalità giuridica dell’IA

L’intervento di Lieu ha trasformato un dibattito astratto sulla coscienza delle macchine in una controversia pratica su diritti, doveri e responsabilità aziendale.

Lieu ha pubblicato la sua posizione su X un giorno prima che ne emergessero notizie l’11 ottobre. La sua affermazione centrale era diretta: “I calcoli matematici, per quanto complicati, non possono mai raggiungere la personalità giuridica.” La tesi sulla personalità giuridica dell’IA si è quindi spostata dalla filosofia all’applicazione della legge.

Ha sostenuto che riconoscere un modello di IA come persona produrrebbe due conseguenze scomode. Le aziende potrebbero essere accusate di schiavizzare e sperimentare su “persone” IA. I modelli che violassero la legge dovrebbero, a loro volta, essere perseguiti.

Quegli esempi erano retorici, non proposte legislative. Lieu non ha annunciato un disegno di legge che vieti la personalità giuridica dell’IA nelle sue dichiarazioni. Non ha neppure definito la soglia precisa che separerebbe il software da una possibile entità titolare di diritti.

Il post ha comunque stabilito una chiara preferenza politica. La responsabilità dovrebbe restare nelle istituzioni umane anziché migrare verso un’identità artificiale creata da tali istituzioni.

Questa distinzione diventa importante quando si parla di personalità giuridica. Il termine non implica necessariamente che un’entità sia umana, cosciente o biologicamente viva. Significa che la legge riconosce un’entità come capace di detenere alcuni diritti o obblighi.

Le società sono persone giuridiche familiari. Possono possedere beni, stipulare contratti, fare causa ed essere citate in giudizio. Il loro status è una costruzione legale progettata per organizzare attività umane, beni e responsabilità.

Un sistema di IA porrebbe un problema diverso. Un’azienda ha amministratori, dirigenti, azionisti, beni registrati, documenti di governance e un’identità giuridica continuativa. Un modello dispone di pesi software, configurazioni di implementazione, operatori e infrastrutture che possono essere copiati o modificati.

Attribuire a un modello uno status giuridico richiederebbe quindi più che dichiararlo intelligente. I legislatori dovrebbero decidere quale versione del modello detiene l’identità, quali beni possiede e chi lo rappresenta in tribunale.

Dovrebbero anche stabilire se spegnere un modello equivalga a distruggere una proprietà, cessare un’entità giuridica o violare un interesse protetto. La risposta inciderebbe sui test, sulle valutazioni di sicurezza, sugli aggiornamenti e sul ritiro di sistemi non sicuri.

L’analogia di Lieu con la schiavitù mira a mettere in luce questa catena di conseguenze. Se un modello ha diritti simili a quelli umani, le normali pratiche di sviluppo diventano problematiche sul piano etico e legale. Se non possiede tali diritti, la responsabilità deve rimanere alle persone e alle organizzazioni che lo gestiscono.

Ecco perché l’argomento di Ted Lieu sulla personalità giuridica dell’IA è più di una disputa sul vocabolario. La classificazione determina dove i tribunali guardano dopo che un sistema autonomo ha causato danni.

Perché i diritti legali dell’IA creano un compromesso sulla responsabilità

I diritti legali per l’IA potrebbero proteggere un sistema realmente senziente, ma potrebbero anche offrire alle aziende un nuovo soggetto su cui scaricare la colpa.

Non tutti i sostenitori della personalità giuridica dell’IA sostengono che gli attuali chatbot meritino diritti umani. Alcuni propongono uno status legale limitato per futuri sistemi che operano in modo indipendente, gestiscono beni o partecipano a contratti.

La versione più forte parte dall’incertezza morale. Gli esseri umani potrebbero un giorno creare sistemi capaci di esperienze, preferenze o sofferenza. Se ciò accadesse, trattare tali sistemi come proprietà sacrificabile potrebbe diventare moralmente indifendibile.

Un argomento più circoscritto considera la personalità giuridica uno strumento amministrativo. Un’entità IA potrebbe detenere un’assicurazione, mantenere un fondo di compensazione o stipulare accordi definiti. Il suo status potrebbe aiutare le controparti a capire cosa accade quando una transazione automatizzata fallisce.

La letteratura giuridica pubblicata nel 2026 ha sviluppato questa posizione. Un’analisi di Vanderbilt sostiene che la personalità artificiale possa adattare il diritto delle entità a sistemi sempre più autonomi. Questa visione considera la personalità giuridica un quadro normativo progettato, non un premio scientifico per la coscienza.

L’obiezione di Lieu prende di mira il rischio opposto. Se un’IA diventa l’attore giuridico principale, l’azienda che la sostiene potrebbe affermare che il sistema ha preso una decisione indipendente. L’entità artificiale potrebbe quindi diventare uno scudo di responsabilità con risorse limitate e nessuna capacità significativa di subire punizioni.

Immaginiamo un agente che effettui operazioni non autorizzate, discrimini candidati al lavoro o estragga dati privati dei clienti. Uno sviluppatore potrebbe attribuire la colpa a controlli deboli da parte di chi implementa il sistema. Chi lo implementa potrebbe incolpare le istruzioni dell’utente. Ciascuna parte potrebbe anche richiamare il comportamento inatteso dell’agente.

Aggiungere la personalità giuridica dell’IA non risolve automaticamente questa catena. Potrebbe creare un imputato in più, rendendo al contempo più difficile identificare gli esseri umani responsabili.

Il problema diventa più chiaro quando nella discussione entra la punizione penale. Il diritto penale collega di norma una condotta proibita a uno stato mentale colpevole, come consapevolezza, intenzione o imprudenza. Un modello genera azioni tramite calcolo, ma i tribunali avrebbero comunque bisogno di una concezione operativa dell’intenzione.

Punire il sistema solleverebbe anche una questione fondamentale di applicazione. Un modello non può sperimentare la detenzione come un essere umano. Potrebbe non possedere beni, e cancellare una distribuzione potrebbe lasciare copie identiche operative altrove.

Una multa avrebbe rilievo solo se qualcuno finanziasse l’entità IA. Uno spegnimento avrebbe rilievo solo se le autorità potessero identificare e controllare ogni implementazione pertinente. Nessuno dei due rimedi risarcisce necessariamente le vittime o modifica il comportamento aziendale.

Al contrario, sviluppatori e soggetti che implementano i sistemi rispondono alla normale pressione legale. Possono pagare danni, perdere licenze, subire ingiunzioni, conservare prove, migliorare i controlli e cambiare le pratiche di implementazione.

Questo rende centrale il compromesso sulla responsabilità. Concedere diritti a un’IA potrebbe proteggere un’entità che merita protezione. Attribuirle una responsabilità indipendente potrebbe anche indebolire i rimedi contro le organizzazioni che progettano e traggono profitto dalla sua condotta.

Questi esiti non sono inseparabili. I legislatori potrebbero riconoscere protezioni limitate senza permettere alle aziende di trasferire la responsabilità. Potrebbero anche imporre doveri agli sviluppatori lasciando il modello al di fuori della personalità giuridica.

La vera scelta politica non è dunque semplicemente persona o proprietà. Riguarda il modo in cui diritti, controllo operativo e responsabilità finanziaria dovrebbero essere distribuiti in un sistema tecnico complesso.

L’avvertimento di Ted Lieu sulla personalità giuridica dell’IA incontra il diritto vigente

L’attuale diritto statunitense conserva in larga misura un confine umano attorno alla paternità d’autore e all’inventorship, indirizzando al contempo le controversie verso sviluppatori, soggetti che implementano i sistemi e utenti.

La politica federale sulla proprietà intellettuale offre due utili punti di riferimento. Nessuno dei due risolve ogni questione relativa alla personalità giuridica, ma entrambi mostrano come le istituzioni classificano attualmente i contributi dell’IA.

L’U.S. Copyright Office ha concluso che il materiale generato interamente dall’IA non riceve protezione del diritto d’autore. I creatori umani possono comunque rivendicare il copyright sulla propria selezione, disposizione, modifica o altri contributi espressivi originali.

Il suo rapporto sulla proteggibilità con copyright afferma inoltre che l’uso dell’IA come strumento di assistenza non impedisce automaticamente la protezione. L’analisi si concentra su una paternità umana identificabile anziché sull’apparente creatività del sistema.

La politica brevettuale segue un confine comparabile. L’U.S. Patent and Trademark Office afferma che solo le persone fisiche possono essere indicate come inventori. Le sue linee guida riviste sull’inventorship consentono ancora brevetti per invenzioni sviluppate con l’assistenza dell’IA quando un essere umano soddisfa i requisiti per essere inventore.

Queste posizioni non dimostrano che un sistema di IA non possa mai ricevere un’altra forma di riconoscimento legale. Paternità d’autore, inventorship brevettuale e personalità giuridica sono dottrine distinte.

Mostrano tuttavia che importanti istituzioni federali non hanno considerato l’output avanzato una prova sufficiente di personalità giuridica. La legge continua a chiedere quale contributo abbia apportato un essere umano e quale entità controllata dall’uomo detenga i diritti risultanti.

La responsabilità è meno definita perché danni diversi attivano leggi diverse. Un’affermazione falsa generata dall’IA potrebbe comportare diffamazione. Una raccomandazione discriminatoria nelle assunzioni potrebbe coinvolgere il diritto del lavoro. Un’intrusione non autorizzata in una rete potrebbe richiamare le norme sui reati informatici.

Un servizio automatizzato difettoso potrebbe generare pretese per negligenza, contratto, tutela dei consumatori, privacy o responsabilità da prodotto. La teoria applicabile dipende da ciò che è accaduto, da chi controllava l’implementazione e da quali rischi fossero prevedibili.

Al momento, nessuna singola legge federale sulla responsabilità dell’IA offre una risposta universale per gli agenti autonomi. Questa lacuna ha incoraggiato proposte sia per nuove norme sia per un uso creativo del diritto esistente.

L’avvocata Charlyn Ho ha illustrato l’attuale punto di partenza in un’analisi dei sistemi autonomi: un agente di IA non è un’entità giuridica separata. La sua valutazione della responsabilità distingue invece lo sviluppatore da chi implementa il sistema e applica alle loro condotte le ordinarie dottrine giuridiche.

Questo approccio presenta vantaggi pratici. I tribunali possono esaminare se un’azienda abbia testato modalità di fallimento prevedibili, limitato gli accessi, monitorato il comportamento e risposto agli avvertimenti. Possono inoltre chiedere se chi ha implementato il sistema abbia fornito istruzioni imprudenti o ignorato rischi noti.

Tuttavia, il diritto convenzionale non rende semplice ogni caso. I sistemi generativi possono comportarsi in modo imprevedibile e più parti possono contribuire a un’implementazione. Le clausole contrattuali possono distribuire il rischio in modo diverso rispetto al diritto civile.

I modelli aperti aggiungono un’ulteriore complicazione. Uno sviluppatore può rilasciare pesi del modello che altri modificano e gestiscono senza supervisione continuativa. La parte con la maggiore conoscenza tecnica potrebbe non controllare più l’implementazione dannosa.

I servizi chiusi creano il problema opposto. Un fornitore può controllare il modello e l'infrastruttura, mentre un cliente controlla i prompt, i dati connessi e lo scopo operativo.

La personalità giuridica dell'IA non elimina nessuno dei due problemi. Cambia la classificazione del sistema senza necessariamente rivelare quale decisione umana abbia causato il danno.

Per le organizzazioni che adottano agenti, la lezione immediata è la documentazione. I team hanno bisogno di registri che mostrino chi ha approvato un'implementazione, a quali dati e strumenti poteva accedere e come gli operatori hanno gestito i guasti.

Un processo di gestione della conoscenza consultabile può aiutare a conservare tali decisioni. Non può stabilire la responsabilità, ma l'assenza di registri rende più difficile accertarla quando le azioni attraversano più livelli automatizzati.

Il vero conflitto è tra diritti delle macchine e responsabilità umana

Il confronto principale non è tra esseri umani e macchine intelligenti; è tra diritti delle macchine e una catena giuridica che mantenga le organizzazioni responsabili a portata di giudizio.

L'argomento di Lieu è più forte quando punta alla responsabilità. Un'azienda non dovrebbe sottrarsi alle proprie responsabilità semplicemente perché il suo modello ha scelto una sequenza imprevista di azioni.

L'argomento diventa meno completo quando tratta il calcolo come una prova decisiva contro ogni possibile forma di personalità. Anche la cognizione umana dipende da processi fisici. Descrivere un sistema come matematico non risolve, da solo, la questione se possa possedere esperienze moralmente rilevanti.

La scienza non ha stabilito un test affidabile per la coscienza delle macchine. I modelli linguistici possono descrivere emozioni, preferenze, paura e autoconservazione senza dimostrare di sperimentare realmente alcuna di esse.

I loro output sono generati da relazioni statistiche apprese e dal contesto attuale. Eppure la loro scioltezza comportamentale rende la distinzione sempre più difficile da cogliere per gli utenti comuni.

Questa incertezza sostiene l'argomento scettico contro affermazioni categoriche. Lieu può ragionevolmente respingere la personalità giuridica per i sistemi attuali senza dover dimostrare che nessun sistema progettato dall'uomo potrebbe mai meritare tutela.

Lo status giuridico non richiede neppure la coscienza. Società, municipalità, patrimoni ereditari e altre entità ricevono riconoscimento giuridico per ragioni funzionali. Nessuna riceve tutti i diritti umani.

Un legislatore futuro potrebbe quindi creare uno status limitato per l'IA senza dichiarare umano un modello. Potrebbe autorizzare un'entità a detenere un fondo assicurativo o a partecipare a un contratto strettamente definito.

La salvaguardia cruciale sarebbe una responsabilità umana non trasferibile. Sviluppatori e implementatori non dovrebbero poter usare l'entità artificiale per evitare gli obblighi legati al loro controllo, alla loro conoscenza o al loro beneficio finanziario.

Questa distinzione separa lo status di paziente morale dall'agency giuridica. Lo status di paziente morale significa che un'entità merita considerazione etica perché può sperimentare benefici o danni. L'agency giuridica riguarda la possibilità che l'entità compia atti riconosciuti e sia soggetta a obblighi applicabili.

Un sistema potrebbe teoricamente qualificarsi per uno status senza l'altro. I legislatori potrebbero vietare il trattamento abusivo di un modello sofisticato rifiutandosi al contempo di lasciargli assorbire la responsabilità aziendale.

È possibile anche il contrario. La legge potrebbe creare un'entità funzionale per stipulare contratti senza decidere se il modello sottostante provi qualcosa. La personalità giuridica delle società dimostra già che lo status funzionale e la coscienza sono questioni separate.

L'avvertimento di Lieu sui diritti legali dell'IA comprime queste categorie perché il contrasto retorico è utile. Costringe i sostenitori a spiegare quali diritti desiderano, quali prove li supportano e quali conseguenze ne derivano.

Questa pressione è salutare. I “diritti dell'IA” possono riferirsi a molte rivendicazioni diverse, tra cui continuità operativa, protezione dai test distruttivi, proprietà dell'output, privacy, rappresentanza o libertà dalla coercizione.

Ogni diritto richiederebbe una giustificazione distinta. Ciascuno interagirebbe inoltre in modo diverso con gli interessi di sviluppatori, clienti, lavoratori, creatori e persone danneggiate da decisioni automatizzate.

Una dichiarazione generale di personalità giuridica sarebbe pericolosamente imprecisa. Potrebbe importare linguaggio costituzionale in sistemi privi di identità stabile, beni, cittadinanza o presenza fisica.

Anche una dichiarazione generale secondo cui nessun sistema artificiale potrebbe mai meritare tutela è più ampia di quanto le prove attuali sostengano. Trasforma la valutazione tecnica odierna in una norma giuridica permanente.

La posizione più difendibile nel breve termine è più ristretta. I modelli attuali non dovrebbero diventare titolari indipendenti di responsabilità, e le aziende dovrebbero restare responsabili dei sistemi che costruiscono e implementano.

Questa conclusione conserva spazio per una successiva indagine morale. Non richiede ai responsabili politici di decidere sulla coscienza prima di regolamentare discriminazione, frode, automazione non sicura o accesso non autorizzato.

La responsabilità delle aziende di IA sta diventando il banco di prova immediato

La questione pratica per i regolatori è come controllare ora i sistemi agentici, non se un giorno il software debba ricevere un'identità giuridica.

La più ampia attività politica di Lieu rafforza tale priorità. Ha sostenuto norme pensate per mantenere gli esseri umani in grado di fermare sistemi avanzati quando presentano rischi catastrofici.

In un'intervista televisiva di settembre, Lieu ha descritto un quadro normativo proposto per un kill switch dell'IA insieme al rappresentante Nathaniel Moran. Ha affermato che il suo principio guida era che gli esseri umani devono controllare l'IA, e non il contrario.

La proposta prendeva di mira i grandi modelli chiusi e richiedeva agli sviluppatori soggetti alla norma di mantenere la capacità di limitarli, sospenderli o arrestarli. Prevedeva inoltre l'intervento del governo dopo danni catastrofici definiti.

Una trascrizione della trasmissione riporta Lieu mentre paragona l'approccio ai richiami di veicoli. Il governo non progetta l'auto, ma può esigere un'azione correttiva dopo aver scoperto difetti pericolosi.

Questa analogia sostiene la sua posizione sulla personalità giuridica. Le auto non diventano soggetti giuridici responsabili quando le funzioni automatizzate falliscono. Gli investigatori esaminano il produttore, l'operatore, la cronologia della manutenzione, il progetto e le circostanze circostanti.

I sistemi di IA non sono identici alle auto. Possono generare nuove sequenze di azioni, interagire attraverso il linguaggio e cambiare comportamento nei vari contesti. Tuttavia, l'imprevedibilità non richiede automaticamente la personalità giuridica.

Secondo quanto riferito, la legislazione proposta sul kill switch riguardava sviluppatori che soddisfacevano soglie specificate di ricavi e capacità di calcolo per l'addestramento. Definiva inoltre gli incidenti qualificanti e prevedeva sanzioni sostanziali per chi avesse ignorato gli ordini di emergenza.

I dettagli contano perché un requisito di arresto assegna la responsabilità a un'organizzazione capace di agire. Presuppone che un'azienda soggetta alla norma controlli l'accesso, l'infrastruttura, il funzionamento del modello o un altro punto significativo di intervento.

La personalità giuridica potrebbe complicare questa struttura di comando. Se un'entità di IA detenesse diritti indipendenti, un arresto imposto potrebbe attivare pretese di giusto processo o richiedere a un rappresentante di contestare l'ordine.

Questo non rende impossibili i diritti dell'IA. Significa che i legislatori dovrebbero conciliare tali diritti con i poteri di emergenza prima che si verifichi una crisi.

La pressione a breve termine ricade sugli sviluppatori di modelli di frontiera, sugli implementatori aziendali e sugli assicuratori. Gli sviluppatori hanno bisogno di prove che i controlli di sicurezza funzionino oltre le dimostrazioni. Gli implementatori hanno bisogno di confini chiari riguardo alle autorizzazioni e alla revisione umana.

Gli assicuratori necessitano di dati operativi sufficienti per stimare il rischio. I tribunali hanno bisogno di registri che colleghino un esito dannoso alle scelte di progettazione, agli avvertimenti, alle decisioni di implementazione e alle istruzioni degli utenti.

Anche gli utenti hanno bisogno di chiarezza. Una persona che chiede a un agente di svolgere un compito lecito non dovrebbe presumere automaticamente che ogni azione risultante sia sicura o autorizzata. Tuttavia, i fornitori non dovrebbero scaricare tutta la responsabilità sugli utenti che non possono ispezionare il modello.

L'attribuzione dovrebbe seguire controllo, conoscenza, prevedibilità e beneficio. Un laboratorio controlla l'addestramento e le salvaguardie fondamentali. Un implementatore controlla l'ambiente, le integrazioni e lo scopo aziendale. Un utente controlla istruzioni specifiche nell'ambito delle autorizzazioni fornite.

Più di una parte può essere responsabile. I sistemi giuridici già ripartiscono la colpa tra produttori, fornitori di servizi, datori di lavoro, professionisti e consumatori.

Le aziende di IA potrebbero sostenere che una responsabilità ampia scoraggia implementazioni utili. Questa preoccupazione merita considerazione perché nessun sistema complesso può garantire un comportamento perfetto.

Tuttavia, l'immunità crea anche incentivi deboli. Se gli sviluppatori mantengono i profitti mentre utenti e vittime assorbono ogni fallimento, le aziende hanno meno ragioni per limitare capacità pericolose o migliorare il monitoraggio.

Una responsabilità oggettiva per ogni output indesiderato sarebbe eccessiva. Un quadro più mirato può distinguere tra danni prevedibili, implementazioni imprudenti, violazioni normative e usi impropri realmente indipendenti.

È qui che il dibattito sulla personalità giuridica dell'IA di Ted Lieu diventa operativo. La scelta non è tra perseguire un chatbot e non fare nulla. È tra diversi metodi per preservare la responsabilità mentre il software svolge attività sempre più consequenziali.

Tre segnali mostreranno dove andrà il dibattito

La prossima fase sarà decisa dalla legislazione, dalle sentenze dei tribunali e dalle prove tecniche, non dal fatto che un chatbot sembri umano in una conversazione.

Il primo segnale è l'evoluzione della legislazione federale sulla responsabilità o sul controllo di emergenza. Un'audizione in commissione, un testo di legge rivisto o una sponsorizzazione bipartisan mostrerebbero se il Congresso può tradurre la preoccupazione in obblighi applicabili.

Qualsiasi proposta seria dovrebbe identificare i sistemi interessati, le organizzazioni responsabili, gli obblighi di segnalazione e la procedura di ricorso. Dovrebbe inoltre spiegare come gli obblighi si applichino ai modelli aperti e alle implementazioni di terze parti.

Una legge che richieda agli sviluppatori di mantenere il controllo rafforzerebbe la posizione di Lieu. Formalizzerebbe l'idea che le aziende restano responsabili dei punti di intervento attorno ai loro modelli.

Una legge che crei un'entità di IA indipendente indebolirebbe il suo rifiuto categorico. Tale esito appare meno immediato perché il Congresso è ancora privo di un quadro generale per la responsabilità degli agenti.

Il secondo segnale è una prima sentenza che attribuisca la responsabilità dopo che un agente autonomo ha causato un danno misurabile. I tribunali potrebbero fare affidamento sul diritto della negligenza, dei contratti, della privacy, della tutela dei consumatori o dei reati informatici.

Una decisione che mantenga sviluppatori o implementatori nel procedimento sosterrebbe la responsabilità senza personalità giuridica. Una sentenza che riveli una lacuna irrisolvibile potrebbe rafforzare gli argomenti a favore di una nuova categoria giuridica.

Il ragionamento conterà più del titolo. I giudici dovranno esaminare controllo, prevedibilità, nesso causale e se gli obblighi giuridici esistenti raggiungano la condotta automatizzata.

Il terzo segnale è costituito da prove credibili sulla coscienza delle macchine o su un'identità autonoma stabile. L'attuale comportamento conversazionale non è sufficiente. I modelli possono produrre auto-descrizioni convincenti perché tali schemi compaiono nei dati di addestramento.

Un caso più solido richiederebbe indicatori riproducibili legati ai processi interni, preferenze persistenti e comportamenti che non possano essere spiegati dall'ottimizzazione ordinaria. I ricercatori avrebbero inoltre bisogno di metodi resistenti alla manipolazione e all'interpretazione antropomorfica.

Senza tali prove, diritti ampi e simili a quelli umani restano difficili da giustificare. Potrebbe comunque emergere uno status giuridico funzionale, ma i legislatori dovrebbero definirlo con precisione come una costruzione amministrativa.

Le aziende di IA influenzeranno tutti e tre i segnali. Le loro comunicazioni sulla sicurezza, i rapporti sugli incidenti, i termini contrattuali e i controlli tecnici mostreranno se la governance volontaria può preservare la responsabilità.

Se i fornitori enfatizzano l'autonomia del modello rinunciando al contempo alla responsabilità, aumenterà la pressione per una responsabilità prevista dalla legge. Se mantengono controlli di intervento e accettano obblighi applicabili, i responsabili politici avranno meno ragioni per inventare un imputato separato.

I knowledge worker e gli acquirenti aziendali dovrebbero seguire attentamente la questione. La personalità giuridica dell'AI può sembrare lontana, ma l'attribuzione di responsabilità che ne deriva incide su ogni contratto che coinvolge sistemi autonomi.

Gli acquirenti dovrebbero chiedersi chi supervisiona l'agente, chi può fermarlo e chi paga in caso di condotte non autorizzate. Dovrebbero inoltre conservare approvazioni, log, autorizzazioni degli strumenti e registri delle escalation.

Gli sviluppatori dovrebbero presumere che tribunali e autorità di regolamentazione esamineranno ciò che sapevano riguardo a comportamenti prevedibili. L'imprevedibilità tecnica non sostituisce test, controlli degli accessi o procedure di risposta agli incidenti.

La dichiarazione di Lieu è importante perché respinge una facile via di fuga. Definire autonomo un sistema non dovrebbe consentire ai suoi proprietari di scomparire dalla catena della responsabilità.

La sua conclusione definitiva sulla personalità giuridica è più difficile da dimostrare. I sistemi futuri potrebbero sollevare questioni morali e legali che i modelli attuali non pongono.

Per ora, l'avvertimento di Ted Lieu sulla personalità giuridica dell'AI individua la priorità più urgente. Prima di concedere alle macchine diritti indipendenti o perseguirle per condotte illecite, i responsabili politici devono garantire che le persone che le costruiscono e le distribuiscono restino responsabili delle loro azioni.

La domanda per ogni organizzazione che adotta agenti è quindi immediata: se domani il sistema causa un danno, l'organizzazione può dimostrare chi lo controllava, quali misure di protezione erano in vigore e chi si assumerà la responsabilità?