La proposta di Computable Due Process definisce test di ragionamento per l'AI giudiziaria
La proposta Computable Due Process, pubblicata l'11 novembre, stabilisce cinque condizioni per il ragionamento giudiziario assistito dall'AI, riservando ai giudici la valutazione finale. La sua preoccupazione centrale è il divario tra un documento legale convincente e una decisione giustificata. Un sistema di AI può produrre il primo senza dimostrare la seconda.
L'articolo appare su Frontiers in Artificial Intelligence come contributo Hypothesis and Theory. Introduce una specifica concettuale, ossia una dichiarazione delle proprietà che un risultato accettabile dovrebbe possedere. Non annuncia un modello giudiziario operativo, un progresso in termini di accuratezza o un nuovo standard vincolante per i tribunali.
Per gli sviluppatori di software per i tribunali e gli acquirenti istituzionali, questa distinzione cambia i termini della discussione. Gli approcci in competizione sono la generazione fluida di documenti e la giustificazione legale ispezionabile. Le linee guida esistenti di Inghilterra e Galles sottolineano già la responsabilità giudiziaria. Questa proposta chiede che cosa i revisori dovrebbero poter esaminare prima di accettare una bozza assistita dall'AI.
La proposta Computable Due Process formalizza un dovere giudiziario già esistente
L'articolo propone di tradurre il dovere di motivare le decisioni in proprietà che il software e i revisori umani possano esaminare.
Roberto Leonardo Cruz-Núñez, Hugo Armando Aguilar-Brito, Andherson J. Aguirre-Lanegra e Nuccia Seminario-Hurtado hanno sviluppato il quadro concettuale. Le loro affiliazioni comprendono la Universidad Autónoma de Chiapas in Messico e la Universidad Tecnológica del Perú. Il loro articolo sul computable due process parte dalla giurisprudenza costituzionale peruviana ed esamina materiali giuridici comparati.
Gli autori individuano cinque condizioni: deve esistere un'argomentazione, la sua inferenza deve essere valida e le sue premesse devono essere giustificate. Deve inoltre soddisfare lo standard probatorio applicabile e affrontare le domande oggetto della controversia. Queste condizioni riguardano il rapporto tra fatti, norme, obiezioni e conclusioni.
Questo focus è rilevante perché la redazione giuridica e la giustificazione legale sono compiti diversi. Un documento può contenere titoli, citazioni e una narrazione ordinata, pur saltando il passaggio che collega le prove alla sua conclusione. Una presentazione professionale non colma quel collegamento mancante.
La pubblicazione aggiunge quindi un modo proposto per descrivere un ragionamento accettabile. Non offre ai tribunali un'applicazione pronta che verifichi automaticamente ogni condizione. Gli autori dichiarano esplicitamente di non aver condotto esperimenti empirici né implementato alcun sistema.
I lettori dovrebbero inoltre distinguere una specifica proposta dagli obblighi legali che essa interpreta. I tribunali operano già nell'ambito di requisiti che impongono di motivare le decisioni nelle rispettive giurisdizioni. I ricercatori sostengono che tali requisiti possano orientare la progettazione computazionale. La pubblicazione di questa argomentazione non modifica autonomamente il diritto processuale.
La notizia immediata è più circoscritta di quanto potrebbe suggerire un titolo sull'istituzione di standard per l'AI giudiziaria. I ricercatori hanno articolato un quadro che gli sviluppatori possono tentare di implementare e testare. Resta aperta alla valutazione accademica e istituzionale la questione se la loro ricostruzione colga i requisiti legali pertinenti.
Questo spiega anche perché il lavoro rientri nella discussione sull'AI giudiziaria pur senza il lancio di un prodotto. Prima di misurare un sistema, gli sviluppatori devono specificare cosa significhi una prestazione di successo. Una bozza curata e un'argomentazione verificabile rappresentano definizioni diverse di successo.
Per gli acquirenti tecnologici, la proposta crea una distinzione utile tra dimostrazioni di capacità e criteri di accettazione. Una dimostrazione mostra ciò che un'applicazione può produrre in condizioni selezionate. I criteri di accettazione stabiliscono ciò che un'istituzione richiede nelle situazioni in cui intende usare quell'applicazione.
Questa distinzione diventa importante quando una bozza arriva a qualcuno autorizzato a firmarla. L'aspetto del documento può incoraggiarne l'accettazione prima che il ragionamento sottostante riceva un esame equivalente. Il quadro concettuale dirige l'attenzione su questo passaggio tra testo generato e autorità istituzionale.
La responsabilità giudiziaria esercita pressione sulla progettazione del software
La revisione umana diventa significativa solo quando il revisore può esaminare il materiale a sostegno della conclusione proposta.
La pressione più diretta ricade sugli sviluppatori che offrono assistenza alla redazione giudiziaria e sulle istituzioni che valutano tali prodotti. La loro sfida va oltre il rendere modificabile il testo. Devono considerare se un revisore possa identificare una premessa non supportata, una risposta mancante o un'inferenza non spiegata.
Inghilterra e Galles offrono un punto di riferimento istituzionale. Le loro linee guida giudiziarie sull'AI dell'ottobre 2025 rafforzano la responsabilità dei titolari di cariche giudiziarie per il materiale prodotto a loro nome. Collocano inoltre l'uso dell'AI nell'ambito dell'obbligo di tutelare l'integrità della magistratura e lo Stato di diritto.
L'implicazione per la progettazione dell'interfaccia è diretta, pur restando un'inferenza analitica. Un revisore necessita di accesso alle prove e alle fonti giuridiche alla base di una bozza. Richiedere responsabilità nascondendo tali materiali renderebbe più difficile la verifica sostanziale.
Si consideri un'applicazione ipotetica che generi una decisione proposta con citazioni accanto a ciascun paragrafo. Questa presentazione aiuta gli utenti a individuare le fonti giuridiche. Non mostra necessariamente quali prove sostengano un accertamento di fatto o perché la fonte citata disciplini la particolare controversia.
Un'interfaccia diversa potrebbe esporre direttamente tali relazioni. Selezionando una conclusione, potrebbero apparire le sue premesse fattuali, la norma applicata e le obiezioni considerate. Ciò offrirebbe al revisore punti identificabili da contestare, anziché richiedere una ricostruzione a partire da una prosa rifinita.
La differenza incide anche sugli acquisti. Chiedere se un prodotto includa supervisione umana fornisce informazioni limitate. Gli acquirenti devono capire in cosa consista tale supervisione, quali informazioni riceva il revisore e se il ragionamento respinto resti visibile nel fascicolo.
Anche il risparmio di tempo richiede un esame analogo. Una redazione più rapida non significa automaticamente una verifica più rapida. Un'applicazione potrebbe produrre un documento velocemente, lasciando però al revisore il compito di controllare manualmente ogni collegamento fattuale e giuridico.
Questa osservazione non dimostra che l'assistenza dell'AI aumenti il carico di lavoro giudiziario. L'articolo non fornisce una sperimentazione operativa in grado di risolvere tale questione. Stabilisce però una ragione per misurare separatamente il tempo di redazione e lo sforzo di revisione nelle valutazioni future.
La pressione si estende ad avvocati e parti in causa perché incontrano il ragionamento che supera la revisione. Una parte interessata deve poter individuare il motivo per cui una richiesta è stata respinta. Un'affermazione generica secondo cui il tribunale ha considerato tutto offre poco aiuto quando l'obiezione decisiva resta senza risposta.
Per i lavoratori della conoscenza, il collegamento più ampio riguarda l'organizzazione delle fonti. Una base di conoscenza ricercabile può rendere più semplici da reperire i documenti di supporto. Questa funzione organizzativa resta distinta dal determinare se una conclusione legale derivi da quei documenti.
La questione istituzionale è quindi specifica: cosa deve rivelare il software affinché la responsabilità possa essere esercitata? Rispondervi richiede collaborazione tra specialisti del diritto e sviluppatori. Né un output fluido né un pulsante di revisione risolvono da soli il problema.
Le argomentazioni ispezionabili cambiano ciò che l'AI legale deve mostrare
L'approccio proposto assegna compiti diversi alla generazione linguistica, alle strutture di ragionamento esplicite e alla valutazione giudiziaria.
Gli autori sostengono un livello simbolico ispezionabile, ossia una rappresentazione di premesse, regole e relazioni identificabili tra conclusioni. Lasciano spazio ai modelli linguistici per recuperare informazioni e preparare bozze. La struttura di ragionamento proposta ha il compito di rendere visibile la giustificazione.
Si tratta di una divisione delle responsabilità all'interno di un sistema, non dell'affermazione che la generazione di documenti non abbia valore. Individuare il materiale pertinente e produrre un linguaggio leggibile restano funzioni utili. La questione controversa è se tali funzioni stabiliscano anche un'argomentazione accettabile.
Un'ipotetica controversia sulle prestazioni illustra la differenza. Un'applicazione potrebbe recuperare una regola di idoneità, riassumere i documenti di un richiedente e redigere un rigetto. La bozza potrebbe comunque omettere un'eccezione che modifica il modo in cui la regola si applica.
In una rappresentazione ispezionabile, l'eccezione dovrebbe avere una collocazione identificabile. Il revisore potrebbe esaminare se le sue condizioni fattuali siano state considerate e perché si sia applicata o meno. Questo rende più facile individuare la scelta contestata.
Lo stesso principio si applica quando una premessa fattuale resta incerta. Un sistema dovrebbe distinguere un'allegazione da un accertamento accettato ai fini della decisione. Altrimenti, il ragionamento successivo può apparire internamente coerente pur fondandosi su una premessa che nessuno ha adeguatamente stabilito.
Un'altra distinzione riguarda la forza delle prove. Un punteggio di confidenza descrive la valutazione di un modello secondo la propria progettazione. Non corrisponde automaticamente al requisito probatorio che disciplina una decisione giudiziaria.
Un processo di revisione adeguato deve quindi identificare a quale domanda risponda quel numero. Riguarda la classificazione di documenti, la rilevanza del recupero, il supporto fattuale o qualcos'altro? Riunire questi significati in un unico punteggio oscurerebbe il ragionamento anziché chiarirlo.
La ricerca storica mostra perché la sola specializzazione non possa determinare l'affidabilità. Varun Magesh e colleghi hanno valutato sistemi di ricerca giuridica di LexisNexis e Thomson Reuters. La loro pubblicazione sulla affidabilità dell'AI legale ha segnalato informazioni false in oltre il 17% delle risposte degli strumenti valutati.
Questi risultati riguardano i prodotti e le versioni testati. Non dovrebbero essere usati come stime delle prestazioni attuali di ogni applicazione di AI legale. Né misurano il quadro non implementato descritto nell'articolo di novembre.
Il confronto individua comunque obiettivi di valutazione differenti. Un assistente alla ricerca deve trovare e caratterizzare con precisione le fonti. Un assistente alla redazione giudiziaria deve inoltre collegare le fonti applicabili e i fatti accertati a una conclusione proposta.
La generazione aumentata dal recupero, che fornisce documenti recuperati a un modello linguistico, affronta l'accesso al materiale di fonte. La sua presenza non dimostra autonomamente che l'interpretazione generata sia legalmente giustificata. Una fonte può essere autentica mentre la proposizione ad essa attribuita è errata.
La stessa limitazione si applica alle spiegazioni lunghe. Più testo può ampliare un'argomentazione, ma può anche ripetere un'assunzione non supportata. La verificabilità dipende dall'esporre le relazioni decisive, anziché dall'aumentare la quantità di prosa.
La proposta Computable Due Process sposta di conseguenza la discussione sulla progettazione verso impegni ispezionabili. Quali fatti assume il sistema? Quale norma giustifica la conclusione? Dove affronta un'obiezione in grado di modificare il risultato?
Queste domande sono utili proprio perché consentono il dissenso. Un revisore può respingere una premessa o un'interpretazione senza dover accettare l'intero documento generato. Ciò attribuisce un significato sostanziale alla possibilità di rivedere una bozza assistita dall'IA.
Un controllo formale non può risolvere ogni giudizio giuridico
Il limite più rilevante del quadro è esplicito: soddisfare le sue condizioni non garantisce una decisione giusta.
Gli autori descrivono le loro condizioni come necessarie ma non sufficienti. La scelta delle premesse e la ponderazione di principi in conflitto mantengono una componente valutativa. Una struttura formale può rendere visibili tali scelte senza stabilire se meritino di essere accettate.
Questo crea un compromesso pratico per gli sviluppatori. Le rappresentazioni esplicite offrono ispezionabilità, ma qualcuno deve costruirle e mantenerle. Un sistema non può ottenere una copertura giuridica affidabile limitandosi a sostituire la prosa con riquadri e frecce.
Si consideri un ipotetico conflitto tra una regola generale e un'eccezione più circoscritta. Codificare una relazione di priorità rende visibile l'interpretazione selezionata. Rimane la difficile questione se tale priorità sia appropriata per la giurisdizione, i fatti e le autorità coinvolte.
La manutenzione introduce un'altra sfida. Una rappresentazione può rimanere internamente coerente dopo che la sua fonte giuridica sottostante è cambiata. A meno che il sistema non monitori tali modifiche, un'argomentazione ordinata può dipendere da un presupposto superato.
Si tratta di un rischio ingegneristico desunto dall'architettura proposta, piuttosto che di un fallimento misurato di un prodotto implementato. L'articolo non fornisce prove di distribuzione che stabiliscano i costi di manutenzione. Gli acquirenti dovrebbero pertanto considerare la fattibilità operativa una questione ancora aperta.
Il quadro lascia inoltre spazio al disaccordo su ciò che costituisce un supporto adeguato. Revisori diversi possono accettare lo stesso insieme di fatti pur discordando sulla sua rilevanza. Un'applicazione dovrebbe rendere esplicito tale disaccordo anziché mascherarlo come una certezza tecnica.
Un ulteriore rischio riguarda il rapporto tra l'argomentazione visualizzata e la bozza generata. Se divergono, la visualizzazione del ragionamento potrebbe diventare un altro artefatto persuasivo. La valutazione dovrebbe esaminare se le modifiche al materiale di supporto alterino le conclusioni che da esso dipendono.
Ciò suggerisce un utile test futuro, anziché un risultato riportato. Rimuovere una premessa decisiva, introdurre un'autorità contraria o rivelare un'obiezione senza risposta. Quindi esaminare se l'applicazione individui la debolezza risultante e la presenti chiaramente ai revisori.
Anche l'affermazione più ampia dell'articolo sui modelli linguistici richiede un trattamento prudente. Le prove di allucinazione, vale a dire contenuti generati falsi o privi di supporto, evidenziano problemi di affidabilità nei contesti valutati. Non dimostrano che ogni futura architettura fallirà rispetto a ogni requisito di ragionamento.
I sistemi ibridi meritano una valutazione in base al loro comportamento effettivo. Combinare un modello linguistico con regole esplicite non stabilisce di per sé la conformità. Al contrario, utilizzare un modello linguistico in qualche fase del flusso di lavoro non descrive tutto ciò che l'applicazione può verificare.
La giurisdizione presenta un ulteriore confine. La ricerca si fonda sulla dottrina peruviana ed esamina materiali comparativi. I lettori nordamericani non dovrebbero presumere che le sue categorie riproducano automaticamente ogni requisito dei propri tribunali.
Il trasferimento richiederebbe un'analisi giuridica dell'istituzione e del procedimento pertinenti. Un interesse condiviso per decisioni motivate non elimina le differenze in materia di procedura, autorità o obblighi probatori. L'implementazione dovrebbe preservare tali differenze.
La domanda scettica è quindi più impegnativa di quella sulla possibilità della formalizzazione. Un'implementazione mantenuta e utilizzabile può migliorare la revisione in controversie realistiche? La pubblicazione pone questa domanda senza fornire prove empiriche che la risolvano.
Le norme giudiziarie esistenti mostrano perché la convalida richiede sostanza
La proposta si inserisce in un dibattito consolidato sulla governance riguardante controllo, responsabilità e possibilità di contestare il lavoro assistito dall'IA.
La Spagna offre un confronto giuridico concreto. L'articolo 57 del Regio decreto-legge 6/2023 disciplina l'azione giudiziaria assistita. Esso stabilisce che una bozza generata non diventa autonomamente una decisione giudiziaria o procedurale senza la convalida dell'autorità competente.
La disposizione richiede inoltre che gli utenti possano modificare liberamente la bozza. La sua rilevanza qui risiede nella distinzione tra la generazione di materiale e l'attribuzione a tale materiale di autorità giuridica. La ricerca di novembre chiede quali proprietà sostanziali dovrebbero sostenere tale convalida.
Si tratta di questioni correlate, ma operano a livelli diversi. Una norma può identificare chi detiene responsabilità e controllo. Una specifica tecnica proposta può descrivere le informazioni che aiuterebbero quella persona a esercitare tali responsabilità.
La guida etica europea fornisce un ulteriore punto di riferimento. La CEPEJ del Consiglio d'Europa ha adottato la propria Carta etica sull'IA giudiziaria nel dicembre 2018. I suoi principi includono diritti fondamentali, non discriminazione, qualità e sicurezza, trasparenza e controllo degli utenti.
Tale Carta sostiene un uso responsabile dell'IA giudiziaria, riconoscendo al contempo possibili benefici in termini di efficienza e qualità. Non costituisce un'approvazione di questo specifico articolo. La sua rilevanza consiste nel mostrare che le preoccupazioni sulla responsabilità precedono l'ultima generazione di sistemi di redazione.
La nuova proposta affronta una questione progettuale più circoscritta all'interno di quella discussione più ampia. Che cosa dovrebbe rivelare un'argomentazione generata affinché le persone possano esaminarla? Rispondere a tale domanda non sostituisce obblighi più ampi riguardanti diritti, sicurezza o indipendenza istituzionale.
Per i lettori che valutano la tecnologia per i tribunali, separare questi livelli evita affermazioni esagerate. Un sistema può offrire un'ispezione dettagliata delle argomentazioni lasciando irrisolte altre questioni di implementazione. Allo stesso modo, un'istituzione può adottare regole di governance senza disporre di software che renda agevole una revisione sostanziale.
La distinzione è particolarmente importante quando si parla di trasparenza. Pubblicare una spiegazione generale di un'applicazione descrive il suo funzionamento previsto. Mostrare le premesse alla base di una conclusione specifica consente a qualcuno di esaminare il ragionamento in quella singola vicenda.
Entrambe le forme di informazione possono essere importanti, ma servono finalità diverse. Chi contesta un accertamento di fatto ha bisogno di qualcosa in più di un diagramma dell'architettura. Un team di approvvigionamento che valuta i controlli di accesso necessita di informazioni che vadano oltre la formulazione di una singola bozza.
Ecco perché una convalida significativa non può essere ridotta a una firma. La domanda rilevante è cosa sia accaduto prima dell'approvazione. Il revisore ha esaminato le prove decisive, considerato le deduzioni contrarie e valutato in modo indipendente l'interpretazione proposta?
Queste sono domande di valutazione proposte, non constatazioni sul comportamento di un tribunale specifico. I materiali esaminati non stabiliscono che le istituzioni abbiano adottato il quadro di novembre. Mostrano perché la sua attenzione alla giustificazione ispezionabile abbia un contesto istituzionale già esistente.
Il significato pratico consiste nel rendere le responsabilità più concrete. Gli sviluppatori possono identificare ciò che i revisori devono vedere. Le istituzioni possono identificare ciò che un processo di approvazione dovrebbe registrare. I ricercatori possono quindi indagare se tali assetti migliorino la revisione effettiva.
Attenzione all'implementazione, ai test indipendenti e all'adozione da parte dei tribunali
I prossimi sviluppi significativi trasformerebbero il quadro concettuale in qualcosa che gli osservatori esterni possano esaminare e valutare.
Nei prossimi mesi, il primo segnale da osservare è un'implementazione pubblica o una dimostrazione tecnica dettagliata. Dovrebbe mostrare come le condizioni proposte operano in una controversia esemplificata. Una risposta leggibile da sola fornirebbe prove limitate sulla specifica sottostante.
L'artefatto utile collegherebbe premesse fattuali, autorità giuridiche, obiezioni e conclusioni. Dovrebbe inoltre identificare le questioni irrisolte e consentire correzioni. Una simile pubblicazione rafforzerebbe l'argomento secondo cui il quadro può guidare lo sviluppo pratico.
Una dimostrazione avrebbe comunque una portata limitata. Esempi selezionati possono dimostrare la fattibilità senza stabilire l'affidabilità in casi non familiari. I lettori dovrebbero cercare una dichiarazione esplicita della copertura ed evitare di trattare un prototipo circoscritto come un motore generale di ragionamento giudiziario.
Il secondo segnale è una valutazione indipendente che utilizzi casi difficili ed errori deliberati. I valutatori dovrebbero testare prove mancanti, norme in conflitto e obiezioni decisive che una bozza non affronta. Questi test esaminerebbero se l'applicazione esponga le debolezze anziché limitarsi a produrre documenti dall'apparenza completa.
La prestazione umana dovrebbe far parte di tale valutazione. I ricercatori devono esaminare se i revisori rilevino più errori e comprendano il ragionamento visualizzato. Anche il tempo di revisione conta, perché un'interfaccia che sovraccarica gli utenti può compromettere il suo scopo previsto.
Un risultato favorevole rafforzerebbe l'argomento a favore di rappresentazioni ispezionabili nel contesto testato. Un risultato deludente individuerebbe limiti nell'implementazione o nella sua interfaccia. Nessuno dei due esiti dovrebbe risolvere automaticamente ogni affermazione sull'IA giudiziaria.
Il terzo segnale è un'adozione istituzionale documentata con un ambito definito. Un progetto pilota di un tribunale, un requisito di approvvigionamento o un protocollo di revisione pubblicato fornirebbero prove di un'adozione pratica. La documentazione dovrebbe identificare quale assistenza sia autorizzata e come operi la responsabilità.
I lettori dovrebbero distinguere questi sviluppi dalle dichiarazioni generali a favore della trasparenza. Un impegno ampio non dimostra l'uso di questo quadro. Un requisito, un'implementazione o una valutazione identificabile fornirebbero una base più solida per valutare l'adozione.
Questi segnali chiariscono anche ciò che oggi rimane ignoto. La pubblicazione non stabilisce incrementi di accuratezza, riduzione dei costi di revisione o migliori risultati giudiziari. Tali affermazioni richiedono prove provenienti da sistemi e utenti che operano in condizioni specificate.
Per gli sviluppatori, il valore immediato consiste in un insieme più preciso di domande progettuali. Per gli acquirenti istituzionali, è un modo per interrogare ciò che un prodotto rende riesaminabile. Per le parti interessate, la questione rilevante resta se le ragioni alla base di una decisione possano essere comprese e contestate.
Leggete la ricerca originale tenendo presenti queste distinzioni prima di valutare la prossima dimostrazione di IA giudiziaria. Chiedete quali prove sostengano le premesse visualizzate e quali obiezioni il sistema lasci irrisolte. Verificate se un revisore possa modificare l'interpretazione proposta senza perdere il fascicolo di supporto. Cercate risultati indipendenti che distinguano la comodità della redazione da un esame più rigoroso. La proposta Computable Due Process fornisce un vocabolario per tale valutazione, mentre implementazione e test restano ancora da realizzare. Quando un fornitore presenta una decisione generata dall'IA, chiedete di ispezionare il ragionamento che collega le sue prove alla conclusione. Un revisore può individuare il passaggio preciso che merita dissenso e il sistema può preservare tale contestazione durante la revisione?



