top of page

Proposta de Devido Processo Computável Define Testes de Raciocínio para IA Judicial

há 10 minutos
13 min de leitura
Illustrative photograph. Photo: Christian Wasserfallen / Pexels.

A proposta de Devido Processo Computável, publicada em 11 de novembro, estabelece cinco condições para o raciocínio judicial assistido por IA, reservando a avaliação final aos juízes. Sua preocupação central é a diferença entre um documento jurídico convincente e uma decisão justificada. Um sistema de IA pode produzir o primeiro sem estabelecer a segunda.

O artigo foi publicado na Frontiers in Artificial Intelligence como um artigo de Hipótese e Teoria. Ele apresenta uma especificação conceitual, isto é, uma declaração das propriedades que uma saída aceitável deve possuir. Não anuncia um modelo judicial implantado, um avanço em precisão ou um novo padrão vinculante para tribunais.

Para desenvolvedores de software para tribunais e compradores institucionais, essa distinção muda a discussão. As abordagens concorrentes são a geração fluente de documentos e a justificativa jurídica passível de inspeção. As orientações existentes da Inglaterra e do País de Gales já enfatizam a responsabilidade judicial. Esta proposta pergunta o que os revisores devem poder inspecionar antes de aceitar um rascunho assistido por IA.

A Proposta de Devido Processo Computável Formaliza um Dever Judicial Já Existente

O artigo propõe traduzir o dever de fundamentar decisões em propriedades que softwares e revisores humanos possam examinar.

Roberto Leonardo Cruz-Núñez, Hugo Armando Aguilar-Brito, Andherson J. Aguirre-Lanegra e Nuccia Seminario-Hurtado desenvolveram a estrutura. Suas afiliações abrangem a Universidad Autónoma de Chiapas, no México, e a Universidad Tecnológica del Perú. O artigo sobre devido processo computável parte da jurisprudência constitucional peruana e examina materiais jurídicos comparativos.

Os autores identificam cinco condições: um argumento deve existir, sua inferência deve ser válida e suas premissas devem ter justificativa. Ele também deve atender ao padrão probatório aplicável e tratar das alegações em disputa. Essas condições dizem respeito à relação entre fatos, regras, objeções e conclusões.

Esse foco importa porque redação jurídica e justificativa jurídica são tarefas diferentes. Um documento pode conter títulos, citações e uma narrativa ordenada, mas ainda pular a etapa que conecta as provas à sua conclusão. Uma apresentação profissional não fornece essa conexão ausente.

A publicação, portanto, acrescenta uma forma proposta de descrever o raciocínio aceitável. Ela não oferece aos tribunais uma aplicação pronta que verifique automaticamente todas as condições. Os autores informam explicitamente que não realizaram experimentos empíricos nem implementaram um sistema.

Os leitores também devem distinguir uma especificação proposta dos deveres jurídicos que ela interpreta. Os tribunais já operam sob exigências de justificar decisões em suas jurisdições. Os pesquisadores argumentam que essas exigências podem orientar o design computacional. Publicar esse argumento não altera de forma independente o direito processual.

A notícia imediata é mais restrita do que uma manchete sobre o estabelecimento de padrões para IA judicial poderia sugerir. Pesquisadores articularam uma estrutura que desenvolvedores podem tentar implementar e testar. Ainda permanece aberta à avaliação acadêmica e institucional a questão de saber se sua reconstrução captura os requisitos jurídicos relevantes.

Isso também explica por que o trabalho pertence ao debate sobre IA judicial, apesar de não haver lançamento de produto. Antes de medir um sistema, os desenvolvedores precisam especificar o que significa um desempenho bem-sucedido. Um rascunho refinado e um argumento revisável representam definições diferentes de sucesso.

Para compradores de tecnologia, a proposta cria uma distinção útil entre demonstrações de capacidade e critérios de aceitação. Uma demonstração mostra o que uma aplicação consegue produzir sob condições selecionadas. Os critérios de aceitação determinam o que uma instituição exige nas situações em que pretende usar essa aplicação.

Essa distinção se torna relevante quando um rascunho chega a alguém autorizado a assiná-lo. A aparência do documento pode incentivar sua aceitação antes que o raciocínio subjacente receba escrutínio equivalente. A estrutura direciona a atenção para essa passagem entre o texto gerado e a autoridade institucional.

A Responsabilidade Judicial Pressiona o Design de Software

A revisão humana só se torna significativa quando o revisor pode examinar o material que sustenta a conclusão proposta.

A pressão mais direta recai sobre desenvolvedores que oferecem assistência para redação judicial e instituições que consideram esses produtos. Seu desafio vai além de tornar o texto editável. Eles precisam considerar se um revisor consegue identificar uma premissa sem sustentação, uma resposta ausente ou uma inferência não explicada.

A Inglaterra e o País de Gales oferecem um ponto de referência institucional. Suas orientações judiciais sobre IA de outubro de 2025 reforçam a responsabilidade dos titulares de cargos judiciais pelo material produzido em seus nomes. Elas também situam o uso de IA dentro da obrigação de proteger a integridade judicial e o Estado de Direito.

A implicação para o design de interfaces é direta, embora permaneça uma inferência analítica. Um revisor precisa ter acesso às provas e autoridades por trás de um rascunho. Exigir responsabilidade enquanto esses materiais ficam ocultos tornaria a verificação substantiva mais difícil.

Considere uma aplicação hipotética que gera uma decisão proposta com citações ao lado de cada parágrafo. Essa apresentação ajuda os usuários a localizar autoridades jurídicas. Ela não mostra necessariamente quais provas sustentam uma constatação factual ou por que a autoridade citada rege a disputa específica.

Uma interface diferente poderia expor essas relações diretamente. Selecionar uma conclusão poderia revelar suas premissas factuais, a regra aplicada e as objeções consideradas. Isso daria ao revisor pontos identificáveis para contestar, em vez de exigir uma reconstrução a partir de prosa refinada.

A diferença também afeta as compras. Perguntar se um produto inclui supervisão humana gera informações limitadas. Os compradores precisam entender o que essa supervisão envolve, quais informações o revisor recebe e se o raciocínio rejeitado permanece visível no registro.

A economia de tempo exige escrutínio semelhante. Uma redação mais rápida não significa automaticamente uma verificação mais rápida. Uma aplicação pode produzir um documento rapidamente enquanto deixa o revisor encarregado de verificar manualmente cada conexão factual e jurídica.

Essa observação não estabelece que a assistência por IA aumenta a carga de trabalho judicial. O artigo não fornece um teste operacional capaz de resolver essa questão. Ele estabelece, contudo, uma razão para medir separadamente o tempo de redação e o esforço de revisão em avaliações futuras.

A pressão se estende a advogados e litigantes porque eles enfrentam o raciocínio que sobrevive à revisão. Uma parte afetada precisa identificar por que uma alegação falhou. Uma declaração genérica de que o tribunal considerou tudo oferece pouca ajuda quando a objeção decisiva permanece sem resposta.

Para trabalhadores do conhecimento, a conexão mais ampla diz respeito à organização das fontes. Uma base de conhecimento pesquisável pode facilitar a recuperação de documentos de apoio. Essa função organizacional permanece distinta de determinar se uma conclusão jurídica decorre desses documentos.

A questão institucional é, portanto, específica: o que o software deve revelar para que a responsabilidade possa ser exercida? Respondê-la exige colaboração entre especialistas jurídicos e desenvolvedores. Nem uma saída fluente nem um botão de revisão resolvem isso por si só.

Argumentos Passíveis de Inspeção Mudam o Que a IA Jurídica Deve Mostrar

A abordagem proposta atribui funções diferentes à geração de linguagem, a estruturas explícitas de raciocínio e à avaliação judicial.

Os autores defendem uma camada simbólica passível de inspeção, isto é, uma representação de premissas, regras e relações identificáveis entre conclusões. Eles deixam espaço para que modelos de linguagem recuperem informações e preparem rascunhos. A estrutura de raciocínio proposta assume o ônus de exibir a justificativa.

Trata-se de uma divisão de responsabilidades dentro de um sistema, e não de uma afirmação de que a geração de documentos não tem valor. Encontrar material relevante e produzir linguagem legível continuam sendo funções úteis. A questão em disputa é se essas funções também estabelecem um argumento aceitável.

Uma disputa hipotética sobre benefícios ilustra a diferença. Uma aplicação pode recuperar uma regra de elegibilidade, resumir os registros de um requerente e redigir uma negativa. O rascunho ainda poderia omitir uma exceção que altera a forma como a regra se aplica.

Em uma representação passível de inspeção, a exceção precisaria ocupar um lugar identificável. O revisor poderia examinar se suas condições factuais foram consideradas e por que ela se aplicou ou não. Isso torna a escolha em disputa mais fácil de localizar.

O mesmo princípio se aplica quando uma premissa factual permanece incerta. Um sistema deve distinguir uma alegação de uma constatação aceita para a decisão. Caso contrário, o raciocínio posterior pode parecer internamente consistente enquanto se apoia em uma premissa que ninguém estabeleceu adequadamente.

Outra distinção diz respeito à força das provas. Uma pontuação de confiança descreve a avaliação de um modelo segundo seu próprio design. Ela não corresponde automaticamente à exigência probatória que rege uma decisão judicial.

Um processo de revisão adequado deve, portanto, identificar qual pergunta o número responde. Ele diz respeito à classificação de documentos, à relevância da recuperação, ao suporte factual ou a outra coisa? Combinar esses significados em uma única pontuação obscureceria, em vez de esclarecer, o raciocínio.

Pesquisas históricas mostram por que a especialização por si só não pode resolver a confiabilidade. Varun Magesh e colegas avaliaram sistemas de pesquisa jurídica da LexisNexis e da Thomson Reuters. Sua publicação sobre confiabilidade de IA jurídica relatou informações falsas em mais de 17% das respostas das ferramentas avaliadas.

Esses resultados dizem respeito aos produtos e versões testados. Eles não devem servir como estimativas de desempenho atual para todas as aplicações de IA jurídica. Tampouco medem a estrutura não implementada descrita no artigo de novembro.

A comparação, ainda assim, identifica alvos de avaliação diferentes. Um assistente de pesquisa deve encontrar e caracterizar autoridades com precisão. Um assistente de redação judicial também deve conectar autoridades aplicáveis e fatos estabelecidos a uma conclusão proposta.

A geração aumentada por recuperação, que fornece documentos recuperados a um modelo de linguagem, trata do acesso ao material-fonte. Sua presença não estabelece de forma independente que a interpretação gerada seja juridicamente justificada. Uma fonte pode ser autêntica enquanto a proposição atribuída a ela está equivocada.

A mesma limitação se aplica a explicações extensas. Mais texto pode expandir um argumento, mas também pode repetir uma suposição sem sustentação. A revisabilidade depende de expor as relações decisivas, em vez de aumentar a quantidade de prosa.

A proposta de Devido Processo Computável, consequentemente, desloca a conversa sobre design para compromissos passíveis de inspeção. Que fatos o sistema presume? Qual regra fundamenta a conclusão? Onde ele aborda uma objeção capaz de mudar o resultado?

Essas perguntas são úteis justamente porque permitem discordância. Um revisor pode rejeitar uma premissa ou interpretação sem precisar aceitar todo o documento gerado. Isso dá sentido substantivo à capacidade de revisar um rascunho assistido por IA.

Uma Verificação Formal Não Pode Resolver Todo Julgamento Jurídico

A limitação mais forte da estrutura é explícita: satisfazer suas condições não garante uma decisão justa.

Os autores descrevem suas condições como necessárias, mas insuficientes. A escolha de premissas e a ponderação de princípios concorrentes mantêm um componente avaliativo. Uma estrutura formal pode revelar essas escolhas sem decidir se elas merecem aceitação.

Isso cria uma troca prática para desenvolvedores. Representações explícitas oferecem inspecionabilidade, mas alguém precisa construí-las e mantê-las. Um sistema não pode obter uma cobertura jurídica confiável apenas substituindo prosa por caixas e setas.

Considere um conflito hipotético entre uma regra geral e uma exceção mais restrita. Codificar uma relação de prioridade torna visível a interpretação selecionada. A questão difícil continua sendo se essa prioridade é adequada à jurisdição, aos fatos e às autoridades envolvidas.

A manutenção introduz outro desafio. Uma representação pode permanecer internamente consistente após a mudança de sua fonte jurídica subjacente. A menos que o sistema acompanhe essas mudanças, um argumento organizado pode depender de uma premissa desatualizada.

Esse é um risco de engenharia inferido da arquitetura proposta, e não uma falha mensurada de um produto implementado. O artigo não fornece evidências de implantação que estabeleçam os custos de manutenção. Portanto, compradores devem tratar a viabilidade operacional como uma questão ainda sem resposta.

A estrutura também deixa espaço para divergências sobre o que constitui suporte adequado. Diferentes revisores podem aceitar o mesmo registro factual e, ainda assim, discordar sobre sua relevância. Uma aplicação deve expor essa discordância em vez de disfarçá-la como uma certeza técnica.

Um risco adicional diz respeito à relação entre o argumento exibido e o rascunho gerado. Se divergirem, a visualização do raciocínio poderá se tornar outro artefato persuasivo. A avaliação deve examinar se mudanças no material de apoio alteram as conclusões que dele dependem.

Isso sugere um teste futuro útil, e não um resultado relatado. Remova uma premissa decisiva, introduza uma autoridade contrária ou revele uma objeção sem resposta. Em seguida, examine se a aplicação identifica a fragilidade resultante e a apresenta claramente aos revisores.

A alegação mais ampla do artigo sobre modelos de linguagem também exige tratamento cuidadoso. Evidências de alucinação, isto é, conteúdo gerado falso ou sem suporte, estabelecem problemas de confiabilidade nos contextos avaliados. Elas não provam que toda arquitetura futura falhará em todos os requisitos de raciocínio.

Sistemas híbridos merecem avaliação com base em seu comportamento real. Combinar um modelo de linguagem com regras explícitas não estabelece, por si só, conformidade. Por outro lado, usar um modelo de linguagem em algum ponto do fluxo de trabalho não descreve tudo o que a aplicação pode verificar.

A jurisdição apresenta um limite adicional. A pesquisa se baseia na doutrina peruana e examina materiais comparativos. Leitores norte-americanos não devem supor que suas categorias reproduzam automaticamente todos os requisitos de seus próprios tribunais.

A transferência exigiria análise jurídica da instituição e do processo relevantes. Um interesse compartilhado em decisões fundamentadas não elimina diferenças de procedimento, autoridade ou obrigações probatórias. A implementação precisaria preservar essas diferenças.

Portanto, a pergunta cética é mais exigente do que saber se a formalização é possível. Uma implementação mantida e utilizável pode melhorar a revisão em disputas realistas? A publicação abre essa questão sem fornecer evidências empíricas que a resolvam.

Regras Judiciais Existentes Mostram Por Que a Validação Precisa de Substância

A proposta entra em uma discussão consolidada de governança sobre controle, responsabilização e a capacidade de contestar trabalhos assistidos por IA.

A Espanha oferece uma comparação jurídica concreta. O Artigo 57 de seu Real Decreto-Lei 6/2023 aborda a ação judicial assistida. Ele prevê que um rascunho gerado não se torna, de forma independente, uma decisão judicial ou processual sem validação pela autoridade competente.

A disposição também exige que os usuários possam modificar livremente o rascunho. Sua relevância aqui está na distinção entre gerar material e conferir autoridade jurídica a esse material. A pesquisa de novembro pergunta quais propriedades substantivas devem sustentar essa validação.

São questões relacionadas, mas operam em níveis diferentes. Uma regra pode identificar quem detém responsabilidade e controle. Uma especificação técnica proposta pode descrever as informações que ajudariam essa pessoa a exercer essas responsabilidades.

As orientações éticas europeias fornecem outro ponto de referência. A CEPEJ do Conselho da Europa adotou sua carta sobre IA judicial em dezembro de 2018. Seus princípios incluem direitos fundamentais, não discriminação, qualidade e segurança, transparência e controle do usuário.

Essa carta apoia o uso responsável de IA judicial, ao mesmo tempo em que reconhece possíveis benefícios de eficiência e qualidade. Ela não endossa este artigo específico. Sua relevância está em mostrar que as preocupações com responsabilização antecederam a geração mais recente de sistemas de redação.

A nova proposta aborda uma questão de design mais restrita dentro dessa discussão mais ampla. O que um argumento gerado deve revelar para que as pessoas possam inspecioná-lo? Responder a essa questão não substitui obrigações mais amplas relacionadas a direitos, segurança ou independência institucional.

Para leitores que avaliam tecnologia para tribunais, separar essas camadas evita alegações exageradas. Um sistema pode oferecer inspeção detalhada de argumentos enquanto deixa sem resposta outras questões de implantação. Da mesma forma, uma instituição pode adotar regras de governança sem dispor de software que facilite uma revisão substantiva.

A distinção é especialmente importante ao discutir transparência. Publicar uma explicação geral de uma aplicação descreve sua operação pretendida. Mostrar as premissas por trás de uma conclusão específica permite que alguém examine o raciocínio naquele caso individual.

Ambas as formas de informação podem ser importantes, mas servem a finalidades diferentes. Uma pessoa que contesta uma constatação factual precisa de mais do que um diagrama de arquitetura. Uma equipe de compras que avalia controles de acesso precisa de informações que vão além da redação de um rascunho individual.

É por isso que uma validação significativa não pode ser reduzida a uma assinatura. A pergunta relevante é o que aconteceu antes da aprovação. O revisor examinou as evidências decisivas, considerou manifestações contrárias e avaliou de forma independente a interpretação proposta?

Essas são questões de avaliação propostas, e não constatações sobre o comportamento de qualquer tribunal específico. Os materiais analisados não estabelecem que instituições tenham adotado a estrutura de novembro. Eles mostram por que seu foco em justificativas inspecionáveis possui um contexto institucional já existente.

A relevância prática está em tornar as responsabilidades mais concretas. Desenvolvedores podem identificar o que os revisores precisam ver. Instituições podem identificar o que um processo de aprovação deve registrar. Pesquisadores podem então investigar se esses arranjos melhoram a revisão real.

Acompanhe a Implementação, os Testes Independentes e a Adoção pelos Tribunais

Os próximos desenvolvimentos relevantes transformariam a estrutura conceitual em algo que pessoas externas possam examinar e avaliar.

Nos próximos meses, o primeiro sinal a observar é uma implementação pública ou demonstração técnica detalhada. Ela deve expor como as condições propostas operam em uma disputa trabalhada. Uma resposta legível, por si só, ofereceria evidências limitadas sobre a especificação subjacente.

O artefato útil conectaria premissas factuais, autoridades jurídicas, objeções e conclusões. Também deveria identificar questões não resolvidas e permitir correções. Tal lançamento fortaleceria o argumento de que a estrutura pode orientar o desenvolvimento prático.

Uma demonstração ainda teria alcance limitado. Exemplos selecionados podem mostrar viabilidade sem estabelecer confiabilidade em casos desconhecidos. Leitores devem procurar uma declaração explícita de cobertura e evitar tratar um protótipo restrito como um mecanismo geral de raciocínio judicial.

O segundo sinal é uma avaliação independente com casos difíceis e erros deliberados. Avaliadores devem testar evidências ausentes, regras conflitantes e objeções decisivas que um rascunho deixa de abordar. Esses testes examinariam se a aplicação expõe fragilidades em vez de apenas produzir documentos com aparência de completos.

O desempenho humano deve fazer parte dessa avaliação. Pesquisadores precisam examinar se os revisores percebem mais erros e compreendem o raciocínio exibido. O tempo de revisão também importa, porque uma interface que sobrecarrega os usuários pode comprometer sua finalidade pretendida.

Um resultado favorável fortaleceria o argumento em favor de representações inspecionáveis no contexto testado. Um resultado decepcionante identificaria limites na implementação ou em sua interface. Nenhum dos resultados deve resolver automaticamente toda alegação sobre IA judicial.

O terceiro sinal é uma adoção institucional documentada com escopo definido. Um projeto-piloto em tribunal, requisito de aquisição ou protocolo de revisão publicado forneceria evidências de adoção prática. A documentação deve identificar qual assistência é autorizada e como a responsabilidade opera.

Os leitores devem distinguir esses desenvolvimentos de declarações gerais em apoio à transparência. Um compromisso amplo não estabelece o uso desta estrutura. Um requisito, implementação ou avaliação identificável forneceria uma base mais sólida para avaliar a adoção.

Esses sinais também esclarecem o que permanece desconhecido hoje. A publicação não estabelece ganhos de precisão, redução de custos de revisão ou melhores resultados judiciais. Essas alegações exigem evidências de sistemas e usuários trabalhando sob condições especificadas.

Para desenvolvedores, o valor imediato é um conjunto mais preciso de questões de design. Para compradores institucionais, é uma forma de investigar o que um produto torna revisável. Para as partes afetadas, a questão relevante continua sendo se as razões por trás de uma decisão podem ser compreendidas e contestadas.

Leia a pesquisa original tendo essas distinções em mente antes de avaliar a próxima demonstração de IA judicial. Pergunte quais evidências sustentam as premissas exibidas e quais objeções o sistema deixa sem resposta. Verifique se um revisor pode alterar a interpretação proposta sem perder o registro de apoio. Procure resultados independentes que distingam a conveniência de redação de um escrutínio melhorado. A proposta Computable Due Process fornece um vocabulário para essa avaliação, enquanto a implementação e os testes ainda estão por vir. Quando um fornecedor apresentar uma decisão gerada por IA, peça para inspecionar o raciocínio que conecta suas evidências à sua conclusão. Um revisor consegue localizar a etapa precisa que merece discordância e o sistema consegue preservar essa contestação durante a revisão?

 
 

Comece grátis

Um assistente de IA local-first com gestão de conhecimento pessoal

Para oferecer uma experiência de IA melhor,

atualmente, o remio é compatível apenas com Windows 10+ (x64) e M-Chip Macs.

Seu parceiro de IA no trabalho
Faça mais com o remio

Planeje. Crie. Entregue.
Tudo em um só lugar.

bottom of page