top of page

La propuesta de Debido Proceso Computable establece pruebas de razonamiento para la IA judicial

hace 12 minutos
13 min de lectura
Illustrative photograph. Photo: Christian Wasserfallen / Pexels.

La propuesta de Debido Proceso Computable, publicada el 11 de noviembre, establece cinco condiciones para el razonamiento judicial asistido por IA, al tiempo que reserva la evaluación final para los jueces. Su preocupación central es la brecha entre un documento jurídico convincente y una decisión justificada. Un sistema de IA puede producir lo primero sin establecer lo segundo.

El artículo aparece en Frontiers in Artificial Intelligence como un trabajo de Hipótesis y Teoría. Introduce una especificación conceptual, es decir, una declaración de las propiedades que debería poseer un resultado aceptable. No anuncia un modelo judicial implementado, un avance en precisión ni una nueva norma judicial vinculante.

Para los desarrolladores de software judicial y los compradores institucionales, esa distinción cambia el debate. Los enfoques en competencia son la generación fluida de documentos y la justificación jurídica verificable. La orientación existente de Inglaterra y Gales ya hace hincapié en la responsabilidad judicial. Esta propuesta pregunta qué deberían poder inspeccionar los revisores antes de aceptar un borrador asistido por IA.

La propuesta de Debido Proceso Computable formaliza un deber judicial existente

El artículo propone traducir el deber de motivar las decisiones en propiedades que el software y los revisores humanos puedan examinar.

Roberto Leonardo Cruz-Núñez, Hugo Armando Aguilar-Brito, Andherson J. Aguirre-Lanegra y Nuccia Seminario-Hurtado desarrollaron el marco. Sus afiliaciones abarcan la Universidad Autónoma de Chiapas en México y la Universidad Tecnológica del Perú. Su artículo sobre debido proceso computable parte de la jurisprudencia constitucional peruana y examina materiales jurídicos comparados.

Los autores identifican cinco condiciones: debe existir un argumento, su inferencia debe ser válida y sus premisas deben tener justificación. También debe cumplir el estándar probatorio aplicable y abordar las pretensiones incluidas en la controversia. Estas condiciones se refieren a la relación entre hechos, normas, objeciones y conclusiones.

Este enfoque importa porque la redacción jurídica y la justificación jurídica son tareas distintas. Un documento puede contener encabezados, citas y una narrativa ordenada, pero omitir el paso que conecta las pruebas con su conclusión. Una presentación profesional no aporta esa conexión faltante.

Por tanto, la publicación añade una forma propuesta de describir un razonamiento aceptable. No ofrece a los tribunales una aplicación terminada que compruebe automáticamente todas las condiciones. Los autores informan explícitamente que no realizaron experimentos empíricos ni implementaron ningún sistema.

Los lectores también deberían distinguir entre una especificación propuesta y los deberes jurídicos que interpreta. Los tribunales ya operan bajo requisitos de justificar las decisiones en sus respectivas jurisdicciones. Los investigadores sostienen que esos requisitos pueden orientar el diseño computacional. La publicación de ese argumento no modifica por sí misma el derecho procesal.

La noticia inmediata es más limitada de lo que podría sugerir un titular sobre el establecimiento de normas para la IA judicial. Los investigadores han articulado un marco que los desarrolladores pueden intentar implementar y poner a prueba. Sigue abierta a la evaluación académica e institucional la cuestión de si su reconstrucción recoge los requisitos jurídicos pertinentes.

Esto también explica por qué el trabajo pertenece al debate sobre IA judicial pese a carecer de un lanzamiento de producto. Antes de medir un sistema, los desarrolladores deben especificar qué significa un desempeño exitoso. Un borrador pulido y un argumento revisable representan definiciones diferentes del éxito.

Para los compradores de tecnología, la propuesta crea una distinción útil entre demostraciones de capacidades y criterios de aceptación. Una demostración muestra lo que una aplicación puede producir en condiciones seleccionadas. Los criterios de aceptación determinan lo que una institución exige en las situaciones en las que pretende utilizar esa aplicación.

Esa distinción cobra importancia cuando un borrador llega a alguien autorizado para firmarlo. La apariencia del documento puede fomentar su aceptación antes de que su razonamiento subyacente reciba un escrutinio equivalente. El marco dirige la atención a esa transferencia entre el texto generado y la autoridad institucional.

La responsabilidad judicial presiona el diseño de software

La revisión humana solo adquiere sentido cuando el revisor puede examinar el material que respalda la conclusión propuesta.

La presión más directa recae sobre los desarrolladores que ofrecen asistencia para la redacción judicial y sobre las instituciones que consideran esos productos. Su desafío va más allá de hacer que el texto sea editable. Deben considerar si un revisor puede identificar una premisa sin respaldo, una respuesta ausente o una inferencia sin explicación.

Inglaterra y Gales proporcionan un punto de referencia institucional. Su guía judicial sobre IA de octubre de 2025 refuerza la responsabilidad de los titulares de cargos judiciales por el material producido en su nombre. También sitúa el uso de la IA dentro de la obligación de proteger la integridad judicial y el Estado de derecho.

La implicación para el diseño de interfaces es directa, aunque sigue siendo una inferencia analítica. Un revisor necesita acceso a las pruebas y autoridades que sustentan un borrador. Exigir responsabilidad mientras se ocultan esos materiales dificultaría la verificación sustantiva.

Consideremos una aplicación hipotética que genera una resolución propuesta con citas junto a cada párrafo. Esa presentación ayuda a los usuarios a localizar autoridades jurídicas. No muestra necesariamente qué pruebas respaldan una conclusión fáctica ni por qué la autoridad citada rige la controversia concreta.

Una interfaz diferente podría exponer esas relaciones directamente. Al seleccionar una conclusión, podrían mostrarse sus premisas fácticas, la norma aplicada y las objeciones consideradas. Esto ofrecería al revisor puntos identificables que cuestionar, en lugar de exigirle reconstruirlos a partir de una prosa pulida.

La diferencia también afecta a la contratación. Preguntar si un producto incluye supervisión humana ofrece información limitada. Los compradores necesitan entender en qué consiste esa supervisión, qué información recibe el revisor y si el razonamiento rechazado permanece visible en el expediente.

El ahorro de tiempo requiere un escrutinio similar. Una redacción más rápida no significa automáticamente una verificación más rápida. Una aplicación puede producir un documento con rapidez y, al mismo tiempo, dejar al revisor la tarea de comprobar manualmente cada conexión fáctica y jurídica.

Esa observación no demuestra que la asistencia de IA aumente la carga de trabajo judicial. El artículo no proporciona un ensayo operativo capaz de resolver esa cuestión. Sí establece una razón para medir por separado el tiempo de redacción y el esfuerzo de revisión en futuras evaluaciones.

La presión se extiende a abogados y litigantes porque se enfrentan al razonamiento que sobrevive a la revisión. Una parte afectada necesita identificar por qué fracasó una alegación. Una afirmación general de que el tribunal consideró todo aporta poca ayuda cuando la objeción decisiva sigue sin respuesta.

Para los trabajadores del conocimiento, la conexión más amplia se refiere a la organización de las fuentes. Una base de conocimiento con capacidad de búsqueda puede facilitar la recuperación de documentos de respaldo. Esa función organizativa sigue siendo distinta de determinar si una conclusión jurídica se deriva de esos documentos.

Por lo tanto, la cuestión institucional es específica: ¿qué debe revelar el software para que pueda ejercerse la responsabilidad? Responderla exige colaboración entre especialistas jurídicos y desarrolladores. Ni un resultado fluido ni un botón de revisión la resuelven por sí solos.

Los argumentos verificables cambian lo que la IA jurídica debe mostrar

El enfoque propuesto asigna funciones distintas a la generación de lenguaje, las estructuras de razonamiento explícitas y la valoración judicial.

Los autores defienden una capa simbólica verificable, es decir, una representación de premisas, normas y relaciones identificables entre conclusiones. Dejan espacio para que los modelos de lenguaje recuperen información y preparen borradores. La estructura de razonamiento propuesta asume la carga de mostrar la justificación.

Se trata de una división de responsabilidades dentro de un sistema, no de la afirmación de que la generación de documentos carezca de valor. Encontrar material pertinente y producir lenguaje legible siguen siendo funciones útiles. La cuestión controvertida es si esas funciones también establecen un argumento aceptable.

Una controversia hipotética sobre prestaciones ilustra la diferencia. Una aplicación podría recuperar una norma de elegibilidad, resumir los registros de un solicitante y redactar una denegación. Sin embargo, el borrador podría omitir una excepción que modifica cómo se aplica la norma.

En una representación verificable, la excepción tendría que ocupar un lugar identificable. El revisor podría examinar si se consideraron sus condiciones fácticas y por qué se aplicó o no. Eso facilita localizar la decisión controvertida.

El mismo principio se aplica cuando una premisa fáctica sigue siendo incierta. Un sistema debe distinguir una alegación de una conclusión fáctica aceptada para decidir. De lo contrario, un razonamiento posterior puede parecer internamente coherente mientras se basa en una premisa que nadie estableció adecuadamente.

Otra distinción se refiere a la fuerza de las pruebas. Una puntuación de confianza describe la evaluación de un modelo conforme a su propio diseño. No corresponde automáticamente al requisito probatorio que rige una decisión judicial.

Por ello, un proceso de revisión adecuado debe identificar qué pregunta responde el número. ¿Se refiere a la clasificación de documentos, la pertinencia de la recuperación, el respaldo fáctico u otra cosa? Combinar esos significados en una única puntuación oscurecería el razonamiento en lugar de aclararlo.

La investigación histórica muestra por qué la especialización por sí sola no puede resolver la fiabilidad. Varun Magesh y sus colegas evaluaron sistemas de investigación jurídica de LexisNexis y Thomson Reuters. Su publicación sobre fiabilidad de la IA jurídica informó de información falsa en más del 17 % de las respuestas de las herramientas evaluadas.

Esos resultados se refieren a los productos y versiones sometidos a prueba. No deberían utilizarse como estimaciones actuales del rendimiento de todas las aplicaciones de IA jurídica. Tampoco miden el marco no implementado descrito en el artículo de noviembre.

No obstante, la comparación identifica objetivos de evaluación diferentes. Un asistente de investigación debe encontrar y caracterizar correctamente las autoridades. Un asistente de redacción judicial también debe conectar las autoridades aplicables y los hechos establecidos con una conclusión propuesta.

La generación aumentada por recuperación, que proporciona documentos recuperados a un modelo de lenguaje, facilita el acceso al material fuente. Su presencia no establece por sí sola que la interpretación generada esté jurídicamente justificada. Una fuente puede ser auténtica mientras que la proposición que se le atribuye sea errónea.

La misma limitación se aplica a las explicaciones extensas. Más texto puede ampliar un argumento, pero también puede repetir una suposición sin respaldo. La revisabilidad depende de exponer las relaciones decisivas, en lugar de aumentar la cantidad de prosa.

En consecuencia, la propuesta de Debido Proceso Computable desplaza la conversación sobre diseño hacia compromisos verificables. ¿Qué hechos presupone el sistema? ¿Qué norma sustenta la conclusión? ¿Dónde aborda una objeción capaz de cambiar el resultado?

Esas preguntas son útiles precisamente porque permiten el desacuerdo. Un revisor puede rechazar una premisa o interpretación sin aceptar todo el documento generado. Eso otorga un significado sustantivo a la capacidad de revisar un borrador asistido por IA.

Una comprobación formal no puede resolver todos los juicios jurídicos

La limitación más importante del marco es explícita: satisfacer sus condiciones no garantiza una decisión justa.

Los autores describen sus condiciones como necesarias pero insuficientes. La elección de premisas y la ponderación de principios contrapuestos conservan un componente valorativo. Una estructura formal puede revelar esas elecciones sin resolver si merecen aceptación.

Esto crea una disyuntiva práctica para los desarrolladores. Las representaciones explícitas ofrecen capacidad de inspección, pero alguien debe construirlas y mantenerlas. Un sistema no puede lograr una cobertura jurídica fiable simplemente sustituyendo la prosa por recuadros y flechas.

Considérese un conflicto hipotético entre una regla general y una excepción más específica. Codificar una relación de prioridad hace visible la interpretación seleccionada. La cuestión difícil sigue siendo si esa prioridad es adecuada para la jurisdicción, los hechos y las autoridades implicadas.

El mantenimiento introduce otro desafío. Una representación puede mantener la coherencia interna después de que cambie su fuente jurídica subyacente. A menos que el sistema siga esos cambios, un argumento ordenado puede depender de una premisa desactualizada.

Este es un riesgo de ingeniería inferido de la arquitectura propuesta, más que un fallo medido de un producto implementado. El artículo no proporciona evidencia de despliegue que establezca los costos de mantenimiento. Por tanto, los compradores deberían tratar la viabilidad operativa como una cuestión sin respuesta.

El marco también deja margen para el desacuerdo sobre qué constituye un respaldo adecuado. Distintos revisores pueden aceptar el mismo registro factual y, aun así, discrepar sobre su importancia. Una aplicación debería exponer ese desacuerdo en lugar de disfrazarlo como una certeza técnica.

Un riesgo adicional se refiere a la relación entre el argumento mostrado y el borrador generado. Si divergen, la vista del razonamiento podría convertirse en otro artefacto persuasivo. La evaluación debería examinar si los cambios en el material de respaldo alteran las conclusiones que dependen de él.

Esto sugiere una prueba futura útil, más que un resultado informado. Elimine una premisa decisiva, introduzca una autoridad contraria o revele una objeción sin respuesta. Luego examine si la aplicación identifica la debilidad resultante y la presenta con claridad a los revisores.

La afirmación más amplia del artículo sobre los modelos de lenguaje también exige un tratamiento cuidadoso. La evidencia de alucinaciones, es decir, contenido generado falso o sin respaldo, establece problemas de fiabilidad en los entornos evaluados. No demuestra que toda arquitectura futura vaya a incumplir todos los requisitos de razonamiento.

Los sistemas híbridos merecen evaluación según su comportamiento real. Combinar un modelo de lenguaje con reglas explícitas no establece por sí mismo el cumplimiento. A la inversa, utilizar un modelo de lenguaje en alguna parte del flujo de trabajo no describe todo lo que la aplicación puede verificar.

La jurisdicción presenta un límite adicional. La investigación parte de la doctrina peruana y examina materiales comparativos. Los lectores norteamericanos no deberían asumir que sus categorías reproducen automáticamente todos los requisitos de sus propios tribunales.

La transferencia requeriría un análisis jurídico de la institución y el procedimiento pertinentes. Un interés compartido en decisiones razonadas no elimina las diferencias de procedimiento, autoridad u obligaciones probatorias. La implementación tendría que preservar esas diferencias.

Por tanto, la pregunta escéptica es más exigente que si la formalización es posible. ¿Puede una implementación mantenida y utilizable mejorar la revisión en disputas realistas? La publicación abre esa cuestión sin aportar evidencia empírica que la resuelva.

Las reglas judiciales existentes muestran por qué la validación necesita sustancia

La propuesta se incorpora a un debate consolidado sobre gobernanza, control, responsabilidad y la capacidad de cuestionar el trabajo asistido por IA.

España ofrece una comparación jurídica concreta. El artículo 57 de su Real Decreto-ley 6/2023 aborda la actuación judicial asistida. Establece que un borrador generado no se convierte de forma independiente en una decisión judicial o procesal sin la validación de la autoridad competente.

La disposición también exige que los usuarios puedan modificar libremente el borrador. Su relevancia aquí está en la distinción entre generar material y otorgar a ese material autoridad jurídica. La investigación de noviembre pregunta qué propiedades sustantivas deberían respaldar esa validación.

Son cuestiones relacionadas, pero operan en niveles diferentes. Una norma puede identificar quién ostenta la responsabilidad y el control. Una especificación técnica propuesta puede describir la información que ayudaría a esa persona a ejercer esas responsabilidades.

La orientación ética europea ofrece otro punto de referencia. La CEPEJ del Consejo de Europa adoptó su carta sobre IA judicial en diciembre de 2018. Sus principios incluyen derechos fundamentales, no discriminación, calidad y seguridad, transparencia y control por parte de los usuarios.

Esa carta respalda un uso responsable de la IA judicial, al tiempo que reconoce posibles beneficios de eficiencia y calidad. No constituye un respaldo a este artículo en particular. Su relevancia reside en mostrar que las preocupaciones sobre la rendición de cuentas precedieron a la última generación de sistemas de redacción.

La nueva propuesta aborda una cuestión de diseño más acotada dentro de ese debate más amplio. ¿Qué debería revelar un argumento generado para que las personas puedan inspeccionarlo? Responder esa pregunta no sustituye obligaciones más amplias relativas a derechos, seguridad o independencia institucional.

Para los lectores que evalúan tecnología judicial, separar esas capas evita afirmaciones exageradas. Un sistema puede ofrecer una inspección detallada de argumentos y, al mismo tiempo, dejar sin resolver otras cuestiones de despliegue. Del mismo modo, una institución puede adoptar normas de gobernanza sin disponer de software que facilite la revisión sustantiva.

La distinción importa especialmente al hablar de transparencia. Publicar una explicación general de una aplicación describe su funcionamiento previsto. Mostrar las premisas detrás de una conclusión concreta permite que alguien examine el razonamiento en ese asunto individual.

Ambas formas de información pueden ser importantes, pero cumplen propósitos distintos. Una persona que impugna una determinación fáctica necesita más que un diagrama de arquitectura. Un equipo de contratación que evalúa controles de acceso necesita información que vaya más allá de la redacción de un borrador individual.

Por eso la validación significativa no puede reducirse a una firma. La cuestión relevante es qué ocurrió antes de la aprobación. ¿El revisor examinó la evidencia decisiva, consideró las alegaciones contrarias y evaluó de forma independiente la interpretación propuesta?

Estas son preguntas de evaluación propuestas, no conclusiones sobre la conducta de ningún tribunal en particular. Los materiales revisados no establecen que las instituciones hayan adoptado el marco de noviembre. Muestran por qué su enfoque en la justificación inspeccionable cuenta con un contexto institucional existente.

La importancia práctica reside en hacer más concretas las responsabilidades. Los desarrolladores pueden identificar qué necesitan ver los revisores. Las instituciones pueden identificar qué debería registrar un proceso de aprobación. Los investigadores pueden entonces indagar si esos mecanismos mejoran la revisión real.

Esté atento a la implementación, las pruebas independientes y la adopción por los tribunales

Los próximos avances significativos convertirían el marco conceptual en algo que personas externas puedan examinar y evaluar.

Durante los próximos meses, la primera señal que conviene observar es una implementación pública o una demostración técnica detallada. Debería exponer cómo operan las condiciones propuestas en una controversia desarrollada. Una respuesta legible por sí sola proporcionaría evidencia limitada sobre la especificación subyacente.

El artefacto útil conectaría premisas fácticas, autoridades jurídicas, objeciones y conclusiones. También debería identificar cuestiones no resueltas y permitir correcciones. Una publicación de ese tipo reforzaría el argumento de que el marco puede orientar el desarrollo práctico.

Una demostración seguiría teniendo un alcance limitado. Los ejemplos seleccionados pueden mostrar viabilidad sin establecer fiabilidad en asuntos desconocidos. Los lectores deberían buscar una declaración explícita de cobertura y evitar tratar un prototipo acotado como un motor general de razonamiento judicial.

La segunda señal es una evaluación independiente mediante casos difíciles y errores deliberados. Los evaluadores deberían probar evidencia ausente, reglas contradictorias y objeciones decisivas que un borrador no aborda. Estas pruebas examinarían si la aplicación expone debilidades en vez de limitarse a producir documentos que parecen completos.

El desempeño humano debería formar parte de esa evaluación. Los investigadores deben examinar si los revisores detectan más errores y comprenden el razonamiento mostrado. El tiempo de revisión también importa, porque una interfaz que abruma a los usuarios puede socavar su propósito previsto.

Un resultado favorable reforzaría el argumento a favor de las representaciones inspeccionables en el entorno probado. Un resultado decepcionante identificaría límites en la implementación o en su interfaz. Ninguno de los dos resultados debería resolver automáticamente todas las afirmaciones sobre la IA judicial.

La tercera señal es una adopción institucional documentada con un alcance definido. Un piloto judicial, un requisito de contratación o un protocolo de revisión publicado aportarían evidencia de adopción práctica. La documentación debería identificar qué asistencia está autorizada y cómo opera la responsabilidad.

Los lectores deberían distinguir esos avances de las declaraciones generales en apoyo de la transparencia. Un compromiso amplio no establece el uso de este marco. Un requisito, una implementación o una evaluación identificables ofrecerían una base más sólida para valorar la adopción.

Estas señales también aclaran qué sigue siendo desconocido hoy. La publicación no establece mejoras de precisión, reducción de costos de revisión ni mejores resultados judiciales. Esas afirmaciones requieren evidencia de sistemas y usuarios que trabajen en condiciones especificadas.

Para los desarrolladores, el valor inmediato es un conjunto más preciso de preguntas de diseño. Para los compradores institucionales, es una forma de examinar qué hace un producto susceptible de revisión. Para las partes afectadas, la cuestión pertinente sigue siendo si las razones detrás de una decisión pueden comprenderse y cuestionarse.

Lea la investigación original teniendo presentes esas distinciones antes de evaluar la próxima demostración de IA judicial. Pregunte qué evidencia respalda las premisas mostradas y qué objeciones deja sin resolver el sistema. Compruebe si un revisor puede modificar la interpretación propuesta sin perder el registro de respaldo. Busque resultados independientes que distingan la conveniencia de la redacción de un escrutinio mejorado. La propuesta Computable Due Process proporciona un vocabulario para esa evaluación, mientras que la implementación y las pruebas aún están por venir. Cuando un proveedor presente una resolución generada por IA, pida inspeccionar el razonamiento que conecta su evidencia con su conclusión. ¿Puede un revisor localizar el paso preciso que merece desacuerdo y puede el sistema preservar esa impugnación durante la revisión?

 
 

Empieza gratis

Un asistente de IA local-first con gestión del conocimiento personal

Para ofrecer una mejor experiencia con la IA,

actualmente remio solo es compatible con Windows 10+ (x64) y M-Chip Macs.

Tu aliado de IA para el trabajo
Haz más con remio

Planifica. Crea. Entrega.
Todo en un solo lugar.

bottom of page