Las normas de IA de los tribunales de Qatar anteponen la rendición de cuentas a la adopción

La UNESCO ha llamado la atención sobre tres lecciones de Qatar mientras los tribunales afrontan la IA, pese a una brecha cada vez mayor entre la adopción y las salvaguardas institucionales. La historia surgió a través de google news, pero el titular minimiza el conflicto. Los tribunales buscan acelerar la investigación, la redacción y la gestión de casos. Deben obtener esas eficiencias sin debilitar la precisión, la confidencialidad ni la responsabilidad humana.

Qatar ofrece una prueba útil porque su implicación ha ido más allá de conferencias y declaraciones éticas generales. Los profesionales del ámbito judicial recibieron formación especializada, mientras que un sistema judicial catarí estableció normas exigibles para el trabajo jurídico asistido por IA. Esa combinación vincula la educación con las consecuencias.

El modelo resultante se diferencia tanto de la experimentación sin restricciones como de la prohibición absoluta. Permite a los abogados utilizar IA para tareas de apoyo definidas, al tiempo que preserva deberes que ya existían antes de la llegada de la IA generativa. Por tanto, el verdadero debate no enfrenta a los tribunales con la tecnología. Enfrenta la automatización asistencial con la automatización sin rendición de cuentas.

Esa distinción importa más allá de Qatar. Jueces, abogados y personal judicial ya utilizan chatbots de propósito general, a menudo mediante cuentas personales y sin orientación formal. La propia encuesta de la UNESCO concluyó que la adopción avanza mucho más rápido que la formación institucional.

La experiencia de Qatar apunta a tres lecciones prácticas. La responsabilidad debe permanecer en manos de las personas, toda producción relevante necesita verificación y la gobernanza debe incluir formación antes de que los tribunales dependan de la tecnología. En conjunto, estos principios ofrecen una vía más creíble que limitarse a preguntar si los tribunales deberían «usar IA».

Lo que el titular de Google News omite

El avance importante de Qatar no fue adoptar IA por sí sola; vinculó el uso permitido con la responsabilidad profesional y la supervisión judicial.

El 6 de enero de 2026, el Qatar International Court and Dispute Resolution Centre emitió la Practice Direction No. 1 of 2026. La directiva regula el uso de IA ante el Qatar Financial Centre Civil and Commercial Court y su Regulatory Tribunal.

Se trata de una jurisdicción especializada, no de todo el sistema judicial nacional de Qatar. El QFC Court resuelve litigios civiles y comerciales que involucran a entidades del Qatar Financial Centre y sigue un marco basado en gran medida en el common law inglés. Ese alcance limita las afirmaciones generales sobre una adopción nacional, pero también hace que las normas sean concretas y exigibles.

La directiva permite el apoyo de la IA para investigación jurídica, redacción de documentos, elaboración de resúmenes y análisis. No considera estas actividades inherentemente impropias. En cambio, establece límites sobre la manera en que los profesionales utilizan el material resultante.

Según la directiva judicial sobre IA, la IA no puede sustituir el juicio jurídico ni la debida verificación humana. Las partes tampoco pueden utilizarla para fabricar pruebas, testimonios de testigos o escritos sin respaldo.

Las normas abordan varios modos de fallo conocidos. Entre ellos figuran afirmaciones jurídicas inexactas, citas inventadas, información confidencial introducida en sistemas no seguros y una menor rendición de cuentas profesional. El tribunal puede ignorar material problemático o imponer sanciones cuando el uso indebido afecta al procedimiento.

No se exige una divulgación automática cada vez que alguien utiliza IA. Sin embargo, el tribunal puede preguntar si una parte la utilizó y cómo verificó el resultado. Ese enfoque evita convertir cada sugerencia ortográfica en un evento de divulgación.

También preserva la capacidad del tribunal para investigar trabajo sospechoso o poco fiable. Un abogado no puede defender una autoridad inventada alegando que la produjo un chatbot. El profesional sigue siendo responsable de cada escrito que lleva su nombre.

El momento es significativo. Qatar no empezó a pensar en la IA judicial en 2026. La UNESCO, el Siracusa International Institute y el Qatar’s Supreme Judiciary Council formaron a operadores judiciales cataríes en septiembre de 2022.

Ese programa examinó la investigación jurídica, la gestión de información judicial, los chatbots orientados al público, el sesgo algorítmico, la privacidad y la transparencia. Situó la eficiencia y los derechos humanos dentro del mismo debate, en lugar de tratarlos como líneas de política separadas.

Un segundo programa regional se celebró en Doha del 8 al 11 de diciembre de 2024. La UNESCO trabajó con el Ministry of Justice y la National Commission for Education, Culture and Science de Qatar. El programa reunió a 34 jueces y fiscales de 10 países árabes.

Los participantes analizaron la adopción de IA, la analítica predictiva, los precedentes jurídicos, la privacidad, los derechos a un juicio justo, la libertad de expresión y el acceso a la información. Por ello, la formación judicial regional abordó tanto las oportunidades operativas como los riesgos constitucionales.

El encuadre de google news presenta tres lecciones como una lista accesible. La historia subyacente es más trascendente. Qatar ha dedicado varios años a conectar el desarrollo de capacidades, el debate regional y el control procesal.

Esa secuencia crea la tensión central del artículo. Los tribunales pueden obtener herramientas de IA de inmediato, pero una adopción institucional fiable lleva mucho más tiempo. Una suscripción o una pestaña del navegador resuelven el acceso, mientras que la gobernanza exige normas, sistemas seguros, formación y supervisión continua.

Lección uno: la rendición de cuentas no puede delegarse en la IA

La primera lección es sencilla pero exigente: quien presente trabajo asistido por IA debe seguir siendo plenamente responsable de él.

La IA generativa produce texto prediciendo secuencias probables a partir de patrones aprendidos durante el entrenamiento. No consulta la autoridad jurídica de la misma forma responsable que lo hace un abogado o un juez. Por tanto, un lenguaje fluido puede ocultar falta de contexto, legislación desactualizada o citas ficticias.

Esa limitación adquiere una gravedad inusual dentro de un tribunal. Una recomendación equivocada de un restaurante desperdicia tiempo. Un precedente inventado puede distorsionar un argumento, retrasar procedimientos, aumentar costes y afectar los derechos legales de una persona.

La directiva de Qatar responde preservando los deberes profesionales existentes. El uso de IA no reduce la responsabilidad de un representante respecto de la precisión, la fiabilidad, la confidencialidad o la legalidad. La herramienta no tiene un deber independiente ante el tribunal y no puede asumir la culpa.

Este principio evita un cambio sutil en la responsabilidad. Sin una norma explícita, los usuarios podrían tratar el resultado automatizado como una autoridad externa. Podrían revisarlo con menos cuidado porque el lenguaje suena seguro y completo.

En cambio, los tribunales deberían clasificar la IA como un instrumento de asistencia. Puede ayudar a identificar cuestiones, reorganizar material, resumir documentos o generar una estructura inicial. No puede convertirse en el autor responsable de un escrito procesal o una sentencia.

La supervisión humana significa más que leer una respuesta antes de presentarla. El profesional responsable debe comprender el razonamiento, comprobar las autoridades y decidir si el resultado debe formar parte del caso. Una revisión visual rápida no satisface esa obligación.

La norma también se aplica cuando la intervención de la IA permanece invisible. Un escrito pulido puede no mostrar ninguna señal evidente de que un chatbot ayudó a redactarlo. La responsabilidad debe seguir al escrito, no depender de si el tribunal detecta la automatización.

Esto hace que el enfoque de Qatar sea más duradero que una norma vinculada a un único producto. ChatGPT, Gemini, Copilot y los futuros modelos jurídicos cambiarán. El deber asociado al profesional puede mantenerse estable a lo largo de esos cambios técnicos.

Las conclusiones de la UNESCO muestran por qué importa ese deber estable. Su encuesta recopiló 563 respuestas de operadores judiciales de 96 países entre septiembre y diciembre de 2023. El cuarenta y cuatro por ciento informó de que utilizaba herramientas de IA para actividades relacionadas con el trabajo.

Entre los encuestados que usan chatbots, el 43 por ciento los empleaba para búsquedas. Otro 28 por ciento los utilizaba para redactar documentos, mientras que el 14 por ciento los usaba para generar ideas. No se trata de actividades periféricas dentro del trabajo jurídico.

Las búsquedas pueden determinar qué autoridades considera un profesional. La redacción puede definir cómo llegan los hechos y las reclamaciones jurídicas al tribunal. La generación de ideas puede influir en las teorías que un abogado o juez considera plausibles.

El problema no es que cada uso cause daño automáticamente. El problema es que la asistencia puede convertirse en influencia antes de que las instituciones reconozcan la transición. Una sugerencia de investigación puede orientar todo un argumento incluso cuando ninguna frase generada aparece en el documento final.

La UNESCO también constató que el 55 por ciento de los encuestados consideraba resultados de chatbots al redactar sus propios textos. El treinta y nueve por ciento informó de que revisaba y editaba los resultados antes de utilizarlos. El seis por ciento afirmó que utilizaba material de chatbots directamente, sin revisión ni verificación.

La cifra del seis por ciento parece pequeña, pero los tribunales operan con un umbral de riesgo diferente al de los servicios de consumo ocasional. Una sola cita sin verificar puede perjudicar un caso y consumir recursos judiciales. Los errores repetidos pueden debilitar la confianza pública.

Por tanto, la rendición de cuentas necesita un flujo de trabajo auditable. Los abogados deberían conservar los materiales de origen, documentar las comprobaciones importantes e identificar quién aprobó los usos relevantes. Los tribunales necesitan procedimientos para cuestionar escritos sospechosos sin asumir que todos los usuarios actuaron indebidamente.

Unos buenos registros también protegen a los profesionales cuidadosos. Un profesional que pueda demostrar las fuentes autorizadas, los pasos de verificación y la aprobación humana dispone de pruebas más sólidas de una conducta responsable. La documentación transforma la supervisión de una promesa abstracta en un proceso revisable.

Esto se asemeja a una sólida gestión del conocimiento. El trabajo fiable depende de preservar las fuentes, el contexto y las decisiones, en lugar de conservar únicamente el texto final generado.

La lección de la rendición de cuentas también presiona a los proveedores de tecnología jurídica. Un sistema diseñado para tribunales debería respaldar citas rastreables, acceso controlado e historiales de revisión. La redacción rápida por sí sola no satisface las necesidades de la institución.

También presiona a los administradores judiciales. No pueden incorporar un chatbot a un flujo de trabajo existente y suponer que la ética profesional cubrirá todos los riesgos técnicos. El personal necesita una asignación clara de responsabilidades para la contratación, la seguridad, la supervisión y la respuesta a incidentes.

La contribución más sólida de Qatar no es un nuevo eslogan ético. Convierte un deber conocido en una norma operativa para la práctica asistida por IA. La persona que utiliza el sistema sigue respondiendo por ello, incluso cuando el modelo produjo el error.

Lección dos: la verificación debe llegar a la fuente primaria

La segunda lección es que revisar el resultado de la IA es insuficiente a menos que un profesional lo compruebe frente a material primario autorizado.

La IA generativa puede crear una cita convincente que contenga un nombre de tribunal, una fecha y un principio jurídico plausibles. Cada elemento puede parecer familiar. Sin embargo, la sentencia citada puede no existir, estar mal citada o no guardar relación con la proposición afirmada.

La directiva de Qatar aborda ese riesgo directamente. Las partes deben verificar de manera independiente el material generado por IA frente a fuentes autorizadas. El tribunal puede rechazar o sancionar escritos que contengan contenido fabricado o no verificable.

La verificación independiente tiene un significado específico en el trabajo jurídico. Pedir al mismo chatbot que compruebe su primera respuesta no crea independencia. Una segunda respuesta generada puede repetir el mismo error con mayor seguridad.

Una verificación adecuada remite a la legislación oficial, sentencias autenticadas, expedientes judiciales u otra fuente primaria reconocida. Los comentarios secundarios pueden aportar contexto, pero no deben sustituir el material jurídico que rige la controversia.

Este requisito cambia la economía de la asistencia mediante IA. Un chatbot puede producir un borrador rápidamente, pero la verificación sigue consumiendo tiempo de expertos. La ganancia total de eficiencia depende de cuánto trabajo requiera comprobar el resultado.

Para textos administrativos de bajo riesgo, esa compensación puede seguir siendo favorable. Resumir una discusión sobre programación tiene menos consecuencias que interpretar una ley controvertida. Los tribunales deben ajustar los controles según el efecto de la tarea sobre los derechos y las decisiones.

La investigación jurídica plantea un caso más difícil. La IA puede sugerir términos de búsqueda útiles o identificar posibles líneas de investigación. Sin embargo, su fluidez anima a los usuarios a dejar de buscar cuando reciben una respuesta ordenada.

La encuesta de UNESCO revela esta tensión. El cuarenta y tres por ciento de los usuarios de chatbots judiciales declaró utilizar los sistemas para búsquedas relacionadas con legislación, jurisprudencia, doctrina, hechos o definiciones. Solo el tres por ciento declaró utilizar chatbots para verificar la exactitud y la fiabilidad.

Estas categorías no son perfectamente comparables, pero la diferencia resulta instructiva. Muchos usuarios piden a la IA que encuentre información, mientras que relativamente pocos describen la verificación como la tarea. La política institucional debe cerrar esa brecha.

Un flujo de investigación defendible comienza con una pista generada, no con una conclusión generada. El usuario debe abrir la sentencia citada, confirmar su jurisdicción y estado, leer el pasaje pertinente y registrar la fuente.

El mismo principio se aplica a la elaboración de resúmenes. Un modelo puede omitir una salvedad, fusionar a dos interlocutores o exagerar una conclusión provisional. Alguien debe comparar el resumen con la fuente completa antes de basarse en él.

Los sistemas judiciales también deben distinguir entre recuperación y generación. Un sistema de recuperación busca en una colección controlada y devuelve material vinculado a las fuentes. Un sistema generativo redacta texto nuevo, incluso cuando está conectado a documentos recuperados.

La recuperación puede reducir algunos riesgos, pero no los elimina. El sistema podría seleccionar el documento equivocado, pasar por alto una enmienda o generar una conclusión que no esté respaldada por el pasaje recuperado. El acceso a las fuentes hace posible la comprobación, no automática.

Aquí es donde un repositorio gobernado y con capacidad de búsqueda resulta más útil que una carpeta desestructurada de documentos. El personal de los tribunales necesita versiones actualizadas, metadatos fiables, controles de acceso y vínculos entre las afirmaciones generadas y el material de respaldo.

Para los equipos que gestionan grandes colecciones locales de documentos, una base de conocimiento con capacidad de búsqueda ilustra la arquitectura más amplia. La versión jurídica exige permisos más estrictos, normas de conservación y validación de fuentes.

La confidencialidad forma parte de la verificación, no es algo separado de ella. Un abogado que confirma cada cita aún puede vulnerar sus deberes profesionales al cargar pruebas privilegiadas en un chatbot público. La exactitud no subsana una divulgación no autorizada.

Qatar prohíbe a las partes introducir material confidencial, privilegiado o protegido en servicios de IA disponibles públicamente o no seguros. Las infracciones pueden acarrear consecuencias procesales o disciplinarias. Esa norma reconoce que los prompts constituyen una forma de transferencia de datos.

Por ello, los tribunales deben evaluar adónde van los prompts, cuánto tiempo los conservan los proveedores y si los vendedores los utilizan para mejorar los modelos. Los administradores también necesitan claridad sobre el registro, la eliminación, el cifrado y el acceso de los subcontratistas.

Un servicio controlado localmente o protegido contractualmente puede reducir la exposición. Aun así, necesita pruebas técnicas y gobernanza. La etiqueta “enterprise” no demuestra que todo uso judicial sea apropiado.

La verificación también afecta a las partes que no cuentan con los mismos recursos. Un gran despacho de abogados puede desarrollar sistemas de recuperación seguros y dedicar personal a comprobar trabajos asistidos por IA. Un litigante sin representación puede recurrir a un chatbot público porque no dispone de ayuda profesional.

Los tribunales deben evitar convertir las normas de verificación en una barrera invisible de acceso. Las orientaciones en lenguaje claro, los recursos de investigación aprobados y las advertencias claras pueden ayudar a los usuarios a entender qué no puede acreditar una respuesta de IA.

Esta preocupación no justifica aceptar presentaciones poco fiables. Muestra que la aplicación de las normas y el apoyo deben desarrollarse de forma conjunta. De lo contrario, las partes sofisticadas ganan velocidad mientras los usuarios con menos recursos afrontan sanciones por riesgos que apenas comprenden.

La misma cuestión afecta a los procedimientos multilingües. La traducción mediante IA puede mejorar el acceso, pero el significado jurídico puede depender de una expresión precisa. La revisión humana debe abordar la terminología, el contexto y el idioma autoritativo del instrumento subyacente.

La formación anterior de UNESCO en Qatar examinó herramientas como la transcripción en tiempo real y la preparación de informes y sentencias asistida electrónicamente. Estos usos pueden reducir las cargas administrativas. También crean nuevos puntos en los que un error puede incorporarse al expediente.

Por tanto, la verificación debe abarcar toda la cadena de información. Comienza con la fuente, continúa con la transcripción o la recuperación y termina con la presentación final. Comprobar solo la redacción final puede pasar por alto un error de transformación anterior.

La lección práctica es exigente, pero clara. Los tribunales deben medir los sistemas de IA por la calidad de su trazabilidad probatoria, no por el acabado de sus resultados. Una respuesta más lenta con respaldo verificable suele ser más útil que una conclusión instantánea.

Lección tres: la formación debe llegar antes que la dependencia

La tercera lección es que los tribunales necesitan formación institucional antes de que la IA se integre en el trabajo rutinario, no después de un fracaso perjudicial.

La encuesta de UNESCO encontró un marcado desfase entre uso y apoyo. El cuarenta y cuatro por ciento de los encuestados había utilizado herramientas de IA para trabajar, pero solo el nueve por ciento informó de directrices organizativas sobre IA. El mismo porcentaje declaró haber recibido formación o información institucional.

Esa brecha significa que los usuarios individuales suelen establecer sus propias prácticas. Algunos verificarán con cuidado y protegerán la información sensible. Otros pegarán material de casos en sistemas públicos o aceptarán citas plausibles sin comprobarlas.

El criterio personal por sí solo no puede gobernar una institución. Los tribunales necesitan normas compartidas para que tareas similares reciban salvaguardias similares. De lo contrario, el uso responsable de la IA depende de qué juez, secretario, abogado o contratista se encargue del trabajo.

La formación debe comenzar con escenarios concretos. Una sesión puede pedir a los participantes que prueben una cita generada, identifiquen contenido confidencial en un prompt o comparen un resumen de IA con la fuente. Estos ejercicios exponen los modos de fallo de manera más eficaz que los eslóganes.

Los profesionales judiciales también necesitan una comprensión práctica de los modelos de lenguaje de gran tamaño. No necesitan convertirse en ingenieros de aprendizaje automático. Sí deben saber que los resultados fluidos se generan de forma probabilística y pueden contener afirmaciones sin respaldo.

La formación debe distinguir entre asistencia permitida y juicio delegado. Resumir un documento administrativo es distinto de recomendar una pena. Redactar una notificación rutinaria es distinto de evaluar la credibilidad de un testigo o sopesar pruebas controvertidas.

La línea debe depender de las consecuencias, no de la comodidad. Las tareas de mayor impacto requieren restricciones más estrictas, una validación más sólida y una autoridad humana clara. Algunos usos deben seguir prohibidos cuando una supervisión adecuada sea imposible.

La encuesta judicial de UNESCO sobre IA reveló que el 69 por ciento de los encuestados reconocía riesgos potenciales en el uso de chatbots jurídicos. La calidad de los resultados fue la preocupación más común, citada por el 27 por ciento.

Las preocupaciones sobre protección de datos le siguieron con un 18 por ciento. Las preocupaciones por derechos de autor e integridad también representaron el 17 por ciento, mientras que el 14 por ciento identificó la opacidad. Los encuestados también plantearon cuestiones laborales, de sesgo y ambientales.

La concienciación es útil, pero una preocupación general no indica a un usuario qué hacer durante una jornada laboral ajetreada. La formación debe traducir las categorías de riesgo en decisiones, herramientas aprobadas, vías de escalamiento y requisitos de verificación.

La evolución de Qatar muestra cómo el desarrollo de capacidades puede preceder al control procesal formal. El programa de 2022 presentó usos prácticos y riesgos para los derechos humanos. El programa regional de 2024 amplió la conversación mediante casos y marcos regulatorios.

La orientación de 2026 especificó entonces deberes y consecuencias para un sistema judicial definido. Esto no demuestra que cada participante influyera en esa norma, y los programas involucraron a instituciones diferentes. La secuencia aún demuestra una atención institucional sostenida.

También pone de relieve una debilidad de las respuestas políticas rápidas. Un tribunal puede copiar las normas de IA de otra jurisdicción en cuestión de días. No puede copiar la experiencia, la confianza interna, la infraestructura técnica ni la comprensión profesional necesarias para aplicarlas de forma coherente.

La formación debe continuar después de que las normas entren en vigor. Los modelos, las interfaces y las prácticas de los proveedores cambian. Un flujo de trabajo seguro aprobado un año puede dejar de ser adecuado después de que un proveedor cambie sus configuraciones de conservación o introduzca funciones autónomas.

Los tribunales deben tratar la competencia en IA como formación profesional continua. Las actualizaciones deben incluir incidentes documentados, nuevas capacidades de los sistemas, condiciones de privacidad revisadas y ejemplos de procedimientos reales.

El personal de contratación también necesita formación especializada. Debe evaluar la seguridad, la auditabilidad, la ubicación de los datos, las actualizaciones de modelos, la accesibilidad y las afirmaciones de los proveedores. Una demostración general del producto no responde a esas preguntas.

Los jueces necesitan orientación para evaluar controversias relacionadas con IA y escritos asistidos por IA. Los abogados necesitan orientación sobre deberes profesionales y confidencialidad del cliente. Los secretarios necesitan normas para usos administrativos y manejo de expedientes.

Los tecnólogos necesitan contexto jurídico. Un sistema técnicamente preciso aún puede vulnerar el debido proceso si las partes afectadas no pueden cuestionar su influencia. Los ingenieros deben entender qué registros, explicaciones y controles de revisión exigen los procedimientos legales.

El público también necesita avisos comprensibles cuando los sistemas operados por tribunales afecten al acceso o a la administración de casos. Un chatbot que ayuda a los usuarios a encontrar formularios es distinto de un sistema que influye en la prioridad de los casos. Esas funciones exigen divulgaciones diferentes.

La formación no puede eliminar todos los errores. Su valor reside en crear expectativas compartidas y señales de advertencia reconocibles. Los usuarios deben saber cuándo detenerse, verificar, consultar a un supervisor o evitar por completo la herramienta.

Este enfoque también fortalece la innovación. Los límites claros permiten al personal probar aplicaciones de bajo riesgo sin tener que adivinar si la experimentación vulnera la política. La gobernanza puede crear un espacio definido para el trabajo útil en lugar de bloquear todo cambio.

UNESCO informa de que su Global Judges Initiative opera ahora en más de 160 países. Sus programas anteriores abordaron la libertad de expresión y el acceso a la información antes de ampliarse a la IA y el Estado de derecho.

Ese alcance importa porque los sistemas judiciales varían ampliamente. Un único estándar técnico no puede resolver las diferencias de idioma, tradición jurídica, infraestructura, recursos y expectativas públicas. La formación permite que los principios globales se encuentren con los procedimientos locales.

La lección de Qatar, por tanto, no es que todos los tribunales deban reproducir una directriz práctica palabra por palabra. Es que la dependencia no debe llegar antes que la competencia. Las instituciones deben preparar a las personas mientras definen el papel de la tecnología.

La disyuntiva es eficiencia frente a justicia impugnable

Los tribunales deben buscar la eficiencia solo cuando toda contribución relevante de la IA siga siendo revisable, explicable y susceptible de impugnación.

La atracción de la IA es comprensible. Los tribunales gestionan grandes volúmenes de registros, tareas administrativas repetitivas, pruebas digitales en aumento y una demanda pública de decisiones oportunas. La investigación, la transcripción, la traducción, la programación y la organización de documentos ofrecen oportunidades de asistencia.

La UNESCO ha destacado ejemplos prácticos durante años. El Intelligent Court Transcription System de Singapur convierte las audiencias en texto en tiempo real. SIGMA, en Brasil, ha ayudado con informes, decisiones y sentencias electrónicas.

Estos ejemplos se centran en la carga de trabajo y los procesos. La IA generativa amplía la oportunidad hacia la redacción y el análisis, donde la frontera entre la administración y la decisión judicial se vuelve menos clara.

Un resumen puede afectar qué hechos reciben atención. Un resultado de investigación puede determinar qué precedente entra en un argumento. Una traducción puede modificar la aparente solidez de un testimonio.

Por esa razón, el concepto de “human in the loop” no es suficiente. Una persona puede aprobar una respuesta sin entender cómo el sistema la moldeó. Una supervisión significativa requiere tiempo, experiencia, autoridad y acceso a las pruebas de respaldo.

La posibilidad de impugnación ofrece una prueba más sólida. Una parte afectada por un trabajo asistido por IA debería poder identificar el material pertinente, cuestionar su exactitud y obtener una revisión de un responsable humano con capacidad de decisión.

El tribunal también debería poder reconstruir lo ocurrido cuando algo falla. Esto requiere registros, información de versiones, documentos de origen y aprobaciones documentadas. Sin estos elementos, la responsabilidad existe sobre el papel, pero resulta difícil de exigir.

La orientación de Qatar respalda este principio al permitir que el tribunal pregunte si se utilizó IA y cómo se verificó el resultado. Este modelo de divulgación específica se centra en la rendición de cuentas, en lugar de exigir una etiqueta para cada uso menor.

Aun así, el enfoque deja incertidumbres. La orientación se aplica a litigantes y representantes ante dos órganos específicos. No establece un marco completo para cada uso interno por parte de jueces o administradores en todo Qatar.

Tampoco resuelve cómo deberían evaluar los tribunales los sistemas propietarios cuyas operaciones internas siguen siendo inaccesibles. Un abogado puede verificar las citas finales sin poder evaluar sesgos ocultos en la clasificación de documentos.

La misma limitación afecta a las herramientas operadas por los tribunales. Si un modelo ayuda a priorizar casos, asignar recursos o señalar riesgos, los errores pueden extenderse a muchos procedimientos. La revisión individual no puede detectar fácilmente un patrón sistémico.

Por ello, las pruebas independientes son necesarias para los sistemas de mayor impacto. Los tribunales deberían evaluar las tasas de error en distintos idiomas, tipos de casos y grupos afectados. También deberían examinar si la automatización modifica los resultados o simplemente desplaza las demoras a otra parte.

Los informes públicos pueden reforzar la supervisión sin exponer información protegida de los casos. Las instituciones pueden divulgar categorías de uso aprobadas, número de incidentes, métodos de auditoría y revisiones de políticas. Esto proporciona a investigadores y usuarios de los tribunales pruebas que van más allá de las afirmaciones de los proveedores.

La comparación con otras jurisdicciones muestra que Qatar forma parte de un movimiento más amplio. La encuesta de la UNESCO identificó orientaciones oficiales en Brasil, Canadá, Nueva Zelanda y el Reino Unido antes de la última ola de normas judiciales.

La Ley de IA de la Unión Europea sitúa en una categoría de alto riesgo determinados sistemas utilizados para ayudar a las autoridades judiciales con los hechos y el derecho. Esta clasificación conlleva obligaciones relacionadas con la gestión de riesgos y la supervisión humana.

Los distintos sistemas jurídicos elegirán límites diferentes. Algunos exigirán divulgación cada vez que la IA generativa contribuya de forma sustancial a una presentación. Otros se centrarán en la precisión y la responsabilidad profesional, con independencia del método de redacción.

El principio común más sólido es que la automatización no puede reducir la capacidad de una persona para impugnar la acción del Estado. Las ganancias de eficiencia no compensan un proceso que se vuelve opaco, sesgado o imposible de revisar.

Este principio también protege frente a expectativas exageradas. La IA generativa puede reducir el tiempo dedicado a los primeros borradores, pero los tribunales siguen necesitando gestión de registros, infraestructura segura, personal cualificado y procedimientos accesibles.

Un modelo no puede resolver datos faltantes, archivos inconsistentes ni una titularidad organizativa poco clara. Puede producir una respuesta pulida que oculte esas debilidades. Esa apariencia de completitud puede ser más peligrosa que un fallo técnico evidente.

Por tanto, la visión escéptica está justificada. Las normas de Qatar son significativas, pero las normas por sí solas no demuestran una adopción segura. Su valor dependerá de la aplicación, la calidad de la formación, los sistemas aprobados y las pruebas procedentes de procedimientos reales.

Las sanciones pueden disuadir del uso descuidado, pero un castigo excesivo puede fomentar el ocultamiento. Los tribunales necesitan una aplicación proporcionada que distinga la conducta indebida deliberada de los errores corregibles. Una orientación clara debería hacer viable el cumplimiento.

Los proveedores también condicionarán el resultado. Los tribunales deberían resistirse a las afirmaciones de que un modelo tiene “nivel jurídico” sin pruebas independientes sobre la cobertura de las fuentes, la frecuencia de actualización, la confidencialidad y el rendimiento conforme al derecho local.

El principal adversario sigue siendo la automatización sin rendición de cuentas, no un proveedor en particular. Los sistemas comerciales pueden respaldar prácticas responsables cuando las instituciones controlan su función. Incluso los productos especializados se vuelven riesgosos cuando los usuarios tratan el texto generado como autoridad.

Un lector de google news podría ver una breve lista de lecciones y seguir adelante. Los responsables de los tribunales deberían ver un problema de diseño de gobernanza. Todo uso propuesto necesita un responsable, un nivel de riesgo, un rastro de fuentes y un método para la impugnación humana.

Tres señales que los tribunales deberían observar a continuación

La próxima fase se juzgará por las pruebas de aplicación, la adopción institucional y si las salvaguardas funcionan fuera de sesiones de formación controladas.

La primera señal es cómo opera en los procedimientos reales la orientación práctica de Qatar. Las decisiones publicadas, las órdenes procesales o la orientación profesional pueden mostrar cuándo los jueces solicitan la divulgación del uso de IA y qué verificación esperan.

Las pruebas de citas inventadas, fallos de confidencialidad o sanciones pondrían a prueba si las normas disuaden el uso indebido. Un historial de cumplimiento cuidadoso reforzaría el modelo asistivo, aunque el silencio por sí solo demostraría poco.

Las decisiones más útiles explicarán el límite entre el apoyo aceptable y la dependencia indebida. Los profesionales necesitan ejemplos que muestren qué grado de comprobación es suficiente y cuándo la participación de la IA se vuelve sustancial.

La segunda señal es si más tribunales combinan normas con infraestructura aprobada y educación continua. Una política escrita puede identificar conductas prohibidas, pero el personal sigue necesitando herramientas seguras y flujos de trabajo prácticos.

Los sistemas judiciales deberían publicar orientaciones para jueces, abogados, administradores y partes sin representación legal. Cada grupo utiliza la tecnología de manera diferente y controla información distinta. Una política genérica dejará lagunas importantes.

La participación en la formación también importa, pero la asistencia por sí sola es una medida débil. Las instituciones deberían evaluar si los participantes pueden identificar autoridades inventadas, proteger datos confidenciales y documentar la verificación después de la instrucción.

La tercera señal es si la orientación internacional se vuelve operativa. La encuesta de la UNESCO concluyó que el 92 por ciento de los encuestados consideraba pertinente una orientación específica. La demanda es clara, mientras que la implementación sigue siendo desigual.

El trabajo más amplio de la UNESCO sobre el estado de derecho y la IA incluye ahora formación, conjuntos de herramientas, cursos y orientación para sistemas judiciales. La próxima prueba es si los tribunales convierten esos materiales en procedimientos locales.

Esa conversión debería producir controles mensurables. Algunos ejemplos son registros de usos aprobados, notificación de incidentes, auditorías periódicas, normas de adquisición seguras y métodos accesibles para impugnar acciones influidas por IA.

Los lectores también deberían observar cómo los tribunales tratan a los litigantes sin representación legal. Un marco diseñado únicamente para abogados formados puede perjudicar a personas que utilizan chatbots públicos porque carecen de asistencia jurídica.

Las advertencias claras y las fuentes primarias accesibles pueden reducir ese riesgo. Los tribunales también podrían ofrecer herramientas supervisadas para la navegación procesal, manteniendo el asesoramiento jurídico y la toma de decisiones fuera de la autoridad del sistema.

El desempeño lingüístico merece un escrutinio independiente. Los modelos suelen funcionar de manera desigual entre idiomas, dialectos y terminología jurídica especializada. Qatar y las jurisdicciones vecinas necesitan pruebas de que las herramientas en árabe preservan el significado jurídico y la exactitud de las fuentes.

Una demostración satisfactoria en inglés no puede responder a esa cuestión. Los tribunales deberían publicar los métodos de validación e incluir a expertos jurídicos locales en las pruebas. El acceso multilingüe no debería exigir aceptar una fiabilidad inferior.

¿Qué debilitaría el modelo de Qatar? Una señal de alerta sería la dependencia rutinaria sin verificación documentada. Otra sería una aplicación que se centre en las etiquetas de divulgación mientras ignora la precisión, la privacidad o el sesgo sistémico.

Una tercera señal de alerta sería una contratación basada en garantías de los proveedores en lugar de pruebas independientes. Los tribunales manejan información sensible y ejercen autoridad pública. Sus estándares deben superar los de la adopción ordinaria en el lugar de trabajo.

¿Qué reforzaría el modelo? Los tribunales podrían publicar decisiones fundamentadas que apliquen la orientación, adoptar sistemas seguros vinculados a fuentes y demostrar una mejora en la tramitación sin debilitar los derechos de las partes.

Una acción comparable en otras jurisdicciones aportaría pruebas adicionales. Los principios compartidos entre distintas tradiciones jurídicas podrían respaldar la interoperabilidad, preservando al mismo tiempo la autoridad local. También podrían ofrecer expectativas más claras a los proveedores.

Los desarrolladores y compradores empresariales deberían prestar atención porque los tribunales exponen la versión más difícil de un problema común de IA. La asistencia generada se vuelve valiosa rápidamente, pero la responsabilidad, las pruebas y la seguridad siguen recayendo en la organización.

Los trabajadores del conocimiento se enfrentan a la misma elección básica cuando resumen investigaciones, redactan recomendaciones o buscan documentos internos. Las consecuencias son distintas, pero la lección de gobernanza se aplica igualmente. La velocidad solo es útil cuando el resultado sigue siendo rastreable.

Para los equipos de productos de IA, las prioridades de diseño son igualmente claras. Los sistemas deberían hacer visibles las fuentes, conservar el historial de revisión, respetar los controles de acceso y comunicar la incertidumbre. Una interfaz segura de sí misma sin estas funciones traslada riesgos ocultos a los usuarios.

Para los responsables de los tribunales, la acción inmediata es mapear el uso existente antes de comprar más tecnología. Deberían identificar quién utiliza chatbots públicos, qué información se introduce en ellos y qué resultados influyen en trabajo con consecuencias relevantes.

Después pueden separar la asistencia de bajo riesgo de las actividades restringidas. La formación, las herramientas aprobadas y los procedimientos de escalamiento deberían seguir esa evaluación. La política debería reflejar el comportamiento real, en lugar de un despliegue futuro imaginado.

El titular de google news recoge un tema oportuno, pero el mensaje más profundo de Qatar es institucional. Los tribunales no necesitan elegir entre ignorar la IA y cederle el juicio.

Necesitan un sistema en el que las personas sigan siendo responsables, las afirmaciones remitan a fuentes primarias y la formación preceda a la dependencia. La próxima pregunta no es si la IA judicial se expandirá. Es si los tribunales pueden hacer que esa expansión sea visible, revisable y merecedora de la confianza pública.