Advertencia de Arun Subramanian sobre la IA jurídica: la eficiencia puede debilitar a los abogados que deben verificarla
Arun Subramanian lanzó una advertencia sobre la IA jurídica después de que aparecieran citas inexactas en una presentación federal, pese a las políticas y la formación del bufete. El juez de Manhattan decidió no sancionar a los abogados implicados. Sin embargo, su resolución presentó el episodio como algo más que un fallo aislado de redacción.
El problema inmediato implicaba resultados no verificados de una herramienta de inteligencia artificial. El problema mayor se refiere a quién estará capacitado para verificar esos resultados en el futuro. Si la IA realiza la investigación y la redacción que tradicionalmente formaban a los abogados junior, los bufetes corren el riesgo de debilitar su propio sistema de verificación.
Esa tensión hace que la resolución sea relevante más allá de una sola demanda por derechos de autor. La IA jurídica promete investigación más rápida, ciclos de redacción más cortos y menores costes. Esas ventajas se convierten en riesgos cuando los bufetes eliminan el trabajo que enseña a los abogados a reconocer autoridad falsa, razonamiento débil o contexto ausente.
La advertencia de Subramanian también cuestiona una suposición habitual sobre la supervisión humana. Un bufete no puede simplemente situar a un abogado después del modelo y declarar que el proceso es seguro. El revisor necesita suficiente experiencia, tiempo e independencia para poner a prueba el trabajo de la máquina.
Por tanto, el conflicto central no es abogados contra IA. Es eficiencia inmediata frente al aprendizaje más lento que forma abogados competentes. Los clientes pueden recibir trabajo más rápido hoy, mientras heredan una profesión menos fiable mañana.
Qué cambió realmente la advertencia de Arun Subramanian sobre la IA jurídica
El tribunal trató un fallo de citas de IA como prueba de un problema más profundo de formación y supervisión, incluso sin imponer sanciones.
La disputa surgió en Hill v. Foundation Media LLC, un caso de derechos de autor en el Distrito Sur de Nueva York. Lawand Hill, que se representaba a sí misma, acusó a Foundation Media de infringir derechos de autor relacionados con obras musicales distribuidas.
Subramanian desestimó el caso tras adoptar la recomendación de un juez magistrado. Sin embargo, su orden del 22 de septiembre cuestionó por separado citas textuales y una referencia en la respuesta de Foundation Media a las objeciones de Hill.
El juez ordenó al abogado principal declarar si la IA ayudó a preparar la respuesta. También preguntó si el uso no verificado de IA produjo el material cuestionable. La orden judicial pública identifica las referencias en disputa y establece ese requisito de divulgación.
Ese detalle procesal importa. Foundation Media ganó el caso de fondo, pero el tribunal aun así investigó la fiabilidad de su presentación exitosa. Un resultado favorable no eliminó la responsabilidad del abogado sobre cómo se elaboró el documento.
Cynthia Arato, abogada de Foundation Media, se disculpó y atribuyó los errores a otro abogado de Shapiro Arato Bach. Según la declaración del bufete, ese abogado preparó el borrador inicial y finalizó el documento antes de presentarlo.
La declaración afirmó que el abogado actuó en contra de las políticas y la formación del bufete. Describió la falta de verificación de las citas generadas por IA como un hecho aislado y sin intención de inducir a error al tribunal.
Una presentación posterior identificó herramientas de la empresa de IA jurídica Harvey como parte del proceso de redacción, según el relato publicado del caso. Harvey y Foundation Media no respondieron de inmediato a las solicitudes de comentarios informadas por Reuters.
El expediente disponible no establece que Harvey por sí solo causara los errores. Establece que trabajo asistido por IA llegó a la presentación sin una verificación humana adecuada. Esa distinción mantiene la responsabilidad donde la sitúan las normas profesionales: en los abogados que presentan el documento.
Subramanian decidió no imponer sanciones tras revisar la explicación. Su moderación no debe confundirse con aprobación. Describió el incidente como una advertencia y subrayó que el trabajo jurídico generado por IA requiere cuidadosas comprobaciones de exactitud.
La decisión, por tanto, cambió el marco de los errores de la IA jurídica. Los tribunales a menudo se han centrado en casos inventados, sanciones económicas o medidas disciplinarias contra abogados. Subramanian vinculó el error inmediato con la capacidad de la profesión para formar a futuros revisores.
Sugirió que los bufetes consideraran exigir borradores iniciales sin asistencia de IA. La propuesta es deliberadamente incómoda porque parte del aprendizaje valioso ocurre durante el trabajo que la IA está diseñada para eliminar.
Esa idea convierte un incidente de citas en una cuestión organizativa. Si existe una política pero una presentación no verificada aún llega al tribunal, los bufetes deben examinar el diseño de los flujos de trabajo, la supervisión y los incentivos. Una regla escrita por sí sola no puede soportar esa carga.
En última instancia, la advertencia de Arun Subramanian sobre la IA jurídica trata de la memoria institucional. Los bufetes necesitan profesionales que entiendan por qué funciona un argumento, no solo si el software le dio un formato convincente.
Un error de cita expuso la brecha de supervisión
La revisión humana falla cuando la responsabilidad se asigna de forma amplia, pero la verificación no se integra en cada paso del flujo de trabajo.
La IA generativa produce texto al predecir continuaciones probables a partir de patrones en datos. No recupera la verdad de forma predeterminada, incluso cuando su respuesta incluye citas textuales pulidas, nombres de casos y referencias formales.
Una alucinación es un resultado confiado que carece de respaldo factual fiable. En la práctica jurídica, puede adoptar la forma de un caso inexistente, una cita textual alterada o una decisión real que respalda una proposición equivocada.
Estos errores son peligrosos porque se asemejan al trabajo profesional. Una cita fabricada puede incluir un nombre de tribunal plausible, fecha, referencia de repertorio y principio jurídico. La calidad superficial puede hacer que una revisión deficiente parezca suficiente.
El episodio de Foundation Media ilustra cómo la supervisión puede fragmentarse. Un abogado usa la herramienta, otro puede revisar el borrador y el abogado principal firma o presenta el resultado. Cada persona puede asumir que alguien más completó la comprobación de fuentes.
Esa estructura crea una brecha de verificación. Las políticas pueden exigir exactitud, pero nadie asume un proceso documentado para abrir cada autoridad citada y comparar cada cita textual con su fuente.
La American Bar Association abordó este problema antes de la resolución de Subramanian. Su opinión ética sobre IA afirma que los abogados deben considerar competencia, confidencialidad, comunicación, supervisión, franqueza y honorarios razonables.
Esos deberes no desaparecen cuando el software crea el primer borrador. Un abogado sigue siendo responsable de las manifestaciones hechas ante un tribunal y del asesoramiento entregado a un cliente.
La verificación también exige más que confirmar que un caso existe. Un revisor debe determinar si la decisión sigue siendo buen derecho, se aplica en la jurisdicción pertinente y respalda la afirmación concreta.
El proceso se vuelve más difícil cuando un modelo mezcla material preciso con invenciones sutiles. Un escrito que contiene investigación mayoritariamente correcta puede reducir la vigilancia del revisor. Los pocos elementos falsos pueden ocultarse dentro de un trabajo por lo demás creíble.
Los productos jurídicos empresariales pueden reducir algunos riesgos mediante fuentes de datos controladas, enlaces a autoridades, configuraciones de seguridad o sistemas de investigación integrados. Sin embargo, el diseño del producto no puede transferir la responsabilidad profesional del abogado a un proveedor.
La pregunta relevante no es si una herramienta lleva una etiqueta de industria jurídica. Es si el flujo de trabajo permite a un abogado competente reproducir, inspeccionar y defender el análisis resultante.
Los abogados senior también deben resistir el sesgo de automatización, la tendencia a confiar en un sistema porque parece sofisticado o constantemente útil. Una producción repetidamente buena puede hacer que el error excepcional sea más difícil de detectar.
Un proceso sólido debe conservar un registro de auditoría. Debe registrar qué herramienta se utilizó, qué tarea realizó, quién verificó el resultado y qué fuentes primarias respaldaron el documento final.
Los bufetes pueden aplicar distintos controles a diferentes tareas. Resumir una reunión interna presenta riesgos distintos de redactar una moción dispositiva. La revisión requerida debe aumentar con la consecuencia del error.
El trabajo de alto riesgo necesita comprobaciones a nivel de fuente, asignaciones claras de revisores y tiempo suficiente para cuestionar el borrador. También puede requerir que un abogado reconstruya el razonamiento sin depender del texto generado.
Ese último paso importa porque la comprobación de citas por sí sola no puede identificar todos los fallos. Un escrito puede citar correctamente casos reales mientras omite autoridad contraria, malinterpreta el expediente o sigue una estrategia que perjudica al cliente.
La respuesta de Subramanian prioriza la supervisión sobre el castigo. El tribunal aceptó la explicación del bufete y las salvaguardas adicionales, pero su advertencia pregunta si esas salvaguardas funcionarán durante la próxima presentación apresurada.
La prueba es operativa. Una política solo tiene valor cuando los abogados pueden cumplirla bajo plazos, presión de los clientes y exigencias de menores costes.
El acuerdo de eficiencia amenaza el aprendizaje jurídico
La IA puede eliminar el trabajo junior más rápido de lo que los bufetes pueden sustituir el criterio que ese trabajo desarrollaba.
Los abogados junior tradicionalmente aprenden mediante la repetición. Leen expedientes, rastrean autoridades, comparan borradores, reciben correcciones y observan cómo abogados experimentados convierten la doctrina jurídica en asesoramiento para clientes.
Gran parte de ese trabajo es lento. También es costoso bajo el modelo tradicional de bufete. La IA generativa apunta precisamente a estas tareas de investigación, revisión y redacción.
El argumento de la eficiencia es fácil de entender. Un sistema puede crear una cronología, resumir documentos, comparar lenguaje contractual o producir un borrador en minutos. Los abogados pueden dedicar entonces más tiempo a la estrategia y a las relaciones con los clientes.
Ese resultado es posible, pero no automático. Eliminar el trabajo rutinario no garantiza que los abogados junior reciban mejores encargos. Los bufetes pueden simplemente reducir sus horas, limitar sus funciones o esperar que supervisen resultados para cuya evaluación carecen de experiencia.
El aprendizaje jurídico contiene lo que los educadores a veces llaman fricción cognitiva. Quien aprende atraviesa la incertidumbre, toma decisiones, encuentra callejones sin salida y recibe retroalimentación. Ese esfuerzo construye un modelo mental del problema.
La IA comprime la dificultad junto con la tarea. Un borrador pulido llega antes de que el abogado junior haya formado una visión independiente. La edición sustituye entonces a la construcción como actividad de aprendizaje predeterminada.
La edición puede enseñar habilidades valiosas, pero solo cuando quien edita reconoce lo que falta o está mal. Una persona principiante puede mejorar la redacción sin advertir una premisa defectuosa, un precedente desfavorable o una concesión estratégica.
Esta es la paradoja detrás de los riesgos de formación de abogados con IA. Los bufetes quieren que los abogados junior verifiquen los resultados de la máquina, mientras la automatización reduce las experiencias que enseñan a verificar.
La sugerencia de Subramanian de que los bufetes exijan algunos borradores iniciales sin IA aborda directamente esa paradoja. Crea un entorno de práctica protegido en el que los abogados deben investigar, organizar y razonar antes de comparar su trabajo con resultados generados.
Ese enfoque tiene un coste. Es posible que los clientes no quieran financiar trabajo manual cuando el software puede producir un borrador más rápido. Los socios también pueden resistirse a la formación no facturable durante asuntos exigentes.
Sin embargo, el coste ya existe. El aprendizaje tradicional integraba la formación dentro del trabajo para clientes, a menudo sin etiquetarlo como educación. La IA hace visible el subsidio al separar la producción del desarrollo profesional.
Las firmas ahora necesitan presupuestos deliberados de formación y competencias medibles. No pueden asumir que los abogados junior absorberán el criterio profesional a través de un trabajo que ya no llega a sus escritorios.
La profesión en general ha llegado a conclusiones similares. Un análisis de 2026 sobre la cadena de desarrollo del criterio profesional sostiene que la IA cambia qué trabajo existe y cómo los futuros abogados desarrollan el deber fiduciario, el juicio empresarial y la confianza del cliente.
El análisis distingue la producción procedimental del juicio contextual. La IA puede elaborar documentos y reconocer patrones. Los abogados deben decidir qué hechos importan, qué riesgos puede tolerar un cliente y quién asume la responsabilidad por el asesoramiento.
El presidente del Tribunal Supremo de Singapur, Sundaresh Menon, planteó una preocupación relacionada en 2026. Advirtió que desplazar la investigación y el análisis fundamentales podría debilitar la capacidad de los abogados para revisar el trabajo generado por IA.
Su posterior discurso sobre formación describió tareas jurídicas que la IA puede acelerar sustancialmente y la presión laboral que enfrentan los abogados más jóvenes. También pidió un mayor énfasis en el criterio, la ética, la responsabilidad, el discernimiento y la integridad.
Estas advertencias no exigen preservar todas las prácticas ineficientes. La revisión documental no debería seguir siendo lenta simplemente porque las generaciones anteriores aprendieron a través del volumen.
En cambio, las firmas deben identificar qué enseñaba cada encargo y reconstruir ese aprendizaje de forma intencional. Las tareas de investigación enseñaban a evaluar fuentes. La redacción enseñaba estructura. El contacto con clientes enseñaba a ejercer criterio con información incompleta.
Un aprendizaje profesional rediseñado podría combinar primeros borradores independientes, comparaciones supervisadas con IA, simulaciones, ejercicios de verificación de fuentes y exposición directa a clientes. Cada elemento debería orientarse a una habilidad profesional definida.
La revisión de los socios también debe hacerse más visible. Un socio que corrige en silencio un borrador asistido por IA puede proteger al cliente, pero no enseña nada al abogado junior. La retroalimentación debería explicar por qué falló el resultado y cómo el revisor detectó el problema.
Las firmas deberían medir el desarrollo mediante competencias demostradas, no solo por horas facturables o uso de herramientas. Un abogado junior debería poder investigar de forma independiente, poner a prueba resultados de IA, explicar la incertidumbre y defender una recomendación.
Un sistema interno de conocimiento consultable puede respaldar ese proceso cuando conserva precedentes verificados, notas de revisión y el razonamiento detrás de las decisiones. El objetivo no es el almacenamiento pasivo, sino una base de conocimiento consultable que refuerce el aprendizaje supervisado.
Por tanto, el flujo de trabajo de IA jurídica más sólido incluye períodos en los que la herramienta permanece cerrada. Los abogados necesitan oportunidades para demostrar que pueden razonar sin una estructura generada antes de que se les pida supervisarla.
Los clientes heredan los riesgos que las firmas prometen controlar
Los riesgos para los clientes de la IA jurídica van más allá de las citas falsas: incluyen confidencialidad, estrategia, costos y la calidad de la representación futura.
Los clientes suelen tener razones racionales para solicitar el uso de IA. Quieren respuestas más rápidas, facturas menores, documentos más claros y menos horas dedicadas a trabajo repetitivo.
Subramanian reconoció esa presión. También advirtió que los clientes pueden sufrir consecuencias adversas cuando algo sale mal. Un menor costo de redacción ofrece poco consuelo si una presentación defectuosa debilita una reclamación o daña la credibilidad.
El riesgo visible es una cita inventada. El menos visible es un asesoramiento que parece razonable mientras omite un hecho decisivo, una cuestión procesal o una consecuencia empresarial.
La representación jurídica exige más que producir texto. Los abogados deben comprender el objetivo del cliente, cuestionar supuestos, proteger la información confidencial y, en ocasiones, aconsejar en contra de la acción preferida por el cliente.
Un modelo no puede aceptar responsabilidad profesional por esas decisiones. El abogado que lo utiliza sigue siendo responsable, incluso cuando el cliente solicitó la tecnología o un proveedor comercializó el sistema para trabajo jurídico.
Por ello, los clientes deberían preguntar cómo se utilizará la IA, no simplemente si una firma la usa. La investigación, la elaboración de resúmenes, la redacción, la revisión de contratos y el asesoramiento estratégico conllevan consecuencias distintas.
También deberían preguntar qué información entra en el sistema. Los hechos confidenciales, las comunicaciones protegidas por secreto profesional, los datos personales y los documentos comercialmente sensibles requieren salvaguardas acordes con los controles de retención y acceso del producto.
La orientación de la ABA señala que los abogados deben comprender las capacidades y limitaciones de una herramienta. También vincula el uso de IA con deberes relativos a la comunicación con el cliente y la confidencialidad.
Esa obligación complica las cláusulas genéricas de consentimiento. Un cliente no puede evaluar de forma significativa el uso de IA sin conocer la tarea, los datos implicados, el beneficio esperado y la alternativa disponible.
El costo crea otra tensión. Si la IA reduce el tiempo necesario para una tarea, los clientes esperarán que el ahorro les llegue. Las firmas aún deben financiar la revisión, la formación, la seguridad y la gobernanza de proveedores.
Estos gastos son reales, pero deberían ser transparentes. Un cliente no debería pagar horas manuales ficticias por una producción automatizada. Tampoco debería una firma eliminar revisiones esenciales para preservar sus márgenes.
El modelo de horas facturables puede empujar a las firmas en ambas direcciones. Puede desalentar la automatización cuando la eficiencia reduce los ingresos. También puede fomentar una automatización excesiva cuando los clientes imponen presupuestos estrictos.
Las estructuras de honorarios alternativas no resuelven por sí solas el problema de la calidad. Una tarifa fija puede premiar la eficiencia, pero también puede premiar una revisión mínima, a menos que el encargo defina entregables y controles.
El mejor contrato aborda el proceso. Puede especificar usos aprobados, protecciones de confidencialidad, deberes de verificación, expectativas de divulgación y si se requiere el consentimiento del cliente para tareas concretas.
Los clientes también deberían saber quién realizó el trabajo. Un abogado senior no debería insinuar que un profesional experimentado investigó personalmente una cuestión cuando un modelo generó la base y un abogado junior llevó a cabo una revisión limitada.
Nada de esto significa que los clientes deban rechazar la IA jurídica. El uso responsable puede mejorar el acceso, acelerar el trabajo rutinario y ayudar a los abogados a examinar grandes volúmenes de documentación que, de otro modo, presionarían los presupuestos.
El contrapeso es el acceso a la justicia. Prohibir estrictamente herramientas útiles puede preservar procesos costosos que muchas personas y pequeñas organizaciones no pueden permitirse.
Los debates judiciales reconocen cada vez más esa disyuntiva. El desafío es hacer que los servicios asistidos por IA estén más disponibles sin presentar resultados no verificados como juicio profesional.
El sistema de normas federales está considerando si las obligaciones existentes abordan adecuadamente las autoridades de IA fabricadas. Una agenda de octubre de 2026 del comité de normas analiza si los estándares actuales de la Regla 11 ya cubren el problema o requieren una respuesta más específica.
Ese debate importa porque las prácticas judiciales inconsistentes generan incertidumbre. Algunos jueces exigen divulgaciones o certificaciones sobre IA. Otros se apoyan en los deberes existentes de precisión, competencia e indagación razonable.
Una norma nacional podría aportar coherencia, pero la divulgación por sí sola no puede garantizar la calidad. Un escrito marcado como asistido por IA aún puede ser erróneo, mientras que uno cuidadosamente verificado y asistido por IA puede cumplir plenamente los deberes profesionales.
La protección más útil para el cliente sigue siendo el juicio humano responsable. La divulgación, la seguridad y la verificación deberían respaldar ese juicio, en lugar de sustituirlo.
Qué deberían vigilar ahora las firmas jurídicas y los clientes
La próxima prueba será si la profesión convierte las advertencias judiciales en sistemas medibles de formación y verificación.
La primera señal vendrá de las órdenes judiciales y las decisiones sobre sanciones. Los jueces están decidiendo si las reglas profesionales existentes son suficientes y qué fallos justifican sanciones económicas, remisiones o reprimendas públicas.
Un aumento de las certificaciones específicas para herramientas mostraría que los tribunales favorecen la divulgación y la verificación documentada. La continua dependencia de los deberes ordinarios de precisión trasladaría más responsabilidad a las firmas para diseñar sus propios controles.
Ningún camino elimina la obligación subyacente. Los tribunales seguirán esperando que los abogados verifiquen autoridades, citas, afirmaciones fácticas y la conexión entre precedente y argumento.
La segunda señal será cómo las firmas rediseñan la formación de abogados junior. Anunciar formación en IA no basta si el programa enseña prompting sin investigación independiente, redacción y evaluación de fuentes.
Entre las pruebas útiles estarían encargos protegidos sin IA, ejercicios de comparación supervisados, programas de simulación y pruebas de competencia. Las firmas también deberían explicar cómo los abogados senior proporcionan retroalimentación sobre el trabajo asistido por IA.
Los patrones de contratación merecen atención. Si las firmas reducen los puestos de nivel inicial sin crear nuevos aprendizajes profesionales, la cadena de desarrollo del criterio profesional se estrechará. Las consecuencias podrían tardar años en hacerse visibles.
La tercera señal será el comportamiento de los clientes. Los departamentos jurídicos corporativos establecen cada vez más directrices para asesores externos que cubren herramientas aprobadas, gestión de datos, dotación de personal, facturación y divulgación.
Si los clientes exigen tanto eficiencia como salvaguardas verificables, las firmas tendrán una razón comercial para construir sistemas disciplinados. Si los clientes se centran solo en velocidad y costo, la verificación y la formación podrían seguir careciendo de financiación.
Los proveedores de IA jurídica también enfrentan presión para respaldar esa rendición de cuentas. Los compradores buscarán fuentes rastreables, controles de permisos, registros de auditoría, manejo seguro de datos e integraciones con investigación autorizada.
Estas características pueden facilitar la revisión. No pueden determinar si un abogado comprendió el objetivo del cliente o ejerció un criterio sólido.
La presentación de Hill ofrece un referente útil. Según se informó, la firma tenía políticas y formación, pero material cuestionable aun así llegó al tribunal. Las salvaguardas futuras deben abordar el recorrido entre las reglas formales y el comportamiento real.
Las firmas pueden comenzar con una responsabilidad clara. Cada documento asistido por IA debería tener un abogado identificado como responsable de la validación de fuentes, la revisión del razonamiento, la confidencialidad y la aprobación final.
Después deberían conservar pruebas de ese trabajo. Una lista de verificación solo es útil cuando refleja un examen genuino, en lugar de una casilla marcada antes de la presentación.
La formación debería vincular los errores con consecuencias profesionales. Los abogados junior necesitan ver cómo una cita fabricada puede afectar la credibilidad, la estrategia del cliente y la disposición del tribunal a confiar en presentaciones posteriores.
Los abogados senior también necesitan formación. Su experiencia con la doctrina no proporciona automáticamente conocimientos sobre el comportamiento de los modelos, los controles de datos o los patrones de fallo de los sistemas generativos.
Los clientes pueden formular varias preguntas directas antes de solicitar trabajo asistido por IA:
¿Qué tareas utilizarán IA y cuáles seguirán siendo dirigidas por personas?
¿Quién verificará cada autoridad y cita?
¿Qué información del cliente ingresará en el sistema?
¿Cómo almacena o reutiliza esa información el proveedor?
¿Cómo afectará la IA a la dotación de personal, los plazos y los honorarios?
¿Qué ocurre cuando la herramienta produce un error?
Estas preguntas no requieren que los clientes se conviertan en especialistas en IA. Exigen que las firmas expliquen su proceso en términos que un cliente pueda evaluar.
La advertencia de Subramanian no predice el fin de la IA jurídica. Parte de la premisa de una adopción continuada y pide a la profesión que enfrente sus costos ocultos.
La ventaja de eficiencia sigue siendo atractiva. La IA puede reducir el esfuerzo repetitivo y dar a los abogados más tiempo para trabajo de mayor valor. Ese beneficio solo perdura cuando las firmas reinvierten parte del tiempo ahorrado en supervisión y aprendizaje.
La pregunta más difícil es si lo harán. Una profesión que automatice el aprendizaje profesional sin reemplazarlo terminará careciendo del criterio necesario para supervisar la automatización.
La advertencia de Arun Subramanian sobre la IA jurídica plantea una prueba práctica para los bufetes, clientes, tribunales y proveedores. ¿Sus sistemas generan documentos más rápido o forman abogados capaces de responder por esos documentos?
Antes de solicitar trabajo jurídico asistido por IA, pregunte quién lo verificará y cómo aprendió esa persona a detectar errores. Para los bufetes, el siguiente paso es igual de concreto: proteger la investigación independiente, la retroalimentación estructurada y la revisión a nivel de fuentes. La eficiencia debe financiar esas salvaguardas, no eliminarlas.
