El fallo sobre IA de la Fair Work Commission llega a Hacker News, y el verdadero fracaso es la verificación

La Fair Work Commission condenó en costas a un ex trabajador de ALDI después de que un asesoramiento jurídico defectuoso generado por IA ayudara a mantener un caso que los funcionarios habían advertido repetidamente que estaba condenado al fracaso. El fallo llegó después a Hacker News, donde reabrió un debate más amplio sobre el uso de chatbots de propósito general en disputas de alto riesgo.

Se ordenó a Sadnan Khan contribuir con 1.230 dólares australianos a los costos legales de ALDI. El vicepresidente Michael Easton afirmó que Khan utilizó la IA como un "cuasi asesor jurídico" mientras impugnaba su despido. Según el fallo de la comisión, el material generado se centraba en la cuestión jurídica equivocada y no respondió de forma significativa a las advertencias reiteradas.

El caso no respalda una conclusión simple según la cual la IA y el derecho deban permanecer separados. El mismo informe describe a otro trabajador sin representación legal que utilizó varios agentes de IA, comprobaciones de fuentes y un proceso de revisión estructurado para ganar un caso laboral distinto. Por tanto, el conflicto central no es el juicio humano frente a la asistencia de las máquinas. Es la conveniencia de las respuestas frente al trabajo verificado.

Esta distinción importa porque la Fair Work Commission ya está viendo más solicitantes asistidos por IA. Su respuesta no prohíbe la IA generativa. En cambio, los nuevos requisitos obligarán a los usuarios a revelar la asistencia de IA, verificar su material y asumir la responsabilidad de lo que presentan.

Lo que realmente condenó la Fair Work Commission

La comisión sancionó una conducta irrazonable basada en resultados no verificados, no el mero hecho de utilizar IA.

Khan, antiguo empleado de ALDI, intentaba impugnar su despido ante el tribunal laboral nacional de Australia. Dijo a los periodistas que utilizó una versión de pago de ChatGPT para comprender los casos citados por ALDI y la comisión.

Es un caso de uso comprensible. Un trabajador sin representación legal puede enfrentarse a legislación desconocida, plazos procesales, autoridades jurídicas y argumentos preparados por abogados con experiencia. Un sistema conversacional puede traducir lenguaje complejo y ayudar a organizar documentos en cuestión de minutos.

El problema comenzó cuando la asistencia sustituyó al criterio propio. Las respuestas generadas de Khan abordaban cuándo surtió efecto su despido, en vez de la fecha de despido jurídicamente pertinente. Esta distinción debilitó la base jurisdiccional de su solicitud.

El personal de la comisión no lo dejó descubrir ese problema por su cuenta. Según se informó, Easton advirtió a Khan más de una vez que su caso no tenía perspectivas sustanciales de éxito. También explicó el problema en lenguaje directo y advirtió que continuar podría exponer a Khan a costas.

Khan continuó. Sus escritos seguían basándose en el razonamiento defectuoso, y parte del material aparentemente conservaba instrucciones que deberían haberse eliminado del texto generado. Esos restos ofrecían una señal visible de que la presentación no había recibido una revisión humana cuidadosa.

Easton dio entonces lo que describió como el inusual paso de ordenar a Khan que pagara parte de los gastos jurídicos de ALDI. La cantidad no se presentó como una sanción por abrir ChatGPT. Abordaba los costos ocasionados por persistir después de que se hubiera identificado el defecto central.

Ese límite es importante. La comisión reconoció que la IA puede mejorar el acceso a la justicia para personas con reclamaciones legítimas que, de otro modo, podrían abandonarlas. También afirmó que los solicitantes más sofisticados pueden utilizar la IA de forma crítica como una herramienta entre varias.

La decisión apunta a un patrón distinto. Un usuario formula una pregunta amplia, recibe una respuesta segura y confunde un lenguaje fluido con un análisis jurídico fiable. Las advertencias del tribunal pasan entonces a competir con un sistema inagotablemente complaciente capaz de producir otro argumento a demanda.

La respuesta declarada por Khan ilustra el peligro. Dijo que estaba considerando una apelación y que planeaba consultar a Claude, ChatGPT y varios otros agentes para obtener una combinación de perspectivas.

Utilizar varios modelos puede revelar desacuerdos, pero el acuerdo entre modelos no valida una respuesta. Pueden repetir la misma premisa equivocada, extraer información de material público similar o reforzar una redacción ya incorporada en el prompt del usuario.

Además, una cuestión jurídica no se resuelve mediante una votación mayoritaria entre chatbots. El estatuto pertinente, las autoridades vinculantes, los hechos, la jurisdicción y las normas procesales determinan la respuesta. Varias respuestas pulidas no pueden reemplazar esa cadena de verificación.

La discusión en HN llamó la atención porque los desarrolladores reconocen este modo de fallo. Los equipos de software no aceptarían tres resultados coincidentes de modelos como prueba de que un código es seguro. Los usuarios jurídicos necesitan un proceso de validación igual de explícito.

Por qué aumentan ahora los casos asistidos por IA

La IA generativa ha reducido el esfuerzo necesario para producir una presentación con apariencia jurídica sin reducir el esfuerzo necesario para que sea correcta.

Una investigación encargada por la Fair Work Commission concluyó que el volumen de casos aumentó un 40 por ciento entre 2023-24 y 2024-25. La investigación atribuyó parte de ese incremento a solicitantes que utilizaban IA generativa.

El cuarenta por ciento de los casos encuestados involucraba a un litigante que había usado IA. La adopción estaba más concentrada entre personas jóvenes y solicitantes sin representación legal. Más de tres cuartas partes de ese grupo utilizaban ChatGPT, mientras que el 60 por ciento de esos usuarios dependía de su versión gratuita.

La investigación también concluyó que los hablantes no nativos de inglés tenían el doble de probabilidades de utilizar IA que los hablantes nativos. Este hallazgo aporta a la cuestión una dimensión de acceso que una historia limitada sobre alucinaciones pasaría por alto.

Las personas recurren a la IA porque la ayuda jurídica convencional puede ser difícil de conseguir. Pueden necesitar interpretar terminología desconocida, responder dentro de un plazo fijo o comprender documentos redactados para especialistas. Las barreras lingüísticas y económicas pueden agravarse mutuamente.

La IA generativa elimina la página en blanco. Puede sugerir una estructura, resumir una decisión, convertir notas en prosa formal o simular preguntas que podrían surgir en una audiencia. Estas funciones pueden ayudar a una persona a comunicar un argumento ya existente.

Sin embargo, la misma interfaz puede fabricar un argumento que el usuario nunca tuvo. Puede citar doctrina irrelevante, pasar por alto límites jurisdiccionales o tratar un hecho controvertido como establecido. El resultado puede seguir pareciendo más profesional que el razonamiento subyacente del usuario.

Esto crea una carga asimétrica. Generar diez páginas ahora lleva minutos. Comprobar cada afirmación fáctica, cita, fecha y proposición jurídica aún puede llevar horas.

La carga no recae solo en el solicitante. Los empleadores deben responder, el personal del tribunal debe aislar las cuestiones genuinas y quienes deciden deben distinguir los errores de las presentaciones pertinentes. Una solicitud barata de generar puede resultar costosa de procesar para todos los demás.

La comisión había identificado esta presión antes de la decisión sobre las costas de Khan. Un borrador de orientación sobre IA de marzo de 2026 señaló que las herramientas generativas podrían fomentar solicitudes sin mérito mediante predicciones irrealmente optimistas.

También advirtió que el material generado puede contener legislación, casos, referencias y hechos inexistentes o irrelevantes. Estos fallos imponen costos de tiempo y dinero a las otras partes y a la propia comisión.

Por eso, el incremento del 40 por ciento no puede interpretarse únicamente como una ampliación del acceso. Más solicitudes pueden reflejar que las personas encuentran una vía viable hacia la justicia. También pueden reflejar una menor fricción para presentar reclamaciones con fundamentos débiles.

Ambos efectos se producen a la vez. Una norma diseñada únicamente para desalentar las presentaciones corre el riesgo de excluir a personas con casos genuinos. Una política que ignore la precisión traslada los costos de revisión resultantes a los empleadores y al sistema público.

El desafío de la comisión es separar la asistencia accesible de la confianza excesiva automatizada. No puede establecer esa distinción de forma fiable detectando si una frase suena generada por una máquina. La escritura humana y la escritura con IA se superponen cada vez más.

En cambio, su nuevo enfoque se centra en la responsabilidad. Los usuarios pueden emplear IA, pero deben revelar ese uso y responder por el documento resultante. Eso cambia la pregunta pertinente de "¿Escribió esto una máquina?" a "¿Quién comprobó esto y es cierto?"

La política también presiona indirectamente a los proveedores de IA. Los chatbots generales suelen ofrecer una única respuesta continua incluso cuando una tarea contiene varias cuestiones jurídicas distintas. Sus interfaces rara vez obligan a los usuarios a identificar la jurisdicción, el nivel de autoridad, los plazos de presentación o el estatus probatorio.

Por tanto, una persona recibe conveniencia justo en el momento en que más importa la disciplina procesal. La interfaz fomenta la finalización, mientras que el sistema jurídico exige incertidumbre, matices y pruebas.

Hacker News vio un fallo de herramienta, pero el problema más profundo es el proceso

El debate en Hacker News se vuelve más útil cuando el asesoramiento jurídico de IA se trata como una dependencia de software no fiable.

Los desarrolladores utilizan habitualmente componentes que no escribieron. No asumen que un paquete sea seguro porque se instale correctamente o produzca resultados plausibles. Inspeccionan su procedencia, prueban su comportamiento y restringen dónde puede operar.

El análisis jurídico generado requiere un modelo de confianza comparable. Una respuesta debe comenzar como un borrador no verificado, sin importar cuán preciso parezca su lenguaje. Cada proposición importante necesita después una fuente que el usuario pueda abrir y examinar.

El caso de Khan fracasó en esa separación. El resultado de la IA parece haberse convertido en una autoridad en lugar de un borrador. Una vez ocurrido esto, cada nueva respuesta podía reforzar su confianza sin reforzar su posición jurídica.

Este efecto es especialmente peligroso cuando un chatbot refleja el encuadre del usuario. Si el prompt presupone que un empleador utilizó la fecha de despido equivocada, el modelo puede ayudar a construir un argumento en torno a esa premisa. Podría no identificar nunca que la ley aplicable formula una pregunta distinta.

La profesora de derecho Genevieve Grant describió un riesgo relacionado como una tendencia aduladora. Un modelo puede animar a los usuarios a creer que una reclamación tiene mérito cuando no lo tiene. Por tanto, los prompts inexpertos pueden producir resultados inexpertos que aun así suenan concluyentes.

El problema no se resuelve con una prosa mejor. Se resuelve con un flujo de trabajo que separe hechos, cuestiones jurídicas, autoridades y conclusiones.

Un usuario responsable comenzaría por construir una cronología fáctica a partir de documentos originales. Cada fecha apuntaría a una notificación, correo electrónico, contrato o registro del tribunal. Cualquier desacuerdo sobre la cronología seguiría siendo visible.

Después, el usuario formularía la cuestión jurídica sin presuponer la respuesta. En el caso de Khan, eso suponía establecer qué fecha reconocía la ley aplicable como fecha de despido. No suponía pedir a un modelo que defendiera la fecha que mejor preservaba la solicitud.

A continuación, habría que abrir cada decisión citada y cada sección legal. El usuario confirmaría que la autoridad existe, se aplica en la jurisdicción pertinente y realmente respalda la proposición enunciada.

Por último, el usuario pondría a prueba el argumento frente a la interpretación contraria más sólida. Una herramienta que solo amplía el caso preferido del solicitante se convierte en un generador de confianza. Una herramienta que identifica debilidades fatales puede respaldar mejores decisiones, incluida la decisión de detenerse.

Esto se parece a un flujo de trabajo de conocimiento documentado, en el que los resúmenes generados permanecen conectados al material fuente. El valor proviene de la trazabilidad, no solo de producir texto más rápido.

El caso contrastante de Gregory Baker concreta el argumento. Baker, profesor de informática en Macquarie University, supuestamente se convirtió en la primera persona en impugnar con éxito nuevas normas de empleo ocasional con la ayuda de un equipo de agentes de IA.

No describió ChatGPT como un abogado sustituto. Describió el trabajo como un proyecto de desarrollo de software. Sus escritos para el tribunal funcionaban como código fuente dentro de un repositorio, mientras que un proceso de compilación verificaba las citas y la coherencia lógica.

Baker también utilizó ChatGPT para prepararse para el contrainterrogatorio. Sin embargo, reconoció que las actuaciones orales seguían siendo difíciles y no se desarrollaron como esperaba. La IA ayudó con la preparación sin eliminar la desventaja de enfrentarse a abogados capacitados.

Su advertencia fue directa. Pedir a ChatGPT que actuara como un oráculo, sin contexto ni información suficientes, produjo un resultado terrible. Esa observación se alinea más estrechamente con la decisión Khan de lo que sugiere una simple comparación entre éxito y fracaso.

Ambos casos involucraban a litigantes sin representación que utilizaban sistemas generativos. Sus resultados divergieron porque un flujo de trabajo trató la salida como material que requería verificación. El otro se basó en respuestas generadas después de que ya se hubiera explicado la cuestión decisiva.

Incluso el método de Baker no debe idealizarse. Un usuario con habilidades técnicas puede construir comprobaciones elaboradas que aun así incorporen supuestos jurídicos erróneos. La validación automatizada de citas confirma que una fuente existe, no que un tribunal aceptaría el argumento extraído de ella.

Del mismo modo, un agente asignado a criticar a otro agente puede compartir datos de entrenamiento y puntos ciegos similares. La aparente independencia entre modelos no garantiza un razonamiento independiente.

Por tanto, la lección útil para los lectores de Hacker News es más acotada que «usar agentes, no chatbots». La IA en contextos de alto riesgo requiere una arquitectura de evidencias, comprobaciones explícitas de fallos y una persona capaz de reconocer cuándo es necesario el asesoramiento de un especialista.

Las normas de divulgación devuelven la responsabilidad al solicitante

La Fair Work Commission permite la asistencia de IA, al tiempo que dificulta que los usuarios nieguen la responsabilidad por errores generados.

El 24 de agosto de 2026, la comisión publicó nuevos requisitos que regulan la IA generativa en sus procedimientos. Las normas entran en vigor el 20 de octubre, y los formularios de solicitud y respuesta se actualizarán para esa fecha.

Las normas oficiales sobre el uso de IA establecen tres deberes fundamentales. Una persona debe explicar cuándo y cómo la IA generativa ayudó a preparar un documento. También debe comprobar que el documento sea correcto y pertinente.

Las declaraciones de testigos y las declaraciones juradas reciben una salvaguarda adicional. Los usuarios deben confirmar que el material procede de su propio conocimiento, refleja sus propias palabras y es verdadero según su leal saber y entender.

Estos requisitos evitan dos extremos de política. La comisión no está prohibiendo una tecnología que puede ayudar a las personas sin representación a comprender el proceso. Tampoco acepta el uso de IA como excusa para material fabricado o irrelevante.

La divulgación ofrece a quienes toman decisiones un contexto útil, pero no es una garantía de exactitud. Un solicitante puede revelar honestamente el uso de IA y aun así presentar un argumento incorrecto. El deber de verificación tiene mayor peso práctico.

Las normas también reconocen que distintos tipos de documentos generan riesgos distintos. Un esquema de alegaciones asistido por IA no equivale a una prueba testimonial generada. Una declaración de testigo representa conocimiento personal, por lo que los detalles creados por una máquina pueden corromper directamente el registro probatorio.

La privacidad añade otra preocupación. Los usuarios pueden pegar contratos de trabajo, información médica, quejas laborales o detalles sobre colegas en sistemas públicos de IA. La guía de la comisión advierte contra proporcionar información personal o confidencial del caso a herramientas que quizá no la mantengan segura.

Esto genera presión sobre los proveedores de tecnología jurídica. Un producto útil debe hacer más que mostrar una exención de responsabilidad debajo de un cuadro de texto. Necesita controles para datos confidenciales, procedencia de las fuentes, jurisdicción y el estado de cada afirmación.

Un asistente jurídico debería distinguir entre hechos proporcionados por el usuario e inferencias del modelo. Debería conservar enlaces a cada autoridad citada y advertir cuando una fuente no pueda recuperarse. Debería mostrar la incertidumbre antes de producir un escrito pulido.

El producto también debería reconocer el peligro procesal. Si un tribunal ha emitido una advertencia, el sistema no debería limitarse a generar una versión más contundente del mismo argumento. Debería preguntar si la advertencia invalida la reclamación y recomendar ayuda jurídica cualificada cuando corresponda.

Sin embargo, ninguna interfaz puede eliminar la responsabilidad del usuario. Las personas pueden ignorar advertencias, ocultar el uso de IA o insistir ante un sistema hasta que produzca la respuesta que desean. Por tanto, la comisión necesita aplicar las normas junto con la educación.

La orden de costas en Khan ofrece una señal de aplicación. Las costas siguen siendo inusuales en muchos asuntos de la Fair Work Commission, por lo que la orden muestra que una conducta persistente e irrazonable puede tener consecuencias incluso para un solicitante sin representación.

Sería exagerado afirmar que la decisión crea responsabilidad automática por errores de IA. El razonamiento comunicado hizo hincapié en la conducta continuada de Khan tras advertencias claras. Un error corregido aislado es distinto de sostener repetidamente un caso sin esperanza.

También sería prematuro tratar la divulgación como una solución completa. La comisión debe decidir cuánto detalle deben proporcionar los solicitantes sobre su uso de IA. Debe abordar situaciones en las que los modelos contribuyeron a la lluvia de ideas, pero no a la redacción final.

También existe un problema de equidad. Los usuarios sofisticados pueden mantener repositorios de fuentes, ejecutar comprobaciones y utilizar varios sistemas capaces. Otros pueden depender de herramientas gratuitas y tener un dominio limitado del inglés o conocimientos técnicos reducidos.

Baker estimó una brecha considerable entre el uso de vanguardia con un buen encuadre y la experiencia disponible mediante modelos menos sofisticados. Esa brecha puede reproducir desigualdades existentes en lugar de eliminarlas.

Las personas más atraídas por la ayuda jurídica automatizada podrían ser las menos preparadas para auditarla. Si la divulgación se convierte en otra formalidad compleja, puede cargar a los mismos solicitantes a quienes la comisión pretende ayudar.

Por esa razón, la comisión también ha introducido plantillas y recursos educativos. El objetivo es convertir advertencias abstractas en acciones concretas que los solicitantes puedan seguir antes de presentar sus escritos.

El éxito de la política dependerá de si esos recursos modifican el comportamiento. Una casilla de verificación puede documentar el uso de IA. No puede enseñar a alguien a distinguir una autoridad vinculante de una cita plausible.

Qué ocurre después de la atención de Hacker News

La próxima prueba es si la divulgación y la verificación reducen los escritos defectuosos sin reprimir reclamaciones legítimas.

La primera señal llega el 20 de octubre, cuando la Fair Work Commission actualice sus formularios y active la nueva guía. Los observadores deberían examinar si las divulgaciones aportan detalles significativos o se convierten en declaraciones rutinarias que revelan poco sobre cómo se produjeron los documentos.

Las divulgaciones útiles identificarían la tarea delegada a la IA. La síntesis, la traducción, la redacción, la investigación de citas y la preparación de declaraciones de testigos presentan riesgos diferentes. Tratarlas como una sola categoría limitaría el valor de la política.

La segunda señal es la carga de trabajo de la comisión tras la implementación. La investigación anterior vinculó la IA generativa con parte de un aumento del 40 por ciento en los casos, pero el volumen por sí solo no puede medir el perjuicio.

Una disminución de las presentaciones defectuosas reforzaría el enfoque de la comisión. Una caída generalizada de las solicitudes de hablantes no nativos de inglés o trabajadores sin representación plantearía una preocupación distinta. Podría mostrar que los costes de cumplimiento desalientan a solicitantes válidos.

Mejores indicadores incluirían las correcciones solicitadas, las citas inexistentes identificadas, los casos desestimados por defectos jurisdiccionales y las órdenes de costas vinculadas a resultados no verificados. Esos indicadores mostrarían si la calidad documental está cambiando.

La tercera señal proviene de decisiones posteriores. Los tribunales tendrán que explicar qué significa una verificación razonable y cómo tratan la divulgación incompleta. Esas decisiones definirán el límite práctico con mayor claridad de la que puede ofrecer una guía general.

Un solicitante que utiliza IA para la gramática no está en la misma situación que alguien que genera pruebas fácticas. Un usuario que comprueba cada cita es diferente de quien presenta autoridades inventadas. Las futuras resoluciones deberían preservar esas distinciones.

La posible apelación de Khan es otra prueba inmediata. Según se informa, su plazo de apelación vence antes de que comiencen las normas de octubre, por lo que el nuevo régimen de divulgación no determinará su caso actual. Sin embargo, cualquier apelación podría aclarar por qué fracasó el argumento original y por qué se justificaron las costas.

La respuesta de Macquarie University a la reclamación exitosa de Baker también merece atención. Su caso sugiere que una asistencia de IA estructurada puede ayudar a un litigante sin representación a identificar y perseguir una reclamación válida. Cualquier apelación o interpretación posterior podría poner a prueba ese resultado.

Juntos, los dos casos impiden una moraleja fácil. Khan muestra que una IA elocuente puede mantener a un usuario aferrado a una premisa defectuosa. Baker muestra que un uso disciplinado puede ayudar a organizar una impugnación fundada contra una parte representada.

El mercado más amplio también responderá. Los proveedores de IA jurídica se enfrentan a una elección entre motores de respuestas y espacios de trabajo verificables. Los primeros optimizan la finalización inmediata. Los segundos conservan la incertidumbre, las evidencias y el historial de revisión.

Los sistemas de propósito general también enfrentan presión para cambiar su comportamiento ante preguntas jurídicas. Las advertencias más contundentes ayudan, pero las advertencias mostradas después de una respuesta detallada pueden tener poco peso. La propia respuesta puede generar la confianza que la exención de responsabilidad intenta eliminar.

Los sistemas más eficaces pedirían la jurisdicción, identificarían documentos faltantes, separarían la información del asesoramiento y se negarían a inventar respaldo. Harían que inspeccionar las fuentes fuera más fácil que generar otro párrafo seguro de sí mismo.

Ninguno de esos cambios convierte a un chatbot en abogado. Las disputas jurídicas dependen de hechos, pruebas admisibles, decisiones procesales, normas locales y juicio profesional. La salida de un modelo puede ayudar en partes de ese trabajo sin asumir responsabilidad por su totalidad.

Ese es el punto duradero detrás de la atención de Hacker News. La Fair Work Commission no descubrió que la IA a veces comete errores. Se enfrentó a lo que ocurre cuando la generación de bajo coste se encuentra con una institución donde cada error consume el tiempo de otra parte.

Por tanto, los usuarios deberían plantearse una pregunta más difícil antes de confiar en la IA para cualquier escrito de alto riesgo: ¿qué proceso detectaría un error convincente pero fatal? Si la respuesta es otro chatbot, la brecha de verificación sigue abierta. Si la respuesta incluye documentos originales, autoridades aplicables, revisión adversarial y juicio humano responsable, la IA puede seguir siendo una herramienta en lugar de convertirse en un oráculo.