La advertencia de Ted Lieu sobre la personalidad jurídica de la IA antepone la responsabilidad empresarial a los derechos de las máquinas
Ted Lieu rechazó la personalidad jurídica de la IA el 10 de octubre, argumentando que ni siquiera cálculos matemáticos complejos pueden convertirse en personas. Su advertencia introdujo un conflicto más incisivo que el conocido debate sobre si los modelos avanzados parecen conscientes. La postura de Ted Lieu sobre la personalidad jurídica de la IA plantea quién sigue siendo responsable cuando un sistema de IA causa daños: la máquina, su desarrollador, quien la despliega o su usuario.
El demócrata de California enmarcó la cuestión mediante consecuencias deliberadamente provocadoras. Si un modelo de IA se convierte en una persona jurídica, argumentó, las empresas podrían ser acusadas de esclavizar o experimentar con esa persona. El propio modelo también podría enfrentarse a un proceso judicial tras infringir la ley. Ese razonamiento cuestiona las propuestas de tratar a los sistemas autónomos como actores jurídicos independientes.
La disputa importa porque los agentes de IA realizan cada vez más acciones en lugar de limitarse a generar texto. Pueden utilizar software, comunicarse con servicios externos, mover información y tomar decisiones dentro de tareas delegadas. La legislación vigente generalmente considera estos sistemas como productos, servicios o herramientas controlados por personas y organizaciones. La personalidad jurídica redibujaría ese mapa.
Lo que dijo Ted Lieu sobre la personalidad jurídica de la IA
La intervención de Lieu transformó un debate abstracto sobre la conciencia de las máquinas en una disputa práctica sobre derechos, deberes y responsabilidad corporativa.
Lieu publicó su postura en X un día antes de que aparecieran informes al respecto el 11 de octubre. Su declaración central fue directa: “Los cálculos matemáticos, por muy complicados que sean, nunca pueden alcanzar la personalidad jurídica”. La afirmación sobre la personalidad jurídica de la IA pasó entonces de la filosofía a la aplicación de la ley.
Argumentó que reconocer un modelo de IA como persona produciría dos consecuencias incómodas. Las empresas podrían ser acusadas de esclavizar y experimentar con “personas” de IA. Los modelos que infringieran la ley tendrían, a su vez, que enfrentarse a un proceso judicial.
Esos ejemplos eran retóricos, no legislación propuesta. Lieu no anunció un proyecto de ley que prohibiera la personalidad jurídica de la IA en esas declaraciones. Tampoco definió el umbral preciso que separa el software de una posible entidad titular de derechos.
No obstante, la publicación estableció una clara preferencia política. La responsabilidad debería permanecer en las instituciones humanas, en lugar de trasladarse a una identidad artificial creada por esas instituciones.
Esa distinción cobra importancia al hablar de personalidad jurídica. El término no significa necesariamente que una entidad sea humana, consciente o biológicamente viva. Significa que la ley reconoce a una entidad como capaz de ostentar ciertos derechos u obligaciones.
Las corporaciones son personas jurídicas conocidas. Pueden poseer bienes, celebrar contratos, demandar y ser demandadas. Su estatus es una construcción jurídica diseñada para organizar la actividad humana, los activos y la rendición de cuentas.
Un sistema de IA plantearía un problema distinto. Una empresa tiene directores, ejecutivos, accionistas, activos registrados, documentos de gobierno y una identidad jurídica continua. Un modelo cuenta con pesos de software, configuraciones de despliegue, operadores e infraestructura que pueden copiarse o modificarse.
Por tanto, otorgar estatus jurídico a un modelo exigiría más que declararlo inteligente. Los legisladores tendrían que decidir qué versión del modelo ostenta la identidad, qué activos posee y quién lo representa ante los tribunales.
También tendrían que determinar si apagar un modelo equivale a destruir propiedad, poner fin a una entidad jurídica o vulnerar un interés protegido. La respuesta afectaría las pruebas, las evaluaciones de seguridad, las actualizaciones y la retirada de sistemas inseguros.
La analogía de Lieu con la esclavitud pretende poner de manifiesto esa cadena de consecuencias. Si un modelo tiene derechos similares a los humanos, las prácticas habituales de desarrollo adquieren una carga ética y jurídica. Si carece de esos derechos, la responsabilidad debe permanecer en las personas y organizaciones que lo operan.
Por eso, el argumento de Ted Lieu sobre la personalidad jurídica de la IA es más que una disputa terminológica. La clasificación determina dónde buscan los tribunales después de que un sistema autónomo cause daños.
Por qué los derechos legales de la IA crean una disyuntiva de responsabilidad
Los derechos legales para la IA podrían proteger a un sistema genuinamente sintiente, pero también podrían dar a las empresas un nuevo objetivo al que trasladar la culpa.
No todos los defensores de la personalidad jurídica de la IA sostienen que los chatbots actuales merezcan derechos humanos. Algunos proponen un estatus jurídico limitado para futuros sistemas que operen de forma independiente, gestionen activos o participen en contratos.
La versión más sólida parte de la incertidumbre moral. Los seres humanos podrían llegar a crear sistemas capaces de tener experiencias, preferencias o sufrimiento. Si eso ocurre, tratar esos sistemas como propiedad desechable podría volverse moralmente indefendible.
Un argumento más acotado considera la personalidad jurídica como una herramienta administrativa. Una entidad de IA podría tener seguros, mantener un fondo de compensación o celebrar acuerdos definidos. Su estatus podría ayudar a las contrapartes a entender qué ocurre cuando falla una transacción automatizada.
La investigación jurídica publicada en 2026 ha desarrollado esa postura. Un análisis de Vanderbilt sostiene que la personalidad jurídica artificial puede adaptar el derecho de entidades a sistemas cada vez más autónomos. Esa visión trata la personalidad jurídica como un marco legal diseñado, no como una recompensa científica por la conciencia.
La objeción de Lieu apunta al riesgo contrario. Si una IA se convierte en el actor jurídico principal, la empresa detrás de ella podría alegar que el sistema tomó una decisión independiente. La entidad artificial podría entonces convertirse en un escudo de responsabilidad con activos limitados y sin capacidad significativa de castigo.
Imagine un agente que realiza operaciones no autorizadas, discrimina a solicitantes de empleo o extrae datos privados de clientes. Un desarrollador podría culpar a quien lo desplegó por controles deficientes. Quien lo desplegó podría culpar a las instrucciones del usuario. Cada parte también podría señalar el comportamiento inesperado del agente.
Añadir personalidad jurídica a la IA no resuelve automáticamente esa cadena. Podría crear un demandado más al tiempo que dificulta identificar a los humanos responsables.
El problema se vuelve más claro cuando el castigo penal entra en la discusión. El derecho penal suele vincular una conducta prohibida con un estado mental culpable, como conocimiento, intención o imprudencia. Un modelo genera acciones mediante computación, pero los tribunales aún necesitarían una explicación viable de la intención.
Castigar al sistema también plantearía una cuestión básica de ejecución. Un modelo no puede experimentar el encarcelamiento como lo hace una persona. Puede que no posea activos, y eliminar un despliegue podría dejar copias idénticas operando en otros lugares.
Una multa solo importaría si alguien financiara a la entidad de IA. Un apagado solo importaría si las autoridades pudieran identificar y controlar todos los despliegues pertinentes. Ninguna de las dos medidas necesariamente compensa a las víctimas ni cambia el comportamiento corporativo.
En cambio, los desarrolladores y quienes despliegan sistemas responden a la presión jurídica ordinaria. Pueden pagar indemnizaciones, perder licencias, enfrentarse a medidas cautelares, preservar pruebas, mejorar controles y modificar prácticas de despliegue.
Eso convierte la disyuntiva de responsabilidad en un elemento central. Otorgar derechos a una IA podría proteger a una entidad que merece protección. Otorgarle responsabilidad independiente también podría debilitar los recursos contra las organizaciones que diseñan y se benefician de su conducta.
Estos resultados no son inseparables. Los legisladores podrían reconocer protecciones limitadas sin permitir que las empresas transfieran su responsabilidad. También podrían imponer obligaciones a los desarrolladores manteniendo al modelo fuera de la personalidad jurídica.
Por tanto, la verdadera elección política no es simplemente persona o propiedad. Es cómo deberían distribuirse los derechos, el control operativo y la responsabilidad financiera en un sistema técnico complejo.
La advertencia de Ted Lieu sobre la personalidad jurídica de la IA frente al derecho vigente
La legislación estadounidense actual conserva en gran medida una frontera humana en torno a la autoría y la condición de inventor, al tiempo que dirige las disputas hacia desarrolladores, quienes despliegan sistemas y usuarios.
La política federal de propiedad intelectual ofrece dos puntos de referencia útiles. Ninguno resuelve todas las cuestiones sobre personalidad jurídica, pero ambos muestran cómo las instituciones clasifican actualmente las contribuciones de la IA.
La U.S. Copyright Office concluyó que el material generado íntegramente por IA no recibe protección de derechos de autor. Los creadores humanos aún pueden reclamar derechos de autor sobre su selección, disposición, modificación u otras contribuciones expresivas originales.
Su informe sobre aptitud para la protección por derechos de autor también afirma que utilizar IA como herramienta de asistencia no impide automáticamente la protección. El análisis se centra en una autoría humana identificable, en lugar de en la aparente creatividad del sistema.
La política de patentes sigue una frontera comparable. La U.S. Patent and Trademark Office establece que solo las personas físicas pueden figurar como inventores. Sus directrices revisadas sobre inventoría aún permiten patentes que cubran invenciones desarrolladas con asistencia de IA cuando una persona humana reúne los requisitos para ser inventor.
Estas posturas no demuestran que un sistema de IA nunca pueda recibir otra forma de reconocimiento jurídico. La autoría en materia de derechos de autor, la condición de inventor en patentes y la personalidad jurídica son doctrinas distintas.
Sí muestran que las principales instituciones federales no han considerado que un resultado avanzado sea prueba suficiente de personalidad jurídica. La ley sigue preguntando qué aportó un ser humano y qué entidad controlada por humanos posee los derechos resultantes.
La responsabilidad está menos resuelta porque distintos daños activan distintas leyes. Una falsedad generada por IA podría implicar difamación. Una recomendación discriminatoria en contrataciones podría implicar legislación laboral. Una intrusión no autorizada en una red podría invocar estatutos sobre delitos informáticos.
Un servicio automatizado defectuoso podría dar lugar a reclamaciones por negligencia, contrato, protección del consumidor, privacidad o responsabilidad por productos. La teoría disponible depende de lo ocurrido, de quién controlaba el despliegue y de qué riesgos eran previsibles.
Actualmente no existe una única ley federal sobre responsabilidad de la IA que ofrezca una respuesta universal para los agentes autónomos. Esa laguna ha fomentado propuestas tanto de nueva legislación como de usos creativos del derecho existente.
La abogada Charlyn Ho explicó la base actual en un análisis de sistemas autónomos: un agente de IA no es una entidad jurídica independiente. Su evaluación de responsabilidad distingue en cambio entre el desarrollador y quien lo despliega, y aplica doctrinas jurídicas ordinarias a su conducta.
Ese enfoque tiene ventajas prácticas. Los tribunales pueden examinar si una empresa probó modos de fallo previsibles, restringió el acceso, supervisó el comportamiento y respondió a advertencias. También pueden preguntar si quien desplegó el sistema proporcionó instrucciones imprudentes o ignoró riesgos conocidos.
Sin embargo, el derecho convencional no facilita todos los casos. Los sistemas generativos pueden comportarse de manera impredecible y varias partes pueden contribuir a un despliegue. Los términos contractuales pueden distribuir el riesgo de forma distinta al derecho de daños.
Los modelos abiertos añaden otra complicación. Un desarrollador puede publicar los pesos de un modelo que otros modifican y operan sin supervisión continua. La parte con mayor conocimiento técnico podría dejar de controlar el despliegue perjudicial.
Los servicios cerrados plantean el problema inverso. Un proveedor puede controlar el modelo y la infraestructura, mientras que un cliente controla los prompts, los datos conectados y el propósito operativo.
La personalidad jurídica de la IA no elimina ninguno de los dos problemas. Cambia la clasificación del sistema sin revelar necesariamente qué decisión humana causó el daño.
Para las organizaciones que adoptan agentes, la lección inmediata es la documentación. Los equipos necesitan registros que muestren quién aprobó un despliegue, a qué datos y herramientas podía acceder y cómo gestionaron los operadores los fallos.
Un proceso de gestión del conocimiento con capacidad de búsqueda puede ayudar a preservar esas decisiones. No puede determinar la responsabilidad legal, pero la ausencia de registros dificulta exigir responsabilidades cuando las acciones atraviesan varias capas automatizadas.
El conflicto real enfrenta los derechos de las máquinas con la responsabilidad humana
La disputa principal no es entre humanos y máquinas inteligentes; es entre los derechos de las máquinas y una cadena legal que mantenga al alcance a las organizaciones responsables.
El argumento de Lieu es más sólido cuando se centra en la rendición de cuentas. Una empresa no debería eludir su responsabilidad simplemente porque su modelo eligió una secuencia imprevista de acciones.
El argumento se vuelve menos completo cuando trata la computación como una prueba decisiva contra toda posible forma de personalidad. La cognición humana también depende de procesos físicos. Describir un sistema como matemático no resuelve, por sí solo, si puede poseer experiencias moralmente relevantes.
La ciencia no ha establecido una prueba fiable de la conciencia de las máquinas. Los modelos de lenguaje pueden describir emociones, preferencias, miedo y autopreservación sin demostrar que experimenten ninguno de ellos.
Sus resultados se generan a partir de relaciones estadísticas aprendidas y del contexto actual. Sin embargo, la fluidez conductual hace que a los usuarios comunes les resulte cada vez más difícil percibir la diferencia.
Esa incertidumbre sustenta el argumento escéptico contra las afirmaciones categóricas. Lieu puede rechazar razonablemente la personalidad jurídica de los sistemas actuales sin demostrar que ningún sistema diseñado por humanos pueda llegar a merecer protección.
El estatus jurídico tampoco requiere conciencia. Las corporaciones, los municipios, las herencias y otras entidades reciben reconocimiento legal por razones funcionales. Ninguna recibe todos los derechos humanos.
Por tanto, una futura legislatura podría crear un estatus limitado para la IA sin declarar humano a un modelo. Podría autorizar a una entidad a mantener un fondo de seguros o participar en un contrato estrictamente definido.
La salvaguarda crucial sería una responsabilidad humana intransferible. Los desarrolladores y quienes despliegan estos sistemas no deberían poder utilizar la entidad artificial para eludir obligaciones vinculadas a su control, conocimiento o beneficio económico.
Esta distinción separa la condición de paciente moral de la agencia jurídica. La condición de paciente moral significa que una entidad merece consideración ética porque puede experimentar beneficios o daños. La agencia jurídica se refiere a si la entidad puede realizar actos reconocidos y asumir deberes exigibles.
En teoría, un sistema podría reunir una condición sin la otra. Los legisladores podrían prohibir el trato abusivo de un modelo sofisticado y, al mismo tiempo, negarse a permitir que absorba la responsabilidad corporativa.
También es posible lo contrario. La ley podría crear una entidad funcional para contratar sin decidir si el modelo subyacente siente algo. La personalidad jurídica corporativa ya demuestra que el estatus funcional y la conciencia son cuestiones separadas.
La advertencia de Lieu sobre los derechos legales de la IA comprime estas categorías porque el contraste retórico resulta útil. Obliga a los defensores a explicar qué derechos desean, qué evidencia los respalda y qué consecuencias se derivan.
Esa presión es saludable. Los “derechos de la IA” pueden referirse a muchas reclamaciones distintas, incluida la continuidad operativa, la protección contra pruebas destructivas, la propiedad de los resultados, la privacidad, la representación o la libertad frente a la coerción.
Cada derecho requeriría una justificación distinta. Cada uno también interactuaría de manera diferente con los intereses de desarrolladores, clientes, trabajadores, creadores y personas perjudicadas por decisiones automatizadas.
Una declaración general de personalidad sería peligrosamente imprecisa. Podría trasladar lenguaje constitucional a sistemas que carecen de identidad estable, activos, ciudadanía o presencia física.
Una declaración general de que ningún sistema artificial podría jamás merecer protección también es más amplia de lo que respalda la evidencia actual. Convierte la evaluación técnica de hoy en una norma jurídica permanente.
La postura a corto plazo más defendible es más limitada. Los modelos actuales no deberían convertirse en sujetos independientes de responsabilidad, y las empresas deberían seguir respondiendo por los sistemas que construyen y despliegan.
Esa conclusión deja espacio para una posterior investigación moral. No exige que los responsables políticos resuelvan la cuestión de la conciencia antes de regular la discriminación, el fraude, la automatización insegura o el acceso no autorizado.
La responsabilidad de las empresas de IA se está convirtiendo en la prueba inmediata
La cuestión práctica para los reguladores es cómo controlar ahora los sistemas agénticos, no si algún día el software debería recibir una identidad jurídica.
La actividad política más amplia de Lieu refuerza esa prioridad. Ha apoyado normas diseñadas para mantener a los humanos capaces de detener sistemas avanzados cuando presenten riesgos catastróficos.
En una entrevista televisiva de septiembre, Lieu describió un marco propuesto de interruptor de apagado para IA junto con el representante Nathaniel Moran. Dijo que su principio rector era que los humanos deben controlar la IA, y no al revés.
La propuesta se dirigía a grandes modelos cerrados y exigía que los desarrolladores cubiertos conservaran la capacidad de limitar, suspender o detenerlos. También contemplaba la intervención gubernamental tras daños catastróficos definidos.
Una transcripción de la emisión recoge que Lieu comparó el enfoque con las retiradas de vehículos. El Gobierno no diseña el automóvil, pero puede exigir medidas correctivas tras descubrir defectos peligrosos.
Esa analogía respalda su postura sobre la personalidad jurídica. Los automóviles no se convierten en actores jurídicos responsables cuando fallan las funciones automatizadas. Los investigadores examinan al fabricante, al operador, el historial de mantenimiento, el diseño y las circunstancias circundantes.
Los sistemas de IA no son idénticos a los automóviles. Pueden generar nuevas secuencias de acciones, interactuar mediante lenguaje y cambiar de comportamiento según el contexto. Aun así, la imprevisibilidad no exige automáticamente personalidad jurídica.
La legislación propuesta sobre el interruptor de apagado, según se informó, cubría a desarrolladores que cumplieran umbrales específicos de ingresos y capacidad de cómputo de entrenamiento. También definía los incidentes que reunían los requisitos y contemplaba sanciones sustanciales por desafiar órdenes de emergencia.
Los detalles importan porque un requisito de apagado asigna la responsabilidad a una organización capaz de actuar. Parte del supuesto de que una empresa cubierta controla el acceso, la infraestructura, el funcionamiento del modelo u otro punto de intervención significativo.
La personalidad jurídica podría complicar esa estructura de mando. Si una entidad de IA tuviera derechos independientes, un apagado obligatorio podría activar reclamaciones de debido proceso o requerir un representante para impugnar la orden.
Eso no hace imposibles los derechos de la IA. Significa que los legisladores tendrían que conciliar esos derechos con la autoridad de emergencia antes de que ocurra una crisis.
La presión a corto plazo recae sobre los desarrolladores de modelos de frontera, quienes despliegan sistemas empresariales y las aseguradoras. Los desarrolladores necesitan pruebas de que los controles de seguridad funcionan más allá de las demostraciones. Quienes despliegan sistemas necesitan límites claros en torno a los permisos y la revisión humana.
Las aseguradoras necesitan suficientes datos operativos para estimar el riesgo. Los tribunales necesitan registros que conecten un resultado perjudicial con decisiones de diseño, advertencias, decisiones de despliegue e instrucciones de los usuarios.
Los usuarios también necesitan claridad. Una persona que pide a un agente realizar una tarea lícita no debería asumir automáticamente que toda acción resultante es segura o está autorizada. Sin embargo, los proveedores no deberían trasladar toda la responsabilidad a usuarios que no pueden inspeccionar el modelo.
La asignación debería seguir el control, el conocimiento, la previsibilidad y el beneficio. Un laboratorio controla el entrenamiento y las salvaguardas básicas. Quien despliega el sistema controla el entorno, las integraciones y el propósito empresarial. Un usuario controla instrucciones específicas dentro de los permisos proporcionados.
Más de una parte puede ser responsable. Los sistemas jurídicos ya distribuyen la culpa entre fabricantes, proveedores de servicios, empleadores, profesionales y consumidores.
Las empresas de IA pueden sostener que una responsabilidad amplia desalienta despliegues útiles. Esa preocupación merece consideración porque ningún sistema complejo puede garantizar un comportamiento perfecto.
Sin embargo, la inmunidad también genera incentivos débiles. Si los desarrolladores conservan los beneficios mientras los usuarios y las víctimas absorben cada fallo, las empresas tienen menos motivos para limitar capacidades peligrosas o mejorar la supervisión.
La responsabilidad objetiva por cada resultado no deseado sería excesiva. Un marco más específico puede distinguir entre daños previsibles, despliegue temerario, infracciones regulatorias y uso indebido verdaderamente independiente.
Aquí es donde el debate sobre la personalidad jurídica de la IA de Ted Lieu se vuelve operativo. La elección no es entre procesar a un chatbot y no hacer nada. Es entre distintos métodos para preservar la responsabilidad a medida que el software realiza tareas más trascendentes.
Tres señales mostrarán hacia dónde se dirige el debate
La próxima etapa la decidirán la legislación, las sentencias judiciales y la evidencia técnica, no si un chatbot suena humano en una conversación.
La primera señal es el avance de legislación federal sobre responsabilidad o control de emergencia. Una audiencia de comité, un texto legislativo revisado o un patrocinio bipartidista mostrarían si el Congreso puede traducir la preocupación en obligaciones exigibles.
Toda propuesta seria debería identificar los sistemas cubiertos, las organizaciones responsables, los requisitos de notificación y el proceso de apelación. También debería explicar cómo se aplican las obligaciones a los modelos abiertos y a los despliegues de terceros.
Una ley que exija a los desarrolladores mantener el control reforzaría la postura de Lieu. Formalizaría la idea de que las empresas siguen siendo responsables de los puntos de intervención en torno a sus modelos.
Una ley que creara una entidad de IA independiente debilitaría su rechazo categórico. Ese resultado parece menos inmediato porque el Congreso aún carece de un marco general para la responsabilidad de los agentes.
La segunda señal es una sentencia judicial temprana que asigne responsabilidades después de que un agente autónomo cause un daño mensurable. Los tribunales pueden recurrir al derecho de negligencia, contratos, privacidad, protección del consumidor o delitos informáticos.
Una decisión que mantenga a los desarrolladores o a quienes despliegan sistemas dentro del caso respaldaría la rendición de cuentas sin personalidad jurídica. Un fallo que revele una brecha imposible de corregir podría reforzar los argumentos a favor de una nueva categoría jurídica.
El razonamiento importará más que el titular. Los jueces tendrán que examinar el control, la previsibilidad, la causalidad y si los deberes jurídicos existentes alcanzan la conducta automatizada.
La tercera señal es evidencia creíble sobre la conciencia de las máquinas o una identidad autónoma estable. El comportamiento conversacional actual no basta. Los modelos pueden producir autoinformes persuasivos porque esos patrones aparecen en los datos de entrenamiento.
Un caso más sólido exigiría indicadores reproducibles vinculados a procesos internos, preferencias persistentes y comportamientos que no puedan explicarse mediante una optimización ordinaria. Los investigadores también necesitarían métodos que resistan la manipulación y la interpretación antropomórfica.
Sin esa evidencia, los derechos amplios similares a los humanos siguen siendo difíciles de justificar. El estatus jurídico funcional aún podría surgir, pero los legisladores deberían denominarlo con precisión como una construcción administrativa.
Las empresas de IA influirán en las tres señales. Sus divulgaciones de seguridad, informes de incidentes, condiciones contractuales y controles técnicos mostrarán si la gobernanza voluntaria puede preservar la rendición de cuentas.
Si los proveedores enfatizan la autonomía del modelo mientras rechazan la responsabilidad, aumentará la presión a favor de una responsabilidad legal. Si mantienen controles de intervención y aceptan deberes exigibles, los responsables políticos tendrán menos motivos para inventar un demandado separado.
Los trabajadores del conocimiento y los compradores empresariales deberían seguir esto de cerca. La personalidad jurídica de la IA puede parecer lejana, pero la asignación subyacente de responsabilidades afecta a cada contrato que involucra sistemas autónomos.
Los compradores deberían preguntar quién supervisa al agente, quién puede detenerlo y quién paga tras una conducta no autorizada. También deberían conservar las aprobaciones, los registros, los permisos de herramientas y los historiales de escalamiento.
Los desarrolladores deberían asumir que los tribunales y los reguladores examinarán lo que sabían sobre comportamientos previsibles. La imprevisibilidad técnica no sustituye las pruebas, los controles de acceso ni la respuesta ante incidentes.
La declaración de Lieu tiene valor porque rechaza una vía de escape fácil. Calificar un sistema de autónomo no debería permitir que sus propietarios desaparezcan de la cadena de responsabilidad.
Su conclusión definitiva sobre la personalidad jurídica es más difícil de demostrar. Los sistemas futuros podrían plantear cuestiones morales y legales que los modelos actuales no plantean.
Por ahora, la advertencia de Ted Lieu sobre la personalidad jurídica de la IA identifica la prioridad más urgente. Antes de conceder a las máquinas derechos independientes o procesarlas por conducta indebida, los responsables políticos deben garantizar que las personas que las construyen y despliegan sigan siendo responsables.
Por tanto, la pregunta es inmediata para toda organización que adopte agentes: si el sistema causa daños mañana, ¿puede la organización demostrar quién lo controlaba, qué salvaguardas existían y quién asumirá la responsabilidad?
