El impulso del Parlamento británico por una ley de IA y derechos humanos desafía el modelo ligero de Reino Unido
El impulso del Parlamento británico por una ley de IA y derechos humanos ha planteado un desafío directo al enfoque de Reino Unido basado en reguladores, después de que un comité multipartidista calificara las protecciones existentes como inadecuadas.
El Comité Conjunto de Derechos Humanos quiere una ley específica sobre IA, categorías formales de riesgo, supervisión independiente y obligaciones exigibles durante todo el ciclo de vida de la tecnología. Algunos usos de la IA deberían prohibirse por completo cuando entren en conflicto con derechos fundamentales.
Esta postura va más allá de pedir otro conjunto de compromisos voluntarios de seguridad. Pide al Parlamento que determine qué riesgos tolerará la sociedad antes de que los sistemas automatizados modelen el empleo, la actividad policial, los servicios públicos y la privacidad personal.
El momento también intensifica el conflicto. Anthropic, OpenAI y otros grandes desarrolladores han debatido ralentizar el desarrollo de sistemas de frontera y ampliar las evaluaciones externas de seguridad. Sin embargo, la coordinación liderada por empresas no puede ofrecer recursos legales a las personas perjudicadas ni obligar a todos los desarrolladores a cumplir.
Reino Unido debe elegir ahora entre dos modelos distintos. Puede seguir distribuyendo la responsabilidad sobre la IA entre los reguladores existentes, o crear normas vinculantes con un único centro de responsabilidad.
El Comité Quiere una Ley de IA con Fuerza Legal
La propuesta sustituiría las dispersas salvaguardas de IA de Reino Unido por obligaciones exigibles vinculadas a los riesgos que crea cada sistema.
El Comité Conjunto de Derechos Humanos incluye miembros de ambas cámaras del Parlamento y de varios partidos políticos. Examina si las políticas y la legislación del gobierno cumplen con las obligaciones de derechos humanos de Reino Unido.
Su investigación comenzó en julio de 2025 y examinó la privacidad, la discriminación, el acceso a recursos, la rendición de cuentas y el alcance internacional de los sistemas de IA. El comité también consideró si la legislación vigente podía mantenerse al día con la IA agéntica, es decir, sistemas capaces de perseguir tareas con una dirección humana limitada.
La propuesta resultante exige una ley de IA que reconozca distintos niveles de riesgo. Los modelos y aplicaciones de mayor riesgo asumirían obligaciones más exigentes que las herramientas con un potencial limitado para afectar los derechos de las personas.
Esta estructura abarcaría todo el ciclo de vida de la IA. Los desarrolladores, las organizaciones que modifican modelos, los proveedores y las instituciones que despliegan sistemas tendrían que comprender sus respectivas responsabilidades.
Esto importa porque los resultados perjudiciales rara vez proceden de un único componente técnico. Un desarrollador de modelos podría crear la capacidad subyacente, mientras que un empleador la configura y un contratista proporciona los datos del lugar de trabajo.
Con normas fragmentadas, cada participante puede señalar a otro. Un enfoque de ciclo de vida intenta evitar esa brecha de responsabilidad.
El comité también sostiene que determinadas prácticas de IA son incompatibles con los derechos humanos. Entre sus posibles objetivos figuran la manipulación subliminal y la elaboración inapropiada de perfiles o el procesamiento biométrico.
Estas restricciones establecerían límites legales antes de la aplicación caso por caso. Los reguladores no tendrían que esperar a que se produzcan daños repetidos antes de cuestionar una aplicación claramente prohibida.
La investigación sobre IA del comité identificó originalmente tres preocupaciones recurrentes. Se trataba de datos sesgados, vigilancia intrusiva y la dificultad de impugnar decisiones producidas por sistemas opacos.
Estas preocupaciones aparecen ahora en contextos cotidianos, no solo en debates especulativos sobre la superinteligencia. El reconocimiento facial puede identificar a personas en espacios públicos. Las herramientas generativas pueden producir imágenes sexuales no consentidas.
El software de gestión automatizada también puede recomendar medidas disciplinarias sin ofrecer a los trabajadores una explicación significativa. Los organismos públicos pueden utilizar modelos para influir en decisiones sobre prestaciones, actividad policial, inmigración o acceso a servicios.
Por tanto, el argumento del comité es más amplio que la seguridad de la IA en la frontera tecnológica. Trata los derechos humanos como una norma práctica para sistemas que ya afectan a las vidas individuales.
Esa norma pregunta si las personas conservan la privacidad, la igualdad, la libertad de expresión, el debido proceso y una vía efectiva para impugnar decisiones perjudiciales. También pregunta quién asume la carga legal cuando fallan esas protecciones.
La propuesta de ley del Parlamento británico sobre IA y derechos humanos convertiría esas cuestiones en parte del diseño y despliegue de los sistemas. Ya no seguirían siendo temas opcionales para las revisiones éticas.
Por Qué las Normas Existentes de Reino Unido Dejan Brechas de Responsabilidad
Reino Unido cuenta con leyes pertinentes y reguladores competentes, pero ninguna institución asume el problema completo que crea la IA.
Varias leyes vigentes ya se aplican a los sistemas automatizados. La legislación de protección de datos regula la información personal, mientras que la legislación de igualdad prohíbe la discriminación en el empleo y la prestación de servicios.
La Ley de Derechos Humanos limita a las autoridades públicas. También pueden aplicarse normas de consumo, empleo, seguridad de productos y específicas de cada sector, según el sistema y su uso.
Esta base jurídica no carece de significado. William Malcolm, de la Oficina del Comisionado de Información, dijo al comité que los principios de protección de datos siguen siendo pertinentes a medida que cambian las tecnologías.
En algunas circunstancias, las organizaciones deben realizar evaluaciones y explicar cómo equilibraron intereses contrapuestos. Estos requisitos pueden revelar una gobernanza deficiente antes de que un sistema llegue al público.
Sin embargo, la IA crea problemas prácticos que las normas generales no resuelven con claridad. Es posible que una persona nunca se entere de que un modelo automatizado influyó en una decisión sobre ella.
Incluso cuando alguien descubre el sistema, puede no saber qué organización proporcionó los datos, modificó el modelo o aprobó su recomendación. Las reclamaciones de secreto comercial pueden limitar aún más el escrutinio.
Una audiencia regulatoria de febrero de 2026 ilustró la estructura fragmentada. Representantes de Ofcom, la Oficina del Comisionado de Información y la Comisión de Igualdad y Derechos Humanos describieron competencias superpuestas, pero incompletas.
La Comisión de Igualdad y Derechos Humanos puede hacer cumplir la legislación de igualdad entre empleadores y proveedores de servicios. Sus facultades bajo la Ley de Derechos Humanos son distintas porque esa ley se aplica principalmente a organismos públicos.
El Comisionado de Información puede investigar infracciones relacionadas con datos personales. Sin embargo, algunos perjuicios de la IA no dependen únicamente del procesamiento de datos personales.
Ofcom regula servicios y obligaciones en línea definidos. No actúa como regulador general de todos los modelos, empleadores, organismos gubernamentales o decisiones automatizadas.
El UK AI Security Institute aporta experiencia técnica, especialmente para modelos avanzados. Prueba capacidades y trabaja con desarrolladores para identificar vulnerabilidades antes del lanzamiento.
Sin embargo, cooperar con el instituto no crea automáticamente una obligación legal de presentar todos los modelos pertinentes. El instituto tampoco dispone de un mandato amplio para resolver reclamaciones por discriminación o indemnizar a particulares.
El gobierno ha defendido un modelo liderado por sectores. En sus respuestas por escrito al comité, afirmó que el panorama regulatorio sigue bajo revisión.
Los funcionarios también señalaron financiación específica para proyectos de IA dirigidos por reguladores. Ese apoyo puede mejorar la capacidad técnica dentro de organismos que ya comprenden sus respectivos sectores.
Aun así, la capacidad no equivale a jurisdicción. Un regulador bien financiado no puede actuar fuera de las facultades que le ha concedido el Parlamento.
Por tanto, la crítica central del comité es institucional. Reino Unido tiene muchos puntos de contacto, pero ningún organismo único responsable de identificar brechas en todo el sistema.
Para las empresas, esta fragmentación crea incertidumbre además de flexibilidad. Una compañía podría cumplir los requisitos de protección de datos, pero pasar por alto un problema de igualdad introducido durante el despliegue.
Los organismos públicos afrontan un problema similar. Los equipos de contratación pueden adquirir un servicio de IA antes de que las responsabilidades legales, operativas y técnicas se hayan distribuido claramente.
Las personas asumen el coste más alto. Deben identificar la ley y el regulador pertinentes antes de poder impugnar un resultado que quizá no comprendan del todo.
Un organismo de supervisión independiente podría coordinar normas, vigilar riesgos sistémicos e identificar casos que queden entre mandatos. Su eficacia dependería de facultades legales, recursos y acceso a pruebas técnicas.
Sin esos elementos, un nuevo organismo añadiría otra capa al mismo panorama fragmentado. La propuesta del comité importa porque vincula la supervisión con legislación vinculante, en lugar de crear otro foro consultivo.
La Ley de IA y Derechos Humanos del Parlamento británico se Encuentra con la Agenda de Crecimiento
El conflicto principal no enfrenta innovación y seguridad. Enfrenta una supervisión voluntaria y distribuida con una responsabilidad centralizada y exigible.
La estrategia de IA de Reino Unido ha hecho hincapié en la adopción, la inversión, la infraestructura y un uso más rápido en los servicios públicos. Se espera que los reguladores existentes apliquen principios generales dentro de sus respectivos sectores.
Sus defensores ven ventajas en ese enfoque. Los reguladores financieros, sanitarios, de comunicaciones y de datos comprenden los riesgos de sus propios ámbitos.
Un único regulador de IA podría duplicar su trabajo o aplicar normas idénticas a sistemas muy diferentes. Los requisitos de cumplimiento estrictos también podrían suponer una carga mayor para las empresas pequeñas que para los desarrolladores consolidados.
El comité no necesita rechazar la experiencia sectorial para revelar la debilidad del modelo. La regulación basada en sectores solo funciona cuando cada perjuicio significativo encaja dentro de un mandato claro.
Las cadenas de suministro de IA rara vez respetan esos límites. Un modelo de propósito general puede impulsar software de contratación, administración sanitaria, productos educativos y análisis policial.
El desarrollador puede operar fuera de Reino Unido. La organización que despliega el modelo puede basarse en la documentación de un proveedor en lugar de realizar una evaluación independiente.
Las personas afectadas quizá solo se encuentren con la decisión final. No pueden ver cómo interactuaron el modelo, los datos de entrenamiento, la configuración y la política institucional.
El Plan de Acción de Oportunidades de IA del gobierno aumenta la presión porque fomenta un despliegue más rápido. Las instituciones públicas pueden ampliar sistemas antes de que las prácticas de supervisión maduren en todos los departamentos.
Las pruebas presentadas por grupos de derechos sostuvieron que los objetivos económicos recibieron una atención más clara que las protecciones exigibles. Su preocupación fue especialmente intensa en torno a la actividad policial y la justicia penal.
El comité escuchó que las evaluaciones de derechos humanos deberían comenzar antes de la contratación y continuar después del despliegue. Eso convertiría la protección de derechos en un requisito operativo, en lugar de una revisión final de cumplimiento.
Una ley de IA escalonada por riesgo ofrece una respuesta. Los usos de bajo riesgo podrían afrontar obligaciones más ligeras, mientras que los sistemas que afectan a la libertad, el empleo, los servicios esenciales o la identidad biométrica recibirían un escrutinio mayor.
La Unión Europea ya ha adoptado un marco de IA horizontal basado en el riesgo. Reino Unido no necesita duplicar todas las disposiciones de la UE para reconocer la diferencia estratégica.
El enfoque de la UE define prácticas prohibidas e impone obligaciones a sistemas designados de alto riesgo. Reino Unido ha preferido reguladores existentes, principios y legislación específica.
Esta divergencia puede afectar a las empresas que operan en ambos mercados. Un desarrollador podría enfrentarse a obligaciones vinculantes específicas de IA en la UE mientras navega por varios regímenes jurídicos más antiguos en Reino Unido.
La propuesta del comité reduciría esa diferencia estructural. También podría ofrecer a las empresas una base más clara para la documentación, la evaluación y la rendición de cuentas.
El coste llegaría a través del trabajo de cumplimiento y un despliegue más lento en ámbitos sensibles. Sin embargo, la incertidumbre también genera costes, especialmente después de que un sistema controvertido llegue a producción.
Un marco definido puede indicar a los compradores qué pruebas exigir. También puede ayudar a los desarrolladores a diseñar registros de auditoría, revisión humana, pruebas y mecanismos de apelación antes de firmar contratos.
La verdadera disyuntiva se refiere a cuándo paga la sociedad por la seguridad. Reino Unido puede exigir pruebas antes de un despliegue de alto riesgo, o asumir costes legales y sociales después de que aparezcan daños.
La primera vía puede retrasar productos. La segunda puede dejar a las personas enfrentándose a instituciones con mejor información, acceso técnico y recursos legales.
Ese desequilibrio explica por qué el debate del Parlamento británico sobre una ley de derechos humanos para la IA no puede reducirse a una política abstracta de innovación. Se trata de quién asume el riesgo cuando fallan las decisiones automatizadas.
El reconocimiento facial, los deepfakes y la IA en el trabajo hacen tangible el riesgo
El argumento más sólido a favor de legislar procede de sistemas que ya afectan a la privacidad, la dignidad, la igualdad y el acceso a decisiones justas.
El reconocimiento facial en tiempo real muestra cómo pueden aplicarse varias leyes sin generar un marco de gobernanza único y consolidado. Los sistemas policiales comparan rostros captados en espacios públicos con listas de vigilancia.
Ese tratamiento afecta a los derechos de privacidad. La elaboración de listas de vigilancia y los errores de coincidencia también pueden generar efectos desiguales entre distintos grupos demográficos.
En 2020, el Tribunal de Apelación concluyó que el uso de reconocimiento facial por parte de la Policía de Gales del Sur era ilegal en las circunstancias examinadas. La sentencia identificó problemas relacionados con la discrecionalidad, la protección de datos y las obligaciones de igualdad.
El fallo estableció que la legislación existente puede limitar la vigilancia biométrica. No creó una ley nacional completa que regule cada despliegue, proveedor, lista de vigilancia y actualización técnica.
Posteriormente, el comité escribió al ministro del Interior sobre la aparición de menores en listas de vigilancia policiales. Su carta señalaba que el reconocimiento facial puede interferir con la privacidad y suscitar preocupaciones de discriminación.
Las consultas gubernamentales han considerado un nuevo marco para la biometría aplicada a las fuerzas del orden. Ese proceso podría producir normas más claras para la tecnología policial sin resolver la rendición de cuentas de la IA en otros sectores.
El abuso mediante deepfakes presenta otro tipo de daño. Los sistemas generativos pueden crear imágenes sexualmente explícitas de una persona real sin su consentimiento.
Testigos dijeron al comité que las mujeres y los grupos racializados sufren daños desproporcionados por este material. Su distribución puede perjudicar la seguridad, la dignidad, el empleo y la libertad de expresión.
El derecho penal y las obligaciones de seguridad en línea pueden abordar partes de esta conducta. Sin embargo, la aplicación de la ley sigue dependiendo de identificar a los responsables, asegurar pruebas, retirar el material y asignar responsabilidades a las plataformas.
El propio modelo de IA puede ser ofrecido por una empresa, integrado en otro servicio y utilizado mediante una cuenta anónima. Esa cadena complica la prevención y la reparación.
La automatización en el lugar de trabajo plantea una prueba más silenciosa, pero igual de importante. Los empleadores pueden utilizar software para clasificar candidatos, supervisar el rendimiento, programar turnos o señalar comportamientos para investigación.
Una recomendación automatizada podría no tomar formalmente la decisión final. Aun así, los directivos pueden deferir a ella porque el resultado parece objetivo o llega a gran escala.
Un trabajador puede recibir una sanción sin saber qué datos generaron la alerta. También puede tener dificultades para corregir información inexacta o cuestionar los supuestos del modelo.
Las leyes vigentes de empleo e igualdad siguen estando disponibles. Su utilidad depende de la transparencia, el acceso a pruebas y un proceso asequible para impugnar la decisión.
Estos ejemplos comparten una misma estructura. La organización que utiliza IA sabe más que la persona afectada, mientras que los proveedores saben más que la organización que realiza el despliegue.
Una regulación eficaz debe reducir ese desequilibrio de información. Los requisitos de notificación, las evaluaciones de impacto, las explicaciones accesibles, los registros de auditoría y la revisión humana pueden desempeñar un papel.
Las organizaciones también necesitan registros fiables de las decisiones internas. Una base de conocimiento con capacidad de búsqueda puede ayudar a los equipos a conservar evaluaciones de modelos, pruebas de contratación, políticas y conclusiones sobre incidentes.
La documentación por sí sola no garantiza una conducta legal. Sí hace posible la supervisión posterior al mostrar lo que las personas sabían, aprobaron y modificaron.
Las obligaciones propuestas por el comité a lo largo del ciclo de vida abordan esta realidad. La rendición de cuentas se vincularía al diseño, la modificación, la contratación y el uso, en lugar de recaer solo en el operador final.
Esa asignación requerirá una redacción cuidadosa. Los desarrolladores no deberían controlar automáticamente cómo cada cliente despliega un modelo de propósito general.
Quienes realizan despliegues no deberían eludir su responsabilidad alegando que confiaron en el proveedor. Los distribuidores y modificadores también deben revelar cambios que afecten a la seguridad o al rendimiento.
Unas obligaciones claras pueden animar a cada participante a documentar los riesgos bajo su control. En cambio, una responsabilidad compartida vaga puede producir una cadena de suministro en la que nadie asuma la titularidad.
Un nuevo regulador no resolverá todos los problemas de aplicación
La legislación puede cerrar brechas de rendición de cuentas, pero solo si los reguladores pueden inspeccionar los sistemas y las personas afectadas pueden obtener reparaciones significativas.
La recomendación del comité se enfrenta ahora a varias cuestiones de diseño difíciles. La primera se refiere a la autoridad de un organismo independiente de supervisión.
Una oficina de coordinación podría cartografiar riesgos y emitir directrices sin aplicar directamente la ley. Un regulador pleno podría exigir información, investigar incidentes, imponer sanciones o suspender sistemas.
Estos modelos tienen consecuencias muy diferentes. El Parlamento debe especificar si el organismo supervisa a los reguladores existentes o actúa cuando ninguna autoridad sectorial tiene jurisdicción.
El acceso técnico es otro desafío. Los reguladores necesitan documentación, resultados de evaluaciones, informes de incidentes y acceso a las versiones pertinentes de los modelos.
Una evaluación basada únicamente en el resumen de un desarrollador no puede revelar todos los fallos. Sin embargo, un acceso sin restricciones puede generar riesgos de seguridad, privacidad y propiedad intelectual.
La ley también necesitará umbrales. Una pequeña herramienta de programación no debería afrontar el mismo proceso que la vigilancia biométrica o una decisión automatizada sobre prestaciones.
Al mismo tiempo, las etiquetas pueden facilitar la elusión. Las empresas pueden describir funciones trascendentes como herramientas de asistencia porque, técnicamente, una persona aprueba el resultado.
Una clasificación significativa debe examinar los efectos prácticos, no el lenguaje de marketing. Si el personal sigue habitualmente la recomendación de un modelo, la participación humana puede ofrecer poca protección.
El comité también debe distinguir los daños actuales de los riesgos inciertos de frontera. La discriminación, la vigilancia intrusiva y el abuso mediante deepfakes ya tienen víctimas identificables.
Las afirmaciones catastróficas sobre una superinteligencia artificial se refieren a sistemas que todavía no existen. Requieren pruebas y herramientas regulatorias diferentes.
Combinar todas las preocupaciones bajo una única narrativa dramática puede debilitar el argumento a favor de actuar. Los críticos podrían desestimar vulneraciones demostradas de derechos como parte de un debate especulativo.
Las recientes advertencias de desarrolladores de IA añaden urgencia, pero no resuelven esta distinción. El CEO de Anthropic, Dario Amodei, propuso un desarrollo de frontera más lento, evaluadores externos integrados y coordinación internacional.
El CEO de OpenAI, Sam Altman, y otros líderes de la industria expresaron su apoyo a una cooperación más sólida en materia de seguridad. Su acuerdo siguió a advertencias públicas sobre sistemas avanzados sin control.
Los críticos respondieron que los evaluadores voluntarios siguen dependiendo del acceso de las empresas. También cuestionaron si las restricciones coordinadas podrían proteger a las empresas consolidadas frente a competidores más pequeños.
Una ralentización de la frontera y una ley de IA basada en derechos abordan problemas que se solapan, pero son distintos. Una se dirige al rápido desarrollo de capacidades, mientras que la otra regula los efectos sobre las personas.
Ninguna debería sustituir a la otra. Un desarrollo más lento no compensa a un trabajador sancionado injustamente por un sistema automatizado.
Del mismo modo, un mecanismo de apelación para decisiones laborales no gestiona un modelo con capacidades biológicas peligrosas. La política debe adecuar cada riesgo a una intervención apropiada.
La aplicación internacional crea otra limitación. Muchos modelos líderes se desarrollan fuera del Reino Unido y se ofrecen a través de servicios en línea.
Reino Unido puede regular los productos ofrecidos en el país, las organizaciones que operan dentro de su jurisdicción y la contratación pública. No puede controlar unilateralmente cada modelo desarrollado en el extranjero.
Unas condiciones claras de acceso al mercado aún pueden influir en los proveedores globales. Las empresas adaptan habitualmente sus productos para cumplir normas en jurisdicciones económicamente importantes.
El problema más difícil es la distribución abierta. Los pesos de los modelos y el software pueden cruzar fronteras y operar en infraestructura privada.
Un marco legal debe reconocer que la aplicación nunca será perfecta. Un alcance imperfecto no justifica dejar a las instituciones nacionales sin obligaciones.
La prueba escéptica más sólida se refiere a la reparación. Un sistema regulatorio puede generar una amplia documentación y, aun así, ofrecer poca ayuda práctica a una persona perjudicada.
Las apelaciones deben ser comprensibles, asequibles y oportunas. Las personas también necesitan protección frente a represalias al cuestionar decisiones laborales o del sector público.
Los tribunales siguen siendo esenciales, pero los litigios por sí solos no pueden sostener el sistema. La complejidad técnica y los costes legales pueden hacer inviables las demandas individuales.
Las quejas colectivas, las investigaciones dirigidas por reguladores y las facultades para detener despliegues perjudiciales pueden abordar patrones que una sola persona no puede demostrar por sí sola.
Por tanto, el Parlamento debería evaluar la ley de derechos humanos para la IA del Parlamento británico por sus resultados. La cuestión clave es si modifica decisiones antes de que se produzca el daño y ofrece reparaciones después.
Tres señales mostrarán si el Parlamento cambia de rumbo
La próxima prueba será si las recomendaciones del comité se convierten en políticas aplicables, reciben respaldo institucional y resisten la presión para una adopción más rápida de la IA.
La primera señal es una respuesta formal del gobierno al comité. Los ministros deben indicar si aceptan la necesidad de una ley de IA y un organismo legal de supervisión.
Un compromiso de realizar nuevas consultas preservaría la trayectoria actual. Un calendario legislativo marcaría un cambio genuino.
Los detalles importarán más que la etiqueta. Una ley centrada únicamente en la seguridad de frontera no abordaría el empleo automatizado, los servicios públicos ni la vigilancia biométrica.
Una ley amplia debería definir categorías de riesgo, asignar responsabilidades a lo largo del ciclo de vida e identificar prácticas prohibidas. También debería establecer vías para presentar quejas y obtener reparaciones.
La segunda señal es el diseño del organismo independiente de supervisión. El Parlamento debería buscar facultades para obtener pruebas, coordinar reguladores e intervenir cuando la responsabilidad no esté clara.
Una financiación estable será igualmente importante. Un regulador nominal no puede supervisar sistemas creados por empresas tecnológicas globales con amplios recursos.
La postura anterior del gobierno dejaba abiertas las opciones de supervisión si se introducían nuevos requisitos legales. Por tanto, aceptar un organismo legal representaría un cambio significativo de política.
La tercera señal es cómo conectan los legisladores la propuesta con otras medidas sobre IA. Reino Unido ya debate la seguridad de frontera, la vigilancia biométrica, los derechos de autor y el despliegue en el sector público.
Las leyes separadas pueden abordar daños distintos. También pueden crear otro mosaico normativo si las definiciones, las obligaciones de información y las facultades de aplicación no están alineadas.
El gobierno debe decidir si los derechos humanos se convierten en la base común de esas medidas. Sin esa base, cada nueva controversia generará otra solución limitada.
Los desarrolladores y compradores empresariales deberían seguir de cerca estas señales. Las nuevas obligaciones a lo largo del ciclo de vida afectarían a los contratos, las evaluaciones, la gobernanza de datos, la documentación y la notificación de incidentes.
Las organizaciones del sector público deberían empezar a identificar dónde las herramientas automatizadas influyen en decisiones importantes. Esperar a la legislación definitiva aumenta la probabilidad de descubrir sistemas no documentados cuando ya haya comenzado el escrutinio.
Los trabajadores del conocimiento deberían plantearse una pregunta más sencilla cada vez que la IA influya en un resultado importante: ¿quién puede explicar la decisión, corregir los datos y asumir la responsabilidad?
Si ninguna persona o institución puede responder, la brecha de rendición de cuentas ya existe. Las propuestas del comité buscan cerrarla antes de que los sistemas automatizados sean más difíciles de inspeccionar.
Por tanto, el impulso del Parlamento del Reino Unido para impulsar una ley de derechos humanos sobre IA es una prueba del modelo de gobernanza británico. ¿Confiará el Parlamento en la cooperación voluntaria y una autoridad dispersa, o establecerá derechos exigibles durante todo el ciclo de vida de la IA?
La respuesta dará forma a más que la política tecnológica. Determinará si las personas siguen pudiendo comprender, impugnar y revertir decisiones tomadas con máquinas.
