Impulso do Parlamento do Reino Unido por uma Lei de IA e Direitos Humanos Desafia o Modelo Mais Leve da Grã-Bretanha

O impulso do Parlamento do Reino Unido por uma lei de IA e direitos humanos lançou um desafio direto à abordagem britânica liderada por reguladores, depois de um comitê multipartidário considerar que as proteções atuais não são adequadas ao seu propósito.

O Comitê Conjunto de Direitos Humanos quer uma lei específica para IA, categorias formais de risco, supervisão independente e deveres exigíveis ao longo de todo o ciclo de vida da tecnologia. Alguns usos de IA deveriam ser totalmente proibidos quando entrarem em conflito com direitos fundamentais.

Essa posição vai além de mais um pedido por compromissos voluntários de segurança. Ela pede que o Parlamento decida quais riscos a sociedade tolerará antes que sistemas automatizados moldem o emprego, o policiamento, os serviços públicos e a privacidade pessoal.

O momento também intensifica o conflito. Anthropic, OpenAI e outros grandes desenvolvedores discutiram desacelerar o desenvolvimento de sistemas de fronteira e ampliar a avaliação externa de segurança. Ainda assim, a coordenação liderada por empresas não pode oferecer reparação legal às pessoas prejudicadas nem obrigar todos os desenvolvedores a cumprir as regras.

A Grã-Bretanha precisa agora escolher entre dois modelos distintos. Pode continuar distribuindo a responsabilidade pela IA entre os reguladores existentes ou criar regras vinculantes com um único centro de responsabilização.

O Comitê Quer uma Lei de IA com Força Jurídica

A proposta substituiria as salvaguardas fragmentadas de IA da Grã-Bretanha por deveres exigíveis vinculados aos riscos criados por cada sistema.

O Comitê Conjunto de Direitos Humanos inclui membros das duas casas do Parlamento e de diversos partidos políticos. Ele examina se políticas e legislações governamentais cumprem as obrigações de direitos humanos do Reino Unido.

Sua investigação começou em julho de 2025 e analisou privacidade, discriminação, acesso a mecanismos de reparação, responsabilização e o alcance internacional dos sistemas de IA. O comitê também considerou se a legislação vigente conseguiria acompanhar a IA agêntica, isto é, sistemas capazes de executar tarefas com orientação humana limitada.

A proposta resultante pede uma lei de IA que reconheça diferentes níveis de risco. Modelos e aplicações de maior risco teriam obrigações mais rigorosas do que ferramentas com potencial limitado de afetar os direitos das pessoas.

Essa estrutura abrangeria todo o ciclo de vida da IA. Desenvolvedores, organizações que modificam modelos, fornecedores e instituições que implementam sistemas precisariam, cada um, compreender suas responsabilidades.

Isso importa porque resultados prejudiciais raramente decorrem de um único componente técnico. Um desenvolvedor de modelos pode criar a capacidade subjacente, enquanto um empregador a configura e um prestador fornece os dados do local de trabalho.

Sob regras fragmentadas, cada participante pode apontar para outro. Uma abordagem de ciclo de vida procura evitar essa lacuna de responsabilização.

O comitê também argumenta que determinadas práticas de IA são incompatíveis com os direitos humanos. Entre seus possíveis alvos estão a manipulação subliminar e a criação inadequada de perfis ou o processamento biométrico inadequado.

Tais restrições estabeleceriam limites legais antes da aplicação caso a caso. Os reguladores não precisariam esperar por danos repetidos antes de contestar uma aplicação claramente proibida.

A investigação sobre IA do comitê identificou originalmente três preocupações recorrentes. Eram elas dados enviesados, vigilância invasiva e a dificuldade de contestar decisões produzidas por sistemas opacos.

Essas preocupações agora aparecem em contextos cotidianos, não apenas em discussões especulativas sobre superinteligência. O reconhecimento facial pode identificar pessoas em espaços públicos. Ferramentas generativas podem produzir imagens sexuais não consensuais.

Softwares de gestão automatizada também podem recomendar medidas disciplinares sem fornecer aos trabalhadores uma explicação significativa. Órgãos públicos podem usar modelos para influenciar decisões sobre benefícios, policiamento, imigração ou acesso a serviços.

O argumento do comitê, portanto, é mais amplo do que a segurança da IA na fronteira tecnológica. Ele trata os direitos humanos como um padrão prático para sistemas que já afetam vidas individuais.

Esse padrão questiona se as pessoas mantêm privacidade, igualdade, liberdade de expressão, devido processo legal e uma via eficaz para contestar decisões prejudiciais. Também questiona quem arca com o ônus jurídico quando essas proteções falham.

A proposta de lei de IA e direitos humanos do Parlamento do Reino Unido faria dessas questões parte do projeto e da implementação dos sistemas. Elas deixariam de ser temas opcionais em revisões éticas.

Por Que as Regras Atuais do Reino Unido Deixam Lacunas de Responsabilização

A Grã-Bretanha tem leis relevantes e reguladores competentes, mas nenhuma instituição é responsável pelo problema completo criado pela IA.

Diversas leis existentes já se aplicam a sistemas automatizados. A legislação de proteção de dados rege informações pessoais, enquanto a legislação de igualdade proíbe a discriminação no emprego e na prestação de serviços.

A Lei de Direitos Humanos impõe limites às autoridades públicas. Regras de defesa do consumidor, emprego, segurança de produtos e regras específicas de cada setor também podem ser aplicáveis, dependendo do sistema e de seu uso.

Essa base jurídica não é irrelevante. William Malcolm, do Information Commissioner’s Office, disse ao comitê que os princípios de proteção de dados continuam relevantes à medida que as tecnologias mudam.

Em algumas circunstâncias, as organizações devem realizar avaliações e explicar como equilibraram interesses concorrentes. Esses requisitos podem revelar uma governança frágil antes que um sistema chegue ao público.

No entanto, a IA cria problemas práticos que regras gerais não resolvem de forma clara. Uma pessoa pode jamais descobrir que um modelo automatizado influenciou uma decisão a seu respeito.

Mesmo quando alguém descobre o sistema, pode não saber qual organização forneceu os dados, alterou o modelo ou aprovou sua recomendação. Alegações de segredo comercial podem limitar ainda mais o escrutínio.

Uma audiência regulatória de fevereiro de 2026 ilustrou a estrutura fragmentada. Representantes da Ofcom, do Information Commissioner’s Office e da Equality and Human Rights Commission descreveram competências sobrepostas, mas incompletas.

A Equality and Human Rights Commission pode aplicar a legislação de igualdade junto a empregadores e prestadores de serviços. Seus poderes sob a Lei de Direitos Humanos são diferentes porque essa lei se aplica principalmente a órgãos públicos.

O Information Commissioner pode investigar violações relacionadas a dados pessoais. Ainda assim, alguns danos causados por IA não dependem exclusivamente do processamento de dados pessoais.

A Ofcom regula serviços e deveres online definidos. Ela não atua como reguladora geral de todos os modelos, empregadores, órgãos governamentais ou decisões automatizadas.

O UK AI Security Institute acrescenta conhecimento técnico, especialmente para modelos avançados. Ele testa capacidades e trabalha com desenvolvedores para identificar vulnerabilidades antes do lançamento.

No entanto, a cooperação com o instituto não cria automaticamente um dever legal de submeter todos os modelos relevantes. O instituto também não possui um mandato amplo para resolver alegações de discriminação ou indenizar indivíduos.

O governo defendeu um modelo liderado por setores. Em respostas por escrito ao comitê, afirmou que o panorama regulatório continua sob revisão.

As autoridades também apontaram recursos específicos para projetos de IA conduzidos por reguladores. Esse apoio pode melhorar a capacidade técnica dentro de órgãos que já entendem seus setores.

Ainda assim, capacidade não equivale a competência legal. Um regulador bem financiado não pode agir além dos poderes que o Parlamento lhe concedeu.

A crítica central do comitê é, portanto, institucional. A Grã-Bretanha tem muitos pontos de contato, mas nenhum órgão único responsável por identificar lacunas em todo o sistema.

Para as empresas, essa fragmentação cria incerteza, além de flexibilidade. Uma companhia pode cumprir os requisitos de proteção de dados, mas deixar passar uma questão de igualdade introduzida durante a implementação.

Órgãos públicos enfrentam um problema semelhante. Equipes de compras podem adquirir um serviço de IA antes de as responsabilidades jurídicas, operacionais e técnicas terem sido claramente divididas.

Os indivíduos arcam com o maior custo. Eles precisam identificar a lei e o regulador relevantes antes de poder contestar um resultado que talvez não compreendam plenamente.

Um órgão de supervisão independente poderia coordenar padrões, monitorar riscos sistêmicos e identificar casos que se situam entre mandatos. Sua eficácia dependeria de poderes legais, recursos e acesso a evidências técnicas.

Sem esses elementos, um novo órgão acrescentaria outra camada ao mesmo cenário fragmentado. A proposta do comitê importa porque vincula a supervisão à legislação obrigatória, em vez de criar mais um fórum consultivo.

Lei de IA e Direitos Humanos do Parlamento do Reino Unido Encontra a Agenda de Crescimento

O principal conflito não é inovação contra segurança. É a supervisão voluntária e distribuída contra uma responsabilização centralizada e exigível.

A estratégia britânica para IA enfatizou adoção, investimento, infraestrutura e uso mais rápido nos serviços públicos. Espera-se que os reguladores existentes apliquem princípios amplos em seus respectivos setores.

Os defensores enxergam vantagens nessa abordagem. Reguladores financeiros, de saúde, comunicações e dados compreendem os riscos em seus próprios campos.

Um único regulador de IA poderia duplicar seu trabalho ou aplicar regras idênticas a sistemas muito diferentes. Requisitos rigorosos de conformidade também poderiam sobrecarregar mais as empresas menores do que os desenvolvedores já estabelecidos.

O comitê não precisa rejeitar a expertise setorial para expor a fraqueza do modelo. A regulação baseada em setores funciona apenas quando todo dano significativo se enquadra em um mandato claro.

As cadeias de fornecimento de IA raramente respeitam essas fronteiras. Um modelo de uso geral pode alimentar softwares de recrutamento, administração de saúde, produtos educacionais e análises policiais.

O desenvolvedor pode operar fora da Grã-Bretanha. A organização que implementa o modelo pode depender da documentação de um fornecedor em vez de realizar uma avaliação independente.

As pessoas afetadas podem encontrar apenas a decisão final. Elas não conseguem ver como o modelo, os dados de treinamento, a configuração e a política institucional interagiram.

O Plano de Ação para Oportunidades de IA do governo aumenta a pressão porque incentiva uma implementação mais rápida. Instituições públicas podem ampliar sistemas antes que as práticas de supervisão amadureçam em todos os departamentos.

Evidências apresentadas por grupos de defesa de direitos argumentaram que metas econômicas receberam atenção mais clara do que proteções exigíveis. A preocupação foi particularmente forte em torno do policiamento e da justiça criminal.

O comitê ouviu que avaliações de direitos humanos deveriam começar antes da aquisição e continuar após a implementação. Isso transformaria a proteção de direitos em uma exigência operacional, e não em uma revisão final de conformidade.

Uma lei de IA com níveis de risco oferece uma resposta. Usos de baixo risco poderiam enfrentar deveres mais leves, enquanto sistemas que afetam liberdade, emprego, serviços essenciais ou identidade biométrica receberiam mais escrutínio.

A União Europeia já adotou uma estrutura horizontal de IA baseada em risco. A Grã-Bretanha não precisa duplicar todas as disposições da UE para reconhecer a diferença estratégica.

A abordagem da UE define práticas proibidas e impõe obrigações a sistemas designados como de alto risco. A Grã-Bretanha preferiu os reguladores existentes, princípios e legislação direcionada.

Essa divergência pode afetar empresas que operam nos dois mercados. Um desenvolvedor pode enfrentar obrigações vinculantes e específicas para IA na UE, ao mesmo tempo que navega por diversos regimes jurídicos mais antigos na Grã-Bretanha.

A proposta do comitê reduziria essa diferença estrutural. Ela também poderia oferecer às empresas uma referência única e mais clara para documentação, avaliação e responsabilização.

O custo viria por meio do trabalho de conformidade e de uma implantação mais lenta em áreas sensíveis. Ainda assim, a incerteza também cria custos, especialmente depois que um sistema contestado entra em produção.

Um quadro definido pode indicar aos compradores quais evidências exigir. Também pode ajudar desenvolvedores a projetar registros de auditoria, revisão humana, testes e mecanismos de recurso antes da assinatura de contratos.

A verdadeira escolha envolve quando a sociedade paga pela segurança. A Grã-Bretanha pode exigir evidências antes de implantações de alto risco ou absorver custos jurídicos e sociais depois que o dano surge.

A primeira via pode atrasar produtos. A segunda pode deixar indivíduos lutando contra instituições com mais informação, acesso técnico e recursos jurídicos.

Esse desequilíbrio explica por que o debate no Parlamento do Reino Unido sobre uma lei de direitos humanos para IA não pode ser reduzido a uma política abstrata de inovação. Trata-se de quem assume o risco quando decisões automatizadas falham.

Reconhecimento Facial, Deepfakes e IA no Trabalho Tornam o Risco Concreto

O argumento mais forte a favor de legislação vem de sistemas que já afetam a privacidade, a dignidade, a igualdade e o acesso a decisões justas.

O reconhecimento facial em tempo real mostra como várias leis podem se aplicar sem produzir um único quadro de governança consolidado. Sistemas policiais comparam rostos capturados em público com listas de vigilância.

Esse processamento envolve direitos de privacidade. A construção das listas e os erros de correspondência também podem gerar efeitos desiguais entre grupos demográficos.

Em 2020, o Tribunal de Apelação considerou ilegal, nas circunstâncias analisadas, o uso de reconhecimento facial pela Polícia de South Wales. A decisão identificou problemas relacionados à discricionariedade, à proteção de dados e aos deveres de igualdade.

A decisão estabeleceu que a legislação existente pode restringir a vigilância biométrica. Ela não criou uma lei nacional abrangente que regulasse cada implantação, fornecedor, lista de vigilância e atualização técnica.

Posteriormente, o comitê escreveu ao secretário do Interior sobre crianças que apareciam em listas de vigilância policiais. A carta observou que o reconhecimento facial pode interferir na privacidade e gerar preocupações com discriminação.

Consultas governamentais consideraram um novo quadro para biometria usada pelas forças de segurança. Esse processo poderia produzir regras mais claras para a tecnologia policial sem resolver a responsabilização por IA em outros setores.

O abuso com deepfakes apresenta outro tipo de dano. Sistemas generativos podem criar imagens sexualmente explícitas de uma pessoa real sem consentimento.

Testemunhas disseram ao comitê que mulheres e grupos racializados sofrem danos desproporcionais com esse tipo de material. Sua distribuição pode prejudicar a segurança, a dignidade, o emprego e a liberdade de expressão.

O direito penal e os deveres de segurança online podem abordar partes dessa conduta. Ainda assim, a aplicação depende de identificar os responsáveis, obter provas, remover o material e atribuir responsabilidade às plataformas.

O próprio modelo de IA pode ser oferecido por uma empresa, incorporado a outro serviço e acessado por uma conta anônima. Essa cadeia complica a prevenção e a reparação.

A automação no ambiente de trabalho cria um teste mais silencioso, mas igualmente importante. Empregadores podem usar software para classificar candidatos, monitorar desempenho, organizar turnos ou sinalizar comportamentos para investigação.

Uma recomendação automatizada pode não tomar formalmente a decisão final. Mesmo assim, gestores podem seguir sua orientação porque o resultado parece objetivo ou chega em grande escala.

Um trabalhador pode receber uma medida disciplinar sem saber quais dados geraram o alerta. Também pode ter dificuldade para corrigir informações imprecisas ou contestar as premissas do modelo.

As leis existentes sobre emprego e igualdade continuam disponíveis. Sua utilidade depende de transparência, acesso a evidências e um processo acessível para contestar a decisão.

Esses exemplos compartilham uma mesma estrutura. A organização que usa IA sabe mais do que a pessoa afetada, enquanto os fornecedores sabem mais do que a organização que implementa a tecnologia.

Uma regulação eficaz precisa reduzir esse desequilíbrio de informações. Requisitos de aviso, avaliações de impacto, explicações acessíveis, registros de auditoria e revisão humana podem desempenhar papéis importantes.

As organizações também precisam manter registros confiáveis de decisões internas. Uma base de conhecimento pesquisável pode ajudar equipes a preservar avaliações de modelos, evidências de aquisição, políticas e conclusões sobre incidentes.

A documentação, por si só, não garante conduta legal. Mas torna possível a supervisão posterior ao mostrar o que as pessoas sabiam, aprovaram e alteraram.

Os deveres propostos pelo comitê ao longo do ciclo de vida abordam essa realidade. A responsabilização se aplicaria ao projeto, à modificação, à aquisição e ao uso, em vez de recair apenas sobre o operador final.

Essa distribuição exigirá uma redação cuidadosa. Desenvolvedores não deveriam controlar automaticamente como cada cliente implanta um modelo de uso geral.

Os responsáveis pela implantação não deveriam escapar da responsabilidade alegando que confiaram no fornecedor. Distribuidores e modificadores também devem divulgar alterações que afetem a segurança ou o desempenho.

Deveres claros podem incentivar cada participante a documentar os riscos sob seu controle. Já uma responsabilidade compartilhada e vaga pode produzir uma cadeia de fornecimento em que ninguém assume a responsabilidade.

Um Novo Regulador Não Resolverá Todos os Problemas de Aplicação

A legislação pode fechar lacunas de responsabilização, mas apenas se os reguladores puderem inspecionar sistemas e as pessoas afetadas conseguirem obter reparações significativas.

A recomendação do comitê agora enfrenta várias questões difíceis de concepção. A primeira diz respeito à autoridade de um órgão independente de supervisão.

Um escritório de coordenação poderia mapear riscos e emitir orientações sem aplicar diretamente a lei. Um regulador pleno poderia exigir informações, investigar incidentes, impor penalidades ou suspender sistemas.

Esses modelos têm consequências muito diferentes. O Parlamento deve especificar se o órgão supervisiona reguladores existentes ou atua quando nenhuma autoridade setorial tem jurisdição.

O acesso técnico é outro desafio. Os reguladores precisam de documentação, resultados de avaliações, relatórios de incidentes e acesso a versões relevantes dos modelos.

Uma avaliação baseada apenas no resumo de um desenvolvedor não pode revelar todas as falhas. No entanto, o acesso irrestrito pode criar riscos de segurança, privacidade e propriedade intelectual.

A lei também precisará de limites. Uma pequena ferramenta de agendamento não deveria enfrentar o mesmo processo que a vigilância biométrica ou uma decisão automatizada sobre benefícios sociais.

Ao mesmo tempo, os rótulos podem incentivar a evasão. Empresas podem descrever funcionalidades relevantes como ferramentas de assistência porque um humano tecnicamente aprova o resultado.

Uma classificação significativa deve examinar efeitos práticos, não a linguagem de marketing. Se a equipe segue rotineiramente a recomendação de um modelo, o envolvimento humano pode oferecer pouca proteção.

O comitê também deve distinguir danos atuais de riscos incertos de fronteira. Discriminação, vigilância invasiva e abuso com deepfakes já têm vítimas identificáveis.

Afirmações catastróficas sobre superinteligência artificial envolvem sistemas que ainda não existem. Elas exigem evidências e instrumentos regulatórios diferentes.

Reunir todas as preocupações em uma única narrativa dramática pode enfraquecer o argumento pela ação. Críticos podem descartar violações comprovadas de direitos como parte de um debate especulativo.

Alertas recentes de desenvolvedores de IA acrescentam urgência, mas não resolvem essa distinção. O CEO da Anthropic, Dario Amodei, propôs um desenvolvimento de fronteira mais lento, avaliadores externos incorporados e coordenação internacional.

O CEO da OpenAI, Sam Altman, e outros líderes do setor expressaram apoio a uma cooperação mais forte em segurança. O acordo deles veio após alertas públicos sobre sistemas avançados sem controle.

Críticos responderam que avaliadores voluntários continuam dependentes do acesso concedido pelas empresas. Também questionaram se restrições coordenadas poderiam proteger empresas já estabelecidas contra concorrentes menores.

Uma desaceleração na fronteira e uma lei de IA baseada em direitos abordam problemas sobrepostos, mas diferentes. Uma mira o rápido desenvolvimento de capacidades, enquanto a outra regula os efeitos sobre as pessoas.

Nenhuma deveria substituir a outra. Um desenvolvimento mais lento não compensa um trabalhador injustamente punido por um sistema automatizado.

Da mesma forma, um mecanismo de recurso para decisões trabalhistas não administra um modelo com capacidades biológicas perigosas. A política pública deve associar cada risco a uma intervenção adequada.

A aplicação internacional cria outra limitação. Muitos dos principais modelos são desenvolvidos fora do Reino Unido e disponibilizados por serviços online.

A Grã-Bretanha pode regular produtos oferecidos domesticamente, organizações que operam dentro de sua jurisdição e aquisições do setor público. Não pode controlar unilateralmente cada modelo desenvolvido no exterior.

Condições claras de acesso ao mercado ainda podem influenciar fornecedores globais. Empresas adaptam rotineiramente seus produtos para cumprir regras em jurisdições economicamente importantes.

O problema mais difícil é a distribuição aberta. Pesos de modelos e software podem atravessar fronteiras e operar em infraestrutura privada.

Um quadro legal deve reconhecer que a aplicação nunca será perfeita. Um alcance imperfeito não justifica deixar instituições domésticas sem deveres.

O teste cético mais forte diz respeito à reparação. Um sistema regulatório pode produzir documentação extensa enquanto oferece pouca ajuda prática a uma pessoa prejudicada.

Os recursos devem ser compreensíveis, acessíveis e rápidos. As pessoas também precisam de proteção contra retaliação ao contestar decisões no trabalho ou no setor público.

Os tribunais continuam essenciais, mas o litígio por si só não pode sustentar o sistema. A complexidade técnica e os custos jurídicos podem tornar ações individuais inviáveis.

Reclamações coletivas, investigações conduzidas por reguladores e poderes para interromper implantações prejudiciais podem abordar padrões que uma única pessoa não consegue provar sozinha.

Portanto, o Parlamento deve avaliar a lei de direitos humanos para IA do Parlamento do Reino Unido pelos resultados. A questão central é se ela muda decisões antes do dano e fornece reparações depois.

Três Sinais Mostrarão se o Parlamento Muda de Rumo

O próximo teste é saber se as recomendações do comitê se tornam política aplicável, recebem apoio institucional e resistem à pressão por uma adoção mais rápida de IA.

O primeiro sinal é uma resposta formal do governo ao comitê. Os ministros devem declarar se aceitam a necessidade de um projeto de lei sobre IA e de um órgão estatutário de supervisão.

Um compromisso com novas consultas preservaria a trajetória atual. Um calendário legislativo marcaria uma mudança genuína.

Os detalhes importarão mais do que o rótulo. Um projeto de lei focado apenas na segurança de fronteira não abordaria emprego automatizado, serviços públicos ou vigilância biométrica.

Um projeto amplo deveria definir categorias de risco, distribuir responsabilidades ao longo do ciclo de vida e identificar práticas proibidas. Também deveria estabelecer caminhos para reclamações e reparações.

O segundo sinal é o desenho do órgão independente de supervisão. O Parlamento deve buscar poderes para obter evidências, coordenar reguladores e intervir quando a responsabilidade não estiver clara.

Financiamento estável será igualmente importante. Um regulador meramente nominal não pode supervisionar sistemas criados por empresas globais de tecnologia com amplos recursos.

A posição anterior do governo deixou opções de supervisão em aberto caso novos requisitos legais fossem introduzidos. A aceitação de um órgão estatutário representaria, portanto, uma mudança significativa de política.

O terceiro sinal é como os legisladores conectam a proposta a outras medidas sobre IA. A Grã-Bretanha já debate segurança de fronteira, vigilância biométrica, direitos autorais e implantação no setor público.

Projetos de lei separados podem abordar danos distintos. Também podem criar outra colcha de retalhos se definições, deveres de reporte e poderes de aplicação não estiverem alinhados.

O governo deve decidir se os direitos humanos se tornam a base comum entre essas medidas. Sem esse alicerce, cada nova controvérsia gerará outra solução limitada.

Desenvolvedores e compradores empresariais devem acompanhar esses sinais de perto. Novos deveres ao longo do ciclo de vida afetariam contratos, avaliações, governança de dados, documentação e relatórios de incidentes.

As organizações do setor público devem começar a mapear onde ferramentas automatizadas influenciam decisões relevantes. Esperar pela legislação final aumenta a probabilidade de descobrir sistemas não documentados depois que o escrutínio começar.

Os trabalhadores do conhecimento devem fazer uma pergunta mais simples sempre que a IA influenciar um resultado importante: quem pode explicar a decisão, corrigir os dados e assumir a responsabilidade?

Se nenhuma pessoa ou instituição puder responder, a lacuna de responsabilização já existe. As propostas do comitê buscam fechá-la antes que os sistemas automatizados se tornem mais difíceis de inspecionar.

Portanto, a iniciativa do Parlamento do Reino Unido por uma legislação de direitos humanos para IA é um teste do modelo de governança britânico. O Parlamento confiará na cooperação voluntária e em autoridades dispersas ou estabelecerá direitos aplicáveis ao longo de todo o ciclo de vida da IA?

A resposta moldará mais do que a política tecnológica. Ela determinará se as pessoas continuarão capazes de compreender, contestar e reverter decisões tomadas com máquinas.