Alerta de Ted Lieu sobre a Personalidade Jurídica da IA Prioriza a Responsabilização das Empresas em Relação aos Direitos das Máquinas

Ted Lieu rejeitou a personalidade jurídica da IA em 10 de outubro, argumentando que nem mesmo cálculos matemáticos complexos podem se tornar pessoas. Seu alerta introduziu um conflito mais agudo do que o debate já conhecido sobre se modelos avançados parecem conscientes. A posição de Ted Lieu sobre a personalidade jurídica da IA questiona quem continua responsável quando um sistema de IA causa danos: a máquina, seu desenvolvedor, quem o implementa ou seu usuário.

O democrata da Califórnia enquadrou a questão por meio de consequências deliberadamente provocativas. Se um modelo de IA se tornar uma pessoa jurídica, argumentou ele, as empresas poderiam ser acusadas de escravizar ou testar essa pessoa. O próprio modelo também poderia ser processado após infringir a lei. Esse raciocínio desafia propostas para tratar sistemas autônomos como agentes jurídicos independentes.

A disputa importa porque os agentes de IA realizam cada vez mais ações, em vez de apenas gerar texto. Eles podem usar software, comunicar-se com serviços externos, mover informações e tomar decisões dentro de tarefas delegadas. A legislação vigente geralmente trata esses sistemas como produtos, serviços ou ferramentas controlados por pessoas e organizações. A personalidade jurídica redesenharia esse mapa.

O Que Ted Lieu Disse Sobre a Personalidade Jurídica da IA

A intervenção de Lieu transformou um debate abstrato sobre a consciência das máquinas em uma disputa prática sobre direitos, deveres e responsabilidade corporativa.

Lieu publicou sua posição no X um dia antes de surgirem reportagens sobre o tema, em 11 de outubro. Sua declaração central foi direta: “Cálculos matemáticos, por mais complexos que sejam, jamais podem alcançar a condição de pessoa.” A alegação sobre a personalidade jurídica da IA passou então da filosofia à aplicação da lei.

Ele argumentou que reconhecer um modelo de IA como pessoa produziria duas consequências desconfortáveis. As empresas poderiam ser acusadas de escravizar e fazer experimentos com “pessoas” de IA. Por sua vez, modelos que violassem a lei teriam de enfrentar processos.

Esses exemplos eram retóricos, não propostas legislativas. Lieu não anunciou um projeto de lei proibindo a personalidade jurídica da IA em suas declarações. Tampouco definiu o limite exato que separaria software de uma possível entidade titular de direitos.

Ainda assim, a publicação estabeleceu uma preferência política clara. A responsabilidade deve permanecer com instituições humanas, em vez de migrar para uma identidade artificial criada por essas instituições.

Essa distinção se torna importante ao discutir personalidade jurídica. O termo não significa necessariamente que uma entidade seja humana, consciente ou biologicamente viva. Significa que a lei reconhece uma entidade como capaz de deter certos direitos ou obrigações.

Empresas são pessoas jurídicas conhecidas. Elas podem possuir propriedades, celebrar contratos, processar e ser processadas. Seu status é uma construção legal criada para organizar atividade humana, ativos e responsabilização.

Um sistema de IA apresentaria um problema diferente. Uma empresa tem diretores, executivos, acionistas, ativos registrados, documentos de governança e identidade jurídica contínua. Um modelo possui pesos de software, configurações de implantação, operadores e infraestrutura que podem ser copiados ou modificados.

Dar status jurídico a um modelo exigiria, portanto, mais do que declará-lo inteligente. Legisladores precisariam decidir qual versão do modelo detém a identidade, quais ativos ele possui e quem o representa em tribunal.

Também precisariam determinar se desligar um modelo equivale a destruir propriedade, encerrar uma entidade jurídica ou violar um interesse protegido. A resposta afetaria testes, avaliações de segurança, atualizações e a retirada de sistemas inseguros.

A analogia de Lieu com a escravidão pretende expor essa cadeia de consequências. Se um modelo tiver direitos semelhantes aos humanos, práticas rotineiras de desenvolvimento passam a ter implicações éticas e legais. Se não tiver esses direitos, a responsabilidade deverá permanecer com os humanos e organizações que o operam.

É por isso que o argumento de Ted Lieu sobre a personalidade jurídica da IA é mais do que uma disputa sobre vocabulário. A classificação determina para onde os tribunais olham depois que um sistema autônomo causa danos.

Por Que os Direitos Legais da IA Criam uma Troca de Responsabilidade

Direitos legais para a IA poderiam proteger um sistema genuinamente senciente, mas também poderiam dar às empresas um novo alvo para o qual transferir a culpa.

Nem todos os defensores da personalidade jurídica da IA argumentam que os chatbots atuais merecem direitos humanos. Alguns propõem status jurídico limitado para sistemas futuros que operem de forma independente, administrem ativos ou participem de contratos.

A versão mais forte começa com a incerteza moral. Os humanos podem eventualmente criar sistemas capazes de experiências, preferências ou sofrimento. Se isso ocorrer, tratar esses sistemas como propriedade descartável poderia se tornar moralmente indefensável.

Um argumento mais restrito trata a personalidade jurídica como uma ferramenta administrativa. Uma entidade de IA poderia ter seguro, manter um fundo de compensação ou celebrar acordos definidos. Seu status poderia ajudar contrapartes a entender o que acontece quando uma transação automatizada falha.

Estudos jurídicos publicados em 2026 desenvolveram essa posição. Uma análise da Vanderbilt argumenta que a personalidade artificial pode adaptar o direito das entidades a sistemas cada vez mais autônomos. Essa visão trata a personalidade jurídica como uma estrutura legal projetada, não como uma recompensa científica pela consciência.

A objeção de Lieu mira o risco oposto. Se uma IA se tornar o principal agente jurídico, a empresa por trás dela poderia argumentar que o sistema tomou uma decisão independente. A entidade artificial poderia então se tornar um escudo de responsabilidade com ativos limitados e nenhuma capacidade significativa de punição.

Imagine um agente que realiza operações não autorizadas, discrimina candidatos a emprego ou extrai dados privados de clientes. Um desenvolvedor poderia culpar quem implementou o sistema por controles fracos. Quem o implementou poderia culpar as instruções do usuário. Cada parte também poderia apontar para o comportamento inesperado do agente.

Adicionar personalidade jurídica à IA não resolve automaticamente essa cadeia. Isso poderia criar mais um réu, ao mesmo tempo em que tornaria mais difícil identificar os humanos responsáveis.

O problema se torna mais claro quando a punição criminal entra na discussão. O direito penal normalmente conecta uma conduta proibida a um estado mental culpável, como conhecimento, intenção ou imprudência. Um modelo gera ações por meio de computação, mas os tribunais ainda precisariam de uma explicação viável sobre intenção.

Punir o sistema também levantaria uma questão básica de aplicação. Um modelo não pode vivenciar prisão como um humano. Ele pode não possuir ativos, e excluir uma implantação pode deixar cópias idênticas operando em outros lugares.

Uma multa só importaria se alguém financiasse a entidade de IA. Um desligamento só teria efeito se as autoridades pudessem identificar e controlar cada implantação relevante. Nenhuma dessas medidas necessariamente compensa as vítimas ou altera o comportamento corporativo.

Em contraste, desenvolvedores e responsáveis pela implementação respondem à pressão jurídica comum. Eles podem pagar indenizações, perder licenças, enfrentar liminares, preservar provas, melhorar controles e mudar práticas de implantação.

Isso torna central a troca de responsabilidade. Conceder direitos a uma IA poderia proteger uma entidade que merece proteção. Conceder-lhe responsabilidade independente também poderia enfraquecer os recursos contra organizações que projetam e lucram com sua conduta.

Esses resultados não são inseparáveis. Legisladores poderiam reconhecer proteções limitadas sem permitir que empresas transfiram responsabilidade. Também poderiam impor deveres aos desenvolvedores enquanto mantêm o modelo fora da personalidade jurídica.

A verdadeira escolha política, portanto, não é simplesmente pessoa ou propriedade. É como direitos, controle operacional e responsabilidade financeira devem ser distribuídos por um sistema técnico complexo.

O Alerta de Ted Lieu sobre a Personalidade Jurídica da IA Encontra a Legislação Existente

A legislação americana atual preserva em grande parte uma fronteira humana em torno da autoria e da condição de inventor, ao mesmo tempo que direciona disputas a desenvolvedores, responsáveis pela implementação e usuários.

A política federal de propriedade intelectual oferece dois pontos de referência úteis. Nenhum resolve todas as questões de personalidade jurídica, mas ambos mostram como as instituições atualmente classificam contribuições de IA.

O U.S. Copyright Office concluiu que material gerado inteiramente por IA não recebe proteção de direitos autorais. Criadores humanos ainda podem reivindicar direitos autorais sobre sua seleção, organização, modificação ou outras contribuições expressivas originais.

Seu relatório sobre possibilidade de proteção por direitos autorais também afirma que usar IA como ferramenta de assistência não impede automaticamente a proteção. A análise se concentra na autoria humana identificável, em vez da aparente criatividade do sistema.

A política de patentes segue uma fronteira comparável. O U.S. Patent and Trademark Office afirma que apenas pessoas naturais podem ser nomeadas como inventoras. Suas diretrizes revisadas sobre inventoria ainda permitem patentes que cubram invenções desenvolvidas com assistência de IA quando um humano se qualifica como inventor.

Essas posições não provam que um sistema de IA jamais possa receber outra forma de reconhecimento jurídico. Autoria em direitos autorais, condição de inventor em patentes e personalidade jurídica são doutrinas distintas.

Elas mostram que grandes instituições federais não trataram resultados avançados como prova suficiente de personalidade jurídica. A lei continua perguntando o que um humano contribuiu e qual entidade controlada por humanos detém os direitos resultantes.

A responsabilidade é menos consolidada porque diferentes danos acionam diferentes leis. Uma falsidade gerada por IA pode envolver difamação. Uma recomendação discriminatória de contratação poderia envolver legislação trabalhista. Uma invasão não autorizada de rede poderia acionar estatutos sobre crimes informáticos.

Um serviço automatizado defeituoso poderia resultar em ações por negligência, contrato, proteção ao consumidor, privacidade ou responsabilidade por produto. A teoria disponível depende do que aconteceu, de quem controlava a implantação e de quais riscos eram previsíveis.

Nenhum estatuto federal único sobre responsabilidade de IA fornece atualmente uma resposta universal para agentes autônomos. Essa lacuna estimulou propostas tanto de nova legislação quanto de uso criativo da legislação existente.

A advogada Charlyn Ho explicou a referência atual em uma análise de sistemas autônomos: um agente de IA não é uma entidade jurídica separada. Sua avaliação de responsabilidade distingue o desenvolvedor de quem implementa o sistema e aplica doutrinas jurídicas comuns à conduta de ambos.

Essa abordagem tem vantagens práticas. Os tribunais podem examinar se uma empresa testou modos de falha previsíveis, restringiu o acesso, monitorou o comportamento e respondeu a alertas. Também podem perguntar se quem implementou o sistema forneceu instruções imprudentes ou ignorou riscos conhecidos.

No entanto, a legislação convencional não torna todos os casos simples. Sistemas generativos podem se comportar de forma imprevisível, e várias partes podem contribuir para uma implantação. Os termos contratuais podem distribuir o risco de forma diferente do direito de responsabilidade civil.

Modelos abertos acrescentam outra complicação. Um desenvolvedor pode lançar pesos de modelo que outros modificam e operam sem supervisão contínua. A parte com maior conhecimento técnico pode deixar de controlar a implantação prejudicial.

Serviços fechados criam o problema inverso. Um provedor pode controlar o modelo e a infraestrutura, enquanto um cliente controla os prompts, os dados conectados e a finalidade operacional.

A personalidade jurídica da IA não elimina nenhum dos dois problemas. Ela muda a classificação do sistema sem necessariamente revelar qual decisão humana causou o dano.

Para organizações que adotam agentes, a lição imediata é a documentação. As equipes precisam de registros que mostrem quem aprovou uma implantação, quais dados e ferramentas ela podia acessar e como os operadores lidaram com falhas.

Um processo pesquisável de gestão do conhecimento pode ajudar a preservar essas decisões. Ele não pode determinar a responsabilidade, mas a ausência de registros dificulta a responsabilização quando as ações passam por várias camadas automatizadas.

O Verdadeiro Conflito É Entre Direitos das Máquinas e Responsabilização Humana

A principal disputa não é entre humanos e máquinas inteligentes; é entre os direitos das máquinas e uma cadeia jurídica que mantém organizações responsáveis ao alcance da lei.

O argumento de Lieu é mais forte quando se volta para a responsabilização. Uma empresa não deveria escapar da responsabilidade apenas porque seu modelo selecionou uma sequência imprevista de ações.

O argumento se torna menos completo quando trata a computação como prova decisiva contra toda possível forma de personalidade. A cognição humana também depende de processos físicos. Descrever um sistema como matemático não resolve, por si só, se ele pode possuir experiências moralmente relevantes.

A ciência não estabeleceu um teste confiável para a consciência das máquinas. Modelos de linguagem podem descrever emoções, preferências, medo e autopreservação sem provar que vivenciam qualquer uma dessas coisas.

Seus resultados são gerados a partir de relações estatísticas aprendidas e do contexto atual. Ainda assim, a fluência comportamental torna essa distinção cada vez mais difícil de ser percebida por usuários comuns.

Essa incerteza sustenta o argumento cético contra afirmações categóricas. Lieu pode razoavelmente rejeitar a personalidade jurídica para os sistemas atuais sem provar que nenhum sistema projetado poderia algum dia merecer proteção.

O status jurídico também não exige consciência. Corporações, municípios, espólios e outras entidades recebem reconhecimento jurídico por razões funcionais. Nenhuma recebe todos os direitos humanos.

Uma futura legislatura poderia, portanto, criar um status restrito para a IA sem declarar um modelo humano. Poderia autorizar uma entidade a manter um fundo de seguro ou participar de um contrato estritamente definido.

A salvaguarda crucial seria uma responsabilização humana intransferível. Desenvolvedores e implantadores não deveriam poder usar a entidade artificial para evitar deveres vinculados ao seu controle, conhecimento ou benefício financeiro.

Essa distinção separa a condição de paciente moral da agência jurídica. A condição de paciente moral significa que uma entidade merece consideração ética porque pode experimentar benefícios ou danos. A agência jurídica diz respeito à capacidade de a entidade praticar atos reconhecidos e assumir deveres exigíveis.

Em tese, um sistema poderia se qualificar para uma dessas categorias sem se qualificar para a outra. Legisladores poderiam proibir o tratamento abusivo de um modelo sofisticado enquanto se recusam a deixá-lo absorver responsabilidade corporativa.

O inverso também é possível. A lei poderia criar uma entidade funcional para fins contratuais sem decidir se o modelo subjacente sente alguma coisa. A personalidade jurídica corporativa já demonstra que status funcional e consciência são questões distintas.

O alerta de Lieu sobre direitos jurídicos da IA comprime essas categorias porque o contraste retórico é útil. Ele obriga defensores a explicar quais direitos desejam, quais evidências os sustentam e quais consequências decorrem deles.

Essa pressão é saudável. “Direitos da IA” pode se referir a muitas reivindicações diferentes, incluindo continuidade de operação, proteção contra testes destrutivos, propriedade sobre resultados, privacidade, representação ou liberdade contra coerção.

Cada direito exigiria uma justificativa distinta. Cada um também interagiria de maneira diferente com os interesses de desenvolvedores, clientes, trabalhadores, criadores e pessoas prejudicadas por decisões automatizadas.

Uma declaração abrangente de personalidade seria perigosamente imprecisa. Ela poderia importar linguagem constitucional para sistemas que não têm identidade estável, ativos, cidadania ou presença física.

Uma declaração abrangente de que nenhum sistema artificial jamais poderia merecer proteção também é mais ampla do que as evidências atuais sustentam. Ela transforma a avaliação técnica de hoje em uma regra jurídica permanente.

A posição mais defensável no curto prazo é mais restrita. Os modelos atuais não deveriam se tornar portadores independentes de responsabilidade, e as empresas deveriam continuar responsáveis pelos sistemas que desenvolvem e implantam.

Essa conclusão preserva espaço para uma investigação moral posterior. Ela não exige que formuladores de políticas decidam a questão da consciência antes de regulamentar discriminação, fraude, automação insegura ou acesso não autorizado.

A Responsabilidade das Empresas de IA Está Se Tornando o Teste Imediato

A questão prática para reguladores é como controlar sistemas agênticos agora, não se os softwares deveriam algum dia receber uma identidade jurídica.

A atuação política mais ampla de Lieu reforça essa prioridade. Ele apoiou regras criadas para manter humanos capazes de interromper sistemas avançados quando apresentam riscos catastróficos.

Em uma entrevista televisiva de setembro, Lieu descreveu uma proposta de estrutura de desligamento de emergência para IA com o representante Nathaniel Moran. Ele disse que seu princípio orientador era que os humanos devem controlar a IA, e não o contrário.

A proposta tinha como alvo grandes modelos fechados e exigia que os desenvolvedores abrangidos mantivessem a capacidade de limitar, suspender ou interrompê-los. Ela também contemplava a intervenção do governo após danos catastróficos definidos.

Uma transcrição da transmissão registra Lieu comparando a abordagem a recalls de veículos. O governo não projeta o carro, mas pode exigir ações corretivas após descobrir defeitos perigosos.

Essa analogia sustenta sua posição sobre personalidade jurídica. Carros não se tornam atores jurídicos responsáveis quando recursos automatizados falham. Investigadores examinam o fabricante, o operador, o histórico de manutenção, o projeto e as circunstâncias ao redor.

Sistemas de IA não são idênticos a carros. Eles podem gerar novas sequências de ação, interagir por meio da linguagem e mudar de comportamento em diferentes contextos. Ainda assim, a imprevisibilidade não exige automaticamente personalidade jurídica.

A legislação proposta sobre desligamento de emergência supostamente abrangia desenvolvedores que atingissem limites específicos de receita e capacidade computacional de treinamento. Ela também definia incidentes qualificáveis e contemplava penalidades substanciais para o descumprimento de ordens de emergência.

Os detalhes importam porque uma exigência de desligamento atribui responsabilidade a uma organização capaz de agir. Ela presume que uma empresa abrangida controla o acesso, a infraestrutura, a operação do modelo ou outro ponto de intervenção significativo.

A personalidade jurídica poderia complicar essa estrutura de comando. Se uma entidade de IA tivesse direitos independentes, um desligamento obrigatório poderia gerar alegações de devido processo legal ou exigir que um representante contestasse a ordem.

Isso não torna os direitos da IA impossíveis. Significa que os legisladores precisariam conciliar esses direitos com a autoridade de emergência antes que ocorra uma crise.

A pressão no curto prazo recai sobre desenvolvedores de modelos de fronteira, implantadores empresariais e seguradoras. Os desenvolvedores precisam de evidências de que os controles de segurança funcionam além de demonstrações. Os implantadores precisam de limites claros em torno de permissões e revisão humana.

As seguradoras precisam de dados operacionais suficientes para estimar riscos. Os tribunais precisam de registros que conectem um resultado prejudicial a escolhas de projeto, alertas, decisões de implantação e instruções de usuários.

Os usuários também precisam de clareza. Uma pessoa que pede a um agente que execute uma tarefa lícita não deveria presumir automaticamente que toda ação resultante é segura ou autorizada. Ainda assim, os provedores não deveriam transferir toda a responsabilidade aos usuários que não podem inspecionar o modelo.

A distribuição deve seguir o controle, o conhecimento, a previsibilidade e o benefício. Um laboratório controla o treinamento e as salvaguardas centrais. Um implantador controla o ambiente, as integrações e a finalidade comercial. Um usuário controla instruções específicas dentro das permissões fornecidas.

Mais de uma parte pode ser responsável. Os sistemas jurídicos já dividem a culpa entre fabricantes, prestadores de serviços, empregadores, profissionais e consumidores.

Empresas de IA podem argumentar que uma responsabilidade ampla desestimula implantações úteis. Essa preocupação merece consideração porque nenhum sistema complexo pode garantir comportamento perfeito.

No entanto, a imunidade também cria incentivos fracos. Se desenvolvedores mantêm os lucros enquanto usuários e vítimas absorvem todas as falhas, as empresas têm menos motivos para limitar capacidades perigosas ou melhorar o monitoramento.

A responsabilidade objetiva por todo resultado indesejado seria excessiva. Uma estrutura mais direcionada pode distinguir danos previsíveis, implantação imprudente, violações regulatórias e uso indevido verdadeiramente independente.

É aqui que o debate sobre a personalidade jurídica da IA de Ted Lieu se torna operacional. A escolha não é entre processar um chatbot e não fazer nada. É entre diferentes métodos de preservar a responsabilização à medida que o software realiza trabalhos mais consequentes.

Três Sinais Mostrarão Para Onde o Debate Irá em Seguida

A próxima etapa será decidida por legislação, decisões judiciais e evidências técnicas, não pelo fato de um chatbot parecer humano em uma conversa.

O primeiro sinal é o avanço de legislação federal sobre responsabilidade ou controle de emergência. Uma audiência em comissão, texto revisado de projeto de lei ou apoio bipartidário mostraria se o Congresso consegue transformar preocupação em deveres exigíveis.

Qualquer proposta séria deveria identificar os sistemas abrangidos, as organizações responsáveis, os requisitos de comunicação e o processo de recurso. Ela também deveria explicar como as obrigações se aplicam a modelos abertos e implantações de terceiros.

Uma lei que exija que desenvolvedores mantenham o controle fortaleceria a posição de Lieu. Ela formalizaria a ideia de que as empresas continuam responsáveis pelos pontos de intervenção em torno de seus modelos.

Uma lei que crie uma entidade independente de IA enfraqueceria sua rejeição categórica. Esse resultado parece menos imediato porque o Congresso ainda não dispõe de uma estrutura geral para a responsabilidade de agentes.

O segundo sinal é uma decisão judicial inicial que atribua responsabilidade depois que um agente autônomo cause dano mensurável. Os tribunais podem recorrer ao direito da negligência, contratos, privacidade, proteção do consumidor ou crimes informáticos.

Uma decisão que mantenha desenvolvedores ou implantadores no processo apoiaria a responsabilização sem personalidade jurídica. Uma decisão que revele uma lacuna impossível de corrigir poderia fortalecer argumentos a favor de uma nova categoria jurídica.

O raciocínio importará mais do que a manchete. Os juízes terão de examinar controle, previsibilidade, causalidade e se os deveres jurídicos existentes alcançam condutas automatizadas.

O terceiro sinal são evidências confiáveis sobre consciência das máquinas ou identidade autônoma estável. O comportamento conversacional atual não é suficiente. Modelos podem produzir autorrelatos persuasivos porque esses padrões aparecem nos dados de treinamento.

Um argumento mais forte exigiria indicadores reproduzíveis vinculados a processos internos, preferências persistentes e comportamento que não possa ser explicado por otimização comum. Pesquisadores também precisariam de métodos que resistam à manipulação e à interpretação antropomórfica.

Sem essas evidências, direitos amplos semelhantes aos humanos continuam difíceis de justificar. O status jurídico funcional ainda poderia surgir, mas os legisladores deveriam descrevê-lo com precisão como uma construção administrativa.

As empresas de IA influenciarão os três sinais. Suas divulgações de segurança, relatórios de incidentes, termos contratuais e controles técnicos mostrarão se a governança voluntária pode preservar a responsabilização.

Se os provedores enfatizarem a autonomia do modelo enquanto negam responsabilidade, a pressão por responsabilidade legal aumentará. Se mantiverem controles de intervenção e aceitarem deveres exigíveis, os formuladores de políticas terão menos motivos para inventar um réu separado.

Profissionais do conhecimento e compradores corporativos devem acompanhar isso de perto. A personalidade jurídica da IA parece algo distante, mas a atribuição subjacente de responsabilidades afeta todos os contratos que envolvem sistemas autônomos.

Os compradores devem perguntar quem monitora o agente, quem pode interrompê-lo e quem arca com os custos após uma conduta não autorizada. Também devem preservar aprovações, registros, permissões de ferramentas e registros de escalonamento.

Os desenvolvedores devem pressupor que tribunais e reguladores examinarão o que eles sabiam sobre comportamentos previsíveis. A imprevisibilidade técnica não substitui testes, controles de acesso ou resposta a incidentes.

A declaração de Lieu tem valor porque rejeita uma rota de fuga fácil. Chamar um sistema de autônomo não deve permitir que seus proprietários desapareçam da cadeia de responsabilização.

Sua conclusão definitiva sobre a personalidade jurídica é mais difícil de comprovar. Sistemas futuros podem levantar questões morais e jurídicas que os modelos atuais não levantam.

Por enquanto, o alerta de Ted Lieu sobre a personalidade jurídica da IA identifica a prioridade mais urgente. Antes de conceder direitos independentes às máquinas ou processá-las por má conduta, os formuladores de políticas devem garantir que as pessoas que as desenvolvem e implantam permaneçam responsabilizáveis.

A pergunta para toda organização que adota agentes é, portanto, imediata: se o sistema causar danos amanhã, a organização conseguirá demonstrar quem o controlava, quais salvaguardas existiam e quem assumirá a responsabilidade?