As Falhas Técnicas da IA Não São as Mesmas que Seus Problemas de Capitalismo

Bruce Schneier traçou uma linha clara no debate sobre IA, apesar de anos em que cada dano era tratado como um defeito técnico. O argumento de segurança de Schneier afirma que modelos pouco confiáveis são problemas de engenharia, enquanto vigilância, deslocamento de empregos e poder concentrado frequentemente decorrem dos incentivos do capitalismo.

Schneier desenvolveu o argumento com o cientista de dados Nathan E. Sanders em um ensaio publicado pela Tech Policy Press. Eles comparam a inteligência artificial à Revolução Industrial inicial, quando as máquinas deslocaram o trabalho físico para fora dos corpos humanos em uma escala sem precedentes. Agora, a IA promete deslocar o trabalho cognitivo para fora de nossos corpos em escala.

Essa comparação traz tanto um alerta quanto uma promessa. As máquinas a vapor não determinaram quem possuía as fábricas, como os trabalhadores eram pagos ou onde a poluição se acumulava. Instituições e proprietários fizeram essas escolhas.

A mesma distinção importa para a IA. Um chatbot pode inventar uma citação jurídica porque seu processo de previsão continua pouco confiável. Uma empresa pode usar esse chatbot para eliminar funcionários experientes porque executivos querem reduzir custos de mão de obra.

Essas falhas exigem soluções diferentes. Melhor treinamento, testes e design de sistemas podem reduzir respostas inventadas. Eles não podem decidir se os ganhos de produtividade devem beneficiar trabalhadores, clientes, executivos ou investidores.

Este é o conflito central por trás do ensaio. O debate público continua tratando um problema de distribuição econômica como uma tarefa de engenharia. Schneier e Sanders argumentam que fazer isso protege as instituições que tomam as decisões mais consequentes.

O Ensaio de Segurança de Schneier Muda a Unidade de Análise

O ensaio desloca a atenção do que um modelo de IA pode fazer para quem controla suas capacidades e captura seu valor.

Schneier e Sanders começam pela capacidade incomum da IA de realizar tarefas cognitivas fora de uma mente humana. Softwares automatizam cálculos há décadas, mas sistemas generativos agora conseguem redigir, classificar, resumir, traduzir e recomendar em amplos domínios.

Os autores não afirmam que os sistemas atuais equivalem ao julgamento humano. O ponto deles diz respeito à escala e à integração. Mesmo a automação cognitiva imperfeita pode alterar instituições quando se torna barata, rápida e disponível em softwares padrão.

Empresas já estão incorporando modelos generativos em fluxos de trabalho de busca, atendimento ao cliente, programação, marketing e administração. Governos usam sistemas algorítmicos para processar registros, priorizar inspeções e apoiar decisões que afetam benefícios ou serviços públicos.

Essas implementações combinam pelo menos três categorias distintas de risco. Riscos técnicos decorrem de como os sistemas operam. Riscos institucionais decorrem de onde as organizações os implementam e de quanta autoridade recebem.

Riscos político-econômicos dizem respeito à propriedade, ao poder de barganha e à distribuição de custos. Uma única implementação pode conter os três, mas cada um exige uma intervenção diferente.

Considere um modelo usado para selecionar candidaturas a empregos. Ele pode classificar candidatos de forma imprecisa porque seus dados de treinamento representam mal determinados grupos. Isso é, em parte, um problema de dados e avaliação.

O empregador também pode usar a triagem automatizada para processar mais candidaturas sem contratar mais recrutadores. Essa escolha organizacional altera a escala e a velocidade das contratações. Ela pode reduzir as oportunidades de revisão humana.

Uma terceira questão envolve responsabilidade. Se candidatos rejeitados não podem contestar o sistema, a instituição atribuiu poder sem um recurso significativo. Nenhuma referência de precisão pode estabelecer o direito de apelação que está ausente.

Essa separação não isenta falhas técnicas. Ela esclarece quais ferramentas podem enfrentá-las. Testes de segurança, avaliações independentes, relatos de incidentes e regras de responsabilidade continuam necessários quando os modelos criam danos previsíveis.

No entanto, esses controles não podem redistribuir a propriedade nem restaurar o poder de barganha. Um sistema perfeitamente preciso ainda pode sustentar vigilância invasiva, políticas discriminatórias ou uma divisão injusta dos ganhos de produtividade.

A distinção se assemelha à análise tradicional de segurança. Uma vulnerabilidade descreve uma fraqueza que alguém pode explorar. Os incentivos ao redor determinam quem procura essa fraqueza, quem se beneficia e quem absorve o dano.

Schneier há muito analisa sistemas por meio de incentivos, e não apenas de código. Seu trabalho pergunta como regras são exploradas e por que participantes poderosos podem moldá-las. A IA amplia essa preocupação porque a automação aumenta a velocidade e o alcance da exploração.

Esse enquadramento faz do ensaio mais do que outra lista de riscos da IA. Ele questiona se a categoria chamada “segurança de IA” se tornou ampla demais. Quando todo conflito social recebe esse rótulo, instituições técnicas ganham autoridade sobre decisões fundamentalmente políticas.

Essa transferência importa porque engenheiros, desenvolvedores de modelos e equipes corporativas de segurança operam dentro das estruturas de propriedade existentes. Eles podem melhorar sistemas sem alterar os objetivos da implementação.

Por isso, o ensaio muda a unidade de análise. O objeto relevante não é apenas o modelo. É o modelo, seu proprietário, seu modelo de negócios, seus usuários e a instituição que lhe concede autoridade.

Problemas Técnicos Ainda Exigem Respostas Técnicas

Separar problemas do capitalismo de problemas técnicos só funciona se falhas genuínas de engenharia continuarem visíveis e passíveis de responsabilização.

Os sistemas atuais de IA podem produzir informações falsas, expor dados sensíveis, reproduzir padrões prejudiciais e comportar-se de forma imprevisível fora de condições testadas. Esses não são defeitos imaginários criados por uma análise econômica ruim. São propriedades observáveis de sistemas implementados.

Uma resposta inventada costuma ser chamada de alucinação, isto é, uma saída plausível não sustentada por evidências confiáveis. Sistemas de recuperação, citações, ferramentas restritas e revisão humana podem reduzir o perigo. Nenhum deles garante a verdade em todas as condições.

O viés também tem um componente técnico. Dados de treinamento podem sub-representar populações, preservar discriminação histórica ou codificar indicadores substitutos enganosos. Conjuntos de avaliação podem deixar de detectar essas falhas quando medem o desempenho médio, em vez das consequências para os grupos afetados.

A segurança introduz outra camada. Atacantes podem manipular entradas de modelos, extrair informações protegidas, contaminar dados de treinamento ou abusar de sistemas capazes em escala. Desenvolvedores precisam de modelagem de ameaças, controles de acesso, monitoramento e procedimentos de resposta.

O relatório internacional de segurança distingue várias formas de dano decorrentes de IA avançada. Sua análise abrange uso malicioso, falhas de sistema e riscos sistêmicos mais amplos.

Essa abrangência é útil, mas também pode obscurecer a responsabilidade. Um modelo que vaza credenciais exige uma solução diferente de uma corporação que monitora funcionários por meio de software legal. Ambos afetam a segurança, mas apenas um depende principalmente de corrigir o modelo.

A mesma regra se aplica a sistemas autônomos. Um agente de IA pode executar ações por meio de ferramentas externas em vez de apenas gerar texto. Desenvolvedores devem restringir permissões, verificar ações importantes e manter registros para investigação.

Ainda assim, o design de permissões não pode responder se um empregador deve rastrear cada interação de um trabalhador. Ele pode tornar o sistema de vigilância mais difícil de comprometer. Não pode tornar justa a relação de vigilância.

Uma IA confiável também depende do contexto de implementação. Um erro de resumo em uma lista pessoal de leitura tem consequências limitadas. O mesmo erro em um prontuário médico ou em uma decisão sobre benefícios exige testes e supervisão mais rigorosos.

A regulamentação deve refletir essas diferenças. Usos de alto risco precisam de evidências proporcionais ao dano potencial. Organizações não devem tratar um aviso geral como permissão para implementar um sistema incerto em qualquer lugar.

Schneier e Sanders já argumentaram que a sociedade regulamenta tecnologias quando erros podem matar pessoas ou negar serviços essenciais. Essa lógica não exige congelar o desenvolvimento. Ela exige definir obrigações antes que falhas previsíveis se tornem rotineiras.

Padrões técnicos podem apoiar essas obrigações. Desenvolvedores podem documentar métodos de treinamento, avaliar o desempenho em condições realistas e relatar incidentes graves. Auditores independentes podem testar alegações que equipes internas talvez ignorem.

Regras de aquisição também podem mudar comportamentos. Uma agência governamental ou grande empresa pode exigir rastreabilidade, mecanismos de recurso e controles mínimos de segurança. Os fornecedores passam então a competir dentro de um conjunto mais claro de expectativas públicas.

Essas medidas abordam o comportamento da tecnologia. Elas continuam insuficientes quando uma organização escolhe um objetivo prejudicial. Um sistema otimizado para maximizar a produção dos trabalhadores pode funcionar exatamente como projetado enquanto corrói a autonomia.

Essa diferença é fácil de ignorar porque o software traduz políticas em parâmetros técnicos. Um painel pode fazer uma exigência gerencial parecer neutra. Uma pontuação pode fazer um julgamento contestado parecer uma medição.

Modelos melhores podem até intensificar esse problema. Maior precisão torna as organizações mais confiantes na automação. Ela pode ampliar a implementação antes que instituições estabeleçam limites significativos para onde a autoridade automatizada deve existir.

A agenda tecnológica deve, portanto, incluir incerteza, uso indevido e segurança de sistemas. Ela não deve absorver questões que engenheiros não têm legitimidade para resolver. Limites claros fortalecem ambas as formas de supervisão.

Os Problemas do Capitalismo da IA Começam pelos Incentivos

Muitos resultados temidos da IA decorrem de incentivos comuns para reduzir custos, capturar mercados e transferir riscos para pessoas com menor poder de barganha.

Uma empresa não precisa de um modelo malicioso para eliminar cargos. Precisa de executivos que esperem que a automação reduza despesas trabalhistas. O sistema pode funcionar de forma confiável enquanto os trabalhadores afetados não recebem nenhum de seus ganhos de produtividade.

O economista Daron Acemoglu faz uma distinção relacionada em sua pesquisa sobre os danos da IA. Ele argumenta que resultados prejudiciais não são necessariamente inerentes à tecnologia de IA. Eles podem decorrer de escolhas de desenvolvimento que favorecem corporações e governos em detrimento de trabalhadores e cidadãos.

Este é um problema de capitalismo porque o mercado recompensa retornos privados, não todos os benefícios sociais. Uma empresa contabiliza uma folha de pagamento menor como economia. Ela não contabiliza automaticamente a perda de renda de um trabalhador deslocado como seu próprio custo.

Economistas chamam isso de externalidade, isto é, um custo ou benefício imposto a pessoas fora de uma transação. A poluição oferece o exemplo mais familiar. Um operador pode lucrar enquanto moradores próximos absorvem danos à saúde e ao meio ambiente.

A IA pode gerar externalidades por meio de deslocamento, vigilância, desinformação, discriminação e consumo de recursos. Melhorias técnicas podem reduzir alguns custos. Elas não podem obrigar a empresa que os cria a pagar a conta restante.

A concorrência pode tornar a pressão pior. Uma empresa pode preferir uma implementação mais lenta e centrada nos trabalhadores. Ainda assim, teme que uma rival automatize mais rapidamente e opere com custos menores.

Essa dinâmica transforma a escolha executiva em um problema de coordenação. Cada empresa responde racionalmente dentro do mercado, mas o resultado combinado pode reduzir a segurança dos trabalhadores. Programas voluntários de ética têm dificuldade para resistir a esse incentivo.

Os mercados de investimento criam uma pressão semelhante. A corrida de investimentos em IA tornou-se um dos maiores booms de investimento impulsionados por tecnologia na história dos Estados Unidos. Pesquisadores do Banco de Compensações Internacionais comparam sua dinâmica competitiva a manias anteriores de infraestrutura.

A análise descreve uma disputa em que o vencedor leva a maior parte. As empresas podem investir em excesso porque cada uma teme perder um mercado estrategicamente importante. O valor privado de vencer pode superar o retorno social mais amplo do projeto.

Isso ajuda a explicar por que os gastos corporativos não comprovam valor público proporcional. Centros de dados gigantescos, ciclos de treinamento de modelos e pacotes para atrair talentos refletem competição estratégica. Eles não demonstram, por si só, maior produtividade em toda a economia.

A Organização Internacional do Trabalho descreve um “paradoxo de agregação” em torno da produtividade da IA. Estudos no nível das tarefas podem identificar ganhos substanciais, enquanto os resultados em empresas e na economia como um todo continuam mistos. A adoção também favorece organizações maiores e mais avançadas digitalmente.

Essa incompatibilidade importa para a tese de segurança de Schneier. Uma ferramenta pode tornar um funcionário mais rápido sem melhorar uma instituição inteira. Ainda assim, gestores podem reduzir o quadro de pessoal antes de saber se o desempenho organizacional melhorou.

A automação também pode criar trabalho oculto. Funcionários precisam verificar as respostas dos modelos, corrigir erros, recuperar contexto ausente e lidar com exceções. Essas obrigações raramente aparecem em demonstrações de produto.

Os trabalhadores enfrentam outro problema de incentivos quando a IA se torna uma camada de monitoramento. Os sistemas podem medir teclas digitadas, mensagens, chamadas, localização ou sentimento inferido. Os empregadores ganham informação, enquanto os trabalhadores perdem o controle sobre como seu comportamento é interpretado.

Uma análise da OIT sobre o ambiente de trabalho relaciona a vigilância apoiada por IA à intensificação do trabalho, redução da autonomia, preocupações com privacidade e riscos psicossociais. Esses danos não exigem inteligência sobre-humana.

Um sistema de classificação modesto pode ranquear trabalhadores ou sinalizar comportamentos. Seu valor econômico vem de ampliar o controle gerencial sobre uma grande força de trabalho. Melhorar a precisão da classificação não resolve o desequilíbrio de poder subjacente.

A IA voltada ao consumidor apresenta um problema relacionado. Um assistente pessoal se torna mais útil à medida que acessa mensagens, documentos, calendários e atividade de navegação. Esse acesso também cria dados comportamentais valiosos e maiores custos de troca.

Os usuários devem considerar onde as informações ficam armazenadas, quem pode reutilizá-las e se os incentivos de um serviço estão alinhados às suas necessidades. Uma base de conhecimento pessoal pode reduzir a fragmentação, mas a arquitetura e a governança ainda determinam quem mantém o controle.

A mesma tensão aparece no trabalho criativo. Sistemas generativos podem ajudar escritores a explorar ideias ou revisar rascunhos. Também podem sustentar plataformas que substituem trabalho remunerado por conteúdo sintético mais barato.

Essas não são descrições contraditórias da tecnologia. São diferentes arranjos da mesma capacidade. Propriedade, contratos, proteções trabalhistas e estrutura de mercado determinam qual arranjo se torna dominante.

Uma IA Melhor Não Garante Instituições Melhores

A implicação mais incômoda é que uma IA mais segura e capaz pode fortalecer instituições cujos objetivos continuam sem prestação de contas.

O debate público frequentemente presume que precisão, alinhamento e transparência tornarão a IA socialmente benéfica. Essas qualidades importam, mas tratam do comportamento do sistema. Elas não estabelecem propósitos legítimos nem resultados justos.

Imagine uma agência de benefícios usando um modelo preciso para identificar casos a serem investigados. A ferramenta pode reduzir erros burocráticos e detectar padrões complexos. Também pode submeter solicitantes vulneráveis a um escrutínio maior do que aquele enfrentado por cidadãos mais ricos em outros contextos.

A precisão do modelo não resolve se a prioridade de fiscalização é justa. Tampouco decide quanta evidência deve desencadear uma investigação. Essas são escolhas de política pública feitas por instituições.

Uma ferramenta de vigilância confiável cria a mesma tensão. Um reconhecimento facial melhor pode reduzir falsos positivos. Também torna o rastreamento persistente mais barato e mais atraente para autoridades ou operadores privados.

Quanto mais forte a tecnologia se torna, mais importantes ficam essas questões de autorização. Sistemas fracos às vezes limitam ambições prejudiciais por mera incompetência. Melhorá-los pode remover essa restrição acidental.

É por isso que o principal oponente no ensaio não é capitalismo versus tecnologia. É correção técnica versus reforma institucional. A primeira abordagem se torna enganosa quando apresentada como uma resposta completa.

Equipes corporativas de segurança de IA podem investigar falhas de modelos e reduzir abusos. Em geral, não podem decidir que uma estratégia inteira de receita deve desaparecer. Seus orçamentos e sua autoridade continuam controlados pela organização que se beneficia da implantação.

Auditorias externas enfrentam limites semelhantes. Um auditor pode testar se um sistema atende a um padrão definido. Mas alguém ainda precisa decidir o que esse padrão protege e quais usos devem permanecer proibidos.

A transparência ajuda observadores a enxergar o comportamento de um sistema. Ela não produz influência automaticamente. Um trabalhador que entende uma pontuação automatizada pode continuar incapaz de recusá-la sem perder o emprego.

O consentimento do usuário também pode se tornar cerimonial. As pessoas aceitam rotineiramente políticas extensas porque serviços essenciais não deixam alternativa prática. O consentimento oferece pouca proteção quando uma parte controla o acesso e os termos.

A concentração de mercado aprofunda essa fragilidade. Treinar modelos importantes exige ampla infraestrutura computacional, acesso a dados, mão de obra especializada e canais de distribuição. Um pequeno grupo de empresas pode influenciar tanto o desenvolvimento técnico quanto as políticas consideradas aceitáveis.

A concentração pode restringir as prioridades de pesquisa. As empresas naturalmente investem em aplicações com probabilidade de gerar receita ou vantagem estratégica. Usos de interesse público com retornos incertos recebem menos apoio, mesmo quando seu valor social é alto.

Schneier e Sanders defendem a IA pública como uma resposta. Uma opção pública forneceria modelos ou infraestrutura governados por instituições públicas. Ela poderia estabelecer uma referência que provedores privados teriam de igualar.

Essa proposta traz seus próprios riscos. Governos podem usar dados de forma indevida, adotar vigilância ou operar sem conhecimento técnico suficiente. A propriedade pública não produz automaticamente responsabilidade democrática.

Ainda assim, uma opção pública muda a estrutura de incentivos. Seu objetivo formal não precisa maximizar receita de publicidade, retornos para investidores ou aprisionamento a fornecedores. A supervisão pode se concentrar em acesso, transparência, continuidade e valor público.

A política de concorrência oferece outro caminho. As autoridades podem examinar aquisições, dependências de nuvem, parcerias exclusivas e práticas que impedem usuários de trocar de serviço. Essas intervenções tratam da estrutura de mercado, e não dos pesos dos modelos.

A política trabalhista importa tanto quanto. A negociação coletiva pode dar aos trabalhadores influência sobre monitoramento, cronogramas de implantação, quadro de pessoal e ganhos de produtividade. Direitos de notificação e recurso podem restringir a gestão automatizada.

A política tributária pode precificar externalidades que os mercados ignoram. Regras ambientais podem exigir relatórios precisos e medidas de mitigação. A responsabilização pode devolver o custo de implantações negligentes às organizações que as controlam.

Nenhuma dessas políticas substitui a segurança técnica. Elas operam em uma camada diferente. Testes de segurança perguntam se um sistema se comportará como esperado. A reforma institucional pergunta quem escolheu esse comportamento e quem pode contestá-lo.

Críticos podem questionar, de forma razoável, se todo dano causado por IA pertence ao capitalismo. Governos autoritários podem implantar vigilância sem incentivos de mercado. Agências públicas podem automatizar políticas injustas, e organizações sem fins lucrativos podem usar dados pessoais de forma indevida.

Falhas técnicas também moldam resultados político-econômicos. Um modelo pouco confiável pode prejudicar desproporcionalmente pessoas que não têm tempo, dinheiro ou apoio jurídico. Tecnologia e instituições interagem, em vez de ocuparem categorias isoladas.

A distinção do ensaio deve, portanto, funcionar como uma ferramenta de diagnóstico, e não como uma divisão absoluta. Analistas devem perguntar qual mecanismo domina cada dano. Em seguida, devem adequar a solução a esse mecanismo.

O Que a Comparação com a Revolução Industrial Revela

A analogia industrial importa porque a história mostra que os ganhos de produtividade não se distribuem por conta própria.

A energia a vapor expandiu a capacidade da sociedade para o trabalho mecânico. Ela sustentou fábricas, transporte, extração e produção em massa. Também se desenvolveu dentro de instituições que toleravam locais de trabalho perigosos, poluição e extrema desigualdade de poder de barganha.

Essas condições não eram propriedades inevitáveis da máquina a vapor. Elas refletiam regras legais, propriedade, poder político e proteções frágeis. A tecnologia elevou o que estava em jogo nesses arranjos.

Os trabalhadores acabaram conquistando normas de segurança, limites para a jornada de trabalho, direitos de negociação coletiva e seguro social. Os governos desenvolveram controles ambientais e infraestrutura pública. Nada disso surgiu automaticamente de máquinas mais eficientes.

A IA cria um problema comparável de distribuição em torno da produção cognitiva. Se os sistemas reduzem o custo de análise, redação, coordenação e criação de software, alguém capturará esse excedente. As regras existentes influenciam fortemente quem será.

As empresas podem distribuir os ganhos por meio de salários mais altos, semanas de trabalho mais curtas, serviços melhores ou preços menores. Também podem convertê-los em remuneração executiva, expansão de mercado ou retornos para proprietários de capital.

A história sugere que as empresas raramente escolhem a distribuição mais ampla sem pressão. Mercados competitivos podem reduzir preços, mas apenas sob condições que sustentem concorrência real. Os trabalhadores ganham quando instituições trabalhistas fornecem poder de barganha.

A analogia tem limites. A maquinaria industrial era cara, física e limitada geograficamente. O software generativo pode se espalhar por serviços de nuvem e dispositivos já existentes com velocidade incomum.

A IA também é de propósito geral e adaptável. Um modelo pode apoiar muitas tarefas sem reconstruir uma fábrica. Essa flexibilidade pode acelerar a difusão, ao mesmo tempo em que torna mais difícil localizar a responsabilidade.

A automação cognitiva afeta profissões que máquinas anteriores apoiavam, em vez de substituir. Advogados, programadores, professores, analistas, designers e servidores públicos agora enfrentam sistemas direcionados diretamente a partes de seu trabalho.

A unidade relevante costuma ser a tarefa, e não a ocupação. Um emprego contém julgamento, comunicação, produção rotineira, responsabilidade e conhecimento interpessoal. A IA pode automatizar componentes selecionados enquanto aumenta a demanda por outros.

Esse processo pode ampliar as capacidades dos trabalhadores ou degradar suas funções. Uma enfermeira pode passar menos tempo documentando cuidados. O mesmo sistema pode impor metas rígidas de produtividade e reduzir o tempo com pacientes.

Um professor pode usar IA para preparar exercícios diferenciados. Uma instituição pode, em vez disso, aumentar o tamanho das turmas e esperar que a tutoria automatizada cubra a lacuna. A capacidade permanece semelhante, mas o objetivo organizacional muda.

É por isso que os problemas do capitalismo de IA não podem ser previstos apenas a partir de pontuações de benchmark. O desempenho indica o que se torna tecnicamente viável. Ele não revela quais implantações os executivos financiarão nem quais proteções os legisladores imporão.

A analogia industrial também alerta contra esperar por certeza. Regras trabalhistas e ambientais muitas vezes vieram após danos visíveis. Até então, padrões de infraestrutura e propriedade já haviam se tornado difíceis de mudar.

A infraestrutura de IA agora está se incorporando a plataformas de nuvem, software empresarial, escolas e sistemas governamentais. As primeiras escolhas de aquisição e interoperabilidade podem determinar a dependência futura.

As organizações devem preservar opções de saída. Precisam de dados portáteis, registros claros, canais de recurso humano e a capacidade de substituir fornecedores. Essas salvaguardas reduzem o custo de corrigir uma má escolha institucional.

Os trabalhadores do conhecimento também devem separar assistência útil de autoridade delegada. Um modelo pode ajudar a pesquisar documentos ou redigir opções. A responsabilidade final deve permanecer identificável quando as decisões afetam direitos, emprego, saúde ou segurança.

A lição industrial não é que a IA garante outro século de exploração. É que os resultados sociais exigem uma construção institucional deliberada. O progresso técnico fornece capacidade, não justiça.

Três Sinais Colocarão à Prova o Argumento de Segurança de Schneier

O argumento ganhará força se as instituições regularem os incentivos de implantação com a mesma seriedade com que regulam o desempenho dos modelos.

O primeiro sinal é se os governos adotam regras aplicáveis para usos de alto impacto. Observe padrões de contratação pública, direitos de recurso, responsabilidade legal e restrições à vigilância no trabalho ou no setor público.

Apenas exigências de testes dos modelos enfraqueceriam a resposta institucional. Elas implicariam que a implantação se torna aceitável quando um sistema ultrapassa um limiar de desempenho. Essa abordagem deixa propósito, autoridade e poder em grande parte intocados.

Regras que abrangem direitos de decisão apoiariam Schneier e Sanders. Uma pessoa afetada por um julgamento automatizado deve saber que a automação foi utilizada. Essa pessoa deve ter acesso a uma revisão significativa por uma instituição responsável.

O segundo sinal é como as empresas distribuem ganhos mensuráveis de produtividade. Observe decisões de pessoal, intensidade de trabalho, salários, jornadas e preços, juntamente com alegações de produção mais rápida.

Uma empresa que usa IA para encurtar a semana de trabalho sem reduzir salários oferece um modelo institucional. Uma empresa que corta pessoal enquanto aumenta o monitoramento oferece outro. Ambas podem implantar softwares tecnicamente semelhantes.

Evidências confiáveis continuam essenciais nesse ponto. Melhorias de velocidade no nível das tarefas não devem ser tratadas como produtividade em toda a economia. As organizações precisam contabilizar o trabalho de verificação, os custos de integração, os erros e a perda de expertise.

O terceiro sinal é se alternativas à infraestrutura corporativa concentrada se tornam críveis. Modelos públicos, padrões abertos, serviços interoperáveis e mercados competitivos de nuvem podem reduzir a dependência de poucos fornecedores.

A IA pública deve ser avaliada com cautela. Governança, privacidade, segurança, financiamento e supervisão independente importam mais do que o rótulo de público. Um sistema estatal mal governado pode reproduzir a mesma concentração sob outra forma de propriedade.

Ainda assim, alternativas críveis mudariam a dinâmica de negociação. Fornecedores privados enfrentariam pressão para oferecer melhor transparência, portabilidade e acesso de longo prazo. Os usuários ganhariam opções além de aceitar os termos em constante evolução de uma única empresa.

Os próximos meses não determinarão o efeito da IA sobre a sociedade. A integração aos locais de trabalho e ao governo se desenrolará ao longo de anos. Mesmo assim, as escolhas iniciais estabelecerão padrões que se tornam caros de reverter.

Os leitores devem aplicar a distinção de segurança de Schneier sempre que surgir uma nova controvérsia sobre IA. Primeiro, perguntem se o dano decorre do comportamento técnico, da autoridade de implantação ou dos incentivos econômicos. Depois, perguntem quem se beneficia ao chamá-lo de problema de engenharia.

Essa pergunta final importa porque as categorias distribuem responsabilidade. Se um conflito trabalhista se torna uma “questão de alinhamento”, os desenvolvedores de modelos parecem ser os responsáveis pela solução. Empregadores, investidores e legisladores passam para o segundo plano.

Uma resposta útil deve manter visível cada ator responsável. Os desenvolvedores devem tornar os sistemas mais seguros e confiáveis. Quem os implanta deve justificar seus usos, e os governos devem estabelecer direitos que os mercados não fornecerão.

O objetivo não é desculpar a IA nem condenar todos os mercados. É deixar de esperar que um software melhor conserte uma distribuição contestada de poder. Correções técnicas podem melhorar as máquinas, mas as pessoas ainda precisam reformar as instituições que as dirigem.

Qual camada sua organização trata hoje como um problema de IA? Identifique uma falha técnica, uma decisão de implantação e um incentivo que a molda. Atribua cada um a um responsável, depois verifique se a solução proposta alcança a causa real.