Alerta de Ética em IA de Gabriele Caccia Coloca o Julgamento Humano Contra a Automação

O arcebispo Gabriele Caccia emitiu um alerta sobre ética em IA com um limite claro: máquinas não devem controlar decisões que envolvem vida, morte ou direitos fundamentais.

Caccia, representante diplomático da Santa Sé nos Estados Unidos, falou na Georgetown University em 9 de setembro de 2026. Seu argumento foi além dos já conhecidos apelos por inovação responsável. Ele afirmou que a possibilidade técnica não cria permissão moral.

A posição de Gabriele Caccia sobre ética em IA coloca a consciência humana contra uma dependência crescente do julgamento automatizado. Esse conflito agora alcança a seleção de alvos militares, o acesso à saúde, a contratação, a segurança e outros sistemas de grande impacto.

Suas declarações se basearam na encíclica Magnifica Humanitas, do Papa Leão XIV, publicada quatro meses antes. O documento distingue resultados computacionais da capacidade humana de consciência, responsabilidade e relacionamentos.

Ainda assim, a intervenção do Vaticano chega com uma limitação importante. Seus princípios morais são incomumente diretos, mas não oferecem um programa regulatório completo para empresas ou governos.

Essa lacuna define a verdadeira história. A Igreja exige uma responsabilidade humana clara, enquanto as instituições ainda divergem sobre o que o controle humano significativo exige na prática.

Caccia Traça uma Linha em Torno de Decisões Irreversíveis de IA

A principal afirmação de Caccia é que um algoritmo não pode assumir a responsabilidade moral vinculada a uma decisão de grande impacto.

O arcebispo fez suas declarações durante um debate na Georgetown intitulado “AI, Catholic Social Teaching, and Pope Leo’s Invitation to Dialogue with the World.” O evento reuniu líderes religiosos, especialistas em tecnologia e vozes da área de políticas públicas.

Segundo o programa do evento da universidade, o debate se concentrou na dignidade humana, na mudança econômica, nas políticas públicas e no bem comum. Também questionou o que legisladores, empregadores e cidadãos devem exigir dos sistemas de IA.

Caccia resumiu o problema moral em termos diretos. Nem tudo que pode ser feito deve ser feito, argumentou. A escolha de usar ou não uma capacidade disponível continua sendo uma decisão moral humana.

Essa afirmação rejeita um padrão comum na implementação de tecnologias. Organizações frequentemente adotam sistemas automatizados porque eles prometem velocidade, consistência ou menores encargos administrativos. A avaliação ética vem apenas depois da implementação.

Caccia inverteu essa ordem. Antes de uma instituição delegar o julgamento, ela deve perguntar se esse julgamento pertence ao escopo legítimo da automação.

Ele identificou decisões letais e irreversíveis como o limite mais claro. Se uma máquina ajuda a determinar quem vive ou morre, pode se tornar difícil identificar a responsabilidade.

A questão não é se um modelo tecnicamente aperta um botão. É se os humanos compreendem, autorizam, revisam e continuam responsáveis pela cadeia que leva a um resultado.

Caccia também ampliou a preocupação para além das armas. Ele citou relatos preocupantes de algoritmos que restringem o acesso à saúde, ao emprego e à segurança por meio de dados preconceituosos ou injustos.

Esses sistemas raramente se apresentam como autoridades morais. Eles classificam candidatos, sinalizam casos, recomendam recusas, preveem riscos ou priorizam recursos limitados.

Cada resultado pode parecer administrativo. Em conjunto, esses resultados moldam oportunidades, reputações, segurança pessoal e acesso a serviços essenciais.

Portanto, o alerta de Gabriele Caccia sobre ética em IA diz respeito à autoridade delegada, e não apenas ao comportamento dos modelos. Um sistema estatisticamente preciso ainda pode operar dentro de um processo injusto.

Um modelo também pode obscurecer a responsabilidade quando cada participante trata seu resultado como decisão de outra pessoa. Desenvolvedores apontam para implementadores, implementadores apontam para políticas, e funcionários apontam para o software.

A intervenção de Caccia desafia essa diluição. Os seres humanos continuam responsáveis mesmo quando o software influencia a ação final.

Esse princípio dá à história sua tensão. Os sistemas de IA entram cada vez mais em fluxos de trabalho de alto impacto, enquanto as instituições que os utilizam ainda têm dificuldade para atribuir uma responsabilidade humana clara.

Por Que a Voz Moral do Vaticano Está Chegando Agora

O Vaticano está entrando no debate sobre IA à medida que a automação deixa de apenas gerar conteúdo e passa a influenciar decisões institucionais de grande impacto.

A participação de Caccia na Georgetown ocorreu após a publicação de Magnifica Humanitas, em 15 de maio. O Papa Leão XIV dedicou uma parte substancial da encíclica à inteligência artificial e à proteção da dignidade humana.

O documento argumenta que a IA imita funções selecionadas associadas à inteligência. Ela não possui experiência incorporada, consciência, responsabilidade pessoal nem compreensão interna de seus resultados.

Essa distinção importa porque uma linguagem fluente pode criar uma impressão de julgamento. Um sistema pode produzir uma recomendação coerente sem compreender um paciente, trabalhador, réu, soldado ou família como pessoa.

A encíclica rejeita a ideia de que máquinas se tornam agentes morais simplesmente por aplicar regras de forma consistente. O julgamento moral inclui responsabilidade pelas consequências e reconhecimento da dignidade de outra pessoa.

Seu marco de ética em IA também vai além de apelos abstratos por justiça. Ele defende salvaguardas legais, supervisão independente, usuários informados, participação pública e responsabilidade identificável.

O Papa Leão alerta contra tratar o desenvolvimento da IA como inevitável. Esse enquadramento pode permitir que organizações que controlam dados, infraestrutura e recursos computacionais determinem os limites morais da sociedade.

Essa preocupação ajuda a explicar por que Caccia falou sobre a necessidade de uma “voz moral”. Padrões técnicos podem medir taxas de erro, documentar o comportamento de modelos e testar a segurança. Eles não podem decidir de modo independente quais objetivos merecem otimização.

Um modelo de contratação, por exemplo, pode ser avaliado quanto à precisão com base em decisões históricas. Essa avaliação não estabelece se aquelas decisões anteriores foram justas.

Uma ferramenta de priorização médica pode classificar pacientes de maneira consistente. A consistência não determina se suas regras subjacentes de alocação respeitam pessoas vulneráveis.

A mesma distinção se aplica aos sistemas militares. Uma avaliação mais rápida de alvos não responde se um ataque é legal, necessário, proporcional ou moralmente defensável.

Magnifica Humanitas descreve a necessidade de “desarmar” a IA. A expressão não significa eliminar todos os modelos nem proibir ferramentas comuns de produtividade.

Dentro do argumento do documento, desarmamento significa impedir que a capacidade técnica se transforme em poder sem responsabilização. Também significa recusar-se a apresentar resultados automatizados como moralmente neutros.

O Vaticano reforçou essa agenda ao estabelecer, em maio, uma Comissão Interdicasterial sobre Inteligência Artificial. A ordem de criação da comissão cita o uso acelerado da IA e seus efeitos sobre a dignidade humana.

Essa medida institucional torna a intervenção mais do que um discurso isolado. Ela indica que a governança da IA se tornou uma preocupação contínua nas atividades de políticas, diplomacia e doutrina social da Igreja.

Caccia também atribuiu responsabilidade aos católicos que trabalham em empresas de tecnologia, equipes de engenharia, finanças e instituições públicas. Ele não reservou a questão a bispos ou teólogos.

Esse movimento importa porque a maioria das escolhas de implementação ocorre longe dos legislativos. Gerentes de produto definem objetivos, engenheiros selecionam dados, executivos aceitam riscos e equipes de compras escolhem fornecedores.

A posição do Vaticano pressiona cada grupo a tratar essas escolhas como atos morais. Ela rejeita a defesa de que a ética pertence apenas aos reguladores depois que um produto chega ao mercado.

A Ética em IA de Gabriele Caccia Enfrenta o Teste da Supervisão Humana

O principal conflito não é religião contra tecnologia; é julgamento humano responsável contra automação sem controle significativo.

Essa distinção evita que o debate se reduza a um simples argumento entre otimismo e pessimismo. Caccia não rejeitou a pesquisa em IA nem a automação útil.

Magnifica Humanitas reconhece benefícios em muitos campos. Sua objeção diz respeito a sistemas que substituem o julgamento responsável quando estão envolvidos direitos, segurança ou danos irreversíveis.

Os atuais marcos de governança apoiam parcialmente essa posição. O National Institute of Standards and Technology dos Estados Unidos organiza a gestão de riscos de IA em torno de governar, mapear, medir e gerenciar riscos.

O marco voluntário de risco pede que organizações atribuam funções ao longo do ciclo de vida da IA. Ele também trata responsabilidade, transparência, explicabilidade, privacidade, segurança e vieses prejudiciais como preocupações interligadas.

A União Europeia transformou princípios relacionados em exigências vinculantes para sistemas designados de alto risco. Seu AI Act abrange aplicações envolvendo emprego, serviços essenciais, aplicação da lei e outros contextos sensíveis.

O Artigo 14 exige que sistemas de alto risco apoiem uma supervisão humana eficaz. Uma pessoa designada deve compreender limitações relevantes e manter a capacidade de ignorar, substituir ou reverter um resultado.

A lei também aborda o viés de automação, que é a tendência de confiar em uma recomendação computadorizada por ela parecer sistemática ou objetiva. Seus requisitos de supervisão reconhecem que colocar uma pessoa perto de um modelo não cria automaticamente um controle significativo.

É nesse ponto que a linguagem moral de Caccia encontra um problema prático de design. “Humano no circuito” pode descrever arranjos muito diferentes.

Um clínico pode receber uma recomendação e manter tempo, autoridade e evidências para rejeitá-la. Esse arranjo preserva um julgamento substancial.

Em vez disso, um trabalhador pode revisar centenas de recomendações automatizadas sob metas rígidas de desempenho. Tecnicamente, o trabalhador aprova cada decisão, mas não tem uma oportunidade realista de contestar o sistema.

Um oficial militar pode enfrentar uma janela ainda mais estreita. Se a análise automatizada comprime o tempo de decisão, a autorização formal pode sobreviver enquanto o julgamento cuidadoso desaparece.

Portanto, uma supervisão humana significativa exige mais do que um botão de aprovação final. A pessoa responsável precisa de conhecimento relevante, tempo adequado, evidências compreensíveis e autoridade para interromper o processo.

A instituição também deve registrar quem tomou cada decisão. Caso contrário, a responsabilidade desaparece entre fornecedores, provedores de dados, desenvolvedores de modelos, gestores e operadores da linha de frente.

A pergunta de Caccia sobre responsabilidade expõe essa fraqueza. Quando uma máquina contribui para um resultado prejudicial, as organizações frequentemente investigam a última ação visível.

Essa abordagem pode ignorar decisões anteriores. O objetivo de um modelo, os dados de treinamento, o limite de implementação, o design da interface ou a política de escalonamento podem ter moldado o resultado muito antes da aprovação final.

Uma resposta séria à ética em IA de Gabriele Caccia rastrearia a responsabilidade por todo o sistema. Ela não procuraria um único funcionário para absorver a culpa após uma falha.

Essa abordagem também protege usos benéficos da automação. Ferramentas de baixo risco não precisam dos mesmos controles que sistemas que afetam tratamento médico, emprego, liberdade ou força física.

A governança baseada em risco permite que as organizações apliquem requisitos mais rigorosos onde os erros têm consequências mais graves. Ela evita tratar a formatação de texto e a seleção de alvos letais como formas equivalentes de uso de IA.

A contribuição do Vaticano é identificar um patamar moral abaixo dessas distinções técnicas. Algumas responsabilidades devem permanecer visivelmente humanas, mesmo quando a automação se torna mais rápida ou mais precisa.

Os Princípios Morais Ainda Precisam de Regras Aplicáveis

A crítica mais forte à posição de Caccia não é que ela exige demais, mas que deixa às instituições a decisão sobre o que significa conformidade.

O painel de Georgetown reconheceu essa limitação. Magnifica Humanitas oferece orientação moral sem prescrever um pacote detalhado de leis, normas técnicas ou mecanismos de fiscalização.

Essa abertura favorece o diálogo entre fronteiras políticas e religiosas. Ela também cria espaço para concordância simbólica sem mudança operacional.

Quase todas as empresas podem endossar a dignidade humana, a responsabilização e a justiça. As questões mais difíceis envolvem limites de teste, acesso a auditorias, direitos de recurso, documentação e responsabilidade legal.

Quem deve avaliar um modelo de alto impacto antes de sua implantação? Quem pode inspecionar seus dados e desempenho? Que evidência deve chegar a uma pessoa afetada por sua decisão?

As instituições também precisam de regras para recursos. Um revisor humano não pode corrigir uma injustiça se a pessoa afetada nunca souber que a automação influenciou o resultado.

O significado de “irreversível” também exige precisão. Uma decisão sobre armas é um exemplo evidente, mas o atraso em um tratamento médico também pode causar danos que nenhum recurso posterior repara.

A triagem de candidatos a emprego pode gerar efeitos duradouros quando os modelos excluem repetidamente as mesmas comunidades. Sistemas de segurança podem restringir deslocamentos ou desencadear investigações antes que alguém verifique suas premissas.

A fronteira moral de Caccia só se torna útil quando as organizações identificam essas consequências antes da implantação. Isso exige uma avaliação de impacto vinculada ao ambiente operacional real.

A precisão técnica não pode servir como única medida. As equipes devem examinar falsos positivos, falsos negativos, impactos desiguais entre grupos, uso indevido previsível e as consequências de correções tardias.

Elas também devem testar o fluxo de trabalho ao redor do sistema. Um bom modelo inserido em um processo apressado, opaco ou orientado por incentivos ainda pode produzir resultados irresponsáveis.

Outro desafio envolve divergências sobre valores. Os seres humanos não compartilham uma única estrutura moral completa, e as comunidades frequentemente atribuem pesos diferentes à justiça, autonomia, segurança e eficiência.

A encíclica reconhece esse problema ao alertar contra permitir que um pequeno grupo de proprietários de tecnologia defina a infraestrutura moral da IA. Ainda assim, uma participação ampla pode desacelerar decisões e deixar conflitos sem resolução.

Essa tensão não invalida a proposta. Ela mostra por que uma voz moral não pode substituir instituições democráticas, padrões legais, deveres profissionais ou avaliação técnica.

O raciocínio religioso pode articular limites e direcionar a atenção para pessoas marginalizadas. Reguladores devem traduzir essas preocupações em deveres que tribunais e órgãos públicos possam aplicar.

Organismos de padronização podem definir práticas de teste e documentação. Pesquisadores independentes podem examinar se os sistemas implantados têm o desempenho alegado.

Trabalhadores e comunidades afetadas também devem ter canais para relatar danos. Suas evidências podem revelar falhas que os testes de benchmark nunca capturam.

O teste cético, portanto, é concreto. A linguagem do Vaticano mudará contratos de aquisição, decisões de risco em nível de conselho, requisitos de engenharia ou políticas públicas?

Se não mudar, a “IA centrada no ser humano” corre o risco de se tornar mais um rótulo flexível. As organizações poderiam citar o princípio enquanto preservam o mesmo fluxo de trabalho automatizado.

A posição de Caccia não deve ser julgada pelo número de líderes que a elogiam. Ela deve ser julgada por sua capacidade de tornar a responsabilidade identificável antes que o dano ocorra.

O Lucro do Vale do Silício É o Adversário Não Declarado

O alerta de Caccia desafia uma cultura de implantação que trata a demanda do mercado e a capacidade técnica como razões suficientes para automatizar.

A integrante do painel Jasmine Sun disse ter se surpreendido com a atenção recebida por Magnifica Humanitas entre pessoas que trabalham no Vale do Silício e no setor de IA.

Ela atribuiu esse interesse à percepção de que o motivo do lucro não é suficiente. Essa observação identificou o adversário prático por trás do vocabulário moral do painel.

As empresas enfrentam pressão para lançar produtos, aumentar a produtividade, conquistar usuários e justificar grandes investimentos em infraestrutura. Esses incentivos recompensam capacidades visíveis e adoção rápida.

Os custos de uma decisão prejudicial frequentemente recaem sobre outras pessoas. Um candidato rejeitado, um paciente classificado incorretamente, uma comunidade sob vigilância ou um civil próximo de um alvo arca com consequências que as métricas de produto talvez não capturem.

Essa separação cria um problema de governança. A instituição que recebe ganhos de eficiência nem sempre arca com o custo social integral do erro.

Sistemas de IA podem aprofundar o desequilíbrio porque escalam decisões rapidamente. Uma política falha pode afetar milhares de pessoas antes que investigadores reconheçam um padrão.

A automação também dá a decisões questionáveis uma aparência científica. Classificações e pontuações de probabilidade podem ocultar premissas contestadas sob uma precisão numérica.

A “voz moral” do Vaticano desafia essa aparência. Ela pergunta quem escolheu o objetivo, quais interesses foram representados e quem tem autoridade para contestar o resultado.

Molly Kinder, outra integrante do painel de Georgetown, contrapôs ideias católicas sobre o trabalho às narrativas tecnológicas que prometem liberdade em relação ao trabalho. Sua observação dizia respeito a mais do que números de emprego.

O trabalho também oferece identidade, relações sociais, poder de barganha e participação em instituições compartilhadas. Substituir tarefas altera essas relações, mesmo quando a produtividade agregada melhora.

Essa preocupação não deve se transformar em uma defesa generalizada de todos os empregos existentes. A automação pode eliminar trabalhos perigosos, repetitivos ou inacessíveis e criar novos serviços valiosos.

A questão está em quem controla a transição. Os trabalhadores raramente recebem a mesma influência que os executivos que decidem onde e como implantar um sistema.

A estrutura de Caccia insere essas escolhas distributivas na ética da IA. Um sistema não serve ao bem comum apenas porque aumenta a produção.

O mesmo teste se aplica ao trabalho do conhecimento. Sistemas generativos podem resumir documentos, apoiar pesquisas, redigir comunicações e ajudar pessoas a recuperar informações.

Esses usos continuam sendo materialmente diferentes de delegar a autoridade final sobre emprego, saúde, segurança ou força física. O contexto e as consequências devem determinar o nível de supervisão.

Para desenvolvedores, isso significa recusar uma definição universal de automação aceitável. Cada produto precisa de uma explicação clara sobre as decisões que influencia e as pessoas que assumem o risco.

Para compradores empresariais, significa perguntar mais do que se um modelo tem bom desempenho durante uma demonstração. Os compradores precisam de procedimentos para incidentes, evidências de auditoria, caminhos de escalonamento e responsabilização contratual.

Para os trabalhadores, a questão é se a IA continua sendo uma ferramenta que eles podem questionar. Um sistema se torna mais perigoso quando rejeitar sua sugestão gera penalidades profissionais ou organizacionais.

O argumento de Gabriele Caccia sobre ética em IA, em última análise, desafia o poder, não a computação. Ele pergunta se as instituições usam a IA para auxiliar pessoas responsáveis ou para tornar a responsabilidade mais difícil de localizar.

Três Sinais Mostrarão se a Voz Moral Importa

O próximo teste é verificar se a linguagem moral produz controles visíveis em sistemas militares, decisões civis de alto impacto e governança tecnológica.

O primeiro sinal é o avanço rumo ao controle humano aplicável sobre armas autônomas letais e seleção de alvos apoiada por IA.

Discussões internacionais frequentemente aceitam que os humanos devem manter o controle sobre o uso da força. A questão decisiva é se os Estados definem esse controle por meio de regras vinculantes, procedimentos revisáveis e responsabilidade clara na cadeia de comando.

Observe requisitos que preservem tempo suficiente para julgamento, identifiquem oficiais responsáveis e restrinjam sistemas que selecionem ou engajem alvos sem intervenção significativa.

Se essas medidas avançarem, o argumento de Caccia ganhará força institucional. Se os governos preservarem garantias vagas, a lacuna de responsabilização permanecerá.

O segundo sinal é se sistemas de saúde, emprego, crédito e segurança receberão mecanismos de recurso utilizáveis.

Um recurso significativo deve informar a pessoa afetada de que a automação influenciou a decisão. Deve fornecer uma justificativa compreensível e encaminhar o caso a um revisor humano com poder para agir.

As organizações também devem monitorar reversões. Uma alta taxa de recursos bem-sucedidos pode revelar dados defeituosos, limites inadequados ou uma incompatibilidade entre o modelo e seu ambiente de implantação.

Se reguladores e compradores exigirem essas salvaguardas, o princípio moral se tornará operacional. Se a divulgação continuar fraca, a supervisão humana poderá existir principalmente no papel.

O terceiro sinal é se a nova comissão de IA do Vaticano publicará orientações concretas para instituições e profissionais.

Orientações úteis distinguiriam a assistência de baixo risco da delegação de alto impacto. Elas também descreveriam a responsabilidade entre desenvolvedores, fornecedores, executivos, implementadores e profissionais da linha de frente.

A comissão poderia agregar valor conectando princípios morais a aquisições, avaliações de impacto, consulta a trabalhadores, auditorias e reparação.

Sua eficácia dependerá da especificidade. Outra declaração geral sobre dignidade humana reforçaria a mensagem, mas deixaria a implementação sem solução.

Este debate importa até para leitores fora de instituições religiosas. Caccia formulou uma questão que toda organização que adota IA terá de responder em algum momento.

Quando um sistema influencia uma decisão com consequências relevantes, quem entende seus limites, quem pode rejeitar sua saída e quem assume a responsabilidade pelo resultado?

Essas perguntas devem ser feitas antes da implantação, não depois de uma falha pública. Desenvolvedores podem documentar limites, compradores podem exigir evidências e usuários podem resistir a fluxos de trabalho que ocultam a responsabilização.

O alerta de Gabriele Caccia sobre ética em IA terá importância se mudar essas decisões. O próximo passo é examinar os sistemas de IA ao seu redor e identificar onde o julgamento humano continua sendo real.