La regulación de la IA del papa León XIV sitúa el riesgo de la IA en el centro de su pontificado
El papa León XIV ha elevado el riesgo de la IA de una preocupación ética recurrente a una prioridad definitoria de su pontificado, pese a que los gobiernos siguen divididos sobre normas globales vinculantes. La campaña de regulación de la IA del papa León XIV aborda ahora la vigilancia, la manipulación, las armas autónomas, los costes ambientales y la concentración del poder tecnológico.
Su última intervención tuvo lugar el 24 de septiembre de 2026, durante una reunión con la Pontificia Academia de las Ciencias en el Vaticano. León reconoció los posibles beneficios de la IA, incluidos los descubrimientos médicos y sistemas alimentarios y energéticos más sólidos. Después advirtió que estos sistemas también pueden facilitar la discriminación, los ciberataques y armas que operan sin una supervisión humana adecuada.
Ese equilibrio importa. León no sostiene que la inteligencia artificial deba desaparecer. Cuestiona la premisa de que la capacidad técnica y la demanda del mercado proporcionen justificación suficiente para su despliegue.
El Vaticano no puede aprobar leyes nacionales sobre tecnología ni obligar a una empresa a modificar sus modelos. Sin embargo, puede influir en una red global de gobiernos, universidades, instituciones religiosas y grupos de la sociedad civil. León utiliza ese alcance para presentar la gobernanza de la IA como una cuestión de autoridad humana, y no como un mero ejercicio de cumplimiento normativo.
Esto crea la tensión central de su campaña. Los desarrolladores de IA prometen progreso científico, productividad y un acceso más amplio al conocimiento. El Vaticano pregunta quién sigue siendo responsable cuando esos mismos sistemas afectan al empleo, la información pública, la guerra y decisiones antes reservadas al juicio humano.
La regulación de la IA del papa León XIV es ahora un programa papal
León ha convertido un conjunto de advertencias éticas en un programa institucional sostenido centrado en la gobernanza de la IA.
En su discurso del 24 de septiembre, León dijo a los científicos que el avance tecnológico debe ir acompañado de una mayor responsabilidad. Identificó la vigilancia, la manipulación, la discriminación, las capacidades cibernéticas y las armas autónomas como riesgos específicos.
También vinculó la IA con la presión ambiental. Los sistemas actuales requieren cantidades considerables de electricidad, agua, infraestructura informática y materias primas. Estos costes complican la afirmación de que el progreso de la IA es únicamente una cuestión de software.
El discurso siguió a varias intervenciones anteriores. León habló públicamente por primera vez sobre la IA durante los primeros días de su pontificado, según informaciones sobre riesgos de la IA publicadas por Reuters. Después, el asunto apareció repetidamente en sus declaraciones sobre trabajo, comunicación, paz y dignidad humana.
La campaña se volvió mucho más concreta en mayo. León publicó su primera encíclica, la categoría más autorizada de documento de enseñanza papal, sobre los desafíos creados por la inteligencia artificial. Esta decisión convirtió la IA en un tema central de su pontificado temprano, en lugar de una cuestión secundaria de política tecnológica.
El documento, Magnifica Humanitas, sitúa la IA dentro de la larga tradición de la doctrina social católica. Examina el trabajo, la desigualdad, el poder político, la fuerza militar, la integridad de la información, las relaciones y la responsabilidad ambiental.
León la firmó el 15 de mayo de 2026, exactamente 135 años después de que el papa León XIII publicara Rerum Novarum. Aquella encíclica anterior respondió a la agitación provocada por la industrialización, incluido el trabajo inseguro, la pobreza y la distribución desigual del poder económico.
La referencia histórica otorga un claro significado político al nombre y la agenda de León XIV. Su argumento es que la IA representa otra transformación industrial que exige que las instituciones defiendan a las personas cuyos intereses los mercados podrían pasar por alto.
Un día después de la firma, el Vaticano anunció una comisión sobre IA que involucra a varios departamentos. El mandato de la comisión citaba el uso acelerado de la IA, sus efectos sobre la humanidad y la preocupación de la Iglesia por la dignidad de cada persona.
Estos pasos distinguen la campaña de León de un discurso aislado. Ahora existe un importante documento doctrinal, una estructura interna de gobernanza, mensajes públicos reiterados y un diálogo directo con científicos y líderes tecnológicos.
Por tanto, el esfuerzo de regulación de la IA del papa León XIV se entiende mejor como un programa. Su influencia dependerá de si esos principios se convierten en normas prácticas fuera del Vaticano.
Por qué el riesgo de la IA se convirtió en una cuestión de autoridad humana
La preocupación central del Vaticano no es si las máquinas se vuelven inteligentes, sino si las personas ceden decisiones que conllevan responsabilidad moral.
Muchos debates sobre la gobernanza de la IA comienzan con el rendimiento de los modelos. Los responsables políticos preguntan si un sistema es preciso, seguro, explicable o resistente a la manipulación. Los desarrolladores se centran en evaluaciones, salvaguardias y las condiciones bajo las cuales un modelo debería rechazar una solicitud.
León parte de otra pregunta: ¿Qué decisiones nunca deberían delegarse, incluso cuando un sistema automatizado parece competente?
Esta distinción resulta más clara en su tratamiento de las armas autónomas. Estos sistemas pueden identificar, rastrear o atacar objetivos con distintos niveles de participación humana. La definición abarca una amplia gama técnica, pero el problema ético se vuelve agudo cuando una máquina influye en una decisión letal irreversible.
La posición de León es que la responsabilidad humana no puede convertirse en una verificación ceremonial. Una persona debe conservar un control significativo y seguir siendo responsable de las consecuencias.
El mismo principio se aplica fuera de la guerra. Un algoritmo utilizado en la contratación puede clasificar candidatos sin comprender la historia social incorporada en sus datos de entrenamiento. Un sistema predictivo puede influir en el acceso a seguros, crédito, vivienda, educación o servicios públicos.
La aprobación humana no resuelve automáticamente el problema. Las personas pueden volverse excesivamente dependientes de recomendaciones automatizadas, especialmente cuando un sistema parece cuantitativo y objetivo. Revisar una puntuación generada por ordenador puede convertirse en una formalidad en lugar de un juicio genuino.
León también ha advertido contra la delegación de decisiones que pertenecen a la conciencia humana. Este lenguaje amplía el debate más allá del sesgo técnico. Pregunta si la automatización cambia la manera en que las instituciones entienden la responsabilidad.
Si un hospital, empleador, unidad militar u oficina gubernamental culpa a un algoritmo, resulta difícil localizar la rendición de cuentas. El desarrollador puede culpar al implementador. El implementador puede remitirse al modelo. Un directivo puede señalar la política, mientras que la persona afectada tiene dificultades para impugnar cualquier decisión individual.
Esta preocupación explica por qué el Vaticano trata la IA como algo más que otra herramienta industrial. Una máquina en una fábrica sustituye o ayuda al trabajo físico. Un sistema generativo o predictivo puede mediar el lenguaje, la evidencia, la memoria y el juicio.
Estas funciones están estrechamente vinculadas a los procesos mediante los que las personas forman opiniones y toman decisiones colectivas. Un modelo no necesita inteligencia a nivel humano para influir en lo que creen los usuarios. Solo necesita suficiente alcance, credibilidad y personalización.
El enfoque del Vaticano en la dignidad también cuestiona las medidas puramente económicas del progreso. Un despliegue puede aumentar la producción mientras debilita el control de los trabajadores, incrementa la vigilancia o reduce las oportunidades de desarrollo humano.
Eso no vuelve irrelevante la productividad. Significa que la productividad no puede ser la única medida para determinar si una tecnología beneficia a la sociedad.
Este marco ejerce presión sobre las organizaciones que adquieren sistemas de IA, no solo sobre las empresas que los construyen. Los empleadores siguen decidiendo dónde entra la automatización en un flujo de trabajo. Los gobiernos eligen qué decisiones reciben apoyo algorítmico. Las escuelas determinan cuándo la IA ayuda al aprendizaje y cuándo sustituye el esfuerzo necesario para aprender.
El desafío de León es exigente porque niega a cada participante una excusa fácil. Los desarrolladores no pueden alegar neutralidad. Los clientes no pueden tratar la adquisición como una externalización moral. Los usuarios no pueden asumir que la conveniencia elimina la responsabilidad.
El principal conflicto es la velocidad corporativa frente al control público
El principal adversario de León no es la IA en sí, sino un modelo de desarrollo que avanza más rápido que las instituciones públicas responsables.
El mercado global de la IA recompensa la velocidad. Las empresas compiten por capacidad informática, talento de ingeniería, distribución, contratos empresariales y atención del consumidor. Cada nueva capacidad anima a los rivales a lanzar su propia versión o arriesgarse a perder posición en el mercado.
Esa competencia genera beneficios. La iteración rápida puede mejorar la traducción, la accesibilidad, la investigación médica, el desarrollo de software y el análisis científico. También puede reducir el tiempo disponible para las pruebas y el escrutinio público.
El Vaticano observa un problema estructural al dejar la supervisión en manos de las mismas organizaciones que compiten por obtener ventaja. Una empresa puede publicar principios de seguridad, contratar investigadores y probar sus sistemas. Sin embargo, sigue enfrentando presión comercial para lanzar productos, atraer capital y defender su cuota de mercado.
Esto no significa que todo compromiso corporativo con la seguridad sea insincero. Significa que la gobernanza voluntaria opera dentro de incentivos que pueden cambiar rápidamente.
Los ejecutivos tecnológicos han advertido cada vez más sobre los riesgos de la IA avanzada. Reuters informó de que líderes vinculados con Anthropic, OpenAI y xAI respaldaron llamados recientes para ralentizar desarrollos peligrosos. Su preocupación aproxima a partes de la industria a la evaluación de riesgos del Vaticano.
La coincidencia es importante, pero no elimina el desacuerdo. Una empresa podría favorecer salvaguardias que preserven su capacidad para desarrollar modelos grandes. El marco del Vaticano también pregunta quién controla esos modelos, quién se beneficia y quién absorbe sus costes sociales.
Son cuestiones de poder, no solo de ingeniería de seguridad.
La cuestión de la concentración se vuelve más marcada porque los principales sistemas de IA requieren enormes recursos. Su entrenamiento y funcionamiento pueden depender de chips avanzados, grandes centros de datos, investigadores especializados y acceso a amplios conjuntos de datos.
Solo un número limitado de empresas y gobiernos puede reunir estos recursos a la mayor escala. Sus decisiones técnicas pueden entonces influir en millones de usuarios y organizaciones a través de las fronteras.
León sostiene que la tecnología refleja prioridades a través de lo que mide, ignora, clasifica y optimiza. Esa visión rechaza la idea de que un sistema de IA sea moralmente neutral hasta que alguien lo use deliberadamente de forma indebida.
Las decisiones de diseño comienzan mucho antes. Los equipos eligen objetivos, material de entrenamiento, límites de seguridad, idiomas compatibles, parámetros de evaluación y tasas de fallo aceptables. Los líderes de producto deciden si el sistema debe maximizar la interacción, reducir trabajo, recomendar contenido o asistir a un juicio profesional.
Los gobiernos enfrentan su propio problema de velocidad. Las normas nacionales requieren tiempo para redactarse, debatirse, aprobarse y aplicarse. Los productos de IA pueden llegar a usuarios internacionales en cuestión de semanas. Las empresas también pueden ubicar infraestructura y entidades legales en varias jurisdicciones.
El cardenal Pietro Parolin, principal diplomático del Vaticano, ha sostenido que los países no pueden regular la IA por sí solos. La tecnología cruza fronteras mediante servicios en la nube, modelos abiertos, flujos de datos, alianzas de investigación y cadenas de suministro globales.
Por ello, la campaña del Papa León XIV por la regulación de la IA favorece la coordinación internacional. Considera que la supervisión nacional fragmentada resulta insuficiente para sistemas desarrollados en un país, alojados en otro y utilizados en todo el mundo.
Esa ambición enfrenta resistencia política. Los gobiernos difieren en materia de privacidad, libertad de expresión, autonomía militar, política industrial y el papel del Estado. También temen que reglas estrictas puedan debilitar a las empresas nacionales frente a competidores extranjeros.
El Vaticano puede describir una base moral compartida, pero no puede resolver esos conflictos por decreto. Su influencia depende de que pueda convertir principios amplios en coaliciones que respalden reglas específicas.
Las armas autónomas exponen el dilema más difícil
La IA militar transforma un debate abstracto sobre la rendición de cuentas en una pregunta directa sobre quién puede autorizar la muerte.
La advertencia de León sobre las armas autónomas es la parte más contundente de su postura porque la consecuencia no puede revertirse. Una recomendación equivocada en un flujo de trabajo de oficina a veces puede corregirse. Un ataque letal no.
Los sistemas militares modernos ya utilizan automatización para navegación, vigilancia, reconocimiento de objetivos, logística, ciberseguridad y respuestas defensivas. La intervención humana varía según la plataforma, la misión y las reglas de enfrentamiento.
El desafío normativo no se resuelve simplemente incorporando a una persona al proceso. Un control humano significativo requiere tiempo, información, autoridad y comprensión técnica suficientes para cuestionar el resultado de la máquina.
Un operador meramente nominal puede enfrentarse a una intensa presión para aceptar una recomendación automatizada. El sistema puede procesar más datos de sensores de los que cualquier persona podría revisar. Un campo de batalla también puede exigir decisiones en cuestión de segundos.
Estas condiciones generan sesgo de automatización: la tendencia a confiar en una recomendación informática incluso cuando es incompleta o incorrecta. Cuanto más rápido se vuelve el entorno, más difícil resulta mantener un juicio humano independiente.
La preocupación de León también abarca la escalada. Los sistemas cibernéticos habilitados por IA, las plataformas de vigilancia y las armas autónomas pueden interactuar de formas imprevisibles. Una clasificación errónea o una entrada manipulada podría activar una respuesta antes de que los líderes políticos comprendan lo sucedido.
La respuesta del Vaticano es exigir límites éticos más estrictos y una gobernanza internacional. La primera encíclica de León declaró que las decisiones letales irreversibles no deberían confiarse a sistemas de IA. El llamamiento a la regulación también instó a los desarrolladores a priorizar el bien común por encima del beneficio.
Los críticos pueden cuestionar razonablemente si esta postura es lo bastante precisa desde el punto de vista técnico. La “IA” abarca sistemas con niveles muy distintos de autonomía, previsibilidad y supervisión humana. Una advertencia moral general no indica a los planificadores militares cómo clasificar cada plataforma.
Tampoco existe un consenso global sobre las definiciones. Los Estados pueden describir sistemas similares con términos diferentes o afirmar que la supervisión humana sigue siendo suficiente. La verificación es difícil porque el software puede cambiar sin modificaciones visibles en el arma física.
Estas limitaciones no debilitan la cuestión de fondo. Muestran por qué es difícil traducirla en una política exigible.
Un marco viable necesitaría umbrales claros. Tendría que definir qué funciones de selección de objetivos requieren control humano, qué información debe recibir un operador y cómo se asigna la responsabilidad a lo largo de la cadena de mando.
También requeriría auditorías e informes de incidentes. Sin evidencia sobre despliegues reales, los gobiernos no pueden distinguir entre salvaguardas significativas y etiquetas tranquilizadoras.
La misma lógica se aplica a los sistemas civiles de alto riesgo. La atención sanitaria, la justicia penal, el empleo y los servicios financieros necesitan límites definidos para la automatización. La revisión humana debe ofrecer una vía real de corrección.
La postura de León ofrece un principio, no una norma técnica completa. Las decisiones irreversibles o sensibles a la dignidad requieren una agencia humana que se mantenga informada, activa y responsable.
Por tanto, la respuesta más sólida de los ingenieros no es desestimar al Vaticano por su falta de especificidad tecnológica. Es demostrar cómo el diseño de productos, la documentación, la supervisión y los procedimientos de escalada preservan esa capacidad de decisión en la práctica.
Lo que las advertencias de León sobre la IA no resuelven
La autoridad moral puede moldear el debate, pero no puede sustituir las definiciones técnicas, las facultades de aplicación ni la negociación democrática.
La intervención del Vaticano contiene una limitación institucional evidente. La Santa Sede puede convocar a expertos e influir en la opinión pública, pero la mayoría de los sistemas de IA operan bajo leyes nacionales y control corporativo.
Sus principios deben atravesar instituciones con intereses contrapuestos. Los legisladores afrontan presiones de grupos de interés y electorales. Los reguladores trabajan con personal e información limitados. Las empresas poseen una experiencia técnica de la que los gobiernos a menudo carecen.
La encíclica también abarca una amplia gama de preocupaciones. Trata la desinformación, el trabajo, la desigualdad, los sistemas militares, el impacto ambiental, las relaciones humanas y la concentración de poder. Esa amplitud crea una visión moral coherente, pero puede desdibujar las diferencias entre los mecanismos de política pública.
Las reglas para las armas autónomas no se parecerán a los informes energéticos para centros de datos. Una exigencia de divulgación para medios sintéticos no resolverá la discriminación en la contratación. La política de competencia no puede sustituir las pruebas de seguridad de los modelos.
Cada problema necesita una norma medible, una institución responsable y una solución cuando se produce un daño.
La expresión “regulación sólida” también deja sin resolver decisiones importantes. La regulación puede exigir transparencia, restringir determinados usos, imponer responsabilidad jurídica, crear sistemas de licencias o prohibir por completo un despliegue.
Estas herramientas implican distintas compensaciones. Los costes excesivos de cumplimiento pueden favorecer a las empresas más grandes, porque pueden permitirse equipos jurídicos y auditorías. Las reglas débiles de información pueden generar documentos sin modificar el comportamiento.
La coordinación global presenta otra dificultad. Los acuerdos internacionales funcionan mejor cuando los gobiernos comparten definiciones y pueden verificar el cumplimiento. El software de IA puede copiarse, modificarse y desplegarse mediante infraestructuras difíciles de observar.
Los sistemas militares añaden un nivel adicional de secreto. Los Estados pueden evitar divulgaciones que revelen capacidades operativas. La rivalidad estratégica puede entonces llevar a cada gobierno a considerar la moderación como una desventaja.
El Vaticano también debe mostrar cómo se aplican sus recomendaciones dentro de las instituciones católicas. Escuelas, hospitales, organizaciones benéficas, universidades y diócesis se enfrentan cada vez más a productos de IA. Sus prácticas de adquisición y empleo pueden poner a prueba si los principios de la Iglesia producen decisiones operativas.
Por ejemplo, una universidad podría utilizar IA para evaluar solicitudes, supervisar exámenes o apoyar la investigación. Un hospital podría introducir documentación automatizada o apoyo a la decisión clínica. Cada uso plantea preguntas distintas sobre consentimiento, precisión, privacidad y revisión.
La práctica interna haría más creíble la postura del Vaticano. Criterios de evaluación publicados, normas de adquisición y procedimientos ante incidentes podrían demostrar cómo es una gobernanza de IA centrada en las personas.
El argumento ambiental requiere una especificidad similar. León identifica correctamente las demandas de energía, agua, emisiones y recursos. Sin embargo, el impacto de un servicio de IA varía según el modelo, la fuente de electricidad, el hardware, la ubicación y el patrón de uso.
Una medición transparente haría esta crítica más aplicable. Los desarrolladores y operadores de centros de datos podrían informar sobre el uso de energía y agua con metodologías coherentes. Los clientes podrían entonces comparar la eficiencia junto con el precio y el rendimiento.
Existe un riesgo final de concentrar el debate en escenarios extremos. Las advertencias sobre un apocalipsis de IA atraen atención, pero los daños actuales merecen el mismo escrutinio. La discriminación, el fraude, la vigilancia de trabajadores, los consejos poco fiables y la manipulación de la información ya afectan a las personas.
Un programa de gobernanza creíble debe conectar el riesgo catastrófico a largo plazo con esos fallos presentes. De lo contrario, las instituciones podrían debatir una superinteligencia hipotética mientras pasan por alto sistemas desplegados hoy.
La contribución más sólida de León es su insistencia en que ambos niveles pertenecen al mismo problema moral. La incertidumbre sobre las capacidades futuras no justifica ignorar los daños actuales. Las limitaciones actuales no justifican desestimar riesgos mayores.
Tres señales mostrarán si la campaña importa
La prueba es si el marco moral de León produce normas, alianzas y cambios medibles más allá de los discursos del Vaticano.
La primera señal es el trabajo de la Comisión Interdicasterial sobre Inteligencia Artificial. La comisión puede convertir los principios amplios de la encíclica en directrices para las instituciones católicas y la participación internacional.
Los resultados concretos incluirían criterios para sistemas de alto riesgo, reglas de adquisición, requisitos de revisión humana, divulgaciones ambientales o restricciones sobre aplicaciones específicas. Las declaraciones generales mantendrían visible la campaña, pero dejarían incierto su significado operativo.
Unas normas internas claras reforzarían el argumento de León. Mostrarían que el Vaticano está dispuesto a aplicar sus principios a sus propias escuelas, hospitales, comunicaciones y sistemas administrativos.
La segunda señal es el avance sobre las armas autónomas. León ha situado la toma de decisiones letales cerca del centro de su agenda sobre IA, lo que convierte la gobernanza militar en una prueba decisiva de credibilidad.
Habrá que observar si los gobiernos respaldan definiciones más precisas de control humano significativo. Las propuestas deberían especificar cómo reciben información los operadores, cuánta autoridad conservan y quién asume la responsabilidad tras un fallo.
Cualquier compromiso internacional que implique auditorías, informes o restricciones al despliegue reforzaría el juicio del Vaticano de que la presión moral puede moldear la política. La dependencia continuada de principios vagos expondría los límites de esa presión.
La tercera señal es la respuesta de las empresas de IA. La participación en reuniones privadas o diálogos públicos es útil, pero los compromisos operativos importan más.
Los desarrolladores pueden publicar evaluaciones de riesgos más rigurosas, explicar las limitaciones de los modelos e informar de incidentes graves. También pueden aclarar cómo los usuarios siguen siendo responsables cuando los sistemas influyen en el empleo, la atención sanitaria, la seguridad o la información pública.
Las empresas deben ser juzgadas según si esas salvaguardas resisten la presión competitiva. Una política que desaparece durante una carrera de productos nunca fue un control fiable.
Estas señales también importan a los trabajadores del conocimiento habituales. La IA ayuda cada vez más a las personas a resumir documentos, buscar conocimiento organizacional, escribir software, preparar decisiones y comunicarse con clientes.
Las ganancias de productividad son reales, pero los usuarios aún deben verificar las fuentes y conservar el control sobre las decisiones con consecuencias importantes. Una respuesta fluida puede ser errónea. Una recomendación pulida puede ocultar evidencia faltante o un objetivo inadecuado.
Los equipos deberían documentar dónde entra la IA en un flujo de trabajo e identificar a la persona responsable de la decisión final. También deberían crear una vía de revisión para cualquier persona afectada por una recomendación automatizada.
Este enfoque refleja la parte más sólida del marco de regulación de IA del Papa León XIV. La supervisión humana no debería significar colocar el nombre de una persona junto a un resultado automatizado. Debería significar preservar la capacidad de comprender, cuestionar, corregir y rechazar ese resultado.
León ya ha logrado convertir la IA en un tema central de su papado. Su encíclica, comisión, divulgación científica y llamamientos internacionales forman una campaña coherente, en lugar de una reacción pasajera.
La tarea más difícil empieza ahora. El lenguaje moral debe convertirse en requisitos técnicos, reglas de adquisición, límites exigibles y evidencia de que las instituciones cambiaron su comportamiento.
Los desarrolladores, los responsables de políticas públicas y los compradores empresariales deberían seguir de cerca esas tres señales. ¿Publica el Vaticano normas prácticas? ¿Definen los gobiernos el control humano sobre las armas? ¿Mantienen las empresas de IA sus compromisos de seguridad cuando se intensifica la competencia?
Las respuestas determinarán si la campaña de León se convierte en una influencia duradera en la gobernanza de la IA o queda como una advertencia inusualmente destacada. La cuestión central ya no es si la inteligencia artificial merece supervisión. Es si las instituciones preservarán una autoridad humana significativa antes de que la automatización haga difícil recuperarla.
