教皇良十四世推动 AI 监管，将 AI 风险置于其教宗任期的核心

尽管各国政府在具约束力的全球规则上仍存在分歧，教皇良十四世已将 AI 风险从反复出现的伦理关切，提升为定义其教宗任期的优先议题。教皇良十四世的 AI 监管倡议如今涵盖监控、操纵、自主武器、环境成本以及技术权力集中等问题。

他最近一次发声是在 2026 年 9 月 24 日，于梵蒂冈会见宗座科学院期间。良十四世承认 AI 的潜在益处，包括医学发现，以及更强大的粮食和能源系统。随后他警告说，这些系统也可能助长歧视、网络攻击，以及在缺乏充分人类监督下运作的武器。

这种平衡至关重要。良十四世并非主张人工智能应当消失。他所质疑的是：技术能力和市场需求本身，是否足以构成部署这些系统的正当理由。

梵蒂冈无法通过各国的科技法律，也无法强迫企业改变其模型。但它能够影响由政府、大学、宗教机构和公民社会团体组成的全球网络。良十四世正利用这一影响力，将 AI 治理界定为人类权威的问题，而非一项狭隘的合规工作。

这构成了其倡议背后的核心张力。AI 开发者承诺带来科学进步、生产力提升和更广泛的知识获取。梵蒂冈则追问：当同一类系统影响就业、公共信息、战争，以及原本由人类判断作出的决定时，谁仍应承担责任？

教皇良十四世的 AI 监管如今已成为一项教宗计划

良十四世已将一系列伦理警告转化为一项持续推进、聚焦 AI 治理的制度性计划。

在其 9 月 24 日演讲中，良十四世告诉科学家，技术进步必须伴随着更大的责任。他点名了监控、操纵、歧视、网络能力和自主武器等具体风险。

他还将 AI 与环境压力联系起来。当前系统需要消耗大量电力、水、计算基础设施和原材料。这些成本使得“AI 进步只是软件问题”的说法变得复杂。

根据 Reuters 发布的 AI 风险报道，良十四世在其教宗任期开始的几天内首次公开谈及 AI。此后，该议题反复出现在他关于劳动、传播、和平与人的尊严的表述中。

5 月，这项倡议变得更加具体。良十四世发布了他的第一份通谕——这是教宗训导文件中权威性最高的类别——聚焦人工智能带来的挑战。这一选择使 AI 成为其早期教宗任期的核心议题，而非次要的科技政策问题。

该文件 Magnifica Humanitas 将 AI 置于天主教社会训导的悠久传统之中。它审视了劳动、不平等、政治权力、军事力量、信息完整性、人际关系和环境责任。

良十四世于 2026 年 5 月 15 日签署该文件，恰逢教皇良十三世发布《Rerum Novarum》135 周年。那份更早的通谕回应了工业化带来的动荡，包括不安全的劳动条件、贫困以及经济权力分配不均。

这一历史参照赋予良十四世的名号和议程明确的政治含义。他的论点是，AI 代表着另一场工业变革，需要由制度来保护那些市场可能忽视其利益的人。

签署后的第二天，梵蒂冈宣布成立一个涉及多个部门的 AI 委员会。该委员会的职责范围提及 AI 的加速应用、其对人类的影响，以及教会对每个人尊严的关切。

这些举措使良十四世的倡议不再只是一次性演讲。如今已有一份重要的教义文件、一套内部治理结构、反复的公开传播，以及与科学家和科技领袖的直接交流。

因此，教皇良十四世的 AI 监管努力最适合被理解为一项计划。其影响力将取决于这些原则能否在梵蒂冈之外转化为实际标准。

为何 AI 风险成为人类权威的问题

梵蒂冈最核心的担忧，不是机器是否变得智能，而是人们是否放弃了承担道德责任的决策权。

许多 AI 治理辩论都从模型表现开始。政策制定者会问，系统是否准确、安全、可解释，或能否抵御操纵。开发者则关注评估、防护措施，以及模型应在何种条件下拒绝请求。

良十四世则从另一个问题出发：即使自动化系统看似胜任，哪些决策也绝不应被委托出去？

这一差异在他对自主武器的论述中最为清晰。这类系统能够以不同程度的人类参与来识别、追踪或攻击目标。其定义涵盖广泛的技术范围，但当机器影响不可逆转的致命决定时，伦理问题便会变得尖锐。

良十四世的立场是，人类责任不能沦为形式性的检查环节。人必须保有有意义的控制权，并对后果承担责任。

同一原则也适用于战争之外。用于招聘的算法可能在不了解其训练数据中嵌入的社会历史的情况下，对求职者进行排序。预测系统可能影响个人获得保险、信贷、住房、教育或公共服务的机会。

人类批准并不能自动解决问题。人们可能会过度依赖自动化建议，尤其当系统看起来具有量化和客观性时。审查计算机生成的评分可能沦为形式，而非真正的判断。

良十四世还警告，不应委托本应属于人类良知的决策。这种表述将讨论扩展到技术偏见之外。它追问自动化是否改变了机构对责任的理解。

如果医院、雇主、军事单位或政府机构将责任归咎于算法，问责就变得难以定位。开发者可以责怪部署者，部署者可以援引模型，管理者可以指向政策，而受影响的人则难以对任何一项具体决定提出质疑。

这一担忧解释了为何梵蒂冈将 AI 视为不只是另一种工业工具。工厂中的机器会取代或辅助体力劳动。生成式或预测式系统则可以介入语言、证据、记忆和判断。

这些功能紧邻人们形成观点与作出集体决策的过程。模型不需要拥有人类水平的智能，就能影响用户相信什么。它只需要具备足够的覆盖范围、可信度和个性化能力。

梵蒂冈对尊严的关注，也质疑了纯粹以经济指标衡量进步的方式。一项部署可能提高产出，同时削弱劳动者控制权、加强监控，或减少人类发展的机会。

这并不意味着生产力无关紧要。它意味着生产力不能成为衡量一项技术是否有益于社会的唯一标准。

这一框架也对购买 AI 系统的组织施加压力，而不只是针对构建系统的企业。雇主仍然决定自动化在何处进入工作流程。政府选择哪些决策获得算法支持。学校决定 AI 何时辅助学习，以及何时取代学习所必需的努力。

良十四世的挑战要求很高，因为它拒绝给予每一位参与者轻易的借口。开发者不能声称中立。客户不能把采购视为道德外包。用户也不能假定便利性免除了责任。

核心冲突是企业速度与公共控制之间的较量

良十四世的主要对手并非 AI 本身，而是一种发展速度快于可问责公共机构的开发模式。

全球 AI 市场奖励速度。企业争夺计算能力、工程人才、分发渠道、企业合同和消费者注意力。每一项新能力都会促使竞争对手推出自己的版本，否则就可能失去市场地位。

这种竞争带来益处。快速迭代可以改善翻译、无障碍服务、医学研究、软件开发和科学分析。但它也可能压缩测试和公众审查的时间。

梵蒂冈认为，将监督留给那些争夺优势的同一批组织，存在结构性问题。企业可以发布安全原则、聘请研究人员并测试系统，但它仍面临发布产品、吸引资本和捍卫市场份额的商业压力。

这并不意味着所有企业的安全承诺都不真诚。它意味着自愿治理是在可能迅速变化的激励机制中运行的。

科技高管自身也日益警告先进 AI 风险。Reuters 报道称，与 Anthropic、OpenAI 和 xAI 相关的领导者支持近期放缓危险开发的呼吁。他们的担忧使行业中的一部分人与梵蒂冈的风险评估更为接近。

这种重叠很重要，但并未消除分歧。企业可能支持既能保留其开发大型模型能力的防护措施。梵蒂冈的框架还追问：谁控制这些模型，谁从中受益，以及谁承担其社会成本。

这些不仅是安全工程问题，更是权力问题。

由于领先的 AI 系统需要庞大资源，权力集中的问题变得更加尖锐。训练和运行这些系统可能依赖先进芯片、大型数据中心、专业研究人员，以及获取广泛数据集的能力。

只有数量有限的企业和政府能够以最大规模整合这些要素。它们的技术选择随后可能影响跨越国界的数百万用户和组织。

良十四世认为，技术通过其衡量、忽视、分类和优化的内容来反映优先事项。这一观点否定了这样一种看法：AI 系统在有人蓄意滥用之前是道德中立的。

设计决策开始得更早。团队选择目标、训练材料、安全边界、支持的语言、评估基准和可接受的失败率。产品负责人决定系统应最大化互动、减少劳动、推荐内容，还是协助专业判断。

政府也面临自身的速度问题。国家规则需要时间来起草、辩论、立法和执行。AI 产品却可在数周内触达国际用户。企业还可以将基础设施和法人实体分布在多个司法辖区。

梵蒂冈高级外交官彼得罗·帕罗林枢机主教认为，各国无法单独监管 AI。这项技术通过云服务、开放模型、数据流、研究合作与全球供应链跨越国界。

因此，教皇利奥十四世推动的 AI 监管行动倾向于国际协调。其认为，对于在一个国家开发、在另一个国家托管、并在全球范围使用的系统，碎片化的国家监管并不足够。

这一雄心面临政治阻力。各国政府在隐私、言论、军事自主性、产业政策以及国家角色方面存在分歧。它们也担心，严格规则可能削弱本国企业面对外国竞争者时的竞争力。

梵蒂冈可以阐述共同的道德基础，但无法通过宣示化解这些冲突。其影响力取决于能否将宽泛原则转化为支持具体规则的联盟。

自主武器揭示了最棘手的权衡

军事 AI 将抽象的问责辩论转化为一个直接问题：谁有权授权夺取生命。

利奥对自主武器的警告是其论点中最有力的部分，因为后果无法逆转。办公流程中出现错误建议有时还能纠正；致命打击则无法挽回。

现代军事系统已经将自动化用于导航、监视、目标识别、后勤、网络安全和防御性响应。人类参与程度因平台、任务和交战规则而异。

政策挑战并不能靠在流程中加入一个人来解决。有意义的人类控制要求人们拥有足够的时间、信息、权限和技术理解，能够质疑机器的输出。

名义上的操作员可能面临强大压力，不得不接受自动化建议。系统处理的传感器数据可能超过任何人能够审阅的范围。战场也可能要求在数秒内作出决定。

这些条件会造成自动化偏见，即即使计算机建议不完整或错误，人们仍倾向于信任它。环境节奏越快，独立的人类判断就越困难。

利奥的担忧还延伸至升级风险。AI 驱动的网络系统、监控平台和自主武器可能以不可预测的方式相互作用。错误分类或遭操纵的输入，可能在政治领导人理解发生了什么之前触发响应。

梵蒂冈的回应是要求更严格的伦理限制和国际治理。利奥的首份通谕宣称，不可逆转的致命决定不应交由 AI 系统作出。监管呼吁还敦促开发者将公共利益置于利润之上。

批评者有理由质疑，这一立场在技术层面是否足够精确。“AI”涵盖的系统在自主性、可预测性和人类监督程度上差异很大。一项笼统的道德警告无法告诉军事规划人员如何为每一种平台分类。

全球对于定义也尚无共识。各国可能以不同术语描述相似系统，或声称人类监督仍然充分。验证十分困难，因为软件可以在不对实体武器作出可见改动的情况下发生变化。

这些限制并未削弱其根本问题。它们恰恰说明了为何该问题难以转化为可执行的政策。

可行的框架需要清晰门槛。它必须界定哪些目标选择功能需要人类控制、操作员必须获得哪些信息，以及责任如何沿指挥链追溯。

它还需要审计和事件报告。若缺乏关于实际部署的证据，各国政府就无法区分有意义的保障措施与令人安心的标签。

同样的逻辑也适用于民用高风险系统。医疗保健、刑事司法、就业和金融服务需要为自动化划定明确边界。人工审查必须提供真正的纠正途径。

利奥的立场提供的是一项原则，而不是完整的技术标准。不可逆或涉及尊严的决定，需要保持知情、积极且可问责的人类能动性。

因此，工程师最有力的回应并非以梵蒂冈在技术上不够具体为由予以否定，而是展示产品设计、文档、监控和升级程序如何在实践中保留这种能动性。

教皇利奥的 AI 警告未能解决的问题

道德权威可以塑造辩论，但无法替代技术定义、执法权力或民主协商。

梵蒂冈的干预存在明显的制度局限。罗马教廷可以召集专家并影响公众舆论，但大多数 AI 系统仍在国家法律和企业控制之下运行。

其原则必须经由利益相互竞争的机构来落实。立法机构面临游说和选举压力。监管机构在人员和信息有限的情况下运作。企业拥有政府往往缺乏的技术专长。

这份通谕还涵盖广泛议题，包括虚假信息、劳动、不平等、军事系统、环境影响、人际关系和权力集中。这种广度构成了一套连贯的道德愿景，但也可能模糊不同政策机制之间的差异。

自主武器规则不会与数据中心的能源报告相似。对合成媒体的披露要求无法解决招聘歧视。竞争政策也不能取代模型安全测试。

每个问题都需要可衡量的标准、负责的机构，以及损害发生时的补救措施。

“强有力监管”这一表述同样留下重要选择未决。监管可以要求透明度、限制某些用途、施加责任、建立许可制度，或完全禁止某项部署。

这些工具涉及不同权衡。过高的合规成本可能有利于最大型企业，因为它们负担得起法律团队和审计。薄弱的报告规则则可能只产生文件，而不改变行为。

全球协调带来另一项难题。国际协议在政府共享定义并能够核查合规情况时效果最佳。AI 软件可以被复制、修改，并通过难以观察的基础设施部署。

军事系统还会带来更多保密因素。各国可能避免披露会暴露作战能力的信息。战略竞争随后可能促使每个政府将克制视为劣势。

梵蒂冈还必须展示其建议如何适用于天主教机构内部。学校、医院、慈善机构、大学和教区越来越多地接触 AI 产品。它们的采购和雇佣实践能够检验教会原则是否会转化为实际决策。

例如，一所大学可能使用 AI 评估申请、监考或辅助研究。一家医院可能引入自动化文档记录或临床决策支持。每种用途都会引发关于同意、准确性、隐私和审查的不同问题。

内部实践将使梵蒂冈的立场更具可信度。公开的评估标准、采购标准和事件处理程序，可以展示以人为本的 AI 治理是什么样子。

环境论点也需要类似的具体性。利奥正确指出了能源、水、排放和资源需求。然而，AI 服务的影响取决于模型、电力来源、硬件、地点和使用模式。

透明测量将使这一批评更具可操作性。开发者和数据中心运营商可以按照一致的方法报告能源和用水量。客户随后便可在价格和性能之外比较效率。

最后还有一种风险，即将辩论集中于极端情景。有关 AI 末日的警告很吸引关注，但当前的伤害同样值得审视。歧视、欺诈、员工监控、不可靠建议和信息操纵已经影响着人们。

可信的治理计划必须将长期灾难性风险与这些当下的失败联系起来。否则，机构可能在讨论假设性的超级智能时，忽视今天已部署的系统。

利奥最重要的贡献，是坚持认为这两个层面都属于同一个道德问题。对未来能力的不确定性，不能成为忽视当前损害的理由。当前的局限性，也不能成为轻视更大风险的理由。

三个信号将显示这场行动是否重要

检验标准在于，利奥的道德框架是否能在梵蒂冈演讲之外，产生标准、联盟和可衡量的改变。

第一个信号是人工智能跨部门委员会的工作。该委员会可以将通谕中的宽泛原则转化为面向天主教机构和国际参与的指导意见。

具体产出可包括高风险系统的判定标准、采购规则、人工审查要求、环境披露要求，或对特定应用的限制。一般性声明会让这场行动保持可见度，却会使其实际含义仍不明确。

清晰的内部标准将强化利奥的论点。这将表明梵蒂冈愿意将其原则应用于自身的学校、医院、传播和行政系统。

第二个信号是自主武器领域的进展。利奥已将致命决策置于其 AI 议程的核心位置，使军事治理成为决定性的可信度检验。

应关注各国政府是否支持更明确地定义有意义的人类控制。相关提案应具体说明操作员如何获取信息、保留多少权限，以及故障发生后由谁承担责任。

任何涉及审计、报告或部署限制的国际承诺，都将强化梵蒂冈的判断：道德压力能够塑造政策。若持续依赖模糊原则，则会暴露这种压力的局限。

第三个信号是 AI 公司的回应。参与私下会议或公开对话是有益的，但实际运营承诺更为重要。

开发者可以发布更严格的风险评估，解释模型局限性，并报告严重事件。他们还可以阐明，当系统影响就业、医疗保健、安全或公共信息时，用户如何保持责任。

应根据这些保障措施能否经受竞争压力来评判公司。一项在产品竞赛中消失的政策，从来都不是可靠的控制措施。

这些信号也与普通知识工作者有关。AI 日益帮助人们总结文件、搜索组织知识、编写软件、准备决策以及与客户沟通。

生产力提升是真实的，但用户仍需核实来源，并保留对重要选择的控制权。流畅的回答可能是错的。精心包装的建议可能掩盖缺失证据或不合适的目标。

团队应记录 AI 在何处进入工作流程，并明确对最终决定负责的人。他们还应为任何受到自动化建议影响的人建立审查途径。

这一做法体现了教皇利奥十四世 AI 监管框架中最有力的部分。人类监督不应意味着仅在自动化结果旁附上一个人的名字，而应意味着保留理解、质疑、纠正和拒绝该结果的能力。

利奥已经成功将 AI 变成其教宗任期的重要议题。他的通谕、委员会、科学界联络和国际呼吁，共同构成了一场持续行动，而非转瞬即逝的反应。

更艰巨的任务现在才开始。道德语言必须转化为技术要求、采购规则、可执行限制，以及机构已经改变行为的证据。

开发者、政策制定者和企业采购方都应密切关注这三个信号。梵蒂冈是否会发布切实可行的标准？各国政府是否会明确人类对武器的控制权？当竞争加剧时，AI 公司是否会坚守安全承诺？

这些问题的答案将决定利奥的倡议会成为 AI 治理的持久影响，还是仅仅停留为一次格外醒目的警示。核心问题已不再是人工智能是否值得受到监管，而是各类机构能否在自动化让人类权威难以恢复之前，保留真正有意义的人类主导权。