教皇レオ14世のAI規制推進、AIリスクを教皇職の中心課題に
教皇レオ14世は、各国政府が拘束力のある世界的ルールをめぐってなお分裂するなか、AIリスクを繰り返し取り上げられてきた倫理的懸念から、教皇職を特徴づける優先課題へと引き上げた。教皇レオ14世によるAI規制の取り組みは現在、監視、操作、自律兵器、環境コスト、技術的権力の集中を対象としている。
直近の介入は、2026年9月24日にバチカンで開かれた教皇庁科学アカデミーとの会合で行われた。レオは、医学的発見や、より強靱な食料・エネルギーシステムを含むAIの潜在的な利点を認めた。そのうえで、こうしたシステムが差別、サイバー攻撃、十分な人間の監督なしに作動する兵器にも利用され得ると警告した。
このバランスは重要だ。レオは人工知能をなくすべきだと主張しているわけではない。技術的な能力や市場の需要だけで導入を正当化できるという前提に異議を唱えている。
バチカンは各国の技術法を制定したり、企業にモデルの変更を強制したりはできない。しかし、政府、大学、宗教機関、市民社会団体からなる世界的なネットワークに影響を及ぼすことはできる。レオはその影響力を用い、AIガバナンスを狭義のコンプライアンス業務ではなく、人間の権限に関わる問題として位置づけている。
ここに、この取り組みを支える中心的な緊張関係がある。AI開発者は科学的進歩、生産性、知識へのアクセス拡大を約束する。バチカンは、同じシステムが雇用、公共情報、戦争、そしてかつて人間の判断に委ねられていた意思決定に影響を及ぼすとき、誰が責任を負い続けるのかを問うている。
教皇レオ14世のAI規制は、いまや教皇の政策プログラムとなった
レオは個別の倫理的警告を、AIガバナンスに焦点を当てた継続的な制度的プログラムへと転換した。
9月24日の演説で、レオは科学者たちに対し、技術の進歩にはより大きな責任が伴わなければならないと語った。監視、操作、差別、サイバー能力、自律兵器を具体的なリスクとして挙げた。
また、AIを環境負荷とも結びつけた。現在のシステムには、大量の電力、水、コンピューティング・インフラ、原材料が必要となる。こうしたコストは、AIの進歩が単なるソフトウェアの問題にすぎないという見方を複雑にする。
この演説に先立ち、複数の発言があった。Reutersが公表したAIリスクに関する報道によると、レオは教皇職の開始直後からAIについて公に語っていた。その後、この問題は労働、コミュニケーション、平和、人間の尊厳に関する発言のなかで繰り返し取り上げられた。
この取り組みは5月に、より具体的なものとなった。レオは、人工知能が生み出す課題をテーマに、自身初の回勅を発布した。回勅は教皇文書のなかでも最も権威ある区分であり、この選択によってAIは副次的な技術政策上の問題ではなく、教皇職初期の中心テーマとなった。
文書であるMagnifica Humanitasは、AIをカトリック社会教説の長い伝統の中に位置づけている。労働、不平等、政治権力、軍事力、情報の完全性、人間関係、環境への責任を扱う。
レオは2026年5月15日、教皇レオ13世がRerum Novarumを発布してからちょうど135年後に、この文書へ署名した。先の回勅は、危険な労働、貧困、経済的権力の不平等な分配を含む、産業化による激変に応答したものだった。
この歴史的な参照は、レオ14世の名と政策課題に明確な政治的意味を与えている。AIは、市場が見落としかねない人々の利益を守るために制度が対応を迫られる、もう一つの産業変革だというのが彼の主張である。
署名の翌日、バチカンは複数の部局が参加するAI委員会を発表した。同委員会の権限には、AI利用の加速、人類への影響、そしてあらゆる人の尊厳に対する教会の関心が盛り込まれた。
これらの動きにより、レオの取り組みは一度きりの演説とは区別される。現在では主要な教義文書、内部ガバナンスの枠組み、繰り返される公的発信、科学者や技術分野のリーダーとの直接的な関与がある。
したがって、教皇レオ14世によるAI規制の取り組みは、プログラムとして理解するのが最も適切だ。その影響力は、これらの原則がバチカンの外で実務的な基準となるかどうかにかかっている。
なぜAIリスクは人間の権限を問う問題になったのか
バチカンの中心的な懸念は、機械が知能を持つかどうかではなく、人々が道徳的責任を伴う意思決定を手放してしまうかどうかにある。
AIガバナンスをめぐる議論の多くは、モデルの性能から始まる。政策立案者は、システムが正確か、安全か、説明可能か、操作に強いかを問う。開発者は評価、保護策、モデルが要求を拒否すべき条件に焦点を当てる。
レオは別の問いから出発する。自動化されたシステムが有能に見える場合であっても、決して委ねるべきではない判断とは何か。
この違いが最も明確なのは、自律兵器の扱いである。こうしたシステムは、人間の関与の度合いに応じて、標的を特定、追跡、攻撃できる。その定義は幅広い技術領域を含むが、機械が取り返しのつかない殺傷の判断に影響を及ぼすとき、倫理的問題は深刻になる。
レオの立場では、人間の責任は形式的な確認手続きになってはならない。人は意味のある統制を維持し、その結果に対する説明責任を負わなければならない。
同じ原則は戦争以外にも当てはまる。採用に使われるアルゴリズムは、学習データに埋め込まれた社会的な履歴を理解しないまま応募者を順位付けできる。予測システムは、保険、信用、住宅、教育、公共サービスへのアクセスに影響を及ぼし得る。
人間による承認があれば自動的に問題が解決するわけではない。特にシステムが定量的で客観的に見える場合、人は自動化された推奨に過度に依存し得る。コンピューターが生成したスコアの確認は、真の判断ではなく形式的な作業になりかねない。
レオは、人間の良心に属する判断を委ねることについても警告している。この表現は、技術的なバイアスを超えて議論を広げるものだ。自動化が、制度における責任の理解をどう変えるのかを問うている。
病院、雇用主、軍部隊、政府機関がアルゴリズムを非難すれば、説明責任の所在は見つけにくくなる。開発者は導入者を責められる。導入者はモデルを引き合いに出せる。管理者は方針を指摘できる一方で、影響を受けた人は個別の判断に異議を申し立てることに苦しむ。
この懸念は、バチカンがAIを単なる産業用ツール以上のものとして扱う理由を説明している。工場の機械は肉体労働を置き換える、あるいは補助する。生成型または予測型のシステムは、言語、証拠、記憶、判断を媒介し得る。
こうした機能は、人々が意見を形成し、集団として意思決定する過程に近接している。モデルは、利用者の信念に影響を及ぼすために人間並みの知能を必要としない。十分な到達範囲、信頼性、パーソナライゼーションがあればよい。
バチカンが尊厳を重視することは、純粋に経済的な進歩の尺度にも異議を唱える。導入によって生産量が増えても、労働者の統制が弱まり、監視が増え、人間的な発展の機会が減る可能性はある。
これは、生産性が無関係だという意味ではない。生産性だけを、その技術が社会に利益をもたらすかを測る唯一の尺度にしてはならないということだ。
この枠組みは、AIシステムを構築する企業だけでなく、それを購入する組織にも圧力をかける。雇用主は、自動化をワークフローのどこに導入するかを依然として決めている。政府は、どの意思決定にアルゴリズムによる支援を与えるかを選ぶ。学校は、AIが学習を補助する場面と、学ぶために必要な努力を置き換える場面を定める。
レオの問いかけは、すべての関係者に安易な言い訳を許さないため、厳しいものだ。開発者は中立性を主張できない。顧客は調達を道徳的責任の外部委託として扱えない。利用者も、利便性が責任をなくすと考えることはできない。
主な対立は企業のスピードと公共による統制の間にある
レオの主な対抗対象はAIそのものではなく、説明責任を負う公共機関より速く進む開発モデルである。
世界のAI市場はスピードに報いる。企業は、計算能力、エンジニアリング人材、流通、企業契約、消費者の関心を競い合う。新たな能力が登場するたびに、競合他社は自社版をリリースするか、市場での地位を失うリスクを負うことになる。
この競争は利益を生む。迅速な反復は、翻訳、アクセシビリティ、医学研究、ソフトウェア開発、科学分析を改善し得る。一方で、試験や公的な精査に割ける時間を減らす可能性もある。
バチカンは、優位性を競う組織そのものに監督を委ねることに構造的な問題を見ている。企業は安全原則を公表し、研究者を採用し、システムを試験できる。それでも製品のリリース、資本の獲得、市場シェアの防衛という商業的圧力に直面する。
これは、企業の安全への取り組みがすべて不誠実だという意味ではない。自主的なガバナンスは、急速に変化し得るインセンティブのなかで機能するということだ。
技術業界の経営者たちも、先進AIのリスクについて自ら警告する場面が増えている。Reutersは、Anthropic、OpenAI、xAIに関係するリーダーたちが、危険な開発を遅らせることを求める最近の呼びかけを支持したと報じた。彼らの懸念は、業界の一部をバチカンのリスク評価に近づけている。
この重なりは重要だが、意見の相違をなくすわけではない。企業は、大規模モデルを開発する能力を維持できる保護策を支持するかもしれない。バチカンの枠組みは、そうしたモデルを誰が統制し、誰が利益を得て、誰が社会的コストを負担するのかも問う。
これらは、安全性エンジニアリングだけでなく、権力に関する問いである。
主要なAIシステムには膨大な資源が必要であるため、集中の問題はさらに先鋭化する。その訓練と運用は、先進的なチップ、大規模データセンター、専門研究者、広範なデータセットへのアクセスに依存し得る。
最大規模でこうした要素をそろえられる企業や政府は限られている。その技術的な選択は、国境を越えて何百万人もの利用者や組織に影響を与え得る。
レオは、技術は何を測定し、何を無視し、何を分類し、何を最適化するかを通じて優先順位を反映すると主張する。この見方は、AIシステムは誰かが意図的に悪用するまで道徳的に中立だという考えを退ける。
設計上の決定ははるか以前から始まっている。チームは、目的、学習材料、安全上の境界、対応言語、評価基準、許容可能な失敗率を選択する。プロダクトリーダーは、システムがエンゲージメントを最大化すべきか、労働を削減すべきか、コンテンツを推薦すべきか、専門的判断を支援すべきかを決める。
政府も独自のスピードの問題に直面する。国のルールは、起草、審議、制定、執行までに時間がかかる。AI製品は数週間のうちに国際的な利用者へ届き得る。企業は、インフラや法人を複数の法域にまたがって配置することもできる。
バチカンの首席外交官であるピエトロ・パロリン枢機卿は、各国が単独でAIを規制することはできないと主張している。この技術は、クラウドサービス、オープンモデル、データの流れ、研究提携、世界的なサプライチェーンを通じて国境を越える。
したがって、教皇レオ14世のAI規制キャンペーンは国際協調を重視している。ある国で開発され、別の国でホストされ、世界中で利用されるシステムに対して、国ごとに分断された監督では不十分だと捉えている。
この構想には政治的な抵抗が伴う。政府ごとに、プライバシー、言論、軍事的自律性、産業政策、国家の役割に関する考え方は異なる。また、厳格な規制が国内企業を外国企業との競争で不利にすることも懸念している。
バチカンは共通の道徳的基盤を提示できるが、宣言だけでこうした対立を解消することはできない。その影響力は、広範な原則を具体的な規則を支持する連合へと転換できるかどうかにかかっている。
自律型兵器が最も困難なトレードオフを浮き彫りにする
軍事AIは、抽象的な説明責任をめぐる議論を、誰が死を許可できるのかという直接的な問いへと変える。
レオが自律型兵器について警告する点は、結果を覆すことができないため、彼の主張の中でも最も強い部分である。オフィス業務における誤った推奨は、場合によっては訂正できる。しかし、致死的な攻撃は訂正できない。
現代の軍事システムではすでに、航法、監視、標的認識、兵站、サイバーセキュリティ、防衛的対応に自動化が用いられている。人間の関与の度合いは、プラットフォーム、任務、交戦規則によって異なる。
政策上の課題は、単にプロセスに人を加えれば解決するものではない。意味のある人間の統制には、機械の出力に異議を唱えるための十分な時間、情報、権限、技術的理解が必要だ。
名目上のオペレーターは、自動化された推奨を受け入れるよう強い圧力に直面し得る。システムは、誰もが確認できる以上のセンサーデータを処理する可能性がある。戦場では、数秒以内の判断を求められることもある。
こうした条件は、不完全または誤ったコンピューターの推奨であっても信頼してしまう傾向である自動化バイアスを生む。環境の変化が速いほど、独立した人間の判断は難しくなる。
レオの懸念はエスカレーションにも及ぶ。AIを活用したサイバーシステム、監視プラットフォーム、自律型兵器は、予測不能な形で相互作用する可能性がある。誤った分類や操作された入力により、政治指導者が何が起きたのかを理解する前に対応が引き起こされるかもしれない。
バチカンの対応は、より厳格な倫理的制限と国際的なガバナンスを求めることだ。レオの最初の回勅は、取り返しのつかない致死的な判断をAIシステムに委ねるべきではないと宣言した。規制を求める訴えでも、開発者に対し利益より公益を優先するよう求めている。
批判者が、この立場は技術的に十分な精密さを欠くと疑問を呈するのはもっともだ。「AI」には、自律性、予測可能性、人間による監督の水準が大きく異なるシステムが含まれる。一律の道徳的警告だけでは、軍事計画担当者に各プラットフォームの分類方法を示せない。
定義についての世界的な合意もない。国家は似たシステムを異なる言葉で説明したり、人間による監督は依然として十分だと主張したりできる。ソフトウェアは兵器の物理的な変更を伴わずに改変できるため、検証は難しい。
これらの限界は、根本にある問いを弱めるものではない。むしろ、その問いを執行可能な政策へ落とし込むことが困難である理由を示している。
実行可能な枠組みには明確な閾値が必要となる。どの標的選定機能に人間の統制が必要か、オペレーターが受け取るべき情報は何か、責任が指揮系統をどのようにたどるのかを定義しなければならない。
監査とインシデント報告も必要だ。実際の配備に関する証拠がなければ、政府は意味のある安全策と安心感を与えるだけのラベルを区別できない。
同じ論理は、民間のハイリスクシステムにも当てはまる。医療、刑事司法、雇用、金融サービスには、自動化の明確な境界が必要である。人間によるレビューは、実質的な訂正の道筋を提供しなければならない。
レオの立場は、完全な技術標準ではなく原則を示している。取り返しのつかない、または尊厳に関わる判断には、情報を得て能動的に関与し、説明責任を負う人間の主体性が必要だ。
したがって、技術者からの最も強い応答は、バチカンを技術的に具体性を欠くとして退けることではない。製品設計、文書化、監視、エスカレーション手順によって、その主体性を実務でどう維持するかを示すことだ。
教皇レオのAI警告が解決しないこと
道徳的権威は議論を形作り得るが、技術的定義、執行権限、民主的な交渉の代わりにはならない。
バチカンの介入には、明白な制度上の限界がある。ローマ教皇庁は専門家を招集し世論に影響を与えられるが、ほとんどのAIシステムは国内法と企業の統制下で運用されている。
その原則は、利害が競合する制度を通過しなければならない。立法府はロビー活動と選挙上の圧力に直面する。規制当局は限られた人員と情報で活動する。企業は、政府にしばしば欠けている技術的専門性を有している。
回勅は広範な懸念も扱っている。誤情報、労働、不平等、軍事システム、環境への影響、人間関係、権力の集中を対象としている。この広さは一貫した道徳的ビジョンを生む一方、政策手段ごとの差異を曖昧にする可能性がある。
自律型兵器の規則は、データセンターのエネルギー報告とは似たものにならない。合成メディアの開示要件は、採用における差別を解決しない。競争政策はモデルのセキュリティ試験の代わりにはならない。
各問題には、測定可能な基準、説明責任を負う制度、そして被害が生じた際の救済手段が必要だ。
「強固な規制」という表現も、重要な選択を未解決のまま残す。規制は透明性を求め、特定の利用を制限し、責任を課し、ライセンス制度を創設し、あるいは配備を全面的に禁止することもできる。
これらの手段には異なるトレードオフがある。過剰なコンプライアンスコストは、法務チームや監査を負担できる最大手企業を有利にし得る。弱い報告ルールは、行動を変えずに文書だけを生み出す可能性がある。
グローバルな協調には別の難しさもある。国際協定は、政府が定義を共有し、遵守を検証できるときに最も機能する。AIソフトウェアはコピー、改変され、観察が難しいインフラを通じて配備され得る。
軍事システムには追加の秘密性が伴う。国家は運用能力を明らかにする開示を避ける可能性がある。戦略的な対立は、各政府に自制を不利なものとして扱わせることになり得る。
バチカンはまた、その勧告がカトリック系の機関内でどのように適用されるかを示す必要がある。学校、病院、慈善団体、大学、教区はAI製品にますます直面している。調達や雇用の実務は、教会の原則が実際の意思決定を生み出すかを試すことができる。
たとえば、大学はAIを使って出願を評価し、試験を監視し、研究を支援するかもしれない。病院は自動文書化や臨床意思決定支援を導入するかもしれない。利用ごとに、同意、正確性、プライバシー、レビューに関する異なる問題が生じる。
内部での実践は、バチカンの立場により高い信頼性を与える。公開された評価基準、調達基準、インシデント手順は、人間中心のAIガバナンスがどのようなものかを示し得る。
環境をめぐる議論にも同様の具体性が必要だ。レオはエネルギー、水、排出量、資源への需要を正しく指摘している。しかし、AIサービスの影響は、モデル、電力源、ハードウェア、場所、利用パターンによって異なる。
透明性のある測定は、この批判をより実行可能なものにする。開発者とデータセンター運営者は、一貫した手法でエネルギーと水の使用量を報告できる。顧客はそのうえで、価格や性能と並べて効率性を比較できる。
議論が極端なシナリオに集中するという最後のリスクもある。AIによる破局への警告は注目を集めるが、現在の被害も同等に精査されるべきだ。差別、詐欺、労働者監視、信頼できない助言、情報操作は、すでに人々に影響を及ぼしている。
信頼できるガバナンス・プログラムは、長期的な破局的リスクを現在の失敗と結び付けなければならない。そうでなければ、制度は今日配備されているシステムを見落としながら、仮説上の超知能を議論するかもしれない。
レオの最も強い貢献は、両方の水準が同じ道徳的問題に属すると主張している点だ。将来の能力をめぐる不確実性は、現在の被害を無視する理由にはならない。現在の限界は、より大きなリスクを退ける理由にはならない。
キャンペーンの重要性を示す三つのシグナル
試金石は、レオの道徳的枠組みがバチカンでの演説を超えて、基準、連携、測定可能な変化を生み出すかどうかである。
第一のシグナルは、人工知能に関する省庁間委員会の取り組みだ。同委員会は、回勅の広範な原則を、カトリック系機関および国際的関与のための指針に変換できる。
具体的な成果には、ハイリスクシステムの基準、調達規則、人間によるレビュー要件、環境開示、特定用途への制限が含まれる。一般的な声明はキャンペーンの可視性を保つものの、その実務上の意味を不確かなままにする。
明確な内部基準は、レオの主張を強化する。それは、バチカンが自らの学校、病院、広報、行政システムにも原則を適用する意思があることを示すだろう。
第二のシグナルは、自律型兵器をめぐる進展だ。レオは致死的な意思決定をAIアジェンダの中心近くに置いており、軍事ガバナンスは決定的な信頼性の試験となる。
政府が意味のある人間の統制について、より明確な定義を支持するかを注視すべきだ。提案は、オペレーターがどのように情報を受け取るか、どの程度の権限を保持するか、失敗後に誰が責任を負うかを具体化すべきである。
監査、報告、配備制限を伴う国際的な約束は、道徳的圧力が政策を形作り得るというバチカンの判断を裏付けるだろう。曖昧な原則への依存が続けば、その圧力の限界が露呈する。
第三のシグナルは、AI企業からの反応である。非公開会合や公開対話への参加は有用だが、実務上のコミットメントの方が重要である。
開発者は、より強固なリスク評価を公表し、モデルの限界を説明し、重大なインシデントを報告できる。また、システムが雇用、医療、セキュリティ、公共情報に影響を与える場合に、利用者がどのように責任を保持するのかを明確にできる。
企業は、競争圧力の下でもこうした安全策が維持されるかどうかで評価されるべきだ。製品競争の最中に消える方針は、もともと信頼できる統制ではなかった。
これらのシグナルは、一般のナレッジワーカーにとっても重要だ。AIは、文書の要約、組織内の知識検索、ソフトウェア作成、意思決定の準備、顧客とのコミュニケーションにおいて、人々をますます支援している。
生産性の向上は現実のものだが、利用者は依然として情報源を検証し、重要な選択に対する統制を維持する必要がある。流暢な回答は誤っている場合がある。洗練された推奨は、不足している証拠や不適切な目的を隠している場合がある。
チームは、AIがワークフローのどこに入るのかを文書化し、最終判断に責任を負う人物を特定すべきだ。また、自動化された推奨の影響を受ける人が利用できるレビューの経路を作るべきである。
このアプローチは、教皇レオ14世のAI規制の枠組みにおける最も強い部分を反映している。人間による監督とは、自動化された結果の横に人の名前を置くことではない。その結果を理解し、異議を唱え、訂正し、拒否する能力を維持することを意味すべきだ。
レオはすでに、AIを自身の教皇職における主要なテーマにすることに成功している。彼の回勅、委員会、科学界への働きかけ、国際的な訴えは、一過性の反応ではなく一貫したキャンペーンを形成している。
より困難な課題はこれから始まる。道徳的な言葉は、技術要件、調達規則、執行可能な制限、そして制度が行動を変えたことを示す証拠へと変わらなければならない。
開発者、政策立案者、企業の購買担当者は、この3つのシグナルを注意深く見守るべきだ。バチカンは実用的な基準を公表するのか。各国政府は兵器に対する人間の統制を定義するのか。AI企業は競争が激化しても安全性へのコミットメントを維持するのか。
その答えによって、レオの活動がAIガバナンスに長く影響を与えるものとなるのか、それとも異例なほど注目を集めた警告にとどまるのかが決まる。中心的な問いは、人工知能に監督が必要かどうかではもはやない。自動化によって人間の権限を取り戻すことが難しくなる前に、制度が実質的な人間の権威を維持できるかどうかである。
