교황 레오 14세의 AI 규제 추진, 교황 재임의 중심 의제로 떠오른 AI 위험

교황 레오 14세는 구속력 있는 글로벌 규칙을 두고 각국 정부의 의견이 여전히 엇갈리는 가운데, 반복적으로 제기되던 윤리적 우려였던 AI 위험을 교황 재임을 규정하는 핵심 과제로 격상했다. 교황 레오 14세의 AI 규제 캠페인은 이제 감시, 조작, 자율무기, 환경 비용, 기술 권력의 집중을 다룬다.

그의 가장 최근 개입은 2026년 9월 24일 바티칸에서 열린 교황청 과학원 회의에서 나왔다. 레오 교황은 의학적 발견과 더 강력한 식량·에너지 시스템을 비롯한 AI의 잠재적 이점을 인정했다. 이어 그는 이러한 시스템이 차별, 사이버 공격, 그리고 충분한 인간 감독 없이 작동하는 무기를 지원할 수도 있다고 경고했다.

이 균형은 중요하다. 레오 교황은 인공지능이 사라져야 한다고 주장하는 것이 아니다. 그는 기술적 역량과 시장 수요만으로 배포를 정당화하기에 충분하다는 가정에 이의를 제기하고 있다.

바티칸은 국가 기술법을 제정하거나 기업에 모델 변경을 강제할 수는 없다. 그러나 정부, 대학, 종교 기관, 시민사회 단체로 이루어진 글로벌 네트워크에 영향을 미칠 수는 있다. 레오 교황은 이 영향력을 활용해 AI 거버넌스를 좁은 규정 준수 업무가 아니라 인간의 권한에 관한 문제로 규정하고 있다.

이것이 그의 캠페인 이면의 핵심 긴장을 만든다. AI 개발자들은 과학적 진보, 생산성, 지식 접근성 확대를 약속한다. 바티칸은 같은 시스템이 고용, 공공 정보, 전쟁, 그리고 한때 인간의 판단에 맡겨졌던 결정에 영향을 미칠 때 누가 책임을 지는지 묻는다.

교황 레오 14세의 AI 규제는 이제 교황청의 프로그램이 됐다

레오 교황은 개별적인 윤리 경고들을 AI 거버넌스에 초점을 맞춘 지속적인 제도적 프로그램으로 전환했다.

레오 교황은 9월 24일 연설에서 과학자들에게 기술 발전에는 더 큰 책임이 수반돼야 한다고 말했다. 그는 감시, 조작, 차별, 사이버 역량, 자율무기를 구체적 위험으로 지목했다.

그는 또한 AI를 환경 부담과 연결했다. 현재의 시스템은 상당한 전력, 물, 컴퓨팅 인프라, 원자재를 필요로 한다. 이러한 비용은 AI 발전이 단지 소프트웨어 문제일 뿐이라는 주장에 복잡성을 더한다.

이 연설에 앞서 여러 차례의 개입이 있었다. Reuters가 보도한 AI 위험 관련 기사에 따르면, 레오 교황은 교황 재임 초기부터 AI를 공개적으로 논의했다. 이후 이 문제는 노동, 소통, 평화, 인간 존엄성에 관한 그의 발언에서 반복적으로 등장했다.

이 캠페인은 5월에 훨씬 더 구체화됐다. 레오 교황은 인공지능이 만들어낸 도전을 주제로, 교황 가르침 문서 가운데 가장 권위 있는 범주인 첫 회칙을 발표했다. 이 선택으로 AI는 부차적인 기술 정책 문제가 아니라 그의 초기 교황 재임의 중심 주제가 됐다.

Magnifica Humanitas라는 이 문서는 AI를 가톨릭 사회 교리의 오랜 전통 안에 위치시킨다. 노동, 불평등, 정치 권력, 군사력, 정보의 무결성, 관계, 환경적 책임을 다룬다.

레오 교황은 교황 레오 13세가 Rerum Novarum을 발표한 지 정확히 135년이 되는 2026년 5월 15일에 이 문서에 서명했다. 그 이전 회칙은 불안전한 노동, 빈곤, 경제 권력의 불평등한 분배를 포함한 산업화의 격변에 대응한 것이었다.

이 역사적 참조는 레오 14세의 이름과 의제에 분명한 정치적 의미를 부여한다. 그의 주장은 AI가 시장이 간과할 수 있는 사람들의 이익을 제도들이 보호해야 하는 또 하나의 산업적 전환을 의미한다는 것이다.

서명 다음 날, 바티칸은 여러 부서가 참여하는 AI 위원회를 발표했다. 위원회의 권한은 AI 사용의 가속화, 인류에 미치는 영향, 모든 사람의 존엄성에 대한 교회의 관심을 언급했다.

이러한 움직임은 레오 교황의 캠페인을 일회성 연설과 구분 짓는다. 이제 주요 교리 문서, 내부 거버넌스 구조, 반복적인 대외 메시지, 과학자와 기술 지도자들과의 직접적인 교류가 존재한다.

따라서 교황 레오 14세의 AI 규제 노력은 하나의 프로그램으로 이해하는 것이 가장 적절하다. 그 영향력은 이러한 원칙들이 바티칸 밖에서 실질적인 기준으로 자리 잡는지에 달려 있다.

AI 위험이 인간의 권한에 관한 문제가 된 이유

바티칸의 핵심 우려는 기계가 지능을 갖게 되는지 여부가 아니라, 사람들이 도덕적 책임이 따르는 결정을 포기하는지 여부다.

많은 AI 거버넌스 논의는 모델 성능에서 시작한다. 정책 입안자들은 시스템이 정확하고, 안전하며, 설명 가능하고, 조작에 강한지 묻는다. 개발자들은 평가, 안전장치, 그리고 모델이 요청을 거절해야 하는 조건에 집중한다.

레오 교황은 다른 질문에서 출발한다. 자동화 시스템이 유능해 보이더라도 절대로 위임해서는 안 되는 결정은 무엇인가?

이 구분은 자율무기에 대한 그의 논의에서 가장 분명하게 드러난다. 이러한 시스템은 인간의 개입 수준이 다양한 상태에서 표적을 식별, 추적 또는 공격할 수 있다. 이 정의는 폭넓은 기술적 범위를 포괄하지만, 기계가 되돌릴 수 없는 치명적 결정에 영향을 미칠 때 윤리적 문제는 심각해진다.

레오 교황의 입장은 인간의 책임이 형식적인 확인 절차로 전락해서는 안 된다는 것이다. 사람은 의미 있는 통제권을 유지하고 결과에 대한 책임도 져야 한다.

같은 원칙은 전쟁 밖에서도 적용된다. 채용에 사용되는 알고리즘은 훈련 데이터에 내재한 사회적 역사를 이해하지 못한 채 지원자의 순위를 매길 수 있다. 예측 시스템은 보험, 신용, 주거, 교육 또는 공공 서비스 접근에 영향을 미칠 수 있다.

인간의 승인이 자동으로 문제를 해결하지는 않는다. 특히 시스템이 정량적이고 객관적으로 보일 때 사람들은 자동화된 추천에 과도하게 의존할 수 있다. 컴퓨터가 생성한 점수를 검토하는 일은 진정한 판단이 아니라 형식 절차가 될 수 있다.

레오 교황은 인간의 양심에 속하는 결정을 위임하는 것에 대해서도 경고했다. 이 표현은 논쟁을 기술적 편향 너머로 확장한다. 자동화가 제도들이 책임을 이해하는 방식을 바꾸는지 묻는 것이다.

병원, 고용주, 군 부대 또는 정부 기관이 알고리즘을 탓하면 책임의 소재를 찾기 어려워진다. 개발자는 배포자를 탓할 수 있다. 배포자는 모델을 내세울 수 있다. 관리자는 정책을 가리킬 수 있고, 영향을 받은 사람은 어떤 개별 결정에도 이의를 제기하기 어려워진다.

이 우려는 바티칸이 AI를 또 하나의 산업 도구 이상으로 취급하는 이유를 설명한다. 공장의 기계는 육체노동을 대체하거나 보조한다. 생성형 또는 예측 시스템은 언어, 증거, 기억, 판단을 매개할 수 있다.

이러한 기능은 사람들이 의견을 형성하고 집단적 결정을 내리는 과정과 밀접하게 맞닿아 있다. 모델이 사용자의 믿음에 영향을 미치기 위해 인간 수준의 지능을 가질 필요는 없다. 충분한 도달 범위, 신뢰성, 개인화만 있으면 된다.

바티칸이 존엄성에 초점을 맞추는 것은 순전히 경제적인 진보의 척도에도 이의를 제기한다. 어떤 배포는 생산량을 늘리는 동시에 노동자의 통제력을 약화시키고, 감시를 강화하거나, 인간 발전의 기회를 줄일 수 있다.

그렇다고 생산성이 중요하지 않다는 뜻은 아니다. 생산성만으로 기술이 사회에 이로운지를 판단하는 유일한 기준이 될 수 없다는 의미다.

이 프레임워크는 AI 시스템을 만드는 기업뿐 아니라 이를 구매하는 조직에도 압박을 가한다. 고용주는 자동화가 업무 흐름의 어디에 들어갈지를 여전히 결정한다. 정부는 어떤 결정이 알고리즘 지원을 받을지 선택한다. 학교는 AI가 학습을 보조하는 때와 학습에 필요한 노력을 대체하는 때를 결정한다.

레오 교황의 도전은 모든 참여자에게 손쉬운 변명을 허용하지 않기에 까다롭다. 개발자는 중립성을 주장할 수 없다. 고객은 조달을 도덕적 책임의 외주화로 취급할 수 없다. 사용자는 편의성이 책임을 없앤다고 가정할 수 없다.

핵심 충돌은 기업의 속도와 공적 통제 사이에 있다

레오 교황의 주된 상대는 AI 자체가 아니라, 책임 있는 공공기관보다 더 빠르게 움직이는 개발 모델이다.

글로벌 AI 시장은 속도에 보상한다. 기업들은 컴퓨팅 역량, 엔지니어링 인재, 유통, 기업 계약, 소비자의 관심을 두고 경쟁한다. 새로운 역량이 나올 때마다 경쟁사들은 자체 버전을 출시하거나 시장 지위를 잃을 위험에 놓인다.

이 경쟁은 이점도 만든다. 빠른 반복은 번역, 접근성, 의학 연구, 소프트웨어 개발, 과학 분석을 개선할 수 있다. 동시에 테스트와 공적 검증에 쓸 수 있는 시간을 줄일 수도 있다.

바티칸은 감독을 경쟁 우위를 다투는 바로 그 조직들에 맡기는 데 구조적 문제가 있다고 본다. 기업은 안전 원칙을 발표하고, 연구자를 고용하며, 시스템을 시험할 수 있다. 그러나 여전히 제품 출시, 자본 유치, 시장 점유율 방어를 위한 상업적 압박에 직면한다.

이는 모든 기업의 안전 약속이 불성실하다는 의미는 아니다. 자발적 거버넌스는 빠르게 변할 수 있는 인센티브 안에서 작동한다는 뜻이다.

기술 경영진들도 첨단 AI 위험에 대해 점점 더 직접 경고하고 있다. Reuters는 Anthropic, OpenAI, xAI와 관련된 지도자들이 위험한 개발 속도를 늦추라는 최근의 요구를 지지했다고 보도했다. 이들의 우려는 산업계 일부를 바티칸의 위험 평가에 더 가깝게 만든다.

이러한 공통점은 중요하지만, 견해 차이를 없애지는 않는다. 기업은 대규모 모델 개발 능력을 보존하는 안전장치를 선호할 수 있다. 바티칸의 프레임워크는 누가 그러한 모델을 통제하고, 누가 이익을 얻으며, 누가 사회적 비용을 떠안는지도 묻는다.

이는 안전 엔지니어링만이 아니라 권력에 관한 질문이다.

선도적인 AI 시스템에는 막대한 자원이 필요하기 때문에 집중 문제는 더욱 선명해진다. 이들을 훈련하고 운영하려면 첨단 칩, 대규모 데이터센터, 전문 연구자, 방대한 데이터세트에 대한 접근이 필요할 수 있다.

가장 큰 규모로 이러한 요소를 갖출 수 있는 기업과 정부는 제한적이다. 이들의 기술적 선택은 국경을 넘어 수백만 명의 사용자와 조직에 영향을 미칠 수 있다.

레오 교황은 기술이 무엇을 측정하고, 무시하고, 분류하고, 최적화하는지를 통해 우선순위를 드러낸다고 주장한다. 이 견해는 누군가 의도적으로 오용하기 전까지 AI 시스템은 도덕적으로 중립적이라는 생각을 거부한다.

설계 결정은 훨씬 더 이른 단계에서 시작된다. 팀은 목표, 훈련 자료, 안전 경계, 지원 언어, 평가 기준, 허용 가능한 실패율을 선택한다. 제품 책임자는 시스템이 참여도를 극대화할지, 노동을 줄일지, 콘텐츠를 추천할지, 전문적 판단을 보조할지를 결정한다.

정부도 자체적인 속도 문제에 직면한다. 국가 규칙은 초안 작성, 토론, 제정, 집행에 시간이 걸린다. AI 제품은 수주 안에 국제 사용자에게 도달할 수 있다. 기업은 여러 관할권에 걸쳐 인프라와 법인을 배치할 수도 있다.

바티칸의 수석 외교관인 피에트로 파롤린 추기경은 국가들이 단독으로 AI를 규제할 수 없다고 주장해 왔다. 이 기술은 클라우드 서비스, 오픈 모델, 데이터 흐름, 연구 파트너십, 글로벌 공급망을 통해 국경을 넘는다.

따라서 교황 레오 14세의 AI 규제 캠페인은 국제적 공조를 지지한다. 한 국가에서 개발되고, 다른 국가에서 호스팅되며, 전 세계에서 사용되는 시스템에는 분절된 국가별 감독만으로 충분하지 않다고 본다.

그러나 이 같은 목표에는 정치적 저항이 따른다. 각국 정부는 프라이버시, 표현의 자유, 군사 자율성, 산업 정책, 국가의 역할을 두고 견해가 다르다. 엄격한 규칙이 자국 기업의 해외 경쟁력 약화로 이어질 수 있다는 우려도 있다.

바티칸은 공통의 도덕적 토대를 제시할 수는 있지만, 선언만으로 그러한 갈등을 해소할 수는 없다. 그 영향력은 폭넓은 원칙을 구체적 규칙을 지지하는 연대로 전환할 수 있는지에 달려 있다.

자율무기가 가장 어려운 선택의 문제를 드러낸다

군사용 AI는 추상적인 책임성 논의를 누가 죽음을 승인할 수 있는지에 관한 직접적인 질문으로 바꾼다.

레오가 자율무기에 대해 경고하는 대목은 그 결과를 되돌릴 수 없다는 점에서 그의 주장 중 가장 강력하다. 사무 업무 흐름에서 잘못된 추천은 때로 바로잡을 수 있다. 하지만 치명적 공격은 그렇지 않다.

현대 군사 시스템은 이미 항법, 감시, 표적 식별, 물류, 사이버 보안, 방어 대응에 자동화를 활용한다. 인간의 개입 정도는 플랫폼, 임무, 교전 규칙에 따라 달라진다.

정책 과제는 단순히 프로세스에 사람 한 명을 붙인다고 해결되지 않는다. 의미 있는 인간 통제에는 기계의 결과물에 이의를 제기할 수 있는 충분한 시간, 정보, 권한, 기술적 이해가 필요하다.

명목상의 운용자는 자동화된 추천을 수용하라는 강한 압박에 직면할 수 있다. 시스템은 개인이 검토할 수 있는 양을 넘어서는 센서 데이터를 처리할 수 있다. 전장에서는 수초 안에 결정을 내려야 할 수도 있다.

이런 조건은 불완전하거나 틀린 경우에도 컴퓨터화된 추천을 신뢰하려는 경향인 자동화 편향을 낳는다. 환경이 빨라질수록 독립적인 인간 판단은 더욱 어려워진다.

레오의 우려는 확전에도 미친다. AI 기반 사이버 시스템, 감시 플랫폼, 자율무기는 예측할 수 없는 방식으로 상호작용할 수 있다. 잘못된 분류나 조작된 입력은 정치 지도자들이 무슨 일이 일어났는지 파악하기도 전에 대응을 촉발할 수 있다.

바티칸의 대응은 더 엄격한 윤리적 한계와 국제 거버넌스를 요구하는 것이다. 레오의 첫 회칙은 되돌릴 수 없는 치명적 결정을 AI 시스템에 맡겨서는 안 된다고 선언했다. 규제 촉구는 개발자들에게 이익보다 공동선을 우선하라고도 요구했다.

비판자들은 이 입장이 기술적으로 충분히 정밀한지 합리적으로 의문을 제기할 수 있다. “AI”는 자율성, 예측 가능성, 인간 감독 수준이 크게 다른 시스템들을 포괄한다. 포괄적인 도덕적 경고만으로는 군사 계획 담당자에게 모든 플랫폼을 어떻게 분류해야 하는지 알려주지 못한다.

정의에 대한 세계적 합의도 없다. 국가는 유사한 시스템을 서로 다른 용어로 설명하거나 인간 감독이 여전히 충분하다고 주장할 수 있다. 소프트웨어는 물리적 무기에 눈에 보이는 변경 없이도 바뀔 수 있어 검증이 어렵다.

이러한 한계가 근본적인 질문을 약화시키지는 않는다. 오히려 그 질문을 집행 가능한 정책으로 옮기는 일이 왜 어려운지를 보여준다.

작동 가능한 프레임워크에는 명확한 기준선이 필요하다. 어떤 표적 선정 기능에 인간 통제가 요구되는지, 운용자가 어떤 정보를 받아야 하는지, 지휘 체계 전반에서 책임이 어떻게 이어지는지를 정의해야 한다.

감사와 사고 보고도 필요하다. 실제 배치에 대한 증거가 없다면 정부는 의미 있는 보호장치와 안심을 주는 표지를 구분할 수 없다.

같은 논리는 민간의 고위험 시스템에도 적용된다. 의료, 형사 사법, 고용, 금융 서비스에는 자동화의 명확한 경계가 필요하다. 인간 검토는 실질적인 시정 경로를 제공해야 한다.

레오의 입장은 원칙이지 완전한 기술 표준은 아니다. 되돌릴 수 없거나 존엄성에 민감한 결정에는 정보에 기반하고, 능동적이며, 책임을 지는 인간의 주체성이 필요하다.

따라서 엔지니어가 취할 가장 강력한 대응은 바티칸이 기술적으로 구체성이 부족하다며 일축하는 것이 아니다. 제품 설계, 문서화, 모니터링, 에스컬레이션 절차가 실제로 그 주체성을 어떻게 보존하는지 보여주는 일이다.

교황 레오의 AI 경고가 해결하지 못하는 것

도덕적 권위는 논의를 형성할 수 있지만, 기술적 정의, 집행 권한, 민주적 협상을 대체할 수는 없다.

바티칸의 개입에는 분명한 제도적 한계가 있다. 교황청은 전문가를 소집하고 여론에 영향을 미칠 수 있지만, 대부분의 AI 시스템은 국가 법률과 기업의 통제 아래 운영된다.

그 원칙은 이해관계가 충돌하는 제도를 거쳐야 한다. 입법부는 로비와 선거 압력에 직면한다. 규제기관은 제한된 인력과 정보로 운영된다. 기업은 정부에 부족한 경우가 많은 기술 전문성을 보유하고 있다.

회칙은 광범위한 우려도 다룬다. 허위정보, 노동, 불평등, 군사 시스템, 환경 영향, 인간관계, 권력 집중을 포괄한다. 이러한 폭은 일관된 도덕적 비전을 만들지만, 정책 수단 간 차이를 흐릴 수 있다.

자율무기 규칙은 데이터센터 에너지 보고와 닮지 않을 것이다. 합성 미디어의 공개 의무가 채용 차별을 해결하지는 못한다. 경쟁 정책도 모델 보안 테스트를 대체할 수 없다.

각 문제에는 측정 가능한 기준, 책임 있는 기관, 피해가 발생했을 때의 구제 수단이 필요하다.

“강력한 규제”라는 표현 역시 중요한 선택을 미결 상태로 남긴다. 규제는 투명성을 요구하고, 특정 사용을 제한하며, 책임을 부과하고, 인허가 제도를 만들거나, 배치를 완전히 금지할 수 있다.

이들 수단에는 서로 다른 절충이 수반된다. 과도한 준수 비용은 법무팀과 감사를 감당할 수 있는 대기업에 유리하게 작용할 수 있다. 허술한 보고 규칙은 행동을 바꾸지 못한 채 문서만 늘릴 수 있다.

글로벌 공조는 또 다른 어려움을 안고 있다. 국제 협정은 정부들이 정의를 공유하고 준수를 검증할 수 있을 때 가장 잘 작동한다. AI 소프트웨어는 복제, 수정, 배치가 가능하며, 관찰하기 어려운 인프라를 통해 운영될 수 있다.

군사 시스템은 추가적인 비밀주의를 낳는다. 국가는 작전 능력을 드러낼 수 있는 공개를 피할 수 있다. 전략적 경쟁은 각 정부가 자제를 불리한 조건으로 여기도록 부추길 수 있다.

바티칸은 그 권고가 가톨릭 기관 내부에서 어떻게 적용되는지도 보여줘야 한다. 학교, 병원, 자선단체, 대학, 교구는 AI 제품을 점점 더 자주 접하고 있다. 이들의 조달과 고용 관행은 교회의 원칙이 실제 운영 결정으로 이어지는지 시험할 수 있다.

예를 들어 대학은 AI를 활용해 지원서를 평가하고, 시험을 감독하거나, 연구를 지원할 수 있다. 병원은 자동화된 문서화나 임상 의사결정 지원을 도입할 수 있다. 각각의 사용은 동의, 정확성, 프라이버시, 검토에 관한 서로 다른 질문을 제기한다.

내부 관행은 바티칸의 입장을 더욱 신뢰할 수 있게 만들 것이다. 공개된 평가 기준, 조달 표준, 사고 절차는 인간 중심 AI 거버넌스가 어떤 모습인지 보여줄 수 있다.

환경 논의에도 비슷한 구체성이 필요하다. 레오는 에너지, 물, 배출량, 자원 수요를 정확히 지적한다. 하지만 AI 서비스의 영향은 모델, 전력원, 하드웨어, 위치, 사용 패턴에 따라 달라진다.

투명한 측정은 이 비판을 더 실행 가능하게 만들 것이다. 개발자와 데이터센터 운영자는 일관된 방법론에 따라 에너지 및 물 사용량을 보고할 수 있다. 그러면 고객은 가격과 성능뿐 아니라 효율성도 비교할 수 있다.

논의를 극단적 시나리오에 집중시키는 마지막 위험도 있다. AI 종말에 대한 경고는 관심을 끌지만, 현재의 피해 역시 똑같이 면밀한 검토를 받아야 한다. 차별, 사기, 노동자 감시, 신뢰할 수 없는 조언, 정보 조작은 이미 사람들에게 영향을 미치고 있다.

신뢰할 수 있는 거버넌스 프로그램은 장기적 재앙 위험을 이러한 현재의 실패와 연결해야 한다. 그렇지 않으면 기관들은 오늘 배치된 시스템을 간과한 채 가상의 초지능을 논쟁할 수 있다.

레오의 가장 강력한 기여는 두 수준이 같은 도덕적 문제에 속한다고 주장한 데 있다. 미래 역량을 둘러싼 불확실성은 현재의 피해를 무시할 근거가 되지 않는다. 현재의 한계 역시 더 큰 위험을 일축할 근거가 되지 않는다.

이 캠페인의 의미를 보여줄 세 가지 신호

시험대는 레오의 도덕적 프레임워크가 바티칸 연설을 넘어 표준, 연대, 측정 가능한 변화를 만들어 내는지 여부다.

첫 번째 신호는 인공지능 교황청 부처 간 위원회의 활동이다. 이 위원회는 회칙의 폭넓은 원칙을 가톨릭 기관과 국제적 참여를 위한 지침으로 전환할 수 있다.

구체적인 결과물에는 고위험 시스템 기준, 조달 규칙, 인간 검토 요건, 환경 공개, 특정 애플리케이션에 대한 제한이 포함될 수 있다. 일반적 선언은 캠페인의 가시성을 유지하겠지만, 그 운영상 의미는 불분명하게 남긴다.

명확한 내부 표준은 레오의 주장을 강화할 것이다. 이는 바티칸이 자신의 학교, 병원, 커뮤니케이션, 행정 시스템에도 원칙을 적용할 의지가 있음을 보여줄 것이다.

두 번째 신호는 자율무기 분야의 움직임이다. 레오는 치명적 의사결정을 AI 의제의 중심 가까이에 놓았고, 이에 따라 군사 거버넌스는 결정적인 신뢰성 시험대가 됐다.

정부들이 의미 있는 인간 통제에 관한 더 명확한 정의를 지지하는지 지켜봐야 한다. 제안은 운용자가 어떻게 정보를 받는지, 어느 정도의 권한을 유지하는지, 실패 이후 누가 책임을 지는지를 명시해야 한다.

감사, 보고 또는 배치 제한을 포함하는 국제적 약속은 도덕적 압력이 정책을 형성할 수 있다는 바티칸의 판단을 뒷받침할 것이다. 모호한 원칙에 계속 의존한다면 그 압력의 한계가 드러날 것이다.

세 번째 신호는 AI 기업의 대응이다. 비공개 회의나 공개 대화에 참여하는 것은 유용하지만, 운영상의 약속이 더 중요하다.

개발자는 더 강력한 위험 평가를 공개하고, 모델의 한계를 설명하며, 심각한 사고를 보고할 수 있다. 또한 시스템이 고용, 의료, 보안, 공공 정보에 영향을 미칠 때 사용자가 어떻게 책임을 유지하는지 명확히 할 수 있다.

기업은 그러한 보호장치가 경쟁 압력 속에서도 유지되는지로 평가받아야 한다. 제품 경쟁 중 사라지는 정책은 처음부터 신뢰할 수 있는 통제가 아니었다.

이 신호들은 일반 지식 노동자에게도 중요하다. AI는 점점 더 문서 요약, 조직 지식 검색, 소프트웨어 작성, 의사결정 준비, 고객과의 소통을 돕고 있다.

생산성 향상은 실재하지만, 사용자는 여전히 출처를 검증하고 중요한 선택에 대한 통제권을 유지해야 한다. 유창한 답변도 틀릴 수 있다. 세련된 추천은 누락된 증거나 부적절한 목표를 숨길 수 있다.

팀은 AI가 업무 흐름의 어디에 들어오는지 문서화하고 최종 결정에 책임을 질 사람을 지정해야 한다. 또한 자동화된 추천의 영향을 받는 누구에게나 검토 경로를 만들어야 한다.

이 접근은 교황 레오 14세 AI 규제 프레임워크의 가장 강력한 부분을 반영한다. 인간 감독은 자동화된 결과 옆에 사람의 이름을 적는 것을 뜻해서는 안 된다. 그 결과를 이해하고, 이의를 제기하며, 바로잡고, 거부할 능력을 보존하는 것을 의미해야 한다.

레오는 이미 AI를 자신의 교황 재임 기간의 주요 의제로 만드는 데 성공했다. 그의 회칙, 위원회, 과학계와의 교류, 국제적 촉구는 일시적 반응이 아니라 일관된 캠페인을 이룬다.

더 어려운 과제는 지금 시작된다. 도덕적 언어는 기술 요건, 조달 규칙, 집행 가능한 한계, 그리고 기관들이 행동을 바꾸었다는 증거로 전환되어야 한다.

개발자, 정책입안자, 기업 구매 담당자는 이 세 가지 신호를 면밀히 지켜봐야 한다. 바티칸은 실질적인 기준을 발표할 것인가? 각국 정부는 무기에 대한 인간의 통제를 어떻게 정의할 것인가? AI 기업들은 경쟁이 치열해질 때에도 안전 약속을 지킬 것인가?

이러한 답은 레오의 캠페인이 AI 거버넌스에 지속적인 영향을 미칠지, 아니면 유난히 주목받은 경고로 남을지를 결정할 것이다. 핵심 질문은 더 이상 인공지능에 감독이 필요한지 여부가 아니다. 자동화로 인해 그러한 권한을 되찾기 어려워지기 전에 기관들이 의미 있는 인간의 권한을 지켜낼 수 있는지가 문제다.