Gabriele Caccia AI 윤리 경고, 자동화에 맞선 인간의 판단을 제기하다

Gabriele Caccia 대주교는 AI 윤리에 관한 경고와 함께 분명한 한계를 제시했다. 생명, 죽음, 또는 기본권과 관련된 결정을 기계가 통제해서는 안 된다는 것이다.

교황청의 미국 외교 대표인 Caccia는 2026년 9월 9일 Georgetown University에서 연설했다. 그의 주장은 책임 있는 혁신을 촉구하는 익숙한 요구를 넘어섰다. 그는 기술적으로 가능하다는 사실이 도덕적 허용을 뜻하지는 않는다고 말했다.

Gabriele Caccia의 AI 윤리 입장은 자동화된 판단에 대한 의존이 커지는 상황에서 인간의 양심을 내세운다. 이 충돌은 이제 군사 표적 선정, 의료 접근성, 채용, 보안 및 기타 중대한 영향을 미치는 시스템에까지 이르고 있다.

그의 발언은 4개월 전 발표된 Pope Leo XIV의 회칙 Magnifica Humanitas에 기반을 뒀다. 이 문서는 계산적 결과물과 양심, 책임, 관계를 형성하는 인간의 능력을 구분한다.

그러나 Vatican의 개입에는 중요한 한계가 있다. 그 도덕적 원칙은 이례적으로 직접적이지만, 기업이나 정부를 위한 완전한 규제 프로그램을 제시하지는 않는다.

그 공백이 이 사안의 핵심을 규정한다. 교회는 명확한 인간 책임을 요구하지만, 기관들은 실질적인 인간 통제가 실제로 무엇을 필요로 하는지에 여전히 의견이 엇갈린다.

Caccia, 되돌릴 수 없는 AI 결정에 선을 긋다

Caccia의 핵심 주장은 알고리즘이 중대한 결정에 수반되는 도덕적 책임을 승계할 수 없다는 것이다.

대주교는 “AI, Catholic Social Teaching, and Pope Leo’s Invitation to Dialogue with the World”라는 제목의 Georgetown 토론에서 발언했다. 이 행사는 종교 지도자들과 기술 및 정책 분야 인사들을 한자리에 모았다.

대학의 행사 프로그램에 따르면, 토론은 인간 존엄, 경제적 변화, 공공 정책, 공동선에 초점을 맞췄다. 또한 입법자, 고용주, 시민이 AI 시스템에 무엇을 요구해야 하는지도 다뤘다.

Caccia는 도덕적 문제를 직설적으로 요약했다. 할 수 있는 모든 일이 반드시 해야 할 일은 아니라고 그는 주장했다. 사용 가능한 역량을 활용할지 선택하는 일은 여전히 인간의 도덕적 결정이라는 것이다.

이 발언은 기술 도입에서 흔히 나타나는 패턴을 거부한다. 조직들은 속도, 일관성 또는 행정 부담 감소를 약속한다는 이유로 자동화 시스템을 도입하는 경우가 많다. 윤리적 평가는 그 뒤에 이뤄진다.

Caccia는 그 순서를 뒤집었다. 기관은 판단을 위임하기 전에, 그 판단이 자동화의 정당한 범위 안에 속하는지 물어야 한다는 것이다.

그는 치명적이고 되돌릴 수 없는 결정을 가장 분명한 경계로 지목했다. 기계가 누가 살고 죽는지를 판단하는 데 관여하면, 책임의 소재는 찾기 어려워질 수 있다.

문제는 모델이 기술적으로 버튼을 누르는지 여부가 아니다. 인간이 결과에 이르는 과정을 이해하고, 승인하고, 검토하며, 그에 대한 책임을 계속 지는지 여부다.

Caccia는 우려를 무기 너머로도 확장했다. 그는 편견이 있거나 부당한 데이터를 통해 알고리즘이 의료, 고용, 보안 접근을 제한하는 우려스러운 사례들을 언급했다.

이들 시스템은 자신을 도덕적 권위자로 내세우는 경우가 드물다. 대신 지원자의 순위를 매기고, 사례를 표시하며, 거부를 권고하고, 위험을 예측하거나, 제한된 자원의 우선순위를 정한다.

각 결과물은 행정적인 것으로 보일 수 있다. 그러나 이런 결과물들이 합쳐지면 기회, 평판, 개인의 안전, 필수 서비스 접근성을 좌우한다.

따라서 Gabriele Caccia의 AI 윤리 경고는 모델의 행동만이 아니라 위임된 권한에 관한 문제다. 통계적으로 정확한 시스템도 부당한 절차 안에서 작동할 수 있다.

또한 모든 참여자가 그 결과를 다른 사람의 결정으로 취급할 때 모델은 책임을 흐릴 수 있다. 개발자는 배포자를 가리키고, 배포자는 정책을 가리키며, 직원은 소프트웨어를 가리킨다.

Caccia의 개입은 이러한 책임 분산에 이의를 제기한다. 소프트웨어가 최종 행동에 영향을 미치더라도 인간은 여전히 책임을 진다.

이 원칙이 이 이야기의 긴장감을 만든다. AI 시스템은 고영향 업무 흐름에 점점 더 진입하고 있지만, 이를 사용하는 기관들은 여전히 책임을 질 인간의 소유권을 누구에게 부여할지 어려움을 겪고 있다.

Vatican의 도덕적 목소리가 지금 등장하는 이유

Vatican은 자동화가 콘텐츠 생성에서 중대한 기관 의사결정에 영향을 미치는 단계로 이동하는 시점에 AI 논쟁에 참여하고 있다.

Caccia의 Georgetown 방문은 5월 15일 Magnifica Humanitas가 발표된 뒤 이뤄졌다. Pope Leo XIV는 회칙의 상당 부분을 인공지능과 인간 존엄의 보호에 할애했다.

이 문서는 AI가 지능과 연관된 일부 기능을 모방한다고 주장한다. AI는 체화된 경험, 양심, 개인적 책임 또는 자신의 결과물에 대한 내적 이해를 갖고 있지 않다.

이 구분은 유창한 언어가 판단력의 인상을 만들어낼 수 있기 때문에 중요하다. 시스템은 환자, 노동자, 피고인, 군인 또는 가족을 한 사람으로 이해하지 못하면서도 일관된 권고안을 낼 수 있다.

회칙은 기계가 규칙을 일관되게 적용한다는 이유만으로 도덕적 행위자가 된다는 생각을 거부한다. 도덕적 판단에는 결과에 대한 책임과 타인의 존엄을 인정하는 일이 포함된다.

회칙의 AI 윤리 프레임워크는 공정성에 대한 추상적인 호소를 넘어선다. 법적 보호장치, 독립적 감독, 정보에 기반한 사용자, 공적 참여, 식별 가능한 책임을 요구한다.

Pope Leo는 AI 개발을 필연적인 것으로 취급하지 말라고 경고한다. 그러한 프레이밍은 데이터, 인프라, 컴퓨팅 자원을 통제하는 조직이 사회의 도덕적 경계를 결정하도록 허용할 수 있다.

이러한 우려는 Caccia가 필요한 “도덕적 목소리”를 언급한 이유를 설명하는 데 도움이 된다. 기술 표준은 오류율을 측정하고, 모델 행동을 문서화하며, 보안을 시험할 수 있다. 그러나 어떤 목표가 최적화될 가치가 있는지는 독자적으로 결정할 수 없다.

예를 들어 채용 모델은 과거의 결정에 비춰 정확성을 평가할 수 있다. 하지만 그 평가는 이전 결정들이 공정했는지를 입증하지 않는다.

의료 우선순위 도구는 환자의 순위를 일관되게 매길 수 있다. 일관성만으로 그 기초 배분 규칙이 취약한 사람들을 존중하는지 판단할 수는 없다.

같은 구분은 군사 시스템에도 적용된다. 더 빠른 표적 평가는 공격이 합법적이고, 필요한지, 비례적인지, 또는 도덕적으로 정당화될 수 있는지를 답해주지 않는다.

Magnifica Humanitas는 AI를 “무장 해제”해야 할 필요성을 설명한다. 이 표현은 모든 모델을 없애거나 일반적인 생산성 도구를 금지하자는 뜻은 아니다.

문서의 논지에서 무장 해제는 기술 역량이 책임지지 않는 권력이 되는 것을 막는다는 의미다. 또한 자동화된 결과를 도덕적으로 중립적인 것으로 제시하지 않는다는 뜻이기도 하다.

Vatican은 5월 인공지능 관련 부서 간 위원회를 설립하며 이 의제를 강화했다. 위원회 설립 명령은 AI 사용의 가속화와 인간 존엄에 미치는 영향을 언급한다.

이 제도적 조치는 이번 개입이 단발성 연설 이상임을 보여준다. AI 거버넌스가 교회의 정책, 외교, 사회 교리 활동 전반에서 지속적인 관심사가 되었음을 시사한다.

Caccia는 기술 기업, 엔지니어링 팀, 금융, 공공기관에서 일하는 가톨릭 신자들에게도 책임을 부여했다. 그는 이 문제를 주교나 신학자만의 영역으로 한정하지 않았다.

이 점은 대부분의 배포 결정이 입법부와 먼 곳에서 이뤄지기 때문에 중요하다. 제품 관리자는 목표를 정의하고, 엔지니어는 데이터를 선택하며, 경영진은 위험을 수용하고, 조달팀은 공급업체를 선택한다.

Vatican의 입장은 각 집단이 이러한 선택을 도덕적 행위로 다루도록 압박한다. 제품이 시장에 나온 뒤에만 윤리가 규제 기관의 몫이라는 변명을 거부한다.

Gabriele Caccia AI 윤리와 인간 감독의 시험

핵심 충돌은 종교와 기술의 대립이 아니라, 책임 있는 인간의 판단과 실질적 통제 없는 자동화의 대립이다.

이 구분은 논쟁이 낙관론과 비관론 사이의 단순한 논쟁으로 축소되는 것을 막는다. Caccia는 AI 연구나 유용한 자동화를 거부하지 않았다.

Magnifica Humanitas는 다양한 분야의 이점을 인정한다. 그 반대는 권리, 안전 또는 되돌릴 수 없는 피해가 관련된 상황에서 책임 있는 판단을 대체하는 시스템에 향한다.

기존 거버넌스 프레임워크도 부분적으로 이 입장을 뒷받침한다. 미국 National Institute of Standards and Technology는 AI 위험 관리를 거버넌스, 매핑, 측정, 위험 관리 중심으로 구성한다.

자발적 위험 프레임워크는 조직이 AI 수명주기 전반에 걸쳐 역할을 배정하도록 요구한다. 또한 책임성, 투명성, 설명 가능성, 개인정보 보호, 안전, 유해한 편향을 서로 연결된 우려로 다룬다.

European Union은 관련 원칙을 지정된 고위험 시스템에 대한 구속력 있는 요건으로 전환했다. AI Act는 고용, 필수 서비스, 법 집행 및 기타 민감한 환경과 관련된 애플리케이션을 다룬다.

제14조는 고위험 시스템이 효과적인 인간 감독을 지원하도록 요구한다. 지정된 사람은 관련 한계를 이해하고, 결과물을 무시하거나 재정의하거나 되돌릴 수 있어야 한다.

이 법은 컴퓨터화된 권고가 체계적이거나 객관적으로 보인다는 이유로 신뢰하는 경향인 자동화 편향도 다룬다. 감독 요건은 모델 근처에 사람을 배치하는 것만으로 실질적인 통제가 자동으로 만들어지지 않는다는 점을 인정한다.

바로 이 지점에서 Caccia의 도덕적 언어는 실무적 설계 문제와 만난다. “Human in the loop”는 서로 매우 다른 여러 운영 방식을 설명할 수 있다.

임상의는 권고를 받고 이를 거부할 시간, 권한, 근거를 유지할 수 있다. 이 방식은 상당한 수준의 판단을 보존한다.

반대로 노동자는 엄격한 성과 목표 아래 수백 건의 자동화된 권고를 검토해야 할 수 있다. 그 노동자는 기술적으로 각 결정을 승인하지만, 시스템에 이의를 제기할 현실적인 기회는 없다.

군 장교는 더 좁은 시간 창에 직면할 수 있다. 자동화된 분석이 의사결정 시간을 압축하면, 형식적인 승인은 남아 있어도 신중한 판단은 사라질 수 있다.

따라서 실질적인 인간 감독에는 최종 승인 버튼 이상의 것이 필요하다. 책임자는 관련 전문성, 충분한 시간, 이해 가능한 근거, 그리고 절차를 중단할 권한을 가져야 한다.

기관은 또한 각 결정을 누가 내렸는지 기록해야 한다. 그렇지 않으면 공급업체, 데이터 제공업체, 모델 개발자, 관리자, 현장 운영자 사이에서 책임은 사라진다.

책임에 대한 Caccia의 질문은 이 약점을 드러낸다. 기계가 해로운 결과에 기여하면 조직은 종종 마지막으로 눈에 보이는 행동을 조사한다.

그 접근 방식은 더 이른 결정을 놓칠 수 있다. 모델의 목표, 학습 데이터, 배포 임계값, 인터페이스 설계 또는 에스컬레이션 정책은 최종 승인 훨씬 전부터 결과를 형성했을 수 있다.

진지한 Gabriele Caccia AI 윤리 대응은 시스템 전체에 걸쳐 책임을 추적할 것이다. 실패 후 비난을 떠안을 직원 한 명을 찾는 데 그치지 않을 것이다.

이 접근 방식은 자동화의 유익한 활용도 보호한다. 저위험 도구는 의료 치료, 고용, 자유 또는 물리적 강제력에 영향을 미치는 시스템과 같은 통제를 필요로 하지 않는다.

위험 기반 거버넌스는 오류의 결과가 더 큰 영역에 더 강력한 요건을 적용할 수 있게 한다. 이는 텍스트 서식 지정과 치명적 타격 표적 선정이 동등한 형태의 AI 활용이라고 취급하는 것을 피한다.

바티칸의 기여는 그러한 기술적 구분 아래에 놓인 도덕적 최소선을 제시하는 데 있다. 자동화가 더 빠르거나 더 정확해지더라도, 일부 책임은 인간이 맡고 있다는 점이 분명히 드러나야 한다.

도덕 원칙에도 집행 가능한 규칙이 필요하다

Caccia의 입장에 대한 가장 강력한 비판은 지나친 요구를 한다는 것이 아니라, 규정 준수의 의미를 기관들이 스스로 결정하도록 남겨둔다는 점이다.

Georgetown 패널은 이 한계를 인정했다. Magnifica Humanitas는 법률, 기술 표준, 집행 메커니즘의 상세한 묶음을 규정하지 않은 채 도덕적 지침을 제시한다.

이러한 개방성은 정치적·종교적 경계를 넘는 대화를 뒷받침한다. 동시에 운영상 변화 없는 상징적 합의의 여지도 만든다.

거의 모든 기업은 인간 존엄성, 책임성, 공정성에 동의할 수 있다. 더 어려운 문제는 테스트 기준선, 감사 접근권, 이의 제기 권리, 문서화, 책임 소재에 관한 것이다.

배포 전에 누가 고영향 모델을 평가해야 하는가? 누가 그 데이터와 성능을 검사할 수 있는가? 그 결정의 영향을 받는 사람에게는 어떤 증거가 전달되어야 하는가?

기관에는 이의 제기 절차도 필요하다. 영향을 받는 사람이 자동화가 결과에 영향을 미쳤다는 사실조차 알지 못한다면, 인간 검토자는 부당함을 바로잡을 수 없다.

“돌이킬 수 없음”의 의미 역시 정밀하게 정의해야 한다. 무기 사용 결정은 명백한 사례이지만, 지연된 의료 처치 역시 이후의 어떤 이의 제기로도 회복할 수 없는 피해를 낳을 수 있다.

모델이 반복적으로 같은 공동체를 배제할 경우 고용 심사는 지속적인 영향을 만들 수 있다. 보안 시스템은 누군가의 가정을 검증하기도 전에 이동을 제한하거나 조사를 촉발할 수 있다.

Caccia의 도덕적 경계는 기관들이 배포 전에 그러한 결과를 식별할 때에만 유용해진다. 이를 위해서는 실제 운영 환경과 연결된 영향 평가가 필요하다.

기술적 정확성만으로는 유일한 기준이 될 수 없다. 팀은 거짓 양성, 거짓 음성, 집단별 불균등한 영향, 예측 가능한 오용, 시정 지연의 결과를 검토해야 한다.

주변 업무 흐름도 시험해야 한다. 성급하고 불투명하거나 인센티브에 좌우되는 프로세스 안에서는 좋은 모델도 무책임한 결과를 낳을 수 있다.

또 다른 과제는 가치관에 대한 이견이다. 인간은 하나의 완전한 도덕 체계를 공유하지 않으며, 공동체마다 공정성, 자율성, 안전, 효율성에 서로 다른 비중을 둔다.

이 회칙은 소수의 기술 소유자가 AI의 도덕적 인프라를 정의하도록 방치해서는 안 된다고 경고하며 이 문제를 인식한다. 그러나 폭넓은 참여는 의사결정을 늦추고 갈등을 해결하지 못한 채 남길 수도 있다.

이러한 긴장이 제안 자체를 무효화하는 것은 아니다. 이는 도덕적 목소리가 민주적 제도, 법적 기준, 직업적 의무, 기술적 평가를 대체할 수 없는 이유를 보여준다.

종교적 논리는 한계를 분명히 하고 소외된 사람들에게 주의를 돌릴 수 있다. 규제 당국은 그러한 우려를 법원과 기관이 적용할 수 있는 의무로 옮겨야 한다.

표준화 기구는 테스트와 문서화 관행을 정의할 수 있다. 독립 연구자는 배포된 시스템이 주장대로 작동하는지 검토할 수 있다.

노동자와 영향을 받는 공동체에도 피해를 신고할 통로가 있어야 한다. 이들의 증거는 벤치마크 테스트로는 결코 포착되지 않는 실패를 드러낼 수 있다.

따라서 회의적인 검증 기준은 구체적이다. 바티칸의 언어가 조달 계약, 이사회 차원의 위험 결정, 엔지니어링 요건, 공공 정책을 바꿀 것인가?

그렇지 않다면 “인간 중심 AI”는 또 하나의 유연한 표지가 될 위험이 있다. 기관들은 동일한 자동화 업무 흐름을 유지하면서도 이 원칙을 인용할 수 있다.

Caccia의 입장은 얼마나 많은 지도자가 이를 칭찬하는지로 평가해서는 안 된다. 피해가 발생하기 전에 책임의 주체를 식별할 수 있게 되는지로 평가해야 한다.

Silicon Valley의 이윤 동기는 말해지지 않은 상대다

Caccia의 경고는 시장 수요와 기술적 역량을 자동화의 충분한 이유로 여기는 배포 문화를 겨냥한다.

패널리스트 Jasmine Sun은 Silicon Valley와 AI 업계에서 일하는 사람들 사이에서 Magnifica Humanitas가 이토록 많은 관심을 받았다는 점이 놀라웠다고 말했다.

그는 그 관심이 이윤 동기만으로는 충분하지 않다는 인식에서 비롯됐다고 설명했다. 이 관찰은 패널의 도덕적 언어 뒤에 있는 실질적 상대를 지목했다.

기업들은 제품 출시, 생산성 향상, 사용자 확보, 대규모 인프라 지출의 정당화라는 압박을 받는다. 이러한 유인은 눈에 보이는 역량과 빠른 도입을 보상한다.

유해한 결정의 비용은 흔히 다른 곳에 전가된다. 탈락한 지원자, 잘못 분류된 환자, 감시받는 공동체, 표적 인근의 민간인은 제품 지표가 포착하지 못할 수 있는 결과를 감당한다.

이러한 분리는 거버넌스 문제를 만든다. 효율성 이익을 얻는 기관이 항상 오류의 전체 사회적 비용을 부담하는 것은 아니다.

AI 시스템은 의사결정을 빠르게 확장하기 때문에 불균형을 심화할 수 있다. 하나의 결함 있는 정책이 조사관들이 패턴을 알아차리기 전에 수천 명에게 영향을 미칠 수 있다.

자동화는 의심스러운 결정에 과학적인 외관을 부여하기도 한다. 순위와 확률 점수는 수치적 정밀성 뒤에 논쟁적인 가정을 숨길 수 있다.

바티칸의 “도덕적 목소리”는 이러한 외관에 이의를 제기한다. 누가 목표를 선택했는지, 누구의 이해관계가 반영됐는지, 누가 결과에 이의를 제기할 권한을 갖는지를 묻는다.

또 다른 Georgetown 패널리스트 Molly Kinder는 노동으로부터의 해방을 약속하는 기술 서사와 노동에 관한 가톨릭 관념을 대비했다. 그의 지적은 단순히 고용 총량에 관한 것이 아니었다.

노동은 정체성, 사회적 관계, 협상력, 공동 제도에의 참여도 제공한다. 업무를 대체하면 총생산성이 개선되더라도 이러한 관계가 바뀐다.

이 우려가 모든 기존 일자리를 무조건 옹호하는 근거가 되어서는 안 된다. 자동화는 위험하고 반복적이거나 접근하기 어려운 일을 없애고 가치 있는 새로운 서비스를 만들 수 있다.

상충 관계는 누가 전환을 통제하는지에 있다. 노동자는 시스템을 어디에 어떻게 배포할지 결정하는 경영진과 같은 영향력을 좀처럼 갖지 못한다.

Caccia의 프레임워크는 이러한 분배적 선택을 AI 윤리 안에 위치시킨다. 시스템은 산출을 늘린다는 이유만으로 공동선을 실현하는 것이 아니다.

같은 기준은 지식 노동에도 적용된다. 생성형 시스템은 문서를 요약하고, 연구를 지원하며, 커뮤니케이션 초안을 작성하고, 사람들이 정보를 찾아내도록 도울 수 있다.

이러한 활용은 고용, 의료, 보안, 물리적 힘에 관한 최종 권한을 위임하는 것과는 실질적으로 다르다. 맥락과 결과가 감독 수준을 결정해야 한다.

개발자에게 이는 수용 가능한 자동화에 대한 단 하나의 보편적 정의를 거부한다는 의미다. 각 제품에는 그것이 영향을 미치는 결정과 위험을 부담하는 사람들에 대한 명확한 설명이 필요하다.

기업 구매자에게 이는 시연 중 모델 성능이 좋은지만 묻는 데 그치지 않는다는 의미다. 구매자에게는 사고 절차, 감사 증거, 에스컬레이션 경로, 계약상 책임성이 필요하다.

노동자에게 쟁점은 AI가 여전히 이의를 제기할 수 있는 도구로 남는지 여부다. 시스템의 제안을 거부하는 일이 직업적 또는 조직적 불이익을 초래할 때 시스템은 더 위험해진다.

Gabriele Caccia의 AI 윤리 논지는 궁극적으로 연산이 아니라 권력에 도전한다. 이는 기관들이 AI를 책임 있는 사람을 돕는 데 쓰는지, 아니면 책임의 소재를 더 찾기 어렵게 만드는 데 쓰는지를 묻는다.

도덕적 목소리의 영향력을 보여줄 세 가지 신호

다음 검증은 도덕적 언어가 군사 시스템, 고영향 민간 의사결정, 기술 거버넌스에서 눈에 보이는 통제로 이어지는지 여부다.

첫 번째 신호는 치명적 자율무기와 AI 지원 표적 선정에 대해 집행 가능한 인간 통제로 나아가는 움직임이다.

국제 논의는 흔히 인간이 무력 사용에 대한 통제권을 유지해야 한다는 데 동의한다. 결정적인 문제는 국가들이 구속력 있는 규칙, 검토 가능한 절차, 명확한 지휘 책임을 통해 그 통제를 정의하는지다.

판단에 충분한 시간을 보장하고, 책임 있는 장교를 식별하며, 의미 있는 개입 없이 표적을 선택하거나 교전하는 시스템을 제한하는 요건에 주목해야 한다.

그러한 조치가 진전된다면 Caccia의 주장은 제도적 힘을 얻게 될 것이다. 정부가 모호한 보장만 유지한다면 책임성 공백은 남을 것이다.

두 번째 신호는 의료, 고용, 신용, 보안 시스템에 실질적으로 사용할 수 있는 이의 제기 메커니즘이 마련되는지다.

의미 있는 이의 제기는 자동화가 결정에 영향을 미쳤다는 사실을 당사자에게 알려야 한다. 이해할 수 있는 근거를 제공하고, 사건을 권한을 가진 인간 검토자에게 넘겨야 한다.

기관들은 결정 번복도 추적해야 한다. 성공한 이의 제기의 비율이 높다면 결함 있는 데이터, 부적절한 기준선, 또는 모델과 배포 환경 간의 불일치를 드러낼 수 있다.

규제 당국과 구매자가 이러한 보호 장치를 요구한다면 도덕 원칙은 운영 가능한 것이 될 것이다. 공개가 여전히 미흡하다면 인간 감독은 주로 서류상으로만 존재할 수 있다.

세 번째 신호는 바티칸의 새로운 AI 위원회가 기관과 실무자를 위한 구체적 지침을 발표하는지다.

유용한 지침은 저위험 지원과 고영향 권한 위임을 구분할 것이다. 또한 개발자, 공급업체, 경영진, 배포자, 현장 전문가 전반의 책임을 설명할 것이다.

위원회는 도덕 원칙을 조달, 영향 평가, 노동자 협의, 감사, 구제와 연결함으로써 가치를 더할 수 있다.

그 효과는 구체성에 달려 있다. 인간 존엄성에 관한 또 하나의 일반적 성명은 메시지를 강화하겠지만, 실행 문제는 해결되지 않은 채 남길 것이다.

이 논쟁은 종교 기관 밖의 독자에게도 중요하다. Caccia는 AI를 도입하는 모든 기관이 결국 답해야 할 질문을 제기했다.

시스템이 중대한 결정에 영향을 미칠 때, 누가 그 한계를 이해하고, 누가 그 결과물을 거부할 수 있으며, 누가 결과에 대한 책임을 받아들이는가?

이 질문들은 공개적인 실패 이후가 아니라 배포 전에 물어야 한다. 개발자는 경계를 문서화할 수 있고, 구매자는 증거를 요구할 수 있으며, 사용자는 책임성을 숨기는 업무 흐름에 저항할 수 있다.

Gabriele Caccia의 AI 윤리 경고는 그러한 결정을 바꿀 때 의미를 갖게 될 것이다. 다음 단계는 주변의 AI 시스템을 살펴보고 인간의 판단이 여전히 실질적으로 남아 있는 곳을 확인하는 일이다.