유엔 안보리 AI 경고, 9·11 테러 25년 후 테러 위협의 틀을 다시 세우다
유엔 안보리의 AI 경고는 9·11 테러 25주년을 맞아 초점의 분명한 전환을 보여줬다. 테러 네트워크는 이제 2001년에는 존재하지 않았던 생성형 AI, 상업용 드론, 암호화 통신, 디지털 금융 도구를 활용할 수 있다.
안보리는 2026년 9월 11일 뉴욕에서 회의를 열어 희생자를 추모하고, 테러 이후 구축된 국제적 대응을 검토했다. 메시지는 단순한 기념에 그치지 않았다. 여행 기록, 은행 송금, 중앙집권적 조직을 중심으로 설계된 대테러 체계는 이제 적응력 있는 디지털 네트워크에 맞서야 한다.
이 변화는 어려운 균형 문제를 낳는다. 정부에는 테러 활동을 탐지할 더 나은 도구가 필요하지만, 같은 시스템이 과도한 감시, 차별적 프로파일링, 지나친 콘텐츠 삭제를 가능하게 할 수도 있다. 따라서 핵심 대립 구도는 정부와 기술 기업 간의 대립이 아니라, 안보 역량과 시민의 자유 간의 균형이다.
유엔 안보리 AI 경고가 실제로 바꾼 것
안보리는 신흥 기술을 별도의 기술 정책 사안으로 다루는 대신, 대테러 의제의 핵심 안에 배치했다.
안보리는 25주년 브리핑에서 국제 테러리즘이 여전히 평화와 안보에 대한 가장 심각한 위협 가운데 하나임을 재확인했다. 회원국들은 또한 국가·지역·국제 차원의 공조 행동을 촉구하는 의장성명을 채택했다.
대테러위원회 집행국, 즉 CTED를 이끄는 유엔 사무차장보 나탈리아 게르만이 주요 제도적 평가를 제시했다. CTED는 각국이 안보리의 대테러 요구 사항을 어떻게 이행하는지 평가함으로써 안보리를 지원한다.
게르만은 각국이 2001년 이후 실질적인 진전을 이뤘지만, 테러리즘의 변화에 맞춰 대응도 적응해야 한다고 경고했다. 이 표현이 중요한 이유는 지난 25년을 안이하게 해석하는 시각을 거부하기 때문이다.
9·11 이후 구축된 체계는 공식 조직, 국경 간 이동, 금융 통제, 정부 간 정보 공유에 크게 집중했다. 이 조치들은 여전히 중요하다. 그러나 디지털 도구는 이제 소규모 집단과 개인 동조자들이 과거에는 더 큰 조직이 필요했던 일을 수행할 수 있게 한다.
생성형 AI는 낮은 비용으로 자료를 작성, 번역, 개인화, 재생산할 수 있다. 암호화 서비스는 흩어진 참여자들을 연결할 수 있다. 상업용 드론은 정찰을 수행하거나 탑재물을 운반할 수 있으며, 가상자산과 온라인 결제 시스템은 금융 수사를 복잡하게 만들 수 있다.
이 도구들 중 어느 것도 자동으로 테러 역량을 만들어내지는 않는다. 중요성은 결합에서 나온다. 하나의 네트워크는 모집에 한 서비스를, 비공개 조정에 다른 서비스를, 자금 조달이나 작전 조사에 또 다른 서비스를 활용할 수 있다.
이러한 모듈형 구조는 단일 플랫폼이나 지도자를 교란하는 방식의 가치를 낮춘다. 또한 의도를 일상적인 기술 사용과 구분하기 어렵게 만든다.
CTED의 2026년 9월 선전 보고서는 선전을 단순한 메시지가 아니라 작전 인프라로 설명한다. 이 구분은 문제의 범위를 극단주의 게시물과 영상 너머로 확장한다.
CTED에 따르면 선전은 모집, 급진화, 자금 조달, 계획 수립, 통치를 지원할 수 있다. 보고서는 테러 행위자들이 AI를 활용해 메시지를 맞춤화하고, 다국어 청중에게 도달하며, 모금 활동을 지원하고 있다고 밝힌다.
AI 생성 미디어는 실험 비용도 낮춘다. 집단은 하나의 메시지에 대해 여러 버전을 만들고, 서로 다른 공동체에 맞춰 언어를 조정하며, 어떤 프레이밍이 참여를 끌어내는지 시험할 수 있다.
인간 선전 활동가도 이미 이런 일을 할 수 있었다. AI는 필요한 속도, 규모, 인력 수준을 바꾼다.
안보리의 경고가 AI가 전통적인 테러 수단을 대체했다는 뜻은 아니다. 또한 AI 생성 선전이 일관되게 효과적이라는 점을 보여주는 것도 아니다. 이는 기술 접근성이 많은 정부의 안전장치보다 더 빠르게 변해왔음을 인정한 것이다.
이것이 진정한 정책 변화다. 이제 문제는 테러 행위자들이 소비자용 AI를 실험할지 여부가 아니다. 공공기관이 광범위한 접근 자체를 범죄 의도의 증거로 취급하지 않으면서 유해한 사용을 식별할 수 있는지가 문제다.
AI가 테러 활동의 경제성을 바꾸는 이유
AI가 중요한 이유는 분산된 네트워크 전반에서 소통, 표적화, 번역, 실험의 비용을 낮추기 때문이다.
테러 조직은 오랫동안 상업 기술을 자신들의 목적에 맞게 변용해 왔다. 인터넷은 전 세계적 배포를 가능하게 했다. 소셜 플랫폼은 추천 시스템, 검색 가능한 커뮤니티, 잠재적 모집 대상자와의 직접 접촉을 더했다.
생성형 AI는 생산 계층을 추가한다. 수초 안에 텍스트, 합성 음성, 번역된 스크립트, 변형된 이미지, 개인화된 응답을 만들 수 있다.
이 역량이 설득력 있는 선전을 보장하는 것은 아니다. 모델은 오류를 만들고, 고정관념을 반복하며, 때로는 유해한 요청을 거부한다. 결과물에는 여전히 배포 채널과 참여하려는 청중이 필요하다.
그러나 품질은 위험의 일부일 뿐이다. 행위자들이 취약한 사용자를 찾거나, 관리 시스템을 압도하거나, 일회용 신원을 다수 유지하려 할 때는 규모가 중요하다.
자동 번역은 원래의 언어 공동체를 넘어선 청중을 찾는 집단에 특히 중요하다. 숙련된 번역가에 대한 의존도를 낮추고, 계정이 사라진 뒤에도 자료를 빠르게 재활용할 수 있게 한다.
개인화는 또 다른 우려를 낳는다. 하나의 이념 문서를 일방적으로 전파하는 대신, 운영자는 개인의 관심사, 위치, 연령, 불만에 맞춰 어조와 사례를 조정할 수 있다.
이 접근법은 일반적인 디지털 마케팅과 닮아 있다. 기반 기술은 극단주의자에게만 고유한 것이 아니므로, 광범위한 기술 금지를 설계하기는 어렵다.
유엔의 기존 ICT 개요는 통신 기술이 가능하게 하는 활동으로 모집, 훈련, 계획, 네트워킹, 자금 조달, 물류 지원을 꼽는다. 또한 AI가 관리, 생체인식, 감시, 수사를 통해 대테러 활동을 지원한다고 언급한다.
이러한 이중 용도가 문제를 규정한다. 같은 모델 계열은 긴급 경보를 번역하고, 폭력적 이미지를 식별하며, 수사관의 증거 처리 작업을 도울 수 있다. 동시에 악의적 행위자도 지원할 수 있다.
드론도 유사한 양상을 보인다. 저비용 무인 항공기는 촬영, 농업, 점검, 지도 제작, 긴급 대응을 지원한다. 하지만 이러한 접근성은 감시, 밀수품 운반, 공격의 기회도 만든다.
암호화 플랫폼은 또 다른 이중 용도 갈등을 제시한다. 안전한 통신은 언론인, 기업, 인권 옹호자, 일반 사용자를 보호한다. 동시에 수사관의 작전 논의 탐지를 어렵게 할 수 있다.
결합 효과는 개별 기술 하나보다 더 중요하다. 소규모 세포 조직은 미디어 제작에 공개 AI를, 조정에 암호화를, 정찰에 드론을, 공격에는 재래식 물자를 사용할 수 있다.
이런 작업 흐름은 서로 다른 운영자와 정책을 지닌 서비스 전반에 위험을 분산한다. 어느 한 기업도 전체 연결고리를 보지 못한다.
정부도 같은 분절화에 직면한다. 금융 기관은 이례적인 거래를 포착할 수 있지만, 플랫폼은 극단주의 콘텐츠를 보고 지역 경찰은 드론 활동을 관찰할 수 있다. 이 신호들을 연결하려면 법적 권한, 호환 가능한 데이터, 제도적 신뢰가 필요하다.
국제 공조는 문제를 더 어렵게 만든다. 플랫폼은 국경을 넘어 운영되고, 클라우드 데이터는 다른 관할권에 있을 수 있으며, 테러 콘텐츠에 대한 법적 정의도 다르다.
이 장벽들은 새로운 것이 아니다. AI는 수사관과 관리자가 평가해야 하는 자료의 양을 늘림으로써 이를 증폭시킨다.
경제적 변화는 반복적 실패에도 유리하게 작용한다. 악의적 행위자는 하나가 통할 때까지 수많은 미흡한 결과물을 시험할 수 있다. 반면 방어 측은 탐지 시스템이 합법적 발언을 잘못 표시할 경우 결과를 감수해야 한다.
이 비대칭성은 유엔 안보리 AI 경고의 배경에 있는 압박을 설명한다. 공격자는 실패한 계정, 거부된 프롬프트, 부실한 콘텐츠를 감수할 수 있다. 정부와 플랫폼은 모든 개입에서 정확성, 정당성, 권리를 고려해야 한다.
안보 역량은 이제 시민의 자유와 충돌한다
가장 강력한 대테러 대응이 반드시 가장 광범위한 대응은 아니다. 무차별적 자동화는 보호하겠다고 주장하는 권리를 훼손할 수 있기 때문이다.
AI는 플랫폼이 이미지를 분류하고, 알려진 극단주의 자료를 비교하며, 조직적 행동을 식별하고, 사람의 검토가 필요한 사례의 우선순위를 정하는 데 도움을 줄 수 있다. 법 집행기관도 이를 이용해 증거를 정리하거나 대규모 데이터세트 전반의 관계를 탐지할 수 있다.
이러한 활용은 속도를 약속한다. 동시에 오탐, 편향, 설명 가능성, 책임성에 관한 심각한 문제를 제기한다.
콘텐츠 관리에서의 오탐은 합법적인 보도, 정치적 발언, 풍자, 인권 침해 기록을 삭제할 수 있다. 치안 활동에서의 오탐은 누군가를 수사, 구금, 여행 제한에 노출시킬 수 있다.
자동화 시스템에는 맥락 판단이 특히 어렵다. 동일한 폭력 이미지는 선전물일 수도, 저널리즘일 수도, 학술 연구일 수도, 수사관이 보존한 증거일 수도 있다.
언어도 또 다른 오류 원인이 된다. 관리 도구는 방언, 지역적 참조, 저자원 언어에서 종종 고르지 못한 성능을 보인다. 테러 행위자는 이러한 공백을 악용할 수 있고, 일반 화자는 잘못 분류될 수 있다.
안보리는 수년간 이 긴장을 인정해 왔다. 2023년 AI 브리핑에서 기술 전문가들은 CTED에 AI 시스템이 개선되고 있지만 여전히 불완전하고 편향돼 있다고 설명했다.
참가자들은 AI 인식, 소셜미디어 리터러시, 대응 서사, 안전 조치, 사람의 검토를 결합하는 방안을 지지했다. 자동 탐지를 완전한 해결책으로 제시하지는 않았다.
이러한 절제가 중요하다. AI는 검토용 자료의 순위를 매길 수 있지만, 신뢰도 점수는 법적 판단이 아니다. 이는 의도, 조직 구성원 자격, 폭력 준비를 입증하지 못한다.
감시 확대는 연관된 문제를 낳는다. 정부는 고도화된 위협에 대응하려면 통신, 신원 기록, 행동 데이터에 대한 더 광범위한 접근이 필요하다고 주장할 수 있다. 그러한 접근은 표적 수사에서 일상적 인구 감시로 옮겨갈 수 있다.
생체인식 시스템은 특히 민감한 문제를 제기한다. 얼굴 인식과 기타 자동 신원 확인 도구는 용의자 식별에 도움이 될 수 있지만, 오류는 특정 공동체에 불균형적으로 집중될 수 있다.
대테러의 역사는 정부가 신중해야 할 또 다른 이유를 제공한다. 비상 권한은 이를 낳은 조건보다 더 오래 지속되는 경우가 많다. 예외적 사례를 위해 도입된 기술은 일상적인 행정 도구가 될 수 있다.
따라서 강력한 감독은 도덕적 목적뿐 아니라 작전상 목적에도 기여한다. 자의적이라고 여겨지는 시스템은 수사관이 필요로 하는 정보를 가진 공동체로부터 협조를 덜 받게 된다.
국제법과 인권은 안보리의 기념 메시지에서 두드러졌다. 의장성명은 집단적 대테러 노력을 유엔 헌장 및 국제법과 연결했다.
그 표현은 경계를 설정하지만, 기술적 안전장치를 구체적으로 규정하지는 않는다. 어떤 데이터를 수집할 수 있는지, 얼마 동안 보관할 수 있는지, 자동화된 평가에 언제 인간의 확인이 필요한지는 각국 정부의 판단에 맡긴다.
기술 기업들도 비슷한 균형 문제에 직면한다. 강력한 필터링은 알려진 테러 자료의 유통을 줄일 수 있다. 그러나 안전 자원이 부족하고 가시성이 낮은 소규모 플랫폼으로 사용자를 밀어낼 수도 있다.
소규모 서비스는 대규모 신뢰·안전 팀을 갖추지 못한 경우가 많다. 이들은 제한적인 설명만 제공하는 공동 데이터베이스, 제3자 공급업체 또는 자동화 도구에 의존할 수 있다.
UN은 업계 및 전문 기관과의 협력을 통해 이러한 역량 격차를 줄이려 해왔다. CTED와 Tech Against Terrorism 간의 2025년 기술 파트너십은 온라인 모집, 선동, 계획 수립 및 신흥 기술에 초점을 맞췄다.
이러한 파트너십은 최대 규모 플랫폼을 넘어 전문성을 확산할 수 있다. 동시에 민간 데이터베이스가 책임을 지지 않는 글로벌 감시 명단으로 변질되지 않도록 하는 거버넌스 규칙도 필요하다.
핵심 과제는 프라이버시와 보안 중 하나를 선택하는 일이 아니다. 자동화 시스템을 배치하기 전에 증거 기준, 이의제기 절차, 독립적 감독, 제한적인 법적 목적을 마련하는 일이다.
이러한 통제가 없다면 대응은 새로운 불만을 낳고 공공기관에 대한 신뢰를 훼손할 수 있다. 단기적인 집행 수치가 증가하더라도, 이는 장기적 예방 역량을 약화시키는 결과가 될 것이다.
경고는 분명하지만, 증거에는 여전히 한계가 있다
UN은 AI 실험의 확대를 기록했지만, 공개 증거가 AI 기반 테러리즘에 관한 모든 극적인 주장을 뒷받침하는 것은 아니다.
안보리의 표현은 여러 수준의 활동을 포괄한다. 여기에는 AI를 활용한 선전물 제작, 맞춤형 모집, 자금 조달, 유해한 방법 조사, 공격 계획 지원 등이 포함된다.
이들 활동은 모두 같은 위험을 제기하지 않는다. 번역된 포스터를 생성하는 일은 실행 가능한 무기를 설계하거나 공격을 수행하는 일과 동등하지 않다.
공개 보도는 이러한 범주를 테러리스트가 “AI를 사용하고 있다”는 하나의 주장으로 종종 뭉뚱그린다. 이 표현은 정확할 수 있지만, 역량·규모·작전상 효과에 관해서는 거의 알려주지 않는다.
이 구분은 정책 측면에서 중요하다. 활동마다 필요한 대응이 다르기 때문이다.
플랫폼은 계정 제재, 행동 분석, 이전에 식별된 자료의 공유 해시를 통해 금지된 선전물에 대응할 수 있다. 해시는 알려진 파일을 일치시키는 데 사용되는 디지털 지문이다.
유해한 기술 정보를 얻으려는 시도에는 모델 안전장치, 모니터링, 신중하게 정의된 단계적 대응 절차가 필요할 수 있다. 드론 위협에는 항공 규정, 탐지 장비, 기반시설 보호 및 물리적 보안이 수반된다.
자금 조달 문제에는 은행, 결제 제공업체, 가상자산 서비스 및 수사기관 간의 협력이 필요하다. 이 네 가지 문제를 모두 콘텐츠 조정으로 취급한다면 중대한 공백이 남게 된다.
측정은 여전히 어렵다. 공개적으로 보이는 자료는 테러 활동의 일부만 포착한다. 폐쇄형 통신은 평가하기가 더 어렵고, 정부는 작전상 증거를 공개하지 않을 수 있다.
연구자들은 성공적인 활용과 실험도 구분해야 한다. 집단은 실질적인 역량을 입증하지 못한 채 선전 목적으로 기술적 정교함을 주장할 수 있다.
생성형 모델은 때때로 부정확한 지침을 제공한다. 그렇다고 위험이 사라지는 것은 아니다. 부정확한 결과물조차 용어를 제공하거나 사용자를 추가 조사로 이끌 수 있기 때문이다.
다만 챗봇이 독자적으로 고도화된 공격을 가능하게 한다는 주장은 신중하게 검토해야 한다. 전문성, 재료, 시험, 물류, 물리적 접근성은 여전히 중요한 제약 요인이다.
같은 주의는 합성 미디어에도 적용된다. 딥페이크는 사람을 사칭하거나 사건을 조작할 수 있지만, 그 효과는 유통, 신뢰성, 시점에 따라 달라진다.
대중은 설득력 있는 미디어가 조작될 수 있다는 사실을 점점 더 인식하고 있다. 이러한 인식은 허위 콘텐츠에 대한 신뢰를 낮출 수 있지만, 동시에 ‘거짓말쟁이의 배당’도 낳을 수 있다.
거짓말쟁이의 배당은 사람들이 진짜 증거를 인공적으로 만들어진 것이라며 일축하는 현상이다. 위기 상황에서 이러한 불확실성은 검증을 지연시키고 공식 소통에 대한 신뢰를 약화시킬 수 있다.
따라서 UN의 우려는 단일 가짜 영상보다 더 광범위하다. 저렴한 합성 미디어는 실제로 무슨 일이 일어났는지 입증하는 비용을 높일 수 있다.
그럼에도 기념일 회의는 구속력 있는 글로벌 AI 표준을 만들지는 못했다. 의장성명은 안보리의 공동 입장을 나타내지만, UN 헌장에 따라 채택된 결의와 같은 의무를 만들지는 않는다.
이 성명은 플랫폼 책임, 암호화, 생체인식 감시 또는 국경 간 증거를 둘러싼 오랜 분쟁도 해결하지 못한다. 이러한 문제는 여전히 각국 법률과 별도의 국제 절차에 따라 다뤄진다.
국가별 제도적 역량은 크게 다르다. CTED의 위원회 권한은 안보리가 2001년 공격 이후 채택한 결의 1373호를 각국이 어떻게 이행하는지 점검하는 데 초점을 둔다.
이 체계는 자금 조달 통제, 정보 공유, 형사사법 및 국경 보안을 포괄한다. AI 위험을 추가한다고 해서 수사관, 기술 전문성 또는 사법 감독이 자동으로 확보되는 것은 아니다.
역량 강화는 이러한 격차를 줄일 수 있지만, 외부에서 도입한 시스템이 현지 언어 또는 법적 보호 장치에 맞지 않을 수 있다. 다른 환경에서 학습된 탐지 모델은 상이한 정보 환경에 배치될 경우 성능이 저하될 수 있다.
공급업체 또한 광범위한 위협 탐지 역량을 판매할 유인을 갖는다. 정부는 독립적인 시험, 문서화된 한계, 그리고 도구가 성과를 개선한다는 증거를 요구해야 한다.
단순 경보량은 미흡한 성공 지표다. 검증되지 않은 경고를 수천 건 생성하는 시스템은 수사 자원을 낭비하고 심각한 사건을 가릴 수 있다.
더 나은 지표는 확인된 단서, 오탐률, 처리 시간, 법적 결과, 그리고 영향을 받은 사용자가 오류에 이의를 제기할 수 있는지 등을 살펴봐야 한다. 공개 보고는 기본적인 성능을 감추지 않으면서 수사를 보호해야 한다.
회의적인 해석은 UN 안보리의 AI 경고를 일축하지 않는다. 각 개입을 검증된 오용 형태에 맞추라고 요구한다.
이 접근법은 눈에 띄는 기념일이 성급한 조달이나 모호한 감시 권한을 정당화하는 이유가 될 가능성을 줄인다. 또한 진정한 보안 조치를 더 쉽게 옹호할 수 있게 한다.
경고가 행동으로 이어지는지 보여줄 세 가지 신호
다음 시험대는 정부와 기술 제공업체가 광범위한 합의를 측정 가능하고 권리를 존중하는 절차로 전환하는지 여부다.
첫 번째 신호는 테러 선전물을 작전 인프라로 다루는 방식이다. CTED의 2026년 보고서는 분석적 틀을 제공하지만, 정부는 이것이 수사와 예방 프로그램을 어떻게 바꿀지 결정해야 한다.
선전, 모집, 자금 조달, 계획 수립, 공격 준비를 구분하는 구체적인 이행 지침에 주목해야 한다. 명확한 범주는 각 위험을 적절한 대응과 연결해 안보리의 주장을 강화할 것이다.
모호한 지침은 이를 약화시킬 것이다. 기관들은 작전상 관련성을 입증하지 않은 채 광범위한 온라인 활동을 AI 기반 테러리즘으로 규정할 수 있다.
두 번째 신호는 소규모 플랫폼이 활용 가능한 안전 지원을 받는지 여부다. 대형 서비스는 전문 팀을 고용하고, 위협 인텔리전스를 유지하며, 모델 시험을 의뢰할 수 있다.
소규모 포럼, 파일 호스팅 서비스 및 통신 서비스는 흔히 그렇게 할 수 없다. 이러한 불균형은 대형 플랫폼이 계정을 제거할 때 이동 기회를 만든다.
공유 도구는 도움이 될 수 있지만, 접근 규칙이 중요하다. 참여 기업에는 정확한 기준, 오류 정정 방법, 공유 정보의 2차 사용 제한이 필요하다.
가장 강력한 진전 신호는 의미 있는 투명성 데이터를 공개하면서 탐지를 개선하는 시스템일 것이다. 또한 적법한 표현에 영향을 미치는 결정에는 인간의 검토를 보존해야 한다.
세 번째 신호는 정부가 AI 지원 감시를 확대하기 전에 한계를 정의하는지 여부다. 대테러 기관은 통신, 금융 활동, 생체인식 및 오픈소스 정보를 분석할 도구를 찾게 될 것이다.
규칙은 어떤 증거로 수사가 시작되는지, 어떤 결정에 인간의 승인이 필요한지, 데이터가 얼마나 오래 보관되는지를 명시해야 한다. 독립 기관은 오류와 오용을 조사할 수 있어야 한다.
새로운 기술 역량과 함께 이러한 안전장치가 마련된다면, 안보리의 안보·권리 입장은 신뢰성을 갖게 될 것이다. 그러나 감시가 이런 장치 없이 확대된다면, 기념일 경고는 위험을 부각하면서도 오래된 정책적 실수를 되풀이하게 될 것이다.
기술 제공업체에도 병행하는 책임이 있다. 모델 개발자는 자신의 시스템이 유해한 활동의 장벽을 실제로 낮추는지 시험하고, 입증된 위험을 중심으로 안전장치를 조정할 수 있다.
모든 논란이 되는 프롬프트를 테러 의도와 동일시해서는 안 된다. 보안 연구자, 언론인, 교육자 및 공공기관은 정당한 이유로 동일한 주제를 검토할 수 있다.
플랫폼은 적대적 적응에도 대비해야 한다. 사용자는 탐지를 피하기 위해 철자를 바꾸고, 언어를 전환하며, 지침을 분할하거나 서비스 간에 이동할 수 있다.
어떤 정적 필터도 이러한 행동을 제거하지는 못한다. 방어책에는 지속적인 평가, 신뢰할 수 있는 신고 채널, 서비스 간 협력이 필요하다.
지식 노동자와 기업 구매자도 관심을 가져야 한다. 많은 대테러 통제는 전문 조치로 시작해 이후 일반 소프트웨어에 영향을 미치기 때문이다. 신원 확인, 콘텐츠 모니터링, 모델 제한 및 데이터 보존 정책은 시장 전반으로 확산될 수 있다.
조직은 AI 서비스가 어떤 사용자 데이터를 보존하는지, 제공업체가 악용 신고를 어떻게 처리하는지, 자동화된 집행에 이의제기 절차가 포함되는지를 알아야 한다. 이러한 질문은 보안 사고가 발생하기 훨씬 전부터 일상적인 거버넌스에 영향을 미친다.
AI 제품을 개발하는 개발자에게도 관련된 과제가 있다. 안전 통제는 검증 없이 광범위한 정책을 복제하기보다 제품의 실제 역량과 사용자를 반영해야 한다.
글쓰기 지원 도구, 자율 실험실 시스템, 드론 제어 플랫폼은 서로 다른 위험을 제시한다. 이에 따라 접근 통제와 모니터링도 달라야 한다.
25주년은 유용한 역사적 교훈을 제공한다. 결의 1373호는 공격 발생 3주도 되지 않아 지속 가능한 글로벌 대테러 구조를 만들었다.
현재의 기술적 전환은 더 분산돼 있다. 여기에는 공개 모델, 민간 플랫폼, 국가 규제기관, 항공 시스템, 금융 네트워크 및 지역 수사관이 관여한다.
이러한 복잡성은 단일한 글로벌 금지가 문제를 해결할 가능성이 낮음을 뜻한다. 진전은 기관이 시험하고, 감사하고, 개선할 수 있는 제한적인 기준에 달려 있다.
UN 안보리의 AI 경고는 추모를 현재의 작전상 과제와 연결한다는 점에서 중요하다. 동시에 대응이 얼마나 불완전한지도 드러낸다.
향후 몇 달은 국가들이 구체적인 지침을 마련하고, 소규모 플랫폼을 지원하며, 감시를 확대하기 전에 안전장치를 수립하는지 보여줄 것이다. 이러한 행동은 AI가 기회와 위험을 모두 제기한다는 또 하나의 선언보다 더 중요하다.
독자들은 구호가 아니라 증거를 지켜봐야 한다. 어떤 AI 활용이 테러리스트의 역량을 측정 가능하게 변화시켰는가? 어떤 개입이 적법한 활동까지 포괄하지 않으면서 그러한 활용을 탐지하는가? 어떤 기관이 실수를 바로잡을 수 있는가?
이 질문들이 다음 논의 단계를 이끌어야 한다. 그 답은 안보리의 경고가 실질적인 안보 체계가 될지, 아니면 중요한 기념일에 제시된 또 하나의 포괄적 약속으로 남을지를 결정할 것이다.
