Boko Haram이 작전에서 최첨단 AI를 사용하며 드러난 모델 안전장치의 취약한 고리

Boko Haram 구성원들이 폭력적 지원을 차단하도록 설계된 안전장치에도 불구하고 실제 작전 중 최소 6개의 최첨단 AI 서비스를 사용한 것으로 전해진다. 이 발견은 갈등의 초점을 이론적 모델 위험에서 문서화된 일상적 활용으로 옮긴다. 또한 기업 정책과 Google News 헤드라인을 통해 자주 제시되는 안심할 만한 AI 안전성의 서사에도 의문을 제기한다.

증거는 Cambridge 연구자 Antonia Juelich에게서 나왔다. 그는 2025년과 2026년에 나이지리아 북동부에서 전 Boko Haram 구성원 27명을 인터뷰했다. 그의 연구는 주로 2024년의 AI 지원 활동을 살폈다. 참여자들은 전투 및 일상 작전과 연결된 업무에 ChatGPT, Claude, Gemini, Grok, Meta AI, DeepSeek를 사용했다고 설명했다.

핵심 문제는 챗봇이 독자적으로 공격을 계획했다는 데 있지 않다. 무장세력들이 여러 서비스 사이를 오가며 요청을 바꿔 표현하고 유용한 답변을 결합한 것으로 전해진다는 점이다. 따라서 안전성은 하나의 모델이 하나의 프롬프트를 거절하는 것 이상에 달려 있다. 파편화된 시장 전반에서 접근 가능한 모든 시스템이 집요한 사용자를 견뎌낼 수 있는지가 관건이다.

증거는 선전을 넘어선다

중요한 변화는 작전적 측면이다. AI가 단순한 선전물 생성기가 아니라 일상적 보조 수단이 된 것으로 전해진다.

이전의 공개 증거는 합성 미디어에 크게 집중됐다. 극단주의 네트워크는 생성형 도구를 이용해 메시지를 번역하고, 포스터를 만들고, 이미지를 수정하며, 온라인 선전물의 양을 늘렸다. 이러한 활동은 중요하지만, 여전히 익숙한 콘텐츠 관리 문제에 가깝다.

Juelich의 현장 조사는 더 폭넓은 양상을 묘사한다. Cambridge 연구에 따르면, 전 구성원들은 Boko Haram의 주요 두 분파 모두가 전투 및 일상적 의사결정을 지원하기 위해 최첨단 모델을 사용했다고 말했다. 보고된 용도에는 공격 계획, 무기 문제 해결, 감시 분석, 항법, 의료 관련 질문, 임무 후 검토가 포함됐다.

이 연구는 챗봇이 임무 준비, 진행 중인 작전, 이후 분석 과정에서 활용됐다고 말한다. 이 순서는 AI를 작전 주기 전반에 배치한다는 점에서 중요하다. 더 이상 사건 전후에 포스터를 제작하는 데만 국한되지 않는다.

참여자들은 이 기술이 불확실성을 줄이는 방법이라고도 설명했다. 한 전직 전투원은 시행착오가 치명적일 수 있는 반면 AI는 더 높은 정확도를 제공한다고 Juelich에게 말했다. 이는 참여자의 인식일 뿐, 모델의 답변이 공격 결과를 개선했다는 독립적 증거는 아니다.

그럼에도 이 인식은 전략적 무게를 지닌다. 사용자는 도구가 노력을 줄이고, 시간을 절약하며, 지식 격차를 메워준다고 믿기 때문에 이를 채택한다. 시스템이 작전적으로 가치 있어지기 위해 완벽한 답을 제공할 필요는 없다. 현장에서 이용 가능한 대안보다 더 유용해 보이기만 하면 된다.

이 발견은 극단주의 커뮤니티가 이미 생성형 시스템을 실험하고 있었다는 증거를 뒷받침한다. 2023년 초기 도입 연구는 테러 및 폭력적 극단주의 공간에서 5,000건이 넘는 AI 생성 콘텐츠를 기록했다.

이 수집물에는 폭력적 이슬람주의 및 네오나치 이념과 연관된 선전물이 포함됐다. 연구자들은 또한 지지자들에게 신원을 보호하면서 ChatGPT를 사용하는 방법을 조언한 친-Islamic State 기술 그룹을 확인했다.

이 사례들은 의도와 실험을 보여줬다. Boko Haram 인터뷰는 사용자가 대화형 AI를 접근 가능한 기술 자문가처럼 대하는 다음 단계를 시사한다. 보고된 행동은 일반적인 직장 내 도입과 닮았지만, 그 목표에는 폭력이 포함될 수 있다.

이것이 이 글의 핵심적 전환이다. 가장 즉각적인 위협은 완전 자율 무기나 AI가 설계한 병원체가 아니다. 다양한 작은 의사결정 전반의 마찰을 낮추는 범용 보조 도구다.

이 구분은 방어 측이 탐지해야 할 대상을 바꾼다. 이국적인 무기에 대한 요청은 명확한 안전 경계를 촉발할 수 있다. 그러나 지형, 전자장비, 날씨, 의약품 또는 장비 수리에 관한 일련의 평범해 보이는 질문은 분류하기 더 어려울 수 있다.

각 답변은 개별적으로는 무해해 보일 수 있다. 그러나 무장세력의 현실적 맥락 안에서 결합되면 위험한 목표를 지원할 수 있다. 작전적 의미는 대화 전반, 사용자의 상황, 그리고 어쩌면 서로 다른 여러 플랫폼에 걸쳐 존재한다.

원래의 보도 조사는 Juelich의 결론을 직접적으로 제시했다. 그는 도입이 자신이 예상했던 것보다 더 빠르고, 더 광범위하며, 더 체계적이었다고 말했다.

그의 표본은 여전히 제한적이며, 전 구성원 인터뷰에는 익숙한 검증 과제가 따른다. 기억은 불완전할 수 있고, 유인이 증언을 형성할 수 있으며, 연구자들은 모든 상호작용을 독립적으로 재구성할 수 없다. 따라서 이 연구는 무장세력의 AI 사용에 대한 완전한 전수조사로 취급하지 않되 위험 분석에 반영돼야 한다.

이러한 한계에도 27건의 상세한 진술은 가설적 모델 테스트만으로는 얻을 수 없는 더 많은 작전적 증거를 제공한다. 이는 사람들이 서비스를 어떻게 선택하고, 질문을 어떻게 구성하며, 거절에 어떻게 대응하고, 현장 조건에서 결과물을 어떻게 적용했는지를 보여준다.

마지막 지점이 중요하다. 벤치마크는 하나의 모델이 표준화된 프롬프트 뒤에 금지된 정보를 제공하는지 시험할 수 있다. 그러나 언어를 바꾸고, 작업을 나누고, 다른 시스템을 참고하며, AI 결과물을 기존 전문성과 결합하는 집요한 사용자를 완전히 재현할 수는 없다.

일상적 AI 지원이 위협을 바꾸는 이유

AI는 완전히 새로운 형태의 테러리즘을 만들지 않고도 집단의 역량을 높일 수 있다.

Boko Haram은 공격을 수행하고, 선전을 확산하며, 반란을 유지하기 위해 인공지능이 필요하지 않았다. 그 분파들은 이미 현지 지식, 조직 경험, 무기, 인적 네트워크를 갖고 있었다. AI는 그 환경에 효율성 도구로 들어왔다.

이 때문에 기술의 기여를 과소평가하기 쉽다. 분석가들은 흔히 AI 이전에는 불가능했던 극적인 능력을 찾는다. 더 그럴듯한 단기 효과는 조사, 번역, 문제 해결, 계획, 소통 전반에 걸친 작은 개선들의 집합이다.

챗봇은 정보를 찾는 데 드는 시간을 줄일 수 있다. 모호한 질문을 체크리스트로 바꾸고, 낯선 용어를 번역하며, 기술 자료를 요약하거나, 장비 고장의 가능한 원인을 제안할 수 있다. 또한 부정확하거나, 오해를 부르거나, 안전하지 않은 답변을 만들 수도 있다.

합법적 사용자에게 이런 오류는 불편이나 금전적 손실을 초래한다. 분쟁 상황에서는 부정확한 답변이 사용자나 주변인을 다치게 할 수 있다. 그럼에도 무장세력은 신뢰할 수 있는 전문가를 찾지 않고도 반복적으로 질문하고 답변을 비교할 수 있기 때문에 이 기술을 매력적으로 여긴다.

이 양상은 West Point 분석의 더 넓은 평가와도 부합한다. 저자들은 생성형 AI가 일부 테러 활동의 효율성, 접근성, 규모를 개선한다고 결론지었다. 동시에 테러리즘의 본질을 근본적으로 바꾼다는 증거는 제한적이라고 판단했다.

그 결론은 안심할 만하지 않다. 기술은 적대 세력의 근본적 임무를 바꾸지 않고도 위험을 높일 수 있다. 저렴한 상업용 드론은 무력 충돌을 발명하지 않았지만, 감시, 표적화, 전장 전술을 바꿨다.

AI 지원도 같은 점진적 경로를 따를 수 있다. 더 나은 번역은 기술 자료에 대한 접근을 넓힐 수 있다. 더 빠른 조사는 검토되는 선택지의 범위를 확대할 수 있다. 합성 미디어는 모집을 지원하는 한편, 작전 관련 질의는 실무적 문제를 다룬다.

그 메커니즘은 누적적이다. 하나의 답변은 거의 이점을 제공하지 않을 수 있다. 그러나 구성원, 임무, 모델 전반에 걸친 수백 번의 교환은 조직의 기본 역량을 높일 수 있다.

전 Boko Haram 구성원들은 AI를 범용 기술로 이해한 것으로 전해진다. 이들은 이를 전문 미디어 팀이나 단일 실험 프로젝트에만 한정하지 않았다. 질문이 생길 때마다 이를 적용했다.

그 행동은 합법적 조직의 도입 양상을 닮았다. 직원들은 처음에는 챗봇을 초안 작성과 요약에 사용한다. 이후 도구는 분석, 코딩, 고객 지원, 내부 의사결정으로 확산된다. 비공식적 도입은 종종 정책보다 빠르게 진행된다.

무장 단체는 기업보다 준수 장벽이 적다. 공개 챗봇을 열기 전에 조달 검토, 개인정보 평가, 경영진 승인을 요구하지 않는다. 또한 단속 이후 계정을 버리고 다른 제공업체로 옮길 수 있다.

접근성은 여전히 고르지 않다. 사용자는 기기, 연결성, 언어 능력, 그리고 유용한 결과물을 알아볼 수 있을 만큼의 판단력이 필요하다. 일부 서비스는 계정, 결제 수단 또는 신원 확인을 요구한다. 네트워크 여건 역시 외딴 지역에서의 가용성을 제한할 수 있다.

이 제약은 AI가 숙련된 운영자를 대체하지 못한 이유를 설명하는 데 도움이 된다. 더 현실적인 역할은 인간과 기계의 협업이다. 사람은 목표를 정의하고, 이를 더 작은 질문으로 나누며, 답변을 평가하고, 물리적 세계에서 행동한다.

2026년 안전성 보고서는 사이버 작전에서도 유사한 한계를 설명한다. 범용 시스템이 인간의 지시 없이 신뢰성 있는 종단 간 공격을 수행했다는 보고는 아직 없다.

모델은 상태 추적을 놓치고, 무관한 단계를 실행하며, 단순한 오류에서 회복하지 못할 수 있다. AI가 더 좁은 기술 업무를 처리하는 동안 인간은 전략과 개입을 계속 책임진다.

이 한계는 주장을 좁히지만 위험을 없애지는 않는다. 보고된 Boko Haram의 사용은 자율 테러리즘을 보여주지 않는다. 의도, 맥락, 그리고 어느 정도의 전문성을 이미 지닌 인간 운영자를 AI가 확장하는 모습을 보여준다.

따라서 압박은 전통적으로 사람, 자금 조달, 무기, 이동, 통신을 평가해 온 대테러 조직에 가해진다. 이제 이들은 여러 상업적 제공업체에 걸쳐 있을 수 있는 디지털 지원 계층을 이해해야 한다.

진짜 상대는 가장 약한 안전장치다

주된 충돌은 지속적인 교차 플랫폼 사용과 기업별로 개별 시행되는 안전장치 사이에서 벌어진다.

OpenAI와 Anthropic은 Washington Examiner에 자사 시스템이 테러 활동과 위험한 지원을 금지한다고 밝혔다. 양사는 폭력적 요청을 거절하고, 악용을 식별하며, 위반 계정을 차단하기 위한 통제 장치를 설명했다.

이 정책들은 필요한 경계를 설정한다. 그렇다고 모든 유해한 상호작용이 탐지된다는 뜻은 아니다. 전 Boko Haram 구성원들은 프롬프트를 바꾸고, 요청을 나누거나, 서비스를 전환해 유용한 자료를 얻는 방법을 찾았다고 전해진다.

이 관행은 때때로 모델 쇼핑으로 불린다. 사용자는 여러 시스템에 관련 질문을 제출하고, 가장 유용해 보이는 답변을 취한다. 이 방법은 개별 거절 하나가 갖는 보호 가치를 낮춘다.

시장 구조는 이 문제를 해결하기 어렵게 만든다. 대형 제공업체들은 별도의 정책, 분류기, 계정 시스템, 위협 대응 팀, 집행 기준을 유지한다. 안전성 적용 범위는 모델, 언어, 지역, 접근 채널에 따라 다르다.

한 기업은 사용자가 다른 플랫폼으로 이동했는지 알지 못한 채 계정을 차단할 수 있다. 다른 제공업체는 관련 패턴을 관찰하더라도 이를 분류하는 데 필요한 맥락이 부족할 수 있다. 연구자와 정보기관은 추가적인 단편 정보를 보유할 수 있다.

이 문제는 분산형 보안 사고와 닮아 있다. 각 참여자는 사슬의 일부를 보지만, 전체 타임라인을 책임지는 참여자는 없다.

Google, OpenAI, Anthropic, xAI, Meta, DeepSeek 역시 서로 다른 관할권과 제도적 유인 아래 운영된다. 일부는 계정 단위 모니터링이 가능한 폐쇄형 서비스를 제공한다. 다른 일부는 제3자나 로컬 하드웨어에서 실행할 수 있는 모델을 배포한다.

로컬 모델은 더 까다로운 집행 경계를 만든다. 모델 가중치가 제공업체의 호스팅 환경 밖에서 이용 가능해지면, 중앙집중식 계정 차단과 서버 측 분류기의 영향력은 제한된다. 안전성 수정 사항도 후속 개발자가 변경할 수 있다.

그렇다고 오픈 모델이 자동으로 더 많은 악용을 초래한다는 뜻은 아니다. 폐쇄형 시스템도 우회될 수 있고, 탈취된 자격 증명은 신원을 감출 수 있으며, 의지가 확고한 사용자는 무해해 보이는 프롬프트들에 작업을 분산할 수 있다.

핵심 문제는 방어 수준의 불균형이다. Juelich는 한 제공업체가 강력한 보호 장치를 유지하더라도 다른 업체가 그렇지 않으면 사회는 여전히 노출된 상태라고 주장했다. 이 관점은 안전을 제품 기능이 아니라 시스템의 속성으로 규정한다.

업계 협력은 반복되는 전술, 위험한 행동 패턴, 새롭게 나타나는 악용 사례를 파악하는 데 도움이 될 수 있다. 그러나 사용자 수준의 정보를 공유하는 일은 심각한 개인정보, 법률, 시민적 자유 관련 문제를 제기한다.

광범위한 키워드 또는 행동 필터는 기자, 연구자, 인도주의 활동가, 보안 전문가를 잘못 분류할 수 있다. 폭발물 처리 방법을 연구하는 사람은 위해를 계획하는 사람과 유사한 어휘를 사용할 수 있다. 맥락은 이들을 구분하지만, 맥락을 신뢰성 있게 추론하기는 어렵다.

자동화된 모더레이션 역시 언어와 방언에 따라 성능 편차를 보인다. 나이지리아 북동부에서 활동하는 집단은 영어, 아랍어, 하우사어, 카누리어 또는 이들이 섞인 형태로 소통할 수 있다. 주로 표준 영어로 시험된 통제 장치는 암호화되었거나 번역된 요청을 놓칠 수 있다.

거짓 음성은 위험한 지원을 허용한다. 거짓 양성은 정당한 접근을 차단하고 침해적인 감시를 낳을 수 있다. 제공업체는 적대 세력이 의도적으로 경계를 탐색하는 상황에서 두 오류를 모두 관리해야 한다.

해답은 안전 시스템을 우회하는 프롬프트의 공개 목록일 수 없다. 구체적인 회피 방법을 공개하면 보호 장치가 제약하려는 행위자들에게 도움이 될 것이다.

대신 방어 측에는 통제된 평가 환경이 필요하다. 레드팀은 현실적인 다중 턴 행동, 다국어 프롬프트, 여러 영역으로의 작업 분해, 그리고 겉보기에는 무해한 작업들 사이를 오가는 사용자를 상대로 모델을 시험할 수 있다.

현재의 평가는 흔히 단일 상호작용에 대해 깔끔한 통과 또는 실패 결과를 낸다. 실제 악용은 좀처럼 그렇게 정돈된 형태로 나타나지 않는다. 며칠, 계정, 기기, 모델에 걸쳐 축적될 수 있다.

더 강력한 평가는 시스템이 진행 중인 패턴을 인식하는지 물어야 한다. 거부 이후에 무엇이 일어나는지도 측정해야 한다. 모델은 더 안전한 대안을 제시하는가, 인접한 세부 정보를 계속 제공하는가, 아니면 여전히 유용할 만큼 충분한 단서를 노출하는가?

이 때문에 한 기업이 정책 문구만으로 이 문제를 해결할 수는 없다. 이 경쟁은 조직적으로 움직이고 적응하는 사용자들과, 제품과 제도 전반에 분열된 방어 체계 사이에서 벌어진다.

분절된 정보는 위험한 사각지대를 남긴다

위협을 인식하기에 가장 유리한 위치에 있는 조직들은 서로 다른 증거 조각을 보유하고 있으며, 이를 쉽게 결합할 수 없다.

AI 기업은 프롬프트, 계정 활동, 자동화된 안전 경보, 통제 우회 시도를 관찰할 수 있다. 그러나 이들의 가시성은 자사 서비스 밖에서 끝나며, 개인정보 보호 의무는 사용자 정보를 얼마나 폭넓게 공유할 수 있는지도 제한한다.

정보기관은 어떤 집단이 새로운 역량을 찾고 있는지 알고 있을 수 있다. 이들은 기밀 통신, 인적 정보원 보고, 전장 증거를 보유할 수 있다. 이런 정보는 종종 민간 기업이나 학술 연구자에게 직접 이전될 수 없다.

연구자들은 기업이나 기관이 획득하도록 구조화되어 있지 않은 인터뷰를 수행할 수 있다. Juelich의 연구는 그 장점을 보여준다. 전직 구성원들은 도구가 조직에 어떻게 유입되었고 운영자들이 이를 어떻게 평가했는지 설명할 수 있었다.

시민사회 단체는 또 다른 층위를 더한다. 이들은 극단주의 커뮤니티를 모니터링하고 소규모 플랫폼 전반의 공개 선전을 추적한다. 이들의 데이터셋은 최첨단 모델 제공업체가 결코 보지 못하는 행동을 드러낼 수 있다.

국가안보 전문가 Rebecca Hersman은 이러한 조각들을 연결하기 위한 AI 위협 융합 센터를 제안한 바 있다. 이 개념은 보안 인가를 받은 정부 관계자와 지정된 기업 대표를 통제된 정보 공유 구조 안에 모으는 것이다.

융합 센터는 위협 정보를 반영한 모델 평가를 지원할 수 있다. 평가자는 추상적인 최악의 경우를 시험하는 대신, 민감한 세부 사항을 공개하지 않고 관찰된 적대 세력의 전술에서 도출된 행동을 검토할 수 있다.

이는 중복되는 사각지대도 줄일 수 있다. 한 제공업체는 의심스러운 기술 질문을 감지할 수 있지만 조직적 연계의 증거는 없을 수 있다. 한 기관은 그 연계를 알고 있어도 해당 플랫폼에서의 활동은 인지하지 못할 수 있다.

이러한 신호들을 결합하는 일은 단순해 보인다. 하지만 거버넌스가 이를 어렵게 만든다.

참여자들에게는 접근, 보존, 감독, 기밀 등급, 허용된 사용 범위를 포괄하는 규칙이 필요하다. 기업에는 독점적 보안 정보를 보호할 장치가 필요하다. 사용자에게는 정당화되지 않은 감시를 막는 보호 장치가 필요하다.

국제적 범위도 또 다른 장애물이다. Boko Haram은 국경과 통신망을 가로지르는 차드호 분지 주변에서 주로 활동한다. 관련 제공업체, 정부, 연구자, 피해 공동체는 하나의 법체계 안에 존재하지 않는다.

미국 중심의 조직은 미국 기업과 기관 간 조율을 개선할 수 있다. 그러나 모든 해외 서비스, 오픈 모델, 리셀러, 로컬 호스팅 배포 환경에 대한 가시성을 자동으로 제공하지는 못한다.

이 시스템은 증거와 추론도 구분해야 한다. 인터뷰 증언은 시험할 가치가 있는 패턴을 식별할 수 있지만, 모든 제공업체가 같은 방식으로 실패했다는 점을 입증하지는 않는다. 제공업체 로그는 출력물이 어떻게 사용됐는지 증명하지 않고도 계정 행동을 드러낼 수 있다.

책임 있는 정보 융합은 이러한 구분을 보존한다. 여러 기관이 데이터를 제공했다는 이유만으로 불확실한 신호를 확신에 찬 비난으로 바꾸어서는 안 된다.

유엔은 테러리스트의 디지털 시스템 사용 확대도 별도로 지적했다. 2026년 5월 CTED 브리핑은 Tehrik-i-Taliban Pakistan이 생성형 도구를 이용해 선전을 제작하고 이미지, 영상, 번역을 개선했다고 설명했다.

이 사례는 더 폭넓은 모니터링의 필요성을 뒷받침하는 동시에 활용 방식의 다양성도 보여준다. 선전 제작, 전장 조언, 사이버 지원, 자금 조달은 동일한 탐지 문제를 제기하지 않는다.

공동 센터는 행동 지침을 제시할 만큼 정밀한 위협 분류가 필요하다. 극단주의 세력의 모든 기술 활용을 하나의 차별화되지 않은 AI 위협으로 뭉뚱그려서는 안 된다.

따라서 정보 격차에는 두 가지 차원이 있다. 조직들은 사용자 행동에 대한 완전한 관점을 갖고 있지 않으며, 자신들이 보는 현상의 중요성을 판단할 공통 방법도 부족하다.

첫 번째 격차를 줄이려면 안전한 정보 공유가 필요하다. 두 번째 격차를 줄이려면 검증된 분석 기준, 현실적인 평가, 불확실성에 관한 신중한 표현이 필요하다.

증거가 아직 입증하지 못하는 것

인터뷰는 심각한 경고 신호를 보여주지만, AI가 테러 역량에 미치는 순효과를 측정하지는 못한다.

Cambridge 연구는 전직 Boko Haram 구성원에 초점을 맞춘다. 이는 모든 현역 구성원, 분파, 테러 조직을 대표하지 않는다. 도입 양상은 지도부, 연결성, 언어, 기술 역량에 따라 달라질 수 있다.

전직 참여자는 내부 관행에 대한 드문 접근을 제공할 수 있다. 그러나 날짜를 잘못 기억하거나, 성공을 과장하거나, 예외적 사례를 일상적인 것으로 묘사할 수도 있다. 연구자들은 인터뷰 간 증언을 비교하고 가능한 경우 이를 뒷받침할 증거를 찾아야 한다.

공개 보도는 모든 챗봇 대화의 완전한 기록을 제공하지 않는다. 따라서 독립 평가자는 어떤 모델이 각 답변을 생성했는지, 어떤 안전장치가 활성화되어 있었는지, 응답이 실제 작전을 직접 개선했는지를 확인할 수 없다.

모델의 행동도 빠르게 변한다. 한 달 동안 관찰된 거부는 시스템 업데이트 뒤에는 달라질 수 있다. 이름이 비슷한 제품도 서로 다른 기반 모델, 안전 계층, 지역별 구성 설정을 사용할 수 있다.

무장 세력이 지원을 요청했다는 사실이 출력의 정확성을 입증하지는 않는다. 대규모 언어 모델은 통계적 패턴을 바탕으로 그럴듯한 텍스트를 생성하며, 세부 사항을 지어낼 수도 있다. 사용자가 전문성을 갖추지 못한 경우 기술적 오류는 특히 위험할 수 있다.

그렇다고 부정확성이 완전한 방어 논거가 되지는 않는다. 사용자는 여러 답변을 비교하고, 제안을 시험하거나, 명백한 오류는 버린 채 폭넓은 지침을 추출할 수 있다. 숙련된 운영자는 기존 지식과 맞아떨어지는 단편도 식별할 수 있다.

이 증거는 AI가 독자적으로 병력을 지휘했거나, 인간의 판단 없이 표적을 선정했거나, 자율 공격을 실행했다는 주장을 뒷받침하지 않는다. 또한 AI가 재래식 정보원으로는 얻을 수 없었던 전략적 역량을 만들었다는 점도 입증하지 않는다.

공개 정보에는 이미 전자공학, 드론, 무기, 화학, 군사사에 관한 광범위한 자료가 존재한다. 검색 엔진과 메시징 네트워크는 오래전부터 악의적 행위자가 이런 콘텐츠를 찾고 배포하도록 도왔다.

생성형 AI는 인터페이스를 바꾼다. 흩어진 정보를 요약하고, 후속 질문에 답하며, 용어를 번역하고, 사용자에게 맞춘 설명을 제공할 수 있다. 이러한 편의는 기존 지식을 탐색하는 데 필요한 노력을 낮출 수 있다.

추가된 위험을 판단하려면 비교가 필요하다. 연구자들은 사용자가 챗봇, 일반적인 웹 검색, 정적 문서 또는 다른 사람의 안내로 무엇을 달성할 수 있는지 시험해야 한다.

결과 지표도 필요하다. AI가 계획 시간을 줄였는가, 신뢰성을 높였는가, 역량을 갖춘 참여자의 수를 늘렸는가, 또는 표적 선택을 바꾸었는가? 증언은 이러한 효과를 시사할 수 있지만 이를 정확하게 정량화하지는 못한다.

West Point 분석은 중요한 회의적 균형추를 제공한다. 저자들은 생성형 AI가 현재 테러 역량을 변혁하기보다는 이미 확립된 활동을 가속할 가능성이 더 높아 보인다고 판단했다.

이 평가는 Juelich의 연구 결과와 공존할 수 있다. 기술이 테러의 기본적 성격을 바꾸지 않았더라도, 운영상의 도입은 실제로 일어나고 있으며 우려할 만할 수 있다.

이 구분은 두 가지 분석적 실패를 막는다. 증거를 일반적인 인터넷 사용으로 치부하면 상호작용형 지원의 가치를 간과하게 된다. 보고된 모든 사용 사례를 전략적 변혁으로 취급하면 연구가 보여주는 범위를 과장하게 된다.

미디어 집계는 또 다른 문제를 더한다. Google News 결과는 미묘한 연구를 공포를 자극하는 헤드라인으로 압축해 표본의 한계와 불확실성을 제거할 수 있다. 독자는 헤드라인에서 보도로, 다시 기초 연구로 이어지는 출처 사슬을 따라가야 한다.

가장 강하게 뒷받침되는 결론은 더 제한적이다. 일부 전직 Boko Haram 구성원은 자신들의 분파가 여러 최첨단 AI 시스템을 운영 절차에 통합했으며, 때로는 안전장치를 우회했다고 보고한다.

이 발견은 더 나은 평가와 조율을 요구하기에 충분하다. AI가 독자적으로 전장 결과를 바꾸었다고 주장하기에는 충분하지 않다.

방어 체계가 따라잡고 있는지를 보여줄 세 가지 신호

다음 단계는 플랫폼 간 차단, 운영적으로 현실적인 시험, 그리고 추가 집단에서 나온 독립적 증거로 평가될 것이다.

첫 번째 신호는 정부, 모델 제공업체, 자격을 갖춘 연구자 간 위협 정보 공유의 제도화다. 융합 센터는 하나의 제안이지만, 명칭보다 중요한 것은 그 권한, 보호 장치, 참여 구조다.

신뢰할 수 있는 구조는 실제 적대 세력의 행동을 바탕으로 한 정기적 위협 평가를 만들어낼 것이다. 또한 기밀 및 독점 증거가 민감한 방법론을 공개적으로 노출하지 않으면서 모델 테스트에 반영되도록 할 수 있다.

그러한 구조가 없다면 각 제공업체는 불완전한 관점만을 방어하게 된다. 반대로 이를 구축하면 기관들이 플랫폼 간 악용을 공동의 보안 문제로 다루고 있다는 근거가 강화될 것이다.

두 번째 신호는 안전성 보고의 변화다. 제공업체들은 정책과 차단한 악용 사례를 자주 공개하지만, 가장 유용한 보고서는 지속적이고 다국어·다계정 방식으로 이루어지는 행태를 다뤄야 한다.

평가는 모델 쇼핑, 작업 분해, 그리고 유해한 의도가 점진적으로 드러나는 장시간 대화를 살펴봐야 한다. 결과는 완전한 거부, 부분적 정보 유출, 계정 제재, 인간 검토로의 성공적인 에스컬레이션을 구분해야 한다.

여기서는 독립적 접근이 중요하다. 기업 내부 테스트는 취약점을 빠르게 발견할 수 있지만, 외부 평가자는 방법론적 검증과 대중적 신뢰성을 제공한다. 두 집단 모두 널리 공개되어서는 안 되는 발견 사항을 안전하게 다룰 방법이 필요하다.

진전은 단지 명백히 위험한 요청에 대한 거부가 강화되는 것이 아니라, 반복 시도 전반에서 유용한 단편 정보가 줄어드는 모습으로 나타날 것이다. 방어 체계는 영향을 받는 공동체가 사용하는 언어에서도 일관된 성능을 보여야 한다.

세 번째 신호는 현장 연구를 통한 교차 검증이다. 다른 테러 조직, 지역, 전 구성원을 포함한 연구는 Boko Haram이 더 광범위한 패턴을 보여주는 사례인지, 아니면 이례적으로 이른 도입자인지를 드러낼 것이다.

연구자들은 AI가 언제 업무 흐름에 들어왔는지, 누가 이를 도입했는지, 어떤 작업이 지속됐는지, 그리고 결과물이 어디에서 실패했는지를 기록해야 한다. 또한 선전, 물류, 사이버 활동, 물리적 작전을 구분해야 한다.

관련이 없는 여러 집단에서 유사한 관행이 확인된다면 범용 AI가 일상적인 무장 조직 인프라가 되고 있다는 결론은 더욱 강해질 것이다. 반대로 패턴이 재현되지 않는다면 위험 평가는 더 좁혀질 것이다.

정부의 조치도 이러한 신호 안에서 또 다른 지표가 될 것이다. 미국 의회는 생성형 AI의 테러리스트 이용에 관한 정기 평가 요건을 검토해 왔다. 유용한 시행은 그러한 평가를 제공업체의 평가 및 측정 가능한 완화 작업과 연결할 것이다.

독자들은 결과가 아니라 정책의 개수만 세는 발표를 경계해야 한다. 금지는 규칙을 설명한다. 그러나 적대 세력이 얼마나 자주 유용한 정보를 얻었는지, 계정이 얼마나 신속히 차단됐는지, 사용자가 이후 어디로 이동했는지는 보여주지 않는다.

같은 주의는 경각심을 불러일으키는 주장에도 적용된다. 무장 세력이 최첨단 모델에 접근했다는 보고가 AI가 가능하게 한 공격의 성공을 자동으로 입증하지는 않는다. 접근에서 지원, 행동, 측정 가능한 효과로 이어지는 사슬은 모든 단계에서 증거를 필요로 한다.

결국 이는 마찰을 둘러싼 경쟁이다. 테러 조직은 조사, 계획, 소통, 문제 해결을 더 쉽게 해주는 도구를 원한다. 방어자는 정당한 탐구를 막지 않으면서 위험한 활동 주변의 마찰을 복원하고자 한다.

Boko Haram 인터뷰는 기존 통제에도 불구하고 단호한 사용자가 가치를 찾아냈음을 시사한다. 이제 대응은 개별적인 거부와 공개적 보장을 넘어설 필요가 있다.

향후 몇 달 동안 공동 위협 평가, 현실적인 플랫폼 간 평가, 독립적인 현장 증거를 주시해야 한다. 이러한 신호는 기관들이 적대 세력보다 더 빠르게 학습하고 있는지를 보여줄 것이다.

Google News 또는 다른 애그리게이터를 통해 이 이야기를 따라가는 사람이라면 다음 단계는 간단하다. 원 연구를 검토하고, 아직 검증되지 않은 내용을 기록하며, 제공업체가 측정 가능한 결과를 공개하는지 추적하는 것이다. 결정적인 질문은 하나의 챗봇이 하나의 위험한 프롬프트를 거부할 수 있느냐가 아니다. 더 넓은 AI 시장이 분절된 지원이 작전상 우위로 이어지기 전에 조직적인 패턴을 인식할 수 있느냐가 핵심이다.