파이브 아이즈 AI 경고, 사이버 방어팀에 주어진 시간은 3개월
파이브 아이즈 보안 기관들이 공격용 AI가 몇 달 안에 기존 사이버 방어 체계를 앞지를 수 있다고 경고한 것으로 알려지면서, 기업 보안 책임자들은 긴급한 시험대에 올랐다. 이 경고는 2026년 6월 24일 공개된 UC Today 보도에 대한 Google News 목록을 통해 더 넓은 대중에게 전해졌다.
헤드라인은 충격적이지만, 여러 개별 주장을 하나의 극적인 전망으로 압축한다. AI 모델은 취약점 발견, 익스플로잇 개발, 자율 테스트에서 빠르게 발전하고 있다. 그러나 모든 사이버보안 시스템이 특정 날짜에 갑자기 쓸모없어질 것이라는 근거는 없다.
방어 가능한 결론은 더 좁지만 여전히 심각하다. 공격자는 조직이 패치를 적용하는 속도보다 더 빠르게 약점을 찾아 악용할 수 있는 도구를 확보하고 있다. 따라서 CISO가 마주한 것은 단일 기술적 종말이 아니라, 기계 속도의 공격과 인간 속도의 대응 간 경쟁이다.
이 구분은 조직의 대응 방식을 좌우한다. 또 다른 AI 보안 제품을 도입한다고 해서 불완전한 자산 목록, 외부에 노출된 레거시 애플리케이션, 또는 여섯 단계의 승인이 필요한 패치 프로세스가 해결되지는 않는다. 당면 과제는 방어 주기 전체를 단축하는 것이다.
이 경고는 하나의 슈퍼무기가 아니라 운영 속도에 관한 것이다
핵심 변화는 고급 사이버 역량이 희소한 전문 지식에서 반복 가능하고 자동화된 워크플로로 이동하고 있다는 점이다.
UC Today 보도는 미국, 영국, 캐나다, 호주, 뉴질랜드 보안 기관이 참여한 공동 경고를 설명한다. 이 보도는 최첨단 모델이 취약점 식별, 익스플로잇 구축, 정교한 공격 수행에 필요한 전문성의 문턱을 낮출 수 있다고 전한다.
이 설명은 더 큰 우려를 잘 담고 있지만, 독자는 가장 강한 세부 주장들을 신중히 받아들여야 한다. 공개적으로 접근 가능한 증거는 AI가 모든 기존 방어 체계를 앞지를 보편적 시점을 입증하지 않는다. 사이버보안 시스템 역시 산업, 아키텍처, 위협 모델에 따라 크게 다르다.
“몇 달 안에”라는 표현은 대비 기간으로 이해하는 편이 낫다. 조직은 현재 모델 개발사, 정부, 일부 보안 기업에 제한된 역량이 더 쉽게 확보될 수 있다고 가정해야 한다. 정확한 확산 경로는 여전히 불확실하다.
이는 자율 AI가 방어가 잘 된 어떤 네트워크도 뚫을 수 있다는 말과는 다르다. 실제 침투에는 표적 정보, 자격 증명, 지속성, 운영 보안, 모니터링 회피 수단이 필요하다. 모델은 실패하거나, 기술적 세부 사항을 지어내거나, 사용할 수 없는 코드를 생성할 수 있다.
그럼에도 공격자에게 완벽한 자율 시스템은 필요하지 않다. 정찰이나 익스플로잇 개발 시간을 몇 시간 줄여 주는 모델만으로도 작전의 경제성은 바뀔 수 있다. 소규모 팀도 더 많은 표적을 시험하고, 더 많은 접근법을 재시도하며, 더 설득력 있는 유인책을 맞춤화할 수 있게 된다.
그에 따른 압박은 더 느린 가정을 바탕으로 구축된 시스템에 가해진다. 많은 취약점 관리 프로그램은 정기 검토 회의를 통해 발견 사항의 우선순위를 정한다. 소프트웨어 팀은 릴리스 일정에 맞춰 수정 작업을 계획한다. 조달 및 변경 통제 절차는 종종 추가 지연을 초래한다.
공격자는 이런 제약을 공유하지 않는다. 취약점을 이해할 수 있게 되면 자동화는 같은 노출을 가진 여러 조직을 스캔할 수 있다. 이어 AI는 서로 다른 구성에 맞게 익스플로잇을 조정하거나, 기술적 발견을 표적형 사회공학 공격으로 전환하는 데 도움을 줄 수 있다.
이 비대칭성은 헤드라인의 전망이 과장된 것으로 판명되더라도 이 경고가 중요한 이유를 설명한다. 방어 측은 수많은 시스템을 지속적으로 보호해야 한다. 공격 측은 가치 있는 한 환경으로 들어갈 유용한 경로 하나만 있으면 된다.
Google News는 이 이야기를 AI 지배까지의 카운트다운처럼 제시할 수 있지만, 근본적인 사건은 운영 시간의 압축이다. 실질적인 질문은 공격자가 이를 산업화하기 전에 방어자가 약점을 찾아 우선순위를 정하고 차단할 수 있는지다.
증거는 중요한 한계와 함께 빠른 진전을 보여준다
측정된 사이버 성능은 빠르게 발전하고 있지만, 벤치마크 향상이 신뢰할 수 있는 현실 공격으로 곧바로 이어지지는 않는다.
가장 강력한 뒷받침 근거는 통제된 평가와 방어적 테스트에서 나온다. 이 자료들은 최신 모델이 더 긴 기술 과업을 수행하고, 연관된 취약점을 연결하며, 이전 시스템보다 작동하는 익스플로잇 코드를 더 자주 생성할 수 있음을 보여준다.
UK AI Security Institute가 설명한 연구는 사이버 과업 시간 지평선(cyber task time horizon)을 사용한다. 이 지표는 모델이 정해진 신뢰도 수준에서 완료할 수 있는 과업의 길이를 추정한다. 또한 모델 성능을 인간 전문가가 해당 과업에 필요한 시간과 비교한다.
AISI 벤치마크 분석에 보고된 이 기관의 조사 결과에 따르면, 측정된 시간 지평선은 2024년 말부터 4.7개월마다 두 배로 늘고 있었다. 이후의 모델 체크포인트는 이 추세조차 뛰어넘은 것으로 알려졌다.
평가된 한 모델은 32단계의 시뮬레이션 기업 네트워크 공격을 10번 중 6번 성공적으로 완료했다. 또한 이전에는 해결되지 않았던 7단계 산업 제어 과제를 10번 중 3번 완료했다.
이 결과가 중요한 이유는 긴 사이버 과업에 취약한 코드 패턴을 인식하는 능력 이상이 필요하기 때문이다. 모델은 맥락을 유지하고, 도구를 선택하며, 실패를 해석하고, 여러 단계에 걸쳐 전략을 조정해야 한다.
다만 이 기관은 벤치마크를 광범위한 역량 전망으로 전환해서는 안 된다고 명시적으로 경고했다. 이 평가는 AI가 특정 임계점에 언제 도달할지 예측하지 않는다. 또한 성능이 방어된 운영 환경으로 어떻게 이전될지도 입증하지 않는다.
이 단서는 필수적이다. 벤치마크는 구조화된 목표, 범위가 제한된 시스템, 측정 가능한 결과를 제시한다. 기업 네트워크에는 문서화되지 않은 종속성, 일관성 없는 텔레메트리, 기만적 신호, 의심스러운 행동을 탐지하도록 설계된 통제가 존재한다.
실제 공격자는 실패에 따른 결과도 감수해야 한다. 시끄러운 스캔은 공격 인프라를 노출할 수 있다. 신뢰할 수 없는 익스플로잇은 지속성을 확보하기 전에 서비스를 중단시킬 수 있다. 환각으로 생성된 명령은 증거를 파괴하거나 접근 권한을 종료할 수 있다.
Palo Alto Networks는 또 다른 유용한 데이터 포인트를 제시했다. 이 회사는 고급 모델을 사용해 130개가 넘는 제품을 조사했고, 이후 패치한 75개의 유효한 취약점을 발견했다고 밝혔다.
AI 취약점 테스트에 따르면, 이는 회사의 일반적인 월간 처리량보다 7배 이상 많았다. 회사는 내부 테스트에서 모델이 70%가 넘는 비율로 작동하는 익스플로잇을 생성했다고도 밝혔다.
이 결과는 역량과 마찰을 모두 드러낸다. Palo Alto Networks는 약 30%의 오탐률을 보고했다. 연구진은 맥락, 위협 인텔리전스, 운영상 가드레일을 제공하는 특수 스캐닝 하니스도 구축했다.
그 하니스는 사소한 구현 세부 사항이 아니라 시스템의 일부다. 모델이 독립적으로 도착해 회사의 자산 환경을 이해하고 신뢰할 수 있는 발견 사항을 생산하기 시작한 것은 아니다. 숙련된 팀이 모델을 유용하게 만드는 환경을 구축했다.
따라서 같은 근거는 두 가지 해석을 뒷받침할 수 있다. 공격용 AI는 실질적으로 더 강력해지고 있다. 효과적인 배포에는 여전히 전문성, 맥락, 인프라, 검증이 필요하다.
CISO는 두 번째 해석을 전제로 예산을 편성하되, 첫 번째 해석에 대비해 계획해야 한다. AI가 완전히 자율화될 때까지 무해하다고 취급하면 대응이 늦어진다. 모든 벤치마크 향상을 임박한 보편적 침해의 증거로 취급하면 관심과 비용을 낭비하게 된다.
AI 공격은 기업 대응보다 더 빠르게 확장되고 있다
주된 경쟁은 AI와 보안 제품 간의 대결이 아니다. 자동화된 발견과 조직의 전체 대응 프로세스 간의 경쟁이다.
취약점 발견은 병렬 모델 실행을 통해 확장될 수 있다. 반면 대응은 소프트웨어 소유권, 회귀 테스트, 운영 리스크, 공급업체 일정, 유지보수 시간대, 비즈니스 승인에 묶여 있다.
이 불일치는 AI가 없어도 이미 존재한다. 보안 팀은 엔지니어링 조직이 수정할 수 있는 것보다 더 많은 약점을 일상적으로 식별한다. 위험 점수화가 도움이 되기는 하지만, 점수에는 외부에 노출된 공격 경로와 고립된 이론적 결함을 구분하는 데 필요한 맥락이 부족한 경우가 많다.
AI는 이러한 발견의 양과 잠재적 연결성을 늘린다. 모델은 여러 개의 낮은 심각도 약점이 하나의 고영향 경로를 형성하는지 살펴볼 수 있다. 공격자는 취약점 대시보드에서 사용하는 범주를 거의 존중하지 않기 때문에 이는 중요하다.
잊힌 관리 인터페이스가 자격 증명을 노출할 수 있다. 그 자격 증명은 내부 서비스를 열 수 있다. 해당 서비스는 인터넷에서는 도달할 수 없는 것으로 보였던 취약한 라이브러리를 신뢰할 수 있다.
기존 자동화 스캐너는 알려진 패턴을 식별하는 데 대체로 효과적이었다. 최신 모델은 프로그램 동작을 추론하고 발견 사항을 작동하는 경로로 연결하려 시도할 수 있다. 이 역량이 현재의 변화를 중대하게 만드는 요소다.
2026 RSA Conference에서 발언한 보안 리더들은 비슷한 불균형을 설명했다. Alex Stamos는 AI 지원 익스플로잇 발견이 가속화된 반면 익스플로잇의 무기화는 덜 성숙했다고 말했다. Kevin Mandia는 단기적으로 공격자가 우위를 점할 것이라고 주장했다.
이들의 기계 속도 경고는 공개된 약점과 실질적 악용 사이의 시간에 초점을 맞췄다. Stamos는 “Patch Tuesday, exploit Wednesday”라는 날카로운 표현으로 그 방향을 요약했다.
이 시나리오에서 모델이 이전에 알려지지 않은 취약점을 발명할 필요는 없다. 공급업체의 패치에서 시작해 변경된 코드를 비교하고, 근본 결함을 추론하며, 테스트를 생성할 수 있다.
패치 디핑(patch diffing)으로 알려진 이 과정은 새로운 것이 아니다. AI는 이를 더 쉽게 접근하고 반복할 수 있게 만들 수 있다. 한때 경험 많은 리버스 엔지니어에게만 맡겨졌던 과업이 점차 안내형 워크플로가 될 수 있다.
기존 패치 프로그램은 성과를 일, 주, 월 단위로 측정한다. 새로 공개된 취약점에 대응하는 공격자는 곧 같은 기간을 시간 단위로 측정할 수 있다. 이는 수동 분류와 단계적 배포에 사용할 시간을 줄인다.
CISO는 모든 업데이트를 즉시 운영 환경에 적용하라고 요구하는 방식으로 이 격차를 해결할 수 없다. 테스트되지 않은 패치는 핵심 서비스를 중단시키거나 새로운 장애를 초래할 수 있다. 더 나은 대응은 우선순위 설정, 격리, 보완 통제를 결합하는 것이다.
첫 번째 우선순위는 노출도다. 인터넷 연결 자산, 원격 접근 시스템, ID 인프라, 외부에서 접근 가능한 관리 인터페이스에는 가장 짧은 대응 목표가 필요하다. 내부 시스템도 여전히 중요하지만, 긴급성은 이용 가능한 공격 경로에 따라 달라진다.
두 번째 우선순위는 악용 가능성이다. 팀은 단지 높은 일반 점수가 아니라, 약점이 의미 있는 공격을 뒷받침할 수 있다는 증거가 필요하다. AI 지원 레드 팀은 범죄자가 이 경로를 찾기 전에 검증하는 데 도움을 줄 수 있다.
세 번째 우선순위는 피해 범위다. 강력한 세분화, 제한된 권한, 보호된 관리 경로는 초기 접근 이후 공격자가 도달할 수 있는 범위를 줄인다. 이러한 통제는 즉각적인 패치가 불가능할 때 시간을 벌어 준다.
네 번째 우선순위는 대응 권한이다. 활성화된 ID가 네트워크를 가로질러 이동 중일 때 자동화된 차단은 위원회를 기다릴 수 없다. 조직은 기계가 취할 수 있는 조치와 사람이 개입해야 하는 시점을 정의해야 한다.
이 지점에서 많은 AI 보안 전략이 여전히 불완전하다. 기업은 보안 운영 센터에 모델을 도입하면서도 그 주변의 느린 승인 절차는 그대로 유지할 수 있다. 모델은 위험을 더 빠르게 식별하지만, 조직의 대응 속도는 여전히 예전 수준에 머문다.
CISO는 대응 지연 시간을 측정 가능한 보안 속성으로 다뤄야 한다. 탐지 시간은 한 구성 요소일 뿐이다. 검증, 책임자 지정, 통제 수단 배포, 차단 확인에 걸리는 시간 역시 동일한 운영 체계 안에서 관리돼야 한다.
기회의 창이 닫히기 전에 CISO가 바꿔야 할 것
준비는 공격 표면 축소와 의사결정 속도 개선에서 시작하고, 이후 명확히 정의된 방어 워크플로를 개선하는 지점에 AI를 추가해야 한다.
첫 단계는 외부에 노출된 시스템의 정확한 인벤토리를 구축하는 것이다. 이 인벤토리에는 애플리케이션, API, 클라우드 서비스, ID 공급자, 원격 액세스 도구, 에이전트에 연결된 데이터 소스가 포함돼야 한다.
분기별 스프레드시트로는 기계 속도의 방어를 뒷받침할 수 없다. 인프라가 변경되면 자산 정보도 갱신돼야 한다. 또한 비즈니스 책임자, 기술 책임자, 데이터 민감도, 사용할 수 있는 격리 옵션도 식별해야 한다.
이 작업은 화려하지 않지만, AI 지원 공격은 조직이 잊고 있던 부분을 노릴 것이다. 알려지지 않은 서버에는 긴급 패치를 적용할 수 없다. 방치된 자격 증명은 여전히 사용 중이라는 사실조차 아무도 모르는 액세스 정책으로 보호할 수 없다.
다음으로 조직은 불필요한 노출을 제거해야 한다. 공개 액세스는 서비스에 필요해서 존재해야지, 배포 이후 기본 설정이 그대로 남았기 때문에 존재해서는 안 된다. 관리 인터페이스에는 더 강력한 격리와 인증이 필요하다.
이후 팀은 실제 악용 증거를 중심으로 취약점 서비스 수준 목표를 재검토해야 한다. 모든 심각도 점수에 단일 기한을 적용하면 노이즈와 잦은 예외가 발생한다. 맥락 기반 모델은 외부에 노출돼 무기화 가능한 경로와 여러 통제로 보호되는 약점을 구분할 수 있다.
CISO에게는 사전 승인된 긴급 절차도 필요하다. 이 절차는 누가 워크로드를 격리하고, 자격 증명을 폐기하며, 도메인을 차단하거나 통합 기능을 비활성화할 수 있는지 식별해야 한다. 각 조치에 필요한 증거도 명시해야 한다.
이런 결정은 빠르게 전개되는 사고 중에 새로 만들어낼 수 없다. 테이블톱 훈련은 증거가 자동화 시스템에서 나올 때 조직이 실제로 행동할 수 있는지 검증해야 한다. 훈련에는 오탐과 불완전한 정보도 포함해야 한다.
AI는 이런 기반이 마련된 뒤에만 워크플로에 도입돼야 한다. 유용한 방어 활용 사례에는 코드 검토, 취약점 상관 분석, 경보 보강, 피싱 분석, 공격 경로 테스트, 사고 요약이 포함된다.
각 활용 사례에는 평가가 필요하다. 팀은 오탐, 누락 탐지, 절감된 분석가 시간, 잘못된 조치가 초래할 결과를 측정해야 한다. 더 나은 의사결정 없이 경보만 늘리는 모델은 보호가 아니라 업무 부담을 더한다.
보안 운영 센터는 AI 권고 사항에 대한 증거 추적 기록을 보존해야 한다. 분석가는 어떤 텔레메트리, 가정, 도구가 결론을 이끌어냈는지 알아야 한다. 이 기록은 사고 검토를 지원하고 자동화가 실패한 지점을 드러낸다.
민감한 컨텍스트도 보호가 필요하다. 조사에 사용되는 모델에는 소스 코드, 자격 증명, 고객 기록 또는 내부 네트워크 데이터가 입력될 수 있다. CISO는 이 정보가 어디로 전송되며 제공업체가 얼마나 오래 보관하는지 이해해야 한다.
자율 에이전트는 도구를 사용할 수 있기 때문에 추가적인 위험을 만든다. 로그를 조회할 권한이 있는 에이전트와 계정을 비활성화하거나 방화벽 규칙을 수정할 수 있는 에이전트는 다르다. 권한은 특정 작업에 맞춰야 하며 범위를 좁게 유지해야 한다.
조직은 인간 관리자에게 적용하는 것과 같은 원칙을 사용할 수 있다. 임시 액세스를 부여하고, 영향이 큰 조치에는 더 강한 승인을 요구하며, 도구 활동을 기록하고, 권한을 신속하게 회수할 수 있어야 한다.
방어 수단의 다양성도 중요하다. Palo Alto Networks는 서로 다른 고급 모델이 서로 다른 유형의 취약점을 발견했다고 밝혔다. 이는 하나의 모델이 시스템 안전 여부를 판단하는 유일한 심판이 되어서는 안 된다는 점을 시사한다.
중요한 발견 사항에 대해서는 여러 도구를 비교하거나 독립적인 검증을 요구할 수 있다. 권고가 프로덕션을 중단시키거나, 민감한 데이터를 노출하거나, 핵심 ID 통제를 수정할 수 있다면 인간 검토는 특히 중요하다.
이 전환 과정에서는 지식의 연속성에도 주의를 기울여야 한다. 보안 팀에는 사고, 예외, 아키텍처 결정, 통제 책임자에 관한 검색 가능한 기록이 필요하다. 구조화된 기술 지식 베이스는 과거 결정을 재구성하는 데 쓰는 시간을 줄일 수 있다.
그 문서는 텔레메트리를 대체하지 않는다. 대응자가 시스템이 존재하는 이유, 중요한 종속성, 변경을 승인할 수 있는 담당자를 이해하는 데 도움을 준다. 이런 답은 조직이 몇 분 안에 사고를 차단할지, 아니면 맥락을 찾느라 몇 시간을 잃을지를 결정하는 경우가 많다.
마지막으로 CISO는 이 문제를 추상적인 AI 위협이 아니라 운영상의 불일치로 이사회에 제시해야 한다. 핵심 지표는 이해하기 쉽다. 외부 노출, 패치 지연 시간, 차단 시간, 권한 있는 액세스, 복구 성과다.
더 빠른 조치와 더 작은 피해 범위를 중심으로 제시한 요청은 “AI 보안에 투자하자”는 요청보다 평가하기 쉽다. 또한 가장 극적인 전망이 틀렸을 경우에도 조직을 보호한다.
Google News 헤드라인이 입증하지 않는 것
이 경고는 더 빠른 준비를 정당화하지만, 자율 공격자가 이미 성숙한 방어 체계를 마음대로 무너뜨릴 수 있음을 입증하지는 않는다.
Google News 헤드라인은 “사이버 보안 시스템을 앞지른다”는 표현을 폭넓은 프레이밍으로 사용한다. 이 표현은 사이버 보안을 하나의 고정된 기술 스택으로 취급할 위험이 있다. 실제 방어에는 아키텍처, 소프트웨어 품질, ID 통제, 인력, 인텔리전스, 법적 권한, 복구 계획이 포함된다.
AI 발전은 이러한 계층에 고르게 영향을 미치지 않을 것이다. 취약점 연구와 피싱 콘텐츠는 이미 자동화의 혜택을 받고 있다. 세분화된 환경에서의 지속성 확보, 은밀한 측면 이동, 낯선 산업 시스템의 신뢰도 높은 조작은 여전히 더 어려운 문제다.
가장 인상적인 공개 결과 역시 고급 모델과 전문 팀에 대한 특권적 접근권을 가진 조직에서 나왔다. 이들의 경험은 미숙련 범죄자가 공개 챗봇을 이용해 같은 성과를 재현할 수 있음을 보여주지 않는다.
Palo Alto Networks에는 목적에 맞게 설계된 하니스와 연구자의 광범위한 참여가 필요했다. 약 30%에 이르는 오탐률은 엔터프라이즈 규모에서 상당한 검증 업무를 초래할 것이다.
AISI의 결과에도 그에 못지않게 중요한 한계가 있다. 시간 지평은 벤치마크 측정치이지, 모든 실제 네트워크에 대한 성공적인 공격의 예측이 아니다. 이 연구소는 자신들의 증거가 모델이 특정 능력 임계값에 도달할 시점을 판단하지는 못한다고 밝혔다.
이 불확실성은 조달 방식에도 반영돼야 한다. 공급업체는 이 위협의 창을 활용해 자율 방어, 에이전트형 보안 플랫폼, AI 네이티브 운영을 마케팅할 것이다. 일부 제품은 측정 가능한 가치를 제공하겠지만, 다른 제품은 기존 자동화를 대화형 인터페이스로 다시 포장할 뿐일 수 있다.
CISO는 자체 환경과 연결된 성능 증거를 요구해야 한다. 유용한 파일럿은 시스템이 조사 시간을 줄이는지, 악용 가능한 경로를 식별하는지, 또는 용납할 수 없는 중단 없이 활동을 차단하는지를 묻는다.
벤치마크 정확도만을 근거로 한 주장은 운영상 정보가 너무 부족하다. 구매자는 불완전한 로그, 이례적인 인프라, 적대적 입력, 상충하는 증거가 있는 상황에서 시스템이 어떻게 작동하는지 알아야 한다.
AI 대 AI 구도는 또 다른 우려를 낳는다. 방어 에이전트는 기계 속도로 움직일 수 있지만, 침해되거나 조작된 에이전트도 마찬가지다. 프롬프트 인젝션은 신뢰할 수 없는 텍스트나 도구 출력을 처리하는 시스템에 영향을 미치려 시도할 수 있다.
공격자는 에이전트가 나중에 검토할 문서, 지원 티켓, 소스 저장소 또는 웹 페이지 안에 지시를 심어둘 수 있다. 안전한 설계는 신뢰할 수 없는 콘텐츠를 정책과 분리하고 모델이 호출할 수 있는 도구를 제한해야 한다.
전략적 위험은 인간의 지연을 통제되지 않은 기계 권한으로 대체하는 데 있다. 잘못된 서비스를 차단하는 에이전트는 공격자가 원했던 장애를 일으킬 수 있다. 거짓 설명을 받아들이는 에이전트는 진짜 경보를 억제할 수 있다.
그렇다고 조직이 자동화된 대응을 거부해야 한다는 뜻은 아니다. 자율성은 영향도, 신뢰도, 되돌릴 수 있는 정도에 따라 제한돼야 한다는 의미다. 하나의 엔드포인트를 격리하는 일은 회사 전체의 ID 공급자를 비활성화하는 일과 다르다.
역사적 선례 역시 이분법적 전망에 반대한다. 자동화된 익스플로잇 키트, 웜, 클라우드 스캐너, 랜섬웨어 플랫폼은 각각 공격자의 진입 장벽을 낮췄다. 방어자는 결코 완벽하지는 않았지만 새로운 통제, 더 나은 기본 설정, 더 빠른 협업으로 적응했다.
2017년 WannaCry와 NotPetya 사고는 유출된 익스플로잇이 패치되지 않은 시스템을 통해 어떻게 확산될 수 있는지를 보여줬다. 이들의 피해는 기술적 역량과 누적된 운영상 취약성이 결합해 발생했다.
AI는 유사한 역량의 속도와 가용성을 바꾼다. 세분화, 백업, 액세스 통제, 안전한 개발, 검증된 복구의 가치를 무효화하지는 않는다. 즉흥 대응에 쓸 수 있는 시간이 줄어들수록 이러한 통제는 더 중요해진다.
따라서 올바른 회의적 입장은 무시도 공황도 아니다. 공개 증거는 일부 사이버 작업에서 빠른 개선이 진행되고 있음을 뒷받침한다. 그러나 사이버 보안 전체가 붕괴할 정확한 날짜를 뒷받침하지는 않는다.
경고가 옳았는지를 보여줄 세 가지 신호
앞으로 몇 달은 역량 접근성, 악용 속도, 방어 운영 결과를 기준으로 평가해야 한다.
첫 번째 신호는 특화된 사이버 모델에 대한 접근이 더 넓어지는지다. 오늘날 가장 강력하다고 보고된 결과에는 일부 파트너, 연구 기관, 보안 공급업체가 관여한다. 비슷한 역량이 공개 서비스, 다운로드 가능한 모델 또는 범죄 시장에 등장하면 위험은 달라진다.
접근성만으로는 충분하지 않다. 관찰자들은 경험이 적은 운영자도 맞춤형 인프라 없이 전문가 수준의 취약점 발견을 재현할 수 있는지 추적해야 한다. 가능하다면 경고는 훨씬 더 강해진다.
효과적인 사용에 여전히 고가의 컴퓨팅, 정제된 컨텍스트, 숙련된 연구자가 필요하다면 즉각적인 위협은 제한된 집단에 집중된다. 이는 장기적 압박을 없애지는 않지만 가장 극적인 해석은 약화시킨다.
두 번째 신호는 취약점 공개와 악용 사이의 시간이다. 보안 팀은 이미 주요 공급업체 업데이트 이후 알려진 악용 취약점과 공격 활동을 추적하고 있다.
무기화까지 걸리는 시간이 며칠 단위에서 당일 악용으로 지속적으로 이동한다면, 자동화가 운영 속도를 바꾸고 있음을 보여줄 것이다. 방어자는 사전 승인된 차단 절차와 외부 노출 시스템에 대한 더 강력한 통제가 필요해질 것이다.
단일 사고만으로는 추세를 입증할 수 없다. 공격자는 이미 일부 공개 취약점을 빠르게 악용하며, 특히 공개 개념 증명 코드가 있을 때 그렇다. 의미 있는 변화는 이전에는 무기화하기 어렵다고 여겨진 결함 전반에서 반복적으로 악용이 일어나는 것이다.
세 번째 신호는 방어 AI가 실제 대응 결과를 개선하는지다. 조직은 더 짧아진 조사 시간, 더 빠른 패치 우선순위 결정, 줄어든 성공적 침입, 또는 더 작은 사고 영향을 보고해야 한다.
경보량은 유용한 성공 지표가 아니다. 검증과 조치에 관한 정보 없이 모델이 생성한 취약점 발견 건수 역시 마찬가지다.
강력한 방어 성과는 기계 속도의 지원이 양측 모두에 이점을 준다는 점을 보여줄 것이다. 또한 공격이 지속적인 우위를 유지해야 한다는 가정에도 의문을 제기할 것이다.
약한 결과는 다르게 나타날 것이다. 기업은 AI 도구를 추가하지만 패치 적체, 노출 자산, 차단 시간은 변하지 않는다. 보안 팀은 행동할 권한이나 역량을 얻지 못한 채 더 많은 발견 사항을 처리하게 된다.
CISO는 이 세 가지 신호를 매월 검토해야 합니다. 외부 역량의 변화와 자체 운영 지표를 비교하고, 그에 맞춰 우선순위를 조정해야 합니다.
즉각적인 조치는 명확합니다. 가장 중요한 시스템에서 발견부터 차단까지 걸리는 시간을 측정하십시오. 그런 다음 그 시간을 늘리는 모든 승인 절차, 책임 공백, 기술적 의존성을 파악해야 합니다.
Google News 관련 보도가 정의되지 않은 AI 보안 전략을 쫓는 이유가 되어서는 안 됩니다. 대신 더 구체적인 질문을 던져야 합니다. 공격자가 일주일치 작업을 한 시간으로 압축한다면, 방어 프로세스의 어느 부분이 가장 먼저 실패할까요?
프레젠테이션이 아니라 실제 훈련을 통해 그 질문에 답하십시오. 노출된 애플리케이션을 테스트하고, 공격 경로를 검증하며, 비상 프로세스를 가동한 뒤 차단까지 걸린 시간을 기록해야 합니다. 그 결과로 얻는 타임라인은 어떤 일반화된 카운트다운보다 CISO에게 더 많은 것을 알려줄 것입니다.
