AI가 사이버 공격자에게 초기 우위를 주지만, 장기전에서는 방어자가 승리할 수 있다

Google News는 선명한 대립 구도를 부각했다. AI는 방어자에게 더 강력한 장기적 이점을 만들어내는 동시에, 사이버 공격자에게 즉각적인 기회를 제공한다. 이 긴장 관계는 인공지능이 해킹을 더 빠르게 만들 것이라는 또 하나의 경고보다 더 유용하다.

공격자들은 이미 모델을 활용해 표적을 조사하고, 악성 코드를 해결하며, 기만적인 메시지를 번역하고, 취약점 탐지의 일부를 자동화할 수 있다. 방어자들도 같은 역량을 활용할 수 있으며, 여기에 내부 텔레메트리, 소스 코드, 시스템 맥락, 그리고 지속적인 수정 조치를 적용할 권한까지 갖고 있다.

따라서 결정적인 질문은 AI가 공격과 방어 중 어느 쪽에 도움이 되느냐가 아니다. 방어자들이 AI를 신뢰할 수 있는 데이터와 운영 통제에 연결하기 전에, 공격자들이 일시적인 역량 격차를 악용할 수 있느냐이다.

최근 증거는 공격 측의 기회가 실재함을 보여준다. Google은 2026년에 이전까지 알려지지 않았던 소프트웨어 취약점을 발견하고 무기화하려는, AI 지원으로 보이는 시도를 공개했다. 다만 이전 관찰에서는 국가 지원 행위자들이 AI를 독립적인 해킹 시스템이 아니라 주로 생산성 도구로 활용하는 것으로 나타났다.

이러한 전개는 사이버 분쟁에서 AI를 두 단계로 바라보는 관점을 뒷받침한다. 공격 측은 위험한 도구를 빠르게 도입할 수 있기 때문에 초기 기회를 가장 분명하게 얻는다. 방어 측은 조직이 소프트웨어 개발, 신원 관리, 모니터링, 사고 대응 전반에 신뢰할 수 있는 자동화를 배포할 수 있게 되면 더 강한 구조적 위치를 확보한다.

Google News 보도가 실제로 바꾼 것

중요한 변화는 공격자들이 AI를 발견했다는 점이 아니다. AI 지원이 주변 업무에서 취약점 탐지와 익스플로잇으로 이동하기 시작했다는 점이다.

Google News를 통해 소개된 한 기사는 AI가 단기적인 공격 기회와 장기적인 방어 우위를 만든다고 주장했다. 이 주장은 연구자들이 사이버 공격-방어 균형을 처음 논의했을 당시보다 더 발전한 운영상 증거와 나란히 놓이게 됐다.

2025년 1월, Google Threat Intelligence Group은 정부 지원 행위자들이 Gemini를 어떻게 활용했는지 조사했다. Gemini 오용 조사 결과는 지능형 지속 위협과 조직적인 영향력 작전을 다뤘다.

Google은 이란, 중국, 북한, 러시아와 연계된 행위자들이 여러 작전 단계에서 이 모델을 사용하는 것을 관찰했다. 이들의 업무에는 표적 조사, 취약점 분석, 스크립팅 지원, 인프라 조사, 콘텐츠 생성, 번역이 포함됐다.

그러나 Google은 이들 행위자가 Gemini를 통해 독창적인 역량을 개발한 사례는 확인하지 못했다. 이들은 주로 이미 이해하고 있던 업무의 효율성을 높였다.

이란의 정보작전 행위자들은 해당 범주에서 관찰된 Gemini 사용의 4분의 3을 차지했다. Google 데이터셋의 국가 지원 그룹 가운데 이란 사이버 행위자들 역시 가장 많은 사용량을 보였다.

이러한 조사 결과는 실질적인 오용과 추정에 기반한 자율 해킹을 구분했다는 점에서 중요했다. AI는 인건비를 낮추고 마찰을 줄이고 있었지만, 아직 숙련된 운영자를 대체하지는 못했다.

상황은 2026년 5월에 더욱 달라졌다. Google은 악의적인 행위자들이 제로데이 취약점을 식별하고 무기화하는 데 AI를 사용한 것으로 보이는 시도를 차단했다고 밝혔다.

제로데이는 개발사가 사용할 수 있는 수정 조치를 내놓기 전에 악용되는 소프트웨어 결함이다. 방어자들이 기존 패치를 적용하는 것만으로 대응할 수 없기 때문에 이러한 결함은 가치가 높다.

제로데이 보도에 따르면, Google은 공격자, 표적, 관련 모델에 관한 세부 정보를 거의 공개하지 않았다. 또한 이 작전이 적대적 정부와 연결된다는 증거도 발견하지 못했다.

이처럼 귀속 정보가 부족하면 분석가들이 내릴 수 있는 결론은 제한된다. 이는 AI가 결함을 독립적으로 발견하고, 테스트하며, 작전 수준으로 구현했다는 사실을 입증하지는 않는다.

그럼에도 이 사건은 중요한 문턱을 넘는다. AI 지원은 더 이상 번역, 조사, 코드 디버깅에만 국한되지 않았다. 보도에 따르면 실제 작전 가치가 있는 미지의 취약점과 관련한 업무에 기여했다.

이 전환이 공격 측의 영구적 우위를 증명하는 것은 아니다. 다만 Google News 헤드라인에서 언급된 공격 기회가 측정 가능한 현실이 되기 시작했음을 보여준다.

공격자들은 가장 강력한 모델과 인간 전문가를 하나의 고가치 표적에 집중할 수 있다. 이들은 대부분의 방어자보다 실패한 시도, 부정확한 결과물, 불안정한 코드, 부수 피해를 더 쉽게 감수할 수 있다.

수천 개의 애플리케이션을 책임지는 방어자는 다른 기준에 직면한다. 자동화 시스템은 운영 환경을 망가뜨리거나, 정상 데이터를 삭제하거나, 필수 사용자를 차단하지 않아야 한다.

이 비대칭성은 공격자들이 왜 먼저 이점을 활용할 수 있는지 설명한다. 공격자에게는 하나의 유용한 결과면 충분하지만, 방어적 배포는 수많은 시스템에서 일관되게 작동해야 한다.

그로 인한 우위는 심각하지만 일시적이다. 발견된 모든 익스플로잇 기법은 방어자가 탐지, 패치, 접근 통제, 모델 안전장치로 전환할 수 있는 데이터도 제공한다.

AI가 즉각적인 공격 기회를 만드는 이유

공격 측은 신뢰할 수 없는 결과를 감수하고, 자원을 좁게 집중하며, 기업 배포 제약 없이 활동할 수 있기 때문에 먼저 이점을 얻는다.

전통적인 공격자들은 이미 스캔, 자격 증명 공격, 피싱, 악성코드 전달, 명령 실행에 자동화를 사용한다. 생성형 모델은 기존 도구 상자에 유연한 추론과 자연어 인터페이스를 더한다.

영국 National Cyber Security Centre는 단기 평가에서 이러한 양상을 예상했다. 이 기관은 AI가 이후 2년 동안 공격 규모와 영향을 거의 확실히 키울 것으로 판단했다.

이 기관은 정찰과 사회공학에서 가장 큰 초기 개선이 나타날 것으로 예상했다. 두 활동 모두 공격자가 대량의 공개 정보를 처리하고 특정 표적에 맞춰 메시지를 조정해야 한다.

정찰은 침입 전 표적에 관한 정보를 수집하고 분석하는 활동이다. AI는 기업 구조를 요약하고, 사용 기술을 파악하며, 직원을 매핑하고, 공개 출처에 흩어진 세부 정보를 연결할 수 있다.

사회공학은 사람을 조작해 접근 권한을 부여하게 하거나, 정보를 공개하게 하거나, 안전하지 않은 행동을 하게 만드는 기법이다. 모델은 여러 언어로 설득력 있는 메시지를 만들고, 서로 다른 역할에 맞춰 어조를 조정할 수 있다.

어느 역량도 자율형 악성코드를 필요로 하지 않는다. 더 나은 피싱 메시지를 작성하거나 표적을 더 빠르게 조사하는 공격자는 같은 인력으로 더 많은 침입을 시도할 수 있다.

AI는 지원 업무에 필요한 전문성도 낮춘다. 경험이 부족한 운영자도 모델에 오류를 설명해 달라고 요청하거나, 스크립트를 수정하고, 기술 문서를 해석하며, 다른 접근법을 제안해 달라고 할 수 있다.

이러한 지원이 초보자를 즉시 최정상급 운영자로 바꾸지는 않는다. 숙련된 공격자들은 여전히 어떤 표적이 중요한지, 네트워크가 어떻게 동작하는지, 생성된 답변이 언제 위험하거나 틀린지를 이해한다.

그러나 이 도구들은 역량 분포의 하한을 끌어올릴 수 있다. 또한 숙련된 인력을 반복적인 조사와 문제 해결 업무에서 해방한다.

AI 에이전트가 워크플로에 들어오면 단기 공격 우위는 더욱 강해진다. 에이전트는 도구를 선택하고 목표를 향해 여러 단계를 수행할 수 있는 모델 기반 시스템이다.

기본 챗봇은 텍스트를 반환한다. 에이전트는 정의된 권한 아래 저장소를 검사하고, 스캐너를 실행하며, 결과를 분석하고, 코드를 수정한 뒤, 이 과정을 반복할 수 있다.

이 루프는 더 빠른 취약점 조사 기회를 만든다. 시스템은 가설을 세우고, 이를 시험하며, 실패를 검토하고, 유용한 중간 결과를 보존할 수 있다.

현재 에이전트들은 여전히 장기 작업, 변화하는 환경, 오해를 부르는 피드백에 어려움을 겪는다. 잘못된 가정을 추구하다가 멈춰 서기도 한다.

공격자들은 이런 약점을 우회할 여지가 있다. 여러 에이전트를 실행하고, 실패한 시도를 버리며, 유망한 경로가 나타날 때에만 사람이 개입하게 할 수 있다.

자원이 풍부한 그룹은 하나의 표적에 값비싼 추론을 집중할 수도 있다. 추론은 훈련된 모델이 답변을 생성하거나 평가할 때 사용하는 연산이다.

고급 사이버 추론에는 많은 모델 호출이 필요할 수 있으므로 이러한 집중은 중요하다. 각 시도는 코드를 검사하고, 테스트를 계획하고, 도구를 실행하며, 결과를 재평가할 수 있다.

방어자는 모든 애플리케이션, 엔드포인트, 경고에 그만큼의 연산을 항상 투입할 수는 없다. 예산은 전체 환경을 포괄해야 한다.

따라서 공격자의 기회는 보편적인 AI 우위가 아니라 선택적 집중에서 비롯된다. 하나의 신중하게 지원된 시스템은 가치 있는 구성 요소를 공격할 수 있는 반면, 방어자는 수백만 개의 가능한 약점에 자원을 나눠야 한다.

공격자는 모델 오류에 대해서도 더 높은 허용도를 가진다. 생성된 익스플로잇은 하나의 버전이 작동하기 전까지 반복적으로 충돌할 수 있다.

방어 패치는 운영 환경에서 그런 방식으로 진행될 수 없다. 기능을 유지하고, 변경 통제를 준수하며, 또 다른 취약점을 도입하지 않아야 한다.

이 차이는 비교 가능한 방어 배포보다 공격 시연이 먼저 등장하는 경우가 많은 이유를 설명한다. 공격 측에서 “유용하다”는 판단 기준은 훨씬 낮다.

하지만 이 우위를 보장된 전략적 효과와 혼동해서는 안 된다. 결함을 찾아냈다고 해서 접근, 지속성, 데이터 탈취, 군사적 가치가 보장되는 것은 아니다.

조직들은 취약한 소프트웨어 주위에 인증, 엔드포인트 모니터링, 네트워크 세분화, 백업, 사고 대응을 겹겹이 배치한다. 익스플로잇은 이후 어느 단계에서든 실패할 수 있다.

AI는 공격 주기의 일부를 단축한다. 그렇다고 인프라, 작전 보안, 표적 지식, 판단의 필요성이 사라지는 것은 아니다.

진짜 경쟁은 일시적 접근과 지속 가능한 복구의 대결이다

공격자는 한 번의 성공적인 침입으로 가치를 얻지만, 방어자는 하나의 발견을 업데이트된 모든 시스템의 보호로 전환할 수 있다.

이것이 AI 사이버 분쟁에서 핵심적인 역전이다. 공격의 성공은 대개 일시적이지만, 올바르게 적용된 방어 개선은 지속될 수 있다.

취약점을 발견한 공격자는 결함이 노출되거나, 완화되거나, 패치될 때까지 기회를 얻는다. 방어자들이 지표를 배포하고 시스템을 업데이트할수록 그 가치는 떨어진다.

근본적인 약점을 제거하는 방어자는 소프트웨어 자체를 바꾼다. 패치된 모든 배포 환경은 미래의 공격자에게 같은 경로를 차단할 수 있다.

Andrew Lohn의 2025년 공격-방어 연구는 공격에 유리한 논거 9개와 방어에 유리한 논거 9개를 검토했다. 최종적으로 AI가 사이버 분쟁과 경쟁에 영향을 미칠 수 있는 44가지 방식을 식별했다.

이 연구는 전체 사이버 영역에 적용되는 단일한 답을 거부했다. AI는 일부 공격 활동을 강화하고, 방어 활동을 강화하며, 다른 역학에는 변화를 주지 않을 수 있다.

이러한 단서는 필수적이다. 피싱, 레거시 시스템, 취약한 신원 관리, 신속히 패치할 수 없는 조직을 무시한다면 “방어가 이긴다”는 말은 지나치게 광범위하다.

대신 장기적인 방어 우위의 근거는 여러 복합적인 이점에 있다.

첫째, 방어자는 자신의 시스템을 검사할 수 있다. 이들은 소스 코드, 아키텍처 기록, 엔드포인트 이벤트, 신원 로그, 클라우드 구성, 사고 이력을 보유한다.

공격자는 불완전한 증거를 바탕으로 그 환경을 추론해야 한다. 이들은 작전이 이미 시작되기 전까지 내부 통제를 보지 못하는 경우가 많다.

둘째, 방어자는 변경을 승인할 수 있다. 자격 증명을 철회하고, 장비를 격리하며, 소프트웨어를 업데이트하고, 불필요한 서비스를 제거하고, 안전하지 않은 구성 요소를 재설계할 수 있다.

공격자는 시스템을 조작할 수 있지만, 그 미래 아키텍처를 안정적으로 좌우할 수는 없다. 방어자가 근본적인 조건을 제거하면 공격자의 발판은 사라진다.

셋째, 방어자는 집단적으로 학습할 수 있다. 한 조직을 겨냥해 관찰된 기법은 다른 많은 조직을 위한 시그니처, 행위 기반 탐지, 패치된 라이브러리, 업데이트된 보안 제품으로 이어질 수 있다.

공격자도 도구와 지식을 공유하지만, 공개적인 악용에는 그들 역시 비용을 치른다. 노출은 인프라를 무력화하고, 기법을 드러내며, 광범위한 대응 조치를 촉발할 수 있다.

넷째, 방어용 AI는 환경 내부에서 지속적으로 작동할 수 있다. 배포 전 변경 사항을 검사하고, 경보의 우선순위를 정하며, 활동을 연계 분석하고, 격리 조치를 권고할 수 있다.

이러한 “홈그라운드” 우위는 신뢰할 수 있는 맥락에 달려 있다. 범용 모델은 일반적인 프로그래밍 및 보안 패턴을 알지만, 내부 시스템은 어떤 애플리케이션이 특정 자격 증명을 소유하는지 안다.

이 차이는 경보가 유용한 조치로 이어지는지를 결정한다. 의심스러운 접근에 대한 일반적인 경고는 자산 소유권, 비즈니스 중요도, 예상되는 행위에 대한 정보가 없으면 가치가 제한적이다.

방어 자동화는 이러한 사실을 연결할 수 있다. 비정상적인 로그인이 프로덕션 데이터베이스에 접근했고, 관리되지 않는 디바이스에서 발생했다는 점을 판단할 수 있다.

그런 다음 기존 정책에 따라 대응을 권고할 수 있다. 인간 분석가는 판단을 검증하거나, 범위가 제한된 자동화 조치를 허용할 수 있다.

보안팀은 이미 플레이북을 통해 예측 가능한 작업을 자동화하고 있다. AI는 시스템이 해석할 수 있는 이벤트의 범위를 넓히지만, 그 해석은 신뢰할 수 있는 통제 체계와 계속 연결돼야 한다.

같은 원칙은 소프트웨어 보안에도 적용된다. 모델은 코드를 스캔하고 패치를 제안할 수 있지만, 해당 패치가 의도된 동작을 보존하는지는 테스트와 검토가 결정한다.

시간이 지나면 이 과정은 취약점의 전체 범주를 제거할 수 있다. 메모리 안전 언어, 더 강력한 인증, 축소된 권한, 안전한 기본 설정은 반복적인 악용을 더 어렵게 만든다.

공격자의 성공적인 프롬프트나 스크립트는 같은 수준의 지속성을 제공하지 않는다. 방어자는 이를 분석해 대응책을 만들고, 그 보호 조치를 널리 배포할 수 있다.

속도는 여전히 결정적인 변수다. 조직이 이를 배포하는 데 수개월이 걸린다면 지속 가능한 방어는 아무런 이점도 제공하지 못한다.

많은 기업은 지원이 종료된 소프트웨어, 잊힌 자산, 불완전한 인벤토리, 취약한 시스템을 안고 있다. 이런 조건은 이론적인 방어 우위가 운영 현실이 되는 것을 막는다.

따라서 장기적 논거는 구현에 달려 있다. AI는 공격자가 새로운 약점을 악용하는 속도보다 더 빠르게 조직이 수정 사항을 찾고, 검증하고, 우선순위를 정하고, 배포하도록 도와야 한다.

Google News가 포착한, 아직 결론 나지 않은 논쟁

증거는 공격 중심 전환을 뒷받침하지만, 자율형 AI가 이미 사이버 작전의 모든 단계를 변화시켰다는 주장을 정당화하지는 않는다.

Google News의 프레이밍이 설득력 있는 이유는 하나의 순서를 설명하기 때문이다. 하지만 독자가 그 순서를 이미 확립된 법칙으로 해석한다면 오해를 낳을 수 있다.

여러 변수는 균형을 어느 방향으로든 움직일 수 있다. 여기에는 모델 접근성, 컴퓨팅 비용, 소프트웨어 복잡성, 방어 기술 도입, 에이전트의 신뢰성이 포함된다.

한 경쟁 분석은 최첨단 역량이 공격자에게 유리할 수 있다고 경고한다. Center for a New American Security는 세 가지 잠재적 비대칭성에 초점을 맞춘 frontier AI analysis를 발표했다.

첫 번째는 추론 비용이다. 공격자는 선택한 고가치 시스템에 상당한 컴퓨팅 자원을 집중할 수 있는 반면, 방어자는 넓은 공격 표면을 모두 커버해야 한다.

두 번째는 전체 공격 사슬의 자동화다. 에이전트가 정찰부터 악용, 지속성 확보까지 독립적으로 진행할 수 있다면 작전은 기계 속도로 수행될 수 있다.

세 번째는 위험 감수 성향이다. 공격자는 신뢰할 수 없는 시스템을 배포하고 부수적 피해를 감수할 수 있지만, 방어자에게는 예측 가능한 결과가 필요하다.

이러한 우려는 방어로의 자동적인 전환에 직접 도전한다. 방어의 확장성은 조직이 필요한 시스템을 감당하고, 신뢰하며, 안전하게 배포할 수 있을 때만 도움이 된다.

소프트웨어의 증가는 또 다른 문제를 만든다. AI 지원 개발은 기업이 더 많은 코드와 서비스를 생산하도록 하며, 이는 보호해야 할 구성 요소의 수를 늘린다.

생성된 코드는 흔한 취약점을 반복하거나 팀이 이해하지 못하는 의존성을 만들 수 있다. 따라서 더 빠른 개발은 방어 검토가 따라잡기 전에 공격 표면을 확장할 수 있다.

AI 시스템도 그 자체로 표적이 된다. 프롬프트 인젝션, 데이터 오염, 모델 탈취, 안전하지 않은 도구 권한, 노출된 에이전트 자격 증명은 새로운 실패 모드를 추가한다.

프롬프트 인젝션은 신뢰할 수 없는 콘텐츠가 모델을 조작해 의도된 지시를 무시하게 만드는 경우다. 에이전트가 이메일, 파일, 터미널 또는 클라우드 시스템에 접근할 수 있을 때 위험은 더 심각해진다.

경보를 요약하는 방어 보조 도구의 권한은 제한적이다. 반면 계정을 비활성화하거나 패치를 배포할 수 있는 에이전트는 조작된 뒤 상당한 피해를 초래할 수 있다.

이는 방어 도입의 핵심에 있는 신뢰성 문제다. 조직에는 자동화된 조치가 계속 제한적이고, 되돌릴 수 있으며, 관찰 가능하다는 증거가 필요하다.

공격자는 같은 거버넌스 부담을 지지 않는다. 모델이 수많은 실패 가운데 하나의 작동하는 익스플로잇만 만들어도 그들에게는 이득이다.

International AI Safety Report의 capability update는 양측을 모두 보여준다. 이 보고서는 악용 가능한 소프트웨어 결함을 발견하고 패치할 수 있는 시스템을 언급했다.

업데이트에 따르면 DARPA’s AI Cyber Challenge의 한 시스템은 합성 취약점의 77퍼센트를 식별했다. 또한 5,400만 줄의 코드 전반에서 61퍼센트를 패치했다.

이 결과는 의미 있는 방어 확장성을 시사한다. 하지만 이 시스템이 모든 프로덕션 환경을 안전하게 복구하거나 적응적인 인간 공격자를 물리칠 수 있음을 보여주지는 않는다.

합성 벤치마크에는 잘 알려진 한계가 있다. 통제된 작업, 명확한 성공 조건, 반복 가능한 평가를 제공한다.

실제 네트워크에는 문서화되지 않은 의존성, 일관되지 않은 구성, 레거시 시스템, 그리고 사고 중 행동이 바뀌는 사용자가 존재한다. 공격자는 증거를 숨기고 조사자를 의도적으로 오도하기도 한다.

2026년 제로데이 공개 역시 비슷한 주의가 필요하다. Google은 AI가 취약점 연구에서 중심적 역할을 한 것으로 보인다고 밝혔지만, 많은 운영 세부 사항은 공개하지 않았다.

대중은 모델이 얼마나 많은 작업을 수행했는지 독립적으로 평가할 수 없다. 인간 전문가가 표적을 선택하고, 실험을 설계하고, 오류를 수정하거나, 최종 익스플로잇을 개발했을 수 있다.

그 불확실성이 사건 자체를 지우지는 않는다. 다만 적절한 보도 경계를 설정한다.

증거는 공격자가 일반적인 보조 기능을 넘어 이동하고 있음을 보여준다. 그러나 완전 자율형 에이전트가 전문가 감독 없이 정교한 캠페인을 안정적으로 수행할 수 있음을 입증하지는 않는다.

이 구분은 정책과 조달에 중요하다. 과장된 주장은 조직을 검증되지 않은 보안 자동화로 몰아가거나, 기존 위협에는 거의 효과가 없는 제한 조치를 정당화할 수 있다.

탈취된 자격 증명, 노출된 서비스, 피싱, 취약한 복구 프로세스, 지연된 패치는 여전히 효과적이다. AI는 이러한 방법 중 일부를 대체하지 않으면서 더 빠르게 만든다.

따라서 가장 책임 있는 판단은 조건부다. 공격은 단기적으로 도입 우위를 가지는 반면, 방어는 더 강한 구조적 자원을 보유한다.

어느 쪽이 더 많은 가치를 확보하는지는 배포 속도와 제도적 역량에 달려 있다. 기술만으로 승자가 결정되지는 않는다.

장기적인 방어 우위에는 운영 맥락이 필요하다

방어자는 모델이 통제되지 않은 권한을 받지 않으면서 신뢰할 수 있는 조직 지식을 활용할 수 있을 때만 장기전에서 승리한다.

보안 모델에는 공개 취약점 데이터만으로 충분하지 않다. 자산, 소유자, 의존성, 정책, 과거 사고, 수용 가능한 비즈니스 위험을 이해해야 한다.

그러한 맥락은 흔히 티켓, 아키텍처 문서, 코드 리포지토리, 채팅 스레드, 클라우드 콘솔, 직원 지식 전반에 흩어져 있다. 이러한 파편화는 분석가가 신속히 행동하기 어렵게 만든다.

조직은 모든 민감한 문서를 제한 없는 모델에 복사하는 방식으로 이 문제를 해결해서는 안 된다. 보안 맥락에는 접근 제어, 보존 규칙, 감사 추적, 명확한 경계가 필요하다.

실용적인 아키텍처는 추론과 권한을 분리한다. 모델은 증거를 취합하고 조치를 권고할 수 있지만, 정책 시스템이 어떤 조치가 허용되는지 결정한다.

영향이 큰 작업에는 검토가 필요하다. 예로는 권한이 높은 계정 비활성화, 프로덕션 방화벽 수정, 워크로드 삭제, 광범위한 코드 변경 배포가 있다.

위험이 낮은 작업은 더 빠르게 진행할 수 있다. 시스템은 경보를 보강하고, 자산 소유자를 식별하며, 런북을 가져오고, 격리 계획 초안을 작성할 수 있다.

이러한 분리는 불확실한 모델에 제한 없는 통제권을 부여하지 않으면서 방어자가 속도를 확보하게 한다. 또한 사고 이후 팀이 검토할 수 있는 기록을 만든다.

사이버 방어는 누적적이기 때문에 제도적 기억이 중요하다. 모든 사고가 탐지 체계, 아키텍처, 절차를 개선할 때 조직은 공격하기 더 어려워진다.

팀에는 통제가 존재하는 이유, 승인된 예외, 이전 조사가 결론에 도달한 방식을 검색할 수 있는 기록이 필요하다. 잘 관리된 engineering knowledge base는 이 작업을 지원할 수 있다.

이러한 기록의 품질은 AI 성능에 영향을 준다. 모델은 오래된 인벤토리, 모순된 런북, 누락된 소유권 정보로는 정확하게 추론할 수 없다.

따라서 방어 준비에는 기본적인 정보 위생이 포함돼야 한다. 조직에는 최신 자산 인벤토리, 의존성 맵, 신원 기록, 검증된 대응 절차가 필요하다.

AI는 이러한 자원을 유지하는 데 도움을 줄 수 있지만, 아무것도 없는 상태에서 정확한 사실 기반을 만들어낼 수는 없다. 잘못된 데이터를 자신 있게 요약해도 결과는 여전히 잘못된 데이터다.

보안 리더는 모델 활동보다 결과를 측정해야 한다. 생성된 발견 사항의 수는 실제 위험 감소에 대해 거의 말해주지 않는다.

유용한 지표에는 경보 검증 시간, 침입 격리 시간, 패치 배포 시간, 재발률, 분석가 수정률이 포함된다.

오탐에는 세심한 주의가 필요하다. 지속적으로 낮은 품질의 경고를 생성하는 방어 에이전트는 절약하는 시간보다 더 많은 분석가 시간을 소모할 수 있다.

미탐도 마찬가지로 중요하지만 측정하기는 더 어렵다. 팀은 알려진 사고, 모의 공격, 의도적으로 기만적인 입력을 상대로 시스템을 테스트해야 한다.

조직에는 롤백 메커니즘도 필요하다. 자동화된 복구 조치는 유해한 변경을 신속히 되돌릴 수 있도록 충분한 상태를 보존해야 한다.

좁은 권한은 모델이 실패하거나 조작당했을 때 피해를 제한한다. 각 에이전트는 할당된 작업에 필요한 도구와 정보에만 접근해야 한다.

인간 전문성은 여전히 핵심이다. 분석가는 모델의 설명이 시스템 동작과 충돌하거나 중요한 가능성을 빠뜨렸을 때 이를 알아차려야 한다.

AI는 판단을 없애기보다 업무 배분을 바꾼다. 모델은 증거를 처리하고 조치를 제안할 수 있으며, 사람은 불확실성과 결과를 관리한다.

이 운영 모델은 기계의 속도와 특권적 맥락, 책임 있는 권한을 결합하기 때문에 방어 우위를 강화한다.

이러한 기반이 없으면 AI는 방어자가 보호해야 하는 또 하나의 복잡한 시스템이 된다. 위험을 줄이기보다 공격 표면을 확장할 수 있다.

다음 승자를 가를 세 가지 신호

다음 단계는 자율적 악용의 증거, 프로덕션 수준의 복구율, 방어 배포 속도에 의해 결정될 것이다.

첫 번째 신호는 완전한 공격 사슬 전반에서 AI가 사용됐다는 독립적으로 문서화된 증거다.

연구자들은 시스템이 표적을 선택하고, 새로운 결함을 발견하고, 익스플로잇을 개발하고, 접근 권한을 획득하고, 통제권을 유지했다는 증거를 찾아야 한다. 인간의 관여도 함께 설명돼야 한다.

이러한 증거는 공격 측의 논거를 강화할 것입니다. AI가 고립된 작업을 보조하는 데 그치지 않고 운영상의 병목을 제거할 수 있음을 보여줄 것이기 때문입니다.

로그, 방법론 또는 독립적인 분석이 없는 주장은 낮은 비중으로 평가해야 합니다. 공급업체와 정부 모두 역량과 위협을 부각할 유인이 있습니다.

두 번째 신호는 방어 에이전트가 실제 소프트웨어에서 검증된 수정을 만들어낼 수 있는지 여부입니다.

벤치마크 성능도 중요하지만, 실제 운영 환경의 결과가 더 중요합니다. 조직은 AI가 생성한 패치가 얼마나 자주 테스트를 통과하고, 검토를 견디며, 회귀를 피하는지 알아야 합니다.

안전하게 수용되는 패치의 비율이 높아진다면 장기적인 방어 논거가 강화될 것입니다. AI가 광범위한 코드 접근 권한을 지속적인 위험 감소로 전환할 수 있음을 보여주기 때문입니다.

반대의 결과는 이 논거를 약화할 것입니다. 높은 거부율이나 반복적인 회귀는 공격자의 허용 오차 우위를 유지시킬 것입니다.

세 번째 신호는 일반적인 조직 전반에서의 배포 속도입니다.

대형 기술 기업은 고도화된 모델, 위협 인텔리전스, 대규모 보안팀을 결합할 수 있습니다. 반면 소규모 기업, 병원, 공공기관, 인프라 운영자는 더 제한된 예산과 노후한 시스템에 직면해 있습니다.

효과적인 방어 도구가 자원이 풍부한 조직에만 집중된다면, 공격자는 더 취약한 표적으로 관심을 돌릴 수 있습니다. 전체 생태계는 더욱 불평등해질 수 있습니다.

광범위한 도입은 이 계산을 바꿀 것입니다. 관리형 보안 제공업체, 클라우드 플랫폼, 소프트웨어 공급업체는 많은 고객에게 방어 개선책을 배포할 수 있습니다.

Google News의 논지는 방어 측의 교훈이 공격 기법보다 더 빠르게 전파될 때 가장 설득력을 얻습니다. 한 번 발견된 취약점은 소프트웨어가 실행되는 모든 곳에서 보호로 이어져야 합니다.

따라서 독자들은 극적인 해킹 시연을 평가 지표의 한쪽 면으로만 봐야 합니다. 복구 속도, 패치 적용 범위, 재발 여부가 다른 한쪽을 구성합니다.

단기적으로는 범죄자와 국가 지원을 받는 행위자들의 실험이 더 늘어날 전망입니다. 이들은 AI가 노동을 줄이고, 표적화를 개선하거나, 기술 작업을 가속하는 모든 영역에서 AI를 활용할 것입니다.

장기적인 결과는 아직 열려 있지만, 방어자는 더 나은 기반을 갖추고 있습니다. 이들은 시스템을 통제하고, 텔레메트리를 수집하며, 변경을 승인하고, 성공적인 수정이 지속되도록 할 수 있습니다.

그러나 이 기반은 규율 있는 실행을 통해서만 우위로 이어집니다. 조직은 모델을 정확한 맥락과 연결하고, 권한을 제한하며, 권고 사항을 검증하고, 실제 위험 감소를 측정해야 합니다.

다음에 Google News에서 자율 해킹에 관한 주장을 보게 된다면 세 가지를 물어보십시오. 모델이 얼마나 많은 일을 했는지, 방어자는 얼마나 빨리 대응했는지, 그리고 수정 조치가 그 경로를 제거했는지입니다.

그 답은 AI가 공격의 창을 넓히고 있는지, 아니면 마침내 방어자가 그 창을 닫도록 돕고 있는지를 보여줄 것입니다.