국가 지원 해커, 공격 체인 전반에 AI 활용

Google은 완전 자율형 캠페인에 대한 증거가 제한적인 상황에서도, 국가 지원 해커들이 공격의 거의 모든 단계에서 Gemini를 사용하고 있다고 문서화했다.

이 발견은 보안 논쟁의 초점을 바꾼다. 당장의 위험은 감독 없이 작동하는 독립형 AI 해커가 아니다. 표적을 조사하고, 스크립트를 작성하며, 악성코드 문제를 해결하고, 설득력 있는 신원을 더 빠르게 만들어낼 수 있는 인간 운영자다.

이 Google 뉴스 기사는 Google Threat Intelligence Group(GTIG)의 연구를 중심으로 다룬다. 이 그룹은 사고 대응 데이터, 위협 연구, 그리고 Gemini 오용 시도에 대한 가시성을 활용해 악성 활동을 분석한다.

Google은 중국, 북한, 이란, 러시아와 연계된 활동을 발견했다. 이 행위자들은 정찰, 취약점 조사, 코딩, 사회공학, 정보 작전에 AI를 사용했다.

그러나 Google은 어떤 국가 지원 그룹도 Gemini를 통해 침해 전 과정을 자동화했다고 보고하지 않았다. 인간 운영자는 여전히 표적을 선정하고, 접근 권한을 관리하며, 중요한 작전상 결정을 내렸다.

이 구분은 기사의 핵심 긴장을 만든다. AI는 이미 공격 체인 전반으로 확산되고 있지만, 광범위한 도입이 완전한 자율성을 의미하지는 않는다.

그럼에도 이 변화는 방어자들에게 압박을 가한다. 보안팀은 이제 더 빠르게 진행되고, 더 자주 변하며, 더 설득력 있게 보일 수 있는 익숙한 공격을 인식해야 한다.

Google 뉴스, 침해 주기 전반의 AI 활용 공개

중요한 변화는 AI가 개별 실험 단계를 넘어 침해 주기 전반에서 반복 가능한 작업으로 이동하고 있다는 점이다.

Google은 2026년 2월 상세한 AI 위협 평가를 발표했다. 회사는 수년에 걸쳐 적대 세력이 AI를 작전에 점진적으로 통합해 왔다고 밝혔다.

이 통합은 이제 침해의 여러 단계에 걸쳐 이루어진다. 운영자는 공격 전에 모델을 사용해 조직, 직원, 기술, 공개적으로 알려진 취약점을 조사한다.

작전 중에는 코드 요청, 스크립트 디버깅, 메시지 번역, 새로운 사회공학 접근법 개발 등을 수행할 수 있다. 접근 권한을 확보한 뒤에는 명령, 데이터 처리, 추가 도구와 관련한 도움을 구할 수 있다.

Google의 AI 위협 조사 결과는 악성 활동을 다섯 가지 광범위한 범주로 분류했다. 여기에는 모델 추출, AI 지원 작전, 에이전트형 실험, AI 통합 악성코드, 지하 탈옥 서비스가 포함됐다.

모델 추출은 반복적인 상호작용을 통해 고성능 모델의 유용한 동작을 다른 시스템으로 이전하는 방식이다. 이는 모델 자체를 정보 및 지식재산권 표적으로 만든다.

AI 지원 작전은 기업 방어자에게 더 직접적인 관련성이 있었다. Google은 정부 지원 공격자들이 Gemini를 코딩, 스크립팅, 표적 조사, 취약점 분석, 침해 후 지원에 사용하는 모습을 관찰했다.

에이전트형 AI는 단계를 계획하고, 도구를 사용하며, 목표를 향해 행동을 조정할 수 있는 시스템을 의미한다. Google은 공격자들이 정찰과 소프트웨어 개발을 위해 이러한 역량을 실험하고 있음을 확인했다.

AI 통합 악성코드는 한 단계 더 나아간다. 배포 전에 챗봇을 사용하는 대신, 악성 프로그램이 실행 중에 모델과 통신한다.

Google은 Gemini 애플리케이션 프로그래밍 인터페이스를 사용한 실험적 악성코드 계열인 HONESTCUE를 언급했다. 이 악성코드는 다른 악성 구성 요소를 내려받아 실행하기 위한 생성 코드를 요청했다.

이는 HONESTCUE가 자기주도형 디지털 요원으로 기능했다는 뜻은 아니다. 다만 공격자들이 모델을 악성코드의 작동 로직 일부로 만드는 방식을 탐색하고 있음을 보여준다.

이 차이는 중요하다. 오프라인 스크립트는 배포 후 예측 가능한 방식으로 동작한다. 모델에 연결된 악성코드는 환경에 따라 새로운 지침을 요청하거나 응답을 생성할 수 있다.

이러한 유연성은 공격자에게 더 많은 선택지를 제공한다. 동시에 인터넷 연결, 사용 가능한 계정, 신뢰할 수 있는 프롬프트, 그리고 작전을 망가뜨리지 않는 응답 등 여러 의존성도 초래한다.

Google은 탐지된 악성 활동과 연관된 프로젝트 및 계정을 비활성화한다고 밝혔다. 이는 상용 모델을 사용하는 공격자에게 제공업체의 집행이 또 하나의 장애물이 된다는 의미다.

지하 서비스는 이러한 통제를 우회하려 한다. 일부는 탈옥된 상용 인터페이스나 오픈소스 구성 요소에 의존하면서도, 제한 없는 시스템을 제공한다고 주장하는 것으로 알려졌다.

그 결과 형성된 생태계는 접근 권한 시장과 닮아 있다. 공격자는 일시적, 위장된 또는 탈취한 접근 권한을 얻을 수 있다면 최첨단 모델을 학습시킬 필요가 없다.

이처럼 폭넓은 통합이 제목의 중요성을 설명한다. AI는 더 나은 피싱 메시지나 실험적 악성코드 샘플에만 국한되지 않는다.

AI는 캠페인의 여러 지점을 지원할 수 있는 범용 보조 도구가 됐다. 각각의 활용은 시간을 절약하고, 언어 장벽을 낮추며, 운영자의 기술적 역량을 확장할 수 있다.

국가 지원 그룹은 서로 다른 문제에 AI를 적용하고 있다

각 그룹이 기존 임무, 자원, 작전 습관에 맞춰 AI를 활용하기 때문에 국가 차원의 도입은 균일하지 않다.

Google은 여러 정부와 연계된 행위자들의 Gemini 오용 시도를 연결했다. 관찰된 패턴은 하나의 공통된 AI 실행 지침이 아니라 익숙한 국가별 우선순위를 반영했다.

일부 북한 운영자는 사이버보안 또는 방산 기업의 직무, 보상, 직원 정보를 조사하는 데 AI를 사용했다. 이 정보는 사기성 채용 및 내부 접근 권한 확보 계획을 뒷받침할 수 있다.

또 다른 북한 그룹은 매주 여러 날 Gemini를 활용한 것으로 알려졌다. 이 그룹의 운영자들은 작업이 막혔을 때 기술 지원, 문제 해결 지원, 악성코드 코드 생성 도움을 구했다.

이 사례들은 AI가 실질적 장벽을 낮추는 방식을 보여준다. 운영자는 전문가를 기다리거나 수많은 기술 자료를 검색하지 않고도 빠른 설명을 얻을 수 있다.

북한 캠페인은 이미 금전적 동기, 첩보 활동, 고용 사기를 결합하고 있다. AI로 생성된 페르소나와 조작된 이미지는 기본 목적을 바꾸지 않으면서 이러한 작전을 강화할 수 있다.

Palo Alto Networks는 이미지 도구를 사용해 사기성 신원을 만든 것으로 의심되는 북한 계정을 문서화했다. 해당 기업의 사고 대응 연구는 합성 또는 용도 변경된 프로필로 뒷받침되는 조작된 회사도 설명했다.

이란 연계 행위자들은 다른 방식으로 AI를 사용했다. Google은 한 그룹이 의도된 피해자에 대한 정찰을 크게 확장했다고 밝혔다.

정찰은 침해 전에 정보를 수집하는 과정이다. 여기에는 조직의 직원, 시스템, 공급업체, 기술, 노출된 서비스를 파악하는 일이 포함될 수 있다.

더 빠른 조사는 공격자가 미끼를 개인화하거나 유망한 접근 경로를 식별하는 데 도움이 된다. 또한 사람이 놓칠 수 있는 흩어진 공개 정보를 연결할 수도 있다.

Google은 중국 연계 그룹 APT31이 정찰을 자동화하고 더 큰 규모로 작전하기 위해 에이전트형 역량을 실험하는 모습을 관찰했다. 이 그룹은 전체 캠페인을 모델에 맡기지는 않았다.

대신 보고된 활동은 명확히 정의된 작업을 중심으로 자동화를 배치했다. 정찰은 일반적으로 익스플로잇이나 측면 이동보다 작전상 위험이 낮기 때문에 이 접근법이 더 실용적이다.

잘못된 조사 결과는 시간을 낭비하게 한다. 피해자 네트워크 내부의 잘못된 명령은 운영자를 노출시키거나, 시스템을 중단시키거나, 가치 있는 접근 권한을 파괴할 수 있다.

Google에 따르면 러시아, 중국, 이란, 북한도 정보 작전에 Gemini를 사용했다. 작업에는 기사, 페르소나, 기타 캠페인 자산 생성이 포함됐다.

정보 작전은 컴퓨터를 직접 침해하기보다 인식을 형성하는 데 목적이 있다. 생성형 모델은 낮은 추가 노력으로 텍스트와 이미지의 다양한 변형을 만들어내는 데 적합하다.

하지만 산출물의 양이 영향력을 보장하지는 않는다. 캠페인에는 여전히 배포, 신뢰할 수 있는 계정, 대상 청중 설정, 실제 커뮤니티에 공감되는 서사가 필요하다.

따라서 Google의 조사 결과는 획일적인 정교함이 아니라 역량 증강을 설명한다. 충분한 자원을 갖춘 첩보팀과 사기성 노동자 작전은 서로 다른 목표를 위해 같은 모델을 사용할 수 있다.

공통된 이점은 편의성이다. 모델은 하나의 인터페이스 안에서 번역, 조사, 코딩 지원, 콘텐츠 생성을 결합한다.

이러한 편의성은 공격 단계 사이의 마찰을 줄인다. 그러나 표적을 선택하고, 접근 권한을 유지하며, 탐지를 피하는 데 필요한 전문성까지 없애지는 않는다.

진짜 경쟁은 인간의 지시와 AI 자동화 사이에 있다

결정적인 갈등은 공격자 AI와 방어자 AI의 대결이 아니라, 인간이 지시하는 작전과 점차 자율화되는 워크플로의 대결이다.

Google의 증거는 모델이 침해의 거의 모든 단계에 영향을 미치고 있음을 보여준다. 그러나 국가 그룹이 완전한 침해를 자율 시스템에 일상적으로 위임하고 있음을 보여주지는 않는다.

GTIG 수석 분석가인 John Hultquist는 사이버보안 보도에서 각국이 AI가 마찰보다 더 큰 이점을 제공하는 지점을 여전히 판단하고 있다고 말했다.

이 불확실성은 도입이 작업별로 이루어지는 이유를 설명한다. 공격자는 반복적이고, 검색 가능하며, 언어 비중이 높거나, 검증하기 쉬운 작업을 선호한다.

정찰은 이 특성에 부합한다. 코드 설명, 스크립트 생성, 취약점 요약, 번역, 사회공학 콘텐츠 제작도 마찬가지다.

고위험 행동은 더 어려운 문제를 만든다. 익스플로잇, 지속성 확보, 자격 증명 사용, 측면 이동은 변화하는 환경에 대한 정확한 맥락에 의존한다.

모델은 기술적으로는 틀린 그럴듯한 명령을 생성할 수 있다. 네트워크를 오해하거나, 소음이 큰 기법을 선택하거나, 자신의 통제자를 노출시킬 수도 있다.

국가 지원 첩보 그룹은 장기간 유지되는 거점이 수개월 동안 유용할 수 있기 때문에 은밀성을 중시한다. 자동화가 즉시 작전을 드러낸다면 더 빠른 속도는 거의 이점이 없다.

사이버 범죄 그룹은 이러한 상충 관계를 더 쉽게 받아들일 수 있다. 이들은 여러 잠재적 피해자를 대상으로 규모, 속도, 단기 수익을 우선시하는 경우가 많다.

이 차이는 AI의 영향이 균일하게 나타나지 않을 것임을 시사한다. 소규모 범죄 작전은 이전에는 전문 인력이 필요했던 역량을 확보할 수 있다.

정예 국가 그룹도 같은 도구를 사용해 일상적 업무를 줄일 수 있다. 그러나 경험 많은 운영자들은 자율 실행에 여전히 신중할 수 있다.

따라서 상반된 경로는 분명하다. 인간 주도 역량 증강은 통제력과 더 낮은 작전상 위험을 제공하는 반면, 자율성은 규모와 속도를 제공한다.

공개된 증거의 대부분은 여전히 역량 증강을 뒷받침한다. 인간은 목표를 정의하고, 결과물을 검토하며, 행동 시점을 결정한다.

그러나 경계는 이동하고 있다. AI 통합 악성코드와 에이전트형 정찰은 모델이 조언 이상의 작업을 수행할 수 있게 한다.

HONESTCUE는 이러한 전환을 보여준다. 더 광범위한 작전은 여전히 기존 공격자 인프라에 의존했지만, 이 악성코드는 실행 체인에 모델 접근 권한을 포함했다.

Google의 2026년 5월 연구는 더 강력한 증거를 추가했다. GTIG는 AI로 개발된 제로데이 익스플로잇을 사용하는 최초의 위협 행위자로 보이는 대상을 식별했다.

제로데이는 공격자가 익스플로잇을 준비할 당시 영향을 받는 공급업체에 알려지지 않은 취약점이다. 그 시점에는 방어자가 사용할 수 있는 패치가 없다.

Google은 해당 범죄 그룹이 이 결함을 대규모 익스플로잇에 사용하려 했다고 밝혔다. 회사는 영향을 받는 조직과 법 집행기관에 통보해 계획된 캠페인을 저지했을 가능성이 있다.

영향을 받은 제품과 위협 행위자의 이름은 공개되지 않았다. 이 때문에 익스플로잇과 그 개발 과정에 대한 독립적인 평가는 제한된다.

그럼에도 이 사례는 AI를 결정적인 공격 단계에 더 가깝게 끌어당긴다. 취약점 발견과 익스플로잇 제작은 전통적으로 전문 지식과 상당한 테스트를 요구해 왔다.

Google은 이후 적대적 워크플로에서 산업 규모의 AI 활용으로 더 폭넓게 이동하고 있다고 설명했다. 5월 위협 추적 보고서는 익스플로잇 생성, 탐지 회피, 자율형 악성코드, 정보 작전, AI 종속성 공격을 다뤘다.

이러한 진전이 완전 자율형 공격 체인의 확립을 의미하는 것은 아니다. 다만 AI 지원을 받는 개별 구성 요소가 더 유능해지고, 실전에서 더 중요한 역할을 하게 됐음을 보여준다.

핵심 질문은 공격자들이 이를 얼마나 빠르게 연결할 수 있는가다. 정찰 에이전트, 익스플로잇 생성기, 적응형 악성코드 구성 요소는 신뢰성 있게 조율될 때 더 위험해진다.

현재로서는 인간의 판단이 이를 연결하는 접착제 역할을 한다. 방어자는 이 제약이 고정된 상태로 남을 것이라고 가정해서는 안 된다.

AI는 기존 기법을 대체하지 않고 시간을 단축한다

단기적으로 AI가 제공하는 가장 신뢰할 만한 이점은 완전히 새로운 유형의 사이버 공격이 아니라 실행 시간의 단축이다.

관측된 캠페인은 여전히 익숙한 수법에 의존한다. 공격자들은 탈취한 신원 정보, 악성 링크, 취약한 소프트웨어, 원격 관리 도구, 침해된 인프라를 활용한다.

AI는 각 단계 사이에 필요한 노동을 줄여 이러한 기법을 지원한다. 미끼 메시지 초안을 작성하고, 코드를 수정하며, 오류를 해석하거나, 표적의 기술 스택을 요약할 수 있다.

이러한 가속화는 사이버 보안이 이미 경쟁이기 때문에 중요하다. 방어자는 침입을 탐지하고 범위를 조사하며 공격자를 차단할 시간이 필요하다.

CrowdStrike의 2026 위협 보고서는 AI를 활용한 적대적 활동이 전년 대비 89% 증가했다고 밝혔다. 또한 평균 브레이크아웃 시간이 29분이라고 보고했다.

브레이크아웃 시간은 초기 접근 이후 다른 시스템으로 측면 이동하기까지의 기간을 측정한다. 이 간격이 짧을수록 방어자가 최초로 침해된 계정이나 장치를 격리할 시간은 줄어든다.

CrowdStrike는 이 보고서를 위해 280개가 넘는 명명된 위협 행위자를 추적했다. 정찰, 자격 증명 탈취, 탐지 회피, 악성코드 활동, 사기성 페르소나 전반에서 AI 사용이 확인됐다고 설명했다.

이 회사는 러시아 연계 FANCY BEAR를 LAMEHUG와 연결했다. 이 악성코드는 정찰 및 문서 수집 명령을 생성하기 위해 대규모 언어 모델을 사용한 것으로 알려졌다.

Palo Alto Networks 역시 국가 차원의 대규모 AI 도입을 뒷받침하는 증거는 여전히 제한적이라고 밝혔다. 2025년을 초기 운영 실험 단계로 규정했다.

이러한 결과는 서로 모순되지 않는다. AI 사용은 낮은 기반에서 급격히 증가할 수 있지만, 위협 환경 전반에서는 여전히 고르지 않을 수 있다.

현재 उपलब्ध한 증거는 신중한 결론을 뒷받침한다. AI는 숙련된 운영자에게도 불가능했던 역량을 일관되게 만들어 내기 전에, 기존 작업을 더 빠르고 접근하기 쉽게 만들고 있다.

이 차이는 보안 투자 방향을 정해야 한다. AI를 내세운 방어 제품을 구매한다고 해서 취약한 신원 통제, 패치되지 않은 시스템, 과도한 권한 문제가 해결되는 것은 아니다.

조직은 엔드포인트, 클라우드 시스템, 소프트웨어 파이프라인, 신원 서비스 전반에서 신뢰할 수 있는 텔레메트리가 여전히 필요하다. AI 지원 공격도 결국 수행하는 행위를 통해 드러난다.

생성된 피싱 메시지도 여전히 전달되어야 한다. 탈취한 자격 증명은 여전히 인증 이벤트를 발생시킨다. 악성코드는 여전히 프로세스를 생성하고, 파일에 접근하거나, 네트워크를 통해 통신한다.

다만 방어자는 더 큰 변형을 예상해야 한다. 공격자는 동일한 수작업 비용 없이 스크립트를 재작성하고, 메시지를 개인화하며, 미끼 콘텐츠를 수정할 수 있다.

따라서 정적 지표의 가치는 더 빠르게 떨어진다. 해시나 정확한 텍스트 패턴은 하나의 아티팩트는 식별할 수 있어도, 수많은 생성형 변종을 놓칠 수 있다.

행위 기반 탐지가 더 중요해진다. 이는 아티팩트의 외형에만 의존하지 않고 의심스러운 행동과 순서를 찾는다.

보안 팀은 더 빠른 트리아지도 필요하다. AI가 공격자의 조사, 접근, 이동 사이의 간격을 줄인다면, 느린 경보 검토는 더 큰 운영상 약점이 된다.

Google은 같은 기술을 방어 목적으로도 적용하고 있다. 이 회사는 취약점 발견을 위한 Big Sleep과 자동 코드 수정 도구 CodeMender를 소개했다.

이로 인해 비대칭적인 경쟁이 형성된다. 공격자는 작동 가능한 경로 하나만 있으면 되지만, 방어자는 많은 시스템을 보호하고 오탐을 처리해야 한다.

방어자에게도 고유한 이점은 있다. 이러한 시스템이 올바르게 관리된다면 기업 신원, 구성, 로그, 시행 지점을 통제할 수 있다.

결과는 누가 AI를 보유하는지보다, 누가 자동화를 더 높은 품질의 맥락 정보, 권한, 검증과 연결하는지에 더 크게 좌우될 것이다.

증거에는 여전히 중요한 한계가 있다

광범위한 AI 사용은 충분히 뒷받침되지만, 완전 자율형 국가 지원 해킹이라는 주장은 공개 증거보다 앞서 있다.

Google은 Gemini 오용에 대해 이례적인 수준의 가시성을 보유하고 있다. 기업 방어자가 볼 수 없는 프롬프트, 연관 계정, 패턴을 관찰할 수 있다.

이러한 가시성은 가치 있는 인텔리전스를 만들어 낸다. 동시에 공개 결과가 한 제공업체의 서비스와 탐지 역량을 반영한다는 뜻이기도 하다.

공격자는 다른 상용 모델, 로컬 호스팅 시스템, 탈취 계정, 맞춤형 인프라를 사용할 수 있다. Google의 데이터셋이 모든 적대적 AI 워크플로를 대표할 수는 없다.

반대 방향의 한계도 적용된다. 악성 프롬프트를 확인했다고 해서 운영자가 실제 침입에서 그 답변을 성공적으로 사용했음을 증명하는 것은 아니다.

위협 연구자들은 모델 활동을 알려진 행위자, 인프라, 악성코드 또는 사고 증거와 연결해 평가를 강화한다. 공개 보고서는 모든 뒷받침 세부 사항을 거의 공개하지 않는다.

제공업체는 조사, 고객, 탐지 방식을 보호해야 한다. 이러한 필수적인 비밀 유지는 외부인이 일부 결론을 재현하지 못하게 한다.

2월 연구에는 명시적인 제약도 포함됐다. Google은 국가 지원 그룹이 Gemini를 사용해 사이버 공격의 상당 부분을 자동화한 사례를 관찰하지 못했다고 밝혔다.

이 결과는 쉽지만 오해를 부르는 해석을 막는다. 공격 체인 전반을 포괄하는 것과 하나의 연속적이고 자동화된 공격 체인을 갖추는 것은 다르다.

한 그룹은 월요일에 연구를 위해 AI를 사용하고, 화요일에 코딩을 하며, 수요일에 번역을 할 수 있다. 그러나 각 행동을 연결하는 것은 여전히 인간 운영자일 수 있다.

자율 시스템은 침입 중 비용이 커지는 신뢰성 문제에 직면한다. 모델은 사실을 환각하거나, 자격 증명을 잘못 처리하고, 행동을 반복하거나, 도구 출력을 오해할 수 있다.

또한 식별 가능한 패턴을 만들 수도 있다. 과도한 스캔, 반복적 쿼리, 빠른 명령 실행은 캠페인을 더 쉽게 탐지하게 만들 수 있다.

국가 운영자는 귀속 문제도 고려해야 한다. 예측 불가능하게 행동하는 자동화 시스템은 인프라를 노출하고, 목표를 드러내거나, 정치적 결과를 초래할 수 있다.

상용 모델의 통제 역시 또 다른 제약이다. 제공업체는 악용을 식별하고, 계정을 비활성화하며, 안전장치를 변경하고, 방어자와 지표를 공유할 수 있다.

공격자들은 탈옥, 계정 순환, 미들웨어, 오픈소스 모델로 대응한다. 각 우회책은 방어자가 조사할 수 있는 추가 인프라를 만든다.

제로데이 사례 역시 신중하게 다뤄야 한다. Google은 비정상적으로 설명적인 주석과 생성된 Python에서 연관되는 패턴 등 코드 특성이 AI 개입을 시사한다고 밝혔다.

이러한 신호는 평가를 뒷받침하지만, 오류 없는 검증 수단은 아니다. 인간도 유사한 코드를 작성할 수 있고, 생성된 코드는 수정될 수 있다.

Google은 행위자, 표적, 영향을 받은 소프트웨어에 관한 제한적인 정보만 공유했다. 따라서 독립 연구자들은 증거를 완전히 검토할 수 없다.

보도된 제로데이 사례는 Google이 AI 지원과 계획된 대규모 악용 시도를 연결했다는 점에서 여전히 중요하다.

이를 모델이 임의의 표적을 상대로 알려지지 않은 취약점을 독자적으로 발견하고, 무기화하며, 배포할 수 있다는 증거로 확대 해석해서는 안 된다.

벤더 지표도 마찬가지로 주의 깊게 다뤄야 한다. CrowdStrike의 89% 증가는 해당 회사의 정의, 관측 고객, 추적 활동을 반영한다.

이는 전체 공격의 89%가 AI를 사용한다는 뜻이 아니다. 또한 AI가 속도나 규모의 모든 증가를 초래했다는 점을 입증하지도 않는다.

보안 리더는 세 가지 주장을 구분해야 한다. 공격자들이 AI를 광범위하게 사용한다는 것, 일부 AI 지원 기법이 실제 작전에서 작동한다는 것, 자율형 캠페인이 전문가 팀을 대체할 수 있다는 것이다.

증거는 첫 번째 주장을 강하게 뒷받침한다. 두 번째 주장에 대한 지지도 점점 강해지고 있다. 세 번째는 광범위한 운영 규모에서 여전히 입증되지 않았다.

이러한 위계는 방어 계획을 현실에 기반하게 한다. 조직은 이미 입증된 가속화에 대응하면서도, 더 큰 자율성에 대비해야 하며 그것이 이미 모든 곳에 도래했다고 가장해서는 안 된다.

보안 팀이 다음으로 주시해야 할 사항

다음 단계는 검증된 익스플로잇 개발, 적응형 악성코드, 공격자 운영 시간의 측정 가능한 단축으로 규정될 것이다.

첫 번째 신호는 독립적으로 문서화된 또 다른 AI 지원 제로데이다. 반복 사례는 5월 사례가 고립된 사건이 아니었음을 보여줄 것이다.

연구자들은 모델 상호작용을 취약점 발견, 익스플로잇 구성, 테스트, 운영 배포와 연결하는 증거를 찾아야 한다.

명확한 기술 아티팩트는 평가를 강화할 것이다. 코드가 단지 기계 생성처럼 보인다는 광범위한 주장보다 재현 가능한 분석이 더 중요하다.

여러 건의 확인된 사례는 소프트웨어 공급업체에 대한 압박을 높일 것이다. 이들은 더 짧은 패치 주기, 더 나은 익스플로잇 탐지, 노출된 코드의 자동화된 검토가 필요해질 것이다.

추가 사례가 없다고 해서 위험이 사라졌음을 증명하는 것은 아니다. 신뢰할 수 있는 제로데이 개발이 여전히 어렵거나 관측하기 어렵다는 점을 시사할 것이다.

두 번째 신호는 실제 침입 중 적응하는 악성코드다. PROMPTSPY, HONESTCUE, LAMEHUG는 모델 연결형 실행을 가리키지만, 자율성은 하나의 스펙트럼 위에 존재한다.

중요한 시험은 악성코드가 지속적인 운영자 지시 없이 시스템 상태를 해석하고 효과적인 행동을 선택하는지 여부다.

방어자는 명령을 생성하거나, 수집 우선순위를 변경하거나, 로컬 조건에 따라 회피 방식을 선택하는 프로그램을 주시해야 한다.

성공적인 적응 행동은 자율성 주장을 강화할 것이다. 반복되는 운영 실패는 인간 감독의 지속을 뒷받침할 것이다.

이 신호는 네트워크 통제에도 영향을 미친다. 조직은 정상적인 모델 접근과 외부 또는 로컬 호스팅 시스템을 호출하는 침해된 애플리케이션을 구별해야 할 수 있다.

세 번째 신호는 AI 지원 워크플로와 연결된 공격자 체류 시간 및 브레이크아웃 시간의 측정 가능한 감소다.

더 빠른 이동은 자동화가 콘텐츠 제작이나 조사뿐 아니라 캠페인 실행도 개선하고 있음을 보여줄 것이다.

보안 제공업체는 측정 방식을 설명해야 한다. 범죄 활동과 국가 지원 작전을 구분하고, AI가 타임라인에 영향을 준 지점을 식별해야 한다.

국가 지원 그룹이 은밀성을 유지하면서 작전을 가속한다면, 방어자는 가장 어려운 시나리오에 직면한다. 뚜렷한 탐지 신호를 얻지 못한 채 대응 시간을 잃게 된다.

자동화가 시끄러운 행동을 유발한다면 방어용 AI가 일부 속도 우위를 상쇄할 수 있다. 자동화된 상관 분석과 차단은 인간 분석가가 조사를 끝내기 전에 작동할 수 있다.

조직은 행동에 나서기 전에 이러한 신호를 기다릴 필요가 없다. 신원 관리를 강화하고, 서비스 계정 권한을 제한하며, 비정상적인 모델 접근을 모니터링해 노출을 줄일 수 있다.

민감한 엔지니어링 및 보안 워크플로에서 AI 상호작용을 기록해야 한다. 모델 자격 증명은 다른 권한 있는 애플리케이션 비밀과 동일한 수준으로 보호할 가치가 있다.

소프트웨어 팀은 타사 AI 커넥터와 종속성을 검토해야 한다. Google은 침해된 AI 구성 요소가 API 자격 증명을 노출하고 더 넓은 환경으로 진입하는 경로를 제공할 수 있다고 경고했다.

채용 및 계약직 관리 프로세스 역시 더 강력한 검증이 필요하다. 합성 신원과 AI 지원 면접으로 인해 비공식적인 확인 절차의 신뢰도가 낮아지고 있다.

대응은 여전히 비례적이어야 한다. 모든 AI 서비스를 차단하면 사용자가 관리되지 않는 계정으로 이동해 가시성이 사라질 수 있다.

더 나은 접근법은 승인된 서비스를 정의하고, 자격 증명을 보호하며, 접근 기록을 남기고, 자동화 도구가 도달할 수 있는 범위를 제한하는 것이다.

보안팀은 중요한 결과를 초래하는 조치에 대해 사람의 검토도 유지해야 한다. 저위험 분석을 잘 수행한다는 이유만으로 에이전트에 광범위한 프로덕션 권한을 부여해서는 안 된다.

최근 google news 보도는 공상과학이 아니라 통합에 관한 경고다. 공격자들은 이미 잘 이해하는 업무 흐름에 모델을 연결하고 있다.

방어자는 한 가지 실용적인 질문을 던져야 한다. 공격자가 내일 침입 과정의 느리고 반복적인 단계를 자동화한다면, 어떤 단계가 가장 위험해질까?

그 답이 다음 통제 수단, 탐지 체계 또는 훈련을 이끌어야 한다. 지금 이러한 가정을 검증하는 조직은 AI가 보조 역할을 넘어 신뢰할 수 있는 자율성으로 전환될 때 더 잘 대비할 수 있다.