머신 스피드 AI 공격이 사이버 방어 대응 시간을 압축하고 있다

Google News는 8월 30일 Forbes의 강력한 경고를 소개했다. 보안팀이 사람의 승인 절차에 따라 움직이는 동안, AI 공격자는 수 분 안에 행동할 수 있다는 내용이다. 이제 이 충돌은 단순히 사람과 악성 소프트웨어의 대결이 아니다. 공격자는 익숙한 기법을 가속하기 위해 AI를 점점 더 활용하고 있으며, 방어자는 방어 자동화에 어느 정도의 권한을 부여할지 결정해야 한다.

이 헤드라인은 AI가 머신 스피드로 작동할 때 인간이 여전히 네트워크를 방어할 수 있는지를 묻는다. 증거는 조건부로 그렇다는 답을 뒷받침한다. 인간은 모든 신호를 수동으로 조사하거나 모든 일상적 차단 조치를 충분히 빠르게 승인할 수 없다. 그러나 자동화 시스템도 여전히 실수를 하고 복잡하며 장기화된 작전에 어려움을 겪기 때문에, 인간은 여전히 필수적이다.

이 구분이 실제 경쟁 구도를 정립한다. 이는 자율 공격자와 홀로 일하는 인간 분석가의 대결이 아니다. AI로 가속된 공격과 인간의 통제를 받는 자동화 방어의 대결이다. 속도, 신뢰할 수 있는 텔레메트리, 그리고 책임 있는 의사결정을 결합하는 쪽이 우위를 얻는다.

Google News 헤드라인은 공격 속도의 실질적 변화를 반영한다

즉각적인 변화는 완전히 새로운 형태의 사이버 공격이 등장한 것이 아니라 의사결정 시간이 압축되고 있다는 점이다.

Forbes의 머신 스피드 경고는 운영상의 불일치를 설명한다. 조직에는 사고를 보고할 72시간이 주어질 수 있지만, 자동화된 공격자는 수 분 안에 취약점을 악용하고 지속성을 확보할 수 있다.

지속성이란 최초 침입 이후에도 접근 권한을 유지하는 것을 뜻한다. 일단 확보되면 공격자는 다시 돌아와 정보를 탈취하거나 더 가치 있는 시스템으로 이동할 수 있다.

이 비교는 의도적으로 극적이지만, 그 근본적인 지적은 타당하다. 보고 기한, 위원회 검토, 사고 대응 플레이북은 자동화된 정찰과 익스플로잇과는 다른 시간 단위로 움직인다. 분석가가 첫 번째 경보를 열어보기도 전에 악성 활동이 여러 시스템을 가로지른다면, 컴플라이언스 시계는 거의 보호 기능을 제공하지 못한다.

Palo Alto Networks도 2025년 동안 750건 이상의 주요 사고에 대응한 뒤 비슷한 결론에 도달했다. 2026년 사고 대응 데이터에 따르면 공격자는 CVE 발표 후 15분 안에 일부 새로 공개된 취약점을 스캔하기 시작한다.

CVE는 공개된 보안 취약점에 대한 표준화된 기록이다. 스캔이 모든 결함이 15분 안에 악용 가능해진다는 뜻은 아니다. 많은 조직이 권고문을 읽기도 전에 공격자가 노출된 표적을 찾기 시작한다는 의미다.

AI는 이 과정 전반의 마찰을 줄인다. 기술 공개 내용을 요약하고, 코드 변경 사항을 비교하며, 스캔 로직을 생성하고, 실패한 명령을 해결하고, 다른 표적에 맞게 스크립트를 조정할 수 있다. 이러한 행동에는 가공의 초지능이 필요하지 않다.

경제적 변화는 기술적 변화만큼 중요하다. 공격자는 수백 개 표적에 대한 정찰을 병렬화한 뒤 가장 유망한 결과에 인간의 주의를 집중할 수 있다. 이는 소규모 그룹이 더 넓은 공격 표면에서 활동할 수 있게 한다.

초기 접근 이후에도 같은 가속이 나타난다. 탈취한 자격 증명을 가진 침입자는 내부 AI 어시스턴트에게 네트워크 맵, 통합 지침 또는 관리자 런북을 찾아달라고 요청할 수 있다. 직원의 정보 검색을 돕기 위해 만든 도구가 공격자의 환경 이해도 도울 수 있는 것이다.

이 때문에 분절된 보안 운영은 특히 큰 위험을 만든다. ID, 엔드포인트, 클라우드, 이메일, 애플리케이션, 네트워크 팀은 종종 별도의 도구와 큐를 사용한다. 자동화된 공격자는 이런 경계를 하나의 목표를 향한 연결된 경로로 취급한다.

그럴듯한 시나리오를 생각해 보자. 탈취된 ID가 직원 계정을 열어준다. 공격자는 엔드포인트를 이용해 사용 가능한 서비스를 살피고, 과도한 클라우드 권한을 발견한 뒤 민감한 데이터를 보유한 애플리케이션에 도달한다.

각 보안 제품은 하나의 조각만 기록할 수 있다. ID 시스템은 비정상 로그인을 포착한다. 엔드포인트 플랫폼은 의심스러운 명령을 관찰한다. 클라우드 서비스는 권한 조회를 기록한다. 어느 하나의 경보도 반드시 전체 순서를 설명하지는 않는다.

인간 분석가는 이 이야기를 재구성할 수 있지만, 조사에는 시간이 든다. AI 지원 공격자는 방어자가 증거를 수집하는 동안 계속 탐색할 수 있다. 위험한 격차는 첫 번째 미약한 신호와 조직이 조직적인 침입을 인식하는 순간 사이에 존재한다.

Google News는 기초 분석을 생산한 것이 아니며, 그곳에 노출되었다고 해서 모든 예측이 타당해지는 것도 아니다. 이 집계 서비스는 여러 독립 보고서가 동일한 대응 시간 단축을 지적하는 시점에 Forbes 기고자의 주장을 증폭했다.

따라서 이 사건은 하나의 헤드라인보다 더 넓은 의미를 지닌다. 보안 리더들은 이제 AI 지원 속도를 현재의 계획 과제로 다룰 충분한 운영 증거를 갖고 있다. 완전 자율 공격자가 이미 실제 네트워크를 지배한다고 가정할 필요는 없다.

이처럼 신중한 프레이밍은 중요하다. 위협을 부풀리면 성급한 자동화를 부추기고, 이를 무시하면 인간 전용 프로세스가 노출된 채 남는다. 다음 질문은 어떤 조직이 변화해야 한다는 가장 큰 압박을 받는가다.

보안 운영 센터가 첫 번째 시험대에 선다

보안 운영 센터는 중대한 결정에 대한 인간의 권한을 유지하면서 일상적인 조사와 차단을 자동화해야 한다.

보안 운영 센터, 즉 SOC는 시스템을 모니터링하고 의심스러운 활동을 조사하며 사고 대응을 조율한다. 많은 SOC는 여전히 분석가가 대시보드 사이를 오가고, 증거를 티켓에 복사하며, 기기를 격리할지 수동으로 결정하는 방식에 의존한다.

이 운영 모델은 사람이 경보를 상호 연관시키는 속도보다 더 빠르게 경보가 도착할 때 어려움을 겪는다. 문제는 단지 경보량이 아니다. 공격자가 진전하기 전에 시스템 전반의 미약한 신호를 연결하는 데 필요한 시간이다.

대기업은 광범위한 네트워크, 클라우드 계정, 애플리케이션, 제3자 연결을 운영하기 때문에 가장 뚜렷한 압박을 받는다. 그 규모는 방대한 텔레메트리를 만들지만, 팀과 도구 사이의 공백도 만들어 낸다.

소규모 조직은 다른 형태의 문제에 직면한다. 24시간 SOC, 숙련된 위협 헌터, 또는 자동화를 안전하게 구축할 충분한 엔지니어링 역량이 부족할 수 있다. AI는 분석 비용을 낮출 수 있지만, 자동으로 좋은 보안 아키텍처를 제공하지는 않는다.

중요 인프라는 더 큰 결과를 수반한다. 사무실 네트워크에서의 차단 오류는 직원의 업무를 중단시킬 수 있다. 병원, 유틸리티 또는 산업 시스템에서 같은 조치는 필수 운영에 영향을 미칠 수 있다.

이 차이는 조직이 자율 대응을 얼마나 폭넓게 적용할 수 있는지를 제한한다. 방어 에이전트는 명백한 악용을 탐지한 뒤 새로 생성된 클라우드 토큰을 안전하게 비활성화할 수 있다. 산업용 엔드포인트를 자동으로 종료하려면 더 강한 증거와 더 제한적인 정책이 필요하다.

제한된 범위의 차단은 실용적인 중간 경로를 제공한다. 특정 증거 임계값이 충족될 때 소프트웨어에 사전 정의되고 되돌릴 수 있는 조치를 취할 권한을 부여한다. 이러한 조치에는 세션 취소, 알려진 악성 도메인 차단, 또는 워크스테이션을 제한된 네트워크 세그먼트에 배치하는 일이 포함될 수 있다.

이후 인간은 의사결정 사슬에서 더 높은 위치로 이동한다. 어떤 조치가 허용되는지 정하고, 수용 가능한 운영 위험을 정의하며, 예외를 검토하고, 심각한 비즈니스 결과를 수반하는 단계를 승인한다.

이는 분석가의 역할을 없애는 것이 아니라 바꾼다. 분석가는 일상적 증거를 조립하는 데 쓰는 시간을 줄이고, 결론을 검증하며, 낯선 사례를 처리하고, 대응 정책을 개선하는 데 더 많은 시간을 쓴다.

이 변화는 보안 공급업체에도 압박을 가한다. 고객에게는 ID, 엔드포인트, 클라우드, 애플리케이션, 네트워크 전반의 증거를 상호 연관시키는 도구가 필요하다. 하나의 대시보드만 요약하는 또 다른 고립형 AI 어시스턴트로는 크로스 도메인 문제를 해결할 수 없다.

통합만으로는 충분하지 않다. 방어 시스템에는 신뢰할 수 있는 텔레메트리, 정확한 자산 인벤토리, 최신 ID 정보도 필요하다. 불완전한 데이터에 적용된 자동화는 더 빠른 오답을 낼 수 있다.

Unit 42가 검토한 침해의 90% 이상에는 침입을 실질적으로 가능하게 한 예방 가능한 격차가 포함돼 있었다. 보고서는 제한된 가시성, 일관성 없는 통제, 과도한 ID 신뢰, 관리되지 않는 연결을 지목한다.

이 발견은 머신 스피드 서사를 완화한다. 많은 공격자는 여전히 조직이 익숙한 약점을 해결하지 않은 탓에 성공한다. 더 빠른 AI가 다중 인증, 제한된 권한, 패치 적용, 세분화, 검증된 복구의 가치를 없애지는 않는다.

다만 지연의 비용을 더 높인다. 방치된 인터넷 노출 자산은 대규모로 더 쉽게 발견된다. 과도한 권한을 가진 계정은 자동화된 워크플로가 더 많은 시스템을 탐색하게 한다. 누락된 텔레메트리는 의심스러운 활동이 일관된 대응 없이 진행되도록 만든다.

따라서 보안팀은 AI 방어를 기본 통제를 대체하는 수단으로 여겨서는 안 된다. 더 나은 모델은 기초 보안과 신속한 상관관계 분석, 그리고 신중하게 제한된 자동화를 결합한다.

이는 최고정보보호책임자에게 강제된 대응을 요구한다. 어떤 결정은 인간이 유지할지, 어떤 조치를 소프트웨어가 취할 수 있을지, 그리고 조직이 자동화 오류를 얼마나 빨리 되돌릴 수 있는지를 파악해야 한다.

공격자는 기존 방식을 교체하지 않고도 범용 모델을 채택할 수 있기 때문에 압박은 즉각적이다. 방어자는 운영 대응을 바꾸기 전에 조달 검토, 통합, 테스트, 거버넌스가 필요한 경우가 많다.

이 비대칭성은 전환 기간 동안 공격 측에 유리하게 작용한다. 범죄 그룹은 오늘 스크립트에 AI 지원을 추가할 수 있다. 규제를 받는 기업은 자동화된 계정 정지를 승인하는 데 수개월이 걸릴 수 있다.

그러나 방어자에게는 공격자가 갖지 못한 이점이 있다. 환경을 통제하고, 정상 행동을 정의하며, ID 기록을 유지하고, 시스템 내부에 직접 집행 기능을 배치할 수 있다. 과제는 이러한 맥락을 적시에 행동으로 전환하는 것이다.

따라서 가장 강력한 방어 태세는 무제한 자율성이 아니다. 기계가 속도와 규모를 처리하고, 인간이 위험과 예외를 통제하는 운영 모델이다.

AI 공격자와 인간 통제 방어가 실제 대결 구도다

결정적인 경쟁은 자동화된 공격과 인간이 이끄는 자동화 사이의 경쟁이지, 기계와 사람의 경쟁이 아니다.

연구는 이미 공격 사슬 전반에 AI가 등장하고 있음을 보여준다. Anthropic은 2025년 3월부터 2026년 3월까지 악의적 사이버 활동과 연관된 832개 계정을 분석했다.

이 회사의 위협 매핑은 MITRE ATT&CK 프레임워크의 14개 전술 전반에서 활동을 확인했다. 연구진은 482개의 고유 하위 기법에 걸쳐 13,873건의 관찰을 기록했다.

MITRE ATT&CK는 실제 사이버 작전에서 사용되는 행동을 구조화해 정리한 카탈로그다. 방어자는 이를 통해 정찰, 자격 증명 탈취, 측면 이동, 데이터 유출과 같은 행동을 분류할 수 있다.

Anthropic은 연구 기간의 전반부와 후반부 사이에 중간 위험 이상으로 평가된 조사 대상 행위자의 비중이 33%에서 56%로 증가했다고 밝혔다. 이는 차단된 계정이라는 선별된 집합 내 증가이며, 전체 사이버 범죄 활동을 측정한 수치는 아니다.

그럼에도 이 세부 사항은 중요하다. AI 지원은 피싱 메시지 생성이나 악성코드의 가벼운 수정에만 국한되지 않았다. Anthropic은 자격 증명 덤프, 웹 셸, 측면 이동 과정에서 AI가 사용되는 사례를 관찰했다.

공격자가 하나의 침해된 시스템을 이용해 네트워크의 다른 영역으로 이동하는 것을 수평 이동이라고 한다. 이는 고립된 침입이 조직 전반의 사고로 번지는 단계인 경우가 많다.

이 회사는 오케스트레이션이 점차 위험한 행위자와 역량이 낮은 행위자를 구분한다고 주장한다. 오케스트레이션이란 모델을 도구, 메모리, 코드, 그리고 여러 관련 작업을 완료하게 하는 의사결정 루프와 연결하는 것을 뜻한다.

언어 모델만으로는 명령어를 제안할 수 있다. 에이전트 시스템은 명령어를 실행하고, 결과를 점검하며, 다른 도구를 선택한 뒤 목표를 향해 계속 진행할 수 있다. 이러한 주변 구조는 기반 모델 자체만큼 중요할 수 있다.

공격자의 이점은 이 루프를 빠르게, 그리고 여러 대상에 걸쳐 반복하는 데서 나온다. 시스템이 오류가 없는 존재가 되는 것은 아니다. 대신 끈질기고, 복제 비용이 낮으며, 지속적인 운영자 주의에 덜 의존하게 된다.

방어에도 이에 상응하는 루프가 필요하다. 방어 에이전트는 신호를 수집하고, 가설을 세우며, 이를 다른 증거와 대조해 검증한 뒤, 침입이 진전되기 전에 승인된 조치를 취해야 한다.

보안 증거에는 모호함이 있기 때문에 인간 분석가는 여전히 필요하다. 대규모 아카이브를 전송하는 관리자는 정당한 마이그레이션을 수행 중일 수 있다. 같은 행동이 데이터 탈취를 뜻할 수도 있다.

차이는 맥락이 결정한다. 관리자의 역할, 기기, 위치, 승인된 변경 티켓, 최근 인증, 목적지는 모두 중요하다. 방어 모델은 누락된 세부 사항을 지어내지 않고 이 정보를 검색하고 가중치를 판단해야 한다.

보안 벤치마크는 현재 단순한 대체 전략보다 협업이 더 뛰어난 이유를 보여준다. Hack The Box의 최근 벤치마크 데이터에 따르면, 상위 25개 팀 중 68%가 AI 에이전트를 사용했지만 에이전트는 등록 계정의 2.7%에 불과했다.

연구에 참여한 활성 팀 전반에서 AI 증강 팀은 해결률이 3.2배 높았다. 또한 과제를 완료하는 속도도 3~4배 빨랐다.

그러나 가장 강한 인간 팀은 36개 과제를 모두 해결한 반면, 가장 강한 AI 팀은 32개를 해결했다. 이 결과는 AI가 더 강한 성과를 초래했다는 증거가 아니라 상관관계를 보여준다.

그럼에도 유용한 패턴을 드러낸다. 숙련된 운영자는 에이전트를 활용해 조사, 코딩, 문제 해결, 초기 분석을 압축한다. 하지만 조사 경로를 선택하고 출력이 유효한지 판단하는 일은 여전히 사람이 맡는다.

이것이 기업이 운영 환경에 적용해야 할 모델이다. AI는 대량의 증거 처리와 예측 가능한 대응을 담당한다. 인간은 불확실성을 검토하고 운영, 고객 또는 공공 안전에 영향을 미치는 결정에 책임을 진다.

이 구분은 채용 우선순위도 바꾼다. 에이전트가 문법을 즉시 찾아올 수 있다면 모든 명령어를 암기하는 일의 가치는 낮아진다. 시스템을 이해하고, 증거를 의심하며, 안전하지 않은 권고를 식별하는 능력이 더 중요해진다.

조직에는 자동화를 감독하되 수동적인 검토자가 되지 않을 분석가가 필요하다. 모델이 빠르게 만들었다는 이유만으로 경보 요약을 신뢰해서는 안 된다.

또한 에이전트 권한을 제한할 수 있는 엔지니어도 필요하다. 방어 에이전트에는 할당된 작업에 필요한 접근 권한만 부여해야 한다. 자격 증명, 도구 호출, 출력, 정책 예외는 모두 로깅해야 한다.

이는 확립된 제로 트러스트 관행과 닮아 있다. 제로 트러스트는 네트워크 위치만을 근거로 사용자나 시스템에 광범위한 신뢰를 부여하지 않는다는 원칙이다. 모든 요청은 신원, 맥락, 정책을 통해 평가된다.

같은 원칙이 AI 에이전트에도 적용돼야 한다. 목적이 방어적이라는 이유만으로 모델이 무제한 관리자 접근 권한을 가져서는 안 된다. 손상된 프롬프트, 잘못된 추론, 오염된 텔레메트리 또는 도구 오류는 과도한 권한을 운영상 위험으로 바꿀 수 있다.

인간 거버넌스는 지속 가능한 우위를 제공한다. 방어자는 보호할 자산, 허용할 수 없는 조치, 필수 승인 지점을 정의할 수 있다. 공격자는 제약을 없애려 하지만, 방어자는 제약을 시스템 설계의 일부로 만들 수 있다.

이 접근 방식은 경보 큐에 챗봇을 추가하는 것보다 구축에 시간이 더 든다. 그러나 실제 사고와 맞닥뜨렸을 때 살아남을 가능성도 더 높다.

머신 스피드 주장이 입증하지 못하는 것

AI는 사이버 작전을 가속하고 있지만, 증거는 완전한 실제 공격 전반에서 신뢰할 수 있는 보편적 자율성을 보여주지 않는다.

가장 중요한 회의적 관점은 “자율적”이라는 단어에 관한 것이다. 여러 공격 단계를 자동화하는 시스템이 인간의 수정 없이 복잡한 캠페인을 완료할 수 있다는 뜻은 아니다.

2026년에 발표된 안전성 평가는 취약점 발견과 코드 생성에서 의미 있는 진전을 확인했다. 동시에 현재의 사이버 역량이 고르지 않다고 설명했다.

DARPA AI Cyber Challenge의 한 시스템은 주최 측이 의도적으로 도입한 취약점의 77%를 자율적으로 식별했다. 의도하지 않은 결함도 찾아냈으며, 이는 AI가 유용한 공격·방어 목적의 발견에 기여할 수 있음을 보여준다.

하지만 통제된 벤치마크에는 한계가 있다. 사용 가능한 소스 코드를 분석하는 모델은 익숙하지 않은 운영 환경을 탐색하는 공격자와 다른 조건에서 작동한다. 많은 평가는 전체 침입이 아니라 고립된 기술을 측정한다.

국제 보고서는 더 긴 작업 순서에서 흔한 실패를 지적한다. 에이전트는 무관한 명령을 실행하고, 운영 상태를 놓치며, 지원 없이 단순한 오류에서 회복하지 못한다.

이러한 약점은 실제 네트워크가 복잡하기 때문에 중요하다. 도구는 불완전한 결과를 반환한다. 자격 증명은 만료된다. 시스템은 문서화되지 않은 구성을 사용한다. 방어 통제는 공격자가 관찰할 수 있는 내용을 바꾼다.

공격자는 인간 감독으로 이를 보완할 수 있다. 운영자는 실패한 명령을 수정하거나 시스템의 방향을 바꿀 수 있다. 캠페인이 완전히 자율적이지 않더라도 이는 여전히 노동력을 줄인다.

이 때문에 가장 타당한 주장은 가속에 관한 것이다. AI는 조사, 스크립팅, 적응, 문제 해결 시간을 단축한다. 또한 더 많은 작업을 동시에 수행할 수 있게 한다.

기계가 인간 개입 없이 어떤 네트워크든 신뢰성 있게 침해할 수 있다는 더 강한 주장은 여전히 뒷받침되지 않는다. 이를 반복하는 것은 심각한 운영 문제를 추측성 마케팅으로 바꾸게 된다.

벤더의 유인도 면밀히 살펴야 한다. 사이버보안 기업은 조직이 새로운 탐지 플랫폼, 자율 에이전트, 관리형 서비스를 구매할 때 이익을 얻는다. 이들의 위협 보고서는 가치 있는 사고 증거를 담을 수 있지만, 동시에 상업적 서사를 뒷받침할 수도 있다.

기업 데이터셋에도 표본 선택의 한계가 있다. Anthropic은 자사 서비스를 통해 이뤄진 악용 사례를 본다. Palo Alto Networks는 고객과 대응 팀에 접수되는 조사와 관련된 사고를 본다. Hack The Box는 경쟁 환경에서의 성과를 측정한다.

어느 쪽도 전 세계 사이버 범죄를 완전하게 보여주지는 않는다. 독립적인 데이터셋이 같은 방향을 가리킬 때 이들의 결과는 더 설득력을 얻지만, 정확한 비율을 연구 대상 집단 밖으로 일반화해서는 안 된다.

방어용 AI에는 자체적인 위험도 있다. 오탐은 직원의 접근을 차단하거나 핵심 서비스를 중단시킬 수 있다. 미탐은 공격자가 계속 활동하도록 내버려 둘 수 있다. 조작된 설명은 분석가를 무관한 증거로 이끌 수 있다.

프롬프트 인젝션도 또 다른 우려를 낳는다. 이는 악성 콘텐츠가 시스템이 읽는 데이터에 삽입된 지시를 통해 AI 시스템을 조작하려 할 때 발생한다.

방어 에이전트는 적대적인 텍스트가 포함된 이메일, 문서, 코드 저장소 또는 웹 페이지를 검사할 수 있다. 아키텍처가 증거와 신뢰할 수 있는 명령을 분리하지 못한다면, 해당 콘텐츠가 에이전트의 행동에 영향을 줄 수 있다.

도구 접근 권한은 위험을 키운다. 요약 초안만 작성하는 모델은 분석가의 시간을 낭비할 수 있다. 자격 증명을 취소하거나 서버를 격리할 권한을 가진 모델은 운영 시스템을 바꿀 수 있다.

NIST의 2026년 5월 에이전트 보안 분석은 기존 사이버보안 원칙이 여전히 유효하다는 폭넓은 합의를 확인했다. 응답자들은 이러한 관행이 AI 에이전트에 맞게 조정될 필요가 있다고도 말했다.

이 조합은 유용한 기준을 제시한다. 조직은 머신 스피드를 좇기 위해 확립된 통제를 버려서는 안 된다. 대신 신원 관리, 최소 권한, 로깅, 테스트, 사고 대응을 자율 시스템까지 확장해야 한다.

자동화는 관찰 가능하고 되돌릴 수 있는 좁은 범위의 조치부터 시작해야 한다. 팀은 권한을 확대하기 전에 정확도, 비즈니스 중단, 분석가 재정의 비율을 측정할 수 있다.

격리 시스템은 근거도 제시해야 한다. 분석가는 어떤 신호가 조치를 촉발했는지, 어떤 정책이 이를 허용했는지, 영향을 받은 리소스를 복구하려면 무엇이 필요한지 알아야 한다.

결과를 되돌리기 어려운 경우에는 인간 승인이 여전히 적절하다. 데이터 삭제, 핵심 인프라 중단, 직원의 악의적 활동 혐의 제기는 빠른 패턴 인식 이상의 판단을 요구한다.

목표는 사람이 모든 밀리초 단위의 결정에 개입하도록 하는 것이 아니다. 자동화 시스템의 주변에 인간의 의도, 정책, 책임성을 배치하는 것이다.

이 구분은 Forbes의 질문에서 보이는 명백한 모순을 해소한다. 인간은 머신 스피드로 모든 방어 조치를 직접 실행할 수는 없다. 하지만 그렇게 하는 시스템을 설계하고, 제한하며, 감독하고, 개선할 수는 있다.

방어자가 따라잡고 있는지 보여줄 세 가지 신호

다음 단계는 측정 가능한 격리 성과, 여러 영역에 걸친 도입, 자율 에이전트를 위한 강제 가능한 규칙에 달려 있다.

첫 번째 신호는 조직이 실제 사고에서 탐지 및 격리 시간을 줄이는지 여부다. 제품 시연과 벤치마크 점수는 운영 결과를 대체할 수 없다.

유용한 측정값에는 평균 탐지 시간, 평균 격리 시간, 분석가 재정의 비율, 이후 되돌려진 자동화 조치의 수가 포함된다. 이러한 지표는 속도와 정확도를 모두 드러낸다.

비즈니스 중단이 안정적으로 유지되는 가운데 격리 시간이 감소한다면, 인간 거버넌스 하의 자동화를 지지하는 근거가 된다. 잦은 부당한 종료를 동반한 더 빠른 대응은 그 근거를 약화시킨다.

보안 리더는 쉬운 사례와 어려운 사례도 구분해야 한다. 알려진 악성 파일을 자동 차단하는 것은 클라우드 서비스 전반의 이례적인 관리자 활동을 해석하는 것과 동등하지 않다.

두 번째 신호는 기업이 여러 영역에 걸친 상관관계를 달성하는지 여부다. 신원, 엔드포인트, 클라우드, 애플리케이션, 네트워크 증거가 각각 별도 시스템에 갇혀 있다면 AI 방어의 가치는 제한적이다.

조직에는 자산, 신원, 권한, 활성 세션에 대한 공통된 관점이 필요하다. 이 기반이 없다면 에이전트는 여러 약한 경보가 하나의 공격에 속하는지 신뢰성 있게 판단할 수 없다.

보안 플랫폼과 내부 SOC가 이러한 영역을 가로지르는 순서를 추적할 수 있음을 입증하는지 주목해야 한다. 결정적 증거는 발표된 AI 기능의 수가 아니라 놓친 연결의 감소와 조사 시간의 단축일 것이다.

이는 보안 벤더가 협력할 수 있는지도 시험하게 된다. 기업은 모든 통제 영역에서 단일 벤더를 사용하는 경우가 드물다. 따라서 공유 데이터 형식과 신뢰할 수 있는 통합은 모델 품질만큼 중요하다.

세 번째 신호는 강제 가능한 에이전트 보안 표준의 등장이다. 조직에는 권한, 감사 로그, 평가, 인간 승인, 비상 중단에 대한 명확한 기대치가 필요하다.

NIST 및 유사 기관의 정부 지침은 공통 기준선을 마련할 수 있다. 보험사, 감사인, 규제 대상 구매자가 에이전트 통제의 증거를 요구하기 시작하면 업계 관행도 중요해질 것이다.

강력한 표준은 권고와 실행을 구분해야 한다. 또한 조직이 에이전트가 접근할 수 있는 대상, 취할 수 있는 조치, 최종 책임자가 누구인지를 문서화하도록 요구해야 한다.

이 세 가지 신호는 서로를 강화합니다. 광범위하고 감사되지 않은 권한에 의존한다면, 더 빠른 격리도 큰 의미가 없습니다. 단편화된 텔레메트리가 시스템의 시야를 가린다면, 강력한 거버넌스 역시 실효성이 떨어집니다.

Google News의 헤드라인은 실제 불안을 포착하고 있지만, 실질적인 해답은 항복도 완전한 자율성도 아닙니다. 사람이 전적으로 담당하는 대응만으로는 대규모 환경 전반에서 자동화된 공격 루프를 따라잡을 수 없습니다. 반대로 제한 없는 방어 에이전트는 속도만으로 정당화할 수 없는 위험을 초래합니다.

지속 가능한 모델은 사람이 정의한 경계 안에 자동화를 배치합니다. 기계는 증거를 연관 분석하고, 반복 가능한 패턴을 조사하며, 되돌릴 수 있는 격리 조치를 실행합니다. 사람은 정책을 결정하고, 모호한 상황을 처리하며, 장기적 영향을 초래하는 조치를 승인합니다.

조직은 현재 사람의 대기열이 일상적인 대응을 지연시키는 지점을 파악하는 것부터 시작할 수 있습니다. 이후 하나의 범위가 좁은 격리 조치를 선정해 기록된 사고를 기준으로 테스트하고, 명확한 롤백 절차를 수립할 수 있습니다.

팀은 이러한 결정의 기반이 되는 지식을 보존해야 합니다. 향후 에이전트와 분석가가 그 맥락에 의존하게 되므로, 조사 메모, 아키텍처 기록, 대응 과정에서 얻은 교훈은 계속 검색 가능해야 합니다. 잘 관리된 engineering knowledge base는 모든 모델 출력을 권위 있는 정보로 취급하지 않으면서도 팀이 로컬 기술 증거를 찾아낼 수 있도록 도울 수 있습니다.

따라서 독자에게 핵심 질문은 사람이 여전히 네트워크를 방어할 수 있는지 여부보다 더 구체적입니다. 귀사의 조직은 소프트웨어가 내릴 수 있는 결정, 사람이 내려야 하는 결정, 그리고 양측이 각각 얼마나 신속하게 행동할 수 있는지를 알고 있습니까?

최근의 사고 또는 모의훈련 하나를 이 관점에서 검토해 보세요. 가장 긴 사람 측 지연, 누락된 맥락 정보의 출처, 그리고 자동화에 적합한 최초의 되돌릴 수 있는 조치를 찾아보세요. 이 과정은 방어 체계가 사람의 통제 아래 더 빨라지고 있는지, 아니면 기존의 느린 대기열에 AI만 추가하고 있는지를 드러낼 것입니다.