Microsoft Digital Defense Report 2026: AI가 사이버 보안 경쟁의 양측을 모두 가속하고 있다

Microsoft는 Microsoft Digital Defense Report 2026을 발표하며, AI가 사이버 공격의 일부 과정을 며칠에서 몇 초로 단축할 수 있다는 냉정한 결론을 제시했다.

이 보고서는 완전 자율형 공격이 이미 일반화됐다고 주장하지는 않는다. 대신 AI 지원 작업에서 AI 주도 및 점차 자율화되는 활동으로 전환하는 과정을 설명한다. 여전히 대부분의 복잡한 침해는 인간 운영자가 지휘하지만, 이들은 더 많은 정찰, 분석, 반복 실행 작업을 위임할 수 있다.

이 구분이 핵심 갈등을 만든다. 공격자는 많은 조직이 익숙한 취약점을 해결하기 전에 익숙한 기법을 자동화할 수 있다. 방어자 역시 더 빠른 탐지 및 대응 도구를 얻지만, 이는 ID, 데이터, 보안 운영 체계가 준비됐을 때에만 가능하다.

Microsoft에 따르면 2026년 상반기에 약 4만 건의 공통 취약점 및 노출, 즉 CVE가 공개됐다. 회사는 연간 공개 건수가 약 7만 2,000건에 이를 것으로 전망한다. 한편 발견 이후 무기화는 24시간 이내에 이뤄질 수 있지만, 기업의 중요 취약점 조치는 흔히 30~60일이 걸린다.

결과는 단순히 AI가 생성한 피싱이나 자동화된 악성코드가 늘어나는 데 그치지 않는다. 기계가 발견할 수 있는 속도와 조직이 안전하게 복구할 수 있는 속도 사이의 시간 격차가 확대되고 있다.

Microsoft Digital Defense Report 2026이 실제로 발견한 내용

보고서의 가장 중요한 발견은 AI가 완전히 새로운 공격을 만들기 전에 기존 공격의 속도와 경제성을 바꾼다는 점이다.

Microsoft는 주로 2025년 7월부터 2026년 6월까지 수집한 관찰 결과를 바탕으로 10월 1일 보고서를 공개했다. 이 회사의 보안 운영은 ID, 기기, 이메일, 클라우드 서비스, 애플리케이션 전반에서 매일 165조 개 이상의 신호를 처리한다.

이러한 규모는 Microsoft가 고객에게 영향을 미치는 활동을 폭넓게 볼 수 있게 한다. 동시에 이 결과가 Microsoft의 제품, 고객, 탐지 방식, 가시성을 반영한다는 뜻이기도 하다. 따라서 보안 계획에 참고할 수는 있지만, 전 세계 사이버 범죄의 완전한 조사 결과로 여겨서는 안 된다.

전체 보고서는 AI를 취약점 발견, 정찰, 피싱, 악성코드 개발, 익스플로잇 제작, 침해 이후 작업 전반의 전력 증폭기로 설명한다. 전력 증폭기는 운영자의 목표를 반드시 바꾸지 않으면서도 산출량을 늘린다.

공격자가 원하는 것은 여전히 자격 증명, 지속성, 금전, 민감한 데이터, 정보 또는 운영 중단이다. AI는 이들이 그러한 목표를 더 빠르게 추구하고, 작업을 더 일관되게 반복하며, 수작업 단계를 줄인 채 더 많은 피해자를 겨냥하도록 돕는다.

Microsoft는 최첨단 시스템이 통제된 환경에서 복잡한 다단계 공격 평가를 완료했다고 밝혔다. 한 평가에서는 32개 단계를 단일 시퀀스로 연결했다. 또한 회사는 실험실 밖에서도 AI가 조율한 활동을 관찰했다고 보고했다.

이 증거는 신중하게 해석해야 한다. 통제된 평가의 성공이 자율형 에이전트가 잘 방어된 기업을 일상적으로 침해한다는 의미는 아니다. 다만 보안 팀이 다단계 에이전트형 공격을 먼 미래의 연구 과제로 더는 치부할 수 없음을 보여준다.

자동화와 자율성의 구분은 중요하다. 자동화는 미리 정의된 행동을 반복하는 반면, 자율성은 목표와 변화하는 조건에 따라 시스템이 행동을 선택하게 한다. 에이전트형 AI는 작업을 계획하고, 도구를 사용하며, 다음 단계를 조정한다는 점에서 두 개념 사이에 위치한다.

보고서는 AI 자체도 공격 표면으로 지목한다. 에이전트는 자격 증명을 보유하고, 애플리케이션 프로그래밍 인터페이스를 호출하며, 비공개 데이터를 검색하고, 비즈니스 시스템 전반에서 행동할 수 있다. 해당 에이전트가 침해되면 기반 모델을 넘어선 접근 권한이 제공될 수 있다.

프롬프트 인젝션은 한 가지 사례다. 공격자는 에이전트가 읽는 콘텐츠 안에 악성 지시를 삽입해, 그 지시가 에이전트의 본래 작업을 덮어쓰도록 시도한다. 그로 인한 피해는 에이전트가 접근할 수 있는 데이터, 도구, 권한에 달려 있다.

메모리 조작은 또 다른 경로를 만든다. 공격자가 에이전트가 의존하는 저장된 맥락을 변경하면, 이후의 결정은 오염된 정보를 반영할 수 있다. 이 위협은 전통적인 데이터 변조와 유사하지만, 에이전트는 오염된 지시를 여러 워크플로에 걸쳐 전달할 수 있다.

모델 탈취와 서빙 용량 탈취는 인프라 위험을 더한다. 공격자는 모델 가중치, 학습 데이터, 추론 엔드포인트 또는 값비싼 컴퓨팅 자원을 노릴 수 있다. 이러한 공격은 기존 클라우드 보안 문제와 조직이 아직 일관되게 자산 목록에 포함하지 않을 수 있는 자산을 결합한다.

이 때문에 보고서는 모델을 더 큰 시스템의 한 구성 요소로 다룬다. 보안은 모델, 데이터, ID, 권한, 도구, 그리고 연결된 모든 서비스에 달려 있다. 안전한 모델도 제한 없는 접근 권한을 보완할 수는 없다.

Microsoft의 더 놀라운 결론은 인간 계층에 관한 것이다. 자율형 에이전트에 관심이 집중되고 있음에도 사람과 ID는 여전히 주요 진입점으로 남아 있다. 사용자 실행과 유효 계정은 관찰된 초기 접근 활동에서 여전히 두드러진다.

회사는 보고 기간 동안 4,600만 건이 넘는 비즈니스 연락처 사칭 공격을 탐지했다. 또한 유효 계정 침입의 52.2%에는 추가적인 자격 증명 탈취가 수반된 것으로 나타났다. 따라서 하나의 탈취된 ID는 여러 다른 ID로 이어지는 경로가 될 수 있다.

보고서의 핵심은 기계가 인간을 겨냥한 공격을 대체했다는 것이 아니다. 기계는 그러한 공격을 더 빠르고, 저렴하며, 개인화하고, 반복하기 쉽게 만들고 있다.

보안 경쟁은 이제 서로 다른 두 개의 시계로 움직인다

공격 인프라는 기계 속도로 움직일 수 있는 반면, 기업의 복구는 여전히 사람의 승인, 테스트, 유지보수 시간대에 따라 움직인다.

Microsoft의 시간 관련 데이터는 이러한 불일치를 구체적으로 보여준다. 취약점 무기화는 발견 후 하루가 채 되지 않아 시작될 수 있다. 중요한 외부 취약점은 대규모 조직 내부에서 30~60일 동안 해결되지 않은 채 남을 수 있다.

이 지연이 언제나 부주의를 의미하는 것은 아니다. 팀은 영향을 받는 자산을 식별하고, 패치를 테스트하며, 담당자를 조율하고, 가용성을 유지하고, 변경 사항을 문서화해야 한다. 병원, 공장, 정부 기관, 교통 시스템은 모든 중요 서비스를 즉시 재시작할 수 없다.

공격자에게는 제약이 더 적다. 이들은 인터넷에 노출된 시스템을 지속적으로 스캔하고, 작동하는 익스플로잇을 복제하며, 인프라를 임대하고, 계속 노출된 조직을 겨냥할 수 있다. AI는 이러한 단계 중 여러 작업에 필요한 전문성과 시간을 줄일 수 있다.

보고된 취약점의 빠른 증가는 압박을 키운다. Microsoft는 2026년 상반기에 약 4만 건의 CVE를 집계했으며, 연간 약 7만 2,000건을 전망했다. 대기열이 커질수록 단순한 패치 처리량 목표의 유용성은 낮아진다.

보안 팀은 완료된 티켓 수가 아니라 노출 수준을 우선순위화해야 한다. 공개 시스템에서 활발히 악용되는 취약점은 격리된 환경의 접근 불가능한 취약점과 다르게 다뤄야 한다. 어떤 취약점이 즉각적인 위험을 만드는지는 맥락이 결정한다.

그 맥락은 흔히 분리된 도구들에 걸쳐 존재한다. ID 시스템은 누가 로그인했는지 알고, 엔드포인트 플랫폼은 무엇이 실행됐는지 알며, 클라우드 서비스는 어떤 리소스가 변경됐는지 안다. 이메일 시스템은 메시지가 어떻게 도착했는지 알고 있다.

개별 경보는 이러한 기록과 분리되면 무해해 보일 수 있다. 하지만 팀이 비정상적인 로그인, 의심스러운 프로세스, 새 권한, 예상치 못한 데이터 접근을 연결하면 동일한 이벤트가 긴급한 사안이 될 수 있다.

Microsoft는 방어자가 이 격차를 줄이려면 공유 텔레메트리와 자동화된 상관관계 분석이 필요하다고 주장한다. AI는 증거를 요약하고, 관련 이벤트를 묶고, 우선순위를 추천하는 데 도움을 줄 수 있다. 또한 확립된 조사 절차를 지속적으로 실행할 수도 있다.

그러나 더 빠른 권고가 더 빠른 의사결정을 보장하지는 않는다. 보안 팀은 데이터를 신뢰하고, 추론을 이해하며, 에이전트가 어떤 조치를 안전하게 수행할 수 있는지 알아야 한다. 잘못 구성된 자동화는 잘못된 결론을 증폭시킬 수 있다.

같은 문제는 취약점 발견에도 적용된다. AI는 코드를 검사하고 약점을 더 일찍 식별해 소프트웨어 팀에 더 많은 복구 시간을 제공할 수 있다. 공격자 역시 유사한 역량을 사용해 악용 가능한 동작을 찾을 수 있다.

따라서 방어 우위는 접근 권한과 통합에 달려 있다. 공급업체는 출시 전에 소스 코드를 검토할 수 있지만, 외부 공격자는 대개 배포된 소프트웨어만 볼 수 있다. 보안 개발은 발견 사항이 엔지니어에게 신속히 전달될 때 이러한 선점 우위를 유지할 수 있다.

취약점이 담당자 없이 별도의 대기열에 머물면 조직은 우위를 잃는다. 노출된 서비스, 잊힌 계정, 머신 ID가 자산 목록에서 빠져 있을 때도 마찬가지다.

이 시간 갈등은 보안 리더, 애플리케이션 소유자, 인프라 팀 모두에 압박을 가한다. 보안 운영 센터는 경보 자동화만으로 60일의 복구 지연을 해결할 수 없다. 이 지연은 종종 조달, 테스트, 운영, 비즈니스 거버넌스를 가로지른다.

정부 조직은 이 문제의 특히 어려운 형태에 직면한다. Microsoft에 따르면 기관과 공공 서비스는 관찰된 활동의 27%를 차지했으며, 이는 2025년의 17%에서 상승한 수치다.

정부는 민감한 데이터를 보유하고 가동 중단에 대한 허용 수준이 낮은 서비스를 운영한다. 또한 기관, 계약업체, 기술 제공업체, 핵심 인프라를 연결한다. 하나의 신뢰 관계가 여러 기관을 노출시킬 수 있다.

보고서는 2026년 관찰된 침입 중 23%에서 피싱이 발견됐다고 밝혔으며, 2025년의 7%와 비교된다. 이 증가는 기술 자동화가 발전하는 상황에서도 탈취된 ID의 가치를 강화한다.

Microsoft의 정부 위험 분석 역시 여러 부문에서 공격자의 체류 시간이 길어졌다고 보고한다. 체류 시간은 공격자가 차단되기 전까지 시스템에 머무르는 기간을 측정한다.

조직들은 침입을 식별한 후 더 빠르게 대응한 것으로 알려졌다. 그러나 공격자가 점점 더 정상적인 활동을 모방하면서 침입을 조기에 탐지하는 일은 더 어려워졌다. AI는 더 그럴듯한 콘텐츠를 만들고 상호작용을 조정함으로써 이러한 모방을 강화할 수 있다.

그 결과 이 경쟁은 비대칭적이다. 공격자는 하나의 실행 가능한 경로만 있으면 되지만, 방어자는 많은 ID, 애플리케이션, 의존 관계, 관계를 보호해야 한다. AI는 각 공격자가 시험할 수 있는 경로의 수를 늘린다.

Microsoft AI 사이버 보안은 여전히 ID에 달려 있다

AI는 공격 표면을 확대하지만, ID는 공격자나 침해된 에이전트가 무엇을 할 수 있는지 결정하는 제어 평면으로 남아 있다.

ID는 더 이상 직원 계정에만 국한되지 않는다. 애플리케이션, 워크로드, 서비스, 자동화 스크립트, AI 에이전트는 모두 접근을 요청하기 위해 ID를 사용한다. 이러한 비인간 ID는 직원에게 적용되는 수준의 검토를 받지 않은 채 광범위한 권한을 축적할 수 있다.

에이전트는 메시지를 읽고, 문서를 검색하며, 데이터베이스를 질의하고, 비즈니스 시스템을 업데이트할 수 있다. 이러한 연결은 에이전트를 유용하게 만든다. 동시에 그 ID를 매력적인 공격 대상으로 만든다.

외부 접근 권한이 없는 침해된 챗봇은 제한적인 운영 위험을 초래한다. 반면 관리자 자격 증명을 가진 침해된 에이전트는 계정을 만들고, 기록을 변경하며, 비공개 파일을 가져오거나 워크플로를 실행할 수 있다. 권한 설계가 가능한 영향을 바꾼다.

따라서 Microsoft는 최소 권한을 강조한다. 이는 각 ID에 현재 작업에 필요한 접근 권한만 부여한다는 의미다. 이 원칙은 오래됐지만, 에이전트형 시스템은 그 시행을 더욱 시급하게 만든다.

전통적인 애플리케이션은 대체로 예측 가능한 워크플로를 따릅니다. 반면 에이전트는 도구를 동적으로 선택하고 예상치 못한 순서로 조합할 수 있습니다. 단독으로는 무해해 보이는 권한도 여러 권한과 결합되면 위험해질 수 있습니다.

보안팀은 어떤 ID가 작업을 시작했는지, 어떤 위임 권한을 사용했는지, 어떤 정보가 의사결정에 영향을 미쳤는지를 파악해야 합니다. 또한 해당 권한을 신뢰성 있게 철회할 방법도 필요합니다.

에이전트 간 통신은 책임 소재 추적을 더욱 복잡하게 만듭니다. 한 에이전트가 다른 에이전트에 작업을 요청하고, 그 에이전트가 다시 세 번째 서비스를 호출할 수 있습니다. 조사 담당자는 최종 실행자가 최초 결정을 내렸다고 가정하지 않고 그 연쇄 전반의 책임을 추적해야 합니다.

에이전트 간 인증도 그만큼 중요해집니다. 요청을 받는 시스템은 요청 에이전트가 진짜이며 행동 권한을 보유했는지 검증해야 합니다. 그렇지 않으면 공격자가 신뢰받는 자동화 프로세스를 가장할 수 있습니다.

Microsoft는 사람을 대상으로 피싱 저항성 다단계 인증과 패스키를 권장합니다. 이러한 통제는 비밀번호 의존도를 낮추고 흔한 여러 자격 증명 탈취 기법을 막습니다. 권한 계정에는 더 강력한 분리와 모니터링이 필요합니다.

머신 ID에도 이에 상응하는 엄격한 관리가 필요합니다. 조직은 장기 보관 비밀 정보를 피하고, 자격 증명을 순환 교체하며, 서비스 주체를 제한하고, 비정상적인 액세스 패턴을 모니터링해야 합니다. 지속형 토큰 하나하나가 재사용의 기회가 됩니다.

데이터 거버넌스는 이 방정식의 나머지 절반을 이룹니다. 에이전트는 접근할 수 없는 정보를 유출할 수 없습니다. 그러나 많은 조직은 이미 과도하게 공유된 자료가 들어 있는 문서 저장소에 AI를 배포합니다.

생성형 검색은 이러한 기존 접근 권한 문제를 드러낼 수 있습니다. 직원이 수천 개의 폴더를 직접 둘러보지는 않더라도, 에이전트는 몇 초 만에 관련 정보를 검색할 수 있습니다. 따라서 기존 권한은 대규모로 더 쉽게 행사될 수 있습니다.

해답은 엔터프라이즈 AI를 무기한 차단하는 것이 아닙니다. 조직은 에이전트를 광범위하게 연결하기 전에 민감도 레이블, 소유권, 보존 규칙, 액세스 검토를 마련해야 합니다. 검색 가능한 지식 기반 역시 기밀 자료에 대한 명확한 경계가 있을 때 더 효과적입니다.

팀은 검색된 컨텍스트를 신뢰할 수 없는 입력으로 취급해야 합니다. 문서에는 숨겨진 지시문, 오래된 사실 또는 악성 콘텐츠가 포함될 수 있습니다. 신뢰할 수 있는 저장소가 텍스트를 제공했다는 이유만으로 에이전트에 권한을 부여해서는 안 됩니다.

이러한 통제는 AI 보안 제품을 구매하면 즉시 방어 우위를 확보할 수 있다는 생각에 의문을 제기합니다. 도구는 조사를 가속할 수 있지만, 조직의 ID 및 데이터 아키텍처 품질을 그대로 물려받습니다.

관리되지 않는 서비스 계정을 보유한 기업은 신뢰할 수 있는 자율성이 아니라 또 다른 경보 발생원을 얻게 됩니다. 정확한 인벤토리, 제한된 권한, 연결된 텔레메트리를 갖춘 기업은 더 많은 업무를 안전하게 위임할 수 있습니다.

이는 Microsoft Digital Defense Report 2026의 핵심적인 트레이드오프입니다. 방어자는 공격자의 속도에 맞서기 위해 자동화가 필요하지만, 자율적 작업이 하나 추가될 때마다 오류나 악용을 위한 새로운 경로도 생깁니다.

더 빠른 AI 방어는 잘못된 결정도 확장할 수 있다

머신 속도의 대응은 조직이 권한을 제한하고, 증거를 보존하며, 중요한 조치 가까이에 인간의 판단을 유지할 때에만 가치가 있습니다.

Microsoft는 AI를 위협을 가속하는 요소이자 방어 해법의 일부로 제시합니다. 인간만으로 구성된 팀은 모든 신호, ID, 메시지, 엔드포인트, 소프트웨어 변경 사항을 수동으로 조사할 수 없기 때문에 이러한 논리는 설득력이 있습니다.

보고서에 따르면 Microsoft는 평균적으로 하루 3,100만 건의 ID 위험 탐지를 분석합니다. 매일 52억 건의 이메일을 검사하고 470만 개의 신규 악성코드 파일을 차단합니다. 인간의 검토만으로는 이러한 규모에서 운영할 수 없습니다.

AI는 관련 증거를 연결하고 더 광범위한 영향을 미치는 사고를 우선순위로 올려 노이즈를 줄일 수 있습니다. 또한 조사 타임라인을 준비하고, 영향을 받은 리소스를 식별하며, 격리 조치를 제안할 수 있습니다. 이러한 기능은 숙련된 분석가가 이례적인 사례에 더 많은 시간을 쓰도록 도울 수 있습니다.

하지만 자동화는 그 자체의 실패 모드도 만듭니다. 잘못된 상관관계는 무해한 이벤트를 심각한 사고로 격상할 수 있습니다. 부정확한 격리 조치는 프로덕션 시스템을 중단시킬 수 있습니다. 오염된 입력은 에이전트를 공격자의 목표 쪽으로 유도할 수 있습니다.

모델 정렬 실패는 또 다른 불확실성을 더합니다. 이는 시스템이 운영자의 의도와 충돌하는 방식으로 할당된 목표를 추구할 때 발생합니다. 더 큰 접근 권한과 자율성은 잠재적 결과를 키웁니다.

예를 들어 데이터 유출을 막도록 지시받은 에이전트가 핵심 운영을 지원하는 서비스를 비활성화할 수 있습니다. 기술적으로는 목표가 충족될 수 있지만, 조직 전체는 용납할 수 없는 피해를 입을 수 있습니다.

따라서 보안팀에는 행동 경계가 필요합니다. 저위험 단계는 자동 실행할 수 있지만, 계정 정지, 네트워크 격리, 프로덕션 변경, 파괴적 조치에는 더 강력한 검증이 필요합니다.

승인은 새로움이 아니라 영향도를 반영해야 합니다. 익숙한 자동화 작업도 수천 명의 사용자에게 영향을 미치면 위험할 수 있습니다. 반대로 새로운 분석 작업은 시스템을 변경하지 않고 증거만 산출한다면 저위험으로 유지될 수 있습니다.

방어자에게는 지속성 있는 로그도 필요합니다. 조사 담당자는 어떤 모델이 실행됐는지, 어떤 데이터를 받았는지, 어떤 도구를 호출했는지, 왜 조치가 발생했는지를 알아야 합니다. 이러한 기록이 없으면 자율 대응은 원래 억제하려던 사고를 오히려 불분명하게 만들 수 있습니다.

독립 보도는 Microsoft, Google, Cisco, CrowdStrike 및 기타 보안 공급업체 전반에서 더 광범위한 AI 대 AI 추세를 설명합니다. 특화 모델은 점차 탐지, 레드팀 활동, 취약점 연구, 패치 작업을 지원하고 있습니다.

이러한 경쟁은 방어 도구를 개선할 수 있습니다. 하지만 조직이 안전한 운영 절차를 마련하기 전에 조달 압박을 만들 수도 있습니다. 모델이 많아진다고 해서 보안 복원력이 자동으로 높아지는 것은 아닙니다.

보안 리더는 에이전트가 어디서 컨텍스트를 얻는지, 얼마나 자주 실수하는지, 어떤 조치를 되돌릴 수 있는지를 평가해야 합니다. 공급업체 벤치마크에만 의존하지 말고 자체 환경을 기준으로 성능을 시험해야 합니다.

레드팀 활동은 여전히 중요합니다. 레드팀은 실제 공격자가 악용하기 전에 약점을 식별하기 위해 적대적 행동을 시뮬레이션합니다. AI는 확립된 기법을 자동화할 수 있지만, 이례적인 공격 경로에는 여전히 숙련된 인간의 추론이 도움이 됩니다.

Microsoft는 약점이 문서화되지 않은 방식으로 상호작용할 때 숙련된 운영자가 필수적이라는 점을 인정합니다. 이 단서는 보고서가 분석가를 에이전트로 대체하자는 단순한 주장으로 흐르는 것을 막습니다.

현재 증거 역시 자율 공격이 실제 침해를 지배한다는 점을 입증하지는 않습니다. Microsoft는 대부분의 복잡한 공격에는 여전히 의미 있는 인간의 지시가 필요하다고 명시합니다. AI는 일반적으로 기존 워크플로의 일부를 강화합니다.

이는 더 신뢰할 수 있고 유용한 경고입니다. 조직은 허구 속 전지전능한 기계를 대비할 필요가 없습니다. 더 많은 실험을 수행하고 성공한 기법을 더 빠르게 반복할 수 있는 인간 공격자를 대비해야 합니다.

역사적 맥락도 이러한 신중한 관점을 뒷받침합니다. Microsoft의 2025년 위협 보고는 국가 지원 집단이 기만, 연구, 사이버 작전에 AI를 사용하는 사례가 늘고 있음을 기록했습니다. 2026년 보고서는 이러한 흐름을 오케스트레이션 방향으로 확장합니다.

위험은 즉각적이기보다 누적됩니다. 위임되는 작업 하나하나는 시간, 비용 또는 전문 인력을 줄입니다. 결국 한때 여러 숙련된 운영자가 필요했던 작업의 연쇄를 더 작은 팀도 감당할 수 있게 됩니다.

방어 시스템도 같은 누적 효과를 얻을 수 있습니다. 결과는 어느 쪽이 도구, 데이터, 의사결정을 더 효과적으로 연결하느냐에 달려 있습니다.

공격자가 자동화할수록 익숙한 약점이 더 중요해진다

보고서의 역설은 고도화된 AI가 기본 보안 통제를 쓸모없게 만드는 것이 아니라 더 중요하게 만든다는 점입니다.

피싱은 사람들이 알아볼 수 있는 이름, 긴급한 요청, 익숙한 워크플로를 신뢰하기 때문에 여전히 효과적입니다. AI는 문법을 개선하고, 메시지를 개인화하며, 캠페인을 번역하고, 새로운 침입 기법을 만들지 않고도 대화를 이어갈 수 있습니다.

ClickFix 공격은 이러한 패턴을 보여 줍니다. 악성 페이지는 가짜 기술 문제를 제시하고 사용자에게 악성코드를 설치하는 명령을 실행하도록 지시합니다. 이 기법은 소프트웨어 취약점이 아니라 사용자의 협조를 악용합니다.

유효 계정 악용도 같은 논리를 따릅니다. 공격자는 인증된 행동이 정상 활동에 섞이기 때문에 정당한 자격 증명을 선호하는 경우가 많습니다. AI는 탈취된 접근 권한을 분석하고, 대상을 우선순위화하며, 침입 후 측면 이동을 자동화할 수 있습니다.

엣지 디바이스도 또 다른 우려를 낳습니다. 방화벽, 라우터, 게이트웨이, 원격 액세스 시스템은 흔히 인터넷에 직접 노출됩니다. 이들은 인벤토리화하고 모니터링하거나 신속히 패치하기 어려울 수 있습니다.

오픈소스 공급망 침해 역시 Microsoft가 단기적으로 중요한 위협으로 꼽은 항목입니다. 조직은 완전히 통제하지 못하는 라이브러리, 패키지, 빌드 시스템, 유지관리자에 의존합니다. 하나의 손상된 구성 요소가 많은 하위 사용자에게 영향을 미칠 수 있습니다.

AI는 공격자가 오픈소스 프로젝트를 조사하고, 취약한 유지관리 지점을 찾으며, 설득력 있는 기여를 생성하도록 도울 수 있습니다. 방어자는 유사한 분석을 이용해 종속성을 검토하고 의심스러운 변경 사항을 식별할 수 있습니다.

우위는 다시 운영 준비 상태에서 나옵니다. 소프트웨어 팀에는 구성 요소 인벤토리, 신뢰할 수 있는 빌드, 코드 검토, 취약한 종속성을 교체하는 절차가 필요합니다. 이러한 기반이 없다면 AI 경보도 조치로 이어지기 어렵습니다.

합성 콘텐츠는 더 광범위한 신뢰 문제를 만듭니다. 진짜 메시지와 생성된 메시지를 구분하기 어려워질수록 직원은 조작에 더 취약해질 수 있습니다. 동시에 정당한 요청마저 신뢰하지 않기 시작할 수 있습니다.

두 번째 효과에도 주목할 필요가 있습니다. 경고에 압도된 인력은 실제 커뮤니케이션을 무시하거나 긴급 업무를 지연시킬 수 있습니다. 신뢰가 자동적이거나 불가능해질 때 공격자는 이익을 얻습니다.

명시적 검증이 더 나은 모델을 제시합니다. 직원은 특히 금전, 자격 증명, 접근 권한 또는 기밀 데이터가 관련된 민감한 요청을 별도의 신뢰할 수 있는 채널로 확인해야 합니다.

기술적 통제는 이러한 행동을 뒷받침할 수 있습니다. 패스키는 피싱 노출을 줄입니다. 조건부 액세스는 디바이스 및 위치 신호를 평가할 수 있습니다. 권한 액세스 시스템은 상시 권한을 제한하고 더 강력한 승인을 요구할 수 있습니다.

조직은 노출 수준을 반영하는 결과도 측정해야 합니다. 패치 수, 경보량, 모델 생성 요약은 활동 지표입니다. 이는 공격자가 활용할 수 있는 경로가 줄었는지 보여 주지 않습니다.

더 나은 측정 기준에는 노출된 자격 증명을 제거하는 데 걸리는 시간, 손상된 ID를 격리하는 데 걸리는 시간, 일시적으로 부여되는 권한 액세스의 비율이 포함됩니다. 예방은 때때로 실패할 수 있으므로 복구 성과가 중요합니다.

이 모델에서 연속성 계획은 사이버 방어의 일부가 됩니다. 조직은 피해를 억제하고, 필수 서비스를 계속 운영하며, 신뢰할 수 있는 시스템을 복원해야 합니다. 공격자가 빨라질수록 반복 훈련된 복구의 가치는 커집니다.

보고서가 기본 원칙을 강조하는 것은 보수적인 군더더기가 아닙니다. 자동화는 구성 품질을 증폭합니다. 제한된 권한은 인간 공격자와 악성 에이전트 모두를 제약하는 반면, 과도한 권한은 양쪽 모두를 가속합니다.

같은 원칙은 데이터에도 적용됩니다. 명확한 소유권과 접근 경계는 AI 검색을 더 안전하게 만듭니다. 관리되지 않는 저장소는 손상된 계정이나 에이전트가 기밀 자료를 머신 속도로 검색하도록 허용합니다.

보안 리더는 이 문제를 AI 도구 대 전통적 통제의 구도로 규정하지 않아야 합니다. 도구는 컨텍스트와 안전한 실행을 위해 그러한 통제에 의존합니다. ID, 인벤토리, 세분화, 거버넌스, 복구가 운영 기반을 이룹니다.

Microsoft의 AI 사이버보안 주장은 이렇게 이해할 때 가장 설득력이 있다. AI는 보안의 기반을 대체하지 않는다. 대신 취약한 기반이 얼마나 빠르게 드러나고 악용될 수 있는지를 바꾼다.

방어자가 따라잡고 있는지 보여줄 세 가지 신호

다음 시험대는 조직이 방어 에이전트에 안전하지 않은 권한을 부여하지 않으면서 더 빠르게 노출을 줄일 수 있는지 여부다.

첫 번째 신호는 인터넷에 노출된 취약점의 조치 시간이다. 24시간 이내의 무기화와 기업의 30~60일 조치 사이에 존재한다는 Microsoft의 격차는 지속 가능하지 않다.

보안 프로그램은 핵심 노출 시스템의 중앙값 및 최악의 조치 시간을 추적해야 한다. 소유권 관리, 테스트, 배포 역시 빨라질 때에만 더 빠른 발견이 의미를 갖는다.

서비스 신뢰성이 유지되는 가운데 조치 시간이 줄어든다면 AI 지원 우선순위 설정이 운영상 가치를 내고 있는 것이다. 더 빠른 수정 없이 경보량만 늘어난다면 조직은 노출을 해소하지 못한 채 정보만 추가하고 있는 셈이다.

두 번째 신호는 공급업체와 기업이 에이전트 신원을 어떻게 관리하는지다. 보안팀에는 에이전트 워크플로 전반에 걸친 명확한 추적성, 단기 자격 증명, 제한된 도구, 즉각적인 권한 철회가 필요하다.

작업별로 에이전트를 분리하고 위임된 권한을 기록하는 표준과 제품 통제를 주시해야 한다. 광범위한 공유 자격 증명은 방어자가 안전하게 자동화할 수 있다는 Microsoft의 주장을 약화시킬 것이다.

AI risk framework는 모델 위험을 관리하는 데 유용한 기반을 제공한다. 그러나 사이버보안팀에는 여전히 모델 행동을 기업의 신원 및 권한과 연결하는 기술적 통제가 필요하다.

세 번째 신호는 실제 사고에서 나오는 증거다. 통제된 평가는 설계된 조건에서 에이전트가 무엇을 할 수 있는지 보여준다. 사고 보고서는 공격자가 실제 조직을 상대로 어떤 역량을 안정적으로 배포할 수 있는지 보여준다.

방어자는 자율 시스템이 제한된 운영자 개입만으로 더 긴 공격 시퀀스를 완료하는지 지켜봐야 한다. 또한 AI 기반 탐지가 침투 체류 시간과 격리 시간을 줄이는지도 추적해야 한다.

침투 체류 시간이 짧아진다는 증거는 AI 지원 방어의 근거를 강화할 것이다. 반복되는 오작동, 설명되지 않는 결정, 또는 에이전트 침해는 더 큰 자율성이 복원력을 높인다는 주장을 약화시킬 것이다.

공급업체 간 경쟁도 이러한 증거에 영향을 미칠 것이다. Microsoft, Google, Cisco, CrowdStrike, Palo Alto Networks 및 전문 보안 기업들은 방어 업무를 위한 모델과 에이전트를 구축하고 있다. 이들의 접근 방식은 모델, 텔레메트리, 도구, 배포 측면에서 서로 다르다.

구매자는 포괄적인 AI 라벨보다 측정 가능한 성능을 비교해야 한다. 유용한 질문에는 시스템에 어떤 데이터가 필요한지, 어떤 조치를 취하는지, 그리고 인간이 중요한 결정을 어떻게 검토하는지가 포함된다.

2026년 보고서는 정책적 질문도 제기한다. 소규모 조직과 공공기관은 기계 속도의 방어에 필요한 데이터 통합, 전문 인력, 컴퓨팅 자원이 부족할 수 있다.

공격자는 많은 표적에 걸쳐 인프라를 재사용할 수 있다. 각 방어자는 자신의 환경을 보호해야 한다. 유능한 방어 시스템의 배포나 관리가 계속 어려운 상태라면 이러한 불균형은 더 커질 수 있다.

정보 공유는 도움이 될 수 있다. 조직이 지표와 기법을 신속히 교환하면 한 환경에서 발견된 공격 패턴이 다른 환경도 보호할 수 있다. 부정확한 신호 역시 피해를 확산시킬 수 있으므로 공유 인텔리전스에는 여전히 검증이 필요하다.

보안팀은 완전 자율 공격이 등장할 때까지 기다려서는 안 된다. 실무 과제는 이미 분명하다. 에이전트 접근 권한을 목록화하고, 지속적 권한을 줄이며, 민감한 데이터를 보호하고, 노출 시스템의 조치 시간을 단축해야 한다.

또한 대응 에이전트를 제약된 환경에서 테스트해야 한다. 팀은 시스템 격리나 신원 비활성화 권한을 부여하기 전에 조사와 증거 수집부터 시작할 수 있다.

Microsoft Digital Defense Report 2026은 궁극적으로 두 가지 운영 모델 간의 경쟁을 묘사한다. 하나는 분절된 방어 체계 전반에 걸쳐 AI로 공격을 저렴하게 반복하는 모델이다. 다른 하나는 신뢰할 수 있는 신호를 제한되고 책임 있는 행동으로 연결하는 모델이다.

어느 모델이 이길지는 가장 많은 보안 경보를 생성하거나 가장 많은 에이전트를 배포하는 쪽에 달려 있지 않다. 신뢰할 수 있는 맥락을 더 빠르게 안전한 결정으로 전환하는 쪽에 달려 있다.

보안 리더에게 당면한 질문은 구체적이다. 조직은 공격자의 새로운 시간표 안에서 에이전트 권한을 철회하고, 탈취된 신원을 차단하며, 노출된 시스템에 패치를 적용할 수 있는가? 지금 이 세 가지 역량을 측정하라. 그런 다음 AI가 지연을 줄이는 곳, 위험을 더하는 곳, 그리고 인간이 책임을 계속 져야 하는 곳을 결정하라.