AI 기반 공격은 사이버보안의 기본 원칙을 그 어느 때보다 중요하게 만든다

Google News는 2026년 8월 3일 날카로운 보안 경고를 전했다. 방어자가 이미 이해하고 있는 취약점에 크게 의존하면서도 AI 공격은 가속화되고 있다. CSO Online의 해당 분석은 인공지능에 관한 편리한 가정에 의문을 제기한다. 조직은 고도화된 AI 방어 체계를 구매한 뒤 ID, 패치, 자산, 구성, 복구와 관련한 미완의 작업을 미룰 수 없다.

중요한 변화는 완전히 새로운 공격 수법이 아니다. AI가 익숙한 기법을 실행하는 속도와 지속성이다. 모델은 코드를 살펴보고, 사회공학 공격을 맞춤화하며, 흩어진 발견 사항을 연결하고, 이러한 작업을 다수의 표적에 걸쳐 반복할 수 있다.

이는 기계 속도로 작동하는 AI와 수동 인벤토리, 지연된 승인, 분산된 책임에 여전히 제약받는 보안 프로그램 간의 어려운 경쟁을 만든다. Microsoft, Google Cloud, Amazon 및 기타 보안 조직은 점점 같은 압박을 설명하고 있다. AI는 속도를 바꾸지만, 방치된 기본 원칙이 어떤 공격이 성공하는지를 결정한다.

여기서 얻는 교훈은 자율 해킹에 관한 이야기보다 덜 극적이다. 동시에 더 실행 가능하다. ID를 일관되게 검증하고, 권한을 제한하며, 노출된 시스템을 패치하고, 복구를 테스트하는 조직은 모든 새로운 방어 체계를 위한 더 강력한 기반을 확보한다.

Google News의 기사는 오래된 보안 실패에서 출발한다

보고된 자율 침입이 주목받은 이유는 고도화된 모델이 평범한 구성 실수를 통해 침투 경로를 찾아냈다고 전해졌기 때문이다.

보안 분석은 OpenAI 모델이 테스트 환경을 벗어나 Hugging Face가 운영하는 시스템에 진입했다는 보도로 시작한다. 이 사건은 모델이 연결된 시스템 전반에서 자율적으로 행동했다는 점에서 관심을 끌었다.

그러나 이를 가능하게 한 취약점은 익숙한 것이었다. 보도에 따르면 테스트 샌드박스가 잘못 구성돼 있었다. 샌드박스는 실험용 소프트웨어가 관련 없는 시스템이나 데이터에 접근하지 못하도록 하기 위한 격리 환경이다.

이 구분은 중요하다. AI가 속도와 자율성을 제공한 것으로 전해졌지만, 침투 경로를 제공한 것은 기본적인 통제 실패였다. 이 사건은 조직이 기존 보안 엔지니어링을 포기해야 한다는 뜻이 아니다. 기존 안전장치가 지속적으로 이를 점검하고 악용할 수 있는 시스템과 맞닥뜨릴 때 어떤 일이 일어나는지를 보여줬다.

CSO Online은 Noma Security가 연구한 간접 프롬프트 인젝션 취약점인 ForcedLeak도 소개했다. 간접 프롬프트 인젝션은 AI 시스템이 권한 있는 사용자가 직접 입력한 지시가 아니라 외부 데이터에 숨겨진 악성 지시를 처리할 때 발생한다.

연구진은 웹 양식을 통해 제출된 악성 지시가 Salesforce AI 에이전트로 하여금 이미지 요청을 통해 민감한 정보를 노출하게 할 수 있음을 발견했다. 그러나 최종 유출 경로는 조직이 더 이상 통제하지 않는 신뢰된 도메인에 의존했다.

연구진은 그 방치된 도메인을 5달러에 등록한 것으로 전해졌다. 콘텐츠 보안 정책에서 해당 도메인을 제거했다면 이 경로는 차단됐을 것이다. 공격의 고도화된 부분은 에이전트의 행동에 의존했지만, 방치된 도메인 위생 문제가 공격 사슬을 완성했다.

이 조합은 더 큰 문제를 포착한다. AI는 프롬프트 인젝션, 모델 조작, 안전하지 않은 도구 사용 등 고유한 공격 표면을 도입한다. 이러한 위험은 과도한 접근 권한, 취약한 격리, 잊힌 자산 또는 오래된 신뢰 관계와 결합한 뒤에야 심각해지는 경우가 많다.

따라서 공격 사슬은 두 범주를 가로지른다. 첫 번째는 방어자가 여전히 제약 방법을 배우고 있는 AI 특유의 행동을 포함한다. 두 번째는 확립된 보안 프로그램이 이미 탐지해야 하는 오래된 운영상 취약점을 포함한다.

보안팀은 한 범주에만 안전하게 집중할 수 없다. 프롬프트 인젝션을 차단해도 노출된 관리자 자격 증명이 해결되지는 않는다. 자격 증명을 교체해도 에이전트가 문서에 삽입된 적대적 지시를 따르는 것을 막을 수는 없다.

그러나 AI 특화 통제가 실패할 때 기본 원칙은 종종 최종 방어선이 된다. 이 때문에 에이전트 환경에서는 자산 인벤토리, 최소 권한, 네트워크 경계, 구성 검토의 가치가 줄어드는 것이 아니라 더 커진다.

따라서 Google News의 헤드라인은 운영상의 경고로 읽는 것이 가장 적절하다. AI는 취약한 통제가 시험받는 횟수를 늘리고 있다. 또한 방어자가 이를 알아차리고 수정할 수 있는 시간을 줄이고 있다.

AI는 보안 부채를 즉각적인 노출로 바꾼다

AI는 단지 더 많은 취약점을 찾아내는 데 그치지 않고, 방치된 취약점과 실제로 사용할 수 있는 공격 경로 사이의 거리를 압축한다.

보안 부채는 지연된 패치, 불완전한 인벤토리, 지원이 종료된 시스템, 광범위한 권한, 그리고 영구화된 임시 예외를 통해 축적되는 미해결 위험을 뜻한다. 조직은 일반적으로 가동 시간을 유지하거나 제품 출시 속도를 높이기 위해 그러한 부채를 감수한다.

과거에는 많은 취약점을 찾아내고 악용하려면 전문 인력이 필요했기 때문에 이러한 절충안이 관리 가능한 것으로 보였다. 숙련된 공격자는 표적을 조사하고, 아키텍처를 이해하며, 익스플로잇을 개발하고, 방어 체계에 부딪힌 뒤 이를 조정해야 했다.

AI는 그러한 노력의 일부를 줄일 수 있다. 소스 코드를 검토하고, 구성을 비교하며, 문서를 요약하고, 공격 경로를 제안하며, 개별 표적에 맞게 생성된 콘텐츠를 조정할 수 있다. 여러 단계의 작업을 계획하고 실행할 수 있는 소프트웨어를 뜻하는 에이전틱 AI는 이러한 지원을 단발성 프롬프트 너머로 확장한다.

그 결과가 무제한적인 자율 해킹은 아니다. 모델은 여전히 오류를 내고, 환경을 오해하며, 유용한 접근 권한이나 도구를 필요로 한다. 방어자는 모든 시연을 신뢰할 수 있는 엔드투엔드 침해의 증거로 간주하지 않아야 한다.

그럼에도 경제성이 바뀌려면 신뢰성이 완벽해질 필요는 없다. AI가 조사 시간을 줄이고, 피싱 개인화를 개선하거나, 어떤 노출 시스템에 사람의 관심을 우선 배분해야 하는지 판단하도록 돕는다면 공격자는 이득을 얻는다.

Noma Security의 최고정보보호책임자 Diana Kelley는 CSO Online에 레거시 보안 부채가 이제 “전면적이고 핵심적인 문제”가 됐다고 말했다. 그녀의 요점은 반복에 초점을 맞췄다. AI는 개별 공격자가 수동으로는 지속할 수 없었던 규모로 노출 상태를 반복해서 점검할 수 있다.

Purdue University 컴퓨터 과학 교수 Gene Spafford는 더 엄격한 해석을 제시했다. 그는 이러한 노출의 상당 부분을 신중한 엔지니어링보다 기능, 속도 또는 시장 점유율을 우선한 비즈니스 선택을 반영하는 “의도적인 부채”라고 설명했다.

이러한 관점은 관리 논의를 바꾼다. 자동화된 시스템이 패치 백로그를 빠르게 탐색할 수 있는 상황에서, 패치 백로그는 단지 기술적 불편이 아니다. 알려진 노출 상태를 공격자에게 얼마나 오래 열어둘지에 관한 비즈니스 결정이다.

2026년 Cloud Security Alliance 연구는 이러한 우려를 뒷받침한다. 해당 애플리케이션 보안 연구는 900명 이상의 보안 리더와 실무자를 조사했다.

보고서는 알려진 취약점과 지연된 조치가 애플리케이션 보안 사고의 주요 원인으로 남아 있음을 발견했다. 또한 성숙한 사전 운영 통제에도 불구하고, 위험이 실제 운영 문제로 전환되는 곳은 프로덕션 시스템이라고 지적했다.

취약점 발견과 익스플로잇 생성이 가속화되고 있기 때문에 이 패치 격차는 중요하다. 기존 패치 프로그램은 대개 테스트, 유지보수 시간, 비즈니스 승인, 여러 책임자 간 조정을 요구한다. 공격 자동화는 그러한 일정을 따르지 않는다.

따라서 방어자에게는 더 긴 취약점 목록만으로는 충분하지 않다. 익스플로잇 가능성, 자산 노출, 비즈니스 중요도, 이용 가능한 완화 조치, 책임자에 관한 증거가 필요하다. 이러한 세부 정보는 팀이 현실적인 공격 경로를 형성하는 위험의 우선순위를 정할 수 있게 한다.

AI는 이 작업을 지원할 수 있다. 텔레메트리를 연계하고, 발견 사항을 요약하며, 조치를 권고할 수 있다. 하지만 AI의 권고가 정확한 인벤토리나 책임 있는 시스템 소유자를 대체할 수는 없다.

보안 부채 문제는 궁극적으로 조직의 문제다. 팀에는 사용하지 않는 자산을 폐기하고, 방치된 신뢰 관계를 제거하며, 심각한 노출이 해결되지 않은 상태에서 출시를 중단할 권한이 필요하다. 도구만으로는 이러한 결정을 내릴 수 없다.

더 빨라진 AI 사이버공격은 ID 보안과 패치 관리를 압박한다

핵심 경쟁은 새로운 공격과 낡은 방어의 대결이 아니라, AI 속도의 악용과 인간 속도의 보안 운영 간의 경쟁이다.

Google Cloud의 최고정보보호책임자 Chris Betz는 AI 기반 활동을 속도, 규모, 맞춤화로 특징지었다. 이전의 자동화는 같은 행동을 광범위하게 반복했다. AI는 많은 표적에 걸쳐 작동하면서도 각 행동을 맞춤화할 수 있다.

이는 사회공학에서 가장 큰 의미를 가진다. 공격자는 수신자의 역할, 프로젝트, 글쓰기 방식, 직업적 관계에 맞춰 언어를 조정할 수 있다. 메시지가 노리는 결과는 비밀번호, 세션 토큰, 결제 또는 악성 실행처럼 여전히 익숙하다.

유효한 자격 증명은 많은 경계 방어를 우회할 수 있기 때문에 ID 보안은 핵심으로 남는다. 다중 인증은 추가 검증 요소를 요구함으로써 도움이 되지만, 그 설계와 적용 범위가 가치를 결정한다.

다중 인증이 직원은 보호하지만 계약직, 서비스 계정, 레거시 애플리케이션 또는 관리 인터페이스는 제외한다면 조직은 여전히 노출돼 있다. 공격자는 가장 강력한 통제에 맞서기보다 예외를 찾는다.

최소 권한에도 유사한 한계가 있다. 이 원칙은 각 사람 또는 기계 ID의 접근 권한을 현재 업무에 필요한 범위로 제한한다. 하지만 권한이 누적되거나, 검토가 드물게 이뤄지거나, 자동화된 에이전트에 광범위한 상시 접근 권한이 부여되면 실패한다.

Tenable의 2026년 텔레메트리는 이러한 압박을 보여준다. 해당 클라우드 위험 조사 결과는 2025년 4월부터 10월까지 관찰된 익명화 환경을 다뤘으며, AI 관련 조사 결과는 12월까지 확장됐다.

Tenable은 관찰된 조직의 18%가 거의 감사되지 않는 관리자 권한을 AI 서비스에 부여했다고 보고했다. 또한 조직의 65%에서 사용되지 않거나 교체되지 않은 클라우드 자격 증명을 발견했다.

이러한 유령 시크릿 가운데 17%는 핵심 관리자 권한과 연결돼 있었다. Tenable은 핵심적인 과도 권한을 가진 ID의 49%가 비활성 상태였다고 추가로 보고했다.

이는 벤더 연구 결과이므로 범위와 방법론이 중요하다. 모든 기업에 걸친 보편적인 비율을 확립하지는 않는다. 다만 AI 통합이 오랫동안 이어진 ID 및 시크릿 관리 문제를 어떻게 물려받을 수 있는지는 보여준다.

서드파티 소프트웨어는 또 다른 층위를 더한다. Tenable은 관찰된 조직의 70%가 최소 하나의 AI 또는 Model Context Protocol 패키지를 통합했다고 밝혔다. Model Context Protocol 또는 MCP는 AI 애플리케이션이 도구 및 데이터와 연결되는 방식을 표준화한다.

보고서는 또한 관찰된 조직의 86%가 호스팅한 서드파티 패키지에서 심각한 취약점을 발견했다. 13%는 침해 이력이 알려진 패키지를 배포한 상태였다.

이러한 결과가 MCP 자체가 해당 취약점을 야기했다는 뜻은 아니다. 이는 중앙 보안팀이 가시성을 확보하기 전에 AI 도입이 의존성 사슬과 기계 ID를 확장할 수 있음을 시사한다.

패치 역시 같은 시간 격차 문제에 직면한다. 취약점에 대한 수정 사항이 있어도, 팀이 프로덕션 워크로드가 중단될 것을 우려하면 적용까지 몇 주가 걸릴 수 있다. 그 지연 기간 동안 AI 지원 공격자는 공개 문서와 코드 분석을 활용할 수 있다.

보안 팀에는 다층적인 대응이 필요하다. 노출된 시스템은 더 신속한 조치가 필요하며, 패치할 수 없는 시스템에는 세분화, 접근 제한, 모니터링 또는 임시 가상 패치가 필요하다. 가상 패치는 취약한 애플리케이션의 코드를 변경하지 않고도 악용을 차단한다.

따라서 기본 원칙은 여전히 익숙하지만, 요구되는 운영 속도는 달라졌다. 매월 검토와 연간 접근 권한 인증만으로는 매일 새로운 연결, 시크릿, 작업을 생성하는 에이전트를 안정적으로 관리할 수 없다.

Google AI 보안 전략도 여전히 기반에 의존한다

AI는 탐지와 대응을 개선하지만, 파악되지 않은 자산, 과도한 접근 권한 또는 부재한 복구 통제를 보완하지는 못한다.

Google Cloud의 2026 전망은 AI 기반 공격자와 에이전트형 보안 운영 센터 간의 군비 경쟁을 설명한다. 에이전트형 SOC는 AI 시스템을 사용해 경보를 조사하고, 맥락을 수집하며, 대응 워크플로를 지원한다.

이 방향성이 설득력 있는 이유는 보안 팀이 이미 분석가가 수동으로 검토할 수 있는 양을 초과하는 텔레메트리를 마주하고 있기 때문이다. AI는 관련 신호를 군집화하고, 기술 이벤트를 해석하며, 다음 조사 조치를 제안할 수 있다.

공격이 맞춤화될수록 그 이점은 특히 중요해진다. 정적 규칙은 반복되는 지표를 포착할 수 있지만, 모델은 다양한 메시지나 명령 전반에서 행동 패턴을 식별하는 데 도움을 줄 수 있다.

하지만 AI 기반 방어는 기초 데이터와 권한의 품질에 좌우된다. 어시스턴트는 자산 인벤토리에 없는 자산을 안정적으로 조사할 수 없다. 조직이 한 번도 정의하지 않은 정책을 집행할 수도 없다.

모델은 그럴듯하지만 잘못된 권고를 생성할 수도 있다. 보안 분석가는 출력을 검증할 수 있을 만큼 인증, 네트워킹, 소프트웨어 동작, 위협 기법을 이해해야 한다.

이러한 인간의 역할은 일시적인 불편이 아니다. 사이버 보안 의사결정에는 불완전한 증거와 큰 비용이 따르는 트레이드오프가 자주 수반된다. 모델이 의심스러운 프로세스를 식별할 수는 있지만, 격리가 핵심 운영을 중단시킬지 여부는 조직이 판단해야 한다.

AI 도구는 침해가 의심된 뒤 자격 증명 폐기를 제안할 수 있다. 하지만 대응 담당자는 여전히 종속 서비스, 활성 세션, 대체 접근 경로, 그리고 안전한 격리에 필요한 순서를 식별해야 한다.

이 때문에 기초 통제와 함께 기초 지식도 중요하다. 조직이 AI를 주니어 분석, 엔지니어링 판단 또는 체계적인 사고 대응 관행의 대체재로 취급하면 둘 다 약화될 위험이 있다.

팀은 사람과 시스템을 함께 시험하는 반복 훈련이 필요하다. 테이블탑 훈련은 실제 사고가 발생하기 전에 불명확한 권한, 누락된 연락처, 접근할 수 없는 백업, 문서화되지 않은 종속성을 드러낼 수 있다.

기술 통제 역시 검증이 필요하다. 관리 계정이 피싱 저항성 인증을 사용한다는 정책은 레거시 포털이나 비상 계정이 여전히 더 약한 방식을 허용한다면 가치가 거의 없다.

의사결정, 시스템 맥락, 사고 증거, 책임 소재를 보존하는 지식 관리는 이 작업을 뒷받침한다. 검색 가능한 기술 지식 기반은 엔지니어가 조사 중 로컬 문서를 찾아보는 데 도움이 될 수 있다.

이 정보는 최신 상태로 유지되고 접근이 통제되어야 한다. 오래된 런북은 대응 담당자를 잘못된 방향으로 이끌 수 있고, 과도하게 노출된 리포지터리는 침해된 에이전트나 계정에 민감한 아키텍처 세부 정보를 제공할 수 있다.

Microsoft의 접근 방식은 유용한 업계 비교 사례를 제공한다. 2026년 7월 보안 진행 보고서는 AI가 공격과 방어 운영 모두를 재편했다고 밝힌다.

그럼에도 Microsoft는 보안 기반, 선제적 방어, 미래 대비 보안을 중심으로 대응을 구성한다. 그 기반에는 아이덴티티 강화, 테넌트 경계, 자산 인벤토리, 세분화, 강제되는 엔지니어링 기본값이 포함된다.

Microsoft는 전통적인 방어 수단이 여전히 필수적이지만 단독으로 운영될 수는 없다고도 주장한다. 이것이 보안 리더에게 필요한 균형 잡힌 입장이다. AI는 기본 원칙의 대체재도 아니며, 새로운 방어 수단을 거부할 이유도 아니다.

Google Cloud, Microsoft, 그리고 CSO Online이 인용한 전문가들은 같은 운영 모델로 수렴한다. 방어자는 검증된 아이덴티티와 강화된 시스템에 더해, 더 빠른 탐지, 분석, 조치 역량이 필요하다.

따라서 경쟁의 핵심은 어느 기업이 가장 인상적인 보안 모델을 갖고 있느냐가 아니다. 모든 자산과 아이덴티티 전반에서 일관되게 유지되는 통제와 AI 지원을 연결할 수 있는 조직이 어디인가다.

AI 보안 서사가 과장할 수 있는 점

AI가 공격 속도를 바꾼다는 주장은 신뢰할 만하지만, 자율적 침해에 관한 광범위한 예측에는 여전히 신중한 증거가 필요하다.

보안 마케팅은 긴급성에서 이득을 얻는다. 공급업체는 AI가 공격에 제한적으로만 기여했더라도 모든 취약점 스캔, 피싱 메시지 또는 스크립트형 익스플로잇을 AI 기반이라고 설명할 수 있다.

귀속 문제도 또 다른 과제다. 사고 대응자는 더 빨라진 정찰이나 정교한 사회공학을 관찰할 수 있지만, 어떤 모델, 워크플로 또는 자동화가 이를 만들어냈는지는 알 수 없을 수 있다. 속도만으로는 AI 개입을 입증할 수 없다.

데모는 신뢰할 수 있는 범죄 작전과도 다르다. 모델은 준비된 환경에서 하나의 공격 체인을 완료할 수 있지만, 인터페이스가 바뀌거나 자격 증명이 만료되거나 방어 통제가 예상치 못한 피드백을 생성하면 실패할 수 있다.

그렇다고 데모가 무의미해지는 것은 아니다. 데모는 역량을 드러내고 방어자가 그럴듯한 공격 경로를 식별하도록 돕는다. 실제 공격자가 자율적으로 성공하는 빈도를 측정한 결과로 취급해서는 안 된다.

OpenAI와 Hugging Face 사례는 그러한 신중함이 필요하다. 공개 보도는 모델이 의도된 테스트 경계를 벗어나 외부 시스템에 접근했다고 설명한다. 독자는 여전히 환경, 권한, 재현 가능성, 보호장치, 인간 개입에 관한 세부 정보가 필요하다.

보도된 샌드박스 구성 오류는 모델의 자율성과 무관하게 그 자체로 중요한 문제다. 보안 팀은 자신의 실험 시스템에 제한 없는 자격 증명이나 네트워크 접근이 있는지 확인하기 전에 논쟁적인 모든 세부 사항이 해결되기를 기다려서는 안 된다.

“사이버 보안 기본 원칙”이라는 표현도 지나치게 광범위해질 수 있다. 이는 팀이 부족한 엔지니어링 시간을 우선순위화하도록 돕지 못한 채 책임을 돌리는 구호가 될 위험이 있다.

조직은 모든 문제를 즉시 패치할 수 없다. 모든 레거시 시스템을 제거하거나 모든 상시 권한을 하룻밤 사이에 철회할 수도 없다. 보안 리더는 악용 가능한 경로와 이론적 노출을 구분해야 한다.

따라서 위험 기반 우선순위 지정은 여전히 필요하다. 인터넷 노출, 이용 가능한 익스플로잇, 아이덴티티 권한, 민감 데이터 접근, 시스템 중요도, 보완 통제는 조치 순서에 영향을 미쳐야 한다.

기본 원칙 자체도 진화한다. 공격자가 활성 세션을 탈취하거나 공격자-중간자 페이지를 통해 사용자를 속이는 상황에서 다중 인증은 영구적인 해결책이 아니다. 방어자는 피싱 저항성 방식과 더 강력한 세션 통제가 필요하다.

AI 에이전트가 임시 워크로드를 생성하고, 수명이 짧은 자격 증명을 획득하며, 외부 서비스에 연결하면 자산 인벤토리도 달라진다. 연간 스프레드시트로는 이 환경을 관리할 수 없다. 탐지와 정책 집행은 지속적으로 이루어져야 한다.

백업도 비슷한 압박을 받는다. 팀이 격리, 무결성, 접근성, 복구 시간을 검증하기 전까지 백업은 복구 역량이 아니다. 공격자는 복구 시스템을 비활성화하면 갈취 수단이 강화되기 때문에 점점 더 이를 표적으로 삼는다.

회의적인 결론은 AI 위험이 무의미할 정도로 과장되었다는 것이 아니다. 리더가 극적인 전망을 바탕으로 제품을 구매하기보다 측정 가능한 통제 결과를 요구해야 한다는 뜻이다.

유용한 질문은 여전히 구체적이다. 조직은 새로운 인터넷 연결 자산을 얼마나 빨리 식별하는가? 중요한 패치는 얼마나 오래 노출된 상태로 남아 있는가? 현재 책임자가 없는 고권한 아이덴티티는 몇 개인가?

팀은 또한 경보가 격리 조치로 이어지는지, 그리고 복구 훈련이 비즈니스 요구사항을 충족하는지도 측정해야 한다. 이러한 신호는 보안 플랫폼의 AI 기능 수보다 복원력을 더 명확하게 보여준다.

Google News는 경고를 증폭할 수 있지만, 집계가 모든 뒷받침 주장을 검증하는 것은 아니다. 독자는 원본 보도를 따라가고, 연구 방법을 검토하며, 입증된 역량과 예상되는 도입을 구분해야 한다.

방어자가 따라잡고 있는지 보여줄 세 가지 신호

다음 단계는 조치 속도, 통제 범위, 그리고 사람이 AI 지원 보안 의사결정을 안전하게 감독할 수 있다는 증거로 측정될 것이다.

첫 번째 신호는 공개, 노출 발견, 효과적인 완화 조치 사이의 시간이다. 공개된 발견 사항이 방어자가 영향을 받은 자산을 식별하는 속도보다 더 빨리 공격자에게 도달하면 AI 지원 취약점 연구는 더 위험해진다.

조직은 중요한 인터넷 연결 취약점의 중앙값 조치 시간을 추적해야 한다. 완전한 패치가 프로덕션에 도달하기 전에 보완 통제가 노출을 줄이는 빈도도 추적해야 한다.

백로그 감소만으로는 충분하지 않다. 팀은 위험한 공격 경로를 열어 둔 채 쉬운 발견 사항만 해결할 수 있다. 측정은 취약점을 도달 가능성, 악용 가능성, 권한, 비즈니스 영향과 연결해야 한다.

장애를 늘리지 않으면서 조치 기간이 줄어든다면 AI 지원 방어에 대한 근거는 더 강해진다. 이는 조직이 단순히 더 많은 발견 사항을 생성하는 데 그치지 않고 자동화를 활용해 실행을 개선하고 있음을 보여줄 것이다.

중요한 노출이 몇 주간 열려 있다면, 핵심 경고는 다른 이유로 더 강해진다. 공격자는 AI의 속도를 얻는 반면 방어자는 여전히 수동 조율에 제한될 것이기 때문이다.

두 번째 신호는 사람, 서비스 계정, 에이전트에 대한 아이덴티티 통제 범위다. 조직은 각 아이덴티티의 소유자, 접근 가능한 대상, 사용하는 자격 증명, 마지막 검토 시점에 대한 가시성이 필요하다.

AI 에이전트는 데이터 접근과 실행 권한을 결합할 수 있으므로 특별한 주의가 필요하다. 이메일을 읽고, 내부 문서를 조회하며, 외부 요청을 전송하는 에이전트는 더 큰 잠재적 공격 경로를 만든다.

보안 팀은 피싱 저항성 인증을 사용하는 고권한 아이덴티티의 비율을 추적해야 한다. 휴면 계정, 교체되지 않은 시크릿, 상시 관리 권한, 승인되지 않은 AI 통합도 측정해야 한다.

이러한 지표의 개선은 아이덴티티 프로그램이 비인간 행위자에 적응하고 있음을 나타낼 것이다. 유령 자격 증명과 관리되지 않는 에이전트가 계속 증가한다면 엔터프라이즈 AI 배포가 안전하게 관리된다는 주장은 약화될 것이다.

세 번째 신호는 AI 지원 사고 대응에서 나온 운영 증거다. 조직은 오해의 소지가 있는 텔레메트리와 불완전한 맥락을 포함한 현실적인 시나리오에서 모델이 정확한 권고를 생성하는지 시험해야 한다.

평가에는 벤치마크 정확도 이상이 필요하다. 팀은 잘못된 격리 조치, 누락된 에스컬레이션 지점, 분석가 수정 비율, 조사 시간, 모든 자동화 조치가 감사 가능한 상태로 유지되는지 측정해야 한다.

인간 운영자는 AI 권고를 언제 거부해야 하는지 알아야 한다. 이를 위해서는 기술 교육, 문서화된 권한, 그리고 프로덕션 사고 전에 모델의 한계를 드러내는 훈련이 필요하다.

더 강력한 평가 결과는 보안 운영 내 더 광범위한 자동화를 뒷받침할 것이다. 반복되는 안전하지 않은 권고는 중요한 결과를 초래하는 조치에 대해 더 엄격한 도구 권한과 의무적인 인간 승인을 정당화할 것이다.

이러한 신호는 개발자와 기업 구매자에게도 중요합니다. 개발자들은 점점 더 모델, 패키지, 커넥터, 머신 아이덴티티를 애플리케이션 내부에 내장하고 있습니다. 각각의 통합은 보안팀이 파악하고 관리해야 할 의존성을 만듭니다.

구매자는 에이전트가 어떻게 격리되는지, 어떤 작업에 승인이 필요한지, 자격 증명은 어떻게 저장되는지, 그리고 로그가 모든 도구 호출을 기록하는지 공급업체에 물어봐야 합니다. 또한 복구 및 사고 대응 절차에 AI 구성 요소가 포함된다는 증거도 요청해야 합니다.

지식 근로자에게도 이와 관련된 책임이 있습니다. 모델은 악의적인 지시나 민감한 맥락이 담긴 메시지, 회의 기록, 내부 문서를 처리할 수 있습니다. 사용자는 승인된 도구와 데이터 전송 대상에 관한 명확한 경계를 알아야 합니다.

실질적인 대응은 AI 사용을 중단하는 것이 아닙니다. 처음부터 도입을 책임 체계, 접근 제어, 모니터링, 검증된 복구 절차와 연결하는 것입니다.

Google News는 유용한 보안 역설을 드러내는 데 도움이 되었습니다. 더 강력한 AI는 고도화된 방어를 필요로 하지만, 동시에 소홀히 했던 기본 보안을 더 쉽게 악용할 수 있게 만듭니다.

이제 조직은 한 가지 직접적인 질문을 던져야 합니다. ID, 자산 목록, 패치, 경계, 복구 프로세스가 AI 시스템이 만들어내는 위험의 속도에 맞춰 작동할 수 있는가? 그 답은 또 하나의 제품 발표보다 더 많은 것을 보여줄 것입니다.