Shadow AI가 통제 모델을 무너뜨리면서 증가하는 Kaspersky AI 보안 지출

Kaspersky는 직원들이 외부 AI 도구를 계속 업무에 들여오는 가운데, AI 도입으로 인해 기업의 41%가 정보보안 투자를 늘렸다고 밝혔다. Kaspersky AI 보안 지출 데이터는 보안팀이 또 하나의 고립된 제품을 구매하는 것만으로는 해결할 수 없는 갈등을 보여준다. 기업들은 더 빠른 AI 도입을 원하지만, 기존 통제 체계로는 AI가 이미 어디에서 작동하고 있는지 파악하지 못하는 경우가 많다.

이 결과는 18개국의 IT 및 사이버보안 의사결정권자와 전문가 1,800명을 대상으로 한 글로벌 설문조사에서 나왔다. 응답자는 기술, 제조, 금융, 소매 및 도매 등을 포함한 산업을 대표했다. Kaspersky는 2026년 7월 29일 글로벌 결과를 발표했으며, 이후 9월 지역별 보고서가 이 수치에 다시 주목하게 했다.

이는 단순히 또 하나의 보안 예산 이야기가 아니다. 더 어려운 문제는 승인된 엔터프라이즈 AI와 정식 승인이나 감독 없이 사용되는 AI 도구를 뜻하는 섀도 AI 사이의 격차가 커지고 있다는 점이다. 조직들은 도입과 보호에 동시에 자금을 투입하고 있지만, 직원들은 여전히 개인 계정, 브라우저 확장 프로그램, 특화된 어시스턴트, 내장형 AI 기능을 통해 기업 정보를 옮길 수 있다.

따라서 핵심 대립은 통제된 AI 도입과 직원 주도형 도입 사이에 있다. 외부 도구를 차단하면 활동이 더 보이지 않는 곳으로 밀려날 수 있다. 모든 것을 허용하면 보안팀이 평가하지 않은 시스템에 민감한 데이터, 자격 증명, 내부 문서, 비즈니스 프로세스가 노출될 수 있다.

Kaspersky AI 보안 지출 데이터가 실제로 말하는 것

핵심 수치가 중요한 이유는 AI 도입이 단순한 위협 목록의 한 항목이 아니라 보안 예산을 직접 움직이는 요인이 되었기 때문이다.

Kaspersky의 글로벌 설문조사에 따르면, 기업의 41%는 AI 도입 때문에 정보보안 투자를 늘렸다. 보고된 다른 요인으로는 증가하는 침해 비용, 클라우드 마이그레이션, 최근의 보안 사고가 포함됐다.

이 결과가 41%의 기업이 섀도 AI만을 이유로 예산을 확대했다는 뜻은 아니다. 각 증가 규모도 드러나지 않는다. 공개된 결과는 도입과 지출 결정 사이의 관계를 보여주지만, 달러 기준 총액이나 예산 증가 폭의 분포는 제공하지 않는다.

더 폭넓은 응답은 예산이 움직이는 이유를 설명하는 데 도움이 된다. 응답자의 19%는 AI 취약점을 현재 가장 위험한 위협 가운데 하나로 꼽았다. 피싱은 22%로 더 높았고, 대규모 악성코드 공격이 20%로 뒤를 이었다.

이 수치는 AI 위험이 기존 엔터프라이즈 위협을 대체하지는 않으면서도 그에 근접해 있음을 보여준다. 보안 책임자들은 기존 시스템을 보호하는 동시에 모델 접근, 프롬프트, 플러그인, 에이전트, 학습 데이터, AI 생성 코드까지 책임 범위에 추가해야 한다.

Kaspersky에 따르면 이러한 압박은 특히 금융, 정부, 기술 분야에서 중요하다. 이들 부문은 가치 있는 데이터를 다루며 공격자가 강하게 노릴 유인을 가진 시스템을 운영한다. 동시에 지식 노동과 고객 대면 프로세스를 자동화해야 한다는 상당한 압박도 받고 있다.

보안 프로그램이 따라잡기를 기다리는 동안 도입은 멈추지 않는다. Kaspersky는 조사 대상 기업의 81%가 대규모 언어 모델 기반 내부 도구를 검토하거나 배포 중이라고 보고했다. 18%는 해당 기술을 워크플로에 통합했다.

내부 AI 시스템을 갖춘 기업들은 세 가지를 똑같이 흔한 도입 동기로 꼽았다. 프로세스 효율 향상, 인적 오류 감소, 더 나은 고객 제공물은 각각 해당 조직의 59%가 선택했다.

관련 Kaspersky 발표에 따르면 직원들은 이미 여러 업무 범주에서 AI를 사용하고 있었다. 데이터 분석 및 시각화가 54%로 가장 높았고, 프로젝트 관리가 49%, 정보 검색이 47%로 뒤를 이었다. 부서별 업무는 46%에 달했고, 텍스트 생성 및 편집은 41%에 이르렀다.

이러한 활용 사례는 여러 데이터 유형에 걸쳐 있다. 프로젝트 어시스턴트는 고객 요구사항, 마감일, 직원 배정 정보를 받을 수 있다. 분석 도구는 재무 기록, 운영 지표 또는 내보낸 데이터베이스 콘텐츠를 처리할 수 있다.

이 정보가 모델, 플러그인 또는 AI 기능이 포함된 서비스에 도달할 때마다 보안 경계는 바뀐다. 팀은 누가 데이터를 제공했는지, 어떤 계정이 이를 처리했는지, 얼마나 오래 이용 가능한 상태로 남는지, 도구가 어떤 연결 시스템에 접근할 수 있는지 알아야 한다.

이 때문에 지출 변화는 기술적 공격으로부터 모델을 보호하는 범위를 넘어선다. 여기에는 신원 관리, 데이터 분류, 공급업체 검토, 네트워크 가시성, 소프트웨어 개발, 사고 대응, 직원 교육도 포함된다.

Kaspersky는 이러한 필요성을 강조하는 데 분명한 상업적 이해관계가 있다. 이 회사는 보안 제품을 판매하며 연구 결과와 함께 자사 서비스도 권고한다. 독자들은 이 비율을 전체 시장의 독립적 측정치가 아니라 공급업체 후원 설문조사 증거로 받아들여야 한다.

그럼에도 표본은 18개국의 보안 중심 전문가 1,800명을 포괄했다. 결과는 분명한 조직적 우려를 포착한다. AI 프로젝트가 기존 소프트웨어 라이선스나 인프라 예산 밖의 비용을 만들고 있다는 점이다.

추가되는 모든 어시스턴트는 또 하나의 신원 경로, 데이터 흐름, 공급업체 의존성을 만들 수 있다. 모든 내부 모델은 인프라, 모니터링, 접근 제어, 테스트 요구사항을 더할 수 있다. 보안 지출은 엔터프라이즈 AI의 운영 비용 일부가 되고 있다.

이것이 첫 번째 중요한 변화다. AI 보안은 기업이 대형 모델을 배포한 뒤에 시작되지 않는다. 직원들이 일상 업무를 더 빨리 끝낼 방법을 찾는 순간 시작된다.

AI 도입이 공격 표면을 확장하고 있다

기업은 AI 지원 공격자만 방어하는 것이 아니라, 실수와 악용이 발생할 새로운 지점을 만드는 AI 시스템도 추가하고 있다.

공격 표면에는 공격자가 잠재적으로 접근할 수 있는 시스템, 신원, 인터페이스, 데이터 경로가 포함된다. AI 도입은 모델 엔드포인트, 검색 시스템, 플러그인, 프롬프트 입력, 자율적 작업, 타사 통합을 통해 이를 확장한다.

이 구성 요소들은 낯선 조합 속에서 익숙한 소프트웨어 위험을 도입한다. 취약한 접근 제어는 여전히 취약한 접근 제어지만, AI 에이전트는 여러 도구에 걸쳐 그 접근 권한을 행사할 수 있다. 노출된 자격 증명은 여전히 위험하지만, 연결된 어시스턴트는 이를 기계 속도로 사용할 수 있다.

Kaspersky는 AI 및 대규모 언어 모델 서비스에 영향을 미치는 기록된 결함이 급증했다고 보고했다. 이 회사의 취약점 분석은 2026년 2분기에 935건의 취약점을 집계했다.

이 수치는 회사의 취약점 관리 데이터에 따르면 2025년 4분기에 기록된 수준의 10배였다. Kaspersky는 2분기 취약점 중 119건을 심각도로 분류했으며, 이는 2025년 말 수준의 거의 5배다.

가장 흔한 범주에는 취약한 접근 제어, 결함 있는 인증 또는 권한 부여, 인젝션 취약점이 포함됐다. 인젝션은 조작된 입력이 시스템의 지시 해석 방식이나 연결된 작업의 실행 방식을 바꾸는 경우 발생한다.

이 증가는 신중하게 해석해야 한다. 기록된 취약점 증가는 더 많은 배포, 연구자의 관심 증가, 더 나은 공개 관행 또는 실제 소프트웨어 품질 저하를 반영할 수 있다. 공개된 총계는 이러한 효과를 구분하지 않는다.

그렇더라도 이 범주들은 구체적인 엔지니어링 문제를 가리킨다. 기업은 모델 자체를 검토하는 데 그치지 않고 모델을 둘러싼 소프트웨어도 보호해야 한다. 인증, 권한 경계, 입력 처리, 로깅, 의존성 관리는 여전히 필수다.

AI 에이전트는 텍스트만 생성하는 것이 아니라 작업을 수행할 수 있기 때문에 위험도를 높인다. 이메일, 클라우드 스토리지, 코드 저장소, 캘린더에 연결된 어시스턴트는 독립형 챗봇보다 잠재적 영향이 더 크다.

에이전트는 책임 추적도 복잡하게 만든다. 정당한 직원이 작업을 승인했더라도, 조작된 컨텍스트가 시스템이 최종적으로 수행하는 일을 바꿀 수 있다. 보안 로그는 사용자 요청, 모델 결정, 도구 호출, 대상 리소스, 그에 따른 변경 사항을 보존해야 한다.

OWASP Foundation의 에이전틱 보안 가이드라인은 이처럼 더 폭넓은 거버넌스 문제를 다룬다. 2026년 작업은 개발, 배포, 신원, 감독을 아우르는 통제를 통해 자율 시스템을 보호하는 데 초점을 둔다.

이 접근 방식이 중요한 이유는 기존 엔드포인트 보호가 워크플로의 일부만 보기 때문이다. 직원이 승인된 웹사이트에 제한된 자료를 붙여넣는 상황에서도 브라우저 세션은 정상적으로 보일 수 있다. 유효한 에이전트 토큰도 여전히 안전하지 않은 작업을 승인할 수 있다.

따라서 보안팀에는 여러 계층의 증거가 필요하다. AI 서비스 인벤토리, 데이터 이동에 대한 가시성, 연결된 신원에 대한 통제, 고영향 작업을 위한 검토 프로세스가 필요하다.

같은 원칙은 AI 생성 코드에도 적용된다. 개발자는 보안 속성을 이해하지 못한 채 제안된 의존성이나 구성을 수용할 수 있다. 그 결과는 일반적인 소프트웨어 공급망에 들어가 결국 프로덕션 환경에 도달할 수 있다.

Kaspersky는 또한 자사 시스템이 2026년 첫 4개월 동안 중소기업을 겨냥한 33,300건 이상의 공격을 탐지했다고 밝혔다. 이 공격들은 악성 또는 원치 않는 PC 소프트웨어를 인기 AI 서비스로 위장했다.

회사에 따르면 이 총계는 2025년의 비교 가능한 기간보다 거의 5배 많았다. 이 결과는 공격자가 실제 모델을 침해하지 않고도 AI 수요를 악용할 수 있음을 보여준다. 익숙한 사회공학 기법이 AI 브랜딩을 타고 확산될 수 있다.

실질적인 교훈은 AI 특화 탐지를 구매하는 것보다 더 폭넓다. 기업은 AI 거버넌스를 기존 보안 원칙과 연결해야 한다. 자산 관리, 신원 통제, 보안 개발, 공급업체 평가, 사고 대응은 배포 현황에 대한 동일한 관점을 공유해야 한다.

이는 최고정보보호책임자에게 압박을 가하지만, 기술 및 비즈니스 리더에게도 영향을 미친다. 부서가 AI 서비스를 구매할 때, 그 구매가 보안 예산을 거치지 않더라도 보안 결정을 내린 것이다.

내부 어시스턴트를 구축하는 팀도 데이터 소스와 권한을 선택할 때 또 다른 결정을 내린다. 해당 어시스턴트가 메시지를 보내거나, 기록을 수정하거나, 거래를 시작할 수 있게 되면 위험은 다시 달라진다.

따라서 공격 표면은 비즈니스 설계에 의해 형성된다. 보안팀은 어떤 AI 기능이 가치를 제공하고 어떤 연결이 불필요한지 이해하지 못하면 이를 줄일 수 없다. 이를 위해서는 출시 후 승인 회의가 아니라 배포 전 협력이 필요하다.

Shadow AI는 생산성을 거버넌스 부채로 바꾼다

승인된 도구가 직원들이 독립적으로 얻을 수 있는 속도, 역량 또는 편의성을 따라가지 못할 때 Shadow AI는 성장한다.

Kaspersky는 글로벌 응답자의 31%가 타사 AI 도구를 통제 없이 사용하는 직원을 일반적인 위험 요인으로 봤다고 밝혔다. 이 회사는 ChatGPT와 DeepSeek 같은 서비스를 구체적으로 언급했다.

위험은 직원들이 의도적으로 규칙을 어기는 데만 국한되지 않는다. AI 기능은 이제 글쓰기 도구, 검색 제품, 회의 어시스턴트, 코딩 환경, 분석 플랫폼, 브라우저 확장 프로그램 안에 등장한다. 직원들은 AI 기능이 포함된 모든 기능을 별도의 데이터 처리자로 인식하지 못할 수 있다.

Kaspersky는 조직의 59%가 제한 조건하에 서드파티 AI 사용을 허용했다고 보고했다. 이러한 제한에는 회사명이나 내부 문서를 업로드하지 못하도록 하는 금지 조치가 포함됐다. 또 다른 23%는 지침과 교육을 제공하면서 제한 없는 접근을 허용했다.

이 수치를 함께 보면, 조사 대상 조직 대부분이 전면 금지를 시도한 것은 아니었다는 점을 알 수 있다. 이들은 유용한 접근성은 유지하면서 유해한 행동을 제한하려 했다.

하지만 이러한 절충안은 시행하기 어렵다. 내부 문서 업로드 금지 규칙은 명확해 보이지만, 직원들이 문서 일부를 다룰 때는 이야기가 달라진다. 프롬프트에 파일 전체가 포함되지 않더라도 민감한 정보가 드러날 수 있다.

영업 직원은 고객의 반대 의견을 어시스턴트에 붙여 넣을 수 있다. 엔지니어는 내부 엔드포인트가 포함된 코드 블록을 제출할 수 있다. 채용 담당자는 도구에 후보자 메모나 보상 논의 내용을 요약해 달라고 요청할 수 있다.

각 행동은 기밀 문서를 업로드하는 것보다 사소하게 느껴질 수 있다. 그러나 이런 프롬프트가 누적되면 조직 관계, 제품 계획, 고객 정보, 기술 아키텍처가 노출될 수 있다.

Shadow AI에는 회사 업무에 사용하는 개인 계정도 포함된다. 기업용으로 승인된 서비스라도 직원이 소비자 계정을 선택하면 위험을 초래할 수 있다. 보안팀은 관리 제어, 보존 설정, 감사 기록, 중앙화된 접근 권한 회수 기능을 잃을 수 있다.

이는 정책만으로 대응할 때의 핵심 약점을 드러낸다. 문서화된 규칙은 기대 행동을 설명하지만, 도구를 자동으로 찾아내고 프롬프트를 분류하거나 알려지지 않은 통합을 해제할 수는 없다. 교육은 사람들이 위험을 인식하는 데 도움이 되지만, 기억은 기술적 통제가 아니다.

전면 금지에는 다른 약점이 있다. 직원들은 여전히 마감 기한과 성과 기대에 직면한다. 외부 어시스턴트가 업무 시간을 줄여 준다면, 일부 사용자는 개인 기기, 대체 계정, 또는 눈에 덜 띄는 서비스를 찾게 된다.

그렇게 되면 회사는 관리형 시스템을 통해 확보할 수 있었던 제한적인 가시성마저 잃게 된다. 차단은 일상적인 사용을 줄일 수 있지만, 남은 활동을 측정하기 더 어렵게 만들 수도 있다.

따라서 더 적절한 비교는 허용적인 접근과 엄격한 보안 사이의 대립이 아니다. 그것은 가시적이고 관리되는 접근과 보이지 않고 즉흥적인 접근의 차이다. 승인된 경로가 자발적 채택을 끌어낼 만큼 유용할 때 보안은 향상된다.

그 경로에는 단순한 회사 구독 이상이 필요하다. 직원들은 허용되는 데이터, 지원되는 업무, 에스컬레이션 경로에 관한 명확한 지침이 필요하다. 또한 서로 다른 직무에 맞는 승인된 대안도 필요하다.

개발자에게는 코드 맥락을 이해하고 리포지토리 컨텍스트를 활용하는 지원이 필요할 수 있다. 연구자에게는 출처를 추적할 수 있는 문서 분석이 필요할 수 있다. 프로젝트 관리자는 회의, 작업, 의사결정 전반의 요약이 필요할 수 있다.

지식 집약적 워크플로에서는 AI 접근을 허용하기 전에 팀이 공유 엔터프라이즈 리포지토리와 개인 시스템의 차이를 이해해야 한다. 실용적인 지식 베이스 가이드는 소유권, 범위, 검색 결정의 틀을 잡는 데 도움이 될 수 있다.

기업이 이러한 경계를 정의하기 전에 기능을 배포하면 거버넌스 부채가 쌓인다. 기술 부채와 마찬가지로 시스템이 정상 작동하는 것처럼 보이는 동안에는 숨겨져 있다. 그 비용은 감사, 사고, 직원 퇴사, 또는 벤더 변경 시점에 드러난다.

AI는 도입이 흔히 분산적으로 이루어지기 때문에 이러한 축적을 가속할 수 있다. 마케팅팀은 중앙 배포를 기다리지 않고 어시스턴트를 활성화할 수 있다. 개발자는 몇 시간 안에 애플리케이션 프로그래밍 인터페이스를 통해 모델을 연결할 수 있다.

임베디드 AI는 또 다른 사각지대를 만든다. 한 회사는 벤더가 어시스턴트나 자동화 에이전트를 추가하기 전에 해당 소프트웨어 플랫폼을 승인했을 수 있다. 조직의 기존 평가는 새로운 데이터 경로나 모델 제공업체를 포괄하지 못할 수 있다.

따라서 벤더 검토는 중요한 기능 변경을 포착할 만큼 지속적으로 이루어져야 한다. 계약은 데이터 사용, 보존, 하위 처리업체, 사고 통지, 관리 제어를 다뤄야 한다. 기술팀은 구성된 동작이 이러한 조건과 일치하는지 검증해야 한다.

인벤토리는 출발점이지만, 인벤토리만으로 거버넌스가 완성되지는 않는다. 보안팀은 실험과 운영 환경, 저위험 초안 작성과 민감한 분석, 읽기 전용 어시스턴트와 시스템을 변경할 수 있는 에이전트를 구분해야 한다.

이 분류가 통제를 결정한다. 공개 브레인스토밍 도구에 고객 기록을 제공해서는 안 된다. 내부 검색 어시스턴트에는 기반 소스의 권한을 반영하는 권한 설정이 필요하다. 작업을 수행하는 에이전트에는 더 좁은 권한과 더 강력한 승인 관문이 필요하다.

핵심적인 상충 관계는 피할 수 없다. 모든 가드레일은 마찰을 더하고, 제거되는 모든 통제는 노출을 증가시킨다. 성공적인 설계는 이 긴장을 없애지는 못하더라도, 결과가 가장 중대한 지점에 마찰을 배치할 수 있다.

기업은 민감한 정보와 중대한 행동에 가장 엄격한 검사를 적용해야 한다. 저위험 작업에는 더 단순한 통제를 사용할 수 있다. 이러한 위험 기반 모델은 모든 프롬프트를 똑같이 위험하게 취급하지 않으면서도 직원에게 신뢰할 수 있는 경로를 제공한다.

설문조사가 보여 주는 것은 압박이지 증거가 아니다

Kaspersky의 조사 결과는 보안 리더들이 압박을 느끼고 있음을 보여 주지만, 더 높은 지출이 더 안전한 AI 도입으로 이어졌다는 점을 증명하지는 않는다.

41%라는 수치는 AI 도입으로 인해 투자를 늘린 조직을 측정한다. 이들 조직이 사고를 줄였는지, Shadow AI를 발견했는지, 또는 데이터 노출을 방지했는지는 측정하지 않는다.

이 설문조사는 여러 산업과 국가에 걸친 의사결정자와 전문가도 함께 포함한다. 이러한 폭넓은 범위는 패턴의 관련성을 높이지만, 조직 규모, 규제, 성숙도, 위협 노출의 중대한 차이를 숨길 수 있다.

Kaspersky의 발행물은 전체 설문지, 응답 분포, 표본 추출 절차, 오차 범위를 제공하지 않는다. 또한 41% 수치를 투자 범주별로 나누어 제시하지도 않는다. 구매자는 제품, 인력, 컨설팅, 교육, 또는 인프라에 자금을 투입하고 있을 수 있다.

이러한 한계가 결과를 무효화하는 것은 아니다. 다만 독자가 내려야 할 결론의 범위를 좁힌다. 이 연구는 보안 효과성에 대한 판정이 아니라 보고된 예산 행동에 관한 진술을 뒷받침한다.

벤더 후원은 주의가 필요한 또 다른 이유다. Kaspersky는 같은 발행물에서 자체 보안 포트폴리오를 추천한다. 이 회사의 상업적 위치가 설문조사를 거짓으로 만들지는 않지만, 독립적인 검증은 더 광범위한 시장 주장에 힘을 실어 줄 수 있다.

위험 지표도 응답자의 인식에 의존한다. 19%는 AI 취약점을 주요 위험으로 꼽았고, 31%는 Shadow AI를 흔한 요인으로 지목했다. 이러한 응답은 독립적으로 검증된 사고 건수가 아니라 인식과 경험을 설명한다.

별도의 Kaspersky 발표에서는 조직의 82%가 AI 위험에 우려를 표했다고 밝혔다. 전년도에 사이버 사고를 경험한 87% 가운데 13%는 AI 관련 취약점에서 구체적으로 비롯된 위협을 보고했다.

다시 말해, 원인 귀속은 어렵다. AI를 표방한 멀웨어가 관련된 사고는 모델 서비스가 악용된 경우와 다르다. 직원 프롬프트를 통한 데이터 유출은 악의적인 지시에 따라 행동한 에이전트와 다르다.

모든 사례를 “AI 위험”으로 묶으면 모호한 지출로 이어질 수 있다. 기업은 줄여야 할 노출을 정의하지 않은 채 중복되는 모니터링 제품을 구매할 수 있다. 또한 거버넌스를 보안팀만의 책임으로 취급할 수도 있다.

미국 국립표준기술연구소는 더 구조화된 출발점을 제공한다. 해당 기관의 생성형 AI 프로필은 생성형 AI의 개발, 배포, 사용 전반에 걸친 위험에 AI 위험 관리 프레임워크를 적용한다.

이 프레임워크는 거버넌스, 매핑, 측정, 관리에 따라 업무를 구성한다. 이러한 순서는 조직이 통제를 선택하기 전에 맥락을 정의하도록 유도한다. 또한 위험 관리를 라이프사이클 프로세스로 다룬다.

기업에서 “거버넌스”는 소유권, 책임성, 정책을 포함한다. “매핑”은 시스템, 사용자, 데이터, 결과를 이해하는 것을 뜻한다. “측정”은 테스트, 모니터링, 증거를 포괄한다. “관리”는 그 증거를 우선순위가 정해진 행동으로 전환한다.

이 구조는 지출 주도 대응의 약점을 드러낸다. 기업은 AI가 어디에 나타나는지 매핑하기 전에 도구를 구매할 수 있다. 어떤 행동이 중요한지 결정하기 전에 경고를 수집할 수 있다. 위험한 관행이 바뀌는지 측정하지 않은 채 직원 교육을 진행할 수 있다.

효과적인 지출은 관찰 가능한 결과를 만들어야 한다. 조직은 어떤 AI 서비스가 활성화되어 있는지, 어떤 데이터 범주가 이들 서비스에 도달하는지, 어떤 ID가 외부 행동을 승인할 수 있는지 알아야 한다.

또한 직원이 승인된 도구를 선호하는지도 알아야 한다. 승인된 서비스의 낮은 도입률은 기능 부족, 과도한 마찰, 미흡한 커뮤니케이션, 또는 불신을 나타낼 수 있다. 이는 단순한 소프트웨어 지표가 아니라 거버넌스 측정 항목이다.

보안팀은 새 도구의 검토 시간을 추적해야 한다. 긴 승인 주기는 승인되지 않은 대안을 부추길 수 있다. 조직이 반복 가능한 위험 범주와 사전 승인된 구성을 활용한다면, 더 빠른 검토가 낮은 기준을 의미할 필요는 없다.

사고 훈련은 또 다른 시험을 제공한다. 기업은 유출된 AI 자격 증명, 악성 플러그인, 민감한 프롬프트, 또는 승인 없이 변경을 수행하는 에이전트를 시뮬레이션할 수 있다. 대응 과정은 예산 총액으로는 드러나지 않는 공백을 보여 준다.

조달 부서는 벤더 의존성과 이탈 옵션을 측정해야 한다. 조직은 로그를 내보낼 수 있는지, 데이터를 제거할 수 있는지, 통합을 해제할 수 있는지, 워크플로를 이전할 수 있는지 알아야 한다. 이러한 역량은 제품이 조건이나 보안 태세를 변경할 때 중요해진다.

그 어느 것도 안전을 보장하지는 않는다. AI 시스템은 빠르게 변하고 있으며, 조직은 불완전한 정보에 직면하게 될 것이다. 합리적인 목표는 모든 위험이 제거됐다는 약속이 아니라, 증거에 기반한 통제된 학습이다.

Kaspersky의 AI 보안 지출 추세는 투자가 가시성을 개선하고 결과의 영향을 제한할 때에만 의미를 갖는다. 그렇지 않으면 예산 증가는 확대되는 Shadow AI 및 약한 책임성과 공존할 수 있다.

지출 변화를 시험할 세 가지 신호

다음 시험대는 더 높은 예산이 직원들을 더 보이지 않는 도구로 몰아가지 않으면서 측정 가능한 통제를 만들어 내는지 여부다.

첫 번째 신호는 발견이다. 향후 몇 달 동안 기업은 환경 전반에서 AI 서비스, 개인 계정, 임베디드 기능, 에이전트 통합을 식별할 수 있는지 보고해야 한다.

정책은 알려지지 않은 활동을 관리할 수 없기 때문에 발견은 중요하다. 유용한 인벤토리는 각 서비스를 소유자, 사업 목적, 데이터 분류, ID 방식, 외부 연결 집합과 연결해야 한다.

조직이 더 강력한 가시성 지표를 공개한다면 지출 논지는 뒷받침을 얻는다. 이는 보안 투자가 알려지지 않은 활동을 관리되는 활동으로 전환하고 있음을 보여 줄 것이다. 가시성이 정체된다면 지출이 여전히 도입과 분리되어 있음을 시사할 수 있다.

두 번째 신호는 승인된 도구의 도입률이다. 기업은 승인된 사용량을 차단된 시도, 예외 요청, 대체 시스템에 대한 직원 수요와 비교해야 한다.

승인된 도구의 높은 도입률은 거버넌스와 생산성이 공존할 수 있음을 보여 줄 것이다. 또한 일반 업무에 개인 계정을 사용할 유인을 줄일 수 있다. 지속적인 우회 사용은 기존 프로그램이 Shadow AI를 해결한다는 주장을 약화시킬 것이다.

승인된 도구의 품질은 구매한 라이선스 수보다 더 중요하다. 필요한 정보에 접근하지 못하거나 전문 업무를 지원하지 못하는 승인된 어시스턴트는 더 나은 외부 옵션을 대체하지 못할 것이다.

조직은 어떤 그룹이 승인된 경로를 피하는지 살펴봐야 한다. 엔지니어, 연구자, 영업팀, 분석가는 서로 다른 요구사항을 갖고 있다. 하나의 범용 어시스턴트가 모든 워크플로를 충족하지 못할 수 있다.

세 번째 신호는 사고 증거다. 기업은 모델 취약점, 노출된 자격 증명, 안전하지 않은 생성 코드, 민감한 프롬프트, 악성 플러그인, 승인되지 않은 에이전트 작업을 포함한 AI 관련 이벤트에 대해 일관된 정의를 마련해야 한다.

명확한 분류는 기간과 조직 간 비교를 개선할 수 있다. 또한 주요 노출이 공격자, 소프트웨어 결함, 직원 행동, 또는 과도한 권한 중 어디에서 비롯되는지 드러낼 수 있다.

반복 사고의 감소는 현재 지출의 타당성을 더 뒷받침할 것이다. 탐지 건수의 증가는 더 많은 맥락을 필요로 한다. 이는 노출이 악화됐음을 반영할 수도 있고, 개선된 모니터링이 마침내 숨겨진 활동을 찾아내기 시작했다는 의미일 수도 있다.

따라서 보안 책임자는 사고 총계와 함께 탐지까지 걸린 시간, 격리까지 걸린 시간, 영향을 받은 데이터, 비즈니스 영향을 함께 제시해야 한다. 또한 어떤 통제가 실패했는지와 그에 따라 어떤 변화가 뒤따랐는지도 기록해야 한다.

기술 시장은 또 다른 증거 층을 제공할 것이다. 새로운 에이전트 보안 표준, 업데이트된 취약점 가이드라인, 확대된 감사 지원은 벤더가 상호운용 가능한 통제를 제공할 수 있는지를 보여줄 것이다.

AI 워크플로는 많은 시스템을 가로지르기 때문에 상호운용성이 중요하다. 모델 제공업체, ID 플랫폼, 데이터 소스, 브라우저, 엔드포인트, 보안 서비스는 하나의 거래에서 각기 다른 부분을 관찰할 수 있다.

조직에는 이러한 계층 전반에서 연결할 수 있는 기록이 필요하다. 이런 연결이 없으면 조사는 부분 로그를 수작업으로 재구성하는 일이 된다. 자율적 작업은 그 지연의 비용을 더 키운다.

보안 투자에는 워크플로와 통제를 모두 이해하는 인력도 포함돼야 한다. 모니터링 플랫폼은 어떤 작업이 특정 부서에 적절한지 판단할 수 없다. 그러한 판단에는 사업 책임자, 법무팀, 보안 전문가, 사용자들이 필요하다.

직원 교육은 여전히 필요하지만, 기업은 근로자를 유일한 문제로 제시하지 않아야 한다. 직원들은 공식 절차가 운영상 필요를 충족하지 못하기 때문에 외부 도구를 도입하는 경우가 많다.

지속 가능한 대응은 안전한 행동을 더 쉽게 만드는 것이다. 이는 유용한 승인 도구, 명확한 데이터 경계, 신속한 검토 채널, 제한된 범위의 권한, 고영향 작업에 대한 가시적인 책임성을 뜻한다.

Kaspersky의 연구는 실제 예산 전환을 포착한다. AI는 더 이상 실험, 인프라, 생산성 프로그램만을 통해 자금을 지원받지 않는다. 보안은 도입 비용의 일부가 됐다.

해결되지 않은 문제는 기업이 통제를 구매하고 있는지, 아니면 단지 안심을 구매하고 있는지다. 예산 증가만으로는 이에 답할 수 없다. 자산 목록의 포괄성, 승인된 사용, 사고 결과는 답할 수 있다.

엔터프라이즈 구매자에게 즉각적인 조치는 명확하다. 각각의 보안 투자가 어떤 새로운 증거를 만들어낼지 물어야 한다. 제품이 가시성을 개선하거나, 접근을 제한하거나, 대응 시간을 단축할 수 없다면 AI 위험과의 연관성은 여전히 불확실하다.

개발자는 어시스턴트에 실제로 어떤 권한이 필요한지 물어야 한다. 지식 근로자는 어떤 데이터를 제출해도 안전한지, 어떤 계정이 상호작용을 관리하는지 확인해야 한다. 리더는 정책과 실제 직원 행동을 비교해야 한다.

Kaspersky의 AI 보안 지출은 계속해서 유용한 시장 신호로 남겠지만, 섀도 AI는 더 어려운 운영상의 시험대다. 다음 분기에는 기업들이 도입을 이끈 가치를 제거하지 않으면서 실제 업무를 거버넌스 체계 안으로 끌어들일 수 있는지 지켜봐야 한다.