Wavestone AI Cyber Benchmark 2026, 운영 보안보다 앞선 거버넌스 확인

Wavestone이 2026년 벤치마크를 발표하며 뚜렷한 괴리를 제시했다. 조직들은 AI를 배포한 뒤 안전하게 보호하는 것보다 훨씬 더 잘 관리하고 있다. Wavestone AI Cyber Benchmark 2026에 따르면, 조사 패널의 88%가 거버넌스 체계를 갖추고 있었다. 그러나 AI 애플리케이션 로그를 보안 운영 센터 모니터링과 연계한 조직은 8%에 불과했다.

이 격차는 조직들이 AI 시스템에 대해 더 큰 책임을 지기 시작했다는 점에서 중요하다. 평가 대상 조직의 절반은 현재 기존 프레임워크나 사전 학습 모델을 활용해 시스템을 설계하며, 이는 2025년의 35%에서 증가한 수치다. 또 다른 40%는 개발 체인 전체를 관리한다.

따라서 이 벤치마크는 정책 수립의 진전만을 측정하지 않는다. 기술 제공업체가 부담하던 운영 리스크가 기업의 엔지니어링, 보안, 데이터 및 비즈니스 팀으로 이전되고 있음을 포착한다. 이들 팀은 이제 민감한 정보를 검색하고, 도구를 호출하며, 실제 행동을 수행할 수 있는 시스템을 책임지고 있다.

Wavestone의 핵심 발견은 불편하다. 거버넌스는 AI 시스템을 승인할 수 있지만, 승인이 곧 해당 시스템을 관측 가능하고 복구 가능하며 사고 발생 시 안전하게 만드는 것은 아니다. 맞춤형 모델과 에이전트형 워크플로에 가장 빠르게 진입하는 조직일수록 이 문제를 더 크게 마주한다.

Wavestone AI Cyber Benchmark 2026이 드러낸 큰 통제 격차

조직들은 장애를 억제하고, 사고를 조사하며, 신뢰할 수 있는 시스템을 복구하는 데 필요한 운영 통제보다 AI 거버넌스를 더 빠르게 구축했다.

Wavestone은 2026년 9월 14일 이 벤치마크를 발표했다. 조사 패널은 30개의 대형 공공 및 민간 조직으로 구성됐다. 평가는 또한 지난 3년간 컨설팅사가 수행한 AI 보안 업무에서 얻은 관찰 결과를 반영했다.

이 프레임워크는 NIST Cybersecurity Framework를 바탕으로 조정한 다섯 가지 기능을 사용한다. 각 기능에는 30개 이상의 평가 문항이 포함되며, 성숙도는 0~100% 척도로 점수화된다.

기능이 실제 보안 운영에 가까워질수록 결과는 낮아진다.

• Govern은 54%를 기록했다.

• Identify는 55%를 기록했다.

• Protect는 48%를 기록했다.

• Detect는 40%를 기록했다.

• Respond는 29%를 기록했다.

가장 높은 점수는 위험 식별과 관련됐고, 가장 낮은 점수는 위험이 실제 사건으로 전환됐을 때 대응하는 영역에서 나왔다. 이러한 분포는 Wavestone 파트너 Gérôme Billois의 결론, 즉 조직들이 AI를 안전하게 프로덕션 환경에서 운영하는 것보다 AI를 거버넌스하는 데 더 능숙하다는 판단을 뒷받침한다.

세부 결과는 이 대비를 더욱 선명하게 보여준다. 2026 benchmark에 따르면 패널의 88%는 AI 거버넌스 체계를 구현했다. 그러나 활동, 이해관계자 및 책임 모델을 명확하게 정의한 조직은 32%에 그쳤다.

이 차이는 정책과 운영 모델을 구분한다. 정책은 누가 승인된 시스템을 모니터링하는지 규정하지 않은 채 보안 검토를 요구할 수 있다. 침해된 지식 베이스를 누가 조사하는지 정립하지 않은 채 에스컬레이션을 의무화할 수도 있다.

역량 측면 역시 고르지 않았다. 시스템 수명 주기 전반에서 기술 및 비즈니스 팀을 지원할 수 있는 전담 AI 보안 전문가를 식별한 조직은 44%에 불과했다.

조직들은 테스트에서 더 많은 진전을 이뤘다. 3분의 2는 전용 AI 보안 침투 테스트를 수행하며, 절반은 고급 AI 중심 평가를 실시한다. 50%는 반복적인 감사 및 침투 테스트 프로그램에 AI 평가를 포함한다.

그럼에도 테스트는 특정 시점의 시스템만 포착한다. 모델, 검색 소스, 권한, 통합 및 사용자 행동은 배포 후 변한다. 통과한 평가는 이러한 변화에 대한 지속적인 가시성을 대체할 수 없다.

이 벤치마크의 방법론도 신중한 해석을 요구한다. 백분율은 전 세계 시장 전체가 아니라 평가된 30개 조직을 설명한다. Wavestone은 이 패널을 대표적인 시장 추정치로 해석해서는 안 된다고 명시적으로 경고한다.

이러한 한계가 있더라도 내부 패턴은 의미가 있다. 승인 및 평가와 관련된 통제는 탐지, 조사 및 복구와 관련된 통제보다 훨씬 흔하다. 이것이 이 벤치마크의 진짜 뉴스다.

기업들은 AI 소비에서 AI 소유로 이동하고 있다

기업들이 AI 스택의 더 많은 부분을 구축하고, 이전에는 제공업체가 처리하던 책임을 떠안으면서 보안 격차의 영향도 커지고 있다.

2025년 Wavestone 패널의 30%는 기존 제품을 통해 제공되는 AI 기능만 사용했다. 이 비율은 2026년에 10%로 떨어졌다. 이 변화는 수동적 소비를 넘어서는 결정적인 이동을 보여준다.

2026년 패널의 절반은 기존 프레임워크나 사전 학습 모델로 AI 시스템을 내부 설계한다. 이는 1년 전 35%에서 증가한 비율이다. 전체 개발 체인을 관리하는 조직도 35%에서 40%로 늘었다.

이 범주들은 서로 다른 보안 의무를 수반한다. AI 기능을 소비하는 기업은 주로 데이터 노출, 사용자 접근, 구성 및 공급업체 리스크를 관리한다. 검색 시스템을 구축하는 조직은 데이터 파이프라인, 벡터 데이터베이스, 모델 연결 및 애플리케이션 로직도 보호해야 한다.

벡터 데이터베이스는 AI 응답에 필요한 관련 정보를 검색하는 데 사용되는 수학적 표현을 저장한다. 공격자가 이 저장소를 조작하면, 기본 모델을 침해하지 않고도 시스템이 오염된 자료를 검색하도록 만들 수 있다.

소유권 문제는 지식 저장소까지 확장된다. 조직들은 내부 문서를 관리되는 비즈니스 정보로 취급하는 경우가 많지만, AI 공격 표면의 능동적 구성 요소로 보지는 않는다. 검색은 저장된 정보가 시스템 행동에 직접 영향을 줄 수 있다는 점에서 이러한 가정을 바꾼다.

Wavestone은 패널의 72%가 AI 학습을 위한 개인정보 보호 조치 구현을 시작했다고 밝혔다. 65%는 데이터세트 품질 검사를 수행했다. 프로덕션 전 데이터세트 품질과 보안을 모두 체계적으로 평가한 조직은 9%에 그쳤다.

품질 검사는 데이터가 정확하고 완전하며 작업에 적합한지를 묻는다. 보안 검사는 데이터가 조작되었는지, 노출되었는지 또는 승인되지 않은 경로를 통해 확보됐는지를 묻는다. 한 프로세스가 다른 프로세스를 대체할 수는 없다.

제공업체 통제도 또 다른 사례다. 클라우드 및 모델 플랫폼은 인증, 로깅, 필터 및 구성 안전장치를 제공한다. 그러나 이러한 보호는 제공업체가 계속 책임지는 영역만 다룬다.

Wavestone 패널 중 제공업체 네이티브 통제를 넘어선 안전장치를 평가하거나 구현하기 시작한 곳은 11%에 불과했다. 팀이 모델을 미세 조정하거나, 구성 요소를 자체 호스팅하거나, 에이전트를 내부 도구에 연결할 때 이는 더 큰 우려가 된다.

이 벤치마크는 조직이 내부 개발을 피해야 한다고 주장하지 않는다. 시스템 구축은 아키텍처, 데이터 위치 및 종속성에 대한 통제를 개선할 수 있다. 동시에 추가되는 각 구성 요소의 보안을 조직이 책임지게 만든다.

Wavestone의 2025 findings도 이미 이 문제를 시사했다. 해당 조사에서는 AI 사용자를 제3자 모델을 오케스트레이션하는 조직, 그리고 독자 시스템을 만드는 고급 구축자와 구분했다.

2026년 결과는 더 많은 조직이 까다로운 범주에 진입했음을 보여준다. 이 전환에 맞춰 보안 프로그램이 고르게 발전하지는 못했다.

이 때문에 운영 AI 보안은 이제 여러 팀에 걸쳐 압박을 만든다. 엔지니어링 팀은 활용 가능한 텔레메트리를 제공해야 한다. 보안 운영 팀은 이를 해석해야 한다. 아이덴티티 팀은 권한을 제한해야 하며, 비즈니스 책임자는 에이전트가 무엇을 할 수 있는지 결정해야 한다.

이 전환 과정에서는 문서화와 검색 가능한 운영 지식도 중요해진다. 팀에는 최신 소유권 기록, 시스템 종속성, 의사결정 및 대응 절차가 필요하다. 잘 관리되는 검색 가능한 지식 베이스는 이러한 업무를 지원할 수 있지만, 보안 통제를 대체할 수는 없다.

AI 보안 거버넌스는 프로덕션 통제와 같지 않다

핵심 경쟁은 AI 정책 보유 여부가 아니라 문서화된 거버넌스와 지속적으로 집행되는 통제 사이에서 벌어진다.

거버넌스는 필요한 경계를 만든다. 허용 가능한 사용을 정의하고, 시스템 중요도를 분류하며, 검토 요건을 할당하고, 에스컬레이션 경로를 수립할 수 있다. 이러한 기반은 가치가 있지만, 시스템을 자동으로 운영하지는 않는다.

운영 통제는 다른 질문을 던진다. 조직은 의심스러운 행동을 볼 수 있는가? 에이전트를 격리할 수 있는가? 조사관은 무슨 일이 일어났는지 재구성할 수 있는가? 팀은 신뢰할 수 있는 모델, 데이터세트 또는 지식 저장소를 복원할 수 있는가?

Wavestone AI Cyber Benchmark 2026에 따르면 88%의 조직이 AI 애플리케이션 로그를 수집한다. 그러나 이 로그를 보안 운영 센터 모니터링으로 연결하는 조직은 8%에 불과하다.

이는 주로 데이터 수집 실패가 아니다. AI 운영과 보안 운영 간 통합 실패다.

AI 애플리케이션 팀은 일반적으로 지연 시간, 비용, 출력 품질, 실패한 요청 및 모델 성능을 모니터링한다. 보안 팀은 침해된 아이덴티티, 비정상 접근, 악의적 입력, 데이터 추출 및 무단 변경을 찾는다.

동일한 이벤트도 각 그룹에는 다르게 보일 수 있다. 도구 호출 급증은 인기 있는 워크플로, 결함 있는 에이전트 루프 또는 공격을 의미할 수 있다. 유용한 탐지에는 애플리케이션과 보안 환경 양쪽의 맥락이 필요하다.

로깅에는 정의된 목적도 필요하다. 접근 이벤트, 도구 호출, 모델 버전, 검색 소스 또는 권한 부여 결정 없이 프롬프트만 수집하면 조사관에게 불완전한 기록만 남길 수 있다.

NIST의 AI RMF Core는 배포 후 모니터링, 사고 대응, 복구 및 변경 관리를 서로 연결된 결과로 다룬다. 또한 사고와 오류를 추적하고 복구하기 위한 문서화된 프로세스를 요구한다.

이러한 수명 주기 접근법은 일회성 승인과 충돌한다. AI 시스템은 기존 소프트웨어 릴리스 없이도 바뀔 수 있다. 제공업체가 모델을 업데이트할 수 있고, 팀이 검색 소스를 교체할 수 있으며, 관리자가 에이전트 권한을 확장할 수도 있다.

이러한 변경은 이전 가정을 무효화할 수 있다. 읽기 전용 문서 검색을 승인한 검토는 나중에 기록을 편집하거나 메시지를 보낼 수 있는 워크플로에 대해서는 거의 말해주지 못한다.

같은 문제는 테스트에도 영향을 미친다. Wavestone 패널의 3분의 2는 전용 AI 보안 침투 테스트를 실시한다. 그러나 벤치마크는 성숙한 조직이라면 테스트를 예외적 활동이 아니라 반복적 활동으로 만들어야 한다고 주장한다.

반복 테스트는 중요한 변경 사항을 따라야 한다. 여기에는 새 모델, 도구, 데이터세트, 미세 조정, 접근 범위 및 자율 단계가 포함된다. 테스트 프로그램은 조직의 AI 포트폴리오 전반을 포괄해야 한다.

자동화된 스캐닝은 취약한 구성 요소와 구성 오류를 찾을 수 있다. 하지만 모호한 지시, 오염된 컨텍스트 또는 여러 연결된 도구와 관련된 적대적 상호작용을 완전히 재현할 수는 없다.

AI 레드팀은 구조화된 적대적 테스트를 통해 이러한 상호작용을 다룬다. 그러나 레드팀 역시 테스트된 조건에 대한 증거를 제공할 뿐, 영구적인 보장을 제공하지는 않는다. 모니터링과 대응은 테스트가 놓친 행동을 처리해야 한다.

따라서 거버넌스와 운영 간 격차는 서로 다른 업무를 반영한다. 거버넌스는 무엇이 일어나야 하는지를 결정한다. 운영 보안은 현실이 그 결정에서 벗어나는 시점을 탐지하고 팀이 개입할 수단을 제공한다.

에이전트형 AI는 취약한 아이덴티티 통제를 비즈니스 리스크로 바꾼다

과도한 접근 권한을 가진 AI 에이전트는 오도하는 입력이나 모델 오류를 무단 비즈니스 행동으로 전환할 수 있다.

에이전틱 AI는 제한적인 인간의 지시 아래 작업을 계획하고, 도구를 호출하며, 행동을 수행하는 시스템을 뜻한다. 이 역량은 보안 목표를 생성된 텍스트의 통제에서 승인된 행동의 통제로 바꾼다.

Wavestone 패널의 33%는 에이전틱 AI 위험을 거버넌스 프레임워크에 반영했다. AI 기능과 도구에 대한 안전한 접근을 개발 표준에 포함한 곳은 17%에 불과했다.

ID 통제의 구현률은 더 낮다. AI 시스템과 에이전트를 위한 전용 ID 및 접근 관리 보호조치를 마련한 곳은 15%에 그쳤다.

이 격차가 중요한 이유는 에이전트가 확률적 모델의 의사결정과 결정론적인 엔터프라이즈 시스템을 연결하기 때문이다. 모델은 불확실한 맥락에서 행동을 선택할 수 있지만, 후속 데이터베이스나 워크플로는 해당 행동을 구체적으로 실행한다.

위험은 악의적인 모델이 있어야만 발생하는 것이 아니다. 조작된 문서, 간접 프롬프트 인젝션, 모호한 요청 또는 잘못된 계획 단계가 정상적인 에이전트의 방향을 바꿀 수 있다.

OWASP는 과도한 자율성을 과도한 기능, 권한 또는 자율성으로 인해 가능해지는 피해 행동으로 설명한다. OWASP의 지침은 제한된 도구, 최소 권한, 하위 시스템의 권한 부여, 활동 모니터링을 권고한다.

이러한 통제는 모델 외부에 집행 지점을 둔다. 모델에게 자체 권한을 감독하도록 요구하면 순환 의존성이 생기기 때문에 이 설계 선택은 중요하다.

파일을 읽고 요약을 준비하는 내부 리서치 에이전트를 생각해 보자. 승인된 리포지터리에 대한 접근은 필요하지만, 삭제 권한까지 필요할 가능성은 낮다. 파일 커넥터는 필요한 작업만 노출해야 한다.

고객 서비스 에이전트는 다른 위험을 제시한다. 계정 정보를 읽고, 크레딧을 제공하며, 서비스 설정을 변경할 수 있다. 각 행동에는 명확한 한도, 권한 확인, 감사 기록이 필요하다.

소프트웨어 에이전트는 소스 코드, 이슈 트래커, 배포 시스템, 클라우드 인프라와 상호작용할 수 있다. 이들 시스템 전반에 하나의 고권한 ID를 사용하면 추적이 어려워지고 단일 실패가 미칠 수 있는 영향도 커진다.

최소 권한 원칙은 모든 에이전트를 필요한 최소한의 리소스와 행동으로 제한한다. 단기 자격 증명은 노출 시간을 줄인다. 에이전트별 ID는 활동 추적을 쉽게 만든다.

영향이 큰 행동에는 인간의 승인도 필요할 수 있다. 이 통제는 모델이 이미 중요한 시스템을 변경한 뒤가 아니라 실행 전에 적용돼야 한다.

Wavestone은 에이전트 행동이 제한 가능하고, 추적 가능하며, 중단 가능해야 한다고 강조한다. 중단에는 사용자 인터페이스의 정지 버튼만으로는 부족하다. 보안팀에는 자격 증명을 해지하고 하위 시스템 접근을 차단할 수 있는 신뢰할 만한 방법이 필요하다.

AI Controls Matrix는 클라우드 기반 AI 시스템을 위한 더 폭넓은 통제 프레임워크를 제공한다. 2026년판에는 18개 보안 영역에 걸쳐 247개의 목표가 포함돼 있다.

그러나 프레임워크의 가용성은 주요 제약이 아니다. 벤치마크는 조직들이 이미 거버넌스 수준에서 많은 위험을 인식하고 있음을 보여준다. 더 어려운 과제는 애플리케이션 아키텍처와 보안 운영에 이를 구현하는 일이다.

에이전틱 AI는 이 구현을 시급하게 만든다. 통제가 약한 챗봇은 정보를 노출하거나 해로운 답변을 생성할 수 있다. 통제가 약한 에이전트는 그 답변에 따라 행동할 수도 있다.

사고 대응과 복구는 여전히 가장 약한 고리다

대다수가 AI 특화 조사, 대응 계획, 표준화된 복구 관행을 갖추지 못한 상황에서 조직은 운영 복원력을 주장할 수 없다.

Wavestone 벤치마크에서 Respond는 29%로 가장 낮은 성숙도 점수를 받았다. 이를 뒷받침하는 지표가 그 이유를 보여준다.

평가 대상 조직 중 AI 플랫폼에서 포렌식 조사를 수행할 수 있는 곳은 8%에 불과했다. AI 포렌식은 관련 프롬프트, 검색된 콘텐츠, 도구 활동, 모델 버전, 권한, 시스템 변경 사항을 재구성하는 작업을 포함한다.

패널의 절반은 여전히 구조화된 대응 절차 없이 임시방편의 시정 조치를 사용했다. AI 특화 사고 대응 계획을 문서화한 곳은 13%에 그쳤으며, Wavestone은 이 계획들이 일관되게 적용되지 않았다고 밝혔다.

복구 역시 제한적이었다. AI 관련 자산을 백업한 곳은 22%였고, 관행은 대체로 표준화되지 않았다.

전통적인 애플리케이션 백업은 코드와 데이터베이스를 보존할 수 있다. 그러나 AI 서비스는 모델 구성, 파인튜닝 데이터, 임베딩, 안전 정책, 프롬프트, 외부 지식 소스 등 추가 자산에 의존할 수 있다.

가용성을 복원했다고 해서 신뢰가 확립되는 것은 아니다. 복구된 지식 리포지터리에 오염된 문서가 여전히 포함돼 있을 수 있다. 복원된 에이전트가 침해된 자격 증명이나 안전하지 않은 권한을 유지할 수도 있다.

첫 번째 대응 과제는 분류다. 팀은 보안 이벤트를 신뢰성 장애, 정책 위반, 모델 오류, 일반적인 사용자 실수와 구분해야 한다. 일부 사고는 여러 범주에 걸친다.

승인되지 않은 에이전트 행동은 프롬프트 인젝션으로 시작해 데이터를 노출하고 잘못된 기록을 생성할 수 있다. 대응 담당자에게는 보안, 프라이버시, 법무, 엔지니어링, 모델 위험, 비즈니스 관련 전문성이 필요할 수 있다.

두 번째 과제는 증거다. 조사 담당자에게는 모델 서비스, ID 시스템, 검색 구성 요소, 도구 게이트웨이, 대상 애플리케이션 전반에서 동기화된 기록이 필요하다. 맥락이 누락되면 재구성이 불가능해질 수 있다.

따라서 Wavestone의 88% 로깅 수치는 실제보다 더 안심을 주는 것처럼 보일 수 있다. 팀이 올바른 이벤트를 보존하고, 이를 연계하며, 조사 담당자가 활용할 수 있게 할 때에만 로깅은 대응에 도움이 된다.

세 번째 과제는 격리다. 조직은 광범위한 중단을 초래하지 않으면서 에이전트를 비활성화하고, 자격 증명을 해지하며, 데이터 세트를 격리하고, 모델을 전환하거나, 연결된 도구를 중단하는 방법을 알아야 한다.

네 번째 과제는 복구다. 팀은 시스템을 다시 서비스에 투입하기 전에 검증된 정상 상태와 무결성 검사를 확보해야 한다. 그렇지 않으면 복구 과정에서 동일한 취약점이나 침해된 정보를 되살릴 수 있다.

이러한 운영 복잡성은 대응 성숙도가 거버넌스에 뒤처지는 이유를 설명한다. 정책은 기존 위험 관리 구조를 확장해 마련할 수 있는 경우가 많다. AI 사고 대응에는 새로운 기술적 증거, 부서 간 절차, 훈련이 필요하다.

벤치마크의 작은 패널은 여전히 중요한 한계다. 이 비율을 모든 대기업에 관한 주장으로 확대해서는 안 된다. 상세 평가에 자발적으로 참여한 조직은 더 넓은 시장과 다를 수도 있다.

측정 방식도 바뀌었다. Wavestone은 2026년 평가를 에이전트 보안, 전문 보호조치, 모니터링, 대응까지 포함하도록 확장했다. 따라서 직접적인 전년 대비 비교는 명확하게 대응되는 지표에 초점을 맞춰야 한다.

그럼에도 이 패턴은 기존 위험 지침과 부합한다. NIST의 생성형 AI 프로필은 사고 문서화, 로깅, 보고, 수명주기 정보 공유를 강조한다.

회의적인 해석은 거버넌스가 실패했다는 것이 아니다. 운영 증거가 부족한 상황에서 거버넌스 성숙도가 잘못된 자신감을 만들 수 있다는 것이다.

정책은 내부 마일스톤을 충족할 수 있다. 하지만 보안팀이 침해된 검색을 탐지하고, 에이전트의 행동을 추적하며, 신뢰할 수 있는 시스템을 복원할 수 있음을 보여주지는 않는다.

운영이 따라잡는지 보여줄 세 가지 신호

AI 보안 성숙도의 다음 단계는 연결된 텔레메트리, 집행 가능한 에이전트 권한, 반복 훈련된 복구를 통해 측정될 것이다.

첫 번째 신호는 AI 이벤트를 활성 보안 모니터링에 전달하는 조직의 비율이다. Wavestone은 애플리케이션 로그 수집과 SOC 모니터링 통합 사이에 80포인트의 격차가 있음을 발견했다.

이 격차를 해소하려면 모든 기록을 단순히 전달하는 것이 아니라 정의된 탐지 사례가 필요하다. 팀은 의심스러운 검색, 권한 상승, 비정상적인 도구 사용, 데이터 추출 시도를 나타내는 이벤트를 식별해야 한다.

개선의 증거에는 검증된 경보, 조사 플레이북, AI 팀과 SOC 팀 간의 공동 책임이 포함될 것이다. 정책 문서를 하나 더 만드는 것으로는 운영 격차를 해소할 수 없다.

두 번째 신호는 에이전트를 위한 전용 ID 통제의 도입이다. 현재 15%라는 결과는 거버넌스 인식이 기술적 집행보다 앞서 있음을 보여준다.

진전은 구분된 에이전트 ID, 좁게 범위가 설정된 접근 권한, 단기 자격 증명, 하위 서비스 내부의 권한 부여를 통해 나타나야 한다. 영향이 큰 행동에는 명시적인 승인 요건이 있어야 한다.

조직이 재무, 고객 운영, 소프트웨어 제공, 내부 지식 워크플로에 에이전트를 도입할수록 이 신호는 더 중요해질 것이다. 추가되는 도구 하나하나는 과도한 접근 권한의 결과를 확대한다.

세 번째 신호는 조직이 AI 특화 사고 복구를 실제로 훈련하는지 여부다. 서면 계획은 유용하지만, 팀은 격리, 조사, 복원, 무결성 검증을 시험해야 한다.

훈련은 침해된 데이터 세트, 오염된 지식 소스, 유출된 자격 증명, 안전하지 않은 모델 변경, 승인되지 않은 에이전트 행동을 다뤄야 한다. 또한 격리 중에도 조직이 핵심 업무를 지속할 수 있는지 시험해야 한다.

이러한 신호는 Wavestone의 핵심 판단을 강화하거나 약화시킬 것이다. 모니터링 통합의 확대는 거버넌스가 운영으로 옮겨가고 있음을 보여줄 것이다. 더 나은 ID 통제는 에이전트 정책이 집행 가능해지고 있음을 보여줄 것이다.

성공적인 복구 훈련은 가장 강력한 증거를 제공할 것이다. 이는 모든 보호조치가 작동할 것이라고 가정하는 대신, 예방이 실패했을 때도 조직이 통제를 유지할 수 있음을 보여줄 것이다.

Wavestone AI Cyber Benchmark 2026은 기업 리더가 도입 속도를 늦추는 것만으로 해결할 수 없는 상충 관계를 제시한다. 내부 개발을 늘리면 자율성과 아키텍처 통제를 개선할 수 있지만, 그만큼 책임도 내부로 이전된다.

보안 리더는 모든 거버넌스 마일스톤의 근거를 요구해야 한다. 어떤 시스템이 SOC에 실행 가능한 이벤트를 전송하는가? 어떤 에이전트 권한을 즉시 해지할 수 있는가? 어떤 AI 자산에 검증된 복구 절차가 있는가?

엔지니어링 및 비즈니스 책임자도 병행하는 질문을 던져야 한다. 승인 이후 배포된 각 시스템은 누가 소유하는가? 어떤 변경이 재평가를 촉발하는가? 자율 행동이 중요한 애플리케이션에 도달하기 전에 어떤 사람이 이를 중단할 수 있는가?

결정적인 질문은 더 이상 조직에 AI 정책이 있는지 여부가 아니다. AI 시스템이 기대를 벗어나 행동할 때 조직이 이를 탐지하고, 격리하고, 조사하며, 복구할 수 있는지 여부다.