Kiteworks, 거버넌스 지연 속 80%의 조직이 보안 또는 AI 사고를 겪었다고 경고

Kiteworks는 Google News를 통해 강력한 주장을 내놓았다. 조직의 80%가 보안 또는 AI 사고를 경험했으며, 그에 비해 거버넌스 준비 수준은 심각하게 낮았다는 것이다. 이 수치는 주목을 끌지만, 더 근본적인 갈등은 문서화된 정책과 실제 AI 사용 중 작동하는 통제 수단 사이에 있다.

Cybersecurity Insiders를 통해 보도된 이 헤드라인은 기업들이 AI 시스템에 비공개 문서, 비즈니스 애플리케이션, 내부 워크플로에 대한 접근 권한을 부여하는 시점에 나왔다. 이러한 연결은 취약한 권한 관리, 불완전한 로그, 파악되지 않은 데이터 이동이 초래할 결과를 키운다.

Kiteworks는 비공개 데이터 보안 및 거버넌스 기술을 판매하므로, 이 논의에 상업적 이해관계를 갖고 있다. 따라서 이 조사 결과는 자동적으로 수용하기보다 면밀히 검토할 필요가 있다. 다만 이를 뒷받침하는 여러 수치는 한 공급업체의 관점을 넘어서는 거버넌스 문제를 드러낸다.

Kiteworks 보고서가 실제로 바꾸는 것

이 보고서는 AI 거버넌스를 정책 논쟁에서 사고 대응 문제로 전환한다.

Google News 항목은 80%라는 수치를 핵심 결과로 제시한다. 그러나 헤드라인만으로는 해당 비율이 확인된 침해 사고, 의심 이벤트, 정책 위반 또는 AI 특유의 장애를 함께 산정한 것인지 알 수 없다.

이 구분은 중요하다. 전통적인 데이터 침해, 직원이 승인되지 않은 챗봇에 기밀 텍스트를 업로드하는 일, 자율 에이전트가 의도하지 않은 행동을 취하는 일은 서로 다른 사건이다. 각 사건에는 서로 다른 통제가 필요하며 피해 수준도 다르다.

따라서 독자는 이 헤드라인의 비율을 공급업체가 보고한 설문 결과로 받아들여야 한다. 이는 경제 전반에서 독립적으로 검증된 침해 사고의 척도가 아니다. 공개된 Kiteworks 자료는 더 폭넓은 거버넌스 우려를 뒷받침하지만, 모든 사고 범주를 동일한 것으로 만들지는 않는다.

Kiteworks의 이전 글로벌 연구는 북미, 유럽, 아시아태평양, 중동 전역의 461개 조직을 조사했다. 이 연구를 보도한 자료에 따르면, 기술적 AI 거버넌스 프레임워크를 완전히 구현한 조직은 17%에 불과했다.

이것이 더 유용한 기준선이다. 기술적 AI 거버넌스는 데이터 접근, 모델 사용, 모니터링, 보존, 사고 처리를 포괄하는 강제 가능한 통제를 의미한다. 이러한 통제가 없는 정책 문서만으로는 직원, 애플리케이션 또는 에이전트가 보호 정보를 노출하는 일을 막을 수 없다.

같은 연구는 제한된 가시성과 더 취약한 결과의 연관성도 보여줬다. 독립 보고서에 따르면, 제3자 수를 알지 못하는 조직의 46%는 침해 사고 발생 빈도도 파악하지 못했다.

침해 사고에 대해 확신하지 못한 조직 가운데 42%는 탐지 시간에도 확신하지 못했다. 보도에 따르면 또 다른 48%는 소송 비용을 정량화하지 못했다.

이러한 관계가 낮은 가시성이 모든 침해를 초래했다고 입증하는 것은 아니다. 다만 시스템과 파트너의 목록을 작성하지 못하는 조직은 결과를 측정하는 데에도 어려움을 겪는다는 점을 보여준다.

Kiteworks의 2026년 기술 부문 분석은 또 다른 관점을 제공한다. 이 조사는 10개 산업과 8개 지역에 걸친 보안, IT, 컴플라이언스 및 리스크 리더 225명을 대상으로 했다. 응답자 중 32명은 기술 조직을 대표했으며, 전체 참가자의 97%는 직원 1,000명 이상인 조직에서 근무했다.

이 표본은 대기업 리스크와 관련성이 있지만, 모든 기업을 대표하지는 않는다. 특히 기술 부문 하위 표본은 작다. 32건의 응답에서 나타난 비율 차이는 정확한 산업 추정치가 아니라 방향성을 보여주는 결과로 해석해야 한다.

이러한 한계에도 보고서는 일관된 문제를 지적한다. 조직들은 눈에 잘 띄는 거버넌스 관행에 투자했지만, 기초 통제는 여전히 불완전하다.

바로 이것이 바뀐 점이다. AI 보안 사고는 더 이상 미래의 자율 시스템에 딸린 가상의 예외 사례가 아니다. 기업들은 필수적인 인벤토리, 데이터 계보, 집행 역량이 완성되지 않은 상태에서 사고를 보고하고 있다.

Google News가 지금 거버넌스 격차를 부각하는 이유

AI 도입은 고립된 채팅 세션을 넘어 데이터를 검색하고, 도구를 호출하며, 비즈니스 프로세스 전반에서 행동할 수 있는 시스템으로 이동했다.

일반적인 질문에 답하는 챗봇은 접근 범위가 제한적이다. 이메일, 클라우드 스토리지, 고객 기록, 소스 코드 또는 금융 시스템에 연결된 AI 에이전트는 훨씬 더 넓은 공격 표면에서 작동한다.

에이전틱 AI는 목표를 향해 여러 행동을 계획하고 실행할 수 있는 소프트웨어를 말한다. 그 위험은 대화의 유창성보다 신원, 권한, 사용 가능한 도구, 접근 가능한 데이터에 더 크게 좌우된다.

이로 인해 사고로 이어지는 여러 경로가 생긴다. 에이전트는 과도한 권한을 받을 수 있고, 문서에 삽입된 악의적 지시를 따를 수 있으며, 검색한 정보를 공개하거나 의도된 목적을 벗어난 행동을 촉발할 수 있다.

직원들 역시 공식 승인이나 모니터링 없이 사용되는 AI 도구, 즉 섀도 AI를 통해 노출을 만들 수 있다. 이런 도구가 프롬프트를 보관하거나 제출된 콘텐츠로 학습하거나 조직 계정에 연결될 때 위험은 커진다.

기존 보안 프로그램은 이미 신원, 엔드포인트, 애플리케이션, 네트워크 트래픽을 관리한다. AI는 정보를 결합하고 기계 속도로 행동을 시작할 수 있는 추론 계층을 추가한다.

그렇다고 모든 AI 시스템이 예측 불가능해지는 것은 아니다. 다만 배포 시점의 정적 승인은 배포 후 지속적인 관찰을 대체할 수 없다는 의미다.

시점은 규제 압력도 반영한다. 유럽연합의 AI Act는 2024년에 발효됐고, 의무 사항은 단계적 일정에 따라 적용된다. 범용 AI 모델에 대한 거버넌스 요건은 2025년 8월부터 적용되기 시작했다.

유럽위원회의 이행 일정은 서로 다른 조항과 경과 기한이 시점별로 적용됨을 보여준다. 조직은 어떤 시스템, 제공자 역할, 사용 사례가 각 의무의 적용 대상인지 식별해야 한다.

이처럼 변화하는 일정은 컴플라이언스 계획을 복잡하게 만들지만, 인벤토리의 필요성을 없애지는 않는다. 존재 자체를 아무도 모르는 AI 시스템은 분류하거나, 위험을 문서화하거나, 적절한 통제를 적용할 수 없다.

규제만이 유일한 압력 요인은 아니다. 고객들은 AI가 기밀 정보를 어떻게 처리하는지 공급업체에 점점 더 자주 묻고 있다. 보험사, 감사인, 이사회, 조달팀도 통제가 설명된 대로 작동한다는 증거를 원한다.

증거 요건은 준비 상태의 의미를 바꾼다. 경영진이 AI 정책을 승인했다고 해서 기업이 준비된 것은 아니다. 누가 데이터에 접근했는지, 어떤 모델이 이를 받았는지, 시스템이 무엇을 했는지, 조직이 어떻게 대응했는지를 팀이 보여줄 수 있을 때 준비된 것이다.

이 때문에 Kiteworks의 AI 거버넌스 조사 결과는 해당 공급업체의 고객 기반을 넘어 공감을 얻는다. 이는 보안 검토와 기업 조달 과정에서 이미 드러나고 있는 운영상의 격차를 설명한다.

Google News는 경영진이 문제를 인식하면서도 일관된 증거를 갖추지 못한 시점에 이 사고 통계를 증폭하고 있다. 도입 속도가 이를 관찰하는 데 필요한 시스템을 앞질렀기에, 헤드라인은 주목을 끈다.

거버넌스 약속이 기술 통제를 앞지르고 있다

핵심 갈등은 AI 도입과 신중함의 대립이 아니라, 문서상으로 약속된 거버넌스와 운영 환경에서 집행되는 거버넌스의 차이다.

Kiteworks의 기술 부문 브리프는 이러한 격차를 보여준다. 기술 조직은 여러 공식 거버넌스 역량에서 글로벌 표본을 앞섰다.

이 부문은 프라이버시 보존 기법을 56%로 보고했으며, 글로벌 결과는 33%였다. AI 사고 분류 체계와 플레이북은 50%에 도달했으며, 글로벌 수치는 27%였다.

기술 부문 응답자들은 AI 영향 평가 53%, 편향 감사 47%, 모델 설명 가능성 문서화 41%도 보고했다. 각 결과는 해당 글로벌 수치를 웃돌았다.

이는 의미 있는 투자다. 영향 평가는 영향을 받는 집단과 예측 가능한 피해를 식별할 수 있다. 사고 플레이북은 모델이 예기치 않게 작동할 때 팀에 사전 정의된 책임을 부여한다.

하지만 같은 기술 부문 브리프는 덜 눈에 띄는 인프라에서 더 취약한 결과를 확인했다.

기술 부문 응답자 중 격리된 학습 환경을 보고한 비율은 22%에 불과했으며, 글로벌 수치는 26%였다. 격리는 통제 없이 데이터가 이동하지 않도록 개발, 학습, 운영 리소스를 분리한다.

데이터 출처 및 계보 역량을 보고한 비율은 19%에 그쳤으며, 글로벌 수치는 23%였다. 데이터 출처 관리는 정보가 어디에서 시작됐고 어떻게 변경됐으며 어떤 모델이나 프로세스가 이를 사용했는지를 기록한다.

이는 실질적인 모순을 낳는다. 기업은 비정상적인 행동을 탐지하고 대응 문서를 보유할 수 있지만, 영향을 받은 결과물을 원본 데이터까지 추적하지 못할 수 있다.

또한 운영 환경에서는 접근 통제를 유지하면서도 모델 개발 환경은 지나치게 광범위하게 연결된 상태로 둘 수 있다. 이 격차는 무단 접근, 오염된 학습 자료 또는 의도하지 않은 데이터 이동의 위험을 높인다.

기술 부문 응답자들은 불변 감사 추적, 드리프트 모니터링, 사고 플레이북에서 더 나은 성과를 보였다. 이러한 통제는 팀이 무언가 변경됐다는 사실을 파악하도록 돕는다.

그러나 취약한 계보 관리는 왜 변경됐는지 설명하기 어렵게 만든다. 이는 근본 원인 분석을 지연시키고 재발 방지를 더 어렵게 할 수 있다.

보고서는 또한 기술 부문 응답자의 53%가 이사회가 AI 거버넌스를 우선시한다고 답한 사실을 확인했다. 반면 전체 사이버 리스크 태세에 대한 이사회 관심을 보고한 비율은 47%로, 글로벌 수치보다 7%포인트 낮았다.

이 결과가 이사회가 사이버보안을 포기했다는 사실을 입증하는 것은 아니다. 이는 리더십의 관심이 눈에 띄는 AI 이니셔티브로 이동하는 동안 기초 보안이 같은 시간과 예산을 두고 경쟁할 수 있음을 시사한다.

AI 거버넌스는 고립된 컴플라이언스 프로젝트로서 사이버보안 옆에 놓일 수 없다. 이는 신원 관리, 암호화, 데이터 분류, 소프트웨어 보안, 제3자 감독 및 사고 대응에 의존한다.

미국 국립표준기술연구소도 이러한 수명주기 접근 방식을 반영한다. 이 기관의 자발적 AI 리스크 프레임워크는 Govern, Map, Measure, Manage의 네 가지 기능을 중심으로 작업을 구성한다.

거버넌스는 책임과 정책을 수립한다. 매핑은 맥락과 영향을 받는 당사자를 식별한다. 측정은 위험을 평가하며, 관리는 위험의 우선순위를 정하고 대응한다.

거버넌스 단계에서 멈추는 기업은 그 주기의 일부만 완료한 것이다. 정책은 기술적 관찰, 테스트 결과, 대응 결정과 연결돼야 한다.

이것이 헤드라인 이면의 핵심적인 반전이다. 조직은 위원회, 표준, 승인된 도구를 갖췄기에 준비된 것처럼 보일 수 있다. AI 보안 사고는 그러한 준비가 실제 데이터를 처리하는 시스템까지 도달하는지를 드러낸다.

AI 보안 사고가 드러내는 인벤토리 문제

조직은 식별, 분류, 재구성할 수 없는 AI 데이터 흐름을 통제할 수 없다.

인벤토리는 기본적인 일처럼 들리지만, AI 환경에서는 어렵습니다. 하나의 비즈니스 프로세스에 직원, 소프트웨어 애플리케이션, 외부 모델 제공업체, 검색 인프라, 여러 데이터 저장소가 관여할 수 있습니다.

회사는 그 사슬의 일부만 소유할 수도 있습니다. 고객 지원 플랫폼은 제3자 모델을 통해 생성형 기능을 추가할 수 있습니다. 개발자는 코딩 어시스턴트를 비공개 리포지토리에 연결할 수 있습니다.

또 다른 팀은 공유 스토리지에서 문서를 검색하는 내부 에이전트를 구축할 수 있습니다. 각 배포는 서로 다른 보존, 권한, 로깅 조건을 만들 수 있습니다.

따라서 유용한 인벤토리는 제품명 이상을 기록해야 합니다. 시스템 소유자, 의도된 용도, 모델 제공업체, 연결된 데이터, 사용 가능한 도구, 사용자 그룹, 지리적 처리 위치를 식별해야 합니다.

또한 시스템이 작업을 수행할 수 있는지도 포착해야 합니다. 이메일 초안을 작성하는 어시스턴트는 하나의 위험 수준을 만듭니다. 해당 이메일을 보내거나 계정을 수정할 권한이 있는 에이전트는 또 다른 위험 수준을 만듭니다.

제3자 가시성에 관한 Kiteworks의 조사 결과는 이 문제와 맞닿아 있습니다. 알려지지 않은 공급업체와 통합은 비공개 데이터가 이동하는 경로를 숨길 수 있습니다.

조직은 눈에 보이는 애플리케이션은 승인했지만 그 아래의 모든 처리자를 이해하지 못할 수 있습니다. 모델 제공업체, 플러그인 또는 데이터 서비스가 변경될 때 이 문제는 중요해집니다.

데이터 주권에서도 같은 문제가 나타납니다. Kiteworks의 2026년 연구에 따르면 응답자 약 5명 중 4명은 주권 요구사항을 잘 알고 있다고 답했습니다. 그러나 약 3분의 1은 전년도에 주권 관련 사고를 겪었다고 보고했습니다.

데이터 주권은 정보가 어디에 위치하는지와 어떤 관할권이 이를 규율하는지에 대한 법적·운영상의 통제를 의미합니다. 프롬프트, 임베딩, 로그, 모델 출력이 지역 경계를 넘나들면 AI는 이를 더 복잡하게 만듭니다.

sovereignty report는 이 격차를 인식과 입증 가능한 통제 사이의 문제로 설명합니다. 조직은 규칙을 이해할 수 있지만 자동화된 집행이나 감사에 대비한 증거가 부족할 수 있습니다.

이러한 대비는 보고된 모든 사건을 같은 종류의 AI 사고로 취급하는 것보다 더 타당합니다. 또한 구체적인 검증 기준을 제시합니다.

AI 관련 사건 이후, 조직은 영향을 받은 데이터, 관련 모델, 시작한 신원, 실행된 작업, 후속 수신자를 식별할 수 있는가? 그렇지 않다면 정책의 품질과 관계없이 거버넌스는 불완전합니다.

지식 근로자는 이 시스템에서 역할을 합니다. 이들은 어떤 파일을 프롬프트에 넣을지, 어떤 생성형 답변을 신뢰할지, 어떤 AI 도구를 일상 업무의 일부로 만들지 결정합니다.

조직은 직원에게 자신의 정보를 검색하고 종합할 수 있는 승인된 방식을 제공해 우발적인 노출을 줄일 수 있습니다. 경계가 명확히 정의된 비공개 AI knowledge base는 관련 없는 서비스 간 불필요한 복사를 제한할 수 있습니다.

이 접근 방식에도 거버넌스는 필요합니다. 로컬 또는 비공개 저장소가 과도한 접근, 부정확한 출력, 취약한 인증, 보존 의무를 자동으로 해결하지는 않습니다.

목표는 유용한 워크플로를 금지하는 것이 아닙니다. 데이터 이동을 이해하고 검토할 수 있는 승인된 경로를 사용자에게 제공하는 것입니다.

인벤토리에는 변경 관리도 필요합니다. 처음에는 글쓰기 어시스턴트였던 애플리케이션이 업데이트를 통해 검색, 자동화 또는 에이전트 기능을 얻을 수 있습니다.

보안팀은 익숙한 제품명만이 아니라 변경된 접근 권한과 작업을 기준으로 새 기능을 검토해야 합니다. 기존에 저위험으로 여겨졌던 도구도 새로운 권한을 받으면 실질적으로 달라질 수 있습니다.

이 지점에서 AI 보안 사고는 가치 있는 신호가 됩니다. 각 사건은 인벤토리, 위협 모델, 통제 설계, 직원 지침을 업데이트해야 합니다.

사고 건수만으로 조직이 그 사건에서 배웠는지 알 수는 없습니다. 시정 프로세스의 품질이 헤드라인 숫자보다 더 중요합니다.

80% 수치가 입증하지 못하는 것

이 헤드라인은 광범위한 노출을 시사하지만, 보편적인 침해율을 확립하거나 AI가 보고된 모든 사고를 일으켰다는 점을 입증하지는 않습니다.

공급업체 설문조사는 특히 표본 수와 방법론을 공개할 때 유용한 패턴을 드러낼 수 있습니다. 그러나 피할 수 없는 한계도 있습니다.

응답자마다 “사고”를 다르게 해석할 수 있습니다. 보안 책임자는 시도된 공격, 확인된 침해, 정책 위반, 프라이버시 사건, 운영 장애를 같은 범주에 포함할 수 있습니다.

자가 보고 결과는 가시성에도 좌우됩니다. 광범위한 모니터링을 갖춘 성숙한 조직은 더 많은 사건을 탐지하기 때문에 더 많은 사고를 보고할 수 있습니다.

준비가 덜 된 조직은 실패를 보지 못한다는 이유만으로 더 안전해 보일 수 있습니다. Kiteworks 자체 연구도 이러한 가시성 효과를 경고합니다.

설문 대상 집단도 중요합니다. Kiteworks의 기술 브리프는 응답자의 97%가 직원 1,000명 이상인 기업에 근무한다는 점에서 대기업을 압도적으로 대표합니다.

대기업은 더 많은 시스템, 사용자, 공급업체, 규제 의무를 보유합니다. 이들의 경험을 중소기업에 직접 적용해서는 안 됩니다.

기술 분석에는 산업 부문 응답자가 32명뿐이었습니다. 해당 하위 그룹에서는 몇 건의 응답 차이만으로도 백분율이 크게 달라질 수 있습니다.

따라서 80% 주장은 독자가 다른 사고 연구와 비교하기 전에 뒷받침 세부사항이 필요합니다. 필요한 세부사항에는 질문 문구, 응답 선택지, 관찰 기간, 의심 사건의 처리 방식이 포함됩니다.

전통적인 사이버 사고와 AI에서 비롯된 사건을 구분하는 것도 도움이 됩니다. 공격자가 피싱을 개선하기 위해 AI를 사용하는 것은 기업 모델이 검색된 데이터를 유출하는 것과 다릅니다.

세 번째 범주는 자격 증명 탈취나 취약한 소프트웨어처럼 AI 인프라를 겨냥한 기존 공격입니다. 세 가지 모두를 “AI 사고”라고 부르면 어느 시스템의 통제가 실패했는지가 흐려집니다.

Kiteworks는 비공개 데이터 거버넌스 문제를 해결하도록 설계된 제품도 판매합니다. 이러한 상업적 위치가 데이터를 무효화하는 것은 아니지만, 자사 플랫폼이 해결하는 위험을 강조할 유인을 만듭니다.

독립적인 재현은 헤드라인 주장을 강화할 것입니다. 사고 유형, 조직 규모, 지역, 거버넌스 성숙도별 익명화된 세부 분석을 공개하는 것도 마찬가지입니다.

이 보고서의 가장 신뢰할 수 있는 교훈은 보편적인 80% 비율을 받아들이지 않아도 성립합니다. 여러 Kiteworks 연구는 공식적 준비 상태와 운영상 집행이 자주 불일치함을 보여줍니다.

기술 브리프는 학습 격리 환경과 출처 추적성의 격차를 식별합니다. 이전 설문조사는 기술 거버넌스의 제한적인 구현을 발견했습니다. 주권 연구는 높은 인식 수준과 지속적인 사고가 공존함을 보여줍니다.

이 결과들을 종합하면 더 좁은 결론을 뒷받침합니다. 많은 대기업이 AI 거버넌스를 시작했지만, 전체 데이터 수명주기에 걸친 포괄적인 기술 통제를 입증할 수 있는 곳은 상대적으로 적습니다.

이는 선정적이지 않으면서도 심각한 문제입니다. 또한 구매자에게 거버넌스 제품을 평가하는 더 나은 틀을 제공합니다.

공급업체는 어떤 데이터 흐름을 관찰하는지, 어떤 정책을 집행하는지, 어떤 작업을 차단할 수 있는지 설명해야 합니다. 또한 한계와 통합 의존성도 공개해야 합니다.

구매자는 제품이 거버넌스를 대시보드만으로 취급할 때 주의해야 합니다. 가시성은 필요하지만, 집행, 테스트, 대응, 복구가 운영 주기를 완성합니다.

또한 하나의 게이트웨이가 모든 경로를 통제한다고 가정해서는 안 됩니다. 직원, 내장형 AI 기능, 직접 애플리케이션 프로그래밍 인터페이스, 자율 에이전트는 별도의 경로를 만들 수 있습니다.

Google News 헤드라인은 기저 위험이 실제이므로 주목받을 만합니다. 그러나 전체 방법론이 수치에 무엇이 포함되는지 명확히 하기 전까지 정확한 비율은 보고서에 귀속되어야 합니다.

Kiteworks의 경고를 검증할 세 가지 신호

다음 증거는 기업이 집행 가능한 거버넌스를 구축하고 있는지, 아니면 또 하나의 문서화 계층만 추가하고 있는지를 보여줄 것입니다.

첫 번째 신호는 더 나은 사고 공개입니다. 향후 연구는 확인된 침해, 의심 사건, 정책 위반, 의도하지 않은 AI 작업을 구분해야 합니다.

또한 AI가 일으킨 사건과 AI 시스템을 겨냥한 공격도 구별해야 합니다. 이러한 분류 체계는 연도별 비교를 더 의미 있게 만들 것입니다.

명확히 정의된 범주 전반에서 높은 비율이 지속된다면 상세 공개는 Kiteworks의 경고를 강화할 수 있습니다. 반대로 80% 수치가 다수의 저심각도 또는 느슨하게 연관된 사건을 합친 것이라면 헤드라인은 약해질 수 있습니다.

두 번째 신호는 기술 통제의 측정 가능한 진전입니다. 2026년 기술 브리프는 격리된 학습 환경, 출처 추적성, 사고 대응 플레이북, 이사회 감독에 대한 기준선을 제공합니다.

후속 설문조사는 동일한 질문과 표본 추출 방식을 사용해야 합니다. 계보 추적과 환경 격리의 채택이 늘어난다면 조직이 집행 격차를 해소하고 있음을 보여줄 것입니다.

결과가 정체되거나 하락한다면 보고서의 핵심 우려를 뒷받침할 것입니다. 이는 지출이 기초 통제 대신 평가와 정책에 계속 집중되고 있음을 의미합니다.

세 번째 신호는 규제 증거입니다. 유럽의 집행, 감사, 이행 지침은 어떤 거버넌스 실패가 가장 큰 실질적 노출을 초래하는지 드러내야 합니다.

누락된 문서화, 불충분한 모니터링, 공개되지 않은 AI 상호작용, 제대로 통제되지 않은 데이터 이동과 관련된 사례를 주시해야 합니다. 이러한 사례는 조직이 투자 우선순위를 정하는 데 도움이 될 것입니다.

당국이 선언된 정책과 시스템 동작 사이의 격차를 반복적으로 발견한다면 규제 조치는 보고서의 논지를 강화할 수 있습니다. 운영상 실패가 거의 없는 명확한 준수는 그 긴급성을 약화시킬 것입니다.

기업 구매자는 이러한 신호가 나타날 때까지 기다릴 필요가 없습니다. 하나의 운영 중인 AI 워크플로를 중심으로 한 간단한 실습으로 준비 상태를 점검할 수 있습니다.

민감한 정보에 접근하는 시스템부터 시작하세요. 소유자에게 모든 데이터 소스, 모델 제공업체, 연결된 도구, 권한, 보존 규칙, 책임 있는 의사결정자를 식별하도록 요청하세요.

그런 다음 계정 침해, 악의적인 문서 또는 의도하지 않은 작업을 시뮬레이션하세요. 조직이 시스템을 중단하고, 활동을 추적하며, 노출된 정보를 식별하고, 증거를 보존할 수 있는지 확인하세요.

이 실습에는 법무, 보안, 프라이버시, IT, 그리고 시스템을 사용하는 비즈니스 팀이 포함되어야 합니다. 이들 그룹 사이에서 책임이 사라질 때 AI 거버넌스는 실패합니다.

팀은 의사결정과 사고 교훈을 회의와 문서에 흩어두는 대신 검색 가능한 시스템에 보존해야 합니다. 구조화된 knowledge workflow는 시스템이 변경될 때 소유자가 증거를 유지하는 데 도움이 될 수 있습니다.

그럼에도 문서화는 집행을 대체할 수 없습니다. 그 가치는 명시된 소유자, 관찰된 동작, 승인된 예외, 시정 조치를 연결하는 데 있습니다.

Kiteworks가 보고한 80% 사고 수치는 검증할 가치가 있는 경고로 읽는 것이 가장 적절합니다. 회사의 광범위한 연구는 이미 취약한 가시성, 제한적인 기술 거버넌스, 불완전한 출처 추적성에 관한 충분한 증거를 보여줍니다.

진짜 질문은 더 이상 조직에 AI 정책이 있는지가 아닙니다. 문제가 발생한 후 그 조직이 AI 시스템의 작업을 재구성할 수 있는지입니다.

Google News는 극적인 비율을 증폭시킬 수 있지만, 보안 리더에게 필요한 것은 그 아래의 통제입니다. 이들은 운영 중인 AI 워크플로 하나를 인벤토리화하고, 실패 경로를 테스트하며, 여전히 보이지 않는 것이 무엇인지 문서화해야 합니다.