NCSC 섀도우 AI 경고, 승인되지 않은 업무 도구의 대가를 드러내다
NCSC의 섀도우 AI 경고는 많은 고용주가 여전히 파악하지 못하는 보안 문제를 수치로 보여준다. 설문에 참여한 영국 직원의 71%는 고용주가 승인하지 않은 소비자용 AI 도구를 사용한 적이 있었다.
영국 국가사이버보안센터(NCSC)는 2026년 9월 7일 경고를 발표했다. NCSC는 섀도우 AI를 조직의 승인된 시스템과 절차 밖에서 사용되는 인공지능으로 정의한다. 여기에는 소비자용 챗봇에 문서를 붙여넣거나, 어시스턴트를 업무 계정에 연결하거나, 보안 검토 없이 에이전트를 배포하는 행위가 포함될 수 있다.
이제 갈등은 AI를 사용하는 직원과 이를 거부하는 고용주 사이의 문제가 아니다. 이는 빠르고 익숙한 도구와 기업 데이터를 보호하는 데 필요한 더딘 통제 체계 사이의 충돌이다. NCSC는 전면적인 금지가 이 갈등을 해결하지 못할 것이라고 주장한다.
이 입장이 중요한 이유는 AI 소프트웨어의 연결성이 점점 높아지고 있기 때문이다. 챗봇은 프롬프트에 입력된 텍스트를 노출할 수 있다. AI 에이전트는 자격 증명을 보유하고, 파일을 검색하며, 다른 서비스를 호출하고, 사용자의 권한으로 작업할 수도 있다.
그로 인해 발생하는 섀도우 AI 보안 위험은 우발적인 정보 공개를 넘어선다. 여기에는 약화된 데이터 가시성, 규제상 노출, 악용 가능한 통합, 기업 시스템으로의 새로운 침투 경로가 포함된다.
NCSC 섀도우 AI 경고가 보안 논의를 바꾸다
NCSC는 승인되지 않은 AI를 단순한 직원 정책 위반이 아니라 관리되지 않는 비즈니스 시스템으로 보고 있다.
이 기관의 섀도우 AI 지침은 승인된 절차 밖에서 작동하는 기술에 초점을 맞춘다. 같은 AI 서비스라도 사용 조건에 따라 서로 다른 위험을 초래할 수 있으므로 이 구분은 중요하다.
기업 배포 환경에는 계약상 보호 장치, ID 통제, 감사 로그, 보존 설정, 제한된 통합이 포함될 수 있다. 개인 계정에는 고용주가 기대하는 통제 기능이 전혀 없을 수도 있다.
NCSC는 세 가지 핵심 위험 영역을 제시한다. 첫째는 기업 또는 고객 정보의 노출이다. 직원들은 일반적인 업무를 처리하면서 계약서, 소스 코드, 재무 기록, 회의 노트 또는 개인정보를 공유할 수 있다.
둘째 위험은 가시성과 통제의 상실이다. 조직은 제출된 정보가 어디에 저장되는지, 얼마나 오래 이용 가능한지, 또는 서비스 개선에 활용되는지 알지 못할 수 있다.
특정 개인정보 설정은 이러한 조건을 바꿀 수 있다. 그러나 보안팀은 직원들이 사용하는지조차 모르는 서비스의 설정을 검증할 수 없다.
셋째 위험은 AI 에이전트에서 비롯된다. 이러한 시스템은 모델에 도구, 데이터 소스, 메모리, 실행 권한을 결합한다. 침해된 에이전트는 자신이 가진 정상 권한으로 접근 가능한 모든 것을 노출할 수 있다.
이것이 경고의 핵심 변화다. 과거의 섀도우 소프트웨어는 알 수 없는 계정이나 고립된 데이터 저장소를 만들었다. 섀도우 에이전트는 여러 비즈니스 시스템 전반에서 작동하는 능동적 ID를 도입할 수 있다.
NCSC는 사람들에게 AI 사용을 중단하라고 말하지 않는다. 대신 업무 정보를 공유하기 전에 어떤 서비스를 사용하는지 고려하라고 요청한다.
고용주에게 이 기관은 비현실적인 완전 제거 약속 대신 위험 감소를 권고한다. 조직은 직원의 요구를 파악하고, 안전한 대안을 제공하며, 직원이 승인되지 않은 사용을 공개할 수 있는 문화를 조성해야 한다.
이 접근 방식은 NCSC의 더 광범위한 섀도우 IT 지침을 기반으로 한다. 이 지침은 직원들이 보안을 훼손하려는 목적이 아니라 업무를 완료하기 위해 비공식 서비스를 주로 채택한다고 설명한다.
일반적인 촉발 요인으로는 느린 승인 절차, 부족한 기능, 불충분한 협업 도구, 익숙하지 않은 기업 시스템 등이 있다. AI는 유용한 소비자 서비스가 수초 안에 제공되는 경우가 많기 때문에 긴급성을 더한다.
따라서 이 사건은 승인된 애플리케이션 목록 이상의 변화를 요구한다. 사용성, 조달 속도, 보안 문화를 조직의 기술적 방어 체계 일부로 만든다.
71%는 거버넌스 공백을 시사한다
헤드라인 수치는 직원 행동을 보여주지만, 동시에 많은 조직의 통제가 실제 업무와 얼마나 맞지 않는지도 측정한다.
71%라는 수치는 Microsoft가 의뢰하고 Censuswide가 2025년 10월 실시한 조사에서 나왔다. 이 연구는 18세 이상 영국 직원 2,003명을 대상으로 했다.
공개된 업무 환경 AI 연구에 따르면 응답자의 51%는 매주 승인되지 않은 소비자용 AI 도구를 사용했다. 이는 섀도우 사용이 많은 직원에게 고립된 실험이 아니라 반복적인 업무 흐름이 되었음을 뜻한다.
보고된 작업은 일상적이었다. 49%는 업무 커뮤니케이션을 작성하거나 답변하기 위해 소비자용 어시스턴트를 사용했다. 40%는 보고서나 프레젠테이션에 사용했고, 22%는 재무 관련 업무에 사용했다.
이러한 사례는 단순한 차단 목록이 어려움을 겪는 이유를 설명한다. 수요는 부서, 브라우저, 개인 기기, 클라우드 애플리케이션 전반에 분산된 일상 업무에서 나온다.
직원들은 해당 도구를 선택한 구체적 이유도 밝혔다. 41%는 개인 생활에서 익숙한 서비스를 선택했다. 또 다른 28%는 회사가 승인된 옵션을 제공하지 않았다고 답했다.
소비자용 도구에 입력한 기업 또는 고객 데이터의 개인정보 보호에 우려를 표한 응답자는 32%에 불과했다. 29%는 고용주의 IT 시스템 보안을 걱정했다.
이러한 결과는 신중하게 해석할 필요가 있다. Microsoft는 이 연구를 의뢰했고 기업용 AI 서비스를 판매하므로, 관리된 도입에 상업적 이해관계가 있다.
이 설문은 확인된 보안 사고가 아니라 자가 보고된 사용을 측정한다. 직원의 71%가 민감한 정보를 유출했거나 침해 사고를 일으켰다는 점을 입증하지는 않는다.
그 가치는 다른 데 있다. 이 연구는 영국 표본 전반에서 직원 수요와 공식 거버넌스 사이에 넓은 간극이 있음을 보여준다. NCSC는 이 간극을 섀도우 AI가 널리 퍼졌다는 증거로 인용한다.
보안팀은 양쪽에서 압박을 받는다. 정당한 업무를 방해하는 통제를 피하면서도 관리되지 않는 사용을 줄여야 한다. 조달, 법무, 개인정보 보호, 비즈니스 리더도 이 압박을 함께 받는다.
기업은 AI 정책을 공개하고도 실제 행동을 놓칠 수 있다. 직원들은 개인 계정, 브라우저 확장 프로그램, 모바일 애플리케이션, 승인된 소프트웨어 내장 AI 기능을 사용할 수 있다.
일부 도구는 연례 정책 검토보다 더 빠르게 변화한다. 텍스트 생성기로 시작한 서비스가 이후 파일 저장소, 지속적 메모리, 타사 커넥터, 자율적 작업 기능을 추가할 수 있다.
이는 승인이 일회성 브랜드 결정이 될 수 없음을 의미한다. 조직은 서비스, 계정 유형, 데이터 흐름, 활성화된 기능, 권한을 평가해야 한다.
이 설문은 인식 제고 교육만으로 문제가 해결된다는 가정에도 도전한다. 익숙함과 기업 대안의 부재는 실질적인 유인이다. 경고 슬라이드로는 어느 쪽도 없앨 수 없다.
조직에는 속도와 유용성 면에서 경쟁할 수 있는 승인된 경로가 필요하다. 그렇지 않으면 제한이 추가될 때마다 비공식 우회책의 가치는 커진다.
편의성과 통제는 이제 직접 충돌한다
핵심 갈등은 직원 편의성과 조직 통제 사이에 있으며, 어느 한쪽도 다른 쪽을 단순히 이길 수는 없다.
소비자용 AI 서비스는 즉각적인 가치를 제공한다. 직원은 기술 요청을 제출하지 않고도 문서를 요약하고, 이메일을 다듬고, 노트를 분석하거나, 프레젠테이션 초안을 작성할 수 있다.
이러한 편의성은 서비스가 고용주의 보안 경계 밖에 있을 때 위험해진다. 조직은 ID, 프롬프트, 업로드 파일, 연결된 계정, 생성된 결과물에 관한 신뢰할 수 있는 정보를 잃는다.
승인된 브랜드 이름에만 초점을 맞춘 정책은 이 구분을 놓친다. 직원은 보존 및 관리 통제가 다른 개인 계정을 통해 승인된 제공업체를 사용할 수 있다.
반대의 경우도 가능하다. 덜 익숙한 서비스가 제한된 데이터 접근과 명확한 계약 조건을 갖춘 관리 환경에서 안전하게 운영될 수 있다.
따라서 실제 거버넌스 단위는 전체 배포 환경이다. 보안팀은 누가 시스템을 사용하는지, 어떤 데이터가 들어가는지, 그 데이터가 어디로 이동하는지, 어떤 작업을 수행할 수 있는지를 이해해야 한다.
이 요구 사항은 운영상 마찰을 만든다. 통합 및 권한 검토에는 시간이 걸리지만, 직원들은 점심시간에 새 도구를 도입할 수 있다.
익숙하지 않은 모든 도메인을 차단하면 눈에 보이는 브라우저 사용은 줄일 수 있다. 그러나 개인 휴대전화, 가정용 컴퓨터, 복사된 텍스트, 또는 승인된 플랫폼을 통해 제공되는 AI 기능까지 포괄하지는 못한다.
공격적인 모니터링도 자체적인 문제를 만든다. 암호화된 트래픽을 가로채는 것은 개인정보 보호, 시스템 성능, 직원 신뢰에 영향을 줄 수 있다. 또한 개인 계정 내 활동을 드러내지 못할 수도 있다.
NCSC의 이전 섀도우 IT 지침은 이러한 한계를 인정한다. 클라우드 접근 보안 브로커는 네트워크 트래픽을 모니터링하여 일부 승인되지 않은 클라우드 서비스를 식별할 수 있다. 그러나 승인된 서비스의 개인 사용이나 암호화된 연결 안에 숨겨진 활동을 항상 확인할 수는 없다.
따라서 보안 리더에게는 감시에만 의존하지 않는 탐지 방법이 필요하다. 비용 데이터, ID 로그, 소프트웨어 인벤토리, 브라우저 통제, 데이터 유출 방지 경보, 직원 보고는 각각 다른 부분을 드러낼 수 있다.
어느 방법도 완전한 가시성을 제공하지는 않는다. 함께 사용하면 더 면밀한 검토가 필요한 패턴을 식별할 수 있다.
비난 없는 보고 절차는 특히 중요하다. 처벌을 예상하는 직원은 과거 사용을 숨기거나, 증거를 삭제하거나, 개인 기기를 계속 사용할 유인이 생긴다.
공개적인 신고는 보안팀이 영향을 받은 데이터를 파악하고 유용한 업무 흐름을 관리형 시스템으로 이전할 기회를 제공한다. 또한 승인된 대안이 실패한 이유도 드러낸다.
이 교훈은 지식 노동 전반에 적용된다. 관리형 개인 지식 시스템은 유용한 검색 기능과 저장된 정보에 대한 명확한 경계 사이의 균형을 맞춰야 한다.
해답은 무제한 도입이 아니다. 소비자 소프트웨어와 경쟁할 수 있을 만큼 빠른 승인 경로다.
조직은 사전 승인된 저위험 작업, 제한된 샌드박스, 명확한 데이터 분류, 신속한 검토 채널을 마련할 수 있다. 또한 실험 환경과 프로덕션 시스템 접근을 분리할 수 있다.
이 방식은 실행 가능한 절충안을 만든다. 직원은 유용한 도구를 시험할 여지를 유지하고, 민감한 데이터와 특권 작업은 더 강력한 통제 뒤에 남는다.
AI 에이전트는 데이터 유출을 접근 권한 문제로 바꾼다
승인되지 않은 어시스턴트가 단순히 텍스트를 생성하는 데 그치지 않고 기업 권한으로 행동할 수 있을 때 섀도우 AI는 더 위험해진다.
기존 챗봇은 프롬프트를 받아 콘텐츠를 반환한다. 에이전트형 시스템은 목표를 해석하고, 여러 단계를 계획하며, 외부 도구에 접근하고, 메모리를 유지하며, 작업을 실행할 수 있다.
이 아키텍처는 에이전트의 활용도를 높인다. 동시에 공격자가 노릴 수 있는 구성 요소의 수도 늘린다.
국제 보안 기관들은 2026년 5월 에이전트형 AI 지침에서 이러한 위험을 설명했다. 이 문서는 호주, 캐나다, 뉴질랜드, 영국, 미국 기관들이 공동 작성했다.
이 지침은 에이전트를 저위험·비민감 작업에 사용하고 광범위하거나 제한 없는 접근을 피할 것을 권고한다. 또한 AI 보안을 고립된 전문 분야로 취급하기보다 기존 사이버보안 프로그램 안에 포함시킨다.
프롬프트 인젝션은 한 가지 우려 사항입니다. 이 공격은 이메일, 웹 페이지, 검색을 통해 가져온 문서처럼 AI 시스템이 읽는 콘텐츠에 악의적인 지시를 삽입합니다.
사람은 의심스러운 텍스트를 신뢰할 수 없는 콘텐츠로 인식할 수 있습니다. 반면 에이전트는 이를 지시로 해석해 연결된 도구를 호출할 수 있습니다.
이메일 모니터링 에이전트는 소프트웨어를 다운로드하라고 지시하는 악성 메시지를 마주할 수 있습니다. 지원 에이전트는 고객 기록에 대한 접근 권한을 조작하는 정교하게 제작된 티켓을 처리할 수 있습니다.
연결은 공격 표면을 넓힙니다. 검색 도구, 파일 저장소, 플러그인, 메모리 시스템, 애플리케이션 인터페이스, 기타 에이전트는 각각 취약점이나 적대적 입력을 유입시킬 수 있습니다.
권한은 잠재적 피해 규모를 결정합니다. 하나의 폴더에 대한 읽기 전용 권한만 가진 어시스턴트는 이메일 전송, 계약 수정, 결제 승인까지 가능한 에이전트와는 다른 위험을 만듭니다.
이 지침은 공격자가 자신에게 없는 권한을 신뢰받는 시스템이 사용하도록 조작하는 대리인 혼동 문제를 설명합니다. AI 에이전트는 이처럼 확립된 보안 패턴을 더 큰 운영 규모에서 재현할 수 있습니다.
정적인 권한 부여는 문제를 악화시킵니다. 서비스는 설정 중 광범위한 권한을 받고, 워크플로가 바뀌어도 이를 계속 유지할 수 있습니다. 이후의 작업은 더 이상 현재 맥락에 맞지 않는 과거의 승인을 바탕으로 이루어질 수 있습니다.
섀도 에이전트는 관리자가 그 정체의 존재 자체를 모를 수 있기 때문에 특히 어렵습니다. 관리자는 자격 증명을 교체하거나, 권한을 축소하거나, 로그를 검사하거나, 사고 대응에 포함할 수 없습니다.
이 때문에 NCSC의 섀도 AI 경고는 데이터 거버넌스를 넘어섭니다. 알려지지 않은 AI 통합은 이메일, 클라우드 스토리지, 소스 저장소, 고객 시스템 또는 내부 데이터베이스로 이어지는 알려지지 않은 접근 경로가 될 수 있습니다.
그렇다고 이 경고가 승인되지 않은 모든 에이전트가 활성 침해를 일으킨다는 점을 증명하는 것은 아닙니다. 위험은 구성, 데이터, 통합, 권한 및 적대적 콘텐츠에 대한 노출에 따라 달라집니다.
민감한 입력이 없는 독립형 글쓰기 어시스턴트는 조직 차원의 위험이 제한적입니다. 반면 재무 및 계약 접근 권한을 가진 검토되지 않은 조달 에이전트는 훨씬 더 큰 위험을 초래합니다.
보안팀은 새로움이 아니라 역량을 기준으로 우선순위를 정해야 합니다. 민감한 데이터를 가져오거나 중대한 작업을 수행할 수 있는 시스템은 고립된 콘텐츠 도구보다 먼저 주목받아야 합니다.
최소 권한 원칙이 핵심입니다. 각 에이전트에는 정해진 기간 동안 정의된 작업에 필요한 접근 권한만 부여하고, 민감한 작업에는 추가 승인을 요구해야 합니다.
조직에는 모델의 판단을 도구 호출 및 신원 이벤트와 연결하는 로그도 필요합니다. 일반적으로 보이는 애플리케이션 로그는 조작된 에이전트가 해당 작업을 시작했다는 사실을 숨길 수 있습니다.
샌드박싱, 세분화, 요청별 권한 부여, 자격 증명 교체, 사람의 확인은 모두 잠재적 피해를 제한합니다. 이 조치들이 AI 특유의 실패를 모두 제거하지는 않습니다.
하지만 끝이 없는 노출을 제한된 노출로 전환합니다. 이는 NCSC가 섀도 AI 전반에 적용하는 것과 같은 방어 목표입니다.
이 경고가 AI 침해의 확산을 증명하는 것은 아니다
NCSC는 신뢰할 만하고 널리 퍼진 위험 조건을 확인했지만, 공개 증거는 그에 상응하는 규모의 실제 사고 발생을 입증하지는 않습니다.
이 구분은 책임 있는 보안 계획에 중요합니다. 위험은 진행 중인 침해 유행을 주장하지 않더라도 조치를 정당화할 수 있습니다.
NCSC는 섀도 AI로 인해 발생할 수 있는 결과를 설명합니다. 여기에는 데이터 침해, 지식재산 손실, 규정 준수 실패, 통제력 약화, 에이전트 취약점 악용이 포함됩니다.
NCSC의 9월 발행물은 승인되지 않은 업무용 AI로 인해 발생한 사고 건수를 제공하지 않습니다. 또한 조사 대상 직원들이 이들 서비스에 얼마나 많은 민감한 정보를 입력했는지도 측정하지 않습니다.
71%라는 통계는 승인되지 않은 도구의 사용을 다룹니다. 무해한 문장을 다시 쓰는 경우와 기밀 고객 기록을 업로드하는 경우를 구분하지 않습니다.
이 수치는 주요 엔터프라이즈 AI 벤더가 의뢰한 영국 노동력 설문조사에서 나온 것입니다. 독자는 이 비율을 모든 국가, 산업 또는 조직에 자동으로 적용해서는 안 됩니다.
규제 대상 기관은 전체 표본보다 더 엄격한 통제를 적용할 수 있습니다. 소규모 기업은 공식적인 승인 절차가 더 적을 수 있습니다. 기술팀은 의료 또는 공공 부문 종사자와 AI를 다르게 사용할 수 있습니다.
이러한 한계가 이 발견을 무의미하게 만드는 것은 아닙니다. 이 한계는 해당 증거가 뒷받침할 수 있는 범위를 규정합니다.
이 증거는 조사 대상 집단에서 승인되지 않은 AI 사용이 일반적이라는 결론을 뒷받침합니다. 또한 많은 사용자가 개인정보 보호와 시스템 보안에 제한적인 주의를 기울인다는 점도 보여줍니다.
NCSC는 관리되지 않는 데이터와 에이전트 접근의 결과에 대한 기술적 판단을 덧붙입니다. 이 평가는 자산 관리, 최소 권한, 데이터 거버넌스의 확립된 원칙과 부합합니다.
그러나 보안 예산은 관찰된 노출을 따라야 합니다. 팀은 또 다른 통제 플랫폼을 구매하기 전에 도구, 계정, 데이터 분류, 통합, 권한에 대한 인벤토리를 확보해야 합니다.
또한 세 가지 유형의 활동을 구분해야 합니다. 저위험 실험은 권한 있는 연결 없이 공개 데이터나 합성 데이터를 사용하는 경우입니다.
데이터를 수반하는 사용에는 기밀 파일, 고객 세부 정보, 지식재산 또는 규제 대상 정보가 포함됩니다. 에이전트형 사용은 자격 증명과 다른 시스템에 영향을 미칠 수 있는 능력을 더합니다.
이 범주들은 같은 대응을 받아서는 안 됩니다. 이를 동일하게 취급하면 검토 역량이 낭비되고 직원들이 절차를 피하도록 부추깁니다.
조직은 엔터프라이즈 라이선스가 모든 위험을 해결한다고 가정해서도 안 됩니다. 승인된 시스템 역시 잘못 구성되거나, 과도한 권한을 갖거나, 부적절한 데이터에 연결될 수 있습니다.
벤더 계약은 프롬프트 인젝션을 막지 못합니다. 관리 대시보드는 신중한 권한 설계를 대체하지 못합니다. 데이터 보존 설정은 불필요한 업로드를 해결하지 못합니다.
승인 여부의 구분은 승인이 책임성을 만들기 때문에 여전히 가치가 있습니다. 다만 이는 지속적인 감독의 끝이 아니라 시작을 의미해야 합니다.
신뢰할 수 있는 프로그램에는 모델, 커넥터, 데이터 저장소, 자격 증명, 생성된 결과물에 대한 명확한 책임자가 필요합니다. 또한 직원의 역할이 변경될 때 접근 권한을 제거하는 경로도 필요합니다.
사고 대응 계획에는 AI 서비스가 포함되어야 합니다. 조사 담당자는 프롬프트, 도구 호출 이력, 신원 로그, 영향을 받은 결과물을 보존하는 방법을 알아야 합니다.
따라서 NCSC 경고를 회의적으로 읽으면 결론은 간단합니다. 섀도 AI가 자동으로 침해를 의미하는 것은 아니며, 설문조사상의 도입률이 사고 발생률을 뜻하는 것도 아닙니다.
더 강한 결론이 더 유용합니다. 알려지지 않은 AI 사용은 조직이 자신의 노출을 측정하지 못하게 하며, 연결된 에이전트는 그러한 불확실성의 결과를 키울 수 있습니다.
조직이 격차를 좁히는지 보여줄 세 가지 신호
다음 시험대는 고용주가 정적인 AI 정책을 직원들이 실제로 사용할 수 있는 측정 가능한 통제로 대체하는지 여부입니다.
첫 번째 신호는 내부 AI 인벤토리의 품질입니다. 향후 3개월 동안 보안 리더는 소비자 계정, 내장형 어시스턴트, 맞춤형 에이전트, 연결된 서비스를 식별할 수 있는지 물어야 합니다.
목록이 길어지는 것만으로는 진전을 증명하지 못합니다. 유용한 인벤토리는 각 배포를 책임자, 계정 유형, 데이터 분류, 보존 정책, 통합 및 권한에 연결해야 합니다.
인벤토리가 이러한 필드를 포괄하기 시작한다면 NCSC의 위험 감소 접근 방식이 확산되고 있는 것입니다. 조직이 여전히 승인된 벤더만 집계한다면 가장 큰 사각지대는 남아 있을 것입니다.
두 번째 신호는 관리되는 대안에 더 빠르게 접근할 수 있는지 여부입니다. 고용주는 직원들이 AI 도구, 기능 또는 실험 환경을 위해 얼마나 오래 기다리는지 측정해야 합니다.
승인 시간이 줄어들면 승인되지 않은 AI 도구 사용의 한 원인을 해결할 수 있습니다. 관리형 서비스의 활성 사용 증가는 정책 확인보다 더 강력한 도입 신호가 될 것입니다.
보안팀은 직원들이 징계 불이익 없이 과거의 섀도 사용을 신고하는지도 살펴봐야 합니다. 신고가 늘어나면 처음에는 규정 준수 악화처럼 보일 수 있지만, 가시성이 개선되고 있음을 반영할 수 있습니다.
요청 처리가 계속 느리고 승인된 도구에 필요한 기능이 없다면, 직원들은 통제를 우회할 현실적인 이유를 계속 갖게 됩니다. 그러면 새로운 제한은 사용을 더 시야 밖으로 밀어낼 뿐입니다.
세 번째 신호는 AI 에이전트에 대한 권한 규율입니다. 조직은 에이전트에 제한된 신원, 임시 자격 증명, 분리된 환경, 작업별 권한 부여가 제공되는지 검토해야 합니다.
또한 민감한 작업에 사람의 확인이 필요한지 시험해야 합니다. 로그에는 어떤 사용자, 에이전트, 지시, 도구가 각각의 중대한 변경을 만들었는지가 표시되어야 합니다.
NCSC의 에이전트 위험 분석은 보호 조치, 샌드박싱, 능동적인 감독을 강조합니다. 이러한 통제는 기업이 에이전트를 권한 있는 소프트웨어로 다루는지, 아니면 편리한 챗봇 확장 기능으로 다루는지를 드러낼 것입니다.
광범위하고 지속적인 접근 권한은 이 경고의 가장 심각한 우려를 강화할 것입니다. 그러면 단 하나의 악용된 구성 요소가 에이전트의 정당한 접근 범위를 물려받을 수 있습니다.
제한된 권한과 검증된 격리는 개별 배포에 대한 이 우려를 약화할 것입니다. 섀도 사용을 없애지는 못하지만 잠재적 영향을 제한할 수 있습니다.
지식 노동자에게 당장의 질문은 간단합니다. 지금 사용하는 서비스가 승인된 워크플로에 속해 있으며, 제공한 정보에 어떤 일이 일어나는지 알고 있습니까?
관리자에게 질문은 더 어렵습니다. 직원들이 이를 우회하고 싶어질 만큼 오래 기다리지 않고도 동일한 작업을 안전한 선택지를 통해 완료할 수 있습니까?
보안팀은 또 다른 전면적 금지 조치가 아니라 이러한 워크플로부터 시작해야 합니다. 직원들이 AI를 사용하는 지점을 파악하고, 그로 인한 노출의 우선순위를 정하며, 위험한 경로를 실행 가능한 대안으로 바꾸십시오.
NCSC의 섀도 AI 경고는 궁극적으로 가시성 문제를 설명합니다. 조직은 알려진 환경 밖에 남아 있는 데이터, 신원 또는 에이전트 권한을 관리할 수 없습니다.
목표는 AI 실험을 사라지게 하는 것이 아닙니다. 안전한 사용을 더 쉽게 찾고, 더 빠르게 승인하며, 섀도 대안보다 더 안전하게 만드는 것입니다.
