AI의 양면성 속 데이터 유출 통지, 지난해 총합 넘어섰다

Google News는 데이터 유출 신고에서 뚜렷한 반전을 포착했다. 2026년 상반기에 피해자 통지 4억7,120만 건이 발송돼 이미 2025년 전체 수치를 넘어섰다. Identity Theft Resource Center는 전년도 전체 통지를 2억9,750만 건으로 집계했다. 그러나 이 수치만으로 AI가 모든 유출, 혹은 대다수 유출을 일으켰다고 단정할 수는 없다.

이 수치는 더 복잡한 현실을 보여준다. 인공지능은 공격자가 취약점을 찾고, 설득력 있는 사칭을 만들며, 캠페인의 일부를 자동화하도록 돕고 있다. 동시에 방어자에게는 더 빠른 탐지, 분류, 차단 도구를 제공한다. 이제 핵심 대립 구도는 사람 대 기계가 아니다. 여전히 자산 목록화가 부실한 시스템 전반에서 벌어지는 공격 자동화 대 방어 자동화다.

통지 총량도 신중하게 해석해야 한다. 피해자 통지는 반드시 고유한 한 명의 사람을 뜻하는 것이 아니라, 하나의 알림을 의미한다. 한 개인은 서로 다른 사고 이후 여러 통지를 받을 수 있다. 대규모 공급망 사고는 많은 피해 조직에서 통지를 발생시켜, 하나의 최초 침해를 증폭시킬 수 있다.

그렇다고 이 단서가 급증의 중요성을 떨어뜨리지는 않는다. 원시 총량은 공격 경로, 영향을 받은 주체, 공개 품질과 연결해 해석해야 한다는 점을 보여준다. 안타깝게도 대부분의 통지는 이러한 연결을 파악하는 데 필요한 기술적 세부 정보를 여전히 빠뜨리고 있다.

그 결과 불편한 정보 격차가 생긴다. 조직들은 더 많은 경고를 보내면서도 침입자가 어떻게 들어왔는지는 덜 설명한다. 한편 AI 데이터 유출은 AI 지원 정찰, 사회공학, 악성코드로 가속된 일반적인 유출과 구분하기가 더 어려워지고 있다.

Google News가 헤드라인을 전했을 수는 있지만, 근거가 가리키는 바는 하나의 충격적인 숫자를 넘어선다. 기업들은 더 빠른 악용, 더 넓어진 제3자 노출, 보호가 필요한 추가 AI 시스템에 직면해 있다. 소비자는 더 많은 경고를 받지만 어떤 위험이 가장 중요한지 명확히 파악하지 못한다.

Google News가 부각한 것은 사상 최대 통지 건수이지, 4억7,100만 명의 고유 피해자가 아니다

상반기 기록은 통지 물량을 측정한 것이며, 더 깊은 경고는 이 통지들 뒤에 있는 집중도와 불투명성에 있다.

ITRC는 2026년 첫 6개월 동안 1,803건의 데이터 침해를 추적했다. 2분기에는 1,029건의 침해가 발생해, 역대 두 번째로 높은 분기별 수치를 기록했다. 이 속도가 유지된다면 연간 총계는 3,600건에 근접할 전망이다.

이는 2025년에 기록된 3,321건의 침해를 넘어서는 수치다. 예상 증가는 중요하지만, 두 해의 피해자 통지 총량 차이보다는 훨씬 작다. 이 대비는 유난히 큰 몇 건의 사고가 대중이 보는 그림을 얼마나 지배할 수 있는지 보여준다.

ITRC의 침해 분석에 따르면, 6월까지 4억7,120만 건의 통지가 발송됐다. 2025년 연간 수치는 2억9,750만 건이었다. 따라서 상반기 총계는 전년보다 통지 1억7,370만 건을 초과했다.

통지는 정보가 노출된 개인, 고객, 직원 또는 계정 보유자에게 전달될 수 있다. 이는 수신자가 신원 도용 피해를 입었다는 사실을 확인하지는 않는다. 또한 연구자에게 한 사람이 여러 통지 목록에 반복해서 등장하는지도 알려주지 않는다.

분모도 똑같이 중요하다. 미국 인구는 4억7,120만 명이 아니므로, 이 총계가 서로 다른 미국인 4억7,120만 명을 의미할 수는 없다. 중복 통지, 국제적 노출, 중첩된 기록은 이 수치가 인구를 넘을 수 있는 이유를 설명하는 데 도움이 된다.

이 구분은 위험을 축소하지 않으면서 과장된 해석을 막는다. 여러 통지를 받은 사람은 여전히 여러 संभाव한 노출 경로에 직면한다. 재사용된 비밀번호, 오래된 주소, 의료 기록, 사회보장번호, 고용 정보는 사고를 거치며 축적될 수 있다.

집중도는 이 총계를 더욱 시사적으로 만든다. 상장 기업은 침해를 입은 주체의 10.3%에 불과했지만, 전체 피해자 통지의 83.4%를 발생시켰다. 대기업은 더 많은 기록을 보유하고, 더 많은 공급업체에 의존하며, 공유 인프라를 통해 더 많은 서비스를 연결한다.

공급망 사고는 더욱 강력한 증폭 효과를 만들었다. 최초 침해 38건만으로 2억8,060만 건의 통지가 발생했고, 최종적으로 206개 조직에 영향을 미쳤다. 이러한 공격에서 한 공급업체의 침해는 수많은 고객으로 침투하는 경로가 되거나, 고객을 위해 보관하던 데이터를 노출시킨다.

따라서 통지 급증은 수백만 건의 고립된 공격을 설명하는 것이 아니다. 비교적 적은 수의 침해가 많은 기업으로 확산될 수 있는 연결 경제를 반영한다. 공급업체, 신원 제공업체, 클라우드 서비스, 소프트웨어 플랫폼은 운영상 위험을 집중시킨다.

이 구조는 기업 구매자에게도 압박을 가한다. 기업 자체 네트워크만 겨냥한 보안 검토는 더 이상 전체 노출 범위를 다루지 못한다. 조달 결정, 서비스 통합, 액세스 토큰, 공급업체 사고 대응 절차가 이제 유출의 결과에 영향을 미친다.

소비자에게도 같은 구조는 개별 통지를 평가하기 어렵게 만든다. 통지서는 발송 기업을 식별할 수 있지만, 최초로 침해된 공급업체를 명확히 설명하지 않을 수 있다. 수신자는 그 결과는 보지만, 그 결과를 낳은 시스템의 연결고리는 보지 못한다.

따라서 헤드라인은 정확하지만 불완전하다. 통지는 6개월 만에 전년도 총량을 넘었다. 더 중요한 변화는 연결된 소수의 침해가 전국적 통지 물결을 얼마나 빠르게 만들어낼 수 있는가다.

AI는 기존 공격 경로를 가속하고 있다

AI는 사이버공격의 속도와 경제성을 바꾸고 있지만, 익숙한 취약점은 여전히 이러한 공격이 파고들 곳을 제공한다.

ITRC는 2026년 증가분의 일부를 소프트웨어 결함을 더 빠르게 찾아내는 인공지능 도구와 연관 지었다. 상반기에 제로데이 공격 14건을 집계했다. 제로데이 공격은 효과적인 수정 조치가 널리 제공되기 전에 취약점을 악용한다.

비교 대상인 2025년 연간 수치는 17건이었다. 6개월 만에 거의 그 수준에 도달했다는 사실은 취약점 연구, 패치 배포, 방어 모니터링에 대한 압력이 커졌음을 시사한다. 그렇다고 각 제로데이가 AI를 통해 발견되거나 악용됐다는 뜻은 아니다.

이 경계는 중요하다. AI 관여는 여러 다른 활동을 설명할 수 있기 때문이다. 공격자는 모델을 이용해 피싱 메시지를 작성하거나, 사칭 캠페인을 번역하거나, 유출된 코드를 분석하거나, 악성코드를 수정할 수 있다. 또 다른 공격자는 AI 애플리케이션 자체를 표적으로 삼을 수 있다.

이 사례들은 서로 다른 위험을 낳는다. AI 지원 피싱은 기존 기법의 규모와 완성도를 높인다. 모델, 플러그인 또는 애플리케이션 프로그래밍 인터페이스를 겨냥한 공격은 더 새로운 유형의 노출 인프라를 만든다.

IBM의 2026년 유출 연구는 두 양상 모두에 관한 근거를 제공한다. 연구에 따르면 악의적인 유출 4건 중 1건은 AI가 활용된 사건으로, 전년 대비 56% 증가했다. 이 사고들의 보고된 평균 비용은 600만 달러였다.

이는 IBM이 집계한 전 세계 유출 평균 비용 499만 달러보다 약 100만 달러 높다. 이 연구는 2025년 3월부터 2026년 2월까지 602개 조직이 겪은 유출을 다뤘다. Ponemon Institute가 연구를 수행했으며, IBM이 후원하고 분석했다.

같은 AI 유출 연구는 조직의 20% 이상이 AI 모델 또는 애플리케이션을 겨냥한 공격을 보고했다고 밝혔다. 침해된 인터페이스, 애플리케이션 또는 플러그인이 이 사례의 27%를 일으켰다. 클라우드 구성 오류도 또 다른 27%를 차지했다.

이 결과는 AI 사이버보안 위험을 악의적인 프롬프트만으로 축소할 수 없는 이유를 보여준다. 주변의 신원 시스템, 클라우드 권한, 데이터 저장소, 인터페이스, 플러그인이 흔히 가장 약한 고리로 남아 있다. 공격자는 모델 주변의 인프라를 침해해 모델의 안전장치를 우회할 수 있다.

딥페이크 사칭은 다른 문제를 제기한다. 공격자는 소프트웨어를 악용하지 않고도 경영진, 공급업체 또는 지원 담당자를 흉내 낼 수 있다. 음성, 영상, 개인화된 텍스트는 자격 증명, 결제 또는 접근 권한을 요청하는 메시지를 더 설득력 있게 만들 수 있다.

기저의 전술은 여전히 사회공학이다. AI는 제작 비용을 낮추고, 언어 품질을 개선하며, 공격자가 더 많은 변형을 만들게 한다. 또한 표적이 첫 접근을 거부한 뒤 캠페인을 더 쉽게 조정하게 할 수 있다.

Verizon의 2026년 조사에 따르면 성공적인 모바일 사회공학은 40% 증가했다. 또한 소프트웨어 취약점 악용이 전체 유출의 31%에서 나타나 가장 흔한 최초 침입 경로가 됐다고 보고했다. 탈취된 자격 증명은 더 이상 1위를 차지하지 않았다.

이 발견은 AI 지원과 오래된 운영상 취약점을 연결한다. 조직은 흔히 취약한 자산을 식별하고, 패치를 시험하며, 수정 조치를 배포하는 데 시간이 필요하다. 자동화된 정찰은 공격자의 작업을 압축하는 반면, 방어자는 여전히 더 느린 승인 절차를 따른다.

IBM은 보안팀 내부에서도 비슷한 불균형을 발견했다. 조사 대상 조직의 절반 이상이 위협 탐지와 차단에 에이전트를 사용했다. 반면 취약점 관리에 에이전트를 적용한 비율은 18%에 불과해, 수정 대응은 더 빠른 탐지 계층에 뒤처졌다.

따라서 AI 데이터 유출은 불균등한 자동화를 통해 발생한다. 공격자는 표적의 복잡한 인프라를 소유하지 않고도 발견과 접근을 자동화할 수 있다. 방어자는 취약점을 닫기 전에 자산을 목록화하고, 변경을 시험하고, 가용성을 보존하며, 여러 팀을 조율해야 한다.

하나의 악의적인 모델이 아니라 이러한 불일치가 인공지능이 유출 보도에서 더 큰 비중을 차지하게 된 이유를 설명한다.

더 큰 증폭 요인은 여전히 공급망이다

AI는 공격 속도를 높이고, 상호 연결된 공급업체는 한 번의 성공적인 침해가 얼마나 멀리 확산될지를 결정한다.

공급망 노출은 ITRC 상반기 데이터에서 피해자 통지의 대부분을 만들어냈다. 이 공격에 기인한 2억8,060만 건의 통지는 전체 4억7,120만 건의 약 60%를 차지했다.

최초 사고 건수는 38건에 불과했다. 하류 영향까지 계산하면 이 사고들은 206개 조직에 영향을 미쳤다. 따라서 한 번의 성공적인 침입은 여러 기업이 조사하고, 고객에게 통지하며, 공유 접근 권한을 검토하도록 만들 수 있다.

이 증폭 효과는 책임 소재를 복잡하게 만든다. 고객 관계를 보유한 조직이 침해된 시스템을 운영하지 않았을 수 있다. 최초 공급업체가 또 다른 제공업체에 의존했을 가능성도 있어, 공격자와 최종 통지 사이에 추가 계층이 생긴다.

AI는 이러한 연결 전반의 정찰을 가속할 수 있다. 문서를 분석하고, 노출된 인터페이스를 식별하며, 알려진 취약점의 우선순위를 정하는 데 도움을 줄 수 있다. 그러나 공격이 성공하는 이유는 여전히 시스템이 데이터, 자격 증명 또는 신뢰된 접근 권한을 공유하기 때문이다.

Verizon은 2026년 연구 기간 동안 전체 유출의 48%에 제3자가 관여했다고 보고했다. 이는 제3자 관여가 60% 증가한 수치다. 해당 유출 조사는 AI 봇 트래픽도 전월 대비 21% 증가했다고 밝혔다.

모든 AI 봇이 적대적인 것은 아니다. 일부는 모델 학습을 위한 정보를 수집하고, 다른 일부는 사용자 요청에 따라 페이지를 가져온다. 그럼에도 이들의 증가는 보안팀의 트래픽, 지식재산권 우려, 모니터링 업무를 늘린다.

일반적인 자동화와 악의적인 정찰을 구분하는 일은 쉽지 않다. 요청은 무해해 보이면서도 이후 공격을 뒷받침할 정보를 수집할 수 있다. 모든 자동화 트래픽을 차단하면 정당한 검색, 접근성, 비즈니스 기능까지 방해하게 된다.

이 지점에서 핵심 충돌이 드러난다. 공격자는 광범위한 탐색과 빠른 반복의 이점을 얻는다. 방어자는 고객 접근, 파트너 통합, 운영 환경의 안정성을 유지하면서도 정교한 판단을 내려야 한다.

공급망은 이 과정의 어떤 실수든 증폭시킨다. 과도한 권한을 가진 공급업체 계정 하나가 여러 고객을 노출시킬 수 있다. 탈취된 통합 토큰은 이를 만든 직원이나 프로젝트가 사라진 뒤에도 남아 있을 수 있다. 간과된 서비스는 비즈니스 목적이 사라진 뒤에도 연결된 상태로 남을 수 있다.

기업들은 또 하나의 기본적인 질문에도 어려움을 겪는다. 어떤 외부 시스템이 민감한 데이터에 접근할 수 있는가? 계약서는 데이터 처리 방식을 대략적으로만 설명할 수 있지만, 기술적 권한은 지속적으로 변한다. 연 1회 수행되는 보안 검토로는 이러한 변화를 놓치게 된다.

AI 도입은 추적되지 않는 관계를 한 겹 더 추가할 수 있다. 직원들은 승인되지 않은 어시스턴트에 내부 문서를 업로드하거나, AI 도구를 캘린더, 코드 저장소, 공유 드라이브에 연결할 수 있다. 각 연결은 데이터 이동을 위한 새로운 경로를 만든다.

Verizon은 승인되지 않은 AI 도구를 빈번하게 사용하는 직원의 비율이 1년 만에 15%에서 45%로 증가했다고 밝혔다. 또한 섀도 AI를 데이터 유출과 관련된 비악의적 활동 가운데 세 번째로 흔한 유형으로 설명했다.

섀도 AI란 조직의 승인이나 감독 없이 AI 서비스를 사용하는 것을 의미한다. 위험은 제공업체가 제출된 정보를 학습에 활용하는 데만 국한되지 않는다. 취약한 계정 보안, 과도한 플러그인 권한, 불분명한 보존 규칙 역시 기밀 자료를 노출할 수 있다.

이는 보안, 조달, 사업팀에 동시에 압박을 가한다. 전면 금지는 사용을 더 음지로 몰아넣을 수 있다. 제한 없는 도입은 사고 대응팀이 파악할 수 없는 시스템 전반에 회사 데이터를 흩어 놓을 수 있다.

조직에는 공급업체, 통합, 머신 아이덴티티, 데이터 흐름에 대한 살아 있는 인벤토리가 필요하다. 또한 영구적인 광범위 권한이 아니라 실제 업무에 연결된 접근 통제가 필요하다. 이러한 조치는 기존 공급망 침해와 AI 사이버보안 위험 모두에 대응한다.

지식 근로자에게는 로컬 데이터 처리도 비슷한 주의를 기울일 필요가 있다. 개인 지식 기반은 저장소, 권한, 검색 경계가 명확히 이해될 때 통제되지 않은 복사를 줄일 수 있다.

핵심은 도구에 AI라는 라벨이 붙어 있는지가 아니다. 조직이 그 도구가 어떤 데이터에 접근할 수 있는지, 데이터가 어디로 이동하는지, 접근 권한을 어떻게 철회할 수 있는지를 알고 있는지가 중요하다.

더 많은 통지가 도착하지만 유용한 세부 정보는 줄어들고 있다

침해 통지의 급증은 기업과 소비자가 실제로 무엇이 실패했는지 파악하지 못하게 하는 공시 문제와 맞물리고 있다.

ITRC가 2026년 상반기에 추적한 통지 가운데 공격 벡터 세부 정보를 포함한 비율은 24%에 불과했다. 이는 해당 기관이 기록한 최저 공시율이었다. 따라서 통지 4건 중 3건은 침입 방식에 관한 의미 있는 정보를 생략했다.

공격 벡터는 무단 접근을 얻기 위해 사용된 경로다. 여기에는 탈취된 자격 증명, 소프트웨어 취약점 악용, 피싱, 악의적인 내부자, 침해된 공급업체가 포함될 수 있다. 이 세부 정보가 없으면 수신자는 대응 방안을 노출 유형에 맞출 수 없다.

비밀번호 재설정은 자격 증명 탈취 이후에는 도움이 된다. 그러나 도난당한 의료 기록의 기밀성을 되돌려주지는 않는다. 신용 동결은 신규 계정 사기를 줄일 수 있지만, 공격자가 노출된 직장 정보를 사칭에 사용하는 것을 막지는 못한다.

기업 역시 학습 기회를 잃는다. 단지 “무단 접근”이라고만 밝히는 통지는 유사한 시스템을 운영하는 동종 기업에 거의 지침을 제공하지 못한다. 또한 연구자가 AI 지원 공격과 더 광범위한 사이버범죄 증가를 구분할 수 있는 능력도 제한한다.

이처럼 빠진 맥락은 측정 문제를 만든다. IBM은 침해를 겪은 조직을 대상으로 AI 관여 여부를 조사할 수 있고, ITRC는 공개 통지 건수를 집계할 수 있다. 이 출처들은 서로 다른 방법으로 서로 다른 집단을 살펴본다.

이러한 결과를 합쳐 4억 7,120만 건의 모든 통지 중 4분의 1이 AI 지원 침해에서 비롯됐다고 주장해서는 안 된다. 현재 उपलब्ध한 연구는 그러한 관계를 입증하지 않는다. 통지 건수, 침해 건수, 설문 조사 대상 조직은 서로 다른 단위다.

“AI 지원”의 정의 역시 신중해야 한다. 침입자가 이메일을 개선하기 위해 챗봇을 사용했다고 해서 그 캠페인이 근본적으로 새로운 공격이 되는 것은 아니다. 하지만 AI 지원은 여전히 캠페인 규모를 키우거나 요구되는 숙련도를 낮출 수 있다.

반대로 AI 시스템을 겨냥한 침해는 공격자가 AI를 사용하지 않고도 발생할 수 있다. 탈취된 클라우드 자격 증명은 기존 계정 침해를 통해 모델 데이터를 노출할 수 있다. 표적에는 AI가 포함되지만, 방식에는 그렇지 않다.

이러한 구분은 규제와 투자 방향을 좌우한다. 조직이 AI 관련 사고를 모두 새로운 모델 보안 문제로 취급하면 아이덴티티, 패치, 세분화, 공급업체 통제를 소홀히 할 수 있다. 이러한 기본 요소는 여전히 많은 결과를 결정한다.

AI를 마케팅 용어로 치부하면 속도, 사칭 품질, 공격 규모의 실질적 변화를 간과할 수 있다. 또한 광범위한 권한을 가진 모델 인터페이스, 검색 시스템, 자동화 에이전트를 보호하지 못할 수 있다.

NIST가 개발 중인 Cyber AI Profile은 문제를 세 영역으로 구분한다. 조직은 AI 구성 요소를 보호하고, 방어를 위해 AI를 활용하며, AI 지원 공격을 저지해야 한다. 이 구분은 광범위한 하나의 AI 침해 라벨보다 더 유용한 프레임워크를 제시한다.

이 프로파일은 지침일 뿐, 특정 통제가 기록된 사고를 예방했을 것이라는 증거는 아니다. 그러나 AI 위험을 기존 사이버보안 기능에 매핑해야 할 필요성을 강화한다.

내부자 활동은 또 다른 불확실성의 원천을 더한다. ITRC는 상반기에 내부자 부정행위 사건 21건을 집계했는데, 이는 2025년 전체 기록의 7배다. ITRC는 이 증가를 기술 업계 해고와 국가 지원 세력의 모집 활동에 부분적으로 연결했다.

21건은 여전히 1,803건의 침해 중 작은 비중을 차지한다. 그럼에도 권한 있는 사용자는 가치 있는 데이터가 어디에 있는지 아는 경우가 많기 때문에 그 증가가 중요하다. AI 도구는 이들이 정보를 더 효율적으로 검색, 요약, 전송하도록 도울 수 있다.

조직은 모든 직원을 잠재적 용의자로 감시하는 방식으로 대응해서는 안 된다. 과도한 감시는 신뢰를 해치고 유용한 증거보다 더 많은 잡음을 만들어낼 수 있다. 최소 권한 접근과 명확한 퇴직·계정 해지 절차가 더 집중된 보호 장치를 제공한다.

회의적인 결론은 간단하다. 통지가 늘어난다고 자동으로 투명성이 개선되는 것은 아니다. 공시가 공격 방식을 더 일관되게 설명하기 전까지는 AI의 정확한 기여도에 관한 단정적인 주장을 검증하기 어렵다.

AI는 탐지 및 격리 비용도 낮추고 있다

공격자의 운영 비용을 낮추는 바로 그 기술은 방어자가 피해를 제한하도록 도울 수 있으며, 결국 거버넌스가 결정 요인이 된다.

IBM은 보안 운영에서 AI와 자동화를 광범위하게 사용한 조직이 평균 침해 비용을 거의 200만 달러 줄였다고 밝혔다. 이 결과가 소프트웨어만으로 사고를 막는다는 뜻은 아니다. 접근이 발생한 이후 더 빠른 탐지와 대응이 결과를 바꿀 수 있음을 시사한다.

보안팀은 엔드포인트, 클라우드 서비스, 아이덴티티 플랫폼, 애플리케이션에서 발생하는 대량의 경보를 처리한다. AI는 관련 신호를 묶고 활동을 요약하며 이상 행동을 부각할 수 있다. 그러면 분석가는 우선순위가 높은 사례를 검증하는 데 더 많은 시간을 쓸 수 있다.

자동화는 엔드포인트를 격리하거나, 토큰을 비활성화하거나, 증거 수집을 시작할 수도 있다. 이러한 조치는 탐지와 격리 사이의 시간을 단축한다. 공격자가 자신들의 이동을 자동화할수록 그 가치는 높아진다.

하지만 자율 대응은 운영 위험을 초래한다. 잘못 구성된 시스템은 정당한 사용자를 차단하거나, 운영을 중단시키거나, 유용한 맥락을 지울 수 있다. 영향이 큰 조치에는 정의된 권한, 로깅, 인간의 에스컬레이션 경로가 필요하다.

방어 AI는 신뢰할 수 있는 데이터에도 의존한다. 누락된 자산 인벤토리, 일관되지 않은 아이덴티티 기록, 분리된 로그는 그 결론을 약화시킨다. 조직이 존재를 알지 못하는 통합을 모델이 보호할 수는 없다.

결과는 단순한 기술 경쟁이 아니라 트레이드오프다. 자동화를 늘리면 대응 속도는 개선될 수 있다. 하지만 접근 정책과 소유권이 불분명한 상태에서는 잘못된 가정을 기계 속도로 재현할 수도 있다.

NIST의 프레임워크는 이러한 균형을 반영한다. AI 지원 방어를 AI 시스템 보호 및 AI 지원 공격 대비와 함께 하나의 구성 요소로 다룬다. 각 영역은 서로를 뒷받침한다.

위협 조사를 위해 에이전트를 사용하는 조직은 그 에이전트의 자격 증명을 보호해야 한다. 에이전트가 조회할 수 있는 시스템과 수행할 수 있는 조치를 제한해야 한다. 또한 자동화된 조치가 왜 발생했는지 보여주는 기록도 필요하다.

에이전트가 권고를 넘어서는 시점에는 이러한 요구 사항이 시급해진다. 티켓을 열 수 있는 시스템은 제한된 위험을 제시한다. 접근 권한을 철회하고, 코드를 배포하고, 인프라를 수정할 수 있는 시스템에는 더 엄격한 통제와 신뢰할 수 있는 롤백 절차가 필요하다.

공격자도 같은 기능을 노린다. 이들이 에이전트나 그 주변 계정을 침해하면 여러 시스템에 걸친 신뢰된 접근 권한을 물려받을 수 있다. 보안 도구는 또 다른 공급망 증폭 요인이 될 수 있다.

이 때문에 AI 데이터 침해는 취약한 아키텍처 위에 두 번째 AI 제품을 얹는 방식으로 해결할 수 없다. 아이덴티티, 암호화, 패치 관리, 세분화, 백업, 검증된 사고 대응 계획은 여전히 필수적이다.

IBM은 침해를 겪은 조직 중 민감한 정보를 저장 상태와 전송 상태 모두에서 암호화한 곳이 37%에 불과했다고 보고했다. 암호화 자산에 대한 가시성을 확보한 곳은 34%뿐이었다. 이러한 격차는 추측성 미래 위협이 아니라 확립된 보안 관행과 관련된다.

실질적인 이점은 자동화를 거버넌스와 연결하는 조직에 돌아간다. 이들은 어떤 에이전트가 존재하는지, 누가 이를 소유하는지, 어떤 데이터에 접근할 수 있는지, 권한을 얼마나 신속히 제거할 수 있는지를 안다.

지식 근로자도 이 모델에서 역할을 한다. 이들은 어시스턴트가 정보를 원격 서비스로 전송하는지, 프롬프트를 보존하는지, 다른 계정에 연결되는지를 이해해야 한다. 편의성이 이러한 결정을 보이지 않게 만들어서는 안 된다.

검색 가능한 지식 워크플로는 팀이 승인된 출처와 접근 경계를 정의할 때 통제된 검색을 지원할 수 있다. 하지만 조직의 보안 정책을 대체할 수는 없다.

방어자는 모든 업무에서 모든 공격자를 능가할 필요가 없다. 노출을 줄이고, 탐지 시간을 단축하며, 침해된 계정 하나가 다른 모든 것에 접근하지 못하도록 막아야 한다.

급증이 지속적인 변화가 되는지 보여줄 세 가지 신호

다음 단계는 공시 품질, 공급망 집중도, 방어 자동화가 해결 격차를 좁히는지에 달려 있다.

첫 번째 신호는 ITRC의 다음 침해 및 피해자 통지 업데이트다. 연간 집계는 상반기 급증이 제한된 수의 대규모 침해에서 비롯된 것인지, 아니면 이후 분기에도 지속됐는지를 보여줄 것이다.

통지가 계속 증가하는 반면 사고 건수 증가가 더 느리다면, 집중도는 여전히 지배적인 설명이다. 두 지표가 모두 가속한다면 더 광범위한 악화의 증거는 강해진다.

두 번째 신호는 공격 벡터 공시다. 현재의 24% 세부 정보 비율은 정확한 귀속을 막고 비교를 약화시킨다. 비율이 높아지면 연구자는 소프트웨어 취약점 악용, 자격 증명, 내부자, 공급업체, AI 지원 활동을 구분할 수 있다.

개선된 공개만으로 침해 건수가 줄어들지는 않을 것이다. 다만 방어 측의 교훈을 더 폭넓게 적용할 수 있게 하고, 인공지능에 관한 주장을 더 쉽게 검증할 수 있게 할 것이다. 추가적인 감소가 없다면 Google News 헤드라인은 광범위한 추정치에 계속 의존하게 된다.

세 번째 신호는 AI 탐지와 취약점 조치 간의 격차다. IBM은 탐지에 에이전트가 널리 사용되고 있음을 확인했지만, 취약점 관리 도입률은 18%에 그쳤다. 이러한 불균형은 공격자가 알려진 취약점을 악용할 시간을 제공한다.

조직이 안전한 조치를 자동화하고 패치 지연을 줄인다면, AI는 공격이 빨라지는 상황에서도 침해 비용을 낮출 수 있다. 반대로 탐지는 개선되지만 수정 속도가 빨라지지 않는다면, 보안팀은 해결할 수 없는 문제를 더 많이 식별하게 될 뿐이다.

공급망 노출은 이 세 가지 신호 모두에 포함돼야 한다. 소수의 공급업체 침해가 상반기 통지의 대부분을 초래했다. 구매자는 제공업체가 통합 권한을 제한하는지, 머신 자격 증명을 순환 교체하는지, 그리고 하류 영향에 대해 신속히 공개하는지를 지켜봐야 한다.

규제기관과 표준화 기구도 중요하다. NIST의 프로필은 AI 시스템 보안, 방어 목적의 AI 활용, AI 기반 공격 대응을 위한 공통 어휘를 만들 수 있다. 그 영향력은 도입 수준과 측정 가능한 운영 변화에 달려 있다.

소비자는 모든 통지를 각각의 개인적 재앙으로 해석하는 데 신중해야 한다. 그렇더라도 노출된 정보에 맞춰 대응해야 한다. 신용 동결, 패스키, 다중 인증, 고유한 비밀번호는 서로 다른 위험 범주를 줄인다.

기업 리더가 마주한 질문은 더 어렵다. 중요한 데이터에 접근할 수 있는 모든 공급업체, AI 서비스, 에이전트, 비인간 신원을 식별할 수 있는가? 답이 불분명하다면, 다음 침해 통지가 그 연결고리를 먼저 드러낼 수 있다.

Google News는 주목할 만하지만 공포를 불러일으킬 정도는 아닌 이정표를 포착했다. 기록적인 통지 건수는 상호연결된 시스템, 집중된 침해, 불완전한 공개, 더 빨라진 공격 방식이 반영된 결과다. AI는 각 압박을 강화하는 동시에 방어자에게 더 나은 도구를 제공한다.

유용한 대응은 헤드라인이 측정하지 못하는 것을 측정하는 일이다. 누가 접근 권한을 갖고 있는지, 취약점이 얼마나 신속히 해소되는지, 어떤 공급업체가 집중 위험을 만드는지, 그리고 통지가 공격 경로를 설명하는지를 추적해야 한다. 이러한 신호는 2026년이 일시적 급증인지, 아니면 침해 경제학의 지속적인 변화인지 보여줄 것이다.