SecurityHQ AI Agent 연구, 정책이 사고 책임성보다 앞서 있음을 보여줘

SecurityHQ는 조사 대상 사이버 보안 리더의 76%가 공식적인 AI 책임성 정책을 보유한 반면, 에이전트 활동을 수분 내에 재구성할 수 있는 곳은 17%에 불과하다는 연구 결과를 발표했다. Datadog와 함께 수행한 SecurityHQ AI 에이전트 연구는 실질적인 긴장을 드러낸다. 책임자를 지정한다고 해서 자동화된 의사결정이 반드시 설명 가능해지는 것은 아니다.

2026년 10월 15일 발표된 이 결과는 엔터프라이즈 에이전트가 비즈니스 시스템 전반에서 작업을 수행할 권한을 얻는 시점에 나왔다. AI 에이전트는 모델과 연결된 도구를 활용해 과업을 수행하는 소프트웨어 시스템이다. 이들이 보유한 권한은 문서화된 정책만으로는 답할 수 없는 문제를 만든다.

Microsoft의 Security Copilot 확장은 위임된 보안 업무로 이동하는 이러한 변화의 구체적인 사례를 제시한다. 이제 보안 리더, 애플리케이션 소유자, 벤더는 자동화된 행동을 증거 및 책임 있는 인간 권한과 연결해야 하는 압박을 받고 있다.

SecurityHQ AI Agent 연구는 정책과 준비 상태를 구분한다

이 연구는 중견 및 대기업의 사이버 보안 리더 204명을 조사했다. 연구 발표에 따르면, 45%는 책임 소재가 불분명한 AI 에이전트 또는 자동화 관련 사고를 경험했다고 답했다.

이 표현에는 주의가 필요하다. 사고 범주에 자동화가 포함되므로, 이 결과가 45%가 자율 AI 에이전트 침해를 경험했다는 사실을 입증하지는 않는다. 불분명한 책임 소재 역시 특정 기술적 실패나 피해 수준이 아닌 조직적 문제를 의미한다.

이 결과는 책임이 다투어질 때 조직이 위임된 행동을 설명할 수 있는지에 관한 것이다. 정책은 소유자를 식별할 수 있지만, 어떤 지시, 권한 또는 시스템 상호작용이 결과를 만들었는지를 보여주지는 못한다.

SecurityHQ의 공개 책임성 조사 결과 역시 과거 가시성과 즉각적인 조사 준비 상태를 구분한다. 지난 30일 동안 에이전트의 행동을 완전히 재구성할 수 있다고 답한 비율은 49%에 불과했다.

이 구분은 구매자가 결과를 해석하는 방식을 바꾼다. 기록 보존과 긴급한 질문에 대한 대응은 관련된 역량이지만, 서로 다른 운영상 필요를 충족한다. 조직은 관련 증거를 보존하면서도 이를 연결하기 위해 상당한 수작업이 필요할 수 있다.

반대로 대시보드는 최근 활동을 요약할 수 있지만, 후속 조사를 위한 충분한 세부 정보를 보존하지 않을 수 있다. 어느 가능성도 조사 대상 조직 내부에서 실제로 어떤 일이 일어났는지는 입증하지 않는다. 다만 단일한 가시성 주장을 더 면밀히 검토해야 하는 이유를 설명한다.

중요한 변화는 연구의 구도 설정이다. SecurityHQ는 정책 소유권과 행동 순서를 확립하는 능력을 나란히 놓아, 두 역량 사이의 거리를 드러낸다.

엔터프라이즈 구매자에게 이는 더 까다로운 조달 질문을 제기한다. 벤더의 거버넌스 설명은 에이전트가 행동한 뒤 고객이 받게 되는 증거와 연결되어야 한다.

내부 보안 팀에도 같은 구분은 보고에 영향을 미친다. 승인 절차의 존재가 조사자가 이의가 제기된 행동과 연관된 승인을 복구할 수 있음을 입증하지는 않는다.

책임성 정책은 기대치를 정의한다는 점에서 여전히 유용하다. 그러나 운영상 가치는 사람들이 그러한 기대치를 특정 사건에 적용할 수 있는지에 달려 있다.

이 설문은 정책을 보유한 조직이 더 적은 사고를 경험했다는 점을 입증하지 않는다. 또한 추가 모니터링 구매가 책임 소재에 대한 불확실성을 해결할 것이라고 보여주지도 않는다.

그럼에도 그보다 좁은 기여는 중요하다. 기업은 책임을 공식적으로 배분하면서도 압박 상황에서 그 책임을 행사하는 데 필요한 증거는 부족할 수 있다.

이 때문에 이 이야기는 AI 위험에 관한 또 하나의 설문조사 이상의 의미를 갖는다. 이 연구는 소프트웨어에 위임된 권한이 부여된 뒤에도 익숙한 거버넌스 조치가 실제 준비 상태를 설명하는지에 의문을 제기한다.

위임된 보안 업무는 구매자와 운영자 모두에게 압박을 준다

보안 리더가 압박을 받는 이유는 에이전트가 이미 여러 팀에 책임이 분산된 시스템 내에서 작동하기 때문이다. 애플리케이션 소유자는 워크플로를 승인할 수 있고, 다른 팀은 그 자격 증명을 관리하며, 또 다른 팀은 사고 대응을 맡을 수 있다.

자격 증명은 접근을 요청할 때 소프트웨어가 제시하는 디지털 증명이다. 여러 워크플로가 같은 증명을 공유하면 계정을 식별하더라도 실제 실행 주체는 불분명하게 남을 수 있다.

겉보기에는 단순한 소유권 문제도 여러 질문으로 나뉜다. 누가 작업을 승인했는가, 누가 접근 권한을 부여했는가, 누가 통합을 유지했는가, 누가 실행을 중단할 수 있었는가?

이 역할들이 반드시 같은 사람에게 속할 필요는 없다. 문제는 조사 중에 조직이 이들을 연결할 수 없을 때 발생한다.

업무 위임은 권한이 어디서 시작되고, 변화하며, 끝나는지를 아는 일의 중요성을 높인다. 거버넌스 문서에 이름이 적혀 있다는 사실만으로는 지명된 임원이 사고를 해결할 수 없다.

운영상의 결과는 보안 부서를 넘어선다. 비즈니스 소유자는 에이전트의 행동이 승인된 목표에 부합했는지 이해해야 한다. 애플리케이션 팀은 예상된 행동과 오용을 구분할 충분한 맥락이 필요하다.

법무 및 리스크 팀은 다른 우려를 안고 있다. 사용 가능한 기록이 사후에 회사가 제시하는 설명을 뒷받침하는지 여부다. 뒷받침 증거가 분산된 상태라면 확신에 찬 서사는 제한적인 가치만 가진다.

벤더 역시 고객이 해당 기록의 일부를 제품 설계에 의존한다는 점에서 압박을 받는다. 서비스가 결코 노출하거나 보존하지 않는 정보는 고객이 독립적으로 복구할 수 없다.

Microsoft는 이러한 문제가 왜 즉각적으로 중요해졌는지를 보여준다. 2025년 3월 보안 에이전트 발표에서는 의심스러운 기만 메시지를 분류하고 평가하는 피싱 트리아지를 포함한 작업용 에이전트를 소개했다.

회사는 이러한 기능을 방어 담당자의 반복 업무를 줄이는 방법으로 제시했다. 이는 Microsoft 제품이 SecurityHQ가 보고한 격차를 보인다는 사실을 입증하지 않으면서도 구체적인 배포 맥락을 제공한다.

비교의 대상은 구매 제안이다. Microsoft는 에이전트가 맡을 수 있는 업무를 설명하고, SecurityHQ는 조직이 사후에 위임된 활동을 설명할 수 있는지를 묻는다.

이 두 제안은 같은 구매 논의에 속한다. 구매자가 조사 노력, 개입 선택지, 증거의 가용성도 평가할 수 있을 때 효율성 주장은 더 유용해진다.

위협을 모니터링하고 대응하는 팀인 보안 운영 센터의 경우, 반복 업무 감소는 분명한 매력을 제공한다. 그러나 해결되지 않은 행동은 다른 곳에서 업무를 만든다.

에이전트의 결론을 받은 분석가는 상황이 바뀔 때 그 근거를 여전히 이해해야 한다. 다른 조사자는 원래 작업이 끝난 뒤 그 결정을 다시 검토해야 할 수도 있다.

따라서 압박은 배포 승인과 지속적인 운영 모두에 이른다. 구매자는 행동에 설명이 필요해지는 경우를 포함해, 도입 후 시스템이 어떻게 작동하는지에 관한 증거를 필요로 한다.

이것이 자율성이 본질적으로 보안 업무에 부적합하다는 뜻은 아니다. 위임된 권한의 범위가 운영상 거래가 가치 있는지 판단하는 핵심이라는 뜻이다.

유용한 자동화에도 설명 가능한 행동 경로가 필요하다

핵심 긴장은 일상 업무에서 에이전트가 절약하는 시간과 예외적 결과를 설명하는 데 필요한 노력 사이에 있다. 더 빠른 실행은 조직이 방어할 수 있는 경계 안에서만 가치를 만든다.

보고된 SecurityHQ 사고가 아닌 예시 워크플로로서 피싱 트리아지를 생각해 보자. 에이전트는 의심스러운 메시지를 검토하고, 연결된 정보를 참조하며, 처리 결론을 만든다.

유용한 조사는 메시지, 참조한 정보, 에이전트의 신원, 그리고 결과 행동을 연결해야 한다. 승인이 적용되었다면 조사자는 그 승인도 행동과 연결해야 한다.

작업이 완료되었다는 기록은 더 좁은 질문에 답한다. 시스템이 어떻게 그 결과에 도달했는지를 반드시 설명하지 않은 채 종료 지점을 확립한다.

책임 있는 행동 경로는 지시, 권한, 실행, 결과를 연결해야 한다. 이들 요소 가운데 어느 하나든 사고에서 다툼의 대상이 될 수 있으므로 그 연결이 중요하다.

지시는 적절했을 수 있지만 권한은 과도했을 수 있다. 권한은 적절했을 수 있지만 실행 중 접한 정보가 작업의 방향을 바꿨을 수 있다.

또는 에이전트는 요청된 워크플로를 올바르게 따랐지만, 기반 비즈니스 규칙이 잘못되었을 수 있다. 책임성은 그러한 가능성도 수용해야 한다.

전적으로 모델에 초점을 둔 기록은 이러한 구분을 놓칠 위험이 있다. 모델은 지시를 받고, 정보를 검색하며, 연결된 도구를 호출하는 애플리케이션의 한 부분일 뿐이다.

애플리케이션 프로그래밍 인터페이스, 즉 API는 한 시스템이 다른 시스템의 기능을 요청하는 소프트웨어 인터페이스다. 에이전트 활동은 이러한 인터페이스와 각각의 별도 기록을 가로지를 수 있다.

각 서비스는 자신의 로컬 상호작용을 정확히 설명할 수 있지만, 전체 작업은 여전히 재구성하기 어려울 수 있다. 빠진 요소는 그 자체로는 유효한 기록들 사이의 관계다.

Salt Security의 10월 13일 에이전트 보안 조사 결과는 이 문제를 다른 관점에서 보여준다. 이 연구는 380건 이상의 설문 응답과 프로덕션 텔레메트리를 결합했다.

응답자 중 모든 에이전트에 걸쳐 완전한 에이전트 경로를 일관되게 추적할 수 있다고 답한 비율은 12.5%에 불과했다. Salt는 프로덕션에서 예기치 않게 행동하는 에이전트를 자동으로 중단할 수 있는 비율이 17.5%라고도 보고했다.

이 수치는 SecurityHQ의 재구성 질문과 다른 역량을 측정한다. 이를 하나의 공동 점수로 합치거나 동등한 추정치로 취급해서는 안 된다.

관련성은 개념적이다. 행동 추적과 행동 중단은 통제의 별개 부분이다. 사고 후 완전한 설명이 그 결과를 되돌리지는 못한다.

마찬가지로 워크플로를 중단한다고 해서 그것이 왜 예기치 않게 작동했는지가 설명되지는 않는다. 구매자는 한쪽이 다른 쪽을 보장한다고 가정하지 않고 두 역량을 모두 평가해야 한다.

따라서 상업적 비교는 개별 벤더 간 경쟁보다 더 넓다. SecurityHQ는 운영상 책임성을 강조하고, Microsoft는 위임된 보안 작업을 설명하며, Salt는 추적과 격리를 부각한다.

이러한 관점은 공통의 고객 문제에서 교차한다. 기업은 책임 소재를 확립하기가 더 어려워지는 제품 경계를 넘어서도 위임된 업무가 이해 가능한 상태로 남기를 원한다.

인간 승인은 모든 책임성 부담을 떠안을 수 없다

인간 검토는 중대한 결정 가까이에 사람을 배치한다는 점에서 여전히 매력적인 해답이다. 그 유용성은 그 사람이 무엇을 검토하고 승인할 수 있는지에 달려 있다.

모호한 목표에 연결된 승인은 허용된 행동에 관한 이견의 여지를 남긴다. 특정 행동에 연결된 승인은 더 명확한 경계를 확립한다.

그렇더라도 조사 담당자는 실행이 승인된 요청과 일치했는지 알아야 한다. 승인과 실행은 서로 다른 시점을 설명하며, 그 사이에 정보나 시스템 조건이 바뀔 수 있다.

승인 기록이 실제로 행사된 권한과 일치할 때 인간의 감독은 책임성에 기여한다. 사람이 관여했다고 해서 누락된 기술적 이력이 자동으로 채워지는 것은 아니다.

이 구분은 최종 검토자가 전체 워크플로의 책임을 떠안게 될 것이라고 기대하는 기업 리더에게 중요하다. 검토자는 시스템이 제공하지 않는 정보를 의미 있게 평가할 수 없다.

승인 단계를 어디에 배치할지 결정하는 제품 팀에도 이 문제는 중요하다. 모든 작업을 중단시키면 마찰이 생기고, 전체 작업을 승인하면 더 넓은 재량권을 위임하게 된다.

실질적인 절충점은 어떤 결정에 개입이 필요한지, 그리고 어떤 경계를 소프트웨어가 직접 강제할 수 있는지에 관한 것이다. 워크플로마다 발생 가능한 결과가 다르므로 서로 다른 답이 정당화된다.

응답만 추천하는 시스템은 접근 권한을 변경하는 시스템과 다른 권한 문제를 제기한다. 중요한 비교 기준은 AI라는 라벨의 유무가 아니라 허용된 작업이다.

에이전트가 조직 경계를 넘어 활동할수록 신원도 더 중요해진다. 인증은 요청을 하는 주체가 누구 또는 무엇인지를 확인하고, 인가는 그 요청자가 무엇을 할 수 있는지 결정한다.

두 기능만으로는 요청의 사업상 목적을 설명할 수 없다. 조사에는 기술적 신원을 작업 및 이를 위임한 사람이나 프로세스와 연결하는 것이 도움이 된다.

NIST의 에이전트 신원 연구는 이 과제에 관한 제도적 기준점을 제공한다. NIST는 9월에 소프트웨어 개발을 첫 번째 구현 사용 사례로 선정했다.

이 연구는 소프트웨어 개발 수명 주기 내에서 에이전트를 식별, 인증, 인가하는 데 초점을 둔다. 이는 구현을 위한 노력이지, 기업 책임성 문제가 해결되었다는 증거는 아니다.

이 방향은 권한이 소프트웨어를 통해 어떻게 전달되는지가 책임성에 부분적으로 영향을 미치기 때문에 중요하다. 표준과 시연은 그러한 관계를 일관되게 표현하기 쉽게 만드는 데 도움이 될 수 있다.

하지만 기술적 신원이 분쟁이 있는 사업 결과의 책임자를 결정할 수는 없다. 조직은 여전히 배포, 유지보수, 검토, 긴급 개입에 대한 명시적 책임 체계를 갖춰야 한다.

명확한 기록과 명확한 역할은 서로를 강화한다. 기록은 무슨 일이 일어났는지 확인하는 데 도움이 되고, 역할은 누가 그 증거를 평가하고 대응해야 하는지를 결정한다.

같은 구분은 조직 지식에도 적용된다. 검색 가능한 팀 지식 베이스는 정책과 책임에 대한 접근을 지원할 수 있지만, 실행 증거는 시스템이 실제로 무엇을 했는지를 보여준다.

이 기능들을 분리해 두면 익숙한 실수를 피하는 데 도움이 된다. 예상된 워크플로를 문서화했다고 해서 특정 실행이 그 절차를 따랐다는 사실이 입증되는 것은 아니다.

이 설문조사가 제기하지만 해결할 수 없는 질문들

SecurityHQ의 AI 에이전트 연구는 응답자들이 보고한 경험과 자신감에 관한 증거를 제공한다. 이는 각 조직 내 모든 에이전트의 행동을 독립적으로 측정한 것은 아니다.

자체 보고된 준비 수준은 실제 사고 발생 시의 성과와 다를 수 있다. 응답자들은 재구성, 책임성, 에이전트 활동을 서로 다르게 해석할 수 있다.

한 리더는 분산형 배포가 그 시야 밖에 남아 있는 상황에서도 강력한 중앙 감독이 있다고 설명할 수 있다. 또 다른 리더는 낯선 내부 프로세스를 가진 유능한 팀이 있음에도 준비 수준이 낮다고 보고할 수 있다.

이러한 가능성이 조사 결과를 무효로 만들지는 않는다. 다만 그 결과로부터 도출되는 결론의 확실성에는 한계가 있다.

이 설문조사는 에이전트 실패에 대한 보편적 추정치가 아니라 기업의 준비 수준을 면밀히 검토할 근거를 제공한다. 공개 요약 자료가 개별 배포 환경을 테스트하는 일을 대체해서는 안 된다.

공개 발표와 랜딩 페이지는 광범위한 대표성을 확립하기에 충분한 방법론적 세부 사항을 제공하지 않는다. 독자는 표본이 모든 산업이나 기업 규모를 반영한다고 가정하지 말아야 한다.

사고 관련 질문에서 AI 에이전트와 자동화를 함께 다룬 점도 또 다른 한계를 만든다. 보고된 불확실성 중 얼마나 많은 부분이 새로운 에이전트에서 비롯됐는지, 기존 자동화 워크플로에서 비롯됐는지는 분명하지 않다.

이 구분은 새로운 특성을 해석할 때 중요하다. 조직은 오랫동안 소프트웨어 통합, 외주 서비스, 공동 운영 프로세스 전반에서 책임을 배정하는 데 어려움을 겪어 왔다.

에이전트 배포는 근본적인 모든 취약점을 새롭게 만들지 않으면서도 기존 문제를 더 복잡하게 만들 수 있다. 전체 문제를 AI에만 고유한 것으로 취급하면 익숙한 통제 실패를 가릴 위험이 있다.

정책과 사고의 관계도 여전히 해결되지 않았다. 집계된 결과만으로는 특정 사고가 발생했을 때 어떤 응답자가 정책을 갖고 있었는지 알 수 없다.

따라서 정책이 사고 예방에 실패했거나, 정책이 없는 조직의 성과가 더 나빴다는 점을 입증할 수 없다. 어느 주장도 추가 증거가 필요하다.

SecurityHQ의 AI 에이전트 연구 역시 보안 및 모니터링 분야에 상업적 이해관계를 가진 조직에서 나왔다. 그렇다고 그들의 관찰을 자동으로 배제하지 않으면서도 이 맥락은 공개할 필요가 있다.

적절한 회의적 대응은 정의, 방법론, 재현 가능한 증거를 검토하는 것이다. 상업적 후원과 유용한 발견은 공존할 수 있다.

Salt의 결과와 비교할 때도 비슷한 주의가 필요하다. 서로 다른 질문, 모집단, 측정 방법 때문에 두 연구를 통해 기업 준비 수준을 명확하게 순위화할 수 없다.

광범위한 우려에 대한 일치가 측정된 유병률에 대한 일치를 의미하지는 않는다. 이 연구들은 가시성, 권한, 개입에 관한 별도의 관찰을 제공한다.

또한 이 연구가 기록을 더 중앙집중화하면 항상 보안이 향상된다는 점을 입증하는 것도 아니다. 기록에는 민감한 정보가 포함될 수 있으며, 조사 증거에 대한 접근 자체도 별도의 책임을 수반한다.

분석상 시사점은 더 좁다. 조직에는 위임한 결정을 뒷받침할 충분한 증거가 필요하다. 무엇이 충분한지는 작업과 그 결과에 달려 있다.

설득력 있는 대응이라면 특정 워크플로가 실패 상황에서도 어떻게 귀속 가능성을 유지하는지 보여줘야 한다. 하나의 플랫폼이 모든 에이전트에 책임성을 부여한다는 더 광범위한 주장은 훨씬 더 큰 증거 기반을 필요로 한다.

사고 증거, 제품 통제, 신원 구현을 주시하라

앞으로 몇 달 동안 가장 유용한 진전은 조직이 표명된 책임성을 입증 가능한 운영 역량으로 전환할 수 있는지를 보여줄 것이다. 도입 발표만으로는 그 질문이 해결되지 않는다.

첫 번째 신호는 공개된 사고 재구성과 통제된 훈련의 품질이다. 유용한 설명은 위임된 작업, 관련 권한, 작업 순서, 개입을 연결해야 한다.

또한 조사 담당자가 복구하지 못한 정보도 식별해야 한다. 불완전하더라도 솔직한 재구성은 팀이 통제력을 유지했다는 확언보다 더 많은 증거를 제공한다.

서로 다른 워크플로 전반에서 반복되는 시연은 책임성 관행이 준비된 사례를 넘어 작동한다는 신뢰를 강화할 것이다. 지속적인 공백은 SecurityHQ가 제기한 우려를 뒷받침할 것이다.

두 번째 신호는 에이전트 실행을 조사 및 차단과 연결하는 제품 증거다. 구매자는 광범위한 거버넌스 언어에 의존하기보다 공급업체가 고객에게 무엇을 공개하는지 살펴봐야 한다.

의미 있는 시연이라면 조사 담당자가 연결된 서비스 전반에서 하나의 작업을 어떻게 추적하는지 보여줄 것이다. 또한 인가된 운영자가 워크플로를 중단할 때 어떤 일이 발생하는지도 보여줘야 한다.

중단의 시점과 범위는 중요하다. 다음 작업을 막는 것은 완료된 변경을 되돌리는 것과 다르며, 제품 시연은 이 차이를 이해하기 쉽게 보여줘야 한다.

고객이 동작을 검증할 수 있는 더 명확한 통제 수단은 더 폭넓은 위임을 뒷받침할 것이다. 로컬 기록 사이의 설명되지 않는 공백은 더 좁은 권한이 필요하다는 주장을 강화할 것이다.

세 번째 신호는 에이전트 신원 및 인가 관련 구현의 진전이다. NIST가 발표한 소프트웨어 개발 사용 사례는 기술적 산출물을 지켜볼 구체적인 지점을 제공한다.

실용적인 사례는 소프트웨어가 서비스 간에 이동할 때 위임된 권한이 어떻게 귀속 가능하게 유지되는지 명확히 할 수 있다. 그 가치는 조직이 이 접근법을 실제 워크플로에 적용할 수 있는지에 달려 있다.

진전이 있다면 기술적 신원에 관한 모호성은 줄어들겠지만, 사업상 소유권 결정은 기업에 남게 된다. 지연이 계속되면 고객은 제품별 접근 방식에 더 크게 의존하게 될 것이다.

다음으로 유용한 기준점은 조직이 현실적인 조건에서 위임된 활동을 설명하고 중단할 수 있는지 여부다. 이 기준점은 연구 결과를 구매자가 이미 마주한 결정과 연결한다.

배포 환경을 평가하는 독자에게 SecurityHQ의 AI 에이전트 연구는 기존 보장의 근거를 검토해야 할 이유를 제공한다. 이미 담당자가 있는 중요한 워크플로부터 시작하라. 그 담당자에게 오늘 사용 가능한 기록을 사용해 완료된 실행을 설명해 달라고 요청하라. 지시, 권한, 작업, 결과를 차례로 추적하라. 그런 다음 이 요소들이 더 이상 일치하지 않을 때 누가 개입할 수 있는지 파악하라. 누락된 연결고리는 AI 안전성에 대한 일반적인 우려보다 더 구체적인 문제를 드러낸다. 또한 공급업체 및 내부 팀과 무엇을 개선해야 하는지 더 분명하게 논의할 수 있게 한다. 더 넓은 권한을 부여하기 전에 작업 이력과 개입 경계를 명확히 보여주는 시연을 요청하라. 결과가 분쟁의 대상이 되었을 때 귀사의 조직은 그 설명을 방어할 수 있는가?