CTech AI 보안 설문조사: 자동화가 인간 연구자의 기준을 높인다

CTech의 AI 보안 설문조사에 따르면 자동화가 이제 상당한 분량의 조사 업무를 처리하고 있지만, 이를 감독하는 인간에게는 더 높은 기준이 요구되고 있다. 9월 18일 실시된 이 설문조사는 이스라엘 사이버 보안 기업의 보안 연구자 30명을 대상으로 했다. 참가자들은 AI가 로그 파싱, 문서 검토, 초기 코드 스캔, 병렬 조사 등을 처리한다고 설명했다.

이러한 효율성에는 뚜렷한 역전 현상이 따른다. 더 빠른 조사가 건전한 판단의 중요성을 낮추지는 않는다. 오히려 취약한 가정, 불완전한 지시, 과도한 권한이 기계 속도로 피해를 일으킬 기회를 더 많이 제공한다.

이에 따라 보안 연구자들은 수동 조사에서 오케스트레이션, 검증, 책임 관리로 이동하고 있다. 그들이 맞서야 할 상대는 단순히 AI 모델이나 자동화된 공격자가 아니다. 신뢰할 수 있는 인간의 판단 없이 작동하는 자동화다.

이 변화는 전문 연구팀을 넘어선다. 기업들은 에이전트, 서비스 계정, 애플리케이션 프로그래밍 인터페이스 키 및 기타 비인간 ID로 환경을 채우고 있다. 이들 중 다수는 민감한 데이터를 읽거나 연결된 시스템 전반에서 작업을 수행할 수 있다.

한편 공격자들도 유사한 자동화를 활용해 취약점을 탐색하고 익스플로잇을 가속할 수 있다. 방어자는 자동화하되 생성된 모든 결론을 신뢰해서는 안 된다. 또한 그 작업을 수행하는 에이전트 자체도 보호해야 한다.

그 결과 이 직업에는 까다로운 새로운 기준이 요구된다. 연구자에게는 모델에 이의를 제기할 기술적 깊이, 에이전트를 통제할 운영 규율, 정확한 목표를 정의할 커뮤니케이션 역량이 필요하다.

CTech AI 보안 설문조사가 보여주는 변화

AI는 반복적인 보안 업무를 흡수했고, 연구자의 가치는 수동 산출물에서 방향 설정, 검증, 기술적 판단으로 이동하고 있다.

보안 연구자 설문조사는 이스라엘 사이버 보안 부문에서 일하는 전문가 30명의 응답을 수집했다. 이는 통제된 생산성 연구가 아니다. 현업 연구팀이 변화하는 업무를 어떻게 설명하는지에 대한 구조화된 관점이다.

설문조사에 참여한 모든 기업은 AI가 로그 파싱, 문서 검토, 초기 코드 스캔 등의 업무를 맡게 됐다고 답했다. 응답자 4분의 1은 이 기술을 개인 생산성을 증폭하는 수단으로 명시적으로 설명했다.

Astelia의 창립 연구 엔지니어인 Yuval Barak은 설문조사에서 가장 강력한 생산성 주장을 내놓았다. 그는 에이전트가 노동 집약적인 업무를 처리하면서 연구자 한 명의 산출량을 이전의 약 10배로 끌어올렸다고 말했다.

이 수치는 독립적으로 감사된 업계 벤치마크가 아니라 한 실무자의 평가를 반영한다. 그럼에도 근본적인 워크플로 변화는 응답 전반에서 일관되게 나타났다.

과거 연구자는 가설을 시험하기 전에 로그를 수집하고, 문서를 검색하며, 코드 경로를 비교하고, 잠재적 발견 사항을 정리해야 했다. 이제 에이전트는 그 단계 중 여러 개를 동시에 수행할 수 있다.

인간의 역할은 더 이른 시점에 시작해 더 늦은 시점에 끝난다. 연구자는 질문을 정의하고, 도구를 선택하며, 접근을 제한하고, 증거를 검토하고, 보고된 취약점이 실제인지 판단해야 한다.

Linx Security의 최고기술책임자 조직에서 보안 연구자로 일하는 Roy Itzhaky는 이 역할을 땅을 파는 사람이 아니라 감독자에 비유했다. 에이전트는 여러 경로를 탐색하고, 연구자는 그 경로들이 정렬되도록 유지하며 결과를 판단한다.

이 구분은 중요한 의미를 지닌다. 연구는 시스템이 얼마나 많은 단서를 만들어 내는지로 평가되지 않기 때문이다. 신뢰할 수 있는 발견 사항은 재현 가능하고, 관련성이 있으며, 증거로 뒷받침돼야 한다.

자동화된 스캔은 품질을 높이지 않고도 가설의 수를 늘릴 수 있다. 또한 자신감 있는 문장이나 설득력 있는 기술적 산출물 뒤에 불확실성을 숨길 수도 있다.

모델은 의심스러운 코드를 식별하고 그럴듯한 공격 경로를 제안할 수 있다. 하지만 연구자는 여전히 그 경로에 실제로 도달할 수 있는지, 기존 통제가 이를 차단하는지, 익스플로잇이 의미 있는 영향을 초래하는지 판단해야 한다.

같은 원칙은 문서 작업에도 적용된다. AI는 이전 조사 내용을 요약하고 관련 발견 사항을 찾아낼 수 있다. 그러나 그 맥락이 최신인지, 완전한지, 새로운 환경에 적용 가능한지는 보장할 수 없다.

이는 팀이 조직 지식을 관리하는 방식을 바꾼다. Barak은 지식이 개별 연구자에게 남아 있기보다 팀의 자산이 될 수 있다고 주장했다.

그 결과를 얻으려면 문서 모음에 챗봇을 추가하는 것만으로는 부족하다. 팀에는 정리된 증거, 추적 가능한 결정, 신뢰할 수 있는 발견 사항과 미완성 추정을 구분하는 접근 제어가 필요하다.

검색 가능한 지식 베이스는 출처 맥락을 보존할 때 이러한 전환을 지원할 수 있다. 출처 이력이 없다면 빠른 검색은 유효한 지식만큼이나 빠르게 오래된 가정을 유통시킬 수 있다.

따라서 이 사건은 단순한 생산성 이야기를 넘어선다. AI는 연구자들이 어디에 노력을 들이는지, 그리고 보안 실패가 프로세스 어디로 유입될 수 있는지를 바꾸고 있다.

반복 업무는 줄어들고 있다. 자동화된 작업을 명시하고, 감독하고, 검증해야 하는 부담은 커지고 있다.

더 빠른 연구가 보안팀에 가하는 압박

생산성 향상은 새로운 기준선을 만들며, 공격자도 유사한 자동화에 접근하는 상황에서 연구자들이 검증된 결과를 더 빨리 내놓도록 압박한다.

보안팀은 워크플로의 양쪽에서 압박을 받는다. 조직은 더 많은 산출물을 기대하고, 공격자는 AI를 이용해 정찰과 실험 시간을 단축할 수 있다.

CTech AI 보안 설문조사는 내부 기대치가 얼마나 빠르게 조정됐는지를 보여준다. 에이전트가 몇 분 만에 문서를 검토하거나 코드를 스캔할 수 있다면, 긴 수동 작업 대기열을 정당화하기는 더 어려워진다.

Tenzai의 공동 창립자이자 연구 부문 부사장인 Ofri Ziv는 이전에는 몇 달간 연구 단계에 머물던 작업이 이제 몇 주 안에 평가, 강화, 제공돼야 한다고 말했다. 이 변화는 연구 성과를 제품 제공과 직접 연결한다.

팀이 검증을 유지한다면 더 빠른 제공은 방어를 개선할 수 있다. 반면 성급한 발견, 잡음이 많은 경고, 불충분하게 테스트된 통제를 부추길 수도 있다.

이 압박은 취약점 관리에서 특히 뚜렷하게 나타난다. 조직은 악용 가능한 약점을 찾아 우선순위를 정하고, 수정 사항을 개발하며, 변화하는 환경 전반에서 해당 수정 사항을 검증해야 한다.

Google의 Mandiant 팀도 유사한 운영 모델을 설명한 바 있다. 이들의 에이전트 기반 검토 프레임워크는 여러 에이전트를 구조화된 검증 및 인간 전문성과 결합한다.

이 프레임워크는 전문가가 소스 코드를 검토하고, 익스플로잇 경로를 찾고, 잠재적 취약점을 테스트하도록 돕기 위해 설계됐다. 제한 없는 모델 탐색은 시간을 낭비하거나 뒷받침되지 않는 결론을 낳을 수 있기 때문에 그 구조가 중요하다.

속도만으로는 방어자가 안고 있는 전통적인 불리함을 해소할 수 없다. 공격자에게는 하나의 실행 가능한 경로만 필요하지만, 방어자는 많은 자산, ID, 애플리케이션 전반에서 노출을 줄여야 한다.

AI는 방어자가 이러한 작업을 병렬화하는 데 도움을 줄 수 있다. 동시에 공격자가 검색을 자동화하고, 공개 기법을 적용하며, 노출된 시스템을 더 자주 조사하도록 돕기도 한다.

Google Cloud는 2025년 하반기에 취약점 공개와 실제 익스플로잇 사이의 간격이 수주에서 수일로 줄었다고 보고했다. 이 관찰은 지속적 발견과 더 빠른 방어 검증의 필요성을 뒷받침한다.

이는 AI가 모든 짧아진 익스플로잇 기간을 초래했다는 증거는 아니다. 다만 주기적 보안 작업이 현재의 운영 조건과 점점 맞지 않게 되는 이유를 보여준다.

연 2회 실시되는 침투 테스트는 특정 시점의 환경만 포착한다. 새 코드, 권한, 서비스, 통합은 배포 직후 그 관점을 낡은 것으로 만들 수 있다.

CTech 설문조사의 4개 기업은 자체 AI 해커 또는 내부 훈련 환경을 구축했다고 답했다. 이 시스템들은 공격을 지속적으로 시뮬레이션하고, 약점이 프로덕션 환경에서 어떻게 나타날 수 있는지 테스트한다.

설문 참가자들은 이러한 프로그램에 대해 오탐 제로 기준을 설명했다. 이 기준은 증거를 요구하는 목표일 뿐, AI 보안 도구의 일반적 특성은 아니다.

오탐은 여전히 실제 비용을 수반한다. 조사 시간을 소모하고, 엔지니어링 팀의 업무를 방해하며, 사용자가 이후 경고를 무시하도록 학습시킬 수 있다.

미탐은 더 위험하다. 에이전트는 훈련 데이터나 사용 가능한 도구가 해당 공격을 포착하지 못하는 경우 새로운 기법을 놓칠 수 있다.

따라서 보안 리더는 검증된 결과를 통해 자동화를 판단해야 한다. 유용한 지표에는 재현 가능한 발견 사항, 탐지 범위, 조치 완료 시간, 거부된 에이전트 결론의 비율 등이 포함된다.

연구자에게 요구되는 대응은 분명하다. 팀은 반복적인 발견 작업을 자동화하는 동시에 검토, 테스트, 증거 관리에 더 많이 투자해야 한다.

이 압박은 지속될 가능성이 높다. 조직이 연구 파이프라인에 자동화를 통합하면 더 느린 수동 처리량으로 돌아가기는 어려워진다.

더 어려운 질문은 팀이 생성되는 산출물과 같은 속도로 판단력을 확장할 수 있는지다. 이 질문이 오늘날 보안 연구가 직면한 핵심 갈등을 규정한다.

AI 보안 연구자는 탐색자가 아니라 감독자가 되고 있다

이 직업의 핵심 경쟁은 인간의 속도와 기계의 속도 사이가 아니라, 인간의 판단과 감독 없는 자동화 사이에서 벌어진다.

AI 보안 연구자는 더 이상 모든 조사 단계를 직접 완료함으로써 가치를 창출하지 않는다. 그들의 가치는 어떤 단계를 어떤 제약 아래 실행해야 하는지, 어떤 증거 요건을 적용해야 하는지 결정하는 능력에 점점 더 좌우된다.

이 역할은 기술적 디렉팅과 닮아 있다. 연구자는 별도의 에이전트에게 소스 코드 검토, 문서 검색, 로그 검사, 경쟁 가설 테스트를 맡길 수 있다.

병렬 작업은 탐색 공간을 확장한다. 동시에 단일 수동 조사라면 피할 수 있었을 조정 문제도 만들어 낸다.

에이전트는 여러 분기에서 같은 잘못된 가정을 반복할 수 있다. 관련 맥락을 놓치거나, 매력적이지만 생산성이 낮은 이론을 추구하거나, 상충하는 결론을 낼 수 있다.

Itzhaky는 날카로운 대조를 통해 위험을 요약했다. 과거에는 부정확한 사고가 오후 한나절을 소모했지만, 이제는 에이전트 함대를 잘못된 방향으로 보낼 수 있다.

이 발언은 핵심적인 역전을 포착한다. 자동화는 행동 비용을 낮추지만, 제대로 정의되지 않은 목표의 비용은 증폭할 수 있다.

인간 감독자는 조사 목표를 범위가 제한된 작업으로 옮겨야 한다. 각 작업에는 대상, 허용된 도구, 중단 조건, 충분한 증거의 기준이 필요하다.

연구자는 또한 에이전트가 어느 정도까지 독립적으로 유지돼야 하는지 결정해야 한다. 여러 에이전트가 동일한 추론 패턴을 반복한다고 해서 의미 있는 확인이 제공되는 것은 아니다.

더 나은 설계는 역할을 분리한다. 한 에이전트는 가설을 생성하고, 다른 에이전트는 가정에 이의를 제기하며, 통제된 도구는 의심되는 동작을 재현할 수 있다.

그 과정에도 인간의 검토가 필요하다. 모델은 훈련 패턴을 공유하며, 겉으로 보이는 의견 불일치가 독립적인 추론을 보장하지는 않는다.

Terra Security의 사이버 보안 연구자인 Ofek Haviv는 연구자들이 속도 면에서 에이전트와 경쟁하는 것이 아니라고 주장했다. 그들의 가치는 에이전트 결과가 충족해야 할 기준을 설정하는 데 있다.

그 기준에는 기술적 진실뿐 아니라 조직적 관련성도 포함된다. 통제로 인해 취약한 경로에 도달할 수 없다면 이론적 약점은 영향이 거의 없을 수 있다.

반대로, 에이전트가 광범위한 권한을 보유한 경우 사소한 구성 오류도 큰 노출로 이어질 수 있다. 어떤 발견 사항에 긴급 조치가 필요한지는 맥락에 따라 달라진다.

연구자들은 생성된 답변의 기반이 되는 도구도 이해해야 한다. 리버스 엔지니어링된 코드를 검토하는 사람은 모델이 동작을 지어내거나 제어 흐름을 잘못 해석하는 상황을 알아차릴 수 있어야 한다.

Island의 보안 연구 책임자 Idan Revivo는 모델에 프롬프트를 입력할 수는 있지만 소프트웨어 리버스 엔지니어링을 배운 적은 없는 신입 인력에 대해 경고했다. 그의 우려는 자동화에 대한 저항이 아니다.

이는 검증 역량에 관한 경고다. 모델이 확신에 차서 틀린 답을 낼 때, 이를 반박할 만큼 충분한 기술적 깊이를 갖춘 사람이 필요하다.

이 요건은 주니어 연구자에게 요구되는 기준을 높인다. 전통적으로 초급 업무는 로그, 코드, 시스템, 그리고 흔한 장애 유형을 반복적으로 접할 기회를 제공했다.

에이전트가 이러한 업무를 흡수하면 신규 연구자는 직관을 기를 기회를 덜 얻을 수 있다. 팀은 감독형 실습실, 재현 훈련, 적대적 검토를 통해 사라진 실습 경험을 의도적으로 보완해야 한다.

설문조사에서는 응답자 5명 중 1명이 차세대 연구자에 대한 AI의 영향을 언급한 것으로 나타났다. Axonius의 사이버 연구 책임자 Roey Vilnai는 지식 접근성이 높아지면서 경력 수준 전반에 대한 기대치도 올라갔다고 말했다.

Zenity의 보안 연구 책임자 Tamir Ishay Sharbat는 이를 보완하는 관점을 제시했다. 그는 관련 배경지식 없이 사이버 보안에 입문했으며, 현재 연구자에게 AI 활용은 필수 요건이라고 본다.

이 두 관점은 교육상의 과제를 드러낸다. AI는 지식 접근성을 넓히는 동시에 피상적 능숙함이 전문성으로 오인되기 쉽게 만들 수 있다.

채용 과정은 도구 활용 능력과 독립적 사고력 모두를 평가해야 한다. 후보자는 에이전트를 지시하고, 그 증거를 검토하며, 모델이 실패했을 때도 업무를 이어갈 수 있어야 한다.

팀은 핵심 역량을 위한 수작업 훈련도 보존해야 한다. 리버스 엔지니어링, 익스플로잇 개발, 아이덴티티 분석, 네트워크 추론은 순수하게 이론적인 지식으로만 남아서는 안 된다.

최고의 연구자들은 기계 규모의 탐색과 현실에 기반한 기술적 회의주의를 결합할 것이다. 이들은 언제 자동화하고, 언제 범위를 좁히며, 언제 시스템을 멈춰야 하는지 알게 될 것이다.

프롬프트 활용 능력만이 아니라 이러한 결합이 이 직업의 새로운 기본 기준이 되고 있다.

비인간 아이덴티티가 공격 표면을 확장한다

보안 업무를 수행하는 에이전트 역시 조직이 발견하고, 제한하며, 모니터링하고, 해지해야 하는 권한 있는 아이덴티티가 된다.

CTech 설문조사에서 11개 기업은 AI 에이전트를 보안 경계의 주요 변화로 꼽았다. 응답자들은 이러한 에이전트를 API 키, 서비스 계정 및 기타 비인간 아이덴티티와 같은 범주로 묶었다.

Semperis의 보안 연구 부문 부사장 Tomer Bar는 일부 고객 조직에서는 이미 비인간 아이덴티티 수가 사람 수를 넘어섰다고 말했다. 그는 향후 몇 년간 이 비율이 10대 1에 이를 수 있다고 전망했다.

이 전망은 기업 임원의 예측일 뿐, 독립적으로 검증된 시장 측정치는 아니다. 그럼에도 근본적인 아이덴티티 문제는 분명히 존재한다.

에이전트는 유용한 업무를 수행하려면 데이터, 애플리케이션, 도구에 접근해야 한다. 이러한 연결은 에이전트에 아이덴티티와 권한 집합을 부여하거나, 다른 계정을 통해 빌린 접근 권한을 제공한다.

Sweet Security의 보안 연구자 Omer Nissim은 광범위한 권한과 예측 불가능한 의사결정 과정을 결합할 때의 위험을 강조했다. 그는 특히 Model Context Protocol 서버를 통해 연결된 에이전트를 지목했다.

Model Context Protocol, 즉 MCP는 AI 시스템이 외부 도구와 데이터 소스에 연결할 수 있도록 하는 표준이다. 그 유용성은 이러한 연결이 어떻게 인증되고 제한되는지에 달려 있다.

소스 코드에 대한 읽기 권한을 가진 에이전트는 한 수준의 위험을 제시한다. 클라우드 설정을 변경하고, 메시지를 보내거나, 코드를 배포할 수 있는 에이전트는 또 다른 수준의 위험을 제시한다.

OWASP는 과도한 에이전시를 과도한 기능, 권한 또는 자율성과 관련된 상태로 설명한다. 예기치 않거나 조작된 모델 출력은 이후 피해를 초래하는 행동을 유발할 수 있다.

근본 문제는 반드시 악의적인 의도가 아니다. 모호한 지시, 환각된 결론, 손상된 도구 또는 주입된 프롬프트가 정상적인 에이전트의 방향을 바꿀 수 있다.

최소 권한 원칙은 여전히 핵심 방어 수단이다. 에이전트에는 현재 작업에 필요한 도구와 권한만 부여해야 한다.

업무에 변경이 필요하지 않다면 읽기 전용 접근이 바람직하다. 영향이 큰 작업에는 별도의 승인 경로와 범위가 좁은 자격 증명을 사용해야 한다.

조직에는 개별 에이전트 아이덴티티도 필요하다. 에이전트와 사람의 자격 증명을 공유하면 추적이 어려워지고 시스템이 운영자를 사칭할 수 있게 된다.

NIST의 최근 에이전트 아이덴티티 지침은 에이전트를 별개의 개체로 취급할 것을 권고한다. 각 에이전트에는 책임 있는 사용자 또는 시스템과 연결된 식별자, 자격 증명 및 권한이 있어야 한다.

이 지침은 정적 API 키와 장기 유효 베어러 토큰의 위험도 강조한다. 이러한 자격 증명을 획득한 사람은 특정 아이덴티티의 소유를 입증하지 않고도 이를 사용할 수 있는 경우가 많다.

이 때문에 자격 증명 저장과 교체는 AI 보안의 일부가 된다. 에이전트 비밀 정보는 구성 파일, 로그, 메모리 저장소, 도구 출력 또는 디버깅 기록을 통해 유출될 수 있다.

사람의 승인이 모든 문제를 해결하지는 않는다. 지속적인 권한 요청은 승인 피로를 유발해 사용자가 신중한 검토 없이 작업을 승인하도록 만들 수 있다.

더 강력한 설계는 에이전트에 승인된 운영 경계를 부여한다. 이러한 경계는 접근 가능한 리소스, 허용된 작업, 시간 제한 및 에스컬레이션 조건을 정의해야 한다.

모니터링은 최종 답변 이상을 포착해야 한다. 보안 팀에는 도구 호출, 아이덴티티 사용, 검색된 데이터, 변경된 리소스 및 승인 결정에 대한 기록이 필요하다.

이러한 증거는 사고 조사와 일상적인 품질 관리를 뒷받침한다. 이를 통해 연구자들은 에이전트가 왜 특정 결론에 도달했는지 또는 특정 작업을 수행했는지 재구성할 수 있다.

소유권 또한 계속 명확히 보여야 한다. Itzhaky는 에이전트가 직원, 자동화 파이프라인 또는 다른 에이전트에 의해 생성될 수 있다고 언급했다.

책임 있는 소유자가 없으면, 잊힌 에이전트는 원래 작업이 끝난 뒤에도 권한을 유지할 수 있다. 이는 방치된 서비스 계정과 유사한 패턴이지만, 자율적 동작 때문에 노출을 예측하기가 더 어렵다.

따라서 탐지에는 에이전트 인벤토리, 자격 증명, 도구, 데이터 접근 권한 및 부모-자식 관계가 포함되어야 한다. 해지는 에이전트 자체와 에이전트가 생성한 모든 위임 접근 권한을 모두 종료해야 한다.

이 지점에서 생산성의 이야기는 보안의 이야기와 만난다. 조직은 아이덴티티 관리 프로그램이 이를 통제할 수 있는 속도보다 더 빠르게 에이전트를 배포할 수 있다.

그 결과 생기는 격차는 새로운 연구 대상이 된다. 보안 팀은 다른 모든 것을 조사하기 위해 에이전트를 사용하면서, 동시에 에이전트의 행동도 조사해야 한다.

자동화는 회의적인 검증을 대체할 수 없다

설문조사는 실제 업무 흐름의 변화를 포착하지만, 가장 강력한 생산성과 정확성 주장은 여전히 독립적인 측정이 필요하다.

CTech AI 보안 설문조사는 현업 연구자들의 가치 있는 직접 관찰을 제공한다. 다만 30명으로 구성된 표본은 이스라엘의 사이버 보안 산업에 집중되어 있다.

공개된 기사에는 무작위 표본, 표준화된 설문지 또는 독립적으로 감사된 성능 데이터가 제공되지 않는다. 독자는 그 비율을 보편적인 인력 측정치로 받아들여서는 안 된다.

응답자의 10배 생산성 추정치는 검증된 발견이 10배 증가했음을 입증하지 않더라도 의미 있는 변화를 시사할 수 있다. 산출물은 보고서, 가설, 코드 검토, 실험 또는 확인된 취약점을 의미할 수 있다.

이 범주들은 서로 다른 가치를 가진다. 초기 발견이 10배 늘어나도 대부분이 재현에 실패한다면 업무량은 더 늘어날 수 있다.

같은 주의는 거짓 양성이 없다는 주장에도 적용된다. 시스템은 보고 범위를 좁혀 오탐을 줄일 수 있지만, 그 선택은 놓치는 취약점을 늘릴 수도 있다.

팀은 양쪽 모두를 측정해야 한다. 정밀도는 보고된 발견 중 얼마나 많은 것이 유효한지를 나타내고, 재현율은 시스템이 실제로 관련 약점을 얼마나 많이 찾아내는지를 나타낸다.

도구는 명백한 문제만 보고할 때 정확해 보일 수 있다. 하지만 미묘한 공격 체인, 익숙하지 않은 소프트웨어 또는 긴 맥락 추론이 필요한 취약점은 여전히 놓칠 수 있다.

Google Cloud의 취약점 지침은 에이전트가 훈련 데이터에 충분히 반영되지 않은 새로운 기법이나 제로데이 취약점을 조용히 간과할 수 있다고 경고한다.

이 한계는 인간 전문성에 구체적인 역할을 부여한다. 연구자들은 스캔의 범위가 지나치게 좁은 상황을 인식하고 모델이 익숙한 패턴 밖의 테스트를 설계해야 한다.

환각도 또 다른 우려 사항이다. 생성된 보고서는 존재하지 않는 함수를 인용하거나, 의존성을 오해하거나, 불완전한 코드만으로 익스플로잇 가능성을 추론할 수 있다.

따라서 재현은 통제된 환경에서 이루어져야 한다. 신뢰할 수 있는 파이프라인은 입력값, 도구 버전, 프롬프트, 시스템 상태 및 관찰 가능한 결과를 보존해야 한다.

에이전트 출력에도 위협 모델링이 필요하다. 특히 시스템이 신뢰할 수 없는 웹사이트, 저장소, 티켓 또는 문서를 읽을 때 공격자는 모델을 조작하는 텍스트를 심을 수 있다.

이 공격은 간접 프롬프트 주입이라고 불린다. 악성 지시는 검색된 콘텐츠 안에 숨겨져 에이전트의 행동 방향을 바꾸려 한다.

방어를 모델에 나쁜 지시를 무시하라고 지시하는 데 전적으로 의존할 수는 없다. 시스템에는 격리된 도구, 범위가 제한된 권한, 콘텐츠 경계 및 중대한 작업에 대한 명시적 승인이 필요하다.

연구자들은 모델의 자신감과 증거의 품질도 구분해야 한다. 유창한 설명은 약한 발견을 완성된 것처럼 보이게 할 수 있다.

강력한 검토 과정은 몇 가지 구체적인 질문을 던진다. 해당 동작을 재현할 수 있는가? 취약한 경로에 도달할 수 있는가? 익스플로잇에 어떤 권한이 필요한가? 이를 차단하거나 탐지하는 통제 수단은 무엇인가?

이 과정은 기각된 가설도 기록해야 한다. 이러한 실패는 팀이 벤치마크를 개선하고 후속 에이전트가 같은 비생산적인 경로를 반복하지 않도록 돕는다.

보안 벤치마크는 시스템 동작을 시험하기 위해 정의된 작업 모음이다. 내부 벤치마크에는 오해를 유도하는 증거, 부분적인 접근 권한, 도구 실패 및 익숙하지 않은 취약점 유형이 포함되어야 한다.

운영 환경에서의 성능은 벤치마크 점수보다 더 중요하다. 팀은 에이전트의 발견을 이후 사고, 수작업 검토 및 독립 테스트와 비교해야 한다.

인간 검토자는 시스템이 산출했다는 이유만으로 기계의 권고를 선호하는 경향인 자동화 편향으로부터 보호받아야 한다.

검토자를 순환 배정하거나, 에이전트의 신뢰도 점수를 숨기거나, 독립적인 재현을 요청하면 이러한 편향을 줄일 수 있다. 영향이 큰 발견은 탐지와 승인 사이에 더 강한 분리가 필요하다.

회의론자의 주장은 팀이 AI를 포기해야 한다는 뜻이 아니다. 수작업 연구 역시 취약점을 놓치고, 잘못된 가설을 따르며, 일관성 없는 문서화에 시달린다.

더 타당한 결론은 더 좁다. AI는 연구 역량을 확장하지만, 팀이 규율 있는 검증을 유지할 때에만 그 역량이 유용해진다.

새로운 더 높은 기준은 완벽함이 아니다. 에이전트가 무엇을 했는지 설명하고, 결과를 검증하며, 오류의 결과를 통제하는 능력이다.

지속적 보안이 다음 시험대가 된다

다음 단계는 지속적인 검증, 측정 가능한 연구 품질, 그리고 에이전트 아이덴티티에 대한 강제 가능한 통제로 평가받게 될 것이다.

주목해야 할 첫 번째 신호는 운영 워크플로에서 지속적인 보안 평가가 주기적 테스트를 대체하는지 여부다. 여러 설문 응답자는 연 2회의 침투 테스트가 더 이상 소프트웨어와 공격자 활동의 속도에 맞지 않는다고 주장했다.

지속적 평가는 테스트 대상 자산의 코드, 구성, ID 및 외부 노출이 변화할 때마다 검증하는 것을 의미합니다. 이는 보안을 끝없는 스캐너 알림 피드로 전락시키기보다, 더 심층적인 인적 검토를 보완해야 합니다.

Google은 코드 스캔, 증명 생성 및 수정안 구축을 수행하는 에이전트형 보안 파이프라인을 설명했습니다. 회사는 이 접근 방식을 수억 줄에 이르는 내부 코드 전반에 적용하고 있다고 밝혔습니다.

이 시스템은 발견을 재현 및 개선 조치와 연결한다는 점에서 유용한 지표를 제공합니다. 핵심 척도는 다른 조직들이 더 작은 데이터세트, 팀, 인프라로도 유사한 수준의 규율을 달성할 수 있는지입니다.

광범위한 도입은 이 설문의 핵심 주장을 강화할 것입니다. 지속적인 알림 소음이나 낮은 개선 조치 비율은 이를 약화시킬 것입니다.

두 번째 신호는 기업이 비인간 ID를 어떻게 관리하는지입니다. 에이전트 인벤토리는 별도의 AI 정책 문서가 아니라 ID 및 접근 관리의 일부가 되어야 합니다.

의미 있는 진전에는 고유한 에이전트 자격 증명, 단기 액세스, 위임된 권한 부여, 명확한 소유권, 완전한 작업 로그가 포함됩니다. 조직은 사람 운영자를 비활성화하지 않고도 에이전트를 중단할 수 있어야 합니다.

에이전트의 작업을 특정 사용자, 작업 및 승인된 운영 경계와 연결하는 표준과 제품을 주시해야 합니다. 이러한 연결 고리는 개인 자격 증명을 공유하지 않고도 책임성을 뒷받침합니다.

배포가 계속해서 광범위한 API 키와 범용 서비스 계정에 의존한다면 생산성은 거버넌스를 앞지를 것입니다. 이는 섀도 관리자와 예측 불가능한 접근 경로에 대한 우려를 강화할 것입니다.

세 번째 신호는 채용과 교육이 어떻게 변화하는지입니다. 주니어 연구자들은 여전히 코드, 시스템, 익스플로잇 및 증거를 직접 다루는 실습이 필요합니다.

팀은 AI 지원 역할에 대한 역량 기대치를 더 명확히 공개해야 합니다. 면접 및 교육 프로그램에서는 후보자가 조작된 발견 사항을 식별하고, 모델의 가정에 이의를 제기하며, 결과를 수동으로 재현할 수 있는지 평가할 수 있습니다.

건전한 전환은 에이전트 감독을 중심으로 구조화된 도제 과정을 만들 것입니다. 경험 많은 연구자들은 교육생에게 성공적인 실행과 실패 사례 모두를 접하게 할 수 있습니다.

건전하지 않은 전환은 교육적 가치를 대체하지 않은 채 기초 업무를 제거할 것입니다. 이는 인터페이스는 조작할 수 있지만 그 뒤의 시스템은 검증하지 못하는 연구자를 양산하게 됩니다.

이러한 신호는 보안 전문가만큼이나 엔터프라이즈 구매자에게도 중요합니다. 권한, 증거, 검토, 실패 처리에 대한 세부 정보가 없다면 공급업체의 AI 활용은 거의 의미가 없습니다.

구매자는 누가 발견 사항을 승인하는지, 에이전트가 어떻게 인증하는지, 어떤 데이터를 보관하는지, 결과를 재현할 수 있는지를 물어야 합니다. 또한 도구가 실패하거나 입력에 악성 지시가 포함될 때 시스템이 어떻게 동작하는지도 물어야 합니다.

개발자는 보안 검토가 각 코드 변경에 더 가까워질 것으로 예상해야 합니다. 더 빠른 피드백을 받을 수 있지만, 자동화된 발견 사항도 수정 작업을 뒷받침할 충분한 맥락이 여전히 필요합니다.

지식 근로자도 주목해야 합니다. 에이전트 ID 문제는 사이버보안 도구를 넘어 확장되기 때문입니다. 이메일, 문서, 코드 또는 비즈니스 시스템에 연결된 모든 어시스턴트는 과도한 권한을 가진 비인간 ID가 될 수 있습니다.

CTech AI 보안 설문은 궁극적으로 연구자의 소멸이 아니라 업무의 재분배를 설명합니다. 기계는 더 많은 수집과 탐색을 수행합니다. 인간은 목표, 제약 조건 및 진실성에 대해 더 큰 책임을 집니다.

이러한 구조는 증거가 중심에 남아 있을 때 보안을 개선할 수 있습니다. 조직이 생성된 활동을 검증된 진전으로 혼동하면 위험은 커질 수 있습니다.

실질적인 질문은 더 이상 AI가 보안 연구에 속하는지 여부가 아닙니다. 자동화 규모가 이를 감독할 수 있는 역량을 넘어서기 전에 팀이 자동화에 책임성을 부여할 수 있는지입니다.

보안 공급업체와 내부 팀에 권한, 증거 추적, 인적 검토 및 최종 처리 결과를 포함한 완전한 에이전트 지원 발견 사례 하나를 요청하십시오. 그 기록은 광범위한 생산성 약속보다 더 많은 것을 보여줄 것입니다.