CISA AI 사이버 경고: 기술 부채가 방어자의 대응 시간을 줄이고 있다

수십 년간 누적된 기술 부채로 인해 방어자들이 더 빠른 취약점 발견과 더 좁아진 운영 여유 사이에서 대응해야 하는 상황에 놓이자, CISA는 직설적인 AI 사이버 경고를 내놓았다.

닉 앤더슨(Nick Andersen) CISA 국장대행은 9월 9일 워싱턴 D.C.에서 열린 Billington CyberSecurity Summit에서 이 같은 평가를 밝혔다. 그의 핵심 우려는 먼 미래의 인공지능 공격 유형이 아니었다. 조직들이 이미 자산 목록화, 패치, 교체에 어려움을 겪고 있는 시스템과 향상되는 AI 역량이 충돌하는 문제였다.

이 충돌은 사이버 보안을 둘러싼 논의를 바꾼다. AI는 방어자가 결함을 식별하고 복구를 가속하도록 도울 수 있지만, 공격자 역시 훨씬 더 큰 미해결 과제를 상대로 유사한 역량을 활용할 수 있다. 지원이 종료된 소프트웨어, 노출된 서비스, 취약한 자격 증명, 불완전한 자산 기록을 안고 있는 조직은 이 경쟁에서 뒤처진 채 출발한다.

CISA 역시 전년도에 축소된 팀을 재건하면서 이 시기를 맞고 있다. 앤더슨이 발언할 당시 약 250명의 선발 후보자가 연방정부 온보딩 요건을 완료하기 위해 대기 중이었다. 이 기관은 운영 역량을 회복하는 동시에 인프라 운영자가 어떤 취약점에 즉각 대응해야 하는지 판단하도록 지원해야 한다.

따라서 CISA의 AI 사이버 경고는 새로운 공격 기법보다 닫혀가는 대응 창에 관한 이야기다. 이는 기계 속도의 취약점 발견과 누적된 기술 부채에 짓눌린 인간 조직 간의 경쟁이다.

CISA의 AI 사이버 경고가 겨냥한 기존의 취약점

가장 즉각적인 변화는 CISA가 기술 부채를 통상적인 현대화 문제가 아니라 시급한 국가 안보 노출 요인으로 다루기 시작했다는 점이다.

앤더슨은 Billington 행사에서 이례적으로 강한 표현을 사용했다. 그는 미국이 수십 년에 걸쳐 잘못된 기술 결정을 내려왔으며, 전국에 걸친 기술 부채가 압도적인 수준이라고 설명했다.

그의 경고는 이러한 결정과 잠재적으로 파괴적인 사이버 보안 결과를 연결했다. 앤더슨은 지도자들이 이미 예상 가능한 결과를 피하려면 중대한 변화가 빠르게 연속해서 이루어져야 한다고 주장했다. 그의 발언은 정상회담 후 공개된 상세한 CISA 리더십 인터뷰에서 보도됐다.

기술 부채는 조직이 유지보수, 교체, 문서화 또는 아키텍처 개선을 미룰 때 발생하는 미래 비용을 뜻한다. 보안 측면에서 이 부채는 지원이 종료된 운영체제, 잊힌 인터넷 공개 애플리케이션, 일관성 없는 ID 통제, 또는 안전하게 업데이트할 수 없는 소프트웨어의 형태로 나타날 수 있다.

문제는 누적된다. 오래된 애플리케이션 하나는 관리 가능한 위험일 수 있다. 하지만 수천 개의 종속성, 장치, 계정, 인터페이스, 상속된 구성은 훨씬 더 어려운 운영 환경을 만든다.

AI는 이 환경에서 결함을 찾는 데 필요한 노동력을 줄일 수 있기 때문에 위험도를 높인다. 모델이 문제를 일으키기 위해 새로운 취약점 범주를 발명할 필요는 없다. 운영자가 코드를 검사하고, 단서를 연결하고, 테스트 사례를 생성하며, 더 많은 표적에 걸쳐 반복 작업을 수행하도록 도울 수 있다.

그렇다고 자율 시스템이 명령만으로 어떤 네트워크든 침해할 수 있다는 뜻은 아니다. 현재의 결과는 여전히 모델 역량, 사용 가능한 도구, 접근 권한, 안전장치, 표적의 복잡성에 민감하게 좌우된다. 그럼에도 자동화는 기존 공격자 워크플로를 더 저렴하고 빠르게 만들 수 있다.

관련된 규모는 새로 공개되는 취약점 수에만 국한되지 않는다. 조직이 복구를 완료하지 못해 여전히 접근 가능한 오래된 결함도 포함된다. 더 나은 발견 도구는 인간 팀이 과거에는 감당할 수 없었던 끈기로 이 미해결 과제를 다시 살필 수 있다.

이 때문에 앤더슨의 경고는 엔터프라이즈 소프트웨어 환경에 중요하다. ERP 시스템은 재무, 조달, 인사, 제조, 물류, 파트너 데이터를 연결한다. 이들의 종속성은 맞춤형 코드, ID 플랫폼, 데이터베이스, 통합 계층, 그리고 오랜 세월 축적된 인프라에 걸쳐 있는 경우가 많다.

한 구성 요소의 취약점은 해당 구성 요소를 훨씬 넘어서는 운영상 영향을 초래할 수 있다. 긴급 패치를 위해 시스템을 중단하면 결제, 생산 또는 공급망 워크플로가 중단될 수 있다. 패치를 미루면 가용성은 유지되지만 노출은 그대로 남는다.

CISA의 메시지는 이 상충 관계를 없애지 않는다. 다만 이를 관리할 수 있는 시간이 줄어들고 있다고 말한다.

이 기관과 국제 파트너들은 6월 성명에서도 같은 연관성을 지적했다. Five Eyes 사이버 당국은 AI가 취약점 발견과 악용 사이의 간격을 단축하고 있다고 경고했다. 이들의 공동 사이버 가이드는 지원이 종료된 시스템을 일상적인 기술 부채가 아닌 전략적 부채로 규정했다.

이러한 틀은 현대화를 보안 프로그램의 영역으로 옮긴다. 레거시 시스템은 더 이상 비용이 많이 들고, 느리며, 불편한 대상에 그치지 않는다. 방어자와 적대자 모두가 그 약점을 더 효율적으로 탐색할 수 있는 자산이 된다.

경영진에게 첫 번째 실질적 시사점은 불편하다. AI 보안 제품을 구매한다고 해서 누락된 자산 기록, 관리되지 않은 소프트웨어, 불분명한 시스템 소유권을 보완할 수는 없다. 자동화가 작동하려면 정확한 운영 환경이 필요하다.

기업이 어떤 서비스가 인터넷에 노출되는지 식별하지 못한다면, 그 노출 위험을 신뢰성 있게 우선순위화할 수 없다. 종속성을 매핑할 수 없다면 패치가 핵심 프로세스를 중단시킬지 알지 못할 수 있다. 책임 있는 소유자가 없다면 높은 우선순위의 발견 사항도 방치될 수 있다.

CISA의 AI 사이버 경고는 이처럼 익숙한 실패를 시간에 민감한 문제로 만든다. 위험은 AI가 할 수 있는 일에서만 비롯되지 않는다. AI가 이 수준의 역량에 도달하기 전에 조직이 미뤄온 일에서도 비롯된다.

취약점 관리는 트리아지 문제가 되고 있다

방어자는 모든 취약점을 같은 속도로 패치할 수 없으므로, CISA는 운영상 영향이 가장 큰 취약점으로 관심을 옮기고 있다.

전통적인 취약점 관리 프로그램은 흔히 심각도 점수에서 시작한다. 팀은 환경을 스캔하고 발견 사항을 수집한 뒤, 가장 심각해 보이는 항목을 해결하려 한다. 이 과정은 업무를 만들어 내지만, 어떤 결함이 가장 즉각적인 위험을 초래하는지는 항상 드러내지 못한다.

격리된 테스트 시스템의 심각한 결함은 노출된 운영 서비스의 중간 등급 취약점보다 덜 중요할 수 있다. 악용 정황, 자동화 가능성, 자산 도달 가능성, 공격자가 획득하는 접근 권한은 모두 판단을 바꾼다.

CISA는 Binding Operational Directive 26-04에서 이러한 위험 기반 접근법을 공식화했다. 이 지침은 연방 민간 행정부 기관에 적용되지만, 그 의사결정 모델은 민간 조직에도 유용한 참고 기준을 제공한다.

이 지침은 기관이 네 가지 요소를 고려하도록 요구한다. 여기에는 자산이 공개적으로 노출됐는지, 그리고 해당 취약점이 CISA의 Known Exploited Vulnerabilities Catalog에 포함되는지가 들어간다. 또한 악용을 자동화할 수 있는지, 성공 시 공격자가 부분적 또는 완전한 통제권을 얻는지도 평가한다.

이 요인들은 기술적 발견 사항을 운영상의 질문으로 바꾼다. 적대자가 표적에 도달할 수 있는지, 악용이 실제로 일어나고 있는지, 그리고 그 취약점이 어떤 통제권을 제공하는지를 묻는다.

연방 패치 지침에 따르면, 위험 조합이 가장 높은 인터넷 노출 취약점은 며칠 이내의 조치를 요구할 수 있다. 정확한 기한은 지침이 부여한 위험 범주와 복구 경로에 따라 달라진다.

이 속도는 AI가 공격자 워크플로를 압축할 가능성을 반영한다. 새로 공개된 패치는 종종 연구자와 공격자에게 근본 결함에 관한 정보를 제공한다. AI 지원 분석은 이 정보를 테스트 로직, 코드 설명 또는 संभावित 익스플로잇 경로로 전환하는 데 도움을 줄 수 있다.

하지만 정책의 핵심 전환은 “모든 것을 즉시 패치하라”가 아니다. “악용될 경우 가장 큰 위험을 초래하는 취약점을 식별하고, 먼저 조치하라”는 것이다.

이 구분은 이미 취약점 규모가 많은 보안 팀의 처리 역량을 넘어서고 있기 때문에 중요하다. 더 많은 자동 스캐너를 추가하면 신뢰할 수 있는 맥락 없이 발견 사항만 쏟아낼 경우 문제가 더 악화될 수 있다.

보안 운영 센터는 수천 건의 경보를 받으면서도 권한 있는 ID에 연결된 유일한 노출 애플리케이션을 놓칠 수 있다. 더 많은 탐지가 자동으로 더 나은 의사결정을 만들지는 않는다.

유용한 우선순위화에는 여러 종류의 맥락이 필요하다:

• 영향을 받는 자산이 공용 인터넷에 노출되는지 여부

• 해당 취약점이 실제로 악용되고 있는지 여부

• 악용이 자동으로 실행될 수 있는지 여부

• 공격자가 의미 있는 통제권을 획득하는지 여부

• 어떤 비즈니스 프로세스가 해당 자산에 의존하는지 여부

• 보완 통제가 즉각적인 노출을 줄이는지 여부

• 조직이 수정 사항을 테스트하고 배포할 수 있는 속도

이 모델은 엔터프라이즈 기술 리더에게 보안 도구를 둘러싼 정보를 개선하라는 압력을 가한다. 스캐너는 소프트웨어 버전을 식별할 수 있지만, 특정 서버에 어떤 제조 라인이 의존하는지는 이해하지 못할 수 있다. 티켓 시스템은 패치를 할당할 수 있지만, 다운타임을 둘러싼 분쟁을 해결할 수는 없다.

조직의 지식은 사이버 방어의 일부가 된다. 아키텍처 메모, 과거 사고 기록, 변경 결정, 예외 승인, 종속성 맵은 팀이 자동화된 발견 사항을 해석하도록 돕는다.

대규모 기술 문서 컬렉션을 관리하는 조직은 사고 발생 시에도 이러한 기록을 검색할 수 있도록 유지해야 한다. 잘 관리된 엔지니어링 지식 베이스는 소유권과 시스템 이력을 재구성하는 데 드는 시간을 줄일 수 있다.

그러나 문서화만으로는 충분하지 않다. 기록은 현재 환경을 반영해야 하며, 팀은 어떤 출처가 권위 있는지 알아야 한다. AI가 생성한 요약은 오래된 다이어그램과 현재 구성을 혼합할 경우 추가 위험을 초래할 수 있다.

더 큰 교훈은 AI가 이를 둘러싼 운영 체계의 품질을 증폭한다는 점이다. 정확한 자산 목록 데이터, 명확한 소유권, 검증된 대응 프로세스는 자동화를 더 유용하게 만든다. 파편화된 데이터는 확신에 차 있지만 불완전한 권고를 더 빠르게 만들어낼 수 있다.

CISA의 우선순위화 접근법은 방어자에게 시간이 제한돼 있음을 받아들인다. 이 접근법은 도달 가능하고, 악용 가능하며, 중대한 결과를 초래하는 취약점에 시간을 집중한다. 이제 이러한 구분을 내리는 데 필요한 맥락을 제공해야 하는 부담은 조직에 놓여 있다.

AI의 속도가 기술 부채와 충돌하고 있다

핵심 경쟁은 AI 공격자와 AI 방어자의 대결이 아니라, 기계 속도의 발견과 상속된 위험을 느리게 제거하는 과정의 대결이다.

보안 업계는 종종 AI를 균형 잡힌 경쟁으로 제시한다. 공격자는 자동화를 얻고, 방어자는 더 나은 탐지, 코드 분석, 대응 도구를 받는다. 이 설명은 대체로 타당하지만, 중요한 비대칭성을 가린다.

공격자는 작동 가능한 경로 하나만 찾으면 된다. 방어자는 수많은 자산을 이해하고, 서비스 가용성을 유지하며, 변경 사항을 테스트하고, 소유자를 조율하며, 회귀를 방지해야 한다. 기술 부채는 이러한 방어 작업의 모든 단계를 늘린다.

공격자에게 완전한 엔터프라이즈 맵은 필요하지 않다. 도달 가능한 서비스, 재사용된 자격 증명, 잊힌 통합, 노출된 관리 인터페이스 하나면 충분할 수 있다. 방어자는 조직이 의존하는 시스템을 망가뜨리지 않으면서 이러한 경로를 찾아 차단해야 한다.

AI는 두 업무의 일부를 가속할 수 있다. 익숙하지 않은 코드를 설명하고, 쿼리를 생성하며, 구성 파일을 비교하고, 분석가가 경고를 조사하도록 도울 수 있다. 또한 정찰, 취약점 연구, 피싱 준비, 다단계 공격 시퀀스 구성에도 활용될 수 있다.

실질적인 균형은 환경에 따라 달라진다. 정확한 자산 목록과 자동화된 배포 체계를 갖춘 성숙한 조직은 AI를 활용해 조치 시간을 단축할 수 있다. 반면 관리가 소홀한 환경에서는 같은 도구로 팀이 처리할 수 있는 양보다 더 많은 문제를 발견하게 될 수 있다.

이것이 CISA의 AI 사이버 경고에서 핵심적인 역전이다. 취약점 발견은 한때 희소한 전문성 및 인간의 주의력에 의해 부분적으로 제약받았다. AI가 이러한 제약을 줄이면서 병목은 우선순위 설정, 테스트, 소유권, 복구로 이동한다.

OpenAI는 AI가 궁극적으로 사이버 경제를 방어자에게 유리한 방향으로 바꿀 수 있다고 주장해 왔다. 8월 분석에서는 결함 탐지, 보안 코드 개선, 형식 검증 기법 적용을 위한 도구를 설명했다. 회사의 방어자 대응 창 분석 역시 기술 부채가 공격자가 찾아낼 수 있는 중대한 약점을 감추고 있음을 인정했다.

이 낙관적인 관점은 주목할 가치가 있다. 방어자는 일반적으로 자사 시스템을 통제하고, 내부 텔레메트리를 보유하며, 승인된 환경 전반에 변경 사항을 배포할 수 있다. 또한 AI를 사고 기록, 코드 저장소, 접근 관리 시스템과 통합할 수 있다.

그러나 이러한 장점이 자동으로 확보되는 것은 아니다. 많은 인프라 운영자는 일반적인 엔터프라이즈 일정에 맞춰 운영 기술을 업데이트할 수 없다. 병원, 발전 시설, 공장 또는 운송 사업자는 안전, 인증, 가용성, 공급업체 지원을 고려해야 한다.

일부 시스템은 원 개발자가 떠난 맞춤형 애플리케이션을 실행한다. 다른 시스템은 최신 소프트웨어를 지원할 수 없는 하드웨어에 의존한다. 이를 교체하려면 조달, 물리적 설치, 재교육, 계획된 서비스 중단이 필요할 수 있다.

AI 모델은 오래된 코드에서 위험한 함수를 식별할 수 있다. 그러나 운영 중단을 독자적으로 승인하거나, 호환성을 보장하거나, 실패한 마이그레이션의 책임을 질 수는 없다.

이 때문에 “기술 부채”라는 표현은 문제를 축소할 수 있다. 부채는 조직이 꾸준한 투자를 통해 상환할 수 있는 재무적 잔액처럼 들린다. 일부 레거시 위험은 오히려 구조적 의존성에 가깝다.

중요한 프로세스는 연결된 모든 프로세스가 그 구성 요소를 중심으로 설계되었기 때문에 구식 구성 요소에 의존할 수 있다. 해당 구성 요소를 제거하는 일은 신속한 보안 작업이 아니라 수년에 걸친 엔지니어링 프로그램을 만든다.

ERP 운영자에게 이 문제는 종종 맞춤형 확장 기능과 인터페이스에서 나타난다. 핵심 플랫폼은 정기 업데이트를 받을 수 있지만, 인접한 스크립트, 미들웨어, 서비스 계정, 파일 전송은 문서화가 부실한 상태로 남는다.

AI 지원 스캐너는 이러한 연결 관계를 더 빠르게 드러낼 수 있다. 그러나 조직이 소유권, 비즈니스 영향, 수용 가능한 조치 계획을 판단할 수 있을 때에만 그러한 발견은 가치를 만든다.

CISA와 그 파트너들이 기본 통제를 강조해 온 이유는 이러한 제약이 여전히 남아 있기 때문이다. 자산 가시성, ID 보안, 패치 관리, 사고 대응 준비, 지원 종료 기술의 제거는 새로 발견된 약점이 위기로 번질지를 여전히 결정한다.

9월 정상회의의 리더들도 이 점을 강조했다. 사이버보안 관계자들은 향후 18개월 동안 단순한 실패가 계속해서 매우 중대한 결과를 낳을 것이라고 말했다. 이들의 보안 기본 사항 평가는 ID, 자산 이해, 레거시 제거, 더 빠른 패치에 초점을 맞췄다.

이 메시지는 AI가 운영 성숙도를 대체할 수 있다는 인상을 주는 공급업체들에 도전한다. 모델은 우선순위를 권고할 수 있지만, 조직은 그 권고에 입력되는 데이터를 신뢰해야 한다. 또한 행동할 권한과 역량도 갖춰야 한다.

이는 방어적 AI를 위한 측정 가능한 시험을 만든다. 유용한 질문은 시스템이 얼마나 많은 취약점을 찾아내는지가 아니다. 검증된 발견과 안전한 조치 사이의 시간을 얼마나 줄이는지다.

해결률을 개선하지 못하면서 발견 건수만 두 배로 늘리는 도구는 방어자의 부담을 키울 수 있다. 더 많은 대기열, 에스컬레이션, 예외 처리, 미해결 위험을 만든다.

더 강력한 시스템은 발견 사항을 노출도, 악용 증거, 비즈니스 중요도, 사용 가능한 통제 수단과 연계할 것이다. 또한 한 취약점이 다른 취약점보다 먼저 조치되어야 하는 이유를 보여줄 것이다. 운영에 영향을 미치는 결정의 책임은 인간 소유자가 계속 맡는다.

이 구분은 AI 지원 보안과 자동화된 잡음을 가른다. 전자는 판단의 품질과 속도를 개선한다. 후자는 이미 과부하 상태인 보고 프로세스만 가속한다.

CISA의 인력 공백이 대응을 복잡하게 만든다

CISA는 인프라 운영자에게 더 빠른 대응을 요구하는 동시에, 대규모 인력 감축으로 잃은 역량을 기관 내부에서 재건하고 있다.

Andersen의 정상회의 발언에는 중요한 인력 현황 업데이트가 포함됐다. 약 250명의 채용 후보자가 조건부 제안을 받았으며, 보안 인가 및 기타 입사 절차를 마치기를 기다리고 있었다.

기관의 채용 노력에 관한 보도에 따르면, 이 후보자들은 심사와 면접을 거쳐 선발됐다. CISA는 수백 명의 신규 직원이 합류할 것으로 예상했지만, Andersen은 더 큰 인력 목표 달성 시점은 제시하지 않았다.

국토안보부 지도부는 앞서 약 600개 직위를 추가하는 방안을 논의한 바 있다. Andersen은 단순한 인원수 목표를 추구하기 전에 운영상 공백을 채우는 데 중점을 뒀다.

대기 중인 채용 인력에는 사이버보안, 인프라 보안, 비상 통신, 지역 운영 전반의 역할이 포함된다. CISA는 추가 직원을 온보딩하는 데 필요한 보안 인가 처리와 행정 업무를 담당할 인력도 필요하다.

이 세부 사항은 인력 회복이 즉각적이지 않은 이유를 보여준다. 보안 인가를 받은 연방 사이버보안 전문가를 채용하려면 후보자를 선발하는 것 이상이 필요하다. 신원 조사, 보안 검토, 약물 검사, 공식적인 입사일이 배치를 지연시킬 수 있다.

CISA 채용 업데이트는 기관 인력의 약 3분의 1에 영향을 미친 감축도 설명했다. 전직 관계자와 의원들은 이러한 손실이 주, 지방 및 중요 인프라 파트너에 대한 지원을 약화했는지 의문을 제기해 왔다.

인력 규모만으로 사이버 복원력이 결정되지는 않는다. 조직의 우선순위, 정보 공유 관계, 기술 시스템, 권한, 리더십 모두가 CISA의 성과에 영향을 미친다.

그럼에도 시점은 피할 수 없는 긴장을 만든다. 기관은 더 빨라진 AI 지원 위협에 대응하도록 파트너를 도와야 하는 동시에, 팀, 현장 관계, 전문 지식을 재구축해야 한다.

중요 인프라는 단일하고 균질한 네트워크가 아니기 때문에 지역 자문 인력은 특히 중요하다. 수도 시스템, 병원, 에너지 공급업체, 금융기관, 통신 회사, 지방정부는 서로 다른 운영 제약에 직면한다.

국가 차원의 지침은 우선순위를 정할 수 있다. 지역 및 부문 전문가들은 이러한 우선순위를 운영자가 적용할 수 있는 결정으로 전환하는 데 도움을 준다. 이러한 맥락을 잃으면 유용한 지침도 제한된 관심을 두고 경쟁하는 또 하나의 문서가 될 수 있다.

인력 공백은 CISA의 조정자 역할도 복잡하게 만든다. 민간 기업은 국가 중요 인프라의 상당 부분을 보유하고 있으며, 연방 기관은 정보, 규제, 사고 대응 역량을 보유한다.

효과적인 조정은 위기 전에 구축된 신뢰에 달려 있다. 인프라 운영자에게는 신뢰할 수 있는 연락처, 명확한 보고 채널, 민감한 정보를 공유하면 유용한 지원으로 이어질 것이라는 확신이 필요하다.

인원수를 다시 늘린다고 이러한 관계가 즉시 복원되지는 않는다. 신규 인력은 교육, 조직적 맥락, 파트너 조직과 함께할 시간이 필요하다. 떠난 숙련 직원들은 수년에 걸친 부문 지식을 함께 가져갔을 수 있다.

이는 Andersen의 경고를 무효화하지 않는다. 오히려 그 경고를 더 중대하게 만든다. CISA는 자체 역량 제약 속에서 대응 가능 시간이 좁아지고 있음을 인정하고 있다.

회의적인 해석은 수사와 측정 가능한 개선도 구분해야 한다. 강한 표현은 경영진의 관심을 집중시킬 수 있지만, 시스템을 패치하거나 공석을 채우지는 않는다.

CISA의 입장이 결과를 바꿀지는 세 가지 질문이 결정할 것이다.

첫째, 기관은 위험 모델을 조직이 기존 워크플로 내에서 사용할 수 있는 데이터로 전환할 수 있는가? 보안 팀에는 광범위한 권고만이 아니라 기계가 읽을 수 있는 노출도, 악용, 영향 신호가 필요하다.

둘째, CISA는 인프라 파트너를 지원할 만큼 충분히 빠르게 운영 및 지역 인력을 재건할 수 있는가? 조건부 제안은 선발된 사람이 업무를 시작하고 역할에서 효과를 발휘할 때에만 의미가 있다.

셋째, 조직은 중요 서비스를 불안정하게 만들지 않고 레거시 노출을 줄일 수 있는가? 더 빠른 패치 요구사항은 공급업체, 운영자, 규제기관이 안전한 변경을 조정할 수 있을 때에만 도움이 된다.

AI 역량 예측에는 불확실성도 있다. 사이버 성능은 모든 작업에서 균일하게 개선되지 않는다. 모델은 통제된 벤치마크에서는 효과적으로 보일 수 있지만, 익숙하지 않은 시스템, 불완전한 접근 권한, 긴 운영 사슬에서는 어려움을 겪을 수 있다.

공격자도 유사한 한계에 직면한다. AI는 진입 장벽을 낮추고 규모를 키울 수 있지만, 성공적인 침입은 여전히 접근 가능한 표적, 활용 가능한 취약점, 자격 증명, 지속성, 운영 판단에 달려 있다.

방어자는 모든 AI 주장을 즉각적인 자율 위협의 증거로 취급해서는 안 된다. 그렇게 하면 이미 일반적인 공격을 막고 있는 통제 수단에서 자금이 분산될 수 있다.

더 나은 해석은 더 좁다. AI는 알려진 약점이 더 빠르고 더 큰 규모로 검토될 가능성을 높인다. 누적된 기술 부채를 가진 조직은 자신들의 불명확성이 점점 덜 보호적인 요소가 되고 있다고 가정해야 한다.

이 주장은 완전 자율형 사이버 전쟁을 예측하지 않아도 충분히 심각하다. 또한 팀이 오늘 평가할 수 있는 행동으로 이어진다.

방어자가 다음으로 주시해야 할 사항

다음 시험대는 CISA, 인프라 운영자, AI 개발자가 안전하지 않은 자동화를 만들지 않으면서 경고를 더 짧은 조치 시간으로 전환할 수 있는지 여부다.

첫 번째 신호는 CISA의 위험 기반 취약점 우선순위 설정 이행이다. 연방 기관은 노출도, 알려진 악용, 자동화 가능성, 기술적 영향이 더 나은 조치 결정을 만들어내는지 보여줘야 한다.

성공은 가장 중대한 약점이 더 빨리 해결되고, 위험이 낮은 발견 사항에는 그에 비례하는 관심이 주어지는 것을 의미한다. 또한 기관이 한 취약점이 특정 우선순위 범주에 들어간 이유를 설명할 수 있어야 한다.

실패는 또 하나의 규정 준수 대기열로 나타날 것이다. 기관이 정확한 자산 맥락 없이 기한을 쫓는다면 예외 처리, 서비스 중단 또는 피상적인 해결 기록을 낳을 수 있다.

민간 부문은 이 이행을 면밀히 지켜봐야 한다. 연방 지침이 대부분의 기업을 자동으로 구속하지는 않지만, CISA의 의사결정 모델은 공급업체, 보험사, 규제기관, 기업 보안 프로그램에 영향을 미칠 수 있다.

두 번째 신호는 CISA의 인력 회복이다. 중요한 숫자는 단지 250건의 조건부 제안이나 600개 직위라는 목표가 아니다. 실제로 업무를 시작하고, 우선순위 팀에 합류하며, 파트너 조직을 위한 서비스를 복원하는 인원의 수다.

운영 부서와 지역 현장 역할은 특히 주목할 만하다. 이들의 진전은 기관이 국가 정책과 부문별 지원을 결합할 수 있는지를 보여줄 것이다.

채용 속도만으로 성공이 입증되지는 않는다. 유지율, 교육, 파트너 접근성, 복원된 기술 서비스가 발표보다 더 중요하다. 조직적 지원이 부족한 대규모 채용은 즉각적인 역량을 제공하는 데 어려움을 겪을 수 있다.

세 번째 신호는 방어용 AI가 복구 시간을 줄인다는 증거다. 공급업체와 모델 개발자는 계속해서 벤치마크 결과, 시연, 보안 관련 주장을 발표할 것이다. 조직은 실제 운영 환경 내부에서 측정된 결과를 찾아야 한다.

유용한 증거에는 더 짧은 검증 주기, 줄어든 잘못된 우선순위 지정, 더 빠른 담당자 배정, 더 안전한 패치 배포가 포함될 수 있다. 또한 사람이 권고 사항을 어떻게 검토했고 모델 오류를 어떻게 처리했는지도 보여줘야 한다.

발견된 취약점의 증가는 자동으로 방어 역량의 향상을 뜻하지 않는다. 팀이 공격자가 이를 악용하기 전에 중요한 노출을 해소할 때 발견의 가치는 생긴다.

방어자는 고도화된 사이버 역량이 얼마나 넓게 확산되는지도 모니터링해야 한다. 접근이 제한된 모델은 신뢰할 수 있는 연구자에게 일시적 우위를 유지시켜 줄 수 있다. 널리 이용 가능한 시스템에 유사한 역량이 탑재되면 그 완충 여지는 줄어든다.

정책 논의는 부분적으로 접근 제어, 단계적 출시, 검증된 방어자와의 파트너십에 집중될 것이다. 그러나 출시 제한만으로는 이미 공공 및 민간 인프라 전반에 내재된 취약점을 없앨 수 없다.

지속 가능한 대응은 덜 극적이다. 조직에는 정확한 자산 목록, 지원되는 소프트웨어, 더 강력한 신원 제어, 검증된 사고 대응 계획, 그리고 안전하지 않은 시스템을 폐기할 권한이 필요하다.

보안 책임자는 다음과 같은 구체적인 질문부터 시작할 수 있다:

• 확인된 담당자가 없는 인터넷 노출 자산은 무엇인가?

• 지원이 종료된 구성 요소에 의존하는 핵심 애플리케이션은 무엇인가?

• 접근 가능성과 알려진 악용 사례를 동시에 지닌 취약점은 무엇인가?

• 서비스 중단이나 공급업체 승인이 필요한 패치는 무엇인가?

• 문서화되지 않은 시스템 지식에 의존하는 대응 결정은 무엇인가?

• 분석가가 재현하고 검증할 수 있는 AI 발견 사항은 무엇인가?

• 조직은 영향을 받은 서비스를 얼마나 빠르게 격리할 수 있는가?

이 질문들은 경영진 수준의 위험을 운영 업무와 연결한다. 또한 AI 투자가 실제 병목을 해결하는지, 아니면 단지 더 많은 발견 사항을 만들어 내는지 드러낸다.

엔터프라이즈 구매자에게 가장 신뢰할 수 있는 보안 제품은 자신의 우선순위 결정 방식을 설명할 것이다. 권고의 근거가 되는 증거를 제시하고, 불확실성을 드러내며, 변경 관리 프로세스와 통합되어야 한다.

개발자에게는 안전한 코드 생성이 시연을 넘어선 면밀한 검토를 받을 가치가 있다. 팀은 의존성 선택, 테스트 범위, 권한 경계, 그리고 모델이 오래된 문서를 처리하는 방식을 평가해야 한다.

지식 근로자에게 핵심 문제는 익스플로잇 개발이 아니라 접근 권한이다. 민감한 아키텍처 메모, 자격 증명, 사고 기록, 내부 논의는 모두 공격자에게 가치 있는 입력이 될 수 있다. 신원 제어와 정보 분류는 여전히 필수적이다.

CISA의 AI 사이버 경고는 궁극적으로 두 형태의 가속 간 경쟁을 설명한다. AI는 발견과 분석을 가속할 수 있으며, 기관은 의사결정과 복구를 가속해야 한다.

한쪽은 방치된 경로 하나만 찾아내면 된다. 다른 쪽은 자신의 환경을 이해하고, 서비스를 유지하며, 그 경로를 안전하게 차단해야 한다.

이러한 불균형은 Andersen의 긴박함을 설명한다. 또한 해결되지 않은 기술 부채 위에 또 하나의 자동화 계층을 얹는 방식이 해답이 될 수 없는 이유도 설명한다.

조직은 단순한 결과로 진전을 판단해야 한다. 가장 중대한 노출이 공격자가 이를 활용할 수 있는 속도보다 더 빠르게 사라지고 있는가? 답이 여전히 불분명하다면 대응 가능 시간은 계속 줄어들고 있다.