a16z AI 익스플로잇 분석: 공격자는 몇 시간 만에 움직이지만 방어자는 여전히 시간이 필요하다
a16z는 AI가 수 주간의 전문 작업이 필요했던 사이버 공격의 핵심 단계를 몇 시간 단위의 작업으로 압축했다고 주장한다. 11월 5일 공개한 분석은 첫 실제 피해자에게 4시간도 채 되지 않아 도달한 것으로 알려진 PaperCut 캠페인에 초점을 맞춘다. a16z AI 익스플로잇 주장은 취약점이 공개된 뒤 조직에 대응 시간이 있다는 익숙한 방어 가정에 압박을 가한다.
익스플로잇은 보안 취약점을 무단 접근이나 제어로 전환하는 소프트웨어다. 신뢰할 수 있는 익스플로잇을 만드는 일은 한때 결함 발견과 조직 공격 사이에 의미 있는 장벽을 만들었다. 반복적인 도구 사용을 통해 작업을 수행하는 소프트웨어 시스템인 AI 에이전트는 그 장벽을 낮추기 시작하고 있다.
핵심 충돌은 더 빨라진 공격 준비와 안전한 수정 사항 배포에 필요한 운영 작업 사이에 있다. RAND의 과거 연구는 이전 기준선을 설정하는 데 도움이 된다. PaperCut 조사는 최근 사례를 제공하지만, 서로 다른 이 측정치만으로 보편적인 가속 비율을 입증할 수는 없다.
a16z AI 익스플로잇 분석이 실제로 주장하는 내용
Asaf Ezra와 Steph Zhang은 11월 5일 익스플로잇 경제성 분석을 공개했다. 이들은 익스플로잇 개발 비용 하락이 공격자가 공략할 여력이 있는 조직의 범위를 바꾼다고 주장한다. 또한 광범위한 피해와 AI가 인터넷을 마비시킬 것이라는 예측을 구분한다.
중요한 변화는 공개된 취약점을 공격으로 전환하는 데 필요한 숙련된 관심과 노력이 줄어들 가능성이다.
이 구분은 이 이야기를 자동화된 해킹에 대한 또 하나의 경고보다 더 구체적으로 만든다. 보안팀은 이미 스캐닝, 반복 로그인 시도, 기존 도구를 활용한 공격을 대비한다. 더 어려운 계획 문제는 공격자가 더 적은 사람의 노력으로 그런 도구를 조정하고 빠진 구성 요소를 개발할 수 있을 때 발생한다.
기존 익스플로잇을 배포하는 것과 낯선 소프트웨어용 익스플로잇을 준비하는 일의 차이를 생각해 보자. 배포는 공격자가 누군가 완료한 작업을 재사용하게 한다. 준비에는 조사, 테스트, 수정, 그리고 결과가 실제로 작동하는지에 관한 판단이 필요하다.
AI가 이 준비 부담을 줄인다면, 방어자는 익숙한 공격의 추가 복제본 이상에 맞닥뜨린다. 새로 공개된 취약점을 겨냥한 캠페인을 구성할 수 있는 운영자의 풀이 넓어진다. 이는 모든 모델이 모든 시스템을 뚫을 수 있다는 주장이 아니라 핵심적인 경제적 추론이다.
a16z AI 익스플로잇 분석은 기술적 역량을 방어자의 대응 절차와 연결하기 때문에 주목할 만하다. 권고문은 즉시 공개될 수 있다. 그러나 조직은 여전히 영향을 받은 소프트웨어를 운영하는지, 취약한 구성 요소가 노출되어 있는지를 확인해야 한다.
공개 시점도 중요하다. 이는 11월 5일에 발표된 새 침해 사고가 아니라 이전 사건에 대한 11월의 해석이다. 독자는 분석과 근본적인 캠페인 및 원래 조사를 구분해야 한다.
따라서 가장 강한 해석은 조건부다. 소프트웨어에 접근할 수 있고, 취약점이 악용 가능하며, 운영자가 준비를 자동화할 수 있는 경우 유효한 대응 시간은 더 짧아진다. 이런 조건이 충족되지 않는다면 더 빠른 코딩만으로 성공적인 침입이 이뤄지지는 않는다.
이러한 틀은 모델 역량을 유일한 변수로 취급하지 않는다. 공격자는 여전히 취약한 서비스에 접근할 수 있어야 하며, 자신들이 가치 있다고 여기는 결과에 이르는 경로가 필요하다. 방어자 역시 그 경로의 존재 여부에 영향을 미친다.
또한 보안 제품 구매자가 공급업체에 물어야 할 질문도 바뀐다. 관련 쟁점은 알림, 노출 평가, 격리, 검증된 완화 조치 사이에서 제품이 어떤 지연을 제거하는지다. 책임 있는 시스템 소유자를 식별할 수 없다면 더 빠른 경보의 가치는 제한적이다.
엔지니어링 리더에게 즉각적인 시사점은 의무적인 구매보다 가정에 관한 문제다. 공격자의 느린 준비에 의존하는 모든 대응 절차는 면밀히 검토할 필요가 있다. 이제 그 유용성은 가정한 지연이 여전히 존재한다는 증거에 달려 있다.
PaperCut 캠페인에는 서로 다른 여러 시간축이 있다
GreyNoise의 9월 9일 AI 오케스트레이션 캠페인 조사는 핵심 사건을 제공한다. 이 조사는 8월 31일의 개발 활동 뒤 9월 1일 더 광범위한 캠페인이 이어졌다고 보고한다. 빈 작업 공간은 4시간도 채 되지 않아 실제 피해자를 대상으로 한 원격 코드 실행으로 바뀌었다.
원격 코드 실행은 공격자가 다른 컴퓨터에서 명령을 실행할 수 있음을 뜻한다. GreyNoise는 이어진 캠페인이 26초 만에 11개 조직을 침해했다고 보고한다. 관측 전반에서 이 회사는 48개국 395개로 명명된 조직과 연관된, 영향을 받은 PaperCut 인스턴스를 최소 440개 식별했다.
개발 시간, 공격 개시 속도, 최종 피해는 서로 다른 측정치다.
4시간 간격은 준비부터 처음 관측된 실제 성공까지를 설명한다. 26초 간격은 그 준비 이후의 급격한 공격을 설명한다. 어느 쪽도 공격자가 알려지지 않은 결함을 발견하고 몇 초 만에 395개 조직을 완전히 장악했다는 사실을 입증하지 않는다.
이 구분은 압축된 시간대가 쉽게 오해를 부르는 헤드라인이 되기 때문에 중요하다. 신속한 개시는 캠페인이 준비된 뒤의 실행 속도를 보여 준다. 그것이 기존 연구, 기존 지식 또는 재사용 가능한 인프라에 얼마나 의존했는지는 독립적으로 측정하지 않는다.
GreyNoise는 교육 부문에서 영향을 받은 인스턴스 204개를 기록했다. 이는 교육 분야의 노출 우려를 뒷받침하지만, 조직 절반이 학교였다는 단순한 주장에는 신중함이 필요하다. 인스턴스, 기관, 명명된 조직은 서로 다른 집계 단위다.
이 보고서는 모델 귀속과 관련된 구분도 제시한다. 도구와 모델 상호작용을 조정하는 소프트웨어 환경인 Codex harness를 통해 작동하는 DeepSeek 모델을 설명한다. 이것이 OpenAI 모델이 공격을 수행했다는 사실을 입증하지는 않는다.
이 구분은 보호 장치를 평가하는 구매자에게 중요하다. 친숙한 인터페이스 이름이 기본 모델을 신뢰성 있게 식별해 주지는 않는다. 평가는 모델, 조정 소프트웨어, 연결된 도구, 운영자의 권한을 구분해야 한다.
GreyNoise는 12개 피해 조직에서 Windows 조직 네트워크에 대한 광범위한 통제를 뜻하는 도메인 관리자 접근을 관측했다. 이는 전체 침해 건수보다 더 좁은 결과다. 이 보고서는 의심스러운 웹 요청을 필터링하는 웹 애플리케이션 방화벽에 의해 차단된 공격 시도도 설명한다.
이러한 결과는 양극단의 해석 모두를 복잡하게 만든다. 이 캠페인은 단순히 실패한 실험이 아니었다. 그렇다고 영향을 받은 모든 조직에 대한 무제한적 통제를 보여 준 것도 아니다.
독자에게 실질적인 교훈은 AI 지원 침입을 논의할 때 단계를 보존하는 것이다. 초기 접근, 자격 증명 노출, 관리 권한 장악, 데이터 탈취, 서비스 중단을 하나의 레이블로 뭉뚱그려서는 안 된다. 각각은 다른 대응과 다른 수준의 피해를 의미한다.
같은 원칙은 내부 사고 대시보드에도 적용된다. 취약한 서버 수는 노출을 나타낸다. 확인된 침입 수는 다른 상태를 나타낸다. 이를 합치면 경각심을 주는 차트는 쉽게 만들 수 있지만, 유용한 운영 결정을 내리기는 더 어려워진다.
학교와 소프트웨어 운영자는 대응 격차에 직면한다
PaperCut의 사고 대응 기록은 8월 27일 오전 9시 42분 AEST에 고객 보고가 접수됐다고 설명한다. 보고한 고객은 교육 분야에서 일했다. 해당 고객의 모니터링은 의심스러운 행동을 탐지했고, 신속한 격리는 조사를 위한 증거를 보존했다.
PaperCut은 이 공격이 로그인 통제를 우회하는 인증 우회와 코드 실행을 가능하게 한 추가 취약점을 결합했다고 말한다. 회사는 팀이 조사하는 동안 노출된 고객에게 애플리케이션 서버를 공용 인터넷에서 분리할 것을 처음 권고했다.
대응 격차에는 패치의 가용성뿐 아니라 소유권, 테스트, 커뮤니케이션, 서비스 연속성도 포함된다.
이 지점에서 이 이야기는 소프트웨어 운영자에게 압박을 만든다. 공급업체는 보고된 행동을 조사하고, 영향을 받은 코드를 확인하며, 완화 조치를 준비하고, 유용한 지침을 전달해야 한다. 고객은 그 지침을 자체 설치 환경 전반의 변경으로 전환해야 한다.
이러한 활동에는 코드 생성이 자동으로 없앨 수 없는 의존성이 있다. 관리자는 서비스를 중단할 권한이 필요하다. 서비스 소유자는 변경이 필수 업무 흐름을 망가뜨리지 않을 것이라는 확신이 필요하다. 조사자는 시스템을 재구축하기 전에 증거가 필요하다.
PaperCut은 긴급 릴리스가 고객 기능에 영향을 미치는 회귀 문제를 일으켰음을 인정한다. 이 회사는 지속적인 테스트와 보안 강화를 병행하면서 유용한 보호를 우선시했다고 말한다. Huntress와 watchTowr를 포함한 독립 연구자들도 대응에 기여했다.
이 기록은 안전하지 않은 소프트웨어를 변명하지 않으면서도 운영상 상충 관계를 보여 준다. 공급업체는 여전히 결함과 명확한 지침에 책임이 있다. 고객은 완전한 수정 사항을 사용할 수 없을 때 어떤 보호 조치를 즉시 적용할 수 있는지 판단해야 한다.
교육 기관에서 인쇄 관리 서버는 교육이나 재무를 지원하는 시스템과 비교해 주변적인 것으로 보일 수 있다. 그 보안 중요성은 권한과 연결 관계에 달려 있다. 조직적 중요도와 기술적 권한은 반드시 일치하지 않는다.
이는 예산 편성 문제를 만든다. 시스템은 제한적인 관리 관심만 받으면서도 침해될 경우 중대한 결과를 초래할 접근 권한을 유지할 수 있다. 비즈니스 애플리케이션의 가시성만을 기준으로 한 보안 계획은 이 불일치를 놓친다.
소규모 팀은 단순화된 공격 시간대에서 사라지는 조정 비용에도 직면한다. 서버를 관리하는 사람을 찾는 데 대응 시간이 소진될 수 있다. 설치 기록을 찾거나 이전 업데이트가 성공했는지 판단하는 과정도 추가 지연을 만든다.
따라서 문서화는 대응 역량의 일부가 된다. 팀에는 최신 소유권 기록, 노출 관련 결정, 완료된 변경의 증거가 필요하다. 검색 가능한 엔지니어링 지식 베이스는 이러한 조정을 지원할 수 있지만, 문서화가 기술적 통제를 대체할 수는 없다.
압박은 소프트웨어 공급업체에도 이어진다. 고객은 임시 격리 조치와 완료된 완화 조치를 구분하는 권고문이 필요하다. 긴급 릴리스가 대체될 때는 명확한 대체 안내가 필요하며, 이전 지침이 충분하지 않을 때는 명시적 통지가 필요하다.
기업 구매자에게 이러한 커뮤니케이션 품질은 조달 과정에서 주목할 가치가 있다. 제품 시연은 불확실성 속의 긴급 대응을 거의 보여 주지 않는다. 그러나 유효한 시간이 남아 있는 동안 고객이 경고에 따라 행동할 수 있는지는 바로 그 대응이 결정한다.
따라서 경쟁의 질문은 어느 공급업체가 최고의 취약점 탐지기를 보유했는지보다 더 넓다. 여기에는 누가 노출된 인프라를 줄이고, 업데이트를 관리 가능하게 만들며, 고객에게 변화하는 사고를 헤쳐 나갈 실행 가능한 경로를 제공하는지가 포함된다.
자동화는 모든 기술적 한계가 아니라 노동 방정식을 바꾼다
RAND의 2017년 익스플로잇 개발 연구는 악용 가능한 취약점이 식별된 뒤 개발에 걸리는 기간의 중앙값이 22일이라고 밝혔다. 이 연구는 공개적으로 배포된 수정 사항이 없는 결함, 즉 제로데이 취약점을 검토했다.
그 수치와 PaperCut 타임라인은 서로 다른 집단과 출발 조건을 설명한다. 둘만으로 인간 개발자와 AI 에이전트의 통제된 비교를 확립할 수는 없다. 한 기간을 다른 기간으로 나누면 극적인 비율은 나올 수 있지만 과학적 의미는 거의 없다.
그럴듯한 메커니즘은 모든 익스플로잇이 보편적으로 몇 시간짜리 작업으로 전환되는 것이 아니라, 조정과 반복에 드는 노력이 줄어드는 데 있다.
익스플로잇 준비에는 다른 소프트웨어 프로젝트와 닮은 작업이 포함된다. 운영자는 이용 가능한 정보를 해석하고, 테스트를 구성하며, 실패를 검토하고, 접근 방식을 수정해야 한다. 자동화는 지속적인 전문 인력의 개입 없이도 이러한 활동이 멈추지 않게 할 때 가치가 커진다.
따라서 핵심 질문은 단계 사이에 얼마나 많은 판단이 여전히 필요한가다. 그럴듯한 스크립트를 생성하는 시스템도 운영자에게 상당한 작업을 남긴다. 출력물을 테스트하고 오류를 수정하는 시스템은 다른 범주의 노동을 줄인다.
이 차이는 모델 품질과 함께 에이전트 오케스트레이션이 중요한 이유를 설명한다. 도구 접근성과 피드백은 생성된 코드가 작동하는 워크플로가 될 수 있는지를 결정한다. 채팅 창에서의 모델 답변은 운영 환경 내 성능을 측정하지 못한다.
이는 브랜드 비교가 오해를 낳을 수 있는 이유이기도 하다. OpenAI와 DeepSeek는 서로 다른 모델 공급업체를 가리키는 반면, 하니스는 모델을 둘러싼 환경을 가리킨다. PaperCut 사례는 이들 공급업체의 보안 역량에 대한 통제된 순위를 제공하지 않는다.
상용 보안 제품도 관련된 평가 문제에 직면한다. 자율 테스트에 관한 주장은 출발 정보, 허용된 도구, 인간 개입, 성공의 정의에 관한 근거를 필요로 한다. 이런 세부 사항이 없으면 비교는 유용한 방어 성능보다 발표 품질에 보상하게 된다.
이전 연구는 대응 가능 시간이 이미 압박을 받고 있었음을 보여준다. Mandiant의 익스플로잇 시점 분석은 2023년 분석에서 평균 5일을 보고했다. 또한 공개 익스플로잇의 가용성과 실제 악용 일정 사이에서 상관관계를 관찰하지 못했다고 밝혔다.
이러한 이력은 AI가 문제 전체를 만들었다는 주장을 제한한다. 공격자들은 방어자가 복구를 완료하기 전부터 이미 취약점을 악용했다. AI는 시간, 전문성, 노출, 접근 권한을 둘러싼 기존 경쟁에 진입한다.
더 새로운 우려는 참여 범위다. 필요한 전문적 주의가 줄어들면, 이전에는 자원을 초과했던 작업을 더 많은 운영자가 시도할 수 있다. 이는 새롭게 능력을 갖춘 모든 운영자가 성공적인 캠페인을 만들어낼 것이라는 증명이 아니라, 인센티브에 관한 추론에 머문다.
병렬 활동은 또 다른 잠재적 이점을 제공한다. 테스트와 대상 평가 작업은 같은 사람이 각 작업을 끝낼 때까지 기다릴 필요가 없다. 그러나 병렬적인 실수도 유용한 결과만큼이나 쉽게 증폭될 수 있다.
방어자에게 이 메커니즘은 공격자의 모델을 식별하는 데 의존하지 않는 격리 조치를 가리킨다. 불필요한 도달 가능성과 과도한 권한을 줄이면 공격의 조건이 바뀐다. 지침이 사람, 에이전트 또는 기존 스크립트에서 비롯되었는지와 관계없이 이러한 통제는 여전히 중요하다.
더 빠른 익스플로잇은 측정된 보안 붕괴가 아니다
a16z AI 익스플로잇 논지는 정확하고 보편적인 비용 추정치로 제시될 때 설득력이 약해진다. 여기서 논의된 출처는 동등한 공격 전반에 걸친 표준화된 금전적 비교를 확립하지 않는다. 이들은 역사적 측정치, 보고된 사건, 그리고 변화하는 인센티브에 관한 논거를 제시한다.
더 짧은 준비 기간은 역량의 증거이지, 경제적 피해나 AI의 인과적 기여도를 완전하게 측정한 결과는 아니다.
빠진 비교는 중요하다. 설득력 있는 인과 연구라면 문서화된 조건 아래 AI 사용 여부에 따른 동등한 작업을 검토해야 한다. 인간의 경험, 사전 지식, 재사용 가능한 구성 요소, 실패한 시도, 성공한 결과물의 신뢰성을 기록해야 한다.
관찰된 캠페인은 사후적으로 그 비교를 제공할 수 없다. 운영자는 공개 기록이 완전히 드러내지 못하는 전문성이나 인프라를 갖고 있었을 수 있다. 그 성공은 다른 소프트웨어 환경과 다른 조건에 의존했을 수도 있다.
이러한 한계가 사건을 무의미하게 만드는 것은 아니다. 이는 독자가 합리적으로 도출할 수 있는 결론을 규정한다. 증거는 인간 전문성이 불필요해졌음을 입증하지 않으면서도 관찰된 실행과 규모에 대한 우려를 뒷받침한다.
검증의 경계도 명시적으로 다룰 가치가 있다. PaperCut의 보안 조치 공지는 고객 사건을 확인하고 대응을 문서화한다. 9월 10일 업데이트에서는 GreyNoise가 공개한 지표가 PaperCut에 의해 독립적으로 검증되지 않았으며, 자체 고객 보고 외부의 보고서에서 나온 것이라고 밝혔다.
이 진술은 GreyNoise의 조사를 반증하지 않는다. 이는 악용에 대한 벤더의 확인이 외부 사례에 담긴 모든 세부 사항에 대한 독립적 검증으로 제시되어서는 안 된다는 의미다. 독자는 이러한 출처 귀속의 경계를 유지해야 한다.
의도와 결과를 둘러싼 별도의 불확실성도 있다. 무단 접근은 위험을 초래하지만, 그것만으로 랜섬웨어 배포나 완료된 파괴적 작업을 확립하지는 않는다. 캠페인의 잠재적 결과와 관찰된 결과에는 서로 다른 언어가 필요하다.
같은 주의는 업종 수준의 결론에도 적용된다. 교육 분야 피해자의 집중은 조사를 정당화한다. 그러나 그것이 공격자들이 의도적으로 학교를 선택했거나, 학교의 방어가 일률적으로 더 약하다는 점을 독립적으로 보여주지는 않는다.
선택 효과는 조사자가 관찰하는 내용에 영향을 줄 수 있다. 소프트웨어 제품의 고객 기반은 어떤 업종이 사건에 나타나는지에 영향을 미친다. 연구자의 가시성은 어떤 시도된 공격과 성공한 침입이 기록에 들어오는지에 영향을 미친다.
구매자에게 이러한 단서는 안일함을 부추기기보다 평가를 개선해야 한다. 벤더는 자신의 증거가 무엇을 측정하며 관찰이 어디까지인지 설명해야 한다. 명확한 한계는 역량 주장을 계획에 더 유용하게 만든다.
따라서 경각심 과잉에 대한 반론은 무시하는 태도가 아니라 운영상의 대응이다. 방어자는 접근을 막고, 권한을 제한하며, 오용을 탐지하고, 피해를 격리할 수 있다. 더 빠른 준비는 이러한 통제에 대한 압박을 높이지만 그 효과를 사라지게 하지는 않는다.
신뢰할 수 있는 평가는 증거가 논지를 약화할 수 있도록 해야 한다. 이후 캠페인에 상당한 인간의 복구 작업이 필요하거나 일반적인 방어에 실패한다면, 예상 규모는 달라진다. 신뢰할 수 있는 자동화가 무관한 제품들 전반에서 반복적으로 성공한다면 우려는 더 커진다.
다음 증거는 반복성, 노출, 피해를 측정해야 한다
앞으로 수개월 동안 a16z AI 익스플로잇 주장은 또 하나의 유난히 빠른 시연을 넘어서는 증거를 필요로 한다. 가장 유용한 신호는 이 패턴이 반복되는지, 방어자가 노출을 줄이는지, 접근이 더 큰 피해로 이어지는지에 관한 것이다.
가장 강력한 검증은 조직이 도달 가능한 취약점을 해소하는 데 어려움을 겪는 동안 자동화가 성공적인 공격을 반복적으로 확대하는지 여부다.
첫째, 관련 없는 소프트웨어를 겨냥한 독립적으로 문서화된 캠페인을 살펴봐야 한다. 조사자는 운영자가 사전에 무엇을 알고 있었는지와 에이전트가 어떤 단계를 완료했는지를 식별해야 한다. 서로 다른 제품에 걸친 반복은 노동 감소가 일반화된다는 주장을 강화할 것이다.
더 약한 신호는 같은 사건에 대한 반복적 설명이다. 보도량은 독립적 확인과 같지 않다. 기존 조사를 바탕으로 한 새 헤드라인은 별도의 관찰을 추가하지 않고 관심만 더한다.
유용한 보도는 시도된 자동화와 신뢰할 수 있는 완료도 구분해야 한다. 전문 인력이 개입하기 전에 반복적으로 실패하는 에이전트는 다른 비용 구조를 부과한다. 이 차이는 기술이 얼마나 널리 확산될 수 있는지를 추정할 때 중요하다.
둘째, 권고문 이후 벤더와 고객이 노출을 어떻게 줄이는지 살펴봐야 한다. 공개된 수정 사항은 이용 가능성을 확립한다. 도달 가능한 설치 환경이 업데이트되거나 격리되었다는 증거는 실제 위험 변화를 확립한다.
이 구분은 제품 평가에 영향을 줘야 한다. 보안 플랫폼은 팀이 영향을 받은 시스템을 찾고, 소유권을 정하며, 완료된 조치를 검증하도록 돕는지 보여줘야 한다. 같은 취약점을 반복해서 탐지하는 것은 이를 해결하는 것과 동등하지 않다.
강력한 방어 신호는 패치 배포에 더 오랜 시간이 걸리더라도 광범위한 악용 전에 격리가 이루어지는 경우다. 이러한 결과는 느린 업데이트가 반드시 침해를 초래한다는 주장을 약화할 것이다. 이는 조직이 다른 통제를 통해 공격자의 경로를 차단할 수 있음을 보여줄 것이다.
셋째, 초기 접근 이후의 결과를 살펴봐야 한다. 조사는 침해된 애플리케이션을 조직 통제, 탈취된 정보, 중단된 서비스와 구분해야 한다. 복구 기간과 복구 작업의 신뢰성은 초기 침입만큼 중요하다.
심각한 결과의 상응한 증가 없이 시도된 공격만 증가한다면 더 제한적인 해석을 뒷받침할 것이다. 이전에는 경제성이 없던 대상 전반에서 검증된 피해가 더 넓게 나타난다면 경제적 논거가 강화될 것이다. 어느 결론도 공격 횟수만으로 판단해서는 안 된다.
이러한 신호는 독자가 모델 브랜드 간의 산만한 경쟁을 피하는 데도 도움이 된다. 지속되는 문제는 공격 준비가 방어 대응보다 반복하기 쉬워지는지 여부다. 모델 역량은 이러한 운영상의 관계를 통해 중요해진다.
개발자, 기업 구매자, 지식 근로자가 지금 할 일은 기존 대응 약속의 전제를 검토하는 것이다. 그러한 약속이 공격자에게 상당한 준비 시간이 필요하다는 가정에 의존하는지 확인하라. 완전한 수정 사항이 나오기 전에 경고가 도착하거나 책임 소유자가 부재할 때 어떤 일이 일어나는지 물어보라. 제안된 변경과 검증된 변경을 구분하는 기록을 보존하라. 다음 a16z AI 익스플로잇 헤드라인을 평가할 때는 출발 조건, 관찰된 결과, 검증 경계를 요구하라. 이 세부 사항은 그 이야기가 공격 경제학의 반복 가능한 변화를 설명하는지, 아니면 예외적인 캠페인을 설명하는지를 드러낸다. 조직의 대응 중 어느 부분이 여전히 공격자가 당신보다 더 오래 걸릴 것이라고 가정하는가?
