Anthropic의 핵심 인프라 보안 확대, 그러나 배포가 더 어려운 과제

Anthropic은 10월 8일 핵심 인프라 보안 활동을 확대하며, 11개 창립 파트너에게 Claude 모델, 위협 연구, 현장 엔지니어를 제공했다. 이 프로그램은 전력망, 수도 시스템, 교통 네트워크, 공장, 통신 및 정부 시스템을 대상으로 한다. 그러나 성패는 취약점을 찾아내는 일보다 덜 극적인 요소에 달려 있다. 파트너들이 필수 서비스의 중단 없이 수정 사항을 안전하게 검증하고 배포해야 한다는 점이다.

이 구분이 중요한 이유는 운영 기술(OT)이 물리적 장비와 산업 공정을 제어하기 때문이다. 일반 업무 소프트웨어의 잘못된 업데이트는 업무 흐름을 방해할 수 있다. 그러나 정수장, 변전소 또는 공장 내부의 잘못된 변경은 공공 안전에 영향을 미칠 수 있다.

이에 따라 Anthropic은 Claude와 인프라 운영자 사이에 보안 벤더, 컨설턴트, 시스템 통합업체, 장비 제조업체를 배치하고 있다. 이 파트너 주도 모델은 가동 중인 산업 시스템을 수정하는 데 필요한 전문 지식을 고도화된 AI가 대체할 수 없다는 사실을 인정한다.

이 이니셔티브는 최첨단 AI가 방어자와 공격자 중 어느 쪽에 더 유리하게 작용할지를 둘러싼 더 큰 경쟁에도 Anthropic을 참여시킨다. OpenAI는 자체 대규모 사이버 방어 프로그램을 출범시켰고, 정부 기관들은 신중하고 위험 기반의 OT 보안 관행을 계속 장려하고 있다. 이제 핵심 질문은 AI가 약점을 찾을 수 있는지 여부가 아니다. 기관들이 공격자가 이를 악용하는 속도보다 더 빠르게 이를 검증하고 복구할 수 있는지가 관건이다.

Anthropic 핵심 인프라 보안은 신뢰할 수 있는 공급업체에서 시작한다

Anthropic은 자율 Claude 에이전트에게 발전소나 수도 시설에 대한 직접 제어 권한을 부여하지 않는다.

회사의 새로운 Critical Infrastructure Defense Program은 인프라 운영자가 이미 신뢰하는 조직에 최첨단 Claude 모델, Anthropic 엔지니어 및 위협 연구를 제공한다. 11개 창립 파트너는 Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC, Rockwell Automation이다.

이 구성은 프로그램의 운영 모델을 보여준다. 컨설팅 회사는 보안 프로그램을 관리한다. 사이버 보안 벤더는 기업 및 산업 네트워크를 모니터링한다. 장비 제조업체는 물리적 시설 내부의 컨트롤러, 펌웨어 및 유지보수 요구 사항을 이해한다.

Anthropic은 여러 파트너가 이미 Claude를 활용해 취약점을 찾아내고 복구하고 있다고 밝혔다. 다만 초기 도입은 의도적으로 제한적인 규모를 유지한다. 회사는 첫 단계를 운영 환경에서 어떤 전략이 실용적인지 파악하기 위한 소규모 코호트로 설명한다.

기업 IT와 OT의 차이는 이 활동의 모든 부분을 형성한다. 많은 산업 시스템은 매주 소프트웨어 업데이트를 받기 위해서가 아니라 수십 년간 운영되도록 설계됐다. 구성 요소는 독점적일 수 있고, 지리적으로 분산돼 있을 수 있으며, 교체가 어려울 수 있다. 운영자는 제안된 변경 사항을 검증할 현실적인 테스트 환경이 부족할 수도 있다.

상수도 압력을 관리하는 컨트롤러를 공공사업자가 가볍게 재시작할 수는 없다. 가동 중단이 생산을 멈추게 하거나 안전 위험을 초래한다면, 공장은 권장되는 모든 패치를 적용할 수 없다. 기술적으로 올바른 수정이라도 운영 측면에서는 받아들일 수 없을 수 있다.

Anthropic의 사이버 미션은 이러한 이유로 도메인 전문가를 승인 절차에 배치한다. Claude는 코드를 분석하고, 공격 경로를 재구성하며, 패치를 제안하고, 사고 대응을 지원할 수 있다. 권고 사항이 정확하고 안전하며 배포에 적합한지 여부는 여전히 인간 운영자와 기존 벤더가 결정한다.

회사는 초기에는 전력, 수도, 교통, 통신, 제조 및 정부 시스템을 포괄할 것이라고 밝혔다. 향후 몇 달간 파트너와 분야를 추가하는 동시에, 실패한 접근법을 포함한 작업의 교훈을 공개할 계획이다.

이 약속은 산업 사이버 보안에서 보편적 해결책이 좀처럼 나오지 않는다는 점에서 의미가 크다. 한 시설에서 효과적인 완화 조치가 다른 시설에서는 예상치 못한 결과를 낳을 수 있다. 따라서 유용한 보고는 배포 조건, 검증 절차, 오탐 및 방지된 중단 사태를 설명해야 한다.

Anthropic은 창립 파트너를 통해 참여하는 인프라 운영자의 수를 공개하지 않았다. 또한 배포 일정, 프로그램 예산 또는 공통 성능 벤치마크도 발표하지 않았다. 이러한 정보의 부재는 프로그램의 현재 규모를 독립적으로 평가하는 일을 어렵게 한다.

그럼에도 변화는 분명하다. Anthropic은 실험적 접근 프로그램에서 핵심 인프라 방어를 위한 구조화된 제공 채널로 이동했다. 이 프로그램은 최첨단 AI 역량을 모델 출력을 통제된 운영 변경으로 전환할 수 있는 조직과 연결한다.

취약점 발견만으로는 더 이상 충분하지 않은 이유

어려운 병목은 가능한 결함을 찾는 일에서, 어떤 발견이 중요한지 입증하고 이를 안전하게 복구하는 일로 옮겨갔다.

Anthropic의 이전 Project Glasswing 프로그램은 AI 지원 보안 연구가 얼마나 빠르게 결과를 만들어낼 수 있는지 보여줬다. 회사는 파트너들이 2026년 4월부터 7월 사이에 검증된 소프트웨어 취약점을 최소 129,000건 식별했다고 밝혔다. Anthropic의 오픈소스 스캐닝은 10월까지 추가로 5,500건의 검증된 취약점을 발견한 것으로 전해진다.

Anthropic에 따르면 이 발견 중 33,000건 이상은 심각 또는 높은 심각도 등급을 받았다. 회사는 데이터가 33개 파트너 보고서에서만 나왔기 때문에 이 수치를 하한선으로 본다. 참여 파트너 가운데 절반 미만만 패치 건수를 공개했다.

이 수치는 회사가 보고한 것이며, 서로 다른 파트너 분류 방식을 사용한다. 따라서 기존 보안 도구와의 표준화된 비교로 간주해서는 안 된다. 다만 AI가 조직의 평가 속도보다 더 빠르게 약점을 발견할 때 발생하는 업무 흐름 문제의 규모를 보여준다.

Anthropic은 확장된 Cyber Verification Program에서 이 문제를 공개적으로 지적한다. 회사는 발견 사항의 검증, 공개, 우선순위 지정 및 패치가 주요 제약 요인이 됐다고 밝혔다. 새로운 인프라 이니셔티브는 이미 고객을 위해 이 단계를 관리하는 조직을 참여시켜 발견 이후 단계로 나아가려 한다.

이는 OT 시스템에서 특히 중요하다. 보안 팀은 악용 가능성, 장비 연식, 공정 의존성, 이용 가능한 유지보수 시간대 및 변경이 가져올 물리적 결과를 고려해야 한다. 높은 심각도의 소프트웨어 점수가 자동으로 올바른 운영 우선순위를 정해주지는 않는다.

새 프로그램은 이 과정의 여러 지점에서 도움을 줄 수 있다. Claude는 익숙하지 않은 코드를 요약하고, 취약점을 시스템 구성과 비교하며, 공격 시퀀스를 재구성하고, 제안된 복구안을 작성할 수 있다. 엔지니어가 시스템을 수정한 뒤 반복 분석을 지원할 수도 있다.

그러나 모든 단계에는 통제가 필요하다. 모델은 독점 코드를 잘못 해석하거나, 불완전한 수정안을 생성하거나, 종속성을 간과할 수 있다. 신뢰할 수 있는 우선순위 지정이 없다면 자동화된 보고서는 소규모 보안 팀을 압도할 수도 있다.

Anthropic의 별도 OSS Scanner는 이러한 긴장을 보여준다. 이 옵트인 서비스는 자격을 갖춘 오픈소스 프로젝트에 정기 스캔, 익스플로잇 설명 및 권장 수정 사항을 제공한다. 이 보고서는 사전 인간 검토 없이 유지관리자에게 전달되며, 이는 더 넓은 범위를 가능하게 하지만 부정확한 발견의 여지도 남긴다.

핵심 인프라 프로그램은 더 통제된 구조를 사용한다. 기존 공급업체는 변경 사항이 실제 환경에 도달하기 전에 운영 맥락과 인간의 판단을 제공한다. 이것이 안전한 배포를 보장하지는 않지만, 관련 장비와 고객을 잘 아는 조직에 책임성을 부여한다.

이 접근법은 지속적인 접근 문제에도 답한다. Anthropic의 일반 제공 모델은 공격적 작업과 방어적 작업이 유사한 명령을 포함할 수 있으므로 보수적인 사이버 보안 안전장치를 적용한다. 취약점 악용 요청은 승인된 테스트를 의미할 수도 있고 실제 공격을 의미할 수도 있다.

Cyber Verification Program은 이러한 모호성을 처리하기 위해 계층형 접근 권한을 사용한다. 방어 팀은 사고 대응, 악성코드 분석 및 취약점 검증을 위한 역량을 확보할 수 있다. 승인된 레드팀은 더 폭넓은 테스트 접근 권한을 받는다. 전문화된 계층은 전력망, 통신 네트워크, 금융 인프라 및 항공 시스템을 포함한 고위험 시스템을 다룬다.

Anthropic은 전문화된 계층에 미국 정부와의 광범위한 조직 검토가 필요하다고 밝혔다. 또한 물리적 피해나 광범위한 중단을 초래할 수 있는 활동에 대해서는 실시간 제한을 유지한다. 더 폭넓은 사이버 역량은 방어적 가치와 함께 위험도 만들기 때문에 이러한 통제는 중요하다.

따라서 확대된 인프라 이니셔티브는 단순한 새 모델 배포 프로그램 이상을 의미한다. 이는 고성능 이중 용도 AI를 둘러싼 제도적 검증 계층을 구축하려는 시도다.

진짜 경쟁은 방어 속도와 운영 안전성 사이에 있다

Anthropic은 소프트웨어 업계의 배포 관행을 안전 필수 시스템으로 들여오지 않으면서 방어자가 더 빠르게 움직이도록 도와야 한다.

AI 지원 인프라 보안을 뒷받침하는 가장 강력한 증거는 실제 공공사업자가 아니라 통제된 시뮬레이션에서 나왔다. Anthropic과 Pacific Northwest National Laboratory는 연방 보안 연구용으로 운영되는 고정밀 정수 처리 모델을 상대로 Claude를 테스트했다.

연구진은 자연어 지시를 사전에 정의된 네트워크 도구에 연결하는 소프트웨어 스캐폴드와 함께 Claude Sonnet 4를 사용했다. 이 시스템은 3시간 만에 시뮬레이션 시설에 대한 공격을 재구성했다. PNNL은 인간 전문가라면 몇 주가 필요했을 것으로 추정했다.

한 테스트에서는 Windows User Account Control을 우회하기 위한 사전 정의된 방법이 실패했다. Claude는 다른 알려진 기법을 선택해 공격 시뮬레이션을 계속했다. 이 행동은 고도화된 모델이 레드팀을 지원할 수 있는 이유를 보여줬지만, 동시에 이중 용도 가능성도 드러냈다.

수도 시스템 연구는 Claude가 실제 정수장을 안전하게 복구할 수 있음을 입증하지는 않았다. 이는 AI가 방어 공백을 드러내기 위해 공격자 행위를 재현하는 적대자 에뮬레이션을 가속할 수 있음을 보여줬다. 연구진은 실제 운영 장비가 아니라 사이버-물리 모델을 테스트했다.

이 경계는 Anthropic 핵심 인프라 보안의 핵심이다. 속도는 조사, 테스트 및 복구 시간을 단축할 때 방어자에게 이점을 준다. 권고 사항이 엔지니어링 검토를 우회하거나 대표성 있는 테스트 없이 시스템에 도달하면 새로운 위험을 만든다.

정부 지침도 이러한 신중함을 반영한다. CISA는 예상치 못한 가동 중단이 심각한 결과를 낳을 수 있으므로 운영 기술에 위험 기반 의사결정을 권고한다. 가능하다면 업데이트는 운영 환경을 반영하는 환경에서 테스트해야 한다.

CISA의 OT 보안 원칙은 보안을 비즈니스 연속성 문제로도 규정한다. 의사결정은 시스템 안전성, 운영 요구 사항, 복구 계획 및 잔여 위험을 고려해야 한다. 더 많은 결함을 찾는 일은 이 체계의 한 부분만 다룬다.

Anthropic의 창립 파트너들은 부족한 맥락을 제공할 수 있다. Rockwell Automation은 산업 장비와 제품 보안 프로세스를 이해한다. Dragos와 Nozomi Networks는 OT 모니터링 및 위협 탐지를 전문으로 한다. CrowdStrike와 Palo Alto Networks는 더 폭넓은 사고 및 위협 인텔리전스를 제공한다.

컨설팅 기업은 기술적 발견 사항을 거버넌스, 변화 관리, 고객 운영과 연결할 수 있다. 시스템 통합업체는 소스 코드 스캔으로는 보이지 않는 종속성을 식별할 수 있다. 이러한 역량은 Anthropic이 완전 자율형 인프라 에이전트를 직접 판매하는 대신 간접적인 파트너 네트워크를 선택한 이유를 설명한다.

긴장은 여전히 해소되지 않았다. Claude는 과거 인간 팀이 처리했던 것보다 더 많은 잠재적 발견 사항을 생성할 수 있다. 그러나 추가 발견 사항 하나하나는 제한된 엔지니어링 시간, 테스트 시설, 유지보수 기간, 공개 조정 업무를 두고 경쟁하게 된다.

유용한 프로그램은 제출된 발견 사항 대비 수정된 취약점의 비율을 높여야 한다. 또한 안전하지 않은 변경을 늘리지 않으면서 조사 시간을 줄여야 한다. 공개된 취약점 총계만으로는 어느 결과도 입증할 수 없다.

오탐은 측정 가능한 위험 중 하나다. 엔지니어가 부정확한 보고서를 반복적으로 조사해야 한다면, 도구는 원래 회복시키려 했던 역량을 소모하게 된다. 관측하기는 더 어렵지만 미탐도 중요하다. 악용 가능한 경로를 놓치는 모델은 잘못된 신뢰를 만들 수 있다.

모델의 동작은 프롬프트, 도구, 시스템 맥락에 따라 달라질 수도 있다. 산업 운영자는 특정 권고가 자신의 장비에 왜 적용되는지 보여주는 재현 가능한 증거가 필요하다. 변경으로 예상치 못한 동작이 발생했을 때를 위한 롤백 절차도 필요하다.

이러한 요구 사항은 AI 보안 계획의 가치를 부정하지 않는다. 오히려 그러한 계획이 유용해지는 조건을 정의한다. 성공하는 시스템은 단순히 가장 많은 취약점을 탐지하는 시스템이 아니다. 충분히 뒷받침된 발견 사항을 안전하고 문서화되며 복구 가능한 변경으로 일관되게 전환하는 시스템이다.

OpenAI, Anthropic의 파트너 모델에 압박을 높이다

Anthropic은 전문 전달 네트워크를 구축하는 한편, OpenAI는 더 폭넓은 자금 지원, 접근성, 교육 약속을 통해 경쟁하고 있다.

OpenAI는 2026년 9월 Daybreak for Frontline Defenders를 발표했다. 이 회사는 필수 서비스를 보호하는 조직을 대상으로 보조금이 적용된 접근성, 기술 지원, 교육, 파트너십에 10억 달러를 투입하겠다고 약속했다.

Daybreak는 상수도 시스템, 전력 공급업체, 지방 정부, 의료 시스템, 지역 은행 및 기타 최전선 조직을 대상으로 한다. OpenAI는 또한 에이전트를 활용해 취약점을 찾아 검증하고, 인간 검토를 위한 검증된 수정안을 준비하는 Defense Factory 접근법을 설명한다.

Daybreak initiative는 Anthropic에 직접적인 전략 비교 기준을 제시한다. 두 회사 모두 유사한 역량이 공격자에게 널리 제공되기 전에 최첨단 모델이 방어자를 도와야 한다고 주장한다. 두 회사 모두 인간 검토와 수정 사항 검증의 필요성을 강조한다.

초기 제공 방식은 다르다. OpenAI는 프로그램에 명시된 글로벌 약속과 폭넓은 접근성 목표를 결합했다. Anthropic은 기존 인프라 관계와 현장 기술 지원을 갖춘 11개 제공업체의 창립 코호트를 강조했다.

어느 접근법도 우위를 입증할 만큼 충분한 공개 증거를 아직 제시하지 못했다. 대규모 자금 지원 약속이 자원이 부족한 공공사업체의 도입을 보장하지는 않는다. 선별적인 파트너 프로그램 역시 주요 고객 계정을 넘어 소규모 운영자에게 혜택이 도달할 것이라고 보장하지는 않는다.

Anthropic의 방식에는 실질적 장점이 있다. 인프라 운영자는 이미 장비 제조업체, 통합업체, 컨설턴트, 보안 공급업체에 의존한다. Claude를 이러한 기존 관계에 추가하면 운영자가 최첨단 모델 제공업체를 직접 평가해야 할 필요를 줄일 수 있다.

이 모델은 Anthropic이 여러 보안 계층에서 학습할 수 있게도 한다. 장비 제조업체는 제품 결함을 본다. 네트워크 보안 공급업체는 공격 행위를 관찰한다. 컨설턴트는 거버넌스와 구현을 관리한다. 이러한 관점을 결합하면 우선순위 선정이 개선될 수 있다.

그러나 파트너 경로에는 조정 비용이 따른다. 각 회사는 자체 제품, 고객 계약, 데이터 정책, 테스트 방법, 상업적 인센티브를 갖고 있다. Anthropic은 참여자들이 어떻게 발견 사항을 공유하고 코호트 전반에서 결과를 측정할지 설명하지 않았다.

OpenAI의 더 광범위한 이니셔티브는 또 다른 종류의 압박을 만든다. AI 보안 계획을 비교하는 공공사업체는 모델에 직접 접근해야 하는지, 기존 제공업체를 통해 이용해야 하는지, 또는 정부 지원 프로그램에 참여해야 하는지 묻게 될 수 있다. 분산된 접근 채널은 이미 복잡한 보안 시장을 더 어렵게 만들 수 있다.

경쟁은 여전히 방어자에게 도움이 될 수 있다. Anthropic은 다른 AI 개발업체, 정부, 보안 기업도 관련 노력을 시작할 것으로 예상한다. 모델 성능에 관한 독점적 주장보다 공통 평가 방법, 취약점 공개, 검증된 개선 지침이 더 중요할 것이다.

한 연구소에 대한 의존을 피해야 할 체계적 이유도 있다. 최첨단 모델은 서비스 중단, 정책 변경, 새롭게 발견되는 안전 문제를 겪을 수 있다. 중요 인프라 조직에는 모델을 사용할 수 없게 되더라도 계속 이용 가능한 복원력 있는 워크플로가 필요하다.

가장 건강한 경쟁 결과는 모델 선택과 운영 통제를 분리하는 것이다. 운영자는 발견 사항을 비교하고, 감사 기록을 보존하며, 인간 승인을 요구하고, 보안 프로세스를 다시 구축하지 않고도 제공업체를 전환할 수 있어야 한다.

Anthropic의 파트너 모델은 확장 과정에서 이 시험대에 오르게 될 것이다. Claude가 공급업체 플랫폼 내부에 깊숙이 내장된다면, 고객은 데이터 처리, 모델 접근, 사고 보고, 잘못된 권고에 대한 책임에 관한 명확한 설명을 필요로 할 것이다.

따라서 이 경쟁은 단순히 Anthropic 대 OpenAI의 구도가 아니다. 오류에 대한 허용도가 낮은 기관에 고도화된 사이버 역량을 제공하는 서로 다른 방식 간의 경쟁이다.

Anthropic의 AI 보안 계획이 아직 입증하지 못한 것

이번 발표는 진지한 제공 구조를 확립했지만, 아직 측정 가능한 위험 감소를 입증하지는 못했다.

Anthropic은 성공이란 악용 가능한 공격 경로의 감소, 더 빠른 복구, 공격 중에도 지속되는 운영을 의미한다고 말한다. 이는 타당한 결과다. 그러나 회사는 이를 측정하기 위한 기준선, 목표, 보고 일정, 독립 평가 절차를 아직 제공하지 않았다.

Project Glasswing의 공개 수치는 주로 발견된 취약점을 설명한다. 조직의 전반적인 노출 수준이 변하지 않아도 발견 규모는 증가할 수 있다. 위험은 팀이 관련 수정 사항을 검증하고, 우선순위를 정하며, 개선하고, 배포하고, 모니터링한 뒤에야 감소한다.

따라서 패치 완료는 발견 규모보다 더 유용하지만, 이 지표 역시 맥락이 필요하다. 경미한 소프트웨어 수정 100건은 원격으로 접근 가능한 컨트롤러에 대한 검증된 수리 1건보다 중요성이 낮을 수 있다. 건수는 심각도, 악용 가능성, 배포 상태, 영향을 받는 시스템의 중요도와 함께 제시되어야 한다.

시간 측정도 중요하다. 프로그램은 팀이 탐지에서 검증으로, 검증에서 안전한 개선으로 이동하는 데 걸리는 시간을 보고해야 한다. 시설이 패치를 즉시 배포할 수 없더라도 더 빠른 분류는 Anthropic의 핵심 주장을 뒷받침할 수 있다.

안전 결과에도 같은 비중을 두어야 한다. 운영자는 실패한 테스트, 거부된 권고, 롤백, 계획되지 않은 다운타임, 대대적인 수정이 필요했던 모델 생성 변경 사항을 추적해야 한다. 이러한 결과를 공개하면 운영상의 진전과 홍보 활동을 구분하는 데 도움이 된다.

현재 공개 내용은 상업적 질문에도 답하지 않는다. Anthropic은 창립 파트너가 비용 없이 모델 접근 권한을 받는지 밝히지 않았다. 또한 추론 비용, 엔지니어링 지원, 테스트 시설, 장기 유지보수 비용을 누가 부담하는지도 설명하지 않았다.

이러한 세부 사항은 도입에 영향을 준다. 대형 인프라 공급업체는 지방 공공사업체나 지역 의료 시스템보다 실험 비용을 더 쉽게 감당할 수 있다. 혜택이 지속 가능한 조건으로 고객에게 전달되지 않는다면, 파트너 프로그램은 소규모 운영자를 노출된 상태로 남겨둔 채 최상위 방어 역량만 강화할 수 있다.

데이터 처리 역시 해결되지 않은 문제를 만든다. 인프라 보안 업무는 네트워크 다이어그램, 장치 구성, 취약점, 대응 절차를 드러낼 수 있다. 이러한 기록은 일반적인 고객 정보를 포함하지 않더라도 매우 민감하다.

Anthropic의 검증 프로그램은 회사가 오용을 모니터링할 수 있도록 많은 참여자에게 데이터 보존을 요구한다. 이 회사는 저장된 정보에 대한 더 강력한 통제가 필요한 조직을 위한 추가 보호 조치도 발표했다. 인프라 프로그램은 각 파트너 워크플로에 어떤 방안이 적용되는지 설명해야 한다.

책임 소재도 정의가 필요하다. Claude가 수리를 제안하고, 공급업체가 승인하며, 운영자가 이를 배포한다고 가정해 보자. 변경이 서비스를 중단시킨다면, 책임은 모델 제공업체, 보안 파트너, 장비 제조업체, 통합업체 또는 운영자에게 걸쳐 있을 수 있다.

기존 계약이 이러한 책임을 배분할 수는 있지만, 공개 발표는 이를 다루지 않는다. 모델이 개선 작업에 더 직접적으로 기여하게 될수록 명확한 승인 기록과 추적 가능한 증거가 필수적이 될 것이다.

프로그램은 자동화 편향도 방어해야 한다. 엔지니어는 고도화된 모델에서 나온 자신감 있는 권고를 과대평가할 수 있다. 독립적인 검증, 문서화된 가정, 명시적인 인간 승인을 요구하면 이러한 위험을 줄일 수 있다.

Anthropic은 AI가 가장 어려운 인프라 문제 중 상당수를 해결할 수 없다는 점을 인정한다. 이러한 절제는 발표의 신뢰성을 높인다. 노후 장비, 인력 부족, 불완전한 자산 목록, 제한된 예산, 짧은 유지보수 기간은 Claude가 도입된 뒤에도 남아 있을 것이다.

따라서 Anthropic의 중요 인프라 보안에 대한 신뢰할 수 있는 주장은 보편적 자동화보다 더 좁다. Claude는 전문가 역량을 확장하고, 통제된 분석을 가속하며, 신뢰할 수 있는 제공업체가 수정안을 준비하도록 도울 수 있다. 그러나 이러한 수정안이 실제 운영 환경에 도달하는지를 결정하는 운영상 제약을 없앨 수는 없다.

프로그램의 효과를 보여줄 세 가지 신호

다음 증거는 배포된 수정, 반복 가능한 안전 통제, 창립 코호트를 넘어선 접근성에 초점을 맞춰야 한다.

첫 번째 신호는 참여 제공업체가 제시하는 검증된 개선 보고서다. Anthropic 또는 파트너는 Claude가 어떻게 취약점을 발견했는지, 전문가가 이를 어떻게 검증했는지, 운영자가 제안된 수정을 어떻게 테스트했는지를 문서화해야 한다. 보고서는 해당 수정이 실제 운영 환경에 반영되었는지와 서비스가 정상적으로 계속되었는지를 설명해야 한다.

이러한 증거는 프로그램의 핵심 주장을 강화할 것이다. 모델 역량을 실제 운영 워크플로 내에서 측정 가능한 위험 감소와 연결하기 때문이다. 취약점 발견에만 국한된 보고서는 핵심 질문에 답하지 못하게 된다.

두 번째 신호는 11개 파트너 전반에 걸친 공통의 안전 및 평가 프레임워크다. 유용한 기준에는 오탐률, 검증 요건, 승인 통제, 롤백 계획, 감사 로깅, 배포 결과가 포함될 수 있다. 공통 방법론은 부문 간 결과의 비교 가능성을 높일 것이다.

분절된 프레임워크는 신뢰를 약화시킬 것이다. 각 파트너는 고객을 위해 유연성을 가져야 하지만, 측정 방식이 완전히 다르면 운영자는 성능을 이해할 수 없다. 공통의 최소 통제는 부문별 절차와 공존할 수 있다.

세 번째 신호는 프로그램이 더 작은 인프라 운영자에게 도달한다는 증거다. Anthropic은 향후 몇 달 동안 더 많은 부문과 파트너로 확장할 것이라고 말한다. 중요한 척도는 단순히 파트너 목록이 길어지는 것이 아니다. 지방 공공사업체, 지역 병원, 소규모 운송 제공업체가 실제로 사용할 수 있는 지원을 받는지 여부다.

그 접근은 관리형 서비스, 정부 파트너십, 장비 공급업체 또는 확대된 검증 프로그램을 통해 제공될 수 있다. 어떤 경로이든 모델 접근만 제공하는 데 그쳐서는 안 되며, 기술 지원도 포함해야 한다. 자원이 부족한 조직에 보안 경보가 부족한 경우는 드물다. 이들에게 부족한 것은 경보를 조사하고 대응할 인력과 시간이다.

OpenAI의 경쟁 이니셔티브는 이 배포 문제를 더 이상 피하기 어렵게 만들 것이다. 두 회사 모두 AI 지원 공격이 더 강력해지기 전 방어자들에게 주어진 시간이 제한적이라고 주장한다. 이들의 진전은 약속만이 아니라 보호받는 조직의 수, 안전하게 배포된 수정 조치, 향상된 복구 역량으로 평가되어야 한다.

보안, 조달 또는 인프라 기술을 관리하는 독자들은 이러한 시스템을 도입하기 전에 직접적인 질문을 던져야 한다. 각 발견 사항을 뒷받침하는 증거는 무엇인가? 민감한 데이터는 어디에 저장되는가? 테스트를 승인하는 주체는 누구인가? 물리적 결과는 어떻게 모델링되는가? 권고안이 실패하면 어떻게 되는가?

개발자들은 보안 파트너들이 재사용 가능한 도구와 검증된 패치를 공개하는지 지켜봐야 한다. 오픈소스 유지관리자들은 자동화된 발견 사항이 분류 업무량에 어떤 영향을 미치는지 검토해야 한다. 엔터프라이즈 구매자는 감사 가능성, 재현성, 그리고 명확한 책임 경계를 요구해야 한다.

Anthropic의 핵심 인프라 보안의 다음 단계는 또 하나의 인상적인 취약점 총계로 정의되지 않을 것이다. 신뢰할 수 있는 제공업체가 새로운 운영상 위험을 만들지 않으면서 모델의 속도를 더 안전한 시스템으로 전환할 수 있는지가 이를 결정할 것이다.

향후 3개월 동안 주목할 만한 행동은 바로 이것이다. 검증된 배포 사례, 파트너 간 공유되는 통제 장치, 그리고 소규모 운영자를 위한 접근성을 살펴보라. 이 세 가지가 모두 나타난다면 Anthropic의 프로그램은 AI가 통제된 시연을 넘어 인프라 방어를 개선할 수 있음을 보여주기 시작할 것이다.