California의 AI 사이버 방어 프로그램, 성패는 실행에 달렸다

California는 2026년 8월 10일 Gavin Newsom 주지사가 미국 최초의 주 정부 AI Cyber Defense Program이라고 부르는 프로그램을 출범시켰다. 기계 속도의 공격과 인간의 대응 시간을 중심으로 구축된 공공기관 간의 격차가 커지는 가운데, 이 발표는 빠르게 Google News에 등장했다.

이 프로그램은 California Cybersecurity Integration Center, 즉 Cal-CSIC 내에 설치된다. 주 정부 시스템과 핵심 인프라 전반에서 취약점 탐지, 네트워크 강화, 사고 대응에 인공지능을 활용할 예정이다.

그 임무는 단순해 보인다. 더 어려운 문제는 California가 불투명한 의사결정, 공급업체 의존, 민감한 시스템에 대한 새로운 접근 경로를 추가하지 않으면서 AI를 배치할 수 있는지다.

California는 아무 기반 없이 시작하는 것이 아니다. 이미 주 전역의 사이버보안 전략, 사고 대응팀, Anthropic과의 최근 파트너십을 갖추고 있다. 또한 AI 사이버보안 정보 공유 플레이북을 마련해야 하는 법적 기한도 있다.

달라진 것은 운영 모델이다. California는 AI를 조달 실험과 직원 생산성 향상에서 능동적 사이버 방어로 옮기고 있다. 이는 주 정부 기관, 지방정부, 공공사업자, 기술 공급업체를 하나의 운영 시험대에 올려놓는다.

California의 AI Cyber Defense Program이 바꾸는 것

California는 AI 기반 사이버 방어를 개별 기관의 고립된 실험이 아니라 공동의 주 정부 인프라로 다루고 있다.

Newsom의 지시는 주 정부 사이버 인텔리전스와 사고 조정의 허브인 Cal-CSIC 내에 이 프로그램을 신설한다. 이 프로그램은 취약점 발견, 방어 강화, 더 신속한 사고 대응을 지원하도록 설계됐다.

주 정부는 지방정부와 핵심 인프라 파트너를 위한 고급 사이버보안 역량도 확대할 예정이다. 여기에는 수도, 전력, 교통, 긴급 통신 및 기타 필수 서비스를 담당하는 조직이 포함된다.

모든 주 정부 기관은 AI Cybersecurity Officer를 지정해야 한다. California는 아직 이들 담당자의 세부 자격 요건, 보고 체계, 의사결정 권한을 공개하지 않았다.

이처럼 답이 없는 거버넌스 문제는 중요하다. 단순히 규정 준수를 추적하는 담당자와 안전하지 않은 배포를 중단하거나 긴급 격리를 조정할 권한을 가진 담당자는 전혀 다른 역할을 하게 된다.

주 정부 발표는 완성된 기술 플랫폼이 아니라 프로그램을 설명한다. 중앙 모델 제공업체, 조달 예산, 배포 일정, 공통 성능 기준은 명시하지 않았다.

또한 AI가 전력망, 수도 시스템 또는 교통 네트워크를 자율적으로 제어하게 된다고도 말하지 않는다. 초기 기능은 산업 공정의 직접 운영이 아니라 방어 분석과 대응에 초점을 둔다.

인공지능은 여러 서로 다른 역량을 포괄하기 때문에 이 구분은 중요하다. 경고를 요약하는 모델은 서버 격리나 방화벽 규칙 변경 권한을 부여받은 에이전트와는 다른 위험을 제시한다.

California가 제시한 활용 사례는 과부하 상태의 보안팀이 이미 지원을 필요로 하는 영역에서 시작한다. 여기에는 경고 분류, 취약한 코드 탐색, 개선 조치 우선순위 설정, 사고 조사 가속화가 포함된다.

기계의 지원은 반복 업무를 줄일 수 있다. 그러나 특히 불완전한 텔레메트리나 모호한 소프트웨어 동작이 입력을 형성할 때, 그럴듯한 오류를 만들 수도 있다.

따라서 주 정부는 동시에 두 가지 보안 문제에 직면한다. AI를 사용하는 공격자로부터 시스템을 방어하는 한편, 자체 프로그램이 도입하는 모델, 데이터 파이프라인, 자격 증명, 자동화된 조치를 보호해야 한다.

Google News 보도는 새로운 프로그램 명칭을 부각해 왔다. 더 깊은 변화는 California가 이제 고위험 보안 업무 흐름 안에서 확률적 시스템을 활용하기 위한 운영 규칙을 마련해야 한다는 점이다.

이 발표는 또한 주 정부 기관과 동등한 인력을 갖추지 못한 소규모 관할구역을 연결한다. 주 전역 서비스는 카운티나 수도 관리구역이 독자적으로 유지하기 어려운 역량에 접근할 수 있게 해줄 수 있다.

중앙화는 영향력을 만들지만 위험도 집중시킨다. 공동 도구, 통합 계층 또는 위협 피드는 많은 조직의 보안 범위를 개선하는 동시에 공통 장애 지점을 만들 수 있다.

California는 프로그램이 어떻게 참여 조직을 분리하고, 민감한 텔레메트리를 보호하며, 공급업체의 접근을 제한하고, 하나의 침해된 계정이 여러 참여 조직에 영향을 주지 않도록 하는지 보여줘야 한다.

이러한 통제 장치가 이 프로그램이 지속 가능한 인프라가 될지, 해결되지 않은 보안 공백 위에 또 하나의 대시보드 계층이 될지를 결정할 것이다.

California가 지금 움직이는 이유

이 프로그램은 취약점 발견, 악용, 탐지, 격리 사이의 시간이 줄어드는 상황에 대응한다.

California Office of Information Security는 AI가 일부 위협 시나리오에서 이 시간을 수주에서 수시간으로 단축했다고 주장한다. 2026년 구현 가이드는 이러한 가속화를 일시적 현상이 아니라 영구적인 변화로 설명한다.

구현 가이드는 더 강력한 신원 통제, 세분화, 로깅, 복구 계획, 익스플로잇 방지, AI 지원 방어를 권고한다. 또한 이러한 기반을 마련하기 전에 고급 도구를 도입하지 말라고 기관들에 경고한다.

이 경고는 프로그램의 핵심 긴장을 드러낸다. AI는 분석을 가속할 수 있지만, 누락된 자산 목록, 취약한 인증, 노출된 자격 증명, 검증되지 않은 복구 절차를 보완할 수는 없다.

기관이 자신이 보유한 기기를 알지 못한다면 AI 시스템은 취약점의 우선순위를 신뢰성 있게 정할 수 없다. 로그가 불완전하거나 보존 기간이 지나치게 짧다면 사고를 재구성할 수도 없다.

그럼에도 인상적인 위험 요약을 만들어낼 수 있다. 유창한 출력이 누락된 증거를 감출 수 있기 때문에 취약한 데이터 기반은 특히 위험하다.

Newsom의 발표는 이 이니셔티브를 연방 차원의 불확실성과도 연결한다. 그의 사무실은 Cybersecurity and Infrastructure Security Agency에 영향을 미치는 제안된 예산 삭감과 주요 다주 지원 조직에 대한 연방 자금 지원 종료를 언급했다.

행정부는 제안된 연방 예산이 CISA 자금을 약 7억700만 달러, 즉 이전 수준 대비 약 30% 줄일 것이라고 밝혔다. 이 제안은 확정된 세출이 아니라 정치적 예산 절차의 일부로 남아 있다.

California는 또한 2025년 말 Multi-State Information Sharing and Analysis Center에 대한 연방 자금 지원이 종료된 점을 지적했다. MS-ISAC는 공공 부문 조직에 모니터링, 위협 인텔리전스, 사고 조정을 제공해 왔다.

이러한 변화는 주 정부에 더 큰 책임을 부여한다. 소규모 지방자치단체는 경쟁적인 노동시장에서 공동 모니터링을 쉽게 대체하거나 전문 사고 대응 인력을 채용할 수 없다.

현재 State and Local Cybersecurity Grant Program도 또 다른 불확실성을 더한다. 의회는 10억 달러 규모의 세출로 이 프로그램을 만들었지만, 현재 자금 지원 단계는 종료에 가까워지고 있다.

California는 연방 지원의 예측 가능성이 낮아지는 상황에서 사실상 주 정부 차원의 계층을 구축하고 있다. 그렇다고 연방 차원이 불필요해지는 것은 아니다.

국가 배후 캠페인, 소프트웨어 공급망 침해, 널리 배포된 제품의 취약점은 주 경계를 넘는다. 이들은 여전히 국가 차원의 인텔리전스, 조정된 공개, 기술 제공업체에 대한 접근을 필요로 한다.

주 정부 프로그램은 California 내부의 운영 공백을 메울 수 있다. 그러나 CISA, 연방 법집행기관, 정보기관, 국가 정보공유 조직의 모든 역량을 독자적으로 재현할 수는 없다.

이 시점은 최전선 모델이 할 수 있는 일이 변화하고 있음을 반영하기도 한다. AI 개발업체들은 점점 더 유능한 시스템이 통제된 환경에서 복잡한 사이버보안 작업을 완료한다고 보고해 왔다.

통제된 테스트는 실제 핵심 인프라에 대한 성공적인 공격과는 다르다. 그럼에도 보안팀이 더 빠른 정찰, 코드 분석, 취약점 발견, 피싱 준비에 대비해야 함을 보여준다.

일부 공격 작업의 비용도 낮아지고 있다. 공격자는 모델을 사용해 메시지를 번역하고, 악성코드 구성 요소를 재작성하며, 문서를 분석하거나 반복적인 조사를 자동화할 수 있다.

정교한 작전에는 여전히 인간의 전문성이 필요하다. AI는 한 사람이 시도할 수 있는 작업량과 팀이 가능한 공격 경로를 시험할 수 있는 속도를 바꾼다.

California의 대응은 같은 가속화를 방어에 적용하는 것이다. 과제는 기계가 생성한 권고가 사람들이 검증할 수 있는 속도보다 빠르게 도착하는 상황에서도 인간의 책임성을 유지하는 데 있다.

Google News의 관심이 가리는 더 긴 정책 구축 과정

AI Cyber Defense Program은 새롭지만, 그 법적·조직적·상업적 기반은 수년에 걸쳐 마련됐다.

California는 Cal-CSIC를 주 정부 사이버보안 활동의 중앙 조정 허브로 설립했다. 법정 임무에는 경제, 핵심 인프라, 공공 또는 민간 네트워크를 위협하는 사고를 줄이는 일이 포함된다.

이 센터는 정부 기관, 부족 정부, 공공사업자, 학교, 대학, 서비스 제공업체, 비정부기구와 협력한다. 또한 Cyber Incident Response Team도 운영한다.

이 구조는 새 프로그램이 위협 정보를 수집하고 사고를 조정할 수 있는 기반을 제공한다. 그렇다고 모든 참여자가 호환 가능한 도구, 인력 또는 권한을 보유한다는 보장은 없다.

2025년 10월 Newsom은 Assembly Bill 979를 승인했다. 이 법은 Cal-CSIC가 2027년 1월 1일까지 California AI Cybersecurity Collaboration Playbook을 마련하도록 요구한다.

California 법안은 Office of Information Security 및 Government Operations Agency와의 협의를 요구한다. 또한 계약된 AI 서비스를 제공하는 주 정부 공급업체를 위한 의무적 위협 공유 체계도 요구한다.

이 공급업체 조항은 중요하다. 제공업체는 서비스를 사용하는 주 정부 기관이 사건을 인지하기 전에 취약점, 모델 추출 시도, 침해된 계정 또는 악성 프롬프트 패턴을 발견할 수 있다.

의무 보고는 이러한 정보 격차를 줄일 수 있다. 그 효과는 정의, 보고 기한, 검증 규칙, 민감한 정보 보호에 달려 있다.

이 법은 California가 연방 Joint Cyber Defense Collaborative 모델을 고려하도록 지시한다. CISA는 2025년 1월 AI Cybersecurity Collaboration Playbook을 발표했다.

연방 플레이북은 AI 관련 취약점과 사이버보안 사고의 자발적 공유를 다룬다. 정보 범주, 보호 조치, 공유 방식, CISA의 대응 절차를 설명한다.

California 버전은 주 정부가 기관 및 계약업체와 직접적인 관계를 맺고 있기 때문에 더 실무적으로 발전할 수 있다. 동시에 공유 대상에 핵심 인프라 운영자가 포함될 때 더 어려운 신뢰 문제에 직면한다.

공공사업자와 공급업체는 민감한 기술 세부 정보가 보호된다는 확신이 필요하다. 주 정부 방어 담당자들은 여러 조직에 영향을 미치는 패턴을 식별할 만큼의 가시성도 여전히 필요하다.

이 법은 적격 위협 지표와 방어 조치의 기밀성을 다룬다. 이러한 보호 장치가 신속한 보고를 장려할 만큼 명확한지는 구현 과정에서 결정될 것이다.

캘리포니아는 정책 문서를 넘어 공급업체 도입 단계로도 나아갔다. 2026년 6월, 주 정부는 Anthropic의 Claude를 주 정부 기관과 지방정부에서 사용할 수 있도록 하는 광범위한 협약을 발표했다.

해당 Anthropic 파트너십에 따라 기술부와 Cal OES는 코드 스캔, 분류, 패치 작업에 Claude Security와 Claude Code를 사용하기 시작했다.

이 작업은 AI Cyber Defense Program의 그럴듯한 기술적 출발점이 된다. 다만 8월 발표는 Anthropic을 독점 제공업체로 지정하지 않았으며, 최종 아키텍처도 정의하지 않았다.

멀티모델 접근 방식은 단일 공급업체 의존도를 낮추고, 기관이 특정 업무에 맞춰 도구를 선택할 수 있게 해줄 수 있다. 동시에 통합 지점, 평가 절차, 계약, 보안 경계의 수도 늘어난다.

단일 공급업체 방식은 관리와 공동 교육을 간소화할 수 있다. 그러나 해당 제공업체의 가용성, 모델 동작, 제품 변경, 상업적 결정에 대한 노출은 커진다.

이는 Google News 헤드라인 아래에 놓인 핵심적인 상충 관계다. 캘리포니아는 접근 권한, 증거, 비상 의사결정에 대한 공적 통제력을 유지하면서 상용 AI의 속도와 도달 범위를 활용하려 한다.

AI 방어는 여전히 기본 보안 통제에 의존한다

기관이 모델 접근을 신원 보안, 세분화, 자산 목록화, 복구의 대체물로 여긴다면 캘리포니아의 프로그램은 실패할 것이다.

AI는 신뢰할 수 있는 맥락을 받을 때 가장 효과적으로 작동한다. 사이버 방어에서 이 맥락에는 자산 소유권, 소프트웨어 버전, 네트워크 관계, 사용자 권한, 취약점 데이터, 로그, 사고 이력이 포함된다.

많은 공공기관은 레거시 시스템과 외주 서비스 전반에서 이러한 기록을 유지하는 데 어려움을 겪는다. 중요 인프라 운영자는 일반적인 패치 일정을 감당할 수 없는 운영 기술과 정보 기술을 함께 사용하기도 한다.

운영 기술에는 물리적 프로세스를 모니터링하거나 제어하는 하드웨어와 소프트웨어가 포함된다. 잘못된 조치는 펌프, 교통 시스템, 제조 장비, 에너지 운영에 영향을 미칠 수 있다.

이러한 결과는 허용 가능한 자동화 수준을 바꾼다. 노트북을 격리하라는 AI 권고와 필수 물리 서비스에 쓰이는 장비의 연결을 끊으라는 권고는 다르다.

캘리포니아에는 명시적인 조치 등급이 필요하다. 저위험 작업에는 경보 요약, 지표 매칭, 조사 쿼리 초안 작성, 패치 권고 등이 포함될 수 있다.

고위험 조치에는 검증된 증거와 지정된 승인이 필요해야 한다. 여기에는 권한 있는 액세스 취소, 운영 트래픽 차단, 제어 시스템 격리, 산업 구성 변경 등이 포함된다.

사람의 승인이 모든 문제를 해결하는 것은 아니다. 특히 수백 개의 경보가 동시에 발생하는 사고 상황에서는 검토자가 자동화된 권고를 너무 빠르게 수용할 수 있다.

따라서 주 정부는 단순히 사람이 버튼을 누르도록 요구하는 데 그치지 않고 의사결정의 품질을 측정해야 한다. 유용한 통제로는 독립적 검증, 신뢰도 임계값, 롤백 계획, 완전한 조치 로그가 있다.

모델은 적대적 조작에도 직면한다. 공격자는 AI 보안 도구가 나중에 분석할 파일, 티켓, 리포지토리, 웹사이트, 시스템 로그에 오해를 유도하는 내용을 삽입할 수 있다.

이는 프롬프트 인젝션으로, 신뢰할 수 없는 데이터에 삽입된 적대적 지시를 모델이 따르도록 만들려는 시도다. 보안 에이전트는 검사하는 데이터와 실행할 수 있는 명령을 엄격히 분리해야 한다.

자격 증명도 또 다른 우려를 낳는다. 광범위한 접근 권한을 가진 에이전트는 사람보다 더 빠르게 움직일 수 있지만, 침해된 에이전트 역시 그 접근 권한을 더 빠르게 악용할 수 있다.

캘리포니아는 단기 자격 증명, 최소 권한, 격리된 실행 환경, 승인 게이트를 사용해야 한다. 각 에이전트의 조치는 사용자, 모델 버전, 도구, 입력 세트까지 추적 가능해야 한다.

데이터 처리 역시 면밀한 검토가 필요하다. 보안 텔레메트리에는 개인정보, 자격 증명, 기밀 사업 정보, 인프라 레이아웃이 포함될 수 있다.

기관에는 집행 가능한 보존 및 학습 규칙이 필요하다. 제출된 데이터가 모델 학습 자료가 되는지, 어디에서 처리되는지, 어떤 하청업체가 접근할 수 있는지를 알아야 한다.

모델 평가는 일반적인 정확도 점수에 의존할 수 없다. 캘리포니아에는 오탐, 탐지 누락, 안전하지 않은 복구 조치, 조작된 증거, 적대적 입력 환경에서의 성능을 위한 업무별 테스트가 필요하다.

더 많은 취약점을 찾아내는 시스템도 저가치 경보로 팀을 압도한다면 위험을 만들 수 있다. 요약 도구는 시간을 절약할 수 있지만 침해를 이해하는 데 필요한 단 하나의 세부 사항을 누락할 수도 있다.

가장 바람직한 초기 활용은 권한 범위를 좁게 유지하는 방식일 가능성이 크다. AI는 증거를 수집하고, 신호를 상관 분석하며, 조치를 제안할 수 있지만, 경험 많은 대응자가 중요한 변경 사항을 통제해야 한다.

시간이 지나 테스트에서 일관된 안전성이 입증된 업무에는 더 많은 자동화를 부여할 수 있다. 이 단계적 접근은 광범위한 배포보다 느리지만, 기관이 감사할 수 있는 증거를 만들어낸다.

주 정부의 자체 지침도 이러한 순서를 뒷받침한다. 현대적 도구는 부재한 보안 아키텍처를 복구할 수 없기 때문에, 지침은 익스플로잇 방지와 AI 지원 방어보다 기초 통제를 우선한다.

지방정부는 가장 큰 구현 격차에 직면한다

이 프로그램의 공공적 가치는 캘리포니아에서 가장 잘 갖춰진 기관 내부의 성공이 아니라, 소규모 관할 구역에 무엇이 도달하는지에 달려 있다.

대형 기관은 보안팀을 고용하고, 계약을 협상하며, 전담 모니터링을 유지할 수 있다. 소도시, 특별구, 농촌 공공사업자는 다른 제약 속에서 운영된다.

이들의 기술 인력은 사용자 계정, 공공 웹사이트, 네트워킹, 조달, 백업, 사고 대응을 동시에 지원해야 할 수 있다. 전문적인 AI 보안 평가는 현재 역량을 훨씬 넘어설 수 있다.

주 정부 서비스는 인재와 구매력을 결집할 수 있다. 또한 이를 단독으로 유지할 수 없는 조직에 공통 경보, 플레이북, 평가, 대응 지원을 제공할 수 있다.

캘리포니아는 이 제안을 또 하나의 복잡한 조달 요건으로 바꾸지 않아야 한다. 지역 파트너에게는 명확한 자격 요건, 온보딩, 지원, 사고 에스컬레이션을 갖춘 접근 가능한 서비스가 필요하다.

주 정부는 아직 이 세부 사항을 공개하지 않았다. 접근 범위를 확대하겠다고 밝혔지만, 어떤 도구가 제공될지 또는 참여 비용을 어떻게 조달할지는 설명하지 않았다.

통합 수준은 고르지 않을 것이다. 일부 조직은 광범위한 로그를 갖춘 현대적 클라우드 시스템을 보유한 반면, 다른 조직은 오래된 애플리케이션, 지원 종료 장비, 특수 산업 장비에 의존한다.

AI 도구는 사용할 수 있는 텔레메트리를 생성하지 않는 장비를 모니터링할 수 없다. 공급업체가 검증되지 않은 소프트웨어 변경을 금지하는 경우 장비를 안전하게 패치할 수도 없다.

캘리포니아는 준비도 작업과 AI 배포를 구분해야 한다. 일부 참여자는 먼저 자산 탐색, 안전한 백업, 다중 인증, 네트워크 세분화, 신뢰할 수 있는 로깅이 필요하다.

이는 잠재적인 측정 함정을 만든다. 주 정부는 많은 조직이 등록했다고 보고하면서도 가장 큰 위험에 처한 조직에는 거의 개선을 제공하지 못할 수 있다.

등록은 복원력이 아니다. 더 나은 지표로는 노출된 서비스 감소, 복구 조치 시간 단축, 복구 테스트, 탐지 범위 향상, 사고 지원에 대한 더 빠른 접근 등이 있다.

이 프로그램은 지역의 운영 지식도 보존해야 한다. 주 정부 분석가가 의심스러운 이벤트를 식별할 수는 있지만, 어떤 시스템이 필수 서비스를 지원하는지와 언제 중단이 물리적 위험을 초래하는지는 현지 인력이 이해한다.

대응 계획은 중앙의 기술 전문성과 지역 권한을 결합해야 한다. 또한 영향을 받은 조직이 일반적인 채널로 통신할 수 없는 상황을 위한 절차도 필요하다.

지역 단위 훈련은 이러한 격차를 드러내는 데 도움이 될 것이다. 수도, 교통, 보건, 통신, 에너지 조직은 동일한 소프트웨어 취약점을 공유하더라도 서로 다른 운영 제약에 직면한다.

캘리포니아는 정교하게 꾸며진 시연이 아니라 현실적인 혼란을 기준으로 프로그램을 시험해야 한다. 훈련에는 불완전한 로그, 이용 불가능한 공급업체, 상충하는 권고, 성능이 저하된 통신이 포함되어야 한다.

주 정부는 오경보에도 대비해야 한다. 공격자가 존재하지 않더라도 불필요한 중단은 필수 서비스에 피해를 줄 수 있다.

성숙한 프로그램은 모델이 경보를 제기한 이유, 이를 뒷받침한 증거, 대응을 승인한 사람, 결과가 중단을 정당화했는지를 기록해야 한다.

지방정부는 감사, 보험, 공적 책무성, 향후 개선을 위해 이러한 기록이 필요하다. 중앙집중식 시스템이 내리는 설명 없는 지시를 받아들여야 해서는 안 된다.

Google News 노출은 이 이니셔티브에 관심을 끌 수 있다. 신뢰는 사이버보안 자원이 가장 적은 지역사회에서의 실질적 지원, 투명한 한계, 측정 가능한 개선에서 나올 것이다.

진짜 시험대는 기계 속도에서의 책임성이다

AI 시스템이 실수할 때에도 더 빠른 방어가 관찰 가능하고, 되돌릴 수 있으며, 책임성을 유지한다는 점을 캘리포니아는 입증해야 한다.

Newsom은 선택지를 다음 위기를 기다리는 것과 지금 방어 체계를 구축하는 것으로 제시했다. 이러한 긴급성은 타당하지만, 긴급성은 평가와 조달 규율을 약화시킬 수도 있다.

이 프로그램에는 모든 방어적 AI 사용 사례의 명확한 목록이 필요하다. 각 항목은 책임자, 모델, 데이터 소스, 권한, 사람 검토자, 기대 효과, 실패 시 결과를 식별해야 한다.

기관 AI Cybersecurity Officers가 이러한 목록을 유지할 수 있다. 캘리포니아는 이들이 최고정보책임자, 보안 책임자, 기관장, 또는 주 전체 권한 기관 중 누구에게 보고하는지 여전히 정의해야 한다.

기관 지도부나 대형 기술 공급업체가 지원하는 배포에 이의를 제기해야 할 때는 독립성이 중요하다. 모델별 위험을 평가할 때는 기술적 역량도 중요하다.

상세한 방어 정보는 공격자에게 도움이 될 수 있으므로 공개 투명성에는 한계가 있다. 그렇더라도 캘리포니아는 거버넌스 규칙, 집계된 성과, 사고 범주, 조달 기준, 감사 결과를 공개할 수 있다.

주 정부는 공급업체의 주장과 검증된 결과를 구분해야 한다. 제공업체는 자사 모델이 더 많은 취약점을 찾거나 조사를 더 빠르게 완료한다고 보고할 수 있다.

캘리포니아에는 기존 도구 및 인간 팀과의 통제된 비교가 필요하다. 테스트는 성공적인 탐지뿐 아니라 잘못된 권고의 비용도 측정해야 한다.

같은 원칙은 사고 대응에도 적용된다. 대응자가 올바른 시스템을 격리하고 복구 및 조사를 위해 필요한 증거를 보존할 때에만 더 빠른 봉쇄가 유용하다.

캘리포니아에는 모델 업데이트 절차도 필요하다. AI 서비스는 제공업체가 모델, 안전 통제, 컨텍스트 한도, 기반 인프라를 수정한 뒤 동작이 달라질 수 있다.

평가를 통과한 모델 버전이 그 후속 버전에 자동으로 권한을 부여해서는 안 된다. 고위험 워크플로에는 업데이트된 시스템이 동등한 접근 권한을 받기 전에 회귀 테스트가 필요하다.

공급업체 장애도 이러한 테스트에 포함되어야 한다. 대형 사고 발생 중 클라우드 모델을 사용할 수 없게 되었다고 해서 주 정부의 방어 프로그램이 작동을 멈춰서는 안 된다.

대체 계획에는 기존 보안 도구, 수동 절차, 대체 통신 채널, 훈련된 대응자가 포함되어야 한다. AI는 대체 불가능한 의존성이 되지 않으면서 방어 역량을 높여야 한다.

이 프로그램은 자동화된 권고 간의 충돌을 처리하는 방법도 공개해야 한다. 두 모델이 서로 다른 우선순위를 부여하거나 양립할 수 없는 봉쇄 조치를 제안할 수 있다.

문서화된 의사결정 프레임워크는 이러한 불일치를 드러난 상태로 유지할 수 있다. 이를 단일 위험 점수 뒤에 숨기면 거짓 확실성이 생긴다.

캘리포니아가 신뢰할 수 있는 프로그램을 구축하고 있는지 보여줄 세 가지 신호가 있다.

첫째, 기관 AI Cybersecurity Officers에게 부여되는 상세한 운영 규칙을 지켜봐야 한다. 명확한 권한, 최소 자격 요건, 에스컬레이션 의무는 책임성을 강화할 것이다.

둘째, 2027년 1월 1일까지 마련될 California AI Cybersecurity Collaboration Playbook을 주시해야 한다. 이 문서의 보고 기한과 공급업체 요건은 위협 정보 공유가 실제 운영으로 이어질지를 결정할 것이다.

셋째, 공개적인 성과 근거를 지켜봐야 한다. California는 민감한 시스템을 노출하지 않으면서 탐지, 조치, 복구 테스트, 지방정부 지원 범위에서 측정 가능한 변화를 보고해야 한다.

이러한 신호가 나타난다면, 이 프로그램은 공공 사이버 방어의 진지한 현대화로 보일 것이다. 그렇지 않다면, 이 이니셔티브는 기존 도구에 붙은 익숙한 이름으로 남을 위험이 있다.

그렇기 때문에 현재의 Google News 보도는 주목할 만하지만, 성급한 자축의 대상은 아니다. California는 임무를 정의하고 이를 담당할 제도적 거점을 정했다.

어려운 과제는 접근 통제, 평가, 보고 규칙, 지방 지원, 실패 대응 계획에서 시작된다. 이러한 세부 사항이 AI가 위험을 줄일지, 아니면 단지 위험의 형태만 바꿀지를 결정할 것이다.

보안 책임자들은 이제 실질적인 질문을 던져야 한다. AI가 안전하게 가속할 수 있는 방어 의사결정은 무엇이며, 여전히 인간의 직접적인 통제가 필요한 결정은 무엇인가?

California의 답은 한 주를 넘어 영향을 미칠 것이다. 다른 정부들은 실제 운영 압박 속에서 중앙집중형 AI 방어가 필수 서비스를 개선하는지 판단하는 데 그 결과를 활용할 수 있다.