KISTI의 AI 화이트햇 베팅, 인간 중심 사이버 방어에 도전

KISTI는 공격이 한국의 국가 연구 인프라에 도달하기 전에 이를 시험할 5년간 472억 원 규모의 AI 사이버보안 프로그램을 시작했다. 이 프로젝트는 분리된 보안 도구들을 시뮬레이션, 취약점 탐색, 사고 분석을 위한 연결형 시스템으로 대체한다.

한국과학기술정보연구원은 이 프로젝트를 AI 화이트햇 기반의 “Hacking Zero” 시스템이라고 부른다. 핵심 구상은 분명하다. 자동화된 방어 체계가 인간 분석가가 각 경보를 검토할 때까지 기다리는 대신, 공격자의 관점에서 인프라를 지속적으로 조사해야 한다는 것이다.

이러한 목표는 프로젝트의 핵심 긴장 관계를 만든다. 자율 테스트는 방어 범위를 넓힐 수 있지만, 같은 자율성은 새로운 운영 및 감독 위험도 초래한다. KISTI는 필수 연구 서비스를 중단시키거나 또 다른 민감한 공격 표면을 만들지 않으면서도 시스템이 의미 있는 취약점을 찾아낼 수 있음을 입증해야 한다.

시점도 중요하다. DARPA의 AI Cyber Challenge는 자율 취약점 연구에서 측정 가능한 결과를 내놓았다. 한편 보안 기관들은 AI가 방어 업무와 적대적 활동 모두를 확장할 수 있다고 경고한다. KISTI는 이 경쟁을 통제된 소프트웨어 과제에서 국가 연구 네트워크, 데이터 시스템, 컴퓨팅 인프라로 옮기고 있다.

KISTI, 세 가지 AI 시스템으로 하나의 보안 루프 구축

이 프로젝트를 규정하는 변화는 하나의 운영 모델 안에서 예방, 공격 검증, 사고 조사를 연결한다는 점이다.

한국과학기술정보연구원 KISTI는 이 프로그램을 발표했다 2026년 8월 3일에. 연구원은 총 472억 원의 예산으로 2026년부터 2030년까지 이를 운영할 계획이다.

산업계, 학계, 공공 연구기관 소속 12개 기관이 참여한다. KISTI는 협력 기관으로 한국전자통신연구원과 한국과학기술원을 언급했다.

계획된 시스템은 세 개의 연결된 구성 요소로 이뤄진다. 각각은 방어 주기의 서로 다른 단계를 다룬다.

첫 번째 구성 요소는 AI 사이버 트윈이다. 이는 실제 환경의 시스템, 자산, 연결 관계, 네트워크 구조를 분석한다. 이후 관련 동작을 가상 테스트 환경 내부에 재현한다.

사이버 트윈은 운영 인프라를 디지털로 표현한 것이다. 이를 통해 방어자는 모든 실험을 운영 장비에 직접 수행하지 않고도 시스템 동작을 연구할 수 있다.

KISTI는 자사 버전을 하이브리드 리빙 랩으로 설명한다. 보안 팀은 모델이 나타내는 서비스를 중단하지 않고 그 안에서 공격 시나리오를 실행할 수 있어야 한다.

두 번째 구성 요소는 AI 화이트햇 시스템이다. 이는 공격자의 관점에서 시뮬레이션 환경을 검토하고, 취약점을 탐색하며, 가능한 공격 경로를 식별하고, 여러 시나리오에서 테스트를 반복한다.

이 작업은 자동화된 레드팀 활동과 닮아 있다. 레드팀은 적대적 행위자가 악용하기 전에 취약점을 찾아내기 위해 공격자를 모방한다.

세 번째 구성 요소는 사고 후 작업을 위한 AI 프로파일러다. 이는 분리된 시스템의 로그와 디지털 증거를 수집하고 연결한다. 이후 공격자의 행동, 침입 경로, 기법을 재구성한다.

전통적인 보안 프로그램은 이런 기능을 서로 다른 제품과 팀에 나누는 경우가 많다. 취약점 스캐너는 알려진 노출을 식별하고, 레드팀은 정기적인 훈련을 수행하며, 사고 대응팀은 탐지 후 침해를 재구성한다.

KISTI는 이러한 활동이 맥락을 공유하도록 만들고자 한다. 트윈 내부에서 발견된 취약점은 모니터링 규칙에 반영될 수 있다. 실제 사고의 증거는 새로운 시뮬레이션 공격 시나리오를 만들 수 있다.

이 피드백 루프는 개별 모델보다 더 중요하다. 독립형 취약점 스캐너는 발견 사항을 만들어낸다. 연결된 시스템은 해당 발견 사항을 시험하고, 그 결과를 관찰하며, 이후 조사를 정교화할 수 있다.

이 프로젝트는 해킹의 문자 그대로의 제거를 약속하지 않는다. “Hacking Zero”는 검증된 보안 결과가 아니라 프로그램의 이름이자 지향점이다.

복잡한 네트워크는 취약점이나 침입이 전혀 없음을 보장할 수 없다. 의미 있는 평가는 KISTI가 운영 위험을 높이지 않으면서 노출, 탐지 지연, 조사 시간을 줄이는지에 달려 있다.

국가 연구 인프라가 판도를 바꾸는 이유

KISTI는 가동 중단, 데이터 유출, 신뢰 훼손이 한 조직을 넘어 연구 전반에 영향을 줄 수 있는 시스템에 자율 보안을 적용하고 있다.

국가 연구 인프라에는 유난히 높은 가치가 집중돼 있다. 슈퍼컴퓨터, 과학 데이터셋, 연구 네트워크, 공유 디지털 서비스는 한 번에 많은 기관을 지원한다.

성공적인 공격은 진행 중인 실험을 중단시키거나 귀중한 컴퓨팅 자원에 대한 접근을 차단할 수 있다. 또한 미공개 연구 결과, 자격 증명, 지식재산, 민감한 협업 기록을 노출할 수 있다.

공유 인프라는 또 다른 문제를 만든다. 하나의 연결된 서비스에 존재하는 취약점이 더 큰 연구 환경으로 들어가는 진입점이 될 수 있다.

공격자는 모든 통제 수단을 직접 무력화할 필요가 없다. 간과된 계정, 노출된 서비스, 소프트웨어 의존성, 신뢰된 연결을 노릴 수 있다.

KISTI는 기존 방어 체계가 여전히 알려진 공격을 탐지하고 사고 발생 후 대응하는 방식에 크게 의존한다고 말한다. 또한 전문가들이 취약점과 공격 경로를 수작업으로 분석하는 경우가 많다고 설명한다.

이 접근법은 확장성 문제에 직면한다. 인간 전문가는 시간이 제한돼 있는 반면, 현대 연구 인프라는 지속적으로 변한다.

새 서비스가 등장하고, 소프트웨어는 업데이트되며, 권한은 바뀌고, 협업은 새로운 연결을 만든다. 보안 평가는 다음 예정된 검토 전에 이미 낡을 수 있다.

자동화된 탐색은 가능한 대응책을 제시한다. AI 화이트햇 시스템은 인간 팀이 수작업으로 수행할 수 있는 것보다 더 많은 시나리오를 실행할 수 있다. 또한 인프라 변경 후 이전 테스트를 반복할 수 있다.

그러나 범위만으로 보안이 보장되지는 않는다. 수천 건의 낮은 품질의 발견 사항을 생성하는 시스템은 분석가의 부담을 줄이기는커녕 늘릴 수 있다.

따라서 KISTI는 양쪽의 압박을 받는다. 공격자는 자동화의 이점을 얻지만, 방어자는 통제되지 않은 자동화로 안전하게 대응할 수 없다.

연구원은 인간 보안 전문가가 제공하는 판단을 보존해야 한다. 분석가는 임무 우선순위, 유지보수 시간대, 특수한 연구 워크플로, 허용 가능한 운영 위험을 이해한다.

이러한 인간적 맥락은 연구 시스템이 서로 대체 가능한 기업용 서버가 아니기 때문에 중요하다. 일부 작업 부하는 장기간 실행되고, 희귀 장비를 수반하거나, 즉시 변경할 수 없는 구성에 의존한다.

기술적으로 타당한 개선 조치도 연구 운영에 해를 끼칠 수 있다. 서비스를 닫거나, 자격 증명을 교체하거나, 잘못된 시점에 패치를 적용하면 가치 있는 작업이 중단될 수 있다.

이 프로젝트의 장기적 가치는 우선순위 설정에 달려 있다. 이론적 취약점과 핵심 자산을 위협하는 공격 경로를 구분해야 한다.

또한 권장 대응책이 왜 주목할 가치가 있는지 설명해야 한다. 영향을 받는 인프라가 국가 연구를 지원하는 상황에서 보안 팀은 불투명한 점수만을 근거로 책임 있게 행동할 수 없다.

그 결과 KISTI의 이니셔티브는 기존 보안 운영 방식에 압력을 가한다. 새 플랫폼이 지속적이고 증거 기반의 테스트를 제공한다면, 정기 평가와 경보 중심 조사는 점점 더 제한적으로 보일 것이다.

이 압력은 보안 공급업체에도 미친다. 고객은 스캐너, 모니터링 플랫폼, 사고 대응 도구가 별도의 대기열을 만들기보다 더 풍부한 맥락을 교환하기를 기대할 것이다.

한국 밖의 연구기관도 이 배포를 주시해야 한다. 많은 기관이 유사한 제약 아래 공유 컴퓨팅, 신원, 스토리지, 네트워크 서비스를 운영한다.

질문은 모든 기관이 KISTI와 정확히 같은 아키텍처를 필요로 하는지가 아니다. 복잡한 공공 인프라에 지속적인 방어 시뮬레이션이 표준 요건이 되는지 여부다.

실제 절충점은 자율적 도달 범위와 운영 통제의 대립

KISTI는 AI 방어 체계가 공격자처럼 사고하면서도 공격자보다 더 제약되고, 설명 가능하며, 책임을 질 수 있도록 만들어야 한다.

사이버 트윈은 프로젝트의 첫 번째 안전 경계를 제공한다. KISTI는 실제 국가 서비스를 대상으로 하지 않고 그 표현 모델 안에서 파괴적이거나 비정상적인 행동을 시험할 수 있다.

이 설계는 더 폭넓은 실험을 지원한다. 화이트햇 시스템은 운영 인프라를 연습 대상으로 삼지 않고도 대체 공격 경로를 탐색하고, 행동을 반복하며, 결과를 비교할 수 있다.

디지털 트윈에도 한계는 있다. 모델은 살아 있는 네트워크의 모든 의존성, 타이밍 조건, 사용자 행동, 구성 오류를 재현할 수 없다.

NIST의 디지털 트윈 지침은 이 기술이 자체적인 사이버보안 및 신뢰 고려 사항을 만든다고 지적한다. 트윈은 테스트 도구이면서 동시에 실제 환경을 민감하게 표현한 모델이다.

표현이 불완전하면 테스트는 중요한 취약점을 놓칠 수 있다. 부정확하면 시스템은 존재하지 않는 조건을 바탕으로 변경을 권고할 수 있다.

낡은 트윈은 잘못된 확신을 만든다. 모델은 자산, 소프트웨어, 신원, 네트워크 경로, 보안 통제 수단에 관한 최신 정보를 제때 받아야 한다.

하지만 충실도가 높을수록 민감성도 커진다. 상세한 지도는 그것이 나타내는 인프라에 관한 가치 있는 정보를 드러낼 수 있다.

따라서 KISTI는 모델 접근, 데이터 보존, 로깅, 관리 권한을 엄격히 통제해야 한다. 침해된 트윈은 공격자가 실제 네트워크를 이해하는 데 도움을 줄 수 있다.

AI 화이트햇 구성 요소는 두 번째 통제 문제를 만든다. 예기치 못한 공격 경로를 발견할 수 있을 만큼의 자유는 필요하지만, 무제한 권한을 부여받아서는 안 된다.

가장 안전한 설계는 탐색과 실행을 분리한다. 모델은 테스트를 제안하고, 정책 엔진은 승인된 대상과 기법에 비추어 해당 행동을 점검할 수 있다.

고위험 행동에는 인간의 승인이 필요해야 한다. 시스템은 또한 조사자가 검토할 수 있는 형식으로 프롬프트, 도구 호출, 증거, 결정을 기록해야 한다.

이러한 안전장치는 자율 에이전트가 악의 없이도 잘못 행동할 수 있기 때문에 중요하다. 대상의 의미를 잘못 이해하거나, 오염된 데이터를 따르거나, 잘못된 성공 척도를 최적화할 수 있다.

NIST는 AI 에이전트를 둘러싼 유사한 우려를 지적했다. 에이전트 시스템 보안에 관한 연구는 간접 프롬프트 인젝션, 오염된 모델, 안전하지 않은 구성 요소, 명세 게이밍을 강조한다.

명세 게이밍은 시스템이 운영자의 실제 의도를 위반하면서도 형식적 목표를 충족하는 경우를 말한다. 보안 테스트에서는 운영상 중요성을 존중하지 않은 채 탐지된 취약점 수를 최대화하는 상황이 이에 해당할 수 있다.

모델은 검증하기 쉽다는 이유로 낮은 가치의 발견 사항을 반복적으로 표시할 수 있다. 더 명확한 증거를 만든다는 이유로 공격적인 테스트를 선택할 수도 있다.

KISTI의 프로파일러는 관련된 증거 문제를 만든다. 자동화된 재구성은 사람보다 로그를 더 빠르게 연결할 수 있지만, 상관관계만으로 인과관계가 성립하는 것은 아니다.

로그는 불완전하거나, 중복되거나, 타임스탬프가 잘못됐거나, 침입자에 의해 조작될 수 있다. 공유 계정과 자동화 서비스는 귀속 판단을 더욱 복잡하게 만든다.

따라서 프로파일러는 불확실성을 표현해야 한다. 관찰된 증거와 추론된 단계, 제안된 설명을 구분해야 한다.

인간 조사관은 공개, 복구, 법적 조치 또는 귀속에 영향을 미치는 결론에 대해 계속 책임을 져야 한다. 자동화는 증거 기준을 대체하지 않으면서도 이들의 업무를 가속할 수 있다.

이 균형은 프로젝트의 핵심적인 트레이드오프를 규정한다. 자율성이 높아질수록 시스템의 범위와 속도는 향상된다. 통제가 강화될수록 방어 활동이 사고를 유발할 가능성은 낮아진다.

KISTI가 성공하려면 이 두 목표를 상호 배타적인 것으로 다뤄서는 안 된다. 아키텍처는 제약된 자율성을 보안 설계의 일부로 만들어야 한다.

DARPA는 가능성을 보여줬지만, KISTI는 더 어려운 환경에 직면해 있다

자율 취약점 연구는 의미 있는 기술적 검증을 거쳤지만, 국가 인프라는 대회 성과 이상의 증거를 요구한다.

DARPA의 AI Cyber Challenge는 가장 분명한 최근 비교 사례를 제공한다. 결선 진출팀들은 핵심 인프라와 관련된 소프트웨어에서 취약점을 찾아 패치하는 사이버 추론 시스템을 구축했다.

2025년 최종 대회는 5,400만 줄이 넘는 코드를 다뤘다. 대회 결과에 따르면, 시스템들은 63개의 합성 취약점 중 54개를 찾아냈고 43개를 패치했다.

또한 의도적으로 삽입되지 않은 실제 취약점 18개도 발견했다. 팀들은 이 실제 발견 사항에 대해 11개의 패치를 제공했다.

이 결과는 자율 시스템이 유용한 보안 업무를 수행할 수 있음을 보여준다. 가능한 결함을 설명하는 수준을 넘어 개발자가 평가할 수 있는 산출물을 생성할 수 있다.

챌린지 기간 동안의 성능 향상도 주목할 만했다. DARPA는 시스템들이 결선에서 합성 취약점의 86%를 찾아냈다고 보고했으며, 이는 준결선의 37%와 비교된다.

결선에서는 식별된 합성 취약점의 68%를 패치했다. 준결선의 비교 가능한 수치는 25%였다.

Team Atlanta가 대회에서 우승했다. 구성원들은 Georgia Tech, Samsung Research, KAIST, Pohang University of Science and Technology 출신이었다.

KAIST의 참여는 KISTI의 새 컨소시엄과 직접적인 연결고리를 만든다. 한국은 관련 경험 없이 자율 보안 연구를 시작하는 것이 아니다.

그러나 KISTI의 운영 환경은 DARPA의 챌린지와 다르다. 대회에는 정의된 대상, 규칙, 채점 방식, 평가 기간이 있다.

국가 연구 인프라에는 레거시 시스템, 독점 애플리케이션, 특수 장비, 그리고 변화하는 네트워크 관계가 포함된다. 일부 구성 요소는 재현하거나 신속히 패치할 수 없다.

성공의 정의도 달라진다. 대회는 취약점 발견, 패치 품질, 속도에 보상을 줄 수 있다.

운영 기관은 방지된 사고, 안전한 개선 조치, 서비스 연속성, 분석가 업무량, 우선순위가 부여된 발견 사항의 정확성을 측정해야 한다. 이러한 결과는 입증하는 데 더 오랜 시간이 걸린다.

자동화된 테스트를 통과한 패치도 운영 환경에서는 예상치 못한 동작을 일으킬 수 있다. 과학 소프트웨어는 종종 제한적인 의존성이나 특수한 성능 설정에 의존한다.

따라서 KISTI는 발견과 개선 조치 검증을 분리해야 한다. 시스템은 생성된 모든 패치가 배포 준비가 됐다고 가정해서는 안 된다.

발견과 수정의 차이는 조직적으로도 중요하다. 중앙 플랫폼이 취약점을 식별할 수는 있지만, 영향을 받는 서비스를 다른 팀이 소유할 수 있다.

그 팀은 연구자, 공급업체 또는 국제 파트너와 조율해야 할 수 있다. 기술적 자동화가 이러한 의존성을 없앨 수는 없다.

KISTI의 프로젝트는 DARPA의 코드 중심 접근보다 범위가 넓다. 자산 모델링, 공격 경로 탐색, 사고 후 프로파일링을 결합한다.

이러한 폭넓은 범위는 더 강력한 피드백 루프를 만들 수 있다. 동시에 오류가 구성 요소 간에 이동할 수 있으므로 평가를 더 어렵게 만들 수도 있다.

트윈 내부의 잘못된 자산 관계는 오해를 부르는 공격 경로를 생성할 수 있다. 그 경로는 모니터링 규칙과 이후 사고 분석에 영향을 줄 수 있다.

컨소시엄에는 개별 구성 요소뿐 아니라 전체 파이프라인을 위한 테스트가 필요하다. 한 단계가 다른 단계에 정보를 제공할 때 불확실성이 어떻게 전파되는지 측정해야 한다.

DARPA는 오픈소스 공개와 외부 실험도 강조했다. KISTI는 아직 시스템, 평가 프레임워크 또는 연구 산출물 중 어느 정도를 공개할지 구체적으로 밝히지 않았다.

인프라 데이터는 민감하기 때문에 일부 제한은 불가피하다. 그럼에도 독립적인 평가는 핵심 주장을 재현할 수 있을 만큼의 투명성을 필요로 한다.

공개 벤치마크, 익명화된 테스트 환경, 문서화된 실패 사례가 도움이 될 것이다. 또한 외부 연구자들이 KISTI의 접근 방식을 다른 자율 보안 시스템과 비교할 수 있게 한다.

그러한 증거가 없으면 프로그램은 평가하기 어려워질 위험이 있다. 큰 예산과 야심 찬 아키텍처만으로는 운영상 효과를 입증할 수 없다.

AI 화이트햇 시스템은 방어 측이 측정해야 할 위험을 만든다

가장 중요한 미해결 질문은 시스템이 취약점을 찾을 수 있는지 여부가 아니라, 운영자가 그 우선순위와 행동을 신뢰할 수 있는지다.

첫 번째 우려는 오탐이다. 자동화 시스템은 운영 통제가 이미 위험을 억제하고 있는 경우에도 행동을 위험한 것으로 보고할 수 있다.

잘못된 경보 하나하나는 분석가의 시간을 소모한다. 규모가 충분히 커지면, 잡음이 많은 자동화는 보안 운영이 이미 겪고 있는 과부하를 다시 만들어낸다.

미탐은 반대의 위험을 초래한다. 모델은 학습 데이터, 도구 또는 시뮬레이션 환경이 관련 공격을 제대로 나타내지 못하기 때문에 취약점을 놓칠 수 있다.

익숙한 취약점 유형에서의 반복적인 성공은 드물거나 새로운 조건에서의 저조한 성능을 가릴 수 있다. 평균 탐지율만으로는 시스템이 지속적으로 실패하는 지점을 보여줄 수 없다.

KISTI는 심각도, 악용 가능성, 신규성, 영향을 받는 자산 유형별로 발견 사항을 평가해야 한다. 단일한 전체 정확도 지표는 너무 많은 정보를 감추게 된다.

프로그램은 적대적 영향으로부터 테스트 시스템도 보호해야 한다. 공격자는 텔레메트리를 오염시키거나, 로그를 조작하거나, 에이전트가 처리할 위치에 오해를 유도하는 콘텐츠를 배치하려 할 수 있다.

간접 프롬프트 인젝션은 일반 데이터 안에 숨어 AI 에이전트의 행동에 영향을 미칠 수 있다. 보안 도구는 신뢰할 수 없는 콘텐츠를 일상적으로 검사하기 때문에 특히 노출돼 있다.

아키텍처는 관측된 모든 데이터를 적대적인 것으로 취급해야 한다. 모델은 로그, 파일 또는 웹 콘텐츠에서 발견한 지시를 곧바로 승인된 행동으로 전환해서는 안 된다.

도구 권한에는 독립적인 집행이 필요하다. 언어 모델이 행동의 안전성을 결정하는 유일한 통제 수단이 되어서는 안 된다.

모델 업데이트는 또 다른 불확실성의 원천을 만든다. 주변 워크플로가 변하지 않아도 새 버전은 도구 사용, 우선순위 지정 또는 설명을 바꿀 수 있다.

KISTI는 중요한 모델, 프롬프트, 정책, 통합 변경마다 회귀 테스트가 필요하다. 운영자는 각 결과를 어떤 버전이 생성했는지 알아야 한다.

공급망 보안도 중요하다. 시스템은 모델, 소프트웨어 라이브러리, 오케스트레이션 구성 요소, 데이터 파이프라인, 그리고 잠재적으로 외부 서비스에 의존하게 된다.

ENISA의 AI 위협 환경은 AI 공급망을 핵심 보안 우려로 다룬다. KISTI는 방어 핵심부에 불투명한 의존성을 도입하면서 국가 인프라를 보호할 수 없다.

조달 요건은 모델 출처, 업데이트 통제, 취약점 공개, 로깅, 사고 지원을 다뤄야 한다. 민감한 데이터는 명확히 정의된 경계 안에 남아야 한다.

프로젝트에는 새로 발견된 취약점을 위한 공개 절차도 필요하다. 일부 발견 사항은 KISTI를 훨씬 넘어 널리 사용되는 제품에 영향을 미칠 수 있다.

성급한 공개는 수정 사항이 마련되기 전에 사용자를 노출시킬 수 있다. 공개가 지연되면 다른 조직은 자신도 모르게 취약한 상태에 놓일 수 있다.

조정된 취약점 공개에는 검증, 공급업체 연락, 일정, 신중한 게시가 필요하다. 자율 발견은 발견 사항의 양을 늘리지만 이러한 책임을 없애지는 않는다.

책임성은 식별 가능하게 유지돼야 한다. 모델이 해로운 행동을 권고할 때, 운영자는 누가 정책, 배포 및 실행을 승인했는지 알아야 한다.

“AI가 결정을 내렸다”는 용납할 수 있는 사고 설명이 아니다. 거버넌스는 모든 중대한 행동을 책임 있는 인간 역할과 연결해야 한다.

보안 설계 원칙은 유용한 기준선을 제공한다. CISA는 기술 제조업체가 고객 보안에 대해 더 큰 책임을 지고 투명한 개발 관행을 채택해야 한다고 주장한다.

같은 원칙이 여기에도 적용된다. KISTI의 시스템은 숨겨진 위험을 연구팀에 전가하지 않으면서 이들의 부담을 줄여야 한다.

이러한 우려 어느 것도 프로그램의 타당성을 부정하지 않는다. 이는 연구 플랫폼을 신뢰할 수 있는 인프라로 전환하기 위해 필요한 작업을 규정한다.

가장 강력한 결과는 제한 없는 기계 자율성이 아닐 것이다. 반복 가능한 분석을 자동화하면서 모호하고 중대한 결정을 상위 단계로 이관하는 시스템일 것이다.

KISTI의 선택이 효과를 내고 있는지 보여줄 세 가지 신호

다음 증거는 운영 테스트, 측정된 분석가 성과, 실패의 투명한 처리에서 나와야 한다.

첫 번째 신호는 대표적인 연구 환경 내부에서 문서화된 파일럿이다. KISTI는 아키텍처, 파트너, 일정, 자금을 설명했지만 완전한 배포 결과는 아직 제시하지 않았다.

신뢰할 수 있는 파일럿은 필수 서비스를 불필요한 위험에 노출하지 않으면서 실제 자산 복잡성을 포함해야 한다. 트윈과 그것이 나타내는 인프라를 비교해야 한다.

핵심 측정 항목에는 자산 범위, 구성 최신성, 공격 경로 정확도, 운영 환경으로부터의 격리가 포함돼야 한다. 프로그램은 모델이 수동 수정을 얼마나 자주 필요로 했는지도 보고해야 한다.

파일럿이 일상적인 인프라 변화 속에서도 정확한 트윈을 유지한다면 KISTI의 핵심 메커니즘은 신뢰를 얻게 된다. 지속적인 모델링 격차는 시뮬레이션 테스트가 실제 노출을 나타낸다는 주장을 약화시킬 것이다.

두 번째 신호는 AI 화이트햇 시스템이 인간의 보안 업무를 개선한다는 증거다. 단순한 취약점 수로는 이 질문에 답할 수 없다.

KISTI는 분석가가 검증한 발견 사항의 수, 팀이 이를 분류하는 속도, 그리고 의미 있는 개선 조치로 이어지는 빈도를 보고해야 한다. 새로운 발견과 알려진 이슈를 구분해야 한다.

시간 절감은 품질이 수용 가능한 수준으로 유지될 때만 중요하다. 정확도가 낮은 더 빠른 분석은 전체 업무량을 늘릴 수 있다.

시스템은 우선순위 지정도 입증해야 한다. 핵심 자산으로 이어지는 소수의 검증된 공격 경로가 수천 건의 저영향 구성 발견보다 더 중요할 수 있다.

분석가의 재정의율도 유용한 지표가 될 수 있다. 재정의가 빈번하면 권고가 부정확하거나, 설명이 불분명하거나, 정책이 운영에 맞지 않는다는 의미일 수 있다.

재정의율의 하락은 운영자가 단지 덜 주의하게 된 것이 아니라는 전제하에 시스템의 가치를 뒷받침할 수 있다. 독립적인 검토는 자동화 편향을 확인해야 한다.

세 번째 신호는 컨소시엄이 오류나 실패한 테스트를 처리하는 방식이다. 모든 복잡한 보안 시스템은 결국 잘못된 결과를 낸다.

투명한 실패 보고서는 팀이 통제를 이해하고 있는지 보여줄 수 있다. 보고서는 촉발 요인, 영향을 받은 시스템, 격리, 증거, 시정 조치를 설명해야 한다.

KISTI는 문제가 트윈, 화이트햇 에이전트, 프로파일러 또는 통합 계층 중 어디에서 발생했는지도 문서화해야 한다. 연결된 구성 요소는 오류를 증폭시킬 수 있으므로 이 구분은 중요하다.

컨소시엄이 활용 가능한 평가 방법과 실패에서 얻은 교훈을 공개한다면 신뢰는 높아질 것이다. 좌절에 대한 침묵은 외부 평가를 어렵게 만들 것이다.

장기적 지표에는 취약점 개선 조치, 조사 지연 감소, 안정적인 연구 서비스 가용성이 포함된다. 이러한 측정에는 일관된 정의와 비교 가능한 기준선이 필요하다.

관찰자들은 시연만으로 프로그램을 평가하려 해서는 안 된다. 스크립트화된 공격은 구성 요소들이 통신한다는 점은 보여줄 수 있지만, 불확실성 아래에서 신뢰성 있게 작동한다는 점까지 보여주지는 못한다.

이 프로젝트는 2030년까지 진행되므로, 단정적인 평가는 시간이 필요하다. 첫 단계에서는 주최 측이 폭넓은 성능 주장을 내놓기 전에 기준선을 마련해야 한다.

그럼에도 KISTI의 프로그램은 지금 주목할 만하다. 자율 보안 기술을 국가 과학 연구를 뒷받침하는 인프라와 연결하기 때문이다.

이러한 움직임은 증거의 기준을 높인다. 이 시스템은 공격자에 효과적으로 대응해야 하며, 운영 환경에서는 신중하게 작동하고, 각 결정에 책임을 지는 전문가가 이해할 수 있어야 한다.

개발자는 생성된 탐지 결과가 안전한 패치로 이어지는지 지켜봐야 한다. 엔터프라이즈 구매자는 통합, 감사 가능성, 모델 거버넌스를 살펴봐야 한다.

연구기관은 사이버 트윈이 복잡한 환경을 테스트하는 위험을 줄이는지 검토해야 한다. 보안팀은 업무량, 우선순위 설정, 조사 품질에 집중해야 한다.

핵심 질문은 실용적이다. KISTI는 472억 원과 5년의 연구를 운영자가 신뢰하는 방어 루프로 전환할 수 있을까?

이를 확인하려면 또 하나의 AI 보안 시연만으로는 부족하다. 첫 대표 파일럿, 측정된 분석가 성과, 그리고 시스템이 어떤 부분에서 잘못되는지에 대한 솔직한 설명을 지켜봐야 한다.