GenAI.mil 확대로 커지는 Pentagon AI 보안 위험

Pentagon은 GenAI.mil의 사용자가 170만 명에 도달한 뒤 두 개의 기업용 AI 시스템을 추가했다. 공식적인 보호 조치가 마련돼 있음에도 Pentagon AI 보안 위험은 더 커지고 있다. ChatGPT Mil과 Grok for Government는 2026년 8월 31일 군의 일상적인 디지털 업무 환경에 도입됐다. 두 시스템 모두 IL5로 알려진 Impact Level 5에서 Controlled Unclassified Information을 처리할 수 있는 승인을 받았다.

이는 더 이상 일부 기술팀만 참여하는 좁은 실험이 아니다. GenAI.mil은 2025년 12월 출시된 뒤 9개월 만에 부처 전체 300만 명 규모 인력의 절반 이상에게 도달했다. 이 도구들은 계획 수립, 정책, 조달, 물류, 행정, 파일 분석, 지속형 프로젝트를 지원할 수 있다.

Pentagon은 이러한 도달 범위를 운영상 이점으로 본다. 비판론자들은 더 빠른 업무 처리와 절제된 정보 관리 사이에 덜 눈에 띄는 대가가 있다고 본다. Foreign Policy in Focus가 발표한 분석은 기업용 AI의 일상화가 공격 표면을 넓히는 동시에 민감 정보 공개를 일상적인 일처럼 느끼게 만든다고 주장한다.

핵심 쟁점은 인증받은 챗봇이 군 파일을 즉시 노출하느냐가 아니다. GenAI.mil이 중대한 침해 사고를 일으켰다는 공개 증거는 없다. 우려는 수백만 건의 일상적 상호작용이 더 많은 자격 증명, 저장된 프로젝트, 소프트웨어 연결, 그리고 인적 오류의 기회를 만들어내는지 여부다.

이 구분은 중요하다. 인증은 안전한 기술적 경계를 설정할 수 있지만, 그 경계 안에서 이뤄지는 모든 프롬프트, 업로드, 추론, 결정을 예측할 수는 없다. 따라서 Pentagon AI 보안 위험은 모델의 보안 등급만이 아니라 인간의 행동과 시스템 아키텍처에 달려 있다.

GenAI.mil은 이제 일상적인 군 인프라가 됐다

8월의 확장은 GenAI.mil을 빠르게 성장하는 서비스에서 국방 인력 상당수를 지원하는 멀티모델 업무 환경으로 바꿨다.

부처는 같은 날 ChatGPT Mil과 Starshield AI의 Grok for Government를 출시했다. 두 제품은 정부 플랫폼을 통해 군 인력이 여러 상용 최첨단 모델에 접근하도록 설계된 환경에 합류했다.

ChatGPT Mil 출시 발표에서는 채팅, 파일, 프로젝트, 맞춤형 GPT를 핵심 경험으로 설명했다. 부처에 따르면 추가 기능도 시간이 지나면서 도입될 예정이다.

이 조합은 기본적인 챗봇 창보다 훨씬 큰 의미를 갖는다. 파일 기능을 통해 사용자는 원본 자료를 대화에 가져올 수 있다. 프로젝트는 세션 간 맥락을 보존할 수 있다. 맞춤형 GPT는 반복 가능한 지침과 업무 방식을 담아낼 수 있다.

각 기능은 반복 업무를 줄일 수 있다. 함께 사용하면 AI 서비스는 변화하는 조직 지식의 저장소가 될 수도 있다. 시스템은 더 이상 고립된 질문에만 답하지 않는다. 팀이 맥락을 저장하고, 문서를 해석하며, 업무 흐름을 반복하는 방식의 일부가 될 수 있다.

Grok 배포는 지속형 프로젝트, 맞춤형 작업 공간, 추론 모드, 재사용 가능한 플레이북을 추가한다. 부처는 이 플레이북이 조직 지식을 포착하고 확장할 수 있다고 밝혔다.

관계자들은 멀티모델 설계를 공급업체 종속을 막는 수단으로 제시했다. 사용자는 부처의 전체 업무 흐름을 하나의 상용 공급업체에 맡기지 않고도 서로 다른 AI 기능에 접근할 수 있다.

이 접근법은 조달 차원에서 회복탄력성을 만든다. 동시에 감독이 필요한 모델 인터페이스, 통합 지점, 권한 구조, 업데이트 주기의 수를 늘린다.

GenAI.mil의 규모는 위험도를 높인다. 부처는 9개월 안에 고유 사용자 수가 170만 명을 넘었다고 밝혔다. ChatGPT Mil은 300만 명 이상의 인력을 지원하도록 구축됐으며, 이는 더 폭넓은 도입이 여전히 목표임을 시사한다.

의도된 사용처는 광범위하지만 대체로 비기밀 영역이다. 조달 전문가는 시장조사를 비교할 수 있다. 물류팀은 공급 제약을 분석할 수 있다. 정책 담당자는 긴 문서를 요약하거나 지침 초안을 재구성할 수 있다.

이러한 업무는 일상적으로 보이기에 매력적이다. 그러나 그 민감성은 단일 기밀 표시보다 맥락에서 비롯되는 경우가 많다.

공급 기록 하나만으로는 드러나는 정보가 적을 수 있다. 하지만 여러 기록을 배치 일정과 정비 관련 질문에 결합하면 패턴이 노출될 수 있다. 유용한 정보 집계가 의도치 않은 통찰도 만들어낼 때 보안 문제가 시작된다.

원래의 논평은 GenAI.mil의 침해 사고나 기술적 결함을 밝혀내지 못했다. 그 주장은 구조적이다. 지속형 AI 작업 공간과의 상호작용이 빈번해질수록 축적된 정보가 적대자에게 가치 있는 정보가 될 기회도 늘어난다.

이 때문에 사고가 없어도 이번 확장은 보안 이슈가 된다. Pentagon은 이 정도 규모의 사용 행태를 수년간 검증한 공개 증거가 마련되기 전에 대화형 AI를 일상 업무에 편입했다.

편의성이 높아질수록 Pentagon AI 보안 위험이 커지는 이유

안전한 플랫폼은 공개 챗봇에 대한 노출을 줄일 수 있지만, 정보 집계, 접근권한, 습관적 공개를 통해 새로운 위험을 만들 수도 있다.

Impact Level 5는 Controlled Unclassified Information, 즉 CUI를 처리하는 시스템을 위한 Department of Defense의 클라우드 분류 체계다. CUI는 보호 조치가 필요하지만 국가안보 기밀 자료는 아닌 민감한 정부 정보다.

ChatGPT Mil과 Grok for Government의 IL5 인증은 의미가 있다. 이는 해당 시스템이 정해진 정보 환경을 위한 보안 요건을 충족함을 나타낸다. 하지만 가능한 모든 사용 방식, 연결, 인간의 결정이 안전하다는 뜻은 아니다.

이 차이가 현재 논쟁의 중심에 있다. 기술적 승인은 시스템 주변의 통제를 평가한다. 운영 보안은 사람들이 시간이 지남에 따라 그러한 통제를 어떻게 사용하는지에 달려 있다.

대화형 인터페이스는 의도적으로 마찰을 낮춘다. 사용자는 비공식적인 질문을 하고, 텍스트를 붙여넣고, 문서를 업로드하며, 자연스러운 대화를 통해 결과물을 다듬을 수 있다. 이러한 기능이 유용한 이유는 데이터베이스 관리보다 협업에 가깝게 느껴지기 때문이다.

그러나 이는 사용자가 정보 공개를 인식하는 방식도 바꿀 수 있다. 문서를 공개하기 전에 망설이던 사람도 승인된 환경 안의 보조 도구와 문서 내용을 논의하는 데는 편안함을 느낄 수 있다.

그러한 편안함이 자동으로 부적절한 행위는 아니다. GenAI.mil은 부분적으로 공개 AI 서비스에 대한 승인된 대안을 제공하기 위해 존재한다. 승인된 업무를 감시되는 정부 플랫폼 안에 유지하면 관리되지 않는 외부 서비스 사용과 비교해 보안을 개선할 수 있다.

문제는 승인이 심리적 안도감을 만들 수 있다는 점이다. 사용자는 “CUI 처리 승인”을 지속적인 책임이 따르는 경계가 아니라 광범위한 보장으로 해석할 수 있다.

보안팀은 승인되지 않은 직장 내 AI 사용을 “shadow AI”라고 부른다. 여기에는 직원이 승인되지 않은 서비스를 사용하거나 충분한 검토 없이 내장형 AI 기능을 활성화하는 행위가 포함된다.

2026년 6월 Defense Counterintelligence and Security Agency 회보는 shadow AI를 무단 공개, 데이터 유출, 작전 보안 실패의 주요 경로로 지목했다. 회보는 인력에게 공개 모델 대신 GenAI.mil과 같은 승인된 플랫폼을 사용하라고 권고했다.

이 권고는 타당하지만, 근본 행동을 없애기보다 활동을 공유된 엔터프라이즈 환경으로 옮기는 것이다. 관리자는 여전히 프롬프트, 파일, 에이전트 작업, 권한, 보존된 프로젝트 데이터에 대한 가시성을 확보해야 한다.

가장 어려운 위험은 정보 집계와 관련된다. 개별적으로는 비기밀인 사실들의 집합도 함께 조합하고 해석하면 기밀 역량, 취약점, 작전을 드러낼 수 있다.

Government Accountability Office는 GenAI.mil이 현재 규모에 이르기 전부터 이 우려를 기록했다. 연방 AI 검토에서 Defense Department 관계자들은 생성형 모델이 비기밀 학습 정보를 결합해 의도치 않게 기밀 출력을 생성할 수 있다고 말했다.

같은 검토는 또 다른 인적 요인도 발견했다. Defense와 NASA 관계자들에 따르면, 일부 정부 사용자는 생성형 시스템이 답변을 만들어내는 방식을 이해할 전문성이 부족했다. 이 격차는 그럴듯한 출력에 대한 잘못된 신뢰를 만들 수 있다.

이 두 위험은 서로를 강화한다. 집계된 정보는 사용자가 예상하는 것보다 더 많은 것을 드러낼 수 있으며, 유창한 답변은 그 출처가 보장하는 수준 이상으로 신뢰받을 수 있다.

프로젝트가 맥락을 보존할 때 이 문제는 특히 어렵다. 지속성은 사용자가 매번 프롬프트를 다시 구축하지 않고 복잡한 업무를 이어가도록 돕는다. 동시에 파일, 지침, 도출된 결론을 가치 있는 하나의 계정에 집중시킬 수 있다.

공격자는 전체 네트워크를 침해할 필요가 없을 수 있다. 탈취된 자격 증명, 범위가 부적절한 통합, 노출된 프로젝트, 과도한 권한을 가진 계정만으로도 피해를 일으키기에 충분한 맥락을 제공할 수 있다.

멀티모델 접근은 또 다른 층위를 더한다. 공급업체마다 아키텍처, 안전 방식, 업데이트 일정, 데이터 처리 체계가 다르다. 공유 플랫폼은 이러한 차이 전반에서 일관된 보안 결과를 강제해야 한다.

이는 GenAI.mil이 안전하지 않다는 증거가 아니다. 각 제품이 인증된 경로를 통해 도입되더라도, 도입 확대와 함께 보안 부담이 커지는 이유를 설명한다.

Pentagon은 속도를 원하지만, 보안은 마찰에 달려 있다

핵심 충돌은 AI 우선 운영 모델과 민감한 군사 정보를 보호하는 의도적인 마찰 사이에 있다.

부처가 빠른 도입을 주장하는 이유는 이해하기 쉽다. 상용 AI는 문서를 요약하고, 일상적 자료의 초안을 작성하며, 공급망 분석을 돕고, 행정 업무를 줄일 수 있다. 더 빠른 종합은 의사결정자가 더 높은 가치의 업무에 시간을 쓰게 할 수 있다.

군 조직은 경쟁국이 지속적인 우위를 확보하기 전에 기술을 도입해야 한다는 압박에도 직면해 있다. 중국과 러시아는 정보 활동, 사이버 작전, 영향력 캠페인, 전장 시스템을 위한 AI에 투자하고 있다.

무기한 기다리는 데에도 위험은 있다. 유용한 AI를 차단하는 조직은 직원들을 승인되지 않은 도구로 내몰 수 있다. 운영 대응력을 제한하는 느린 절차를 그대로 유지할 수도 있다.

Pentagon은 GenAI.mil 이전부터 이러한 압박에 대응하기 시작했다. 2024년 12월, Chief Digital and Artificial Intelligence Office와 Defense Innovation Unit은 AI Rapid Capabilities Cell을 만들었다.

이 조직은 2024회계연도와 2025회계연도에 걸쳐 파일럿과 기반 인프라를 위해 약 1억 달러를 배정받았다. 초기 활용 사례는 지휘 지원, 계획, 물류, 정보, 사이버 작전, 조달, 의료 관리, 소프트웨어 개발을 포괄했다.

이 의제는 실험에서 배포로 향하는 의도적인 전환을 반영한다. GenAI.mil은 이 전략을 일상 업무로 옮기기 위한 엔터프라이즈 경로를 부처에 제공한다.

전통적으로 보안 시스템은 마찰에 의존한다. 기밀 표시, 구획화된 접근권한, 기록, 승인 절차, 분리된 네트워크는 사람들이 정보를 옮기기 전에 멈춰 생각하도록 만든다. 이러한 지연은 대개 의도된 것이다.

대화형 AI는 반대 방향으로 작동한다. 그 가치는 질문과 유용한 결과 사이의 단계를 줄이는 데서 나온다. 지속형 작업 공간은 맥락을 다시 설명할 필요를 없애고, 파일 업로드는 수동 추출을 없앤다.

따라서 Pentagon은 하나의 인터페이스에서 서로 충돌하는 두 가지 특성을 원한다. 상용 수준의 편의성과 군사 정보 관리 규율이다.

편의성과 보안 중 하나를 절대적으로 선택한다고 해서 이 긴장이 해소되지는 않는다. 유용한 군사 도구는 실제 업무를 지원해야 한다. 안전한 도구는 맥락, 권한 또는 데이터 조합이 위험을 초래할 때 그 업무를 제한해야 한다.

보안 취약성 주장은 일상화에 초점을 맞춘다. Michael Aaron Cody는 일상적인 대화형 사용이 전통적인 시스템을 사용할 때 이용자가 기울이던 주의를 점차 약화시킨다고 주장한다.

이는 분석적 주장이지, 확인된 실패의 증거는 아니다. 사용자 수가 늘어날수록 규모가 행동 양식의 변화를 확대하기 때문에 그 주장의 신빙성은 높아진다.

파일럿은 선별된 참가자, 면밀한 감독, 제한된 시나리오에 의존할 수 있다. 모든 군종을 아우르는 엔터프라이즈 서비스는 새로운 사용자, 지역별 관행, 변화하는 임무, 고르지 않은 기술 지식에 맞닥뜨린다.

교육은 규칙을 정립하는 데 도움이 되지만 실수를 없애지는 못한다. 사람들은 절차를 잊거나, 표시를 잘못 읽거나, 모델 출력을 지나치게 쉽게 받아들이거나, 마감 기한을 우선시할 수 있다. 적대 세력은 이러한 예측 가능한 행동을 겨냥해 피싱 및 사회공학 캠페인을 설계한다.

AI는 조작을 위한 새로운 경로를 추가한다. 예를 들어 프롬프트 인젝션은 모델이 읽는 콘텐츠 안에 악의적인 지시를 숨긴다. 사용자가 이를 알아차리지 못해도 AI 시스템은 해당 지시를 따를 수 있다.

검색 시스템도 유사한 문제를 초래할 수 있다. 검색은 AI 어시스턴트가 질문에 답하기 전에 승인된 정보원을 검색하도록 한다. 권한이나 출처 검증에 실패하면 모델은 사용자가 의도한 접근 범위를 넘어서는 콘텐츠를 표시할 수 있다.

지속형 프로젝트에는 수명주기 통제도 필요하다. 관리자는 누가 프로젝트를 만들었는지, 어떤 데이터를 담고 있는지, 누가 접근할 수 있는지, 언제 삭제해야 하는지를 알아야 한다.

이는 익숙한 지식 관리 문제이지만, AI는 저장된 자료를 상호작용 가능한 형태로 만든다. 모델이 수천 건의 기록 사이 관계를 신속히 추론할 수 있게 되면 검색 가능한 저장소는 더 민감해진다.

민간 조직도 검색 가능한 지식 기반을 구축할 때 비슷한 과제에 직면한다. 검색이 쉬워질수록 접근 경계와 출처 이력은 더 중요해진다.

펜타곤이 마주한 결과는 훨씬 더 크다. 겉보기에는 사소한 공개도 정보 수집 방식, 병력 보호, 조달 협상 또는 동맹국의 정보 공유 의지에 영향을 줄 수 있다.

따라서 속도에는 대가가 없다 할 수 없다. 자동화된 종합으로 절약한 매분은 로깅, 모니터링, 접근 검토, 모델 평가를 수행해야 한다는 상응하는 요구를 만든다.

GenAI.mil 보안 위험은 데이터 유출을 넘어선다

플랫폼은 동시에 탈취된 접근 권한, 조작된 지식, 신뢰할 수 없는 답변, 과도한 권한을 가진 자동화에 대응해야 한다.

데이터 유출은 시각화하기 쉬워 가장 큰 주목을 받는다. 사용자가 민감한 자료를 업로드하고, 이후 권한이 없는 당사자가 이를 확보하는 상황이다. 그러나 펜타곤 AI 보안 위험은 그보다 더 광범위하다.

한 가지 위험은 무결성이다. 적대 세력은 모델이 검색하는 정보나 학습 중 사용된 출처에 영향을 미치려 할 수 있다. 시스템을 눈에 띄게 훼손하지 않은 채 답변의 방향을 바꾸는 것이 목표다.

연구자들은 이미 국가 지원 정보 캠페인이 상용 챗봇 출력에 어떻게 나타나는지 연구했다. 2026년 4월 National Defense 보고서는 우크라이나 전쟁 관련 질문을 대상으로 ChatGPT, Grok, Gemini, DeepSeek를 시험한 내용을 설명했다.

연구자들은 시험한 질의 다섯 건 중 한 건이 러시아 국영 미디어를 인용했다고 보고했다. 결과는 모델과 프롬프트 구성에 따라 달랐으므로, 이 발견을 GenAI.mil에 대한 직접적인 평가로 간주해서는 안 된다.

그럼에도 이는 중요한 문제를 보여준다. 모델은 이용 가능하고, 유창하며, 반응성이 유지된 상태에서도 적대적 서사에 영향을 받은 정보를 제공할 수 있다.

두 번째 위험은 신뢰할 수 없는 추론과 관련된다. 생성형 모델은 검증된 결론이 아니라 개연성 있는 출력을 생성한다. 인용을 만들어내거나, 단서를 빠뜨리거나, 상충하는 사실을 합칠 수 있다.

일반 문서의 잘못된 요약은 시간을 낭비하게 할 수 있다. 같은 행태가 물류 계획이나 정보 지원 내부에서 발생하면 의사결정을 왜곡할 수 있다.

인간 검토는 여전히 필수적이지만, 검토 품질은 전문성과 업무량에 좌우된다. 사용자가 시스템이 이미 어려운 분석을 수행했다고 가정하면 자동화는 감독을 약화시킬 수 있다.

세 번째 위험은 과도한 권한에서 발생한다. 에이전틱 AI는 일반 챗봇보다 즉각적인 인간 지시 없이도 행동을 취하고, 도구를 사용하며, 목표를 추구할 수 있다.

GenAI.mil의 8월 발표는 주로 대화형 및 워크스페이스 기능에 초점을 맞췄다. 그러나 두 발표 모두 추가 기능이나 고급 워크플로를 약속했으며, 이는 권한 설계를 중요한 미래 과제로 만든다.

National Security Agency의 2026년 4월 에이전틱 AI 지침은 과도한 권한을 가진 에이전트가 단일 침해의 영향을 증폭시킬 수 있다고 경고했다. 또한 확대된 공격 표면, 복잡한 상호 연결, 불투명한 행동, 취약한 책임성을 주요 위험으로 지목했다.

이 지침은 점진적 도입, 변화하는 위협 평가, 엄격한 모니터링, 명시적 책임성, 인간 감독을 권고한다. 이러한 권고는 사용자 증가에 초점을 맞춘 단순한 도입 지표에 의문을 제기한다.

사용자가 더 많다고 해서 반드시 군사적 가치가 더 큰 것은 아니다. 이는 도달 범위를 보여줄 뿐이다. 의사결정 품질, 절감된 시간, 오류율, 보안 사건, 임무 결과가 더 의미 있는 증거를 제공한다.

네 번째 위험은 공급업체와 관련된다. 멀티모델 플랫폼은 한 기업에 대한 의존도를 낮추지만, 정부는 여전히 모델 개발과 업데이트를 상용 공급업체에 의존한다.

공급업체는 모델의 행동을 변경하거나, 버전을 폐기하거나, 취약점을 발견하거나, 기능을 수정할 수 있다. 국방부는 혁신을 완전히 동결하지 않으면서도 중요한 변경 사항을 검증해야 한다.

이를 위해서는 버전 추적이 필요하다. 보안팀은 어떤 모델이 출력을 생성했는지, 어떤 구성이 이를 관리했는지, 조사관이 사건을 검토하기 전에 모델이 변경됐는지를 알아야 한다.

의회도 이러한 요구를 인식했다. 2026 회계연도 국방법은 국방부에 보안 테스트, 데이터 포이즈닝, 탈옥, 무단 접근, 조달 위험, 모델 평가를 포괄하는 AI 거버넌스를 구축하도록 지시했다.

또한 버전 이력, 성능, 보안 상태, 규정 준수를 추적하는 등록 시스템도 요구했다. 이러한 조치는 기존 사이버보안 통제에 AI 특화 확장이 필요하다는 점을 보여준다.

이 법은 회의적인 주장을 강화하는 동시에 그 일부에 답한다. 펜타곤은 아무런 거버넌스 구조 없이 GenAI.mil을 확장하는 것이 아니다. 의회와 보안 기관은 관련 위험의 상당수를 식별했다.

여전히 불확실한 것은 엔터프라이즈 규모에서의 실행이다. 공개 발표는 사용자 수와 기능 설명을 제공하지만, 사건 발생률, 권한 오류, 보존 관행, 적대적 테스트 결과에 대해서는 거의 밝히지 않는다.

IL5 인증만으로는 이 모든 질문에 답할 수 없다. 이는 CUI를 위한 보안 기준선을 설정하지만, 모든 모델 업데이트와 사용자 워크플로가 계속 허용 가능한 위험 범위 안에 머문다는 영구적 증거는 아니다.

따라서 가장 강력한 비판은 플랫폼에 방어 수단이 없다는 것이 아니다. 배포가 일상적인 압박 상황에서 그러한 방어 수단의 성능을 외부인이 평가할 수 있는 속도보다 빠르게 진행되고 있다는 점이다.

펜타곤이 올바른 균형을 이루고 있음을 보여줄 기준

다음 시험대는 국방부가 도입 현황을 보고하는 것만큼 명확하게 보안 및 성능 증거를 보고하는지 여부다.

세 가지 신호가 GenAI.mil 확장이 전력을 강화할지, 아니면 지속적인 취약성을 만들지를 결정할 것이다.

첫 번째는 운영 보안 보고다. 펜타곤은 플랫폼 전반에서 데이터 유출 사건, 의심스러운 프롬프트, 탈취된 계정, 권한 실패, 정책 위반을 추적해야 한다.

환경에는 민감한 활동이 포함되므로 공개 보고는 계속 제한적일 것이다. 그러나 의회와 독립 감독 기관은 상세한 지표를 제공받고, 집계된 결과를 공개할 수 있다.

사용량이 증가하는 가운데 사건 발생률이 안정적이거나 감소한다면 일상화가 필연적으로 규율을 약화시킨다는 주장은 설득력을 잃을 것이다. 사건 증가, 반복되는 접근 실패, 은폐된 침해는 그 주장을 강화할 것이다.

두 번째 신호는 2026 회계연도 AI 보안 의무의 이행이다. 의회는 AI 및 머신러닝 시스템을 위한 부처 전반의 사이버보안 및 거버넌스 정책을 요구했다.

AI 보안 조항에는 적대적 테스트, 공급망 평가, 조달 요건, 통제된 샌드박스, 부서 간 모델 감독팀이 포함된다. 이러한 요구 사항은 기술적 위험과 조직적 위험을 모두 다룬다.

핵심 질문은 이러한 통제가 지속적으로 작동하는지 여부다. 배포 전에 평가된 모델은 업데이트, 연결된 도구, 검색된 데이터, 새로운 사용자 구성에 따라 달라질 수 있다.

유용한 감독은 전체 수명주기를 따라야 한다. 모델 버전, 데이터 출처, 권한, 통합, 사건, 폐기 결정을 포괄해야 한다.

명확한 이정표는 국방부가 도입과 함께 거버넌스도 확장하고 있다는 신뢰를 높일 것이다. 지연된 규칙이나 일관성 없는 이행은 배포가 여전히 보장 체계보다 앞서 있다는 우려를 뒷받침할 것이다.

세 번째 신호는 GenAI.mil이 행동 수행 기능을 도입하는 방식이다. 채팅과 문서 지원도 세심한 통제가 필요하지만, 에이전틱 시스템은 연결된 서비스를 통해 여러 단계의 작업을 실행할 수 있다.

모델이 기록을 수정하고, 요청을 보내고, 제한된 저장소를 조회하거나, 운영 워크플로를 실행할 수 있게 되면 보안 경계는 달라진다. 이 시점에서는 인간 승인과 최소 권한 접근이 더욱 중요해진다.

최소 권한은 사용자나 시스템에 특정 작업에 필요한 접근 권한만 부여한다는 뜻이다. 이는 실수, 조작 또는 탈취된 자격 증명으로 인한 피해를 제한한다.

국방부는 에이전틱 기능을 점진적으로 도입하고 현실적인 공격 시나리오에 따라 측정해야 한다. 보안팀은 악성 문서, 오염된 지식 출처, 탈취된 플러그인, 오도하는 지시를 테스트해야 한다.

이 과정은 일부 배포를 늦출 것이다. AI 시스템이 연결된 리소스 전반에서 행동할 수 있을 때, 그 지연은 보안 기능이 된다.

국방 분야 외부의 개발자와 엔터프라이즈 구매자에게도 교훈은 분명하다. 비공개 모델, 승인된 플랫폼 또는 규정 준수 인증이 운영 위험을 없애지는 않는다.

조직에는 여전히 접근 통제, 보존 정책, 출처 이력, 버전 추적, 사용자 교육, 사고 대응이 필요하다. 또한 AI가 오류를 감추지 않으면서 업무를 개선한다는 증거도 필요하다.

GenAI.mil은 민감한 기관 내부에서 이루어지는 엔터프라이즈 생성형 AI의 가장 큰 공개 시험 중 하나가 되고 있다. 그 결과는 정부가 멀티모델 플랫폼, 지속형 워크스페이스, AI 에이전트를 평가하는 방식에 영향을 미칠 것이다.

펜타곤은 이미 AI를 신속히 배포할 수 있음을 보여줬다. 이제 모니터링, 평가, 정보 규율도 같은 속도로 확장할 수 있음을 보여줘야 한다.

그 증거는 다음 사용자 수 이정표보다 더 중요해야 한다. 펜타곤 AI 보안 위험은 각 확장이 측정 가능한 통제, 투명한 감독, 사용자가 쉽게 우회할 수 없는 제한을 동반할 때에만 관리 가능한 수준에 머물 것이다.

향후 수개월의 질문은 간단하다. 펜타곤은 보안 성능이 개선되고 있다는 신뢰할 만한 징후를 공개할 것인가, 아니면 더 많은 사람이 도구를 사용할 수 있다고 발표하는 데 그칠 것인가?