Big Tech의 군사용 AI가 펜타곤의 새로운 산업 기반이 되고 있다

Big Tech의 군사용 AI는 감시, 자율무기, 인간의 통제를 둘러싼 논쟁이 해결되지 않은 가운데 2026년 시범 프로젝트에서 기밀 작전으로 넘어갔다. 펜타곤은 현재 Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, SpaceX와 기밀 AI 시스템 관련 계약을 맺고 있다.

이는 단순히 펜타곤 AI 계약의 또 다른 물결이 아니다. 상업 기술 기업들은 군사 작전에 필요한 클라우드 인프라, 파운데이션 모델, 데이터 파이프라인, 의사결정 소프트웨어를 점점 더 많이 공급하고 있다. 이 조합은 소수의 공급업체에 국방 시스템의 여러 계층 전반에 걸친 영향력을 부여한다.

핵심 갈등은 신속한 군사 도입과 AI 활용 방식에 대한 실질적 제한 사이에 있다. 광범위한 사용 기준에 저항한 뒤 Anthropic이 배제된 일은 이러한 긴장을 공개적인 시험대로 만들었다. 그 결과는 기술 기업들이 자사 시스템이 작전상 중요해진 이후에도 자체 안전장치를 집행할 수 있는지를 가늠하는 데 영향을 미칠 것이다.

펜타곤은 상업용 AI를 기밀 작전에 투입했다

결정적인 변화는 상업 AI 기업들이 더 이상 연구 프로젝트나 행정 실험에만 국한되지 않는다는 점이다.

2026년 5월, 펜타곤은 7개 기술 기업이 기밀 네트워크에 AI 역량을 배치할 수 있도록 하는 계약을 발표했다. Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, SpaceX가 이 계획에 참여했다.

국방부는 이들의 기술이 복잡한 작전 환경에서 인력의 의사결정을 지원할 것이라고 밝혔다. 기밀 AI 계약에 따르면, 군 사용자들은 이미 펜타곤의 공식 생성형 AI 플랫폼인 GenAI.mil을 통해 AI에 접근하고 있었다.

이번 발표는 2025년 7월 공개적으로 시작된 조달 추진을 확대했다. 펜타곤의 Chief Digital and Artificial Intelligence Office는 Anthropic, Google, OpenAI, xAI에 각각 최대 2억 달러 규모의 계약을 수여했다.

초기 계약은 국가안보 임무 전반의 프로토타입 워크플로에 초점을 맞췄다. 프런티어 AI 계약은 개별 프롬프트에 답하는 데 그치지 않고 여러 단계의 작업을 수행할 수 있는 에이전트형 시스템을 다뤘다.

이후의 기밀 배치는 판도를 바꿨다. 프로토타입은 작전상 의사결정과 분리된 상태로 남을 수 있다. 기밀 데이터에 연결된 시스템은 정보 분석, 물류, 사이버 작전, 임무 계획, 표적 평가에 영향을 줄 수 있다.

펜타곤은 일부 AI 배치가 과거 수개월 걸리던 작업을 수일로 단축한다고 말한다. 그러나 공개 발표는 어떤 작업에서 그러한 절감 효과가 있었는지 밝히지 않았다. 또한 모델 오류율, 검토 절차, 잘못된 출력의 결과도 공개하지 않았다.

이러한 불투명성은 같은 모델이 매우 다른 여러 활동을 지원할 수 있기 때문에 중요하다. 정비 기록을 요약하는 일은 감시 영상을 평가하거나 표적을 추천하는 일과는 다른 위험을 수반한다.

파운데이션 모델은 광범위한 데이터셋으로 훈련된 뒤 다양한 작업에 맞게 조정되는 범용 시스템이다. 이러한 유연성은 군에 매력적이지만, 기존 무기 시험과 조달을 복잡하게 만들기도 한다.

무기 플랫폼에는 일반적으로 정해진 운용 역할이 있다. 파운데이션 모델은 업데이트, 통합, 새로운 프롬프트 또는 추가 데이터 접근 이후 행동이 달라질 수 있다. 따라서 그 운용 경계는 계약, 기술적 통제, 그리고 주변 소프트웨어에 달려 있다.

펜타곤은 여러 공급업체에 계약을 분산하고 있다. 관계자들은 이를 단일 공급업체 의존에 대한 보호책으로 설명한다. 이는 회복력을 높일 수 있지만, 동시에 더 많은 상업 시스템을 민감한 군사 워크플로 안으로 들여온다.

그 결과는 “AI 계약”이라는 표현이 시사하는 것보다 더 광범위한 관계다. 정부는 컴퓨팅 인프라, 칩, 모델, 애플리케이션, 기술 지원이 서로 연결된 스택을 조달하고 있다.

이 스택은 군의 영구적인 운용 환경 일부가 되고 있다.

Big Tech의 군사용 AI는 수십 년간의 클라우드 조달 위에 구축됐다

오늘날의 군사용 AI 산업은 이미 기술 기업을 필수적인 정부 공급업체로 만든 인프라 계약 위에서 구축되고 있다.

이 관계는 ChatGPT로 시작되지 않았다. Amazon, Microsoft, Google, Oracle는 생성형 AI가 대중화되기 전부터 국가안보 기관에 클라우드 서비스를 판매해 왔다.

2022년 미국 국방부는 이들 4개 기업에 Joint Warfighting Cloud Capability 계약을 수여했다. 이 계약의 한도는 90억 달러이며, 모든 보안 등급에 걸쳐 클라우드 서비스를 제공하는 것이 목적이다.

클라우드 접근성은 배경적 세부 사항이 아니다. AI 모델에는 컴퓨팅 역량, 저장공간, 신원 통제, 네트워킹, 정부 데이터에 대한 보안 접근이 필요하다. 이러한 기반을 제공하는 공급업체는 기관이 AI 서비스를 추가할 때 자연스러운 우위를 갖는다.

이 구조는 공급업체 범주 간 경계를 흐릴 수도 있다. Microsoft는 OpenAI와 주요 상업 관계를 유지하면서 클라우드 인프라를 제공한다. Amazon Web Services는 여러 개발사의 모델을 호스팅하고 Anthropic에 투자했다.

Google은 클라우드 플랫폼과 Gemini 모델 제품군을 모두 운영한다. Nvidia는 AI 시장 상당 부분에서 사용되는 칩과 소프트웨어 라이브러리를 공급한다.

이들 기업이 동일한 역할을 수행하는 것은 아니다. 그러나 이들의 제품은 서로에게 의존하는 경우가 많다. 한 모델 개발사는 클라우드 공급업체에 의존할 수 있고, 그 공급업체는 Nvidia 하드웨어에 의존하며, 국방 통합업체는 결과 시스템을 정부 데이터에 연결한다.

펜타곤은 상업적 개발 주기에 접근하기 위해 이러한 중첩을 장려해 왔다. 소비자와 기업의 수요는 기존 국방 프로그램보다 더 빠르게 새로운 모델과 칩 개발을 뒷받침한다.

이 접근법은 상업적 속도를 정부 조달로 옮긴다. 동시에 독점 인터페이스, 부족한 칩, 전문 인력, 공급업체가 통제하는 소프트웨어 업데이트를 포함한 상업적 의존성도 함께 이전한다.

이 흐름은 파운데이션 모델을 넘어선다. Palantir는 데이터 통합과 지휘 소프트웨어의 핵심 공급업체가 됐다. 이 회사의 시스템은 센서, 정보 데이터베이스, 작전 계획, 무기 플랫폼의 정보를 결합한다.

Brennan Center for Justice의 군사용 AI 연구에 따르면, 육군은 2025년 75건의 Palantir 계약을 하나의 전사적 계약으로 통합했다. 이 계약은 10년간 최대 100억 달러의 한도를 갖는다.

Palantir의 위치는 새로운 군산 구조가 챗봇 제작사에만 국한되지 않는 이유를 보여준다. 군사 정보는 호환되지 않는 시스템과 서로 다른 기밀 등급에 걸쳐 있기 때문에 데이터 통합은 모델 성능만큼 중요할 수 있다.

모델은 적절한 데이터에 접근할 수 있어야 비로소 유용해진다. 이후 시간 압박 속에서 운용자가 활용할 수 있는 소프트웨어를 통해 답을 반환해야 한다.

기존 방산 기업은 항공기, 미사일, 센서, 통신 부문에서 여전히 중요하다. 새로운 AI 방산 계약업체들은 점점 더 이러한 자산 전반의 정보를 해석하고 행동을 권고하는 소프트웨어 계층을 통제하고 있다.

이 분업은 상호 의존성을 만든다. 전통적 계약업체는 소프트웨어 및 클라우드 파트너를 필요로 하고, 기술 기업은 군사 요구사항에 익숙한 통합업체를 필요로 한다.

Anduril, Shield AI, Scale AI 같은 벤처 투자를 받은 기업들도 이 네트워크에 진입했다. 이들은 느린 국방 조달의 대안으로 자신들을 내세우지만, 다수는 더 큰 클라우드, 칩 또는 데이터 공급업체에 의존한다.

따라서 새로 부상하는 체계는 단순히 기존 계약업체를 스타트업으로 대체하는 것이 아니다. 소수의 기술 플랫폼이 경쟁하는 다수의 군사 애플리케이션에서 이익을 얻을 수 있는 다층 시장을 형성한다.

이러한 집중은 Big Tech 군사용 AI의 경제적 기반이다. 펜타곤은 상업 연구에 접근하고, 기술 기업은 장기적인 정부 수요와 더 깊은 제도적 영향력을 확보한다.

Anthropic은 안전장치와 통제 사이의 갈등을 드러냈다

Anthropic을 둘러싼 분쟁은 자발적인 AI 안전장치가 군사 권한과 충돌할 때 취약해진다는 점을 보여줬다.

Anthropic은 펜타곤의 2025년 프로토타입 프로그램에 선정된 4개 모델 기업 중 하나였다. 그러나 2026년에는 국방부가 발표한 기밀 배치 그룹에서 빠졌다.

이견은 Anthropic이 계약상 제한하고자 했던 두 가지 용도를 중심으로 형성됐다. 이 회사는 대규모 국내 감시와 완전 자율무기, 즉 유의미한 인간 통제 없이 표적을 선택하고 교전할 수 있는 무기에 대한 보호장치를 요구했다.

국방 관계자들은 공급업체가 모든 합법적 정부 사용을 허용해야 한다고 주장했다. 이 입장은 책임을 모델 공급업체가 아닌 정부에 둔다.

Anthropic의 입장은 관계자들이 합법적이라고 판단하더라도 일부 적용 사례는 받아들일 수 없다고 본다. 이는 단순한 표현상의 차이가 아니다. 계약 체결 후에도 기업이 군사적 사용에 대한 권한을 유지하는지 여부를 결정한다.

펜타곤은 결국 다른 공급업체와 함께 추진했다. OpenAI는 국내 감시, 자율무기, 인간 감독과 관련한 안전장치가 계약 조건에 포함됐다고 밝히며 자체 기밀 계약을 발표했다.

OpenAI의 펜타곤 계약은 자사 시스템이 대규모 국내 감시에 사용될 수 없다고 명시한다. 이 회사는 기존 법률 및 정책 기준도 계약에 계속 반영돼 있다고 말한다.

이러한 주장은 중요하지만, 대중은 이를 Anthropic이 요구한 조건과 완전히 비교할 수 없다. 기밀 세부 사항과 공개되지 않은 계약 문구가 독립적인 평가를 막기 때문이다.

바로 이 지점에서 펜타곤 AI 계약은 거버넌스 메커니즘이 된다. 조달 조건은 의회가 법안을 통과시키거나 법원이 배치를 검토하기 훨씬 전에 실질적인 경계를 설정할 수 있다.

가장 엄격한 정책을 가진 공급업체가 자동으로 표준을 정하는 것은 아니다. 대체 공급업체가 더 폭넓은 조건을 수용하면 정부는 업무량을 옮기고 버티는 기업의 협상력을 약화할 수 있다.

다중 공급업체 전략은 기술적 회복력을 제공하지만, 가장 제한이 적은 공급업체를 향한 경쟁을 낳을 수도 있다. 모델 개발사들은 특정 사용을 거부하면 접근권, 수익, 미래 표준에 대한 영향력을 잃을 수 있음을 안다.

정부도 관련 위험에 직면한다. 각 기업이 서로 다른 안전장치를 적용하면 군 인력은 유사한 업무를 수행하는 모델 전반에서 상충하는 규칙을 헤쳐 나가야 한다.

이러한 불일치는 시스템이 상호작용할 때 특히 어려워진다. 제한된 모델이 정보를 요약한 뒤 다른 시스템이 그 요약을 작전 계획에 사용할 수 있다.

기업 정책도 바뀐다. OpenAI는 무기 개발과 유해 활동에 대한 제한을 유지하면서 2024년 군사 사용에 대한 포괄적 금지를 철회했다. 다른 개발사들도 정부 사업이 확대되면서 정책을 다시 작성했다.

계약상 보호장치는 당사자 간 의무를 만들기 때문에 일반적으로 공개 사용 정책보다 강하다. 그럼에도 그 가치는 정확한 정의, 모니터링, 기술적 집행, 위반에 대한 구제수단에 달려 있다.

Anthropic 갈등은 또 다른 문제를 제기했다. 바로 공급업체의 보복이다. 군 고객은 공급업체를 교체하거나, 업무를 취소하거나, 기업을 공급망 우려 대상으로 분류할 수 있다.

그 가능성은 정부 구매자와 AI 개발자 간의 협상을 바꾼다. 국방부는 일반적인 기업 고객이 아니며, 국가안보 업무에 접근할 수 있는지는 기업의 더 광범위한 연방정부 사업 전망을 좌우할 수 있다.

이 분쟁은 민간 연구소가 자발적 약속을 통해 첨단 AI를 통제할 수 있다는 주장도 복잡하게 만든다. 정책은 기업이 상업적·정치적 압력 속에서도 이를 유지할 때에만 의미가 있다.

국방부에 주는 교훈은 다르다. 단일 모델 공급업체에 의존하면 해당 기업은 임무 규칙에 대한 영향력을 갖게 된다. 따라서 당국에는 상호 교체 가능한 시스템을 개발할 분명한 유인이 있다.

결국 이는 안전에 관한 단순한 견해차가 아니라 통제권을 둘러싼 경쟁이다. AI 공급업체는 자사 모델의 사용 방식에 영향력을 원한다. 군 지도부는 공적 자금으로 구매한 시스템에 대한 운용 권한을 원한다.

그 경쟁에서 누가 승리하는지가 차세대 군사 소프트웨어를 둘러싼 안전장치를 규정하게 될 것이다.

새로운 산업 기반은 기술적·정치적 권력을 집중시킨다

군사 AI 산업은 동일한 기업들이 인프라, 모델, 통합, 전문지식을 제공하기 때문에 권력을 집중시킨다.

군산복합체에 관한 전통적 설명은 무기 제조업체, 정부 조달, 로비, 그리고 순환하는 인력에 초점을 맞춘다. Big Tech는 다른 형태의 영향력을 더한다.

소프트웨어 기업은 중앙화된 플랫폼을 통해 널리 배포된 시스템을 업데이트할 수 있다. 이들 기업의 엔지니어는 정부 인력이 독립적으로 검사하거나 재현할 수 없는 독점 모델을 이해한다.

이 전문성은 계약이 체결된 이후에도 공급업체에 운용상 역할을 부여한다. 이들은 시스템 수명 전반에 걸쳐 평가, 사이버보안 지원, 모델 조정, 교육, 사고 대응을 제공할 수 있다.

AI 모델은 배포 후에도 반복적인 테스트가 필요하다. 그 출력은 프롬프트, 데이터, 맥락, 소프트웨어 변경에 따라 달라진다. 일회성 인수 테스트로는 향후 발생할 모든 행동을 포착할 수 없다.

이 특성은 정부가 공급업체와 지속적인 관계를 맺도록 만든다. 국방부는 완성된 제품만 구매하는 것이 아니다. 진화하는 기술 역량과 이를 유지하는 인력에 대한 접근권도 구매하고 있다.

시장 집중은 이러한 의존도를 증폭시킨다. 경쟁력 있는 프런티어 모델을 훈련하려면 첨단 칩, 대규모 데이터셋, 전문 연구자, 상당한 컴퓨팅 역량이 필요하다.

이 자산을 대규모로 제공할 수 있는 기업은 제한적이다. 규모가 작은 AI 방산 계약업체가 애플리케이션 계약을 따내더라도, 이들은 종종 더 큰 기업이 통제하는 인프라 위에 구축한다.

따라서 애플리케이션 계층의 경쟁은 그 아래의 집중과 공존할 수 있다. 전장 도구가 10개라 해도 같은 클라우드 플랫폼, 칩 공급업체 또는 기반 모델에 의존할 수 있다.

이는 서비스 중단, 사이버공격, 계약 분쟁, 모델 실패 시 중요해진다. 숨겨진 공통 의존성은 조달 문서상으로는 독립적으로 보이는 시스템들에 영향을 줄 수 있다.

국방부의 멀티클라우드·멀티모델 전략은 이 문제의 일부를 해결한다. 그러나 진정한 복원력은 핵심 기능을 잃지 않고 워크로드를 공급업체 간에 이동할 수 있어야 한다.

독점 인터페이스는 이를 어렵게 만든다. 모델마다 보안 통제, 데이터 처리, 출력 형식, 성능이 다르다. 한 공급업체를 교체하려면 연결된 모든 워크플로 전반에 걸쳐 새로운 테스트가 필요할 수 있다.

정치적 영향력은 또 다른 층위다. 기술 업계 경영진과 투자자들은 이제 국방 조달, AI 규제, 수출 통제, 연방 컴퓨팅 정책에 관한 논쟁에 직접 참여한다.

일부는 민간 기업과 정부 역할을 오간다. 다른 이들은 AI의 신속한 배포를 옹호하거나 특정 규제에 반대하는 정치 조직에 자금을 댄다.

이러한 활동은 합법적인 정치 참여 방식이다. 그러나 같은 기업들이 계약을 추구하고 그 계약을 규율하는 규칙에 영향을 미친다면, 그 복합적 효과는 여전히 주목할 필요가 있다.

Nature 분석은 이러한 융합을 AI 중심의 새로운 군산복합체로 규정한다. 이 표현은 방산 수익 이상의 것을 포착한다는 점에서 유용하다.

더 깊은 문제는 구조적 의존성이다. 정부 기관은 민간 인프라와 전문지식에 의존하는 반면, 기술 기업은 막대한 데이터, 자금, 전략적 중요성을 지닌 지속적인 고객을 확보한다.

공적 감독은 같은 속도로 확대되지 않았다. 계약 한도는 종종 공개되지만, 운용 세부사항, 평가 결과, 안전장치 문구는 여전히 공개되지 않는다.

기밀 임무에는 비밀 유지가 필요하다. 그러나 비밀주의는 시스템이 정확성, 시민권, 인간 통제 기준을 충족하는지 대중이 알지 못하게 할 수도 있다.

Elizabeth Warren 상원의원은 국방부와 참여 기업들에 더 많은 정보를 공개하라고 촉구해 왔다. 그의 계약 질의는 어떤 시스템이 기밀 네트워크에서 운영되는지, 그리고 그 사용을 어떤 안전장치가 규율하는지를 물었다.

이 요청은 자율무기와 국내 감시에 관한 답변도 요구했다. 광범위한 법적 문구만으로는 모델이 실제로 어떻게 통제되는지 설명하지 못하기 때문에, 이러한 질문은 여전히 핵심적이다.

AI는 분석가를 지원하면서도 최종 결정을 내리지 않을 수 있다. 하지만 어떤 증거가 주목받는지, 작전이 얼마나 빨리 진행되는지, 어떤 선택지가 타당해 보이는지에도 영향을 미칠 수 있다.

인간이 모든 행동을 공식적으로 승인하더라도 이러한 영향은 중대할 수 있다. 운용자가 시간, 훈련 또는 반대 증거에 대한 접근이 부족하다면 인간의 관여가 실질적인 검토를 보장하지는 않는다.

기술적·정치적 권력의 집중은 독립적 평가를 필수적으로 만든다. 그것이 없다면 대중은 기업의 보장과 완전히 검증할 수 없는 정부의 주장 중 하나를 선택해야 한다.

자동화 편향은 여전히 해결되지 않은 전장 위험이다

단기적으로 가장 큰 위험은 가상의 기계 지휘관이 아니라, 운용 압박 속에서 불확실한 출력을 신뢰하는 인간 운용자다.

자동화 편향은 반대 증거가 존재하더라도 컴퓨터의 권고를 받아들이는 경향이다. 시스템이 확신에 차 보이거나, 유창한 설명을 제시하거나, 대부분의 시간에 정상적으로 작동할 때 문제는 더 심각해진다.

군 운용자는 종종 불완전한 데이터와 엄격한 마감 시한에 직면한다. AI는 정보를 빠르게 정리할 수 있지만, 그 속도는 결론에 이의를 제기할 시간을 줄일 수 있다.

모델은 사람, 차량, 위치 또는 통신을 잘못 연결할 수 있다. 그러면 분석가는 근거가 된 추론에 신뢰할 만한 증거가 부족하더라도 그 연결을 유용한 단서로 취급할 수 있다.

오류는 연결된 도구를 통해 전파될 수 있다. 한 시스템이 객체에 라벨을 붙이고, 다른 시스템이 그 라벨을 요약하며, 계획 도구는 그 요약을 작전 권고에 반영한다.

최종 단계에 이르면 사용자는 어떤 구성 요소가 오류를 유발했는지 알지 못할 수 있다. 세련된 인터페이스는 원래 데이터에서는 드러났던 불확실성을 숨길 수 있다.

생성형 모델은 추가적인 복잡성을 낳는다. 이들은 거짓 세부사항을 만들어내고, 일관성 없이 응답하며, 소프트웨어 업데이트 후 행동이 바뀔 수 있다. 기밀 데이터도 이러한 약점을 없애지는 못한다.

모델 공급업체는 검색 시스템, 접근 통제, 평가 스위트, 인간 검토를 통해 위험을 줄일 수 있다. 하지만 이들 조치 어느 것도 모든 임무에서 신뢰할 수 있는 성능을 보장하지는 않는다.

시스템의 맥락도 중요하다. 정비 기록에서 좋은 성능을 보이는 AI 보조 도구가 낯선 정보 약어 또는 의도적으로 기만적인 정보에서는 실패할 수 있다.

적대 세력은 모델을 혼란스럽게 하기 위해 데이터를 조작할 수 있다. 특히 유사한 기술이 정부 네트워크 외부에서도 이용 가능한 경우, 상용 시스템의 공통 약점을 탐색할 수도 있다.

기밀 환경은 이러한 문제에 대한 공적 평가를 제한한다. 연구자들은 실패를 쉽게 재현하거나 공급업체의 주장과 운용 증거를 비교할 수 없다.

그렇다고 모든 군사 AI 배포가 무모하다는 뜻은 아니다. 예측 정비, 번역, 문서 검색, 물류 최적화는 관리 가능한 결과 속에서 분명한 이점을 제공할 수 있다.

출력이 감시, 표적 선정 또는 무력 사용에 영향을 미칠 때 위험은 커진다. 이러한 결정에는 추적 가능한 증거, 명확한 책임성, 그리고 시스템을 실제로 중단할 수 있는 능력이 필요하다.

인간 감독은 AI가 생성한 권고를 승인하는 것 이상이어야 한다. 운용자에게는 이를 거부할 충분한 시간, 권한, 정보가 필요하다.

또한 모델의 한계를 설명하는 교육도 필요하다. 인터페이스 조작법만 배운 사용자는 기저 시스템이 테스트된 조건을 벗어났을 때 이를 인지하지 못할 수 있다.

Georgetown University's Center for Security and Emerging Technology의 Helen Toner는 이러한 도구에 대한 과도한 의존을 경고해 왔다. 그는 군 사용자들이 그 유용성과 한계를 모두 이해해야 한다고 지적했다.

이 우려는 국방부가 속도를 강조한다는 점에서 더 커진다. 작업 시간을 수개월에서 수일로 줄이는 것은 가치 있어 보이지만, 고위험 결정에서 속도는 충분한 성능 척도가 아니다.

평가는 거짓 양성, 놓친 신호, 보정, 운용자 행동, 적대적 조건에서의 성능을 검토해야 한다. 결과는 시연 기간뿐 아니라 배포 이후에도 측정되어야 한다.

성공적인 시범사업을 강조할 제도적 유인이 존재한다. 지속적인 예산을 원하는 조직은 판단이나 책임성의 미묘한 변화보다 시간 절감 효과를 더 쉽게 제시할 수 있다.

공급업체도 비슷한 유인에 직면한다. 기업은 인력이 자사 출력을 일상적으로 검증하는지 공개하지 않은 채 인간 감독을 설명할 수 있다.

이것이 자발적 주장이 공동 표준을 대체할 수 없는 이유다. 군은 공급업체와 운용 환경을 가로질러 역량을 따라가는 검증 가능한 요구사항이 필요하다.

정부는 또한 모델이 어떤 정보를 받았는지, 무엇을 생성했는지, 인간이 어떻게 대응했는지를 보여주는 로그를 보존해야 한다. 기록이 없으면 조사관은 해로운 결정을 재구성할 수 없다.

하지만 로깅 자체도 개인정보와 보안 문제를 야기한다. 민감한 기록에는 보존 기간 제한, 접근 통제, 독립적 검토가 필요하다.

단일 정책으로 이러한 상충관계를 해결할 수는 없다. 중요한 구분은 안전장치를 명시하는 것과 그것이 압박 속에서 작동한다는 것을 입증하는 것 사이에 있다.

국방부가 더 명확한 평가 원칙을 공개하기 전까지, Big Tech 군사 AI의 안전성은 기밀 프로그램 밖에서 평가하기 어려운 상태로 남을 것이다.

세 가지 신호가 군사 AI를 누가 통제하는지 드러낼 것이다

다음 단계는 국방부가 책임 있는 경쟁을 구축하고 있는지, 아니면 비밀 계약을 통해 운영되는 집중된 시스템을 만들고 있는지를 보여줄 것이다.

첫 번째 신호는 계약 문구 또는 집행 가능한 요약문의 공개다. 공개 문서는 감시, 자율무기, 인간 검토, 군사 데이터의 2차 사용에 관한 제한을 명확히 해야 한다.

참여 기업들이 비교 가능한 조건을 공개한다면 공동 안전장치에 관한 주장은 더 쉽게 평가될 것이다. 비밀주의가 계속된다면 보호 조치가 공급업체마다 다르다는 우려는 더욱 커질 것이다.

두 번째 신호는 실질적인 상호운용성의 증거다. 국방부는 여러 공급업체가 의존도를 줄인다고 말하지만, 계약 건수만으로 복원력이 입증되지는 않는다.

기관들이 공통 평가 기준을 수립하고 워크로드가 모델 간에 이동할 수 있음을 입증하는지 지켜봐야 한다. 성공적인 이식성은 공급업체 종속을 약화시키고 정부에 더 큰 협상력을 부여할 것이다.

실패한다면 외견상의 경쟁이 공통 인프라나 호환되지 않는 시스템에 기반한다는 뜻이다. 그 경우 공급업체 목록이 길어지더라도 소수의 공급업체가 통제권을 유지하게 될 것이다.

세 번째 신호는 운영 보고다. 대중은 AI가 어디에 사용되는지, 인간이 권고를 얼마나 자주 거부하는지, 기관이 심각한 오류에 어떻게 대응하는지에 관한 집계 정보를 받아야 한다.

기밀 세부 정보는 계속 보호하면서 감독 기구에는 더 폭넓은 접근 권한을 제공할 수 있다. 독립 감찰관, 의회 위원회, 감사기관은 임무에 민감한 정보를 공개하지 않고도 시스템을 평가할 수 있다.

의미 있는 보고는 상업용 AI가 책임성을 없애지 않은 채 국방 작전에 도입될 수 있다는 근거를 강화할 것이다. 침묵은 배치가 거버넌스를 앞지르고 있음을 시사할 것이다.

이러한 신호는 군을 넘어 중요하다. 정부 조달은 이후 치안, 국경 단속, 정보기관, 민간 행정기관으로 확산될 기술 표준을 정착시킬 수 있다.

기업 구매자도 주목해야 한다. 모델 의존성, 감사 로그, 인간 검토, 공급업체 업데이트에 관한 동일한 질문은 중대한 결과를 수반하는 의사결정에 AI를 도입하는 기업에도 적용된다.

개발자는 모델 공급업체, 통합업체, 사용자 사이에 책임이 어떻게 배분되는지 지켜봐야 한다. 군사 계약은 상호 연결된 시스템이 실패했을 때 누가 책임을 지는지에 관한 선례를 만들 수 있다.

지식 노동자에게도 관련된 교훈이 있다. AI 출력은 복잡한 증거를 정리할 수 있지만, 동시에 불확실성을 감출 수도 있다. 추적 가능한 AI 지식 기반을 유지하면 출처, 상충하는 해석, 인간의 결정을 보존하는 데 도움이 된다.

AI 시대의 군산복합체는 무기만으로 정의되지 않을 것이다. 컴퓨팅, 데이터, 모델, 통합, 평가, 그리고 허용 가능한 사용을 위한 규칙을 누가 통제하는지가 이를 정의할 것이다.

Big Tech의 군사용 AI는 이미 실험 단계를 넘어 운영 인프라로 진입했다. 이제 문제는 공공기관이 규제해야 할 시스템에 의존하게 된 뒤에도 지속 가능한 한계를 부과할 수 있는지다.

계약, 상호운용성 테스트, 운영 감사를 주시해야 한다. 이들은 AI가 책임 있는 인간의 통제 아래 놓인 도구로 남을지, 아니면 불투명한 군사 권한의 층위가 될지를 함께 보여줄 것이다.