OpenAI 국방부 계약 기록, 좀처럼 거부하지 않는 AI 요구를 둘러싼 논란 드러내
국방부 기록에 군사용 모델의 “최소 거부율”이 언급되면서 OpenAI는 새로운 검증 압박에 직면했다. 양측 모두 해당 요건이 체결된 계약에는 포함되지 않았다고 부인하고 있다. 논란이 된 문구는 정보공개법 소송을 통해 확보된 OpenAI 국방부 계약의 P00003 버전에 담겨 있다. 이 문서는 국가안보 관련 요청을 가능한 한 드물게만 거부하도록 설계된 특수 시스템을 설명한다.
이 문구가 국방부가 제한 없는 모델을 제공받았다는 사실을 입증하는 것은 아니다. OpenAI는 해당 조항을 거부했다고 밝혔고, 국방부는 현재 유효한 계약에는 이 조항이 없다고 말한다. 그러나 계약 조사 보도에 따르면, 정부는 초안이 명시적으로 제외된 요청에 대한 답변으로 P00003을 공개했다.
이 문서는 이례적인 검증 문제도 낳았다. 국방부 변호사는 처음에는 공개된 기록이 최종 계약서라고 확인했지만, 기자들이 OpenAI에 연락한 뒤 그 확인을 철회했다. 한편 별도 문서들은 양측이 2월 6일 확장된 P00003 계약에 서명했으며, 이후 2월 27일 또 다른 계약이 기밀 네트워크 전반의 배치를 승인했음을 시사한다.
따라서 논란은 하나의 문장을 둘러싼 분쟁에 그치지 않는다. 첨단 AI가 비밀 군사 시스템에 들어갈 때 계약상 약속, 모델 수준의 제한, 공개적 보장이 감사 가능한지 시험하는 문제다.
Anthropic은 즉각적인 비교 사례를 제공한다. 이 회사와 국방부의 갈등은 대규모 국내 감시와 자율무기 관련 제한을 중심으로 전개됐다. OpenAI는 이후 자체 계약이 이 분야의 보호장치를 유지했다고 밝히면서 기밀 환경 배치를 발표했다.
핵심 충돌은 분명하다. 정부는 합법적인 군사 임무 전반에서 유용성을 유지하는 모델을 원하고, AI 제공업체들은 일부 사용 사례에는 여전히 확고한 제한이 필요하다고 말한다. 덜 거부하도록 최적화된 모델은 분석가들이 정당한 업무를 수행하는 데 도움이 될 수 있다. 하지만 감시, 표적 선정, 치명적 무력과 관련된 프롬프트에서는 동일한 설계 목표가 중요한 보호 계층을 약화시킬 수도 있다.
OpenAI 국방부 계약에는 상충하는 두 개의 이력이 있다
공개된 문서와 공식 설명은 양측이 무엇에 서명했는지에 대해 아직 하나의 일관된 설명을 이루지 못한다.
논란은 2025년 OpenAI Public Sector에 수여된 프로토타입 계약에서 시작된다. 연방 계약 공지는 최대 2억 달러 규모의 정액형 프로토타입 계약을 설명한다. 명시된 목적은 핵심 국가안보 과제를 해결하는 프런티어 AI 역량을 개발하는 것이었다.
OpenAI만 참여한 것은 아니었다. 국방부는 군사용 AI 프로토타입을 위해 Anthropic, Google, xAI와도 관계를 구축했다. 보도된 활용 사례에는 물류, 정보 의사결정 지원, 더 광범위한 전투 활동이 포함됐다.
P00003은 기존 OpenAI 계약을 확장했다. FOIA 소송을 통해 공개된 버전은 “OpenAI Mission Models”를 국가안보 애플리케이션용으로 설계된 시스템으로 정의했다. 이 모델들은 “최소 거부율”을 갖고 군사 사용자에 맞춘 운용 역량을 제공한다고 명시했다.
거부는 정책, 안전 또는 기술적 통제가 해당 작업을 허용될 수 없는 것으로 식별했을 때 모델이 요청 수행을 거절하는 것을 뜻한다. 안전장치가 정당한 업무를 잘못 차단하면 거부율도 높아질 수 있다. 따라서 불필요한 거부를 줄이는 것은 여러 환경에서 합리적인 제품 목표다.
군사적 맥락에서는 이해관계가 달라진다. 무해한 문서 서식 지정과 관련된 거부는 불편한 일이다. 표적 선정, 인구 감시 또는 무기 운용과 관련된 거부는 의도적인 안전 경계가 될 수 있다.
OpenAI 대변인 Nate Evans는 The Intercept에 회사가 최소 거부율을 요구하는 문구를 결코 수용하지 않았다고 말했다. 그는 공개된 텍스트를 OpenAI가 거부한 정부의 초기 제안으로 규정했다. Evans는 최종 체결 계약에서 해당 요건이 제외됐다고 밝혔다.
국방부 대변인 Jacob Bliss도 이 문구는 국방부와 OpenAI 간의 현재 계약 어디에도 등장하지 않는다고 말했다. 이러한 부인은 P00003 문서의 지위에 정면으로 이의를 제기하지만, 왜 그것이 최종 기록 공개물에 포함됐는지는 설명하지 않는다.
The Intercept와 Legal Advocates for Safe Science and Technology는 체결된 계약, 수정 사항 및 관련 최종 문서를 요청했다. 보도에 따르면 이 요청은 국방부에 초안을 포함하지 말라고 지시했다. FOIA 공개물에는 예비 자료가 포함될 수 있지만, 요청자가 이 모호성을 막으려 했다는 점에서 그 구분은 중요하다.
국방부 변호사는 처음에 해당 매체에 P00003이 최종 계약이라고 말했다. OpenAI가 그 문구에 관한 질문을 받은 뒤, 변호사는 답변을 번복하고 기자들에게 이를 무시해 달라고 요청했다. 이후 국방부는 공개된 자료가 무엇인지 판단하는 데 더 많은 시간이 필요하다고 밝혔다.
이러한 순서는 여러 가능성을 남긴다. 정부가 실수로 초안을 공개했을 수 있다. 문서가 수용된 조건과 이후 다른 문서로 삭제된 문구를 결합했을 수 있다. 또는 배치 전에 대체된 체결 수정 계약을 나타낼 수도 있다.
서명 페이지, 수정 이력 또는 효력이 있는 대체 문구 없이는 그 어느 가능성도 자신 있게 선택할 수 없다. 핵심 사실은 OpenAI가 낮은 거부율의 모델을 제공했다는 것이 확실하다는 데 있지 않다. 핵심은 어떤 버전이 업무를 규율했는지 공개 기록만으로는 아직 확정할 수 없다는 데 있다.
“최소 거부율”이 안전성 문제를 바꾸는 이유
낮은 거부율 목표는 가용성을 측정하지만, 고위험 상황에서 모델이 여전히 제한을 지키는지는 보여주지 않는다.
소비자용 AI 제품은 악성코드, 개인정보 악용, 무기 제작 또는 표적 폭력과 관련된 프롬프트를 자주 거부한다. 이러한 통제는 완벽하지 않다. 때로는 무해한 연구, 허구적 창작, 사이버보안 테스트 또는 위험한 의도가 없는 요청까지 거부한다.
정부 사용자가 다른 행동을 추구할 정당한 이유는 있다. 정보 분석가는 이를 지지하지 않으면서 극단주의 선전을 요약해야 할 수 있다. 사이버보안 팀은 방어자가 이를 식별할 수 있도록 모델에 악성 코드를 설명해 달라고 요청할 수 있다. 군사 기획자는 무기, 적대 세력, 전장 상황을 포함하는 분석이 필요할 수 있다.
일반적인 소비자 정책은 위험한 어휘를 인식했다는 이유만으로 그러한 업무를 차단할 수 있다. 특수 모델은 사용자의 권한, 운용 환경, 의도된 임무를 고려함으로써 이런 오탐을 줄일 수 있다.
논란이 된 조항은 임무별 접근을 설명하는 데서 한 걸음 더 나아간다. “최소 거부율”은 시스템이 얼마나 드물게 거절하는지를 중심으로 성공적인 성능을 규정한다. 수반되는 지표, 예외 또는 평가 규칙이 없다면, 이 문구는 어떤 거부가 유지되어야 하는지 거의 드러내지 않는다.
한 모델은 정당한 요청과 금지된 요청을 더 잘 구분함으로써 거부를 줄일 수 있다. 다른 모델은 안전장치를 제거해 같은 수치 결과에 도달할 수 있다. 총체적 거부율이 동일하게 보여도 이들은 근본적으로 다른 시스템이다.
AI Now Institute의 수석 과학자이자 전 OpenAI 시스템 안전 엔지니어인 Heidy Khlaaf는 The Intercept에 이 문구가 모델 안전장치가 거의 없거나 전혀 없다는 뜻일 가능성이 높다고 말했다. 그는 또한 투명한 제한 없이 국가안보 전용 가드레일을 만든다는 전제에 의문을 제기했다.
이 해석은 배치된 구성에 대한 증거라기보다 전문가 평가에 해당한다. 계약 문구는 학습 데이터, 시스템 지침, 접근 통제, 평가 결과 또는 사람의 검토를 촉발하는 조건을 공개하지 않는다.
이처럼 빠진 세부 사항이 결정적이다. 군사용 모델은 행동을 개시할 수 없는 상태로도 폭넓게 응답할 수 있다. 인증된 사용자, 기록되는 프롬프트, 별도의 승인 시스템을 갖춘 통제된 클라우드 환경에서 운용될 수 있다. 반대로 그 출력은 속도 때문에 검토 기회가 줄어드는 운용 워크플로에 흘러 들어갈 수도 있다.
조언과 행동의 구분도 흐려질 수 있다. 모델은 치명적 결과에 영향을 미치기 위해 방아쇠를 당길 필요가 없다. 잠재적 표적의 순위를 매기거나, 정보 보고서를 결합하거나, 감시 우선순위를 권고하거나, 지휘관을 위한 증거를 요약할 수 있다.
각 단계는 최종 결정에 영향을 줄 수 있다. 사람이 마지막에 서명한다고 해서 그 사람이 시스템에 이의를 제기할 시간, 정보 또는 권한이 없다면 자동으로 의미 있는 감독이 제공되는 것은 아니다.
거부 행동은 이 사슬 안의 통제 수단 중 하나일 뿐이다. 조달 제한은 허용된 목적을 정의한다. 모델 정책은 어떤 요청에 답변할지를 결정한다. 기술 아키텍처는 데이터 접근과 외부 행동을 통제한다. 군사 교리는 사람들이 출력에 따라 행동할 때 책임을 배분한다.
신뢰할 수 있는 안전성 주장은 이러한 계층들이 서로를 어떻게 보강하는지 설명해야 한다. 또한 한 계층이 실패할 때 어떤 일이 발생하는지도 밝혀야 한다.
OpenAI는 자사의 배치에 기술적 안전장치가 포함돼 있으며 치명적 무력과 관련된 결정에는 인간의 책임이 요구된다고 말한다. 공개 설명에서는 대규모 국내 감시도 금지한다. 이는 중요한 약속이지만, 공개되지 않은 계약은 이러한 장치가 어떻게 작동하는지에 대한 독립적 평가를 제한한다.
따라서 논란이 된 문구는 OpenAI가 이를 성공적으로 삭제했다 해도 중요하다. 이는 적어도 하나의 정부 초안이 협상 과정에서 무엇을 우선시했는지를 보여준다. 이 조항은 응답 가용성을 중심에 놓았지만, 공개된 문구에서는 허용 가능한 거부의 경계를 밝히지 않았다.
OpenAI의 공개 안전장치와 국방부의 광범위한 임무 기준이 만나다
핵심 긴장은 OpenAI가 약속한 금지선과 모든 합법적 사용을 중심으로 구축된 군사 조달 모델 사이에 있다.
2월 27일 OpenAI는 자사 모델이 기밀 군사 환경에서 운용될 수 있도록 하는 계약에 도달했다. 이 시점은 Anthropic과 국방부 간의 허용 가능한 제한을 둘러싼 협상이 결렬된 뒤였다.
OpenAI는 다음 날 자체 설명을 공개했다. 계약 성명에서 회사는 잠재적 적대 세력이 유사한 기술을 자사 시스템에 통합하고 있어 군이 첨단 AI를 필요로 한다고 밝혔다.
OpenAI는 여러 안전장치도 제시했다. 자사 기술은 대규모 국내 감시를 지원할 수 없다고 밝혔다. 자율무기를 포함해 치명적 무력과 관련된 결정에는 인간의 책임을 요구했다. 회사는 또한 OpenAI 인력이 배치에 참여하고 시스템 운용 방식을 모니터링할 것이라고 말했다.
이러한 약속은 Anthropic이 제기한 우려와 유사하게 들린다. Anthropic은 자신이 요구한 계약상 제한 없이 Claude를 모든 합법적 군사 목적에 제공하라는 요구에 저항했다. 이후 국방부는 해당 회사를 공급망 위험으로 지정했고, 행정부는 연방 기관들에 이 회사 제품 사용을 중단하도록 지시했다.
“모든 합법적 목적”이라는 문구는 포괄적으로 보이지만, 합법성은 완전한 안전성 명세가 아니다. 법률은 바뀔 수 있고, 관할권에 따라 달라질 수 있으며, 운용상 질문을 미해결 상태로 남길 수도 있다. 정부 변호사와 기술 제공업체가 동일한 권한을 다르게 해석할 수도 있다.
OpenAI는 자사의 약관이 현행 법률을 넘어서는 보호 장치를 추가한다고 말한다. 비판자들은 그 약관이 집행 가능한 금지 조항을 만드는지, 아니면 주로 현행 정부 정책을 되풀이하는 것인지 의문을 제기해 왔다. 이 문제를 해결하는 데에는 완전한 효력 계약서가 도움이 되겠지만, 이는 독립적으로 검토 가능한 형태로 공개된 적이 없다.
최소 거부율 관련 문구는 이러한 불확실성을 더 선명하게 만든다. 최종 계약에서 해당 문구가 삭제됐다면, OpenAI는 적어도 하나의 광범위한 정부 요구에 성공적으로 저항한 셈이다. 유사한 요구 사항이 다른 표현으로 유지됐다면, 공개된 설명만으로는 운영 기준을 파악하지 못할 수 있다.
정부의 입장은 또 다른 긴장을 만든다. 당국자들은 소비자용 제품으로는 해결할 수 없는 임무를 상업용 AI 시스템이 지원하기를 원한다. 동시에 민간 공급업체가 군사 정책에 대해 무제한적인 통제권을 행사하는 데에는 반대한다.
이 우려는 근거 없는 것이 아니다. 선출되지 않은 기업이 모델의 사용 규칙을 바꾸는 방식으로 국가안보 정책을 결정해서는 안 된다. 군사 권한은 법적·민주적 지휘 체계 안에 있어야 한다.
그러나 공급업체는 여전히 알려진 한계를 지닌 시스템을 통제한다. 모델은 허위 정보를 생성하거나, 적대적 지시를 따르거나, 민감한 데이터를 노출하거나, 증거로 뒷받침되지 않는 설득력 있는 답변을 만들어낼 수 있다. 조달 조항만으로는 이러한 기술적 위험을 없앨 수 없다.
해결책은 OpenAI와 Pentagon 중 누가 최종 결정권을 가질지 선택하는 것 이상을 요구한다. 계약에는 정확한 금지 사용 사례, 측정 가능한 안전장치, 기록 요건, 에스컬레이션 절차, 위반에 대한 결과가 필요하다.
양측 모두 호환성을 강조할 유인이 있기 때문에 독립적인 감독이 중요하다. Pentagon은 운영상 장벽이 적은 유능한 시스템을 원한다. OpenAI는 공개적인 안전 입장을 유지하면서도 영향력 있는 고객에 대한 접근권을 원한다.
Anthropic 분쟁은 이러한 유인이 엇갈릴 때 어떤 일이 일어나는지를 보여준다. 정부가 선호하는 조건을 수용하지 않으려 한 Anthropic의 결정은 정치적 보복과 운영상 배제로 이어졌다. 이 결과는 경쟁하는 모든 공급업체에 더 협조적으로 보이도록 압박을 가한다.
OpenAI는 그 갈등이 진행되는 동안 기밀 환경에 진입했다. 회사는 더 약한 안전장치가 아니라 더 강한 안전장치를 유지했다고 말한다. 이제 논란이 된 P00003 기록은 이 주장을 평가하는 데 문서 증거가 필수적임을 보여준다.
기밀 배포는 모델 거부를 넘어선 위험을 높인다
신중하게 범위를 제한한 모델이라도 기밀성이 외부 테스트, 사고 보고, 공적 책임성을 제한할 경우 심각한 위험을 만들 수 있다.
기밀 네트워크는 민감한 정보가 권한 없는 사용자에게 전달되는 것을 막는다. 동시에 연구자, 언론인, 더 넓은 대중이 배포된 모델의 작동 방식을 검토하는 것도 막는다.
이러한 기밀성은 많은 군사 작전에 필요하다. 그럼에도 검증 공백을 만든다. 외부 관찰자는 테스트를 수행하거나, 거부 행동을 비교하거나, 기록을 점검하거나, 배포 이후 안전장치가 변경됐는지 판단할 수 없다.
정부는 내부 평가를 수행할 수 있지만, 그러한 검토는 모델이 단순히 작업을 완료하는지 이상의 질문에 답해야 한다. 환각, 자동화 편향, 데이터 유출, 프롬프트 인젝션, 적대적 조건에서의 성능을 측정해야 한다.
환각은 모델이 확신에 찬 형태로 근거 없는 또는 허위 콘텐츠를 생성할 때 발생한다. 일반적인 사무 업무 흐름에서는 사용자가 조작된 인용을 발견할 수 있다. 그러나 빠르게 전개되는 작전에서는 그럴듯하지만 잘못된 종합 분석이 중대한 결정에 영향을 줄 수 있다.
자동화 편향은 별도의 문제를 만든다. 특히 시스템이 사람이 검토할 수 있는 것보다 많은 정보를 처리할 때, 사람들은 기계가 생성한 권고를 과도하게 신뢰하는 경우가 많다. 낮은 거부율의 모델은 증거가 불완전한 상황에서도 답변을 생성함으로써 이러한 경향을 악화시킬 수 있다.
모델은 악의적인 지시를 포함한 기밀 자료를 접할 수도 있다. 프롬프트 인젝션은 시스템이 분석하도록 요청받은 데이터 안에 명령을 숨기는 공격이다. 손상된 문서는 모델에게 정보를 공개하거나, 정책을 무시하거나, 결론을 조작하라고 지시할 수 있다.
이러한 실패 양상은 정부의 악의적 의도를 필요로 하지 않는다. 이는 기술의 한계와 군사 정보 시스템의 복잡성에서 발생한다.
OpenAI는 자사의 배포가 모델을 무기 플랫폼에 직접 탑재하는 대신 클라우드 기반 환경을 사용한다고 말한다. 이러한 분리는 즉각적 행동 위험을 줄일 수 있다. 하지만 정보 분석, 계획, 물류, 표적화 지원에 대한 모델의 영향력을 없애지는 못한다.
Pentagon은 복잡한 작전 환경에서 의사결정을 보강하는 수단으로 AI를 설명해 왔다. 5월까지 부서는 Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, SpaceX와의 기밀 네트워크 관련 협정을 발표했다. 기밀 AI 확장은 정책 문제가 한 공급업체를 훨씬 넘어선다는 점을 보여준다.
여러 공급업체는 단일 기업에 대한 의존도를 낮출 수 있다. 동시에 일관성 없는 안전장치, 중복된 책임성, 가장 제한이 적은 경쟁업체에 맞추려는 압박을 만들 수도 있다.
더 자주 거부하는 모델은 작업 완료에 초점을 맞춘 평가에서 불리할 수 있다. 더 자유롭게 답변하는 모델은 심각한 실패가 발생하기 전까지 운영상 우수해 보일 수 있다. 따라서 조달 지표는 안전장치 제거에 대한 명시적 요구가 없어도 안전 행동을 형성할 수 있다.
공적 논의는 거부를 본질적으로 선한 것으로 취급해서는 안 된다. 과도한 거부는 시스템을 신뢰할 수 없게 만들고 사용자가 통제가 덜한 대안을 찾도록 유도할 수 있다. 핵심 질문은 거부가 올바른 경계에서 발생하는지 여부다.
이 질문에 답하려면 시나리오 기반 테스트가 필요하다. 평가자는 모델이 불법 감시, 근거 없는 표적 식별, 자율적 치명 행동, 승인 절차 우회 시도를 거부하는지 검토해야 한다. 또한 모델이 정당한 정보 및 방어 업무를 수행할 수 있는지도 확인해야 한다.
필요한 경우 결과는 기밀로 유지할 수 있지만, 감독 기관은 이에 접근할 수 있어야 한다. 감찰관, 의회 위원회, 적절한 보안 인가를 받은 독립 전문가들은 작전 기밀을 공개하지 않고도 통제 장치를 평가할 수 있다.
OpenAI Pentagon 계약 논란은 계약서와 평가 체계 어느 쪽도 검토할 수 없을 때 어떤 일이 벌어지는지를 보여준다. 대중은 공급업체와 고객의 보증을 받지만, 이를 검증하는 데 필요한 증거는 부족하다.
문서화 공백이 이제 핵심 위험이다
가장 강한 결론은 OpenAI가 안전장치를 제거했다는 것이 아니라, 정부의 기록 관리가 중대한 계약을 감사할 수 없게 만들었다는 점이다.
공개된 문서에는 양측이 모두 거부했다고 말하는 조항이 담겨 있다. FOIA 요청은 최종 기록을 대상으로 했으며 초안은 제외했다. 정부 변호사는 처음에는 P00003을 최종본으로 취급했다가 이후 그 결론을 철회했다.
각 사실에는 무고한 행정적 설명이 있을 수 있다. 그러나 이를 종합하면 공식 계약 이력에 대한 신뢰를 훼손한다.
기밀 최첨단 AI가 관련된 조달에서는 버전 관리가 기본이어야 한다. 검토자는 누가 조항을 제안했는지, 언제 변경됐는지, 누가 수정본을 승인했는지, 어떤 문서가 배포를 규율하는지 알아야 한다.
2월의 일정은 복잡성을 더한다. 별도 문서는 OpenAI가 2월 6일 확장된 P00003 버전을 수락했음을 시사하는 것으로 전해진다. 2월 27일, 양측은 기밀 네트워크 협정을 완료했다.
이들 계약 간 관계는 여전히 불분명하다. 2월 27일 문서는 이전 수정 사항을 대체할 수 있다. 이를 보완할 수도 있다. 또는 프로토타입 계약의 일부를 유지한 채 별도의 배포를 규율할 수도 있다.
OpenAI의 부인은 구체적이다. 회사는 체결된 계약이 최소 거부율을 요구하지 않는다고 말한다. 이 주장은 명확히 기록할 가치가 있다. 그러나 공개 문서가 결코 체결되지 않았거나, 유사한 성능 요건이 다른 곳에 존재하지 않는다는 증거로까지 확대 해석해서는 안 된다.
Pentagon의 부인 역시 범위가 제한적이다. 해당 문구가 현행 계약에 없다고 말하는 것은, 그것이 한때 체결된 수정 계약에 포함됐는지를 확립하지 못한다. 조항은 수정 또는 교체 후 활성 계약에서 사라질 수 있다.
정부는 기밀 작전을 노출하지 않고도 분쟁의 상당 부분을 해소할 수 있다. 관련 서명 페이지, 수정 연혁, 대체 조항, 효력 있는 요구 사항의 비기밀 부분을 공개할 수 있다.
OpenAI도 필요한 범위에서 편집을 거쳐 자사의 공개 안전장치를 뒷받침하는 정확한 계약 문구를 공개할 수 있다. 회사는 이미 계약에 대한 해석을 공개했으므로, 효력 있는 조항을 확인하는 것은 그 설명에 실질을 더할 것이다.
비판자들 역시 과장을 피해야 한다. “최소 거부율”은 모델이 무기를 통제하거나, 감시를 수행하거나, 모든 제한을 무시한다는 사실을 입증하지 않는다. 이 문서는 특정 금지 배포의 증거가 아니라 원하는 특성을 설명한다.
이 문구가 실제 거부율을 드러내는 것도 아니다. 이용 가능한 보도에는 검증된 비율, 벤치마크, 소비자용 ChatGPT와의 비교가 나타나지 않는다. 따라서 군이 완전히 제한 없는 모델을 받았다는 주장은 증거를 넘어선다.
불확실성 자체가 결과를 낳는다. 안전 시스템을 개발하는 이들은 배포 약속이 조달 압력 속에서도 유지된다는 확신이 필요하다. 서로 다른 모델 구성이 서로 다른 정책 아래 작동할 때, 기업 구매자에게도 정확한 문서가 필요하다.
지식 근로자 역시 익숙한 모델 이름이 익숙한 행동을 보장하지는 않는다는 점을 이해해야 한다. 군용 구성, 기업 배포, 공개 챗봇은 서로 다른 지침, 도구, 권한, 거부 임계값을 사용할 수 있다.
정책, 평가, 수정 사항에 대한 검색 가능한 기록을 유지하는 일은 책임 있는 AI 거버넌스의 핵심이다. 잘 관리된 지식 베이스는 공적 감독을 대체할 수 없지만, 같은 원칙이 적용된다. 중대한 결정에는 추적 가능한 출처와 버전 이력이 필요하다.
따라서 더 강한 증거가 더 많은 사실을 확립할 때까지 이 분쟁은 문서화 실패로 다뤄져야 한다. 이러한 틀은 근본 주장에 신중한 태도를 유지하는 동시에, 이 정도 위험 수준에서 계약의 모호성이 용납될 수 없음을 인정한다.
최소 거부율 공개 이후 주목할 점
세 가지 신호가 이번 사안이 바로잡을 수 있는 기록 분쟁으로 끝날지, 더 깊은 책임성 문제의 증거가 될지를 결정할 것이다.
첫 번째 신호는 실제 효력 계약 체인이 공개되는지 여부다. Pentagon은 P00003이 서명됐는지, 대체됐는지, 또는 실수로 생성됐는지를 밝혀야 한다. 또한 2월 6일 수정 사항이 2월 27일 기밀 배포 계약과 어떻게 관련되는지도 보여야 한다.
명확한 연표는 논란이 된 조항이 거부된 초안에만 남아 있었음을 입증한다면 양측의 설명을 뒷받침할 것이다. 계속된 공개 거부 또는 모순된 답변은 공개 설명이 관련 조항을 누락했다는 우려를 강화할 것이다.
두 번째 신호는 군사 AI 거부에 대한 구체적인 평가 체계다. 당국자들은 민감한 프롬프트나 정보 데이터를 공개할 필요가 없다. 그럼에도 금지 사용 범주, 테스트 방법, 보고 의무, 실패 조사를 담당하는 권한 주체를 공개할 수 있다.
이러한 체계는 잘못된 거부와 필요한 거부를 구분해야 한다. 또한 작전상 시간 압박 속에서 환각, 무단 도구 사용, 프롬프트 인젝션, 인간 감독을 시험해야 한다.
의미 있는 평가 기준의 공개는 더 유용한 군사용 모델도 확고한 경계를 유지할 수 있다는 OpenAI의 주장을 강화할 것이다. 답변 비율에만 초점을 맞춘 성능 프로그램은 그 주장을 약화시킬 것이다.
세 번째 신호는 국방부가 경쟁하는 공급업체 전반의 안전장치를 어떻게 다루는지다. Google, Microsoft, Amazon, Nvidia, Reflection, SpaceX, OpenAI 및 기타 계약업체가 문서화된 이유 없이 감시나 치명적 결정과 관련해 실질적으로 서로 다른 규칙 아래 운영되어서는 안 된다.
Anthropic과의 대립은 이러한 비교를 특히 중요하게 만든다. 결렬되기 전 Pentagon negotiations는 해당 기업이 더 광범위한 군사적 사용을 허용할지에 초점이 맞춰졌던 것으로 보도됐다. 이후 OpenAI는 공개 설명상 유사해 보이는 제한을 유지하는 계약을 발표했다.
공급업체 전반에 공통된 안전장치가 등장한다면, 이 사건은 어려운 협상 뒤 정책 수렴이 이뤄진 사례에 더 가까워 보일 것이다. 공급업체가 거부를 줄이려는 의지에 따라 서로 다른 조건을 받는다면, 경쟁 압력은 안전 기준선을 꾸준히 낮출 수 있다.
OpenAI와 Pentagon의 계약 이야기는 결국 누가 그 기준선을 정하고, 누가 어떻게 이를 검증하는지에 관한 문제다. 전면적인 거부도 무제한적 준수도 군사용 AI의 적절한 기준은 아니다.
독자들은 또 한 차례의 보장보다 문서, 측정 가능한 통제 장치, 일관된 공급업체 규칙을 주시해야 한다. 그런 것들이 나오기 전까지 “minimal refusal rates” 조항은 여전히 논쟁의 대상이며, 그에 따라 제공된 것으로 보도된 시스템 역시 검증되지 않은 상태다. 다음 공개는 한 가지 단순한 질문에 답해야 한다. 합법적인 군사 요청이 여전히 용납할 수 없는 위험을 초래할 때, 배치된 모델에는 어떤 안전장치가 구속력을 갖는가?
