Project Maven AI 전쟁은 표적 선정을 가속하고 오류를 잡아낼 시간을 압축한다
Project Maven AI 전쟁은 단 하나의 놓친 오류가 되돌릴 수 없는 결과로 이어질 수 있는 검토 절차에도 불구하고, 수분 안에 잠재 표적 목록을 생성할 수 있다. 이러한 속도는 인공지능을 보조 도구에서 군사 의사결정의 중심으로 옮기고 있다.
변화는 자율 드론에만 국한되지 않는다. 군은 이제 AI를 활용해 감시 정보를 해석하고, 감청 통신을 번역하며, 인물과 위치를 연결하고, 위협의 우선순위를 정하고, 표적을 추천한다. 각 기능은 원시 데이터에서 작전 결정에 이르는 경로를 단축할 수 있다.
핵심 갈등은 더 이상 인간 대 자율 무기의 구도가 아니다. 이는 기계 속도의 표적 생성과 모든 추천을 검증해야 하는 더 느린 인간 판단 사이의 충돌이다. Project Maven, 이스라엘의 AI 지원 정보 시스템, 우크라이나의 자율 드론은 모두 같은 압박의 서로 다른 양상을 드러낸다.
Project Maven AI 전쟁, 분석에서 작전으로 이동
군사 AI는 실험적 분석 계층에 머무르지 않고 작전 표적화 사슬의 일부가 되고 있다.
Financial Times는 9월 17일 자율 시스템이 전장 작전에 빠르게 통합되고 있다고 보도했다. 이 매체의 조사는 최전선 상공에서 운용되는 다른 많은 항공기와 닮은 우크라이나 드론 Saker Scout로 시작했다.
이 범주의 시스템을 구별하는 점은 항법 수행, 물체 식별, 또는 줄어든 운용자 입력만으로 임무를 계속할 수 있는 능력이 점차 커지고 있다는 것이다. 정확한 자율성 수준은 시스템과 배치 방식에 따라 다르다. 그러나 방향성은 일관된다. 이제 소프트웨어는 전장을 관측한 뒤 무력을 사용하는 사이에 더 많은 작업을 수행한다.
Project Maven은 미국 군 내부에서 진행되는 같은 전환을 보여준다. 미 국방부는 2017년 드론 및 위성 영상에 머신러닝을 적용하기 위해 이를 출범시켰다. 이후 이 시스템은 지휘관을 위해 정보를 정리하는 더 폭넓은 데이터 및 표적화 환경으로 성장했다.
머신러닝은 소프트웨어가 훈련 데이터에서 패턴을 학습하고 이를 새로운 입력에 적용하는 것을 뜻한다. 군사 영상 분야에서는 대규모 센서 데이터 집합에서 차량, 구조물, 움직임 또는 다른 물체를 구분하는 작업이 이에 포함될 수 있다.
그렇다고 이 소프트웨어가 독자적으로 무기를 발사한다는 뜻은 아니다. Project Maven은 일반적으로 의사결정 지원 시스템으로 설명되며, 사람은 그 결과를 검증하고 행동을 승인해야 한다.
이 구분은 법적·작전적으로 중요하다. AI 의사결정 지원 시스템은 정보를 추천하거나 우선순위를 정하는 반면, 자율 무기는 활성화된 뒤 추가적인 인간 개입 없이 표적을 선택하고 교전할 수 있다.
그러나 기계가 생성한 추천이 사람들이 조사할 수 있는 속도보다 빠르게 도착하면 이러한 분리는 덜 안심이 된다. 인간은 공식적으로 책임을 지고 있을 수 있지만, 근거가 된 증거에 의문을 제기할 수 있는 시간은 매우 제한적일 수 있다.
군 관계자들은 Project Maven이 잠재 표적을 식별하는 데 필요한 시간을 줄였다고 평가한다. Brennan Center가 발간한 군사 AI 검토는 이 시스템이 드론 및 위성 영상을 빠르게 해석할 수 있다고 설명한다.
매력은 분명하다. 군은 분석가가 수동으로 검토할 수 있는 양보다 더 많은 센서 데이터를 수집할 수 있다. AI는 그 물량을 걸러내고, 여러 출처의 정보를 연결하며, 정보가 낡기 전에 잠재 위협을 부각할 수 있다.
속도는 조율도 지원한다. 이동 중인 차량, 레이더 시스템 또는 이동식 발사대는 짧은 시간 동안만 관측될 수 있다. 수시간이 걸리는 표적화 절차는 결정이 적절한 지휘관에게 도달하기 전에 기회를 놓칠 수 있다.
그러나 분석 속도가 빨라진다고 자동으로 더 나은 증거가 만들어지는 것은 아니다. 오히려 불확실성이 더 빠른 속도로 시스템을 통과하게 할 수 있다.
따라서 Financial Times가 보도한 사건은 단일 배치 발표가 아니다. 이는 작전상의 문턱이다. 군은 모델의 행동을 예측하기 어려울 수 있음에도 관측을 치명적 결정으로 전환하는 사슬 전반에 AI를 도입하고 있다.
더 빠른 표적 생성은 누가 속도를 통제하는지 바꾼다
전략적 이점은 의사결정 시간을 압축하는 데서 나오지만, 같은 압축은 인간 검토자에게 더 큰 압박을 가한다.
전통적인 표적화는 노동집약적이다. 분석가들은 정보 출처를 비교하고, 정보가 여전히 최신인지 평가하며, 민간인 존재를 식별하고, 가능한 피해를 추정한 뒤, 지휘 체계를 통해 권고안을 제출한다.
AI 지원 표적 생성은 이 작업의 일부를 자동화한다. 모델은 영상, 텍스트, 통신, 위치 기록 및 기타 데이터베이스를 동시에 검색할 수 있다. 이후 표적 프로필과 일치하는 패턴의 순위를 매길 수 있다.
표적 프로필은 관심 대상인 물체나 인물을 식별하는 데 사용되는 속성들의 집합이다. 이러한 속성에는 형태, 움직임, 위치, 통신 패턴 또는 이전에 식별된 개체와의 관계가 포함될 수 있다.
겉으로 드러나는 이점은 규모다. AI 시스템은 인간 팀이 훨씬 적은 수만 검토했을 상황에서 수백 개의 후보를 제시할 수 있다. 이후 군은 제한된 분석 인력을 가장 관련성 높은 결과에 투입할 수 있다.
이는 전장 속도를 바꾼다. AI를 사용하는 병력은 상대가 같은 주기를 완료하기 전에 잠재적으로 관측하고, 우선순위를 정하고, 행동할 수 있다. Project Maven AI 전쟁은 이러한 센서-의사결정 과정의 압축을 중심으로 구축된다.
속도는 적절히 설계될 경우 민간인 보호도 지원할 수 있다. 소프트웨어는 병원, 학교, 대피 경로 및 민간인 이동에 관한 정보를 결합할 수 있다. 표적이 처음 추천된 이후 조건이 바뀌었을 때 운용자에게 경고할 수 있다.
International Committee of the Red Cross도 이러한 가능성을 인정한다. 이 기관의 군사 AI 지침은 의사결정 지원 도구가 정보를 종합하고 부수적 피해를 줄이기 위한 방법을 추천하는 데 도움이 될 수 있다고 설명한다.
그러나 규모는 2차 문제를 낳는다. 생성되는 표적 수가 자격을 갖춘 검토자 수보다 빠르게 늘어나면 검토 과정은 병목이 된다.
그러면 지휘관들은 불편한 선택에 직면한다. 시스템의 속도를 늦추고 세부적인 검토를 유지하거나, 승인을 가속해 인간 안전장치로 여겨졌던 부분을 포기할 수 있다.
이스라엘의 AI 지원 정보 활용 사례는 이러한 긴장을 보여준다. Associated Press의 조사에 따르면 이스라엘군은 2023년 10월 7일 이후 감시, 통신, 번역 및 기타 데이터를 처리하기 위해 상용 클라우드와 AI 서비스를 활용했다.
이스라엘 관계자들은 AP에 분석가들이 AI 지원 표적을 독립적으로 평가하며 여러 단계의 인력이 계속 관여한다고 밝혔다. 또한 이러한 도구가 정확성을 희생하지 않으면서 더 빠르게 표적을 생성한다고 말했다.
이러한 주장은 시스템 외부에서 평가하기 어렵다. 군사 표적화 데이터, 오류율, 모델 구성, 사후 조사 결과는 독립적인 검토를 위해 공개되는 경우가 드물다.
그럼에도 조사는 업무량이 얼마나 변했는지 기록했다. 전직 군 법무 장교 Tal Mimran은 과거 공습 검토에는 최대 20명이 참여했고 하루 이상 걸릴 수 있었다고 말했다. AI 지원 절차를 통해서는 매주 수백 개의 표적이 승인을 받을 수 있게 됐다.
이 비교가 결과적인 공습이 불법적이었거나 부정확했다는 점을 입증하는 것은 아니다. 다만 기계 출력과 인간의 주의력 사이의 비율이 크게 변했다는 점은 보여준다.
정교하게 구성된 하나의 표적 자료를 검토하는 사람은 그 가정을 추적할 수 있다. 빠르게 갱신되는 추천 대기열을 마주하는 검토자는 전혀 다른 인지적 압박에 직면한다.
이 압박은 군 지도부, 소프트웨어 공급업체, 정보 분석가, 법률 자문가에게까지 미친다. 각 집단은 서로에게 의존하지만, 어느 한 참여자도 반드시 전체 사슬을 보지는 못한다.
모델 개발자는 훈련과 평가를 이해할 수 있지만 전장 상황에 접근하지 못할 수 있다. 운용자는 임무를 이해하지만 모델이 특정 점수를 부여한 이유를 모를 수 있다. 지휘관은 추천을 보지만 모든 데이터 출처의 한계까지는 보지 못할 수 있다.
그 결과 책임은 분산된다. 모두가 결정에 기여하지만, 실패 후 책임 소재를 찾기는 더 어려워진다.
인간 통제는 절차적 체크박스가 될 수 있다
AI 추천을 승인하는 사람이 있다고 해서 의미 있는 인간 판단이 보장되는 것은 아니다.
군 정책은 흔히 인간 개입형 시스템을 설명한다. 이 표현은 표적 교전처럼 중대한 행동을 시스템이 완료하기 전에 사람이 개입해야 한다는 뜻이다.
이 안전장치는 도식 수준에서는 분명하게 들린다. 센서 데이터가 모델에 입력되고, 모델이 추천을 생성하며, 훈련받은 운용자가 이를 수락하거나 거부한다.
실제 작전은 그보다 덜 정돈돼 있다. 추천은 시간에 민감한 임무, 통신 장애, 인력 부족 또는 아군에 대한 공격이 진행되는 동안 도착할 수 있다. 운용자는 여러 자동화 시스템의 출력을 동시에 검토하고 있을 수도 있다.
이 환경은 이용 가능한 증거가 추가 조사를 요구하더라도 기계가 생성한 추천을 신뢰하는 경향인 자동화 편향을 부추긴다. 시스템이 대체로 정확해 보이거나 이를 거부하는 데 추가 작업이 필요할 때 이 편향은 더 강해진다.
ICRC는 시간 압박을 받는 운용자가 독립적 판단을 적용하는 대신 AI 출력을 형식적으로 승인할 수 있다고 경고한다. 이 기관의 지침은 군사 AI에 의미 있는 인간 관여와 추천에 이의를 제기할 수 있는 능력이 필요하다고 말한다.
“의미 있는”이라는 단어가 대부분의 부담을 짊어진다. 누군가 승인 버튼을 누른다는 이유만으로 인간의 결정이 의미 있는 것은 아니다.
검토자에게는 출력을 거부할 충분한 시간, 맥락 정보, 권한이 필요하다. 또한 시스템의 알려진 한계와 해당 추천을 뒷받침하는 증거의 질을 이해해야 한다.
통신 메타데이터를 이용해 한 인물을 적대 조직과 연결하는 모델을 생각해 보자. 그 연결은 정확할 수도, 오래됐을 수도, 간접적일 수도, 또는 잘못된 출처 데이터에서 비롯됐을 수도 있다.
모델은 그 인물이 왜 특정 번호로 전화했는지, 특정 위치에 들어갔는지, 특정 표현을 사용했는지 이해하지 못한 채 연관성에 점수를 매길 수 있다. 그 맥락은 인간이 제공해야 한다.
번역은 또 다른 실패 지점을 만든다. AP의 전장 AI 조사는 무기 부품이나 지급금을 모두 가리킬 수 있는 아랍어 용어를 설명했다.
자동 번역은 위험한 해석을 선택했다. AP가 인터뷰한 이스라엘 정보 장교에 따르면, 인간 검토자는 처음에는 이 오류를 놓쳤다.
같은 장교는 최소 1,000명의 고등학생 이름이 잠재적 무장대원 프로필에 첨부된 것으로 알려진 스프레드시트도 설명했다. 이 파일은 기말시험에 관한 것이었지만, 주변 맥락이 잘못 해석됐다.
이 사례들은 오류를 단순히 “AI”에 국한할 수 없는 이유를 보여준다. 모델은 사람, 센서, 데이터베이스 및 기타 소프트웨어가 제공한 데이터를 처리한다. 이후 인간은 또 다른 집단이 설계한 인터페이스를 통해 그 출력을 해석한다.
결함 있는 항목은 그 사슬을 따라 이동하면서 겉보기 신뢰성을 얻을 수 있다. 여러 시스템이 이를 반복하거나 참조하기 시작하면, 검토자들은 상관관계를 독립적인 확인으로 받아들일 수 있다.
인간 역시 모델이 변할 때 신뢰 수준을 조정하는 데 어려움을 겪는다. 시스템은 익숙한 이미지에서는 좋은 성능을 보일 수 있지만, 날씨, 지형, 위장, 센서 품질 또는 적의 전술이 달라지면 실패할 수 있다.
적들은 적극적으로 그러한 변화를 만들어 낸다. 그들은 기만물, 전자 교란, 은폐, 조작된 신호, 기만적 움직임을 사용한다. 전장 데이터는 단순히 잡음이 많은 것이 아니라, 상대가 의도적으로 오해를 유발하도록 만든다.
이 점이 군사 AI를 많은 상업용 애플리케이션과 구분한다. 추천 엔진은 자신에게 영향을 미치려는 사용자를 상대하지만, 전장 모델은 치명적인 실수를 유도하려는 조직화된 적대 세력을 상대한다.
따라서 인간의 통제는 최종 승인만을 넘어야 한다. 관련 조건에서의 시험, 반대 증거에 대한 접근, 명확한 불확실성 지표, 그리고 권고를 재검토할 충분한 시간이 필요하다.
또한 시스템에 이의를 제기할 수 있는 제도적 권한도 필요하다. 작전을 늦췄다는 이유로 처벌받는 분석가는 공식 규칙과 무관하게 의심스러운 결과를 승인하는 법을 배우게 된다.
Project Maven AI warfare는 이러한 조직 설계를 압박한다. 시스템의 가치는 속도에 달려 있는 반면, 의미 있는 검증에는 시간이 든다. 이것이 구현 세부사항이 아닌 핵심적인 상충 관계다.
AI 표적화 오류, 속도와 규모를 얻다
하나의 오류가 수천 건의 권고로 확산될 수 있다면, AI가 심각한 피해를 초래하기 위해 자주 실패할 필요는 없다.
머신러닝 시스템은 통계적이다. 이들은 세상에 대한 완전한 지식을 적용하는 대신 데이터에서 개연성 높은 패턴을 추론한다.
이로 인해 여러 유형의 실패가 발생한다. 모델은 물체를 잘못 분류하거나, 편향된 데이터에 의존하거나, 변화하는 맥락을 놓치거나, 부정확한 번역을 생성하거나, 약한 연관성에 지나치게 큰 비중을 둘 수 있다.
오류는 모델 외부에서 시작될 수도 있다. 위치 데이터베이스에는 오래된 주소가 포함될 수 있다. 센서는 왜곡된 이미지를 생성할 수 있다. 인간 정보원은 거짓 정보를 제공할 수 있다.
AI는 이러한 입력을 빠르게 결합할 수 있지만, 그것이 현실을 반영한다고 보장할 수는 없다. 확신에 찬 출력은 취약한 증거 사슬을 가릴 수 있다.
규모는 이를 위험하게 만든다. 결함 있는 가정이 수동 검토를 거친 하나의 패키지에 영향을 미칠 때는 조사관들이 때때로 이를 식별하고 억제할 수 있다. 그러나 그 가정이 자동화된 파이프라인 안에 들어가면, 누구도 알아차리기 전에 수많은 권고에 영향을 줄 수 있다.
ICRC는 군사 의사결정 지원 시스템이 오류를 속도와 규모 양쪽에서 증폭할 수 있다고 말한다. 또한 사용자가 독립적인 판단을 행사하지 못할 경우 이러한 시스템이 의도치 않은 긴장을 가속할 수 있다고 경고한다.
긴장 고조가 중요한 이유는 군사 AI 시스템이 고립되어 작동하지 않기 때문이다. 한 군은 다른 군의 움직임에 대응해 태세를 바꾼다. 더 빠른 권고는 양측 모두의 더 빠른 대응을 부추긴다.
따라서 임박한 공격에 대한 잘못된 경보는 단 하나의 오폭에 그치지 않을 수 있다. 이는 분산 배치, 보복 또는 더 광범위한 자동 경보 연쇄를 촉발할 수 있다.
안보 관계자들은 이를 압축된 의사결정 시간이라고 표현하기 시작했다. 2026년 9월 베이징 샹산 포럼에서 참가자들은 AI가 전략적 시간표를 단축하는 동시에 허위 정보가 실제로 무슨 일이 일어났는지를 규명하는 정부의 능력을 약화시키고 있다고 경고했다.
약 100개국의 대표단이 사흘간 열린 행사에 참석했다. ICRC 부총재 위르크 라우버는 무기의 자율성이 높아질수록 인간의 판단을 보존하는 일이 더욱 중요해진다고 주장했다.
안보 포럼의 경고는 우려가 옹호 단체에만 국한되지 않음을 보여 준다. 군 관계자와 외교관들은 속도가 국가 간 통제를 약화할 수 있음을 인식하고 있다.
기술적 과제는 예측 가능한 분류 오류를 넘어선다. 개발자들은 프롬프트, 입력, 도구 또는 운영 조건의 작은 변화 이후 고급 모델이 왜 다르게 행동하는지 항상 설명할 수는 없다.
이러한 예측 불가능성이 모든 AI 시스템을 통제할 수 없다는 뜻은 아니다. 이는 테스트 중 측정된 성능이 모든 환경, 표적 유형, 적대적 전술 또는 다른 소프트웨어와의 상호작용을 포괄할 수 없다는 뜻이다.
자율무기는 우려를 더 깊게 만든다. 이러한 시스템은 작동이 시작된 뒤 사람이 각각의 구체적 표적을 선택하지 않아도 표적을 선정하고 무력을 행사할 수 있다.
일부 자율 시스템은 기능이 제한적이고 운용 환경이 정해져 있다. 방어 무기는 표적 유형과 대응 시간이 엄격히 제한되기 때문에 접근하는 미사일을 자동으로 교전할 수 있다.
자율성이 인구 밀집 지역으로 확대되거나 사람을 대상으로 할 때 위험은 달라진다. 기계는 움직임, 의복, 열 또는 차량의 형태를 식별할 수 있지만, 그러한 신호는 의도나 법적 지위를 보여 주지 않는다.
부상당한 전투원, 항복 중인 전투원, 민간인은 유사한 센서 패턴을 만들 수 있다. 이들의 지위는 수초 안에 변하는 맥락에 달려 있다.
이 때문에 ICRC의 자율무기 입장은 예측 불가능한 시스템과 사람을 표적으로 설계된 자율무기의 금지를 요구한다. 또한 다른 자율무기에 대한 제한도 지지한다.
군사 기관들은 흔히 인간이 여전히 책임을 지며 국제인도법은 이미 적용된다고 답한다. 두 진술 모두 옳지만, 어느 쪽도 운용상의 문제를 해결하지는 못한다.
공격 이후의 책임 추궁은 잘못된 표적을 되돌려 놓지 못한다. 기존 법은 필수적인 기준을 제공하지만, 지휘관에게는 압박 속에서도 이러한 기준을 적용할 수 있는 기술적·조직적 시스템이 여전히 필요하다.
독립적 평가는 특히 어렵다. 공급업체들은 모델, 데이터, 시스템 설계를 독점 정보로 보호한다. 군은 안보상의 이유로 표적화 절차를 보호한다.
이러한 제한은 적이 시스템을 악용하지 못하게 할 수 있다. 그러나 입법부, 법원, 조사관, 대중이 안전장치가 작동하는지 평가하기도 어렵게 만들 수 있다.
투명성 부족을 실패의 증거로 혼동해서는 안 된다. 이는 증거의 공백을 만든다. 정밀성, 안전성 또는 민간인 피해 감소에 관한 강한 주장은 운용 데이터 없이는 여전히 검증하기 어렵다.
감독이 따라잡을 수 있는지를 보여 줄 세 가지 신호
AI 전쟁의 다음 단계는 인간이 관여한다는 더 폭넓은 약속이 아니라, 측정 가능한 안전장치로 규정될 것이다.
첫 번째 신호는 군이 전장 조건에서 AI 표적화 시스템을 어떻게 시험하는지 공개하는지 여부다. 유용한 증거에는 변화하는 지형, 성능 저하 센서, 전자전, 적대적 기만, 익숙하지 않은 표적 분류 전반에서의 성능이 포함될 것이다.
실험실 정확도만으로는 충분하지 않다. 평가자들은 모델이 언제 실패하는지, 운용자가 그러한 실패를 인지할 수 있는지, 결함 있는 출력이 얼마나 신속히 철회될 수 있는지를 알아야 한다.
공개는 안보 우려로 계속 제한될 것이다. 그러나 정부는 여전히 독립 검토 기구, 표준화된 사고 보고, 입법 감독을 위한 보호된 접근 권한을 마련할 수 있다.
이러한 메커니즘이 확대된다면, 운용 도입이 진지한 검증과 함께 이뤄지고 있다는 주장을 뒷받침할 것이다. 시험이 거의 전적으로 비밀로 유지된다면, 보증의 격차는 더 커질 것이다.
두 번째 신호는 각 인간 검토에 제공되는 시간과 증거의 양이다. 군은 표적 출력이 자격을 갖춘 인력과 독립적 검증보다 더 빠르게 증가하는지를 측정해야 한다.
공식 승인 건수만으로는 그 자체로 거의 드러나는 것이 없다. 감독은 검토자가 원본 정보를 살피고, 상충하는 출처를 참조하며, 신뢰도 한계를 이해하고, 행동을 지연시킬 권한을 유지하는지에 달려 있다.
사후 조사 역시 자동화 편향을 검토해야 한다. 시스템은 엔지니어링 요구사항을 충족하면서도 인터페이스나 업무 흐름을 통해 예측 가능한 인간 오류를 부추길 수 있다.
표적 물량이 증가하는 동안 검토 시간이 줄어든다면, “human in the loop”는 점점 판단이 아니라 절차를 묘사하게 될 것이다. 인력, 인터페이스 설계, 긴장 고조 규칙이 업무량에 맞춰 조정된다면 인간 통제의 신뢰도는 높아진다.
세 번째 신호는 자율무기와 군사 의사결정 지원 시스템에 관한 국제적 조치다. 특정재래식무기금지협약 제7차 검토회의는 2026년 11월 16일부터 11월 20일까지 열릴 예정이다.
이 회의는 국가들이 더 명확한 제한을 추진할 기회를 제공한다. 중요한 질문에는 규칙이 의사결정 지원과 자율 교전을 구분하는지, 그리고 예측 불가능한 AI 기반 행동을 다루는지가 포함된다.
법적 구속력이 있는 제한에 대한 합의는 배치가 고착되기 전에 정부가 통제를 보존할 수 있다는 견해를 강화할 것이다. 계속되는 교착 상태는 군사 도입이 국제 거버넌스보다 더 빠르게 진행되도록 만들 것이다.
개발자와 기업 AI 구매자도 이러한 신호를 주시해야 한다. 불투명한 모델, 신뢰할 수 없는 원천 데이터, 자동화 편향, 취약한 감사 추적, 사람이 검증할 수 있는 속도보다 빠르게 내려지는 결정이라는 근본 문제는 국방 분야 밖에서도 익숙하다.
결과는 크게 다르지만, 거버넌스의 교훈은 옮겨갈 수 있다. 조직에는 원천 자료, 반대 증거, 모델의 한계, 그리고 중대한 권고가 어떻게 결정으로 이어졌는지에 관한 기록에 접근할 수 있는 체계가 필요하다.
검색 가능한 지식 기반을 유지하면 기술팀이 그러한 증거 추적을 보존하는 데 도움이 될 수 있다. 이는 책임 있는 의사결정자나 분야별 검토를 대체할 수는 없다.
Project Maven AI warfare는 더 큰 질문을 피할 수 없게 만든다. AI가 인간이 조사할 수 있는 속도보다 더 빠르게 권고를 생성한다면, 실제로 통제하는 것은 프로세스의 어느 부분인가?
답은 테스트, 검토 시간, 거부율, 사고 조사, 집행 가능한 규칙에서 확인할 수 있어야 한다. 독자는 다음 군사 AI 발표를 사람이 여전히 루프 어딘가에 남아 있다는 또 다른 보장이 아니라, 이러한 기준에 따라 판단해야 한다.
