NASA 우주선 AI 자율성, 오랫동안 우려된 트레이드오프를 현실로 앞당기다

생성형 AI가 화성에서 Perseverance의 두 차례 주행을 계획하면서, NASA 우주선 AI 자율성은 실질적인 문턱을 넘었다. 이는 예측 불가능한 시스템에 대한 수십 년간의 엔지니어링 저항에도 불구하고 이뤄진 일이다.

로버는 2025년 12월 8일과 10일 Anthropic의 Claude 모델이 생성한 경유점을 따라 이동했다. 인간 계획 담당자들은 해당 경로를 화성으로 전송하기 전에 검토했다. 이는 감독 없이 기계가 로버를 지휘한 사례는 아니지만, 생성형 AI를 실제 임무 워크플로 안으로 끌어들인 사례다.

이후 다른 실험들도 적용 범위를 넓혔다. 경량화된 NASA 및 IBM 모델은 궤도에서 위성 이미지를 처리했고, 우주비행사들은 기술 절차를 위한 언어 모델 지원을 시험했다. 이들 프로젝트는 우주선과 관제센터 사이의 전통적인 관계에 함께 도전하고 있다.

엔지니어들은 역사적으로 신중하게 정의된 조건에서 반복 가능한 결과를 내는 소프트웨어를 선호해 왔다. 생성형 모델은 다르게 작동한다. 낯선 입력을 해석하는 능력은 매력적이지만, 출력은 달라질 수 있고 때로는 예상치 못한 방식으로 실패한다.

이 긴장은 피하기가 점점 어려워지고 있다. 통신 지연은 지구 너머에서 직접 제어를 제한하는 반면, 상업 임무는 궤도에서 작동하는 기계의 수를 늘리고 있다. 이제 문제는 우주 시스템에 자율성이 필요한지 여부가 아니다. 엔지니어들이 얼마나 많은 불확실성을 안전하게 허용할 수 있는지다.

NASA 우주선 AI 자율성, 임무 운영에 진입하다

Perseverance 시연은 생성형 AI를 실험실의 가능성에서 활동 중인 행성 탐사 임무의 계획 체계로 옮겨 놓았다.

NASA 제트추진연구소는 일반적으로 인간 로버 계획 담당자들에게 궤도 이미지, 지형 경사, 알려진 위험 요소를 분석하도록 맡긴다. 이들은 Perseverance가 화성 표면을 가로질러 이동하도록 안내할 안전한 경유점을 식별한다.

12월 시연에서는 비전-언어 모델이 이 분석을 도왔다. 비전-언어 모델은 이미지와 텍스트를 함께 처리해, 서면 지시와 임무 데이터를 활용하여 시각적 지형을 해석할 수 있다.

이 프로젝트는 JPL의 Rover Operations Center와 협력해 Anthropic의 Claude 모델을 사용했다. 화성 주행 발표에 따르면, 이 시스템은 제안 경유점을 생성하기 전에 궤도 이미지와 디지털 고도 정보를 분석했다.

Perseverance는 12월 8일 689피트, 즉 210미터를 주행했다. 12월 10일에는 추가로 807피트, 즉 246미터를 이동했다.

이 수치가 중요한 이유는 해당 주행이 시뮬레이션이 아니라 다른 세계에서 이뤄졌기 때문이다. 다만 시연은 엄격하게 제한됐다. 인간 운영자들은 경로를 검토하고 필요할 경우 수정했으며, 최종 지시를 업로드했다.

모델은 임무가 어디로 가야 하는지를 독립적으로 결정하지 않았다. 또한 모든 장애물을 피해 로버를 직접 조종하지도 않았다. Perseverance는 승인된 경유점 사이를 이동할 때 기존의 온보드 내비게이션 기능을 유지했다.

이러한 책임 분담은 NASA가 현재 생성형 AI에 접근하는 방식을 보여준다. 모델은 어려운 계획 업무를 가속할 수 있지만, 기존 시스템과 인간 검토자는 여전히 그 권한을 제한한다.

화성은 이 실험을 단순한 편리한 자동화 프로젝트 이상으로 만든다. 이 행성은 지구에서 평균 약 1억4천만 마일, 즉 2억2천500만 킬로미터 떨어져 있다. 따라서 무선 신호만으로는 조이스틱 방식의 운전을 지원할 수 없다.

임무팀은 활동을 계획하고, 지시를 전송한 뒤 결과를 기다린다. 명령 주기당 안전하게 이동할 수 있는 거리를 늘리는 모든 계획 도구는 임무의 과학적 성과를 높일 수 있다.

JPL 우주 로봇공학자 Vandi Verma는 인식, 위치 추정, 계획, 제어를 자율적인 외계 주행의 핵심 축으로 설명했다. 생성형 시스템은 궁극적으로 로버가 더 긴 경로에 걸쳐 이러한 기능을 연결하도록 도울 수 있다.

이는 12월 주행의 결과가 아니라 아직은 목표에 가깝다. 검증된 결과는 더 제한적이지만 여전히 중요하다. 생성형 AI는 인간 검토를 거쳐 실제 화성 임무에 활용 가능한 계획 결과물을 만들었다.

따라서 NASA 우주선 AI 자율성은 통제된 위임을 통해 발전하고 있다. 엔지니어들은 우주선 전체를 넘겨주지 않는다. 대신 유연한 해석이 가치를 제공하고 독립적인 검증이 가능한 업무를 분리하고 있다.

이 접근법은 기존 로버 자동화와도 다르다. Perseverance는 이미 결정론적 내비게이션 소프트웨어를 사용해 주행 중 인근 지형을 평가하고 장애물을 피한다. 생성형 AI는 궤도 데이터로부터 경로를 준비하는 더 이른 단계에 투입됐다.

이 구분은 시험을 AI 로버가 홀로 화성을 돌아다닌다는 오해의 소지가 있는 이야기로 만드는 것을 막는다. 실제 변화는 절차에 있다. 확률적 모델이 이전에는 임무 전문가들이 수동으로 수행하던 업무에 참여했다.

이 참여가 이 글의 핵심 갈등을 만든다. 모델이 더 빠르게 계획하고 더 많은 정보를 해석할 수 있다면, 이를 제한하는 것은 임무 생산성을 낮출 수 있다. 반대로 권한이 너무 빨리 확대되면 신뢰할 수 없는 단 한 번의 출력이 쉽게 수리할 수 없는 장비를 위협할 수 있다.

거리는 관제센터가 일부 통제권을 내놓도록 강요하고 있다

심우주 임무에는 현지 의사결정이 필요하다. 가장 가치 있는 사건은 지구에서 지시가 도착하기 전에 끝날 수 있기 때문이다.

통신 지연은 언제나 행성 탐사를 규정해 왔다. 화성 운영은 팀이 미리 계획하도록 요구하며, 더 먼 곳의 임무는 훨씬 더 긴 통신 왕복 시간을 겪는다.

Europa 인근의 미래 우주선을 생각해 보면 문제가 분명해진다. Jupiter의 얼음 위성에서는 제한된 시간 동안 나타나는 물 기둥이 분출될 수 있다. 우주선은 이를 감지한 뒤 그 기회를 통과하고, 지구가 관측 사실을 수신하기도 전에 그 범위를 벗어날 수 있다.

NASA의 소프트웨어 및 로보틱스 업무를 이끌었던 Robert Ambrose는 IEEE Spectrum에 이러한 임무는 의미 있는 온보드 자율성 없이는 불가능할 것이라고 말했다. 관제사는 약 한 시간 전에 일어난 사건을 보고 있을 수 있다.

기존 자동화는 예측 가능한 상황에 잘 대응한다. 엔지니어들은 상태, 허용된 행동, 복구 절차를 정의한다. 이후 테스트는 예상된 조건 전반에서 시스템이 올바르게 반응하는지 확인한다.

생성형 AI는 우주선이 설계자들이 정확히 설명하지 못한 상황을 마주할 때 흥미로워진다. 모델은 관측을 분류하고, 이를 기존 지식과 연결하며, 미리 작성된 하나의 규칙에 맞추지 않고 행동을 제안할 수 있다.

이러한 유연성은 엔지니어들이 이를 꺼려 온 이유이기도 하다. 같은 입력이 항상 답에 이르는 같은 경로를 보장하지는 않는다. 맥락, 이전 단계, 모델의 동작이 출력을 바꿀 수 있다.

우주 비행 시험은 전통적으로 추적 가능성에 의존한다. 조사 담당자는 소프트웨어가 특정 행동을 선택한 이유를 이해하고, 조건을 재현하며, 안전장치가 일관되게 작동하는지 검증해야 한다.

생성형 모델은 이 과정을 복잡하게 만든다. 엔지니어들은 예상 입력뿐 아니라 맥락, 센서 잡음, 모호한 지시, 이전 모델 응답의 조합까지 시험해야 한다.

Ambrose는 Orion 같은 우주선 개발 과정에서 자율성이 팀이 검토해야 할 경로의 수를 어떻게 늘렸는지 설명했다. 그에 대한 한 가지 해법은 시험 과정 자체의 일부를 자동화하는 것이었다.

이 역사가 중요한 이유는 생성형 AI가 최초의 우주선 자율성을 도입하는 것은 아니기 때문이다. 화성 로버들은 수년간 현지 지형을 탐색해 왔으며, 위성들은 자세, 전력, 고장 대응을 일상적으로 제어한다.

Perseverance도 Claude 경로 실험에 앞서 온보드 자동 스케줄러를 도입했다. JPL은 자동 스케줄러가 2023년 10월 로버의 주요 일정 관리 방식이 됐다고 밝혔다.

더 새로운 변화는 자율성의 유형과 관련된다. 전통적 시스템은 설계된 경계 안에서 뛰어난 성능을 낸다. 파운데이션 모델은 서로 다른 작업 전반에서 폭넓게 학습한 표현을 재사용할 수 있지만, 그 동작은 덜 예측 가능하다.

상업 활동은 이 트레이드오프를 받아들여야 한다는 압력을 높인다. 더 많은 위성, 민간 우주정거장, 로봇 정비 임무, 달 탐사 차량은 지상팀이 수동으로 처리할 수 있는 것보다 더 많은 결정을 만들어낼 것이다.

임무 개발도 빨라지고 있다. University of Texas at Austin의 Center for Autonomy 책임자인 Ufuk Topcu는 오늘날의 속도를 한때 10년 또는 15년에 걸쳐 개발되던 프로그램과 대조했다.

더 많은 임무가 존재하면 통제의 경제성도 달라진다. 모든 이미지, 경로, 절차, 이상 현상을 점검하기 위해 전문팀을 배정하는 방식은 우주선 수의 증가에 맞춰 확장되지 않는다.

불가피한 대응은 점진적인 위임이 될 것이다. 운영자들은 AI가 권고하거나 행동할 수 있는 제한된 영역을 정의하고, 결과를 모니터링하며, 증거가 축적된 후에만 그 영역을 확대할 것이다.

이 변화는 전통적인 임무 보증에 압박을 가한다. 이 분야는 안전 기준을 유지하는 동시에 낯선 조건을 위해 설계된 시스템을 인증할 방법을 찾아야 한다.

선택지는 인간의 판단 대 완전한 기계 통제가 아니다. 이는 중앙집중식 인간 계획과 감독받는 온보드 지능의 문제이며, 거리와 업무량이 증가할수록 권한은 우주선 쪽으로 이동한다.

예측 가능성에 대한 오래된 요구가 오히려 부담이 되고 있다

우주 엔지니어들은 한때 비결정론적 동작을 주로 위험으로 여겼지만, 지구가 제때 대응할 수 없을 때 경직된 동작 역시 위험해질 수 있다.

우주에서 생성형 AI를 지지하는 가장 강력한 논거는 언어 모델이 유행한다는 사실이 아니다. 이는 운영자가 신속히 개입할 수 없는 환경에서 미리 정해진 지시가 가진 한계 때문이다.

경직된 우주선은 예상치 못한 과학적 사건을 놓치면서도 설계된 대로 정확히 작동할 수 있다. 새로운 조건이 프로그래밍된 의사결정 트리 밖에 있을 경우 안전 모드에 들어갈 수도 있다.

안전 모드는 정상 활동을 중단하고 지상 지시를 기다림으로써 장비를 보호한다. 이 대응은 통신이 가능하고 지연이 허용될 때 효과적이다. 그러나 순식간에 사라지는 사건 중에는 유용성이 떨어진다.

생성형 시스템은 다른 대응을 약속한다. 불완전한 정보를 해석하고, 선택지를 비교하며, 대규모 데이터셋 전반에서 학습한 패턴을 사용해 계획을 만들 수 있다.

NASA의 Prithvi 실험은 별개의 맥락에서 이러한 유연성을 보여준다. Prithvi는 지리공간 파운데이션 모델로, 특정 영상 작업에 맞춰 적용되기 전에 지구 관측 데이터로 폭넓게 학습됐다.

연구진은 NASA와 IBM 모델을 경량화해 두 개의 궤도 플랫폼에 업로드했다. 하나는 South Australia의 Kanyini 위성이었고, 다른 하나는 국제우주정거장의 IMAGIN-e 컴퓨팅 페이로드였다.

Prithvi 궤도 시험은 두 플랫폼에서 홍수와 구름 탐지를 평가했다. NASA는 이를 궤도에서 이뤄진 지리공간 파운데이션 모델의 첫 배치라고 설명했다.

Prithvi는 13년치 Harmonized Landsat 및 Sentinel-2 데이터로 학습됐다. 가능한 활용 분야에는 홍수 지도화, 재난 모니터링, 작물 분석, 기타 지구 관측 업무가 포함된다.

궤도에서 이미지를 처리하면 지상으로 전송되는 관련 없는 데이터의 양을 줄일 수 있다. 또한 이미지를 촬영한 시점과 중요한 특징을 식별하는 시점 사이의 시간도 단축할 수 있다.

대역폭은 이러한 역량을 가치 있게 만든다. 위성은 항상 즉시 전송할 수 있는 양보다 더 많은 데이터를 수집하며, 특히 지상국과의 접속이 제한된 시간대에만 이뤄질 때 그렇다.

구름을 인식하는 우주선은 쓸모없는 광학 이미지를 저장하지 않을 수 있다. 홍수나 산불을 식별하는 시스템은 가치 있는 관측의 우선순위를 정하고 더 빨리 경보를 보낼 수 있다.

NASA는 이미 이 아이디어의 더 특화된 버전을 시험했다. NASA의 dynamic targeting system은 탑재 분석을 활용해 기기가 어디를 관측할지 결정하기 전에 구름과 맑은 하늘을 구분한다.

이 시스템은 위성의 궤도 경로를 따라 약 300마일, 즉 500킬로미터 앞을 살핀다. 구름이 목표를 가리면 우주선은 촬영 작업을 취소하고 저장 공간을 아낄 수 있다.

Prithvi는 더 적응적인 아키텍처의 가능성을 제시한다. 관측마다 별도의 협소한 모델을 탑재하는 대신, 파운데이션 모델은 특화된 미세 조정 후 여러 작업을 지원할 수 있다.

압축은 필수적이었다. IBM 연구진은 증류와 양자화를 통해 모델 크기를 이전의 15분의 1로 줄였다고 보고했다.

증류는 더 작은 모델이 더 큰 모델의 유용한 동작을 재현하도록 훈련하는 방식이다. 양자화는 모델 매개변수에 사용되는 수치 정밀도를 낮춰 메모리와 연산 요구량을 줄인다.

이 방법들은 근본적인 제약을 다룬다. 우주용 인증을 받은 컴퓨터는 임무가 신뢰성, 전력 효율, 방사선 내성, 긴 운용 수명을 우선시하기 때문에 대체로 데이터센터 하드웨어보다 성능이 뒤처진다.

Prithvi 시험은 위성에 개방형 제어 권한을 부여하지 않았다. 대신 훈련된 모델을 새 데이터에 적용하는 과정인 추론을 궤도 컴퓨팅 환경에서 시연했다.

그럼에도 이 패턴은 Perseverance 프로젝트와 맞닿아 있다. NASA 우주선 AI 자율성은 명확히 정의된 작업, 제약된 하드웨어, 그리고 사람이 설계한 운용 경계에서 시작된다.

전환점은 이제 무엇이 보수적 엔지니어링으로 간주되는지에 있다. 과거에는 모든 복잡한 결정을 지구에서 내리는 것이 불확실성을 최소화했다. 그러나 멀리 떨어져 있거나 수가 많은 임무에서는 이러한 의존성이 지연, 병목, 관측 기회 상실을 초래할 수 있다.

예측 가능성은 여전히 중요하지만, 더는 유일한 안전 수단이 아니다. 특히 환경 변화가 임무 통제센터의 대응보다 빠를 때, 시의적절한 적응도 임무를 보호할 수 있다.

생성형 AI는 여전히 우주선이 외면할 수 없는 시험을 통과하지 못했다

유용한 시연이 확률적 모델이 추진, 생명 유지 또는 기타 되돌릴 수 없는 시스템을 안전하게 지휘할 수 있음을 입증하는 것은 아니다.

12월 화성 주행에 인간 검토가 포함된 데에는 이유가 있다. 생성형 모델은 이미지를 잘못 해석하거나, 제약을 간과하거나, 설명을 지어내거나, 작은 프롬프트 변경 뒤 서로 다른 답을 낼 수 있다.

지구에서 잘못된 응답은 시간을 낭비하게 할 수 있다. 화성에서는 로버를 움직이지 못하게 하거나, 바퀴를 손상시키거나, 에너지를 소진시키거나, 통신 장비를 좋지 않은 방향에 놓을 수 있다.

우주비행사 주변에서는 실패 비용이 더욱 커진다. 잘못된 정비 지침은 승무원을 엉뚱한 구성품으로 향하게 하거나 안전 단계를 빠뜨릴 수 있다.

언어 모델은 확신에 찬 표현으로 부정확한 진술을 할 수 있다. 검색 증강 생성은 승인된 문서에 답변을 근거하게 해 그 위험을 줄이지만, 검색이 올바른 추론을 보장하지는 않는다.

흔히 RAG라고 불리는 검색 증강 생성은 답변을 작성하기 전에 신뢰할 수 있는 지식 모음을 검색한다. 시스템은 모델 학습에만 의존하는 대신 임무 절차를 사용할 수 있다.

연구진은 우주비행사 지원을 위해 이러한 아키텍처를 탐구해 왔다. 제안된 CORE 어시스턴트는 절차 검색, 지식 그래프, 언어 모델, 증강현실 단서를 결합한다.

지식 그래프는 개체와 그 관계를 구조화된 형태로 정리한다. 이 구조는 시스템이 구성품, 절차 단계, 경고 및 필요한 도구를 연결하는 데 도움이 될 수 있다.

기반이 되는 procedure assistant research는 국제우주정거장과 Lunar Gateway 같은 환경을 대상으로 한다. 미래 승무원은 즉각적인 클라우드 연결을 당연하게 여길 수 없기 때문에 오프라인 접근을 강조한다.

이러한 어시스턴트는 빽빽한 기술 매뉴얼을 더 쉽게 검색할 수 있게 한다. 또한 승무원의 즉각적인 질문에 맞춰 정보를 제시할 수 있다.

하지만 유용한 답변을 제시하는 것과 안전한 답변을 보장하는 것은 다르다. 엔지니어는 모델이 승인되지 않은 단계를 대체하거나 권한 밖에서 행동하지 못하도록 하는 통제 장치가 여전히 필요하다.

미세중력은 또 다른 검증 공백을 만든다. 지구에서 훈련된 로봇 모델은 중력, 마찰, 익숙한 물체 운동에 의해 형성된 물리적 관계를 학습한다.

궤도에서는 물체가 표면에서 밀려난 뒤 떨어지지 않는다. 다른 힘이 경로를 바꿀 때까지 계속 움직인다. 따라서 지상용 조작 모델은 기본적인 실수를 할 수 있다.

Icarus Robotics는 국제우주정거장 작업을 위해 개발 중인 자유비행 로봇 Joy를 통해 이러한 차이에 대응하고 있다. 이 회사는 저중력 비행 중 시스템을 시험했다.

Joy의 초기 제안 업무에는 정거장 모듈 사이에서 화물 가방을 옮기는 일이 포함된다. Icarus는 원격 조작으로 시작해 운용 데이터를 활용해 더 높은 수준의 자율성을 훈련할 계획이다.

관련 훈련 데이터가 여전히 부족하기 때문에 이러한 단계적 접근은 타당하다. 지구 기반 로보틱스 기업은 창고, 사무실, 가정에서 수백만 건의 상호작용을 수집할 수 있다. 궤도 로봇은 기회가 훨씬 적다.

시뮬레이션은 데이터셋을 확장할 수 있지만, 모의된 접촉과 운동은 하드웨어 동작을 완벽히 재현하지 못한다. 무중력 비행은 유용한 샘플을 제공하지만, 미세중력 상태는 매번 짧은 시간만 지속된다.

따라서 안전 과제에는 세 가지 층위가 있다. 모델은 환경을 정확히 해석해야 하고, 로봇은 의도한 동작을 실행해야 하며, 시스템은 손상이 발생하기 전에 실패를 감지해야 한다.

단일 벤치마크로는 이러한 질문을 해결할 수 없다. 시험은 센서, 모델 출력, 기계 제어, 타이밍, 통신, 복구 동작을 하나의 연결된 시스템으로 포괄해야 한다.

NASA 우주선 AI 자율성은 권한 경계를 통해 발전할 가능성이 높다. 모델은 먼저 요약하고, 이어 권고하며, 그다음 되돌릴 수 있는 행동을 실행하고, 그 후에야 더 큰 결과를 초래하는 시스템을 제어할 수 있다.

각 단계에는 독립적인 모니터링이 필요하다. 결정론적 안전 제어기는 위치, 에너지, 온도 또는 충돌 한계를 위반하는 명령을 차단할 수 있다.

엔지니어는 모델을 승인된 도구와 구조화된 출력으로 제한할 수도 있다. 모델은 제한 없는 좌표를 생성하는 대신 검증된 영역에서 경유지를 선택할 수 있다.

이러한 통제 장치는 위험을 줄이지만, 생성형 AI를 매력적으로 만드는 적응성도 제한한다. 엄격한 제한은 유연한 모델을 또 하나의 협소한 자동화 계층으로 만들 수 있다.

이것이 핵심적인 절충점이다. 우주선에는 낯선 사건에 대응하는 모델이 필요하지만, 낯선 행동은 발사 전 인증하기 어렵다.

따라서 독립적인 우주선에 관한 주장은 신중한 표현을 써야 한다. 현재 프로젝트는 통제된 조건에서 계획 지원, 탑재 이미지 분석, 절차 지원을 보여준다. 신뢰할 수 있는 일반 자율성을 입증하지는 않는다.

가장 어려운 증거는 반복 운용에서 나올 것이다. 엔지니어에게는 실패율, 개입 기록, 극단 사례 성능, 성능이 저하된 센서나 불완전한 데이터에서의 성공적인 복구 사례가 필요하다.

그러한 결과가 나오기 전까지 생성형 AI는 더 큰 시스템의 한 계층으로 남아야 한다. AI는 해석하고 제안할 수 있으며, 검증된 소프트웨어는 임무를 보호하는 경계를 강제한다.

자율성이 샌드박스를 벗어날 수 있는지 보여줄 세 가지 시험

다음 단계는 반복적인 임무 성과, 더 큰 탑재 권한, 그리고 안전 시스템이 모델 오류를 억제할 수 있다는 신뢰할 만한 증거에 달려 있다.

첫 번째 신호는 NASA가 더 긴 주행에서 AI 지원 로버 계획을 반복하는지 여부다. 12월 경로는 합쳐 456미터를 주행했으며, 이는 운용 가능성은 입증했지만 일상적 신뢰성을 입증하지는 못했다.

더 강력한 결과는 서로 다른 지형에서 수많은 계획 주기를 포함할 것이다. 거부된 경로, 인간의 수정, 계획 소요 시간에 관한 공개 정보는 단 한 번의 성공보다 더 많은 것을 보여줄 것이다.

시험이 이어질수록 운용자가 수정해야 하는 횟수가 줄어든다면 생성형 계획의 근거는 강해질 것이다. 수정이 빈번하다면 모델은 자율 계획자가 아니라 생산성 도구로 남아 있음을 보여줄 것이다.

두 번째 신호는 궤도 파운데이션 모델이 탐지에서 행동으로 이동하는지 여부다. Prithvi는 이미지 속 특징을 분류했으며, dynamic targeting은 이미 구름 인식을 기기 일정 수립과 연결한다.

향후 모델은 재난 이미지를 우선순위에 두고, 센서 임무를 재지정하거나, 다른 우주선과 관측을 조율할 수 있다. 그러면 해석과 물리적 행동 사이의 연결 고리가 짧아질 것이다.

이러한 전환은 결과의 중대성도 높인다. 오분류는 제한된 전력, 저장 공간 또는 관측 기회를 낭비할 수 있다. 운용자에게는 입력, 출력, 적용된 제약을 설명하는 감사 로그가 필요할 것이다.

기관들이 궤도 시험 후 이러한 제한된 행동을 허용한다면 NASA 우주선 AI 자율성은 분석 단계를 넘어선 셈이다. 모델이 지휘 시스템과 계속 분리된 상태라면 신뢰는 더 느리게 축적되고 있다.

세 번째 신호는 유인 우주비행 프로그램이 언어 모델 지원을 어떻게 검증하는지다. 우주비행사는 방대한 기술 자료를 검색해야 하므로 절차 도구는 분명한 이점을 제공한다.

결정적인 시험은 모델이 일상적인 질문에 답하는지 여부가 아니다. 승무원이 안전하지 않은 답변을 알아차리고, 신속히 복구하며, 연결성이나 센서 데이터가 악화될 때도 작업을 이어갈 수 있는지가 핵심이다.

신뢰할 수 있는 배포는 대화형 편의성과 명령 권한을 분리해야 한다. 어시스턴트는 승인된 정보를 찾을 수 있지만, 중요한 행동에는 여전히 승무원의 명시적 확인이 필요하다.

성공은 지구 기반 지원이 너무 늦게 도착하는 달 정거장과 화성 임무를 위한 유사 도구를 뒷받침할 것이다. 성능이 나쁘다면 더 협소하고 구조화된 인터페이스의 필요성이 강화될 것이다.

개발자와 기업 AI 구매자는 이러한 실험을 면밀히 지켜봐야 한다. 우주비행은 에이전트가 파일, 데이터베이스, 기계 또는 업무 프로세스와 상호작용할 때 그들이 마주하는 동일한 문제를 드러낸다.

모델은 시연 중에는 유능해 보이지만 환경이 바뀌면 실패할 수 있다. 안전한 배포에는 신뢰할 수 있는 정보, 정의된 권한, 관찰 가능한 행동, 복구 경로가 필요하다.

자체 AI 워크플로를 개발하는 팀에도 같은 규율이 필요하다. 검색 가능한 engineering knowledge base는 답변에 근거를 제공할 수 있지만, 근거 제공만으로 검토나 접근 제어를 대체할 수는 없다.

우주 프로그램은 그 결과를 유난히 뚜렷하게 보여준다. 더 깊은 교훈은 소프트웨어가 단지 답하는 것을 넘어 행동할 수 있는 모든 곳에 적용된다.

NASA는 적응성과 예측 가능성 사이의 충돌을 해결하지 못했다. 다만 광범위한 약속을 증거로 대체할 수 있는 실제 임무 안에서 그 충돌을 시험하기 시작했다.

가장 안전한 경로는 영구적인 원격 제어도 즉각적인 기계 독립도 아니다. 각각의 새로운 권한을 반복 가능한 성과로 획득하는, 신중한 위임이다.

다음 Perseverance 계획 캠페인, 의미 있는 행동을 촉발하도록 허용된 첫 궤도 모델, 그리고 처음으로 독립 평가를 받는 우주비행사 어시스턴트를 지켜보라. 이러한 이정표는 생성형 AI가 신뢰할 수 있는 인프라가 되었는지, 아니면 유난히 유능한 조언자로 남았는지를 보여줄 것이다.