National Compute Grid, 유휴 AI 용량을 통합하지만 진짜 시험대는 신뢰성

National Compute가 약 760메가와트 규모의 연결되었거나 검토 중인 용량을 갖춘 National Compute Grid를 출범시켰다. 이 프로젝트는 AI 인프라 부족에 관한 익숙한 가정에 도전한다. 핵심 문제는 가용 가속기의 수가 아닐 수 있다. 기존 용량이 서로 단절된 사업자, 계약, 스케줄링 시스템 안에 묶여 있다는 점일 수 있다.

National Compute Grid는 이처럼 분산된 용량을 위한 공동 시장을 제안한다. 스타트업, 대학, 정부 연구소, AI 개발자는 전용 클러스터를 수년에 걸쳐 임대하기 위한 협상 없이 인프라를 요청할 수 있다. 참여 사업자는 자체적으로 예정된 학습 작업을 위한 용량을 확보한 상태에서 유휴 하드웨어를 제공할 수 있다.

이 모델은 National Compute를 대형 AI 연구소와 하이퍼스케일 클라우드 사업자가 선호하는 단일 테넌트 인프라 계약과 경쟁하게 한다. OpenAI와 Anthropic은 장기 약정을 통해 막대한 규모의 클러스터를 확보할 수 있다. 반면 소규모 개발자는 실험, 추론, 평가 또는 짧은 학습 작업을 위해 일시적인 접근이 필요한 경우가 많다.

이 그리드는 공통 스케줄링 및 마켓 소프트웨어를 통해 이러한 예측하기 어려운 워크로드를 지원하려 한다. NVIDIA 및 AMD 가속기, Google TPU, 그리고 새롭게 등장하는 칩 아키텍처도 지원한다. 하지만 다양한 용량을 나열하는 일보다 이를 상호 교환 가능하게 만드는 일이 더 어렵다.

분산된 풀은 프런티어 모델 학습에 사용되는 긴밀히 연결된 클러스터를 자동으로 재현할 수 없다. 데이터 이동, 네트워킹, 소프트웨어 호환성, 보안, 하드웨어 신뢰성은 여전히 어떤 워크로드를 어디에서 실행할 수 있는지를 제한한다.

따라서 이번 출범은 두 가지 경쟁 인프라 모델의 시험대가 된다. 하나는 개별 테넌트를 위해 완전한 클러스터를 예약하는 방식이다. 다른 하나는 컴퓨팅을 사용하지 않는 용량을 즉각적인 수요로 전환할 수 있는 공동 시장으로 취급한다.

National Compute Grid는 묶여 있던 하드웨어를 공동 시장으로 전환한다

National Compute는 흩어진 GPU가 하나의 거대한 슈퍼컴퓨터를 이룬다고 주장하는 것이 아니라, 조율된 용량에 대한 접근권을 판매하고 있다.

National Compute는 그리드 설계 문서에 따르면 2026년 6월 초대 전용 얼리 액세스를 시작했다. 현재 공개 웹사이트는 자격을 갖춘 정부, 군, 교육 사용자에게 프리뷰 액세스를 제공한다. 다른 잠재 고객은 대기자 명단에 등록할 수 있다.

Grid Exchange는 이 프로젝트의 중심에 있는 시장이다. 여러 사업자에 걸친 가용 노드를 추적하고 워크로드를 적합한 하드웨어와 매칭한다. 스케줄러는 칩 유형, 위치, 활용률, 가용성, 고객의 지출 한도를 고려한다.

회원은 bring-your-own-capacity 시스템을 통해 이미 소유하거나 임대한 인프라를 연결할 수 있다. 해당 장비가 내부적으로 필요하지 않을 때 회원은 이를 다른 참여자에게 제공할 수 있다. 네트워크가 그 용량을 사용하면 원래 보유자가 수익을 얻는다.

이 구조는 AI 조달의 근본적인 불일치를 겨냥한다. 연구팀은 실험의 성공 여부를 알기 전에 인프라를 예약하는 경우가 많다. 성과가 나오면 수요는 빠르게 늘어날 수 있지만, 실패한 접근 방식은 값비싼 클러스터를 충분히 활용하지 못하게 할 수 있다.

National Compute는 독립적인 단일 테넌트 클러스터에서 노드 점유율이 60% 미만으로 기록되는 경우가 많다고 말한다. 또한 이 회사의 문서는 모델 FLOPS 활용률이 30% 미만이고 평균 순 컴퓨팅 활용률은 15% 미만이라고 보고한다. 이 수치는 독립적인 업계 전반 감사가 아니라 컨소시엄의 관찰에 기반한다.

이 구분은 중요하다. GPU는 점유된 것처럼 보여도 실질적으로 유용한 작업을 거의 수행하지 않을 수 있다. 데이터, 통신, 스토리지 또는 다른 장애 노드를 기다리고 있을 수 있기 때문이다. 따라서 단순 할당 시간은 인프라가 학습 작업을 얼마나 효율적으로 진전시키는지 보여주지 못한다.

컨소시엄은 이에 goodput이라는 지표로 대응한다. Goodput은 예약된 GPU 시간의 양이 아니라 완료되고 중단되지 않은 작업을 의미한다. 학습의 경우 시스템은 작업을 성공적으로 앞으로 진행시키는 연속 실행 시간을 계산한다.

제안된 모델에서는 중단된 학습 실행이 완료된 작업과 같은 비용을 발생시키지 않는다. 추론 용량은 대신 선언된 복제본 가용성에 따라 결정된다. 배치 처리는 완료된 처리량을 기준으로 측정된다.

이 설계는 인프라 운영자에게 더 큰 신뢰성 위험을 이전한다. 장비가 반복적으로 실패하거나 멈추거나 작업을 중단시키면 사업자의 수익은 줄어든다. 고객은 명목상 가속기 수를 비교하는 대신 결과를 평가할 유인을 얻는다.

시스템은 피크 예약도 지원한다. 연구팀은 수년간 지속적으로 임대하는 대신 3~6개월의 기간 동안 더 큰 클러스터를 예약할 수 있다. 그리드는 예정된 실행이 시작되기 전에 유휴 기간을 더 낮은 우선순위의 작업으로 채울 수 있다.

National Compute는 회원들이 약 760메가와트의 용량을 연결했거나 “in sight” 상태라고 말한다. 이 표현은 현재 인프라와 아직 예정 단계에 있는 용량을 함께 포함한다. 이를 즉시 사용할 수 있는 고객 공급량 760메가와트로 해석해서는 안 된다.

연합체는 2030년까지 2기가와트를 목표로 설정했다. 이 목표를 달성하려면 단순히 사업자와 계약하는 것 이상이 필요하다. National Compute는 각 사업자의 시스템을 통합하고 가용성을 검증하며, 일관된 운영 규칙 아래에서 워크로드를 제공해야 한다.

AI 컴퓨팅 접근은 왜 최대 구매자에게 유리한가

이 그리드가 중요한 이유는 기존 AI 인프라 계약이 연구 수요가 예측 불가능할 때조차 예측 가능한 규모에 보상하기 때문이다.

대형 AI 개발사는 여러 제품과 연구 프로그램에서 지속적인 수요를 예상하기 때문에 장기 약정을 맺을 수 있다. 사용하지 않는 인프라를 내부 팀 전체에 분산할 수도 있다. 소규모 연구소에는 같은 수준의 재정적·조직적 유연성이 없다.

로보틱스 기업 1X의 AI 책임자 Sam Sinha는 원래의 출범 보도에서 이러한 불균형을 설명했다. 그는 시장에 OpenAI와 Anthropic이 대규모 컴퓨팅 자원에 대한 접근을 통제하는 것 이상의 대안이 필요하다고 주장했다.

이 우려는 스타트업 경쟁을 넘어선다. 대학과 정부 연구소는 과학 시뮬레이션, 모델 평가, 특수 학습 작업을 위해 일시적인 용량이 필요한 경우가 많다. 이들의 예산과 조달 일정은 상업 AI 선도 기업의 방식과 좀처럼 닮지 않는다.

대학 연구팀은 학회 마감 전에 수백 개의 가속기가 필요할 수 있다. 로보틱스 개발사는 새 제어 모델을 학습하는 동안 추가 용량이 필요할 수 있다. 국립 연구소는 특정 실험 전후로 GPU 수요가 급증할 수 있다.

이러한 워크로드는 중요하지만 불규칙하다. 각각의 피크 수요를 위해 영구 전용 클러스터를 구매하는 것은 비용과 에너지를 낭비하게 된다. 용량을 기다리는 일은 결과가 기술적 또는 상업적 가치를 잃을 때까지 연구를 지연시킬 수도 있다.

풀링은 통계적 다중화를 통해 이 유휴 예비 용량을 줄이려 한다. 이 용어는 서로 다른 수요 패턴을 결합해 한 사용자의 한가한 기간이 다른 사용자의 피크 수요를 충족하게 하는 방식을 뜻한다. 전화망과 전력 시스템도 관련 원리를 사용한다.

National Compute는 독립적인 참여자 10곳을 풀링하면 컴퓨팅 단위당 낭비되는 용량을 약 3배 줄일 수 있다고 추정한다. 참여자 100곳의 풀은 이 낭비를 약 10배 줄일 수 있다고 말한다.

이러한 추정은 수요의 다양성에 달려 있다. 모든 AI 기업이 같은 모델 경쟁 중에 최신 가속기를 원한다면 이들의 수요는 높은 상관관계를 띠게 된다. 모든 참여자가 동시에 피크를 경험할 때 풀링이 하드웨어를 새로 만들어낼 수는 없다.

이 모델은 고객마다 워크로드, 마감일, 칩 선호도, 시간대가 다를 때 가장 잘 작동한다. 추론, 배치 처리, 평가, 파인튜닝, 소규모 학습 프로젝트는 대형 실행 사이에 생기는 공백을 채울 수 있다.

이는 그리드의 첫 번째 이점이 가장 큰 프런티어 학습 규모 아래에서 나타날 가능성이 높다는 뜻이다. 유연한 워크로드는 수천 개의 긴밀히 네트워크로 연결된 가속기를 동기화하는 실행보다 사업자 간 이동이 더 쉽다.

National Compute는 그리드를 공공 과학과도 연결하고 있다. AI를 활용해 연구를 가속하는 것을 목표로 하는 연방 Genesis Mission에 컴퓨팅 크레딧을 제공하겠다고 발표했다. 이 프로젝트는 National Compute에 눈에 띄는 공공 부문 실증 환경을 제공한다.

여기서 성공한다면 공동 상업 인프라가 국립 연구소 슈퍼컴퓨터를 보완할 수 있음을 보여줄 것이다. 실패한다면 조달, 보안, 소프트웨어 요구사항이 풀링 시장의 겉보기 유연성을 어떻게 제한하는지 드러낼 것이다.

따라서 압박은 두 집단에 가해진다. 하이퍼스케일러는 유연성을 허용하는 워크로드에도 장기 약정이 왜 필요한지 설명해야 한다. National Compute는 유연성이 신뢰성, 기밀성, 유용한 성능을 희생하지 않는다는 점을 입증해야 한다.

National Compute는 서로 다른 클라우드와 칩을 어떻게 조율하려 하는가

그리드의 핵심 메커니즘은 조직 경계를 넘는 용량을 하나의 시장으로 취급하는 중립적 스케줄러다.

단일 하이퍼스케일러 내부에서 스케줄러는 하드웨어 상태, 워크로드 우선순위, 네트워크 토폴로지, 내부 수요를 확인할 수 있다. 하나의 조직이 장비, 소프트웨어, 운영 정책을 통제하기 때문에 작업을 이동시킬 수 있다.

National Compute는 이 가시성을 독립적인 사업자 전반으로 확장하려 한다. 이 회사의 스케줄러는 노드 상태를 추적하고 호환 가능한 워크로드를 배치하며 공급을 지속적으로 할당한다. 또한 정의된 우선순위 규칙에 따라 작업을 선점하거나 마이그레이션할 수 있다.

이 아키텍처는 Google의 Borg 스케줄링 계보와 이후의 Quota Marketplace에서 영향을 받았다. National Compute는 창립팀 구성원들이 이전에 이러한 시스템의 구축과 운영을 도왔다고 말한다.

Google의 내부 경험은 이 프로젝트에 가장 강력한 기술적 선례를 제공한다. 이 문서는 동적 할당이 AI 인프라 전반으로 확대되면서 플릿 점유율이 약 65%에서 99%로 상승했다고 보고한다.

더 통제된 비교에서는 수십만 개의 칩을 포함한 비슷한 규모의 두 풀이 사용됐다. National Compute는 정적 풀의 점유율이 75%였고 마켓플레이스 풀은 93%였다고 인용한다.

그러나 Google의 환경에는 한 가지 중요한 이점이 있다. 단일 기업이 참여 데이터 센터, ID 시스템, 네트워크 표준, 운영 인센티브를 통제한다. National Compute는 여전히 상업적 경쟁 관계에 있는 조직들 사이에서 스케줄링 성과를 재현해야 한다.

Vultr는 창립 컨소시엄 회원으로 프로젝트에 참여했으며 인프라를 제공하고 있다. 이 회사의 컨소시엄 발표는 Grid Exchange를 클라우드, 물리적 사이트, 가속기 아키텍처 전반을 아우르는 공통 오케스트레이션 계층으로 설명한다.

Vultr 역시 goodput 모델을 지지한다. 이는 참여 사업자에게 청구 가능한 할당 시간을 극대화하는 대신 가용성을 유지할 유인을 제공한다. 하지만 고객이 공급자를 비교하려면 그리드는 먼저 goodput을 일관되게 정의해야 한다.

서로 다른 가속기는 또 다른 복잡성을 더한다. NVIDIA GPU, AMD 가속기, Google TPU는 서로 다른 소프트웨어 스택, 개발 도구, 최적화 기법을 사용한다. 한 플랫폼용으로 준비된 워크로드가 다른 플랫폼에서 반드시 효율적으로 실행되는 것은 아니다.

스케줄러는 이러한 차이를 없애기보다 드러낼 수 있다. 고객에게는 여전히 호환 가능한 프레임워크, 모델 코드, 라이브러리, 스토리지, 체크포인트 형식이 필요하다. 그리드는 각 작업을 이러한 요구사항을 충족하는 인프라에 배치해야 한다.

National Compute의 기술 문서는 현재 세 가지 액세스 방식을 설명한다. 고객은 가상 머신 클러스터를 요청하거나, 전용 Kubernetes 클러스터에 GPU 작업을 제출하거나, 공공 연구 프로그램을 통해 전체 노드를 확보할 수 있다.

가상 머신 사용자는 원하는 GPU 수와 수용 가능한 최고 요율을 지정한다. 시장은 청산 수준이 해당 상한 이내에 머무르는 동안 머신을 배정한다. 보호 조건이 만료된 뒤에는 용량이 회수될 수 있다.

Kubernetes 고객도 자체 수요를 만드는 작업에 대해 유사한 한도를 설정한다. 공공 연구자는 National Compute의 Marshall 인터페이스를 통해 완전한 노드를 요청할 수 있다. 이 프로그램은 주된 경매 구조 밖에서 운영된다.

이러한 인터페이스는 그리드를 정책 제안보다 더 구체적인 것으로 만든다. 개발자가 각 공급자와 개별 협상하지 않고도 어떻게 용량을 요청할 수 있는지를 보여준다. 다만 아직 전체 네트워크에서 일관된 성능을 입증하지는 못한다.

National Compute는 궁극적으로 여러 워크로드 유형 전반에 걸친 운영 증거가 필요하다. 배치 추론에 적합한 스케줄러가 분산 학습에서는 어려움을 겪을 수 있다. 공공 연구에 적합한 풀도 규제를 받는 기업 환경의 요구사항에는 미치지 못할 수 있다.

따라서 핵심 메커니즘은 신뢰할 만하지만 아직 완성되지 않았다. 내부 플릿 시장은 대규모 환경에서 활용률을 높여 왔다. 해결되지 않은 문제는 공유 표준이 한 기업의 신뢰 경계를 넘어 그 성과를 확장할 수 있는지다.

분산된 용량은 최전선 학습 클러스터를 대체할 수 없다

유휴 GPU는 네트워킹, 스토리지, 소프트웨어, 보안이 요청된 워크로드를 지원할 수 있을 때에만 유용한 공급이 된다.

최전선 모델 학습에서는 가속기가 매우 낮은 지연 시간으로 데이터를 주고받아야 한다. 수천 개의 칩이 하나의 동기화된 계산에 참여할 수 있다. 클러스터 한 부분의 지연이나 장애는 전체 학습 작업을 늦출 수 있다.

서로 멀리 떨어진 데이터센터에 흩어진 머신은 일반 인터넷 연결만으로 해당 계산에 단순히 합류할 수 없다. 모델 체크포인트와 학습 데이터세트를 시설 간에 옮기는 데도 시간이 걸린다. 데이터 전송 제한은 이동 자체를 완전히 막을 수도 있다.

이 제약은 대체 가능한 컴퓨팅과 명목상 컴퓨팅을 구분한다. 동일한 GPU 두 개라도 하나가 필요한 스토리지와 네트워크 패브릭 옆에 있다면 동등하지 않다. 물리적·소프트웨어적 맥락이 수행할 수 있는 작업을 결정한다.

National Compute는 모든 머신이 모든 워크로드를 지원할 필요는 없다. 시장은 가속기, 토폴로지, 위치, 보안 등급, 신뢰성에 따라 용량을 세분화할 수 있다. 고객은 그에 따라 자신의 요구사항에 맞는 리소스를 선택할 수 있다.

그럼에도 세분화는 각각의 사용 가능한 풀 규모를 줄인다. 인증된 리전에서 특정 가속기 유형이 필요한 고객은 등록된 모든 노드를 활용할 수 없다. 따라서 헤드라인 용량 수치는 특정 작업에 대한 공급을 과대평가한다.

프로젝트 자체 논문은 두 번째 문제도 인정한다. 보안 규칙은 아직 개발 중이다. 공유 인프라에서는 독점 모델 가중치, 체크포인트, 학습 데이터가 여러 조직이 운영하는 머신에 놓일 수 있다.

이러한 구조는 공격자에게 매력적인 표적을 만든다. 또한 스케줄러를 중앙의 신뢰 지점으로 만든다. 제어 플레인이 침해되면 민감한 워크로드가 실행되는 위치가 노출되거나 안전하지 않은 사이트로 리디렉션될 수 있다.

National Compute는 다양한 워크로드를 위한 보안 등급을 제안한다. 공개 데이터 배치 작업은 의료 데이터, 정부 워크로드, 미공개 모델 학습과는 다른 요구사항을 적용받게 된다. 사이트는 해당 등급에 상응하는 인증을 받는다.

스케줄러는 민감한 작업이 선언된 보호 수준보다 낮은 환경에서 실행되지 않도록 막는다. 제안된 통제 수단에는 재사용 전 노드 삭제 및 재증명도 포함된다. 더 높은 등급에서는 가능한 경우 기밀 컴퓨팅 하드웨어가 요구될 수 있다.

이는 여전히 제안 단계다. 컨소시엄은 거버넌스 규칙을 최종 확정하지 않았으며 보안, 연구, 정책 커뮤니티에 의견을 요청했다고 밝혔다. 첫 번째 Grid Constitution이 이러한 운영 제약을 수립할 것으로 예상된다.

논문 자체에도 주목할 만한 일정 불일치가 있다. 초록은 일반 제공이 2027년 1월 15일에 시작된다고 밝힌다. 이후 로드맵은 Grid Exchange가 2026년 9월 15일에 일반 제공 단계에 진입했다고 말한다.

한편 공개 웹사이트는 현재 서비스를 공개 액세스 파트너로 제한된 프리뷰라고 설명한다. 이들 진술은 빠르게 변화하는 출시 계획의 수정 사항을 반영할 수 있다. 하지만 실제 상업적 상태를 판단하기는 더 어려워진다.

예약 수치에도 비슷한 주의가 필요하다. 논문은 기술 프리뷰 기간에 11억 달러 이상의 장기 예약이 있었다고 보고한다. 이후 업계 분석은 50억 달러를 넘는 더 큰 보고 수치를 인용한다.

어느 금액도 인식된 매출로 간주해서는 안 된다. 예약은 미래의 의향, 조건부 용량 또는 수년에 걸친 약정을 나타낼 수 있다. National Compute는 해당 예약을 포괄하는 감사된 활용률, 제공 또는 매출 데이터를 공개하지 않았다.

15% 미만의 활용률이라는 주장도 프로젝트와 그 구성원들에게서 나온다. 이 지표는 비효율성을 드러낼 수 있지만, 설치된 모든 AI 하드웨어의 85%가 자유롭게 이용 가능하다는 뜻은 아니다.

일부 용량은 의도적으로 유휴 상태로 유지된다. 운영자는 장애, 수요 급증, 유지보수, 예정된 학습을 위해 여유 용량을 보존한다. 계약이 재판매를 금지할 수 있으며, 데이터 지역성 의무가 외부 테넌트의 특정 시스템 사용을 막을 수도 있다.

National Compute는 실제로 고립된 하드웨어와 필요한 예비 용량을 구분해야 한다. 그렇지 않으면 시장이 수요가 낮은 시기에는 깊어 보이지만 수요가 증가하는 바로 그때 실패할 수 있다.

진짜 경쟁은 공유 컴퓨팅과 전용 용량 사이에 있다

National Compute는 하이퍼스케일러를 대체하는 것이 아니라, 고객이 AI 개발의 모든 단계에 독점 인프라를 필요로 하는지 시험하고 있다.

전용 용량은 예측 가능한 토폴로지, 안정적인 성능, 민감한 워크로드에 대한 직접 제어를 제공한다. 이러한 특성은 대규모 학습 실행과 엄격한 지연 시간 요구사항이 있는 프로덕션 서비스에서 중요하다.

약점은 약정 위험이다. 고객은 어떤 실험이 성공할지 알기 훨씬 전에 수요를 예측해야 한다. 연구 방향이 바뀌거나 하드웨어가 개선되거나 워크로드에 필요한 리소스가 줄어들어도 예약 비용을 지불한다.

풀링된 시장은 이 트레이드오프를 뒤집는다. 유연성과 잠재적으로 더 높은 활용률을 제공하지만, 고객은 변동적인 공급을 받아들여야 한다. 또한 공급자 전반에 걸친 공통 스케줄링, 보안, 성능 규칙에 의존하게 된다.

두 모델은 하나의 AI 프로젝트 안에서 공존할 수 있다. 연구소는 평가, 데이터 처리, 파인튜닝, 실험 실행에 그리드 용량을 사용할 수 있다. 이후 동기화된 사전학습 작업을 위해 전용 클러스터를 예약할 수 있다.

그리드의 스파이크 예약 모델은 이러한 하이브리드 접근 방식을 명시적으로 지원한다. 구성원은 알려진 기간에 대규모 블록을 확보하는 한편, 사용하지 않는 기간은 다른 고객에게 제공할 수 있다. 이는 시스템을 약정형 인프라의 대안일 뿐 아니라 보완재로 만든다.

하이퍼스케일러는 이미 스팟 시장과 내부 스케줄러를 운영한다. 이들의 강점은 완전한 시설과 네트워크를 통제한다는 데서 나온다. National Compute의 차별점은 공급자 중립성과 조직 경계를 넘어 공급을 결합할 수 있는 능력이다.

그 중립성에는 강제 가능한 거버넌스가 필요하다. 공급자는 경쟁사가 자신의 크레딧을 소진하거나 스케줄링을 조작할 수 없다고 신뢰해야 한다. 고객은 운영자가 특정 공급자, 모델 개발자 또는 칩 아키텍처를 우대할 수 없다는 점을 알아야 한다.

제안된 Grid Index는 시장 청산 정보를 공개함으로써 도움이 될 수 있다. 투명한 벤치마크는 연구자, 인프라 운영자, 자금 제공자가 서로 다른 용량 등급의 가치를 비교하도록 해줄 것이다.

공공 연구 보조금은 언젠가 단일 클라우드 계약을 전제로 하는 대신 컴퓨팅 크레딧을 포함할 수 있다. 스타트업은 가시적인 시장을 기준으로 실험 비용을 책정할 수 있다. 인프라 소유자는 유휴 용량 판매가 예비 머신을 사용하지 않은 채 두는 것보다 나은지 측정할 수 있다.

하지만 유용한 지수에는 실제 거래량이 필요하다. 얇거나 조건부인 공급에서 나온 가격은 구매자를 오도할 수 있다. National Compute는 등록된 용량이 통상적인 수요 기간과 피크 수요 기간 모두에서 완료된 작업으로 전환된다는 점을 보여야 한다.

가장 강력한 증거는 재방문 고객에게서 나올 것이다. 한 실험을 위해 성공적으로 버스트 용량을 사용한 스타트업은 유용한 사례 연구가 된다. 여러 프로젝트를 위해 다시 찾는 팀은 시장이 일상적인 인프라 계획의 일부가 될 수 있음을 보여준다.

같은 이유로 공급자 참여도 중요하다. Vultr는 컨소시엄에 신뢰할 만한 클라우드 구성원을 제공하며, Crusoe도 출범 파트너임을 밝혔다. National Compute는 완전한 회원 명단을 공개적으로 밝히지 않았다.

이처럼 제한된 투명성은 지리적 커버리지, 가속기 다양성 또는 공급자 집중도를 평가하기 어렵게 만든다. 겉보기에는 중립적인 시장도 소수의 인프라 기업에 의존할 수 있다.

그리드는 영구적인 약정을 요구하지 않으면서 예측 가능한 액세스를 제공할 때 전통적 계약에 가장 큰 압력을 가하게 된다. 모든 작업에서 전용 클러스터를 능가할 필요는 없다.

의미 있는 비중의 AI 작업에 충분할 정도로 유연한 용량을 신뢰할 수 있게 만들기만 하면 된다. 해당 시장으로 옮겨지는 모든 워크로드는 팀이 불확실한 미래 수요를 위해 예약해야 하는 인프라의 양을 줄인다.

National Compute Grid 출범 이후 주목할 점

세 가지 신호가 그리드가 유용한 인프라가 될지, 야심 찬 조정 실험에 머물지를 결정할 것이다.

첫 번째 신호는 검증된 제공 용량이다. National Compute는 운영 중인 노드를 계획된 프로젝트, 잠재적 구성원, 아직 “가시권 안에 있는” 인프라와 구분해야 한다. 공개 수치에는 가속기 유형, 위치, 가용 시간대, 완료된 워크로드 규모가 포함되어야 한다.

독립적인 활용률 데이터는 논리를 강화할 것이다. 그리드의 주장은 유휴 머신을 유용한 작업으로 전환하는 데 달려 있다. 굿풋, 중단, 스케줄링 지연, 그리고 고객이 실제로 확보할 수 있는 등록 용량의 비중을 보고해야 한다.

이러한 측정치가 여러 공급자 전반에서 지속적인 사용을 보여준다면 프로젝트의 시장 논지는 힘을 얻는다. 대부분의 용량이 여전히 잠재적 상태라면 760메가와트라는 헤드라인 수치는 작동하는 풀보다 파이프라인에 더 가까워 보일 것이다.

두 번째 신호는 성공적인 워크로드 다양성이다. 소규모 학습 실행, 추론, 배치 처리, 평가, 공공 연구가 먼저 프로덕션 단계에 도달해야 한다. 이러한 작업은 긴밀하게 동기화된 최전선 학습보다 더 많은 변동을 견딜 수 있다.

National Compute는 작업이 얼마나 오래 실행됐는지, 공급자 간에 이동했는지, 어떤 하드웨어 제약이 배치를 결정했는지를 보여주는 사례를 공개해야 한다. 투명한 장애 데이터도 그만큼 가치가 있을 것이다.

다양한 워크로드에 걸친 신뢰할 수 있는 완료는 공유 스케줄링이 시연을 넘어 작동한다는 점을 확인할 것이다. 반복적인 중단이나 제한적인 하드웨어 호환성은 분산된 공급이 통합 시장처럼 작동한다는 주장을 약화시킬 것이다.

세 번째 신호는 강제 가능한 보안과 거버넌스다. Grid Constitution은 인증 등급, 사고 보고, 워크로드 배치, 감사 권한, 운영자 제한, 고객 데이터 처리 규칙을 정의해야 한다.

이러한 규칙은 열망적인 언어를 넘어야 한다. 정부 연구소와 모델 개발자는 노드가 삭제되고 재증명되며 모니터링된다는 증거를 필요로 할 것이다. 고객에게는 분쟁 및 서비스 장애를 위한 명확한 절차도 필요하다.

National Compute Grid는 실제 모순을 짚어냈다. AI 기업들은 컴퓨팅이 부족하다고 말하지만, 고가의 가속기는 피크 워크로드 사이에 충분히 활용되지 않은 채 남아 있다. 더 나은 조정은 그 낭비된 용량의 일부를 회수할 수 있다.

그러나 오케스트레이션만으로 물리적 제약, 계약, 또는 신뢰 경계를 없앨 수는 없다. 이 프로젝트의 미래는 홍보된 메가와트를 압박 속에서도 안전하게 완료되는 작업으로 전환하는 데 달려 있다.

개발자와 연구 구매자는 헤드라인 용량보다 실제 제공되는 유효 처리량을 살펴봐야 한다. 또한 대기 시간, 중단 위험, 하드웨어 호환성, 데이터 통제를 전용 대안과 비교해야 한다. National Compute가 이러한 결과를 공개하고 고객이 다시 찾는다면, 공유 AI 용량은 지속 가능한 인프라 범주로 자리 잡을 수 있다. 그렇지 않다면 시장은 수년 전에 완전한 클러스터를 예약할 수 있는 대규모 구매자를 계속 선호할 것이다.