China Computing Power Conference, AI 용량과 유효 산출 간 격차 드러내

China Computing Power Conference 데이터는 뚜렷한 불일치를 보여줬다. 중국에서 컴퓨팅 용량의 75% 이상을 실제 서비스에 투입한 성(省)은 단 7곳에 그쳤다.

이 결과는 중국이 역사적인 인프라 성장세를 보고하던 시점에 나왔다. 2026년 6월 기준 중국의 FP16 정밀도 기준 지능형 컴퓨팅 용량은 2,185 EFLOPS로, 전년 대비 177% 증가했다. 그러나 설치 용량만으로는 클러스터가 얼마나 많은 유효 AI 작업을 완료하는지 알기 어렵다.

현재 중국 AI 인프라 시장을 규정하는 대립은 더 이상 부족과 과잉의 문제가 아니다. 명목 용량과 유효 산출의 문제다. 클라우드 사업자, 통신 사업자, 독립 데이터센터 기업, 모델 개발사는 고가의 클러스터를 지속적으로 가동할 수 있음을 입증해야 한다.

China Computing Power Conference는 9월 11일부터 9월 13일까지 허베이성 랑팡에서 열렸다. 연사들은 하드웨어 배치보다 워크로드 스케줄링, 네트워크 성능, 에너지 공급, 운영 신뢰성에 반복적으로 주목했다.

이 변화는 규모를 핵심 경쟁력으로 내세우는 모든 사업자에게 압박을 가한다. 시설에 수천 개의 가속기가 있어도 소프트웨어, 네트워크, 냉각 설비 또는 고객 파이프라인이 이를 생산적으로 활용하지 못하면 성과는 기대에 미치지 못할 수 있다.

컨퍼런스는 확장보다 가동률을 앞세웠다

중국의 인프라 이정표는 가속기, 랙, 이론적 연산량을 세는 방식의 한계도 드러냈다.

이 컨퍼런스는 국가 컴퓨팅 네트워크의 구축과 운영에 초점을 맞춘 프로그램 아래 9월 12일 랑팡에서 개막했다. 주최 측은 앞서 행사가 3일간 진행된다고 확인한 바 있다.

컨퍼런스 일정은 인프라, 핵심 기술, 산업 도입, 지역별 컴퓨팅 자원 조정을 다뤘다. 이는 첫 번째 건설 주기를 넘어선 시장의 변화를 반영했다.

주요 수치는 여전히 상당하다. 2026 Comprehensive Computing Power Panorama Analysis는 6월까지 실제 가동 중인 지능형 컴퓨팅 용량이 2,185 EFLOPS에 달한다고 보고했다. EFLOPS는 초당 100경 회의 부동소수점 연산을 의미하지만, 실제 성능은 워크로드와 수치 형식에 따라 달라진다.

같은 분석은 실제 사용 중인 표준 랙이 1,556만 개이며, 저장 용량은 2,000엑사바이트를 넘는다고 밝혔다. 컴퓨팅, 스토리지, 네트워킹, 운영 환경 차원에서 31개 모든 성급 지역을 평가했다.

이러한 지표가 중요한 이유는 AI 클러스터가 고립된 칩 집합으로 작동하지 않기 때문이다. 데이터를 공급할 스토리지, 작업을 동기화할 네트워크, 자원을 효율적으로 배정할 소프트웨어가 필요하다.

이 보고서에서 가장 주목할 만한 통계는 전국 성장률이 아니었다. 행사에서 제시된 결과에 따르면 랙 배치율이 75%를 넘은 성은 7곳뿐이었다.

랙 배치율은 이용 가능한 데이터센터 용량 가운데 실제로 채워지고 활성화된 비중을 뜻한다. 이는 가속기 가동률이나 완료된 AI 작업을 직접 측정한 수치는 아니다.

이 구분은 핵심적이다. 시설은 서버를 랙에 장착할 수 있지만, 그 전반에서 생산적인 워크로드를 유지하지 못할 수 있다. 반대로 특화 클러스터는 모든 구성 요소를 계속 가동하지 않더라도 가치 있는 작업을 제공할 수 있다.

따라서 7개 성이라는 수치는 완전한 전국 가동률 점수가 아니라 경고 신호다. 이는 인프라 공급과 시장 수요가 여전히 고르게 맞물리지 않고 있음을 시사한다.

성별 분석은 허베이, 광둥, 장쑤, 상하이, 베이징을 여러 컴퓨팅 차원에서 강점을 가진 지역으로 지목했다. 이들의 우위는 서로 다른 원천에서 나왔다.

베이징, 상하이, 광둥은 모델 개발, 생성형 AI 서비스, 관련 산업 활동에서 앞섰다. 광둥, 허베이, 상하이는 비교적 강한 스토리지 기반을 갖췄다.

장쑤, 저장, 광둥은 네트워크 조율에서 좋은 성과를 냈다. 신장, 간쑤, 칭하이는 에너지, 기후, 토지 조건의 혜택을 받았다.

이러한 차이는 하나의 전국 용량 수치가 지역별 병목 현상을 가릴 수 있는 이유를 설명한다. 수요, 전력, 가용 토지, 네트워크 지연시간, 기술 인재, 소프트웨어 생태계는 같은 장소에 존재하지 않는다.

따라서 이 컨퍼런스의 핵심 변화는 개념적이었다. 당국과 사업자는 생산적 산출을 건설 규모보다 더 중요한 경쟁 지표로 공개적으로 다뤘다.

이 판단은 훨씬 더 어려운 검증을 요구한다. 시설 건설은 눈에 보이고 측정 가능하다. 신뢰성 있고 경제적인 AI 산출을 제공한다는 사실을 증명하려면 지속적인 운영 근거가 필요하다.

China Computing Power Conference 데이터가 경쟁 기준을 바꾸는 이유

새로운 경쟁은 운영 손실과 제약을 뺀 뒤 시스템이 제공하는 유효 산출, 즉 유효 컴퓨팅 파워에 집중된다.

유효 컴퓨팅 파워는 단순히 이론적 칩 성능에 설치된 가속기 수를 곱한 값이 아니다. 통신 지연, 장애, 스케줄링 충돌, 메모리 제약, 유휴 시간 이후에도 실제로 남는 사용 가능한 작업량을 반영한다.

China Academy of Information and Communications Technology의 컴퓨팅·에너지 전문가 왕웨는 이러한 산출에 영향을 미치는 여러 운영 요인을 설명했다. 여기에는 병렬화, 작업 분할, 혼잡 제어, 장애 복구, 부하 분산, 자원 오케스트레이션이 포함된다.

병렬화는 대규모 작업을 여러 프로세서에 나눠 처리하는 방식이다. 작업 분할이 부실하면 일부 장치는 대기하는 반면 다른 장치에는 과도한 작업이 몰릴 수 있다.

클러스터가 커질수록 통신 효율은 더욱 중요해진다. 가속기는 하나의 학습 단계 동안에도 여러 차례 파라미터와 중간 결과를 교환해야 한다.

느리거나 혼잡한 연결은 고가의 프로세서를 대기하게 만들 수 있다. 클러스터는 설치되고 전력도 공급받지만, 실제 처리량은 광고된 용량보다 낮아진다.

장애 관리는 또 다른 격차를 만든다. 대규모 클러스터에는 충분히 많은 구성 요소가 있어 하드웨어와 네트워크 장애가 드문 예외가 아니라 일상적인 운영 이벤트가 된다.

복원력이 높은 시스템은 제한된 지연으로 작업을 우회 처리하거나 체크포인트를 복구할 수 있다. 반면 취약한 시스템은 수 시간의 처리 작업을 잃거나 대형 작업을 처음부터 다시 시작해야 할 수 있다.

자원 오케스트레이션은 어떤 워크로드에 어떤 프로세서, 메모리, 네트워크 용량, 스토리지 접근 권한을 배정할지 결정한다. 오케스트레이션이 미흡하면 고객이 호환되는 구성을 기다리는 동안 사용 가능한 하드웨어가 놀 수 있다.

이 문제는 중국 정책이 현재 고려하는 규모에서 더욱 어려워진다. 9월 7일 업계 계획은 1만 개, 10만 개 또는 그 이상의 가속기를 갖춘 클러스터를 질서 있게 배치해야 한다고 요구했다.

이 계획은 특정 시나리오에 맞춘 추론 인프라와 중국산 칩을 위한 추가 적응도 강조했다. 추론은 학습된 모델을 실행해 결과를 생성하는 과정이다.

학습과 추론은 서로 다른 인프라 수요를 만든다. 학습은 긴 작업을 처리할 수 있는 대규모 고밀도 연결 클러스터를 선호하는 경우가 많다.

추론 수요는 더 분산돼 있다. 낮은 지연시간, 예측 가능한 응답 시간, 지리적 근접성, 변화하는 사용자 트래픽에 따른 신속한 확장이 필요할 수 있다.

IDC China 리서치 부사장 저우정강은 CLS에 AIDC 시장이 일률적인 부족이 아니라 구조적 희소성에 직면해 있다고 말했다. AIDC는 AI 워크로드를 중심으로 설계된 데이터센터를 뜻한다.

저우에 따르면 일반 학습 용량은 빠르게 확대됐다. 고품질 추론 용량과 AI 에이전트를 위해 설계된 자원은 더 부족한 상태다.

이 평가는 광범위한 과잉이나 보편적 부족이라는 주장 모두를 복잡하게 만든다. 하드웨어 유형, 지역, 소프트웨어 스택, 고객 세그먼트에 따라 두 상황은 동시에 존재할 수 있다.

통신 사업자는 가용 랙을 보유하고 있어도 모델 기업이 요구하는 소프트웨어 환경을 갖추지 못할 수 있다. 서부 지역 클러스터는 더 낮은 전력 비용을 제공할 수 있지만, 동부 고객에게는 부적합한 지연시간을 초래할 수 있다.

클라우드 사업자는 가장 강력한 용량을 자체 모델과 기존 고객을 위해 확보해 둘 수 있다. 그러면 독립 사업자는 적합한 하드웨어와 안정적인 수요를 모두 확보하는 데 어려움을 겪을 수 있다.

원 업계 보도는 이러한 분화를 포착했다. 한 업계 관계자는 수요가 초기 확장기만큼 과열되지는 않았지만, 주요 기술 기업은 여전히 공급 부족에 직면해 있다고 말했다.

China Unicom의 화북 데이터센터는 그 반대편 모습을 보여줬다. 경영진은 계획된 시설이 건설되기 전부터 고객들이 구매 의사를 표명했다고 밝혔다.

사업자에 따르면 랑팡 캠퍼스에는 운영 중인 데이터센터 건물 6개, 랙 1만8,600개, 배치된 서버 약 66만 대가 있었다. 기존 지능형 컴퓨팅 용량은 3,425페타플롭스로 보고됐다.

이 캠퍼스는 2026년 중 지능형 컴퓨팅 건물 3개를 추가로 계획했다. 공개된 프로젝트에는 315메가와트의 데이터센터 용량과 범용 및 지능형 컴퓨팅의 상당한 확대가 포함됐다.

이 계획들은 건설이 멈추지 않은 이유를 보여준다. 시장은 어딘가에 존재하는 용량과 고객의 실제 기술 요구사항을 충족하는 용량을 구분하고 있다.

사업자에게 유효 컴퓨팅 파워는 소프트웨어와 운영을 영업 인프라로 바꾼다. 더 낮은 명목 용량이라도 더 많은 워크로드를 안정적으로 완료하면 더 큰 상업적 가치를 가질 수 있다.

고객에게 이러한 변화는 조달 과정에서 더 면밀한 질문을 요구한다. 구매자는 제공 처리량, 대기열 시간, 장애율, 네트워크 성능, 소프트웨어 호환성을 검토해야 한다.

인용된 가속기 수만으로는 이러한 질문에 답할 수 없다. 건물 규모나 설치된 랙 수 역시 마찬가지다.

클라우드 사업자와 통신 사업자는 서로 다른 강점을 갖고 진입한다

클라우드 기업은 소프트웨어와 고객 측면의 우위를 보유하는 반면, 통신 사업자는 시설과 전국 네트워크 자산을 통제한다.

이 구도는 컨퍼런스의 가동률 논쟁 뒤에 놓인 핵심 경쟁 긴장을 형성한다. 두 집단 모두 클러스터를 구축할 수 있지만, 유효 산출에는 서로 다른 출발점에서 접근한다.

대형 클라우드 사업자는 인프라를 모델, 개발자 도구, 퍼블릭 클라우드 고객, 기존 소프트웨어 플랫폼과 연결한다. 이들은 내부 및 외부 수요를 자체 시설로 유도할 수 있다.

Alibaba Cloud, Tencent Cloud, ByteDance 역시 반복적인 AI 워크로드를 만들어 내는 서비스를 운영한다. 이들의 수요 가시성은 고객 없는 클러스터를 구축할 위험을 줄일 수 있다.

이들의 풀스택 포지션은 또 다른 이점을 제공한다. 클라우드 사업자는 모델 프레임워크, 스케줄링 소프트웨어, 인프라를 함께 조정할 수 있다.

이러한 통합은 고객이 특화된 추론 또는 에이전트 워크로드를 필요로 할 때 중요하다. 사업자는 애플리케이션, 모델, 런타임, 하드웨어 계층 전반에서 최적화할 수 있다.

통신 사업자는 광범위한 데이터센터 자산, 백본 네트워크, 전력 연결, 지역 접근성을 기반으로 진입한다. China Mobile, China Telecom, China Unicom은 여러 도시의 시설을 연결할 수 있다.

그러나 통신 사업자는 대형 클라우드 기업보다 모델 및 AI 소프트웨어 생태계가 약한 경우가 많다. 저우는 이들이 클라우드 및 모델 사업자를 위한 맞춤형 인프라 아웃소싱을 맡을 수 있다고 제시했다.

이는 통신 사업자를 수동적인 임대업자로 만들지는 않는다. 여러 지역에 걸쳐 예측 가능한 지연 시간이 필요한 워크로드가 늘어날수록 이들의 네트워크 가치는 더욱 높아진다.

중국 컴퓨팅 플랫폼은 현재 31개 모든 성급 지역의 성급 플랫폼을 연결했다. 관계자들은 이 시스템을 재고, 운영 상태, 자원 가용성을 위한 국가 모니터링 계층이라고 설명했다.

이 플랫폼에는 1만 개가 넘는 기업 사용자가 등록됐고, 2,000개 이상의 컴퓨팅 제품과 300개 이상의 모델이 등록됐다. 또한 수십억 건의 모니터링 기록이 축적됐다.

national platform은 가시성을 제공하지만, 가시성이 곧 워크로드 마이그레이션의 성공을 의미하지는 않는다. 마켓플레이스 등록만으로는 지연 시간, 데이터 거버넌스, 소프트웨어 호환성의 제약을 없앨 수 없다.

독립 AIDC 사업자는 더 어려운 위치에 놓인다. 핵심 클라우드 고객을 보유한 대형 사업자는 특화 전략을 취하거나 장기 계약을 확보할 수 있다.

소규모 사업자는 자본이 부족하고 전력 확보 역량이 약하며, 보장된 고객도 적다. 이들은 하청 사업자로 전락하거나 제한된 지역 및 산업 시장만을 대상으로 서비스를 제공할 위험이 있다.

모델 개발사는 네 번째 집단을 이룬다. 선도 기업은 학습 용량을 확보하고 장기 공급 리스크를 관리하기 위해 클러스터를 구축할 수 있다.

그럼에도 이들은 외부 사업자로부터 추론 용량이나 토큰 기반 서비스를 구매할 수 있다. 토큰 서비스는 하드웨어에 대한 원시 접근권이 아니라 모델 출력을 판매한다.

이러한 분리는 유연성을 높일 수 있지만, 인프라 고객이 비교하는 기준도 바꾼다. 고객은 특정 랙의 소유 여부보다 사용 가능한 모델 출력의 비용과 신뢰성에 더 큰 관심을 둔다.

경쟁의 경계는 계속 유동적일 것이다. 클라우드 기업은 통신 사업자의 시설을 임차할 수 있고, 통신 사업자는 네트워킹과 맞춤형 하드웨어를 공급할 수 있다.

독립 사업자는 엄격한 데이터 위치 요건이 있는 산업에 특화할 수 있다. 모델 기업은 학습을 위해 내부 용량을 확보해 두는 한편, 예측하기 어려운 추론 트래픽은 외부에 맡길 수 있다.

승자가 반드시 가장 큰 물리적 규모를 소유하는 것은 아니다. 수요, 하드웨어, 소프트웨어, 전력, 네트워킹을 가장 적은 운영 손실로 연결하는 기업이 승리할 것이다.

이 기준은 투명한 측정의 중요성도 높인다. 특히 프로세서 유형과 수치 정밀도에 따라 사업자는 용량을 서로 다르게 정의할 수 있다.

FP16으로 측정한 EFLOPS 수치는 다른 형식으로 측정한 수치와 가볍게 비교할 수 없다. 실제 워크로드는 메모리 대역폭, 인터커넥트, 소프트웨어 최적화에도 좌우된다.

고객에게는 워크로드 수준의 근거가 필요하다. 유용한 지표로는 완료된 학습 단계, 생성된 토큰 수, 응답 지연 시간, 작업 완료율, 작업당 에너지 소비량 등이 있다.

일관된 보고가 없다면 유효 컴퓨팅 파워는 또 하나의 홍보용 표어가 될 위험이 있다. 이 개념은 사업자가 이를 관찰 가능한 생산 결과와 연결할 때에만 가치가 있다.

7개 성 수치는 여전히 중요한 의문을 남긴다

랙 배치 현황은 지역 불균형을 보여주지만, 가동 중인 모든 서버가 가치 있는 AI 작업을 수행하고 있음을 증명하지는 않는다.

75% 기준은 쉽게 오해될 수 있다. 이는 가용 데이터센터 자리가 채워졌는지를 측정할 뿐, 가속기가 계속 완전히 활용되고 있는지를 뜻하지는 않는다.

또한 이 글에서 검토한 공개 컨퍼런스 보도에서는 해당 7개 성을 식별하지 않았다. 함께 제시된 지역 분석은 산시, 칭하이, 신장이 랙 배치 측면에서 강한 성과를 냈다고만 언급했다.

이러한 누락은 비교를 제한한다. 독자는 다른 성이 75%보다 얼마나 낮은지, 또는 지역별 비율이 완전히 일관된 시설 표본을 사용하는지 판단할 수 없다.

과거 데이터는 일부 맥락을 제공한다. 2023년 CAICT 백서는 2022년 말 기준 배치율이 가장 높은 10개 성이 모두 55%를 넘었다고 보고했다.

earlier benchmark는 낮은 전체 배치율의 원인 중 하나로 불분명한 지역 포지셔닝과 불완전한 산업 생태계를 꼽았다. 또한 투자와 활용의 균형을 맞추기 위한 조정된 계획 수립을 권고했다.

더 최근의 75% 통계는 선도 지역의 개선을 시사하지만, 국가 차원의 시계열을 확립하지는 못한다. 기준치, 시설 집단, 보고 방식의 정렬이 필요하다.

두 번째 불확실성은 “사용 중인 지능형 컴퓨팅 용량”이라는 표현과 관련된다. 공개 보도는 랙 배치 경고와 함께 2,185 EFLOPS를 보고했다.

“사용 중”은 지속적인 생산적 활용이 아니라 가동 준비가 완료된 인프라를 설명할 수 있다. 모든 운영이 고객 워크로드를 처리하고 있다는 증거로 해석해서는 안 된다.

세 번째 쟁점은 워크로드의 품질이다. 클러스터는 낮은 가치의 작업, 비효율적인 소프트웨어, 또는 주로 용량을 채우기 위해 보조금을 받는 워크로드를 실행하면서도 높은 활용률을 기록할 수 있다.

상업적으로 유용한 출력에는 단순한 활동 이상이 필요하다. 작업은 지속 가능한 운영 비용 안에서 고객 요구사항을 충족해야 한다.

컨퍼런스 보고서는 세 가지 광범위한 제약을 지목했다. 지역 발전 격차, 산업 시나리오와의 약한 통합, 지역 간 스케줄링의 장벽이다. 각각은 유용한 출력을 서로 다른 방식으로 떨어뜨릴 수 있다.

지역 격차는 수요와 인프라가 서로 다른 장소에 위치하게 만든다. 동부 성에는 많은 모델 개발사와 사용자가 있지만 에너지와 토지 제약은 더 크다.

서부 지역은 재생에너지, 더 서늘한 기후, 대규모 시설을 위한 공간을 제공할 수 있다. 그러나 거리는 지연 시간과 데이터 전송 제약을 초래한다.

학습 작업과 콜드 스토리지는 대화형 추론보다 더 긴 거리를 견딜 수 있다. 고객 대면 AI 에이전트는 지리적 위치가 결정적일 만큼 빠른 응답을 요구할 수 있다.

지역 간 스케줄링에는 보안과 거버넌스 문제도 따른다. 데이터나 중간 결과를 이동하면 고객 정책, 규제 의무, 대역폭 제한과 충돌할 수 있다.

산업 통합은 또 다른 과제다. 클러스터를 구축한다고 해서 제조업체, 병원, 금융기관, 지방정부의 수요가 자동으로 생기지는 않는다.

이들 조직에는 호환 가능한 모델, 정제된 데이터, 조달 승인, 재설계된 업무 흐름이 필요하다. 하드웨어는 이런 요소들이 준비되기 훨씬 전에 도입될 수 있다.

가장 강력한 반례는 개최지인 허베이에서 나왔다. 관계자들은 556 EFLOPS의 지능형 컴퓨팅 용량과 250만 개의 가동 표준 랙을 보고했다.

허베이는 또한 80%를 넘는 활용률을 보고했다. 이 성은 인프라 프로그램을 26개 부문의 441개 수직형 대형 모델과 98개 에이전트에 연결했다.

이는 독립적으로 감사된 워크로드 측정치가 아니라 공식 지역 주장이다. 그럼에도 다른 성들이 구축하도록 장려받는 수요 연계의 유형을 보여준다.

랑팡은 특히 의도적인 전략을 제시한다. 이 도시는 베이징에 충분히 가까워 서부의 학습 허브를 그대로 모방하기보다 저지연 추론을 추진할 수 있다.

관계자들은 데이터가 약 1밀리초 만에 베이징의 핵심 노드에 도달할 수 있다고 밝혔다. 랑팡은 36개의 대형 가동 데이터센터와 20만 페타플롭이 넘는 지능형 컴퓨팅 공급량을 보고했다.

이 위치는 상호보완적 모델을 뒷받침한다. 베이징은 연구와 애플리케이션에 집중하고, 인근 랑팡은 실시간 컴퓨팅을 담당할 수 있다. 서부 허브는 지연 시간 민감도가 낮은 워크로드를 처리할 수 있다.

이러한 특화는 모든 성을 서로 교체 가능한 클러스터 입지로 취급하는 것보다 더 신뢰할 만하다. 이는 시설 설계를 고객과 네트워크 조건에 맞춘다.

그렇더라도 이 접근법은 현지 수요가 공급과 함께 증가한다는 점을 입증해야 한다. 보조금, 컴퓨팅 바우처, 모델 바우처는 도입을 가속할 수 있지만, 기초 경제성을 가릴 수도 있다.

따라서 컨퍼런스의 유효 컴퓨팅 프레임워크는 검증 가능한 방향으로 다뤄져야 한다. 아직 표준화된 국가 성과 지표는 아니다.

전력, 냉각, 네트워크가 이제 유용한 용량을 규정한다

전기, 열 관리 시스템 또는 데이터 연결이 제한 자원이 되면 클러스터는 유효 컴퓨팅 파워를 제공할 수 없다.

AI 인프라는 세 시스템 모두에 이례적인 부담을 준다. 고밀도 가속기 랙은 기존 엔터프라이즈 서버보다 더 많은 전력을 소비하고 더 많은 열을 방출한다.

컨퍼런스 참가자들은 녹색 전력 비중, 랙 전력 밀도, 액체 냉각 역량이 토지 면적과 랙 수를 대체하는 핵심 가치평가 지표가 됐다고 말했다.

액체 냉각은 프로세서 근처의 유체를 통해 열을 전달한다. 구현과 유지보수는 여전히 복잡하지만, 기존 공랭식 냉각보다 더 높은 랙 밀도를 지원할 수 있다.

전력 가용성은 확장 속도와 운영 비용 모두에 영향을 준다. 대형 프로젝트는 점점 수백 메가와트를 필요로 하며, 가장 큰 국제 제안은 기가와트급 공급에 접근하고 있다.

따라서 지역별 전기요금은 경쟁 구도를 재편할 수 있다. China Unicom의 화이라이 시설은 킬로와트시당 약 0.62위안의 전기요금을 보고했다.

이 사업자는 해당 요금을 내몽골의 0.40위안 이상, 산시의 0.50위안 이상 요금과 비교했다. 일부 서부 프로젝트는 더 낮은 보조금 적용 요금에 도달한 것으로 전해졌다.

이 수치는 기업 발표에서 나온 것으로, 계약, 보조금, 소비 패턴에 따라 달라질 수 있다. 그럼에도 동일한 하드웨어라도 서로 다른 운영 경제성을 가질 수 있는 이유를 보여준다.

높은 에너지 비용은 완료된 모든 AI 작업의 상업적 가치를 낮춘다. 또한 고객이 특정 지역에 워크로드를 맡기는 것을 주저하게 만들 수 있다.

사업자들은 직접 재생에너지 조달 계약, 전력 거래, 유연한 부하 스케줄링으로 대응하고 있다. 유연한 스케줄링은 더 많은 전력을 이용할 수 있는 시간대나 장소로 적합한 작업을 옮긴다.

국가 정책 방향도 이러한 접근을 뒷받침한다. 중국의 인프라 계획은 컴퓨팅, 스토리지, 네트워크, 전력, 탄소 회계 간의 조정을 요구한다.

infrastructure policy는 컴퓨팅 네트워크, 이기종 자원 조정, 산업 수요에 맞춘 배치도 장려한다. 이러한 우선순위는 2026년 컨퍼런스보다 앞서 제시됐지만, 이제 더 큰 운영상 긴급성을 띤다.

네트워크 역시 똑같이 중요하다. 중국은 국가 컴퓨팅 허브와 기타 주요 지역을 연결하는 70개 이상의 전송 경로를 보고했다.

관계자들은 또한 국가 컴퓨팅 상호연결 지역 노드 17곳의 승인을 보고했다. 허베이 지역 노드는 컨퍼런스 기간 중 운영을 시작했다.

이 프로젝트들은 자원을 발견하고 연결하는 역량을 향상시킨다. 그러나 모든 워크로드가 지역 간에 경제적으로 이동할 수 있음을 보장하지는 않는다.

네트워크 지연 시간은 비동기식 모델 학습이나 데이터 처리에서는 허용될 수 있다. 대화형 추론과 멀티에이전트 시스템은 종종 더 엄격한 응답 목표를 요구한다.

학습 데이터세트나 모델 체크포인트가 대규모가 되면 대역폭 비용도 중요해진다. 작업을 전송하는 비용이 저렴한 전력에서 얻는 절감 효과를 없앨 수 있다.

중국공정원 원사 우허취안은 로컬 컴퓨팅과 원격 컴퓨팅을 결합하는 방안을 제안했다. 시스템은 초기 작업을 로컬에서 수행하고 더 무거운 처리는 다른 곳으로 보낼 수 있다.

그는 서로 다른 추론 단계를 분리하고 암호화 또는 데이터 마스킹을 사용하는 방안도 논의했다. 이러한 설계는 지연 시간, 에너지, 보안의 균형을 맞추려는 시도다.

또 다른 제안은 더 빠른 스케줄링과 낮은 에너지 사용을 위한 평면화된 광 네트워크였다. 이러한 기술은 여전히 실증 단계를 넘어 안정적인 운영 환경으로 옮겨가야 한다.

운영 신뢰성은 마지막 층위로 남는다. China Mobile의 베이징-톈진-허베이 시설은 독립 전력 공급선, 디젤 발전기, 무정전 전원 시스템을 포함한 여러 전력 보호 장치를 공개했다.

이 시설에는 각각 2,000킬로와트 정격의 디젤 발전기 15대와 전용 연료 비축분이 있는 것으로 전해졌다. 이러한 백업 시스템은 가용성을 보호하지만 자본, 유지보수, 환경 비용을 더한다.

모든 지원 계층은 유효한 산출물에 영향을 미친다. 데이터를 기다리거나, 과열되거나, 전력을 잃거나, 반복적으로 재시작되는 가속기는 이론적 속도와 무관하게 기여도가 낮다.

이 때문에 유효 컴퓨팅으로의 전환은 칩 공급업체를 넘어선다. 이는 네트워킹 장비, 스토리지, 냉각, 전력 관리, 클러스터 소프트웨어의 구매 우선순위를 바꾼다.

또한 인프라 의사결정과 운영 장애를 잘 문서화하는 팀에 유리하게 작용한다. 복잡한 클러스터는 방대한 양의 로그, 설계 노트, 문제 해결 기록을 생성한다.

엔지니어링 조직은 이러한 자료를 검색 가능한 기술 지식 베이스로 전환할 수 있다. 이전 해결책에 더 빠르게 접근하면 반복적인 진단 작업을 줄일 수 있지만, 성숙한 운영 체계를 대체할 수는 없다.

유효 컴퓨팅의 성패를 보여줄 세 가지 신호

다음 시험대는 컨퍼런스의 언어가 활용률, 워크로드 제공, 지역 특화 측면에서 측정 가능한 변화를 만들어 내는지 여부다.

첫 번째 신호는 성(省) 단위 활용률 공개다. 향후 보고서는 지역별 실명 결과, 일관된 정의, 랙 배치 및 가속기 사용에 대한 비교 가능한 측정치를 제시해야 한다.

더 많은 성이 모호한 용량 범주에 의존하지 않고 75%를 넘는다면, 이 증거는 유효 컴퓨팅 논지를 강화할 것이다. 반대로 보고 내용이 검증하기에 지나치게 제한적이라면 이 논지는 약화될 것이다.

두 번째 신호는 실제 지역 간 워크로드 트래픽이다. 국가 플랫폼은 현재 31개 성급 지역, 수천 개 제품, 수백 개 연결 모델에 걸친 모니터링 범위를 갖추고 있다.

중요한 결과는 카탈로그에 얼마나 많은 리소스가 표시되는지가 아니다. 지연 시간, 보안, 신뢰성, 비용 요구사항을 충족하면서 얼마나 많은 프로덕션 워크로드가 지역 간에 성공적으로 이동하는지가 핵심이다.

완료된 지역 간 작업의 증가는 네트워크가 수요와 공급의 불일치를 줄이고 있음을 보여줄 것이다. 생성형 AI 애플리케이션이 베이징, 상하이, 광둥에 계속 집중된다면 그 한계가 드러날 것이다.

세 번째 신호는 공급업체들이 추론 및 에이전트 용량을 어떻게 패키징하는지다. 클라우드 기업, 통신 사업자, 독립 시설 운영업체는 서로 다른 자산을 바탕으로 동일한 고객층을 공략하며 수렴하고 있다.

토큰, 제공 처리량, 지연 시간, 서비스 신뢰성을 기준으로 한 계약에 주목해야 한다. 이러한 조건은 랙 또는 가속기 수보다 인프라 지출을 고객 성과와 더 직접적으로 연결한다.

어떤 운영업체가 반복적인 추론 워크로드를 확보하는지도 살펴봐야 한다. 학습 프로젝트는 규모가 클 수 있지만 일시적인 반면, 추론 수요는 일상적인 애플리케이션 사용과 함께 증가한다.

중국 컴퓨팅 파워 컨퍼런스는 분명한 판단을 제시했다. 건설 물량만으로는 더 이상 진전을 충분히 측정할 수 없다는 것이다. 7개 성 통계는 이 판단을 무시하기 어렵게 만들었다.

중국은 여전히 여러 시장에서 더 특화된 AI 용량이 필요하다. 동시에 기존 용량은 더 쉽게 발견하고, 스케줄링하고, 전력을 공급하고, 냉각하고, 연결할 수 있어야 한다.

개발자와 기업 구매자에게 실질적인 질문은 간단하다. 공급업체는 이론적 용량을 제공하는가, 아니면 실제 워크로드가 받는 성능을 문서로 입증할 수 있는가?

인프라 운영업체에게 이 과제는 더 어렵다. 고객을 계속 활성 상태로 유지하면서 칩, 건물, 전력, 네트워크, 소프트웨어를 신뢰할 수 있는 산출물로 전환해야 한다.

향후 3개월 동안 새 클러스터 발표만 보지 말아야 한다. 공개된 활용률, 완료된 지역 간 워크로드, 제공된 AI 산출물과 연계된 계약을 추적해야 한다.

이 지표들은 유효 컴퓨팅 파워가 운영 규율로 자리 잡는지, 아니면 컨퍼런스 구호로 남는지를 보여줄 것이다.