ASRock Rack OCP 2026, NVIDIA 서버 라인업 전반에 액체 냉각 적용
ASRock Rack은 OCP 2026에서 72-GPU 랙부터 소형 서버까지 아우르는 NVIDIA 시스템을 전시하며, 가장 큰 가속기 플랫폼을 넘어 액체 냉각을 확장했다. ServeTheHome의 11월 1일 부스 취재에 따르면 ASRock Rack OCP 2026 라인업에는 액체 냉각 네트워크 스위치도 포함됐다. 이들 시스템은 냉각 결정이 더 이상 서버 섀시에서 끝나는 것이 아니라 주변 인프라의 구성 방식까지 좌우하고 있음을 보여준다.
개별 서버를 구매하는 것과 통합 컴퓨팅 설비를 준비하는 것 사이에는 차이가 있다. 그래픽 처리 장치(GPU)는 AI 워크로드에 사용되는 병렬 연산을 가속한다. 하나의 캐비닛에 더 많은 GPU를 탑재하면 전력 분배, 네트워킹, 유지보수, 열 배출에 대한 요구사항도 달라진다. 이러한 요구사항은 하드웨어와 함께 고객의 건물 내부로 이어진다.
ASRock Rack의 발표는 가용성 측면에서도 중요한 구분을 제시한다. 회사는 GB300 NVL72 시스템을 현재 제공 중인 제품으로 설명한 반면, 차세대 Vera Rubin 플랫폼은 배포가 가까워지고 있다고 소개했다. 따라서 구매자는 행사에 전시된 하드웨어와 확정된 일정에 따라 주문, 설치, 지원할 수 있는 구성 사이를 구분해야 한다.
ASRock Rack OCP 2026, 시스템 전반의 냉각을 보여주다
가장 눈에 띈 전시는 NVIDIA Vera Rubin NVL72 플랫폼을 구현한 ASRock Rack의 시스템이었다. NVL72는 NVIDIA의 고속 인터커넥트를 통해 72개의 GPU를 연결하는 랙 구성이다. ServeTheHome의 액체 냉각 서버 라인업 보도는 Rubin 가속기와 함께 36개의 Vera 중앙처리장치(CPU)가 탑재됐다고 설명한다.
보도된 랙은 18개의 컴퓨트 트레이와 9개의 NVLink 스위치 트레이로 구성된다. NVLink는 가속기와 관련 프로세서 간 통신을 위한 NVIDIA의 인터커넥트다. 이 구성은 내부 통신을 조립된 랙 중심으로 설계한 캐비닛을 하나의 통합 컴퓨팅 시스템으로 만든다.
부스가 전달한 가장 강력한 신호는 서로 다른 인프라 역할 전반에 걸친 액체 냉각의 폭이었다.
ServeTheHome은 2U 및 5U 형식의 HGX Rubin NVL8 서버와 RTX PRO 시스템, 듀얼 Vera CPU 서버도 확인했다. 여기서 U는 랙의 세로 공간을 나타내는 표준 단위다. HGX는 서버 제조사를 위한 NVIDIA의 통합 가속기 플랫폼이며, NVL8은 8-GPU 구성을 뜻한다.
보도는 액체 냉각 Spectrum-X SN6600-LD 네트워크 스위치도 언급했다. Spectrum-X는 AI 클러스터, 즉 함께 작동하는 컴퓨터 집단을 위한 NVIDIA의 Ethernet 네트워킹 플랫폼이다. 이 장비의 존재는 네트워킹 장비에도 컴퓨트 트레이와는 별개의 자체 열 요구사항이 있음을 보여준다는 점에서 중요하다.
ASRock Rack은 OCP 서버 발표를 통해 여러 핵심 요소를 독자적으로 확인했다. 회사는 해당 발표 날짜를 10월 12일로 명시했으며, San Jose 행사가 10월 12일부터 15일까지 진행됐다고 밝혔다. 듀얼 Vera CPU 시스템, 액체 냉각 HGX Rubin 플랫폼, 액체 냉각 RTX PRO 서버를 강조했다.
이 날짜들은 시간적 맥락을 분명히 한다. 11월의 부스 보도는 10월 전시를 기록한 것이며, 11월의 신규 제품 출시를 의미하지는 않는다. 마찬가지로 랙을 전시했다는 사실은 행사 현장에 존재했다는 점을 보여줄 뿐, 납품 물량이나 고객 수용 여부를 입증하지는 않는다.
이 라인업은 모든 구매자가 가장 큰 시스템을 구입해야 한다는 단순한 해석에도 맞서고 있다. 구성마다 대응하는 워크로드 규모와 설치 제약이 다르다. 완성형 랙, 소형 가속기 서버, CPU 중심 장비는 각각 다른 구매 결정을 의미한다.
이러한 다양성은 행사의 실용적 초점을 부여한다. ASRock Rack은 NVIDIA 기반 인프라를 조립하는 여러 방식을 제시하면서 그 전반에 액체 냉각을 확장했다. 그 결과 핵심 질문은 어느 캐비닛이 가장 많은 가속기를 담는지가 아니라, 어떤 구성이 워크로드와 시설에 적합한지가 된다.
시설과 조달에 동시에 가해지는 압박
인프라 구매자에게 이러한 변화는 서버 결정에 참여해야 하는 주체를 바꾼다. 가속기 선택은 여전히 중요하지만, 전기 및 기계 팀도 동일한 프로젝트를 평가해야 한다. 먼저 컴퓨팅 사양을 확정하는 조달 절차는 이후에 설치 제약을 발견할 위험이 있다.
직접 칩 액체 냉각은 열을 발생시키는 부품에 부착된 콜드 플레이트를 통해 냉각수를 순환시킨다. 이 방식은 열원 가까이에서 열을 액체 회로로 옮긴다. 그러나 그 열을 서버 밖으로, 궁극적으로는 시설 외부로 이동시키는 경로는 여전히 필요하다.
액체 냉각 서버 구매에는 컴퓨팅 설계와 건물의 운영 한계 사이의 합의가 필요하다.
사내 문서 분석을 위한 온프레미스 AI 서비스를 계획하는 기업을 생각해 보자. 소프트웨어 팀은 모델 품질, 응답 시간, 데이터 제어에 집중할 수 있다. 인프라 담당자는 선택한 하드웨어가 가용 전력 및 냉각 설비 내에서 작동할 수 있는지도 판단해야 한다.
벤더 데모에서 모델이 성공적으로 실행됐다는 이유만으로 해당 워크로드가 배포 가능한 것은 아니다. 계획된 설치 환경에는 명확한 구성, 호환되는 연결, 모니터링, 유지보수 계획이 필요하다. 장비가 도착하기 전에 각 요구사항이 프로젝트에 포함돼야 한다.
바로 이 지점에서 ASRock Rack 액체 냉각은 단순한 부품 사양 이상의 의미를 갖는다. 이는 서버 공급업체와 고객 인프라 팀 사이의 경계를 바꾼다. 어느 장비가 열을 전달하고, 어느 장비가 열을 배출하며, 각 연결을 누가 지원하는지에 대해 양측이 공통된 이해를 가져야 한다.
냉각수 분배 장치(CDU)는 장비 냉각과 더 넓은 냉각 설비 사이의 인터페이스를 관리한다. 이 장비의 선택은 가속기 명칭만이 아니라 전체 설계에 따라 달라진다. 구매자는 제안된 구성에 해당 장비와 이를 운영하는 데 필요한 제어 체계가 포함되는지 알아야 한다.
시설 팀에는 포괄적인 효율성 설명보다 운영 정보가 필요하다. 냉각수 조건, 연결 요구사항, 허용 압력, 정비 절차가 호환성을 결정한다. 서버가 액체 냉각 방식이라고 설명하는 것만으로는 이러한 답을 제공하지 못한다.
조달 부문은 이 엔지니어링 작업을 명확한 책임으로 전환해야 한다. 계약에는 지원되는 구성과 랙 지원 및 건물 지원의 경계가 명시돼야 한다. 그렇지 않으면 그 경계를 넘는 문제는 진단과 해결이 까다로워질 수 있다.
이러한 압박은 설치 단계뿐 아니라 플랫폼 평가 단계에서도 발생한다. 구성을 비교하는 구매자는 시설 준비와 운영 인력 배치도 동일한 평가에 포함해야 한다. 배포 요구사항이 계획된 환경과 더 밀접하게 맞는다면 소형 서버가 더 적합한 선택일 수 있다.
따라서 이 부스는 구매 조정 방식의 변화를 보여준다. 컴퓨팅 팀은 여전히 필요한 성능을 선택하지만, 시설 팀은 어떤 성능이 실제로 활용 가능한 용량이 될 수 있는지를 판단하는 데 기여한다. 성공적인 계획은 이러한 결정을 초기부터 함께 진행한다.
액체 냉각, 가속기를 넘어 확장되다
가속기를 냉각하면 주요 열원 하나는 해결되지만, AI 설치 환경에는 다른 장비도 존재한다. 내부 스위치는 하나의 시스템 안에서 프로세서를 연결하고, 외부 네트워크는 서버와 랙을 연결한다. 이러한 통신 계층은 워크로드 동작과 물리적 설치 모두에 영향을 준다.
NVIDIA의 Spectrum-6 스위치 문서는 SN6600-LD를 2RU 섀시에 담긴 완전 액체 냉각 스위치로 설명한다. 이 제품은 최대 초당 800기가비트 속도의 128개 포트를 지원한다. 이는 액체 냉각을 컴퓨팅 설계뿐 아니라 네트워크 설계의 일부로 만든다.
액체 냉각 네트워크 스위치는 AI 설치 환경의 또 다른 필수 요소까지 냉각 조정을 확장한다.
여기서 내부 통신과 외부 통신의 구분은 중요하다. NVLink는 관련 컴퓨팅 도메인, 즉 해당 인터커넥트를 공유하는 그룹 안에서 가속기를 연결한다. Ethernet 링크는 더 큰 설치 환경 전반에서 시스템을 연결할 수 있다. 구매자는 이들의 사양을 서로 바꿔 쓸 수 있는 지표로 취급하지 않아야 한다.
랙은 광범위한 내부 통신을 제공하면서도 분산 워크로드를 위해 외부 네트워킹에 의존할 수 있다. 분산 학습은 여러 컴퓨팅 장치에 걸쳐 모델 학습을 나눈다. 그 동작은 실제 구성 전반에서 연산과 통신이 어떻게 상호작용하는지에 따라 달라진다.
이는 자동적인 성능 결론이 아니라 배포 시 고려사항을 만든다. 더 빠른 네트워크 사양이 애플리케이션 처리량을 보장하지는 않는다. 워크로드, 소프트웨어 구성, 통신 패턴이 그 성능 중 어느 정도가 유용해지는지를 결정한다.
동일한 주의는 냉각에도 적용된다. 열을 액체로 이동시키는 것은 시설 내 열의 이동 경로를 바꾸는 일이다. 장비 운영 과정에서 발생하는 열 자체를 없애지는 않는다. 주변 설계는 여전히 그 열 부하를 처리할 적절한 목적지를 제공해야 한다.
액체 냉각 스위치는 운영상 질문도 추가한다. 팀은 냉각 연결을 모니터링하고 인접 장비와 함께 정비하기 위한 절차를 마련해야 한다. 스위치가 프로덕션 의존성의 일부가 되기 전에 네트워크 유지보수 계획은 이러한 요구사항을 반영해야 한다.
더 넓은 방향성은 시설 계획에서도 나타난다. Schneider Electric의 Vera Rubin 참조 설계는 공유 네트워킹 랙을 갖춘 Rubin 클러스터용 전용 데이터홀을 설명한다. 여기에는 바닥 설치형 액체-액체 냉각 분배 장비와 유체 냉각기가 포함된다.
이 문서는 모든 고객이 같은 건물을 필요로 한다는 증거가 아니라, 엔지니어링된 참조 구성이다. 그 관련성은 문서가 보여주는 계획의 경계에 있다. 컴퓨팅 플랫폼은 조정된 전기, 기계, 네트워킹 설계 안에 자리한다.
구매자에게 시사점은 명확하다. 서버 인클로저에만 한정된 평가는 애플리케이션이 의존하는 시스템을 빠뜨린다. 냉각 및 네트워크 계획은 장비가 정비 중일 때 어떻게 동작하는지를 포함해 전체 설치 환경을 설명해야 한다.
따라서 ASRock Rack 액체 냉각은 더 넓은 아키텍처 논의에 속한다. 스위치 전시는 이러한 관계를 가시화하는 데 도움이 된다. 이는 고밀도 AI 컴퓨팅에 관한 논의가 서버 구매자뿐 아니라 네트워크 엔지니어, 시설 전문가, 운영 담당자를 점점 더 포함하는 이유를 보여준다.
공유 NVIDIA 하드웨어, 경쟁을 통합 역량 중심으로 이동시키다
ASRock Rack은 여러 공급업체가 NVIDIA 플랫폼을 기반으로 시스템을 구축하는 시장에서 경쟁한다. 공통 프로세서와 인터커넥트는 구매자에게 유용한 비교 기준을 제공한다. 동시에 가속기 종류만으로는 공급업체 간의 모든 의미 있는 차이를 설명할 수 없다는 뜻이기도 하다.
Lenovo의 GB300 냉각 설계는 관련 참고 사례를 제공한다. 해당 문서는 프로세서, NVLink 스위치, 전력 하위 시스템 전반에 적용된 액체 냉각과 함께, 남은 열을 처리하는 보조 공기 흐름을 설명한다. 문서는 서비스 연결과 누수 감지도 다룬다.
관련 NVIDIA 플랫폼을 사용하는 공급업체들은 구현 방식, 유지보수성, 배포 지원을 통해 여전히 경쟁한다.
이 비교가 Lenovo의 구성과 ASRock Rack의 Rubin 전시품이 동등하다는 점을 입증하는 것은 아니다. 두 제품은 서로 다른 플랫폼 세대와 공급업체 설계를 기반으로 한다. 다만 통합 냉각 및 유지보수 기능이 이미 경쟁 평가의 일부라는 점은 보여준다.
따라서 구매자는 제안된 전체 시스템을 비교해야 한다. 가속기 사양과 함께 접근 가능한 구성 요소, 지원되는 교체 절차, 모니터링에 관한 질문도 주의를 기울일 가치가 있다. 그 답변이 초기 인수 과정 이후 설치 환경이 어떻게 작동할지를 결정한다.
애플리케이션이 긴밀하게 연결된 하드웨어에 의존할 때 유지보수성은 특히 중요해진다. 구매자는 구성 요소 교체 중에도 무엇을 계속 사용할 수 있는지 이해해야 한다. 또한 제안된 서비스 절차가 자체 인력 및 유지보수 체계와 부합하는지도 알아야 한다.
더 큰 랙이 이 비교에서 자동으로 우위를 차지하는 것은 아니다. 독립적인 워크로드를 운영하는 조직은 일정 조정의 유연성과 더 작은 유지보수 범위를 중시할 수 있다. 다른 조직은 워크로드가 그러한 구성의 이점을 얻기 때문에 대규모로 연결된 가속기 도메인을 우선시할 수 있다.
이는 보편적인 순위가 아니라 애플리케이션 선택의 문제다. 올바른 비교는 시스템이 수행해야 하는 작업에서 시작한다. 그다음 제안된 구성이 고객의 운영 요구사항 안에서 그 작업을 제공하는지 검토한다.
더 작은 구성은 조달을 위한 다른 경로도 제공할 수 있다. 구매자는 공유형 기관 컴퓨팅 설치가 아니라 부서용 서비스에 대한 명확한 요구사항을 가질 수 있다. 여러 서버 형식을 선택할 수 있다는 점은 이 구분을 살펴볼 가치가 있게 한다.
ASRock Rack의 제품군은 이러한 서로 다른 논의에 참여할 수 있는 선택지를 제공한다. 그러나 폭넓은 전시만으로 표시된 모든 구성에서 동일한 준비 수준이 입증되는 것은 아니다. 구매자는 주문, 소프트웨어 지원, 납품, 유지보수에 관한 구성별 정보를 여전히 필요로 한다.
이러한 세부 사항을 구체화해야 할 경쟁 압력은 공급업체에 있다. 기반 가속기 플랫폼이 공유된다면 구매자는 그 주변에서 공급업체가 무엇을 제공하는지 물을 수 있다. 통합 작업, 검증, 문서화, 책임 있는 지원이 답변의 중요한 부분이 된다.
NVIDIA Rubin 배포에서는 공급업체의 실행 역량이 핵심 비교 요소가 된다. 질문은 최신 실리콘에 접근할 수 있는지를 넘어선다. 구매자는 선택한 공급업체가 제안된 설계를 현장에서 인수되고 지원 가능한 설치 환경으로 전환할 수 있다는 증거를 필요로 한다.
부스 전시는 성능과 가용성에 관한 의문을 남긴다
검증된 내용은 다양한 하드웨어 전시와 회사의 방향성을 설명하는 발표를 확인해 준다. 전시된 모든 장비에 대한 독립적인 애플리케이션 벤치마크를 입증하지는 않는다. 또한 각 구성의 확정된 납품일도 입증하지 않는다.
ASRock Rack의 10월 발표는 현재 제공 중인 GB300 시스템과 배포 가용성을 기다리는 Vera Rubin 플랫폼을 명확히 구분했다. 이 표현은 해석의 기준이 되어야 한다. 구매자는 행사장에 캐비닛이 전시되었다는 사실만으로 가용성을 추정하기보다 최신의 구성별 확약을 요청해야 한다.
전시된 하드웨어, 공개된 사양, 고객이 인수한 설치 환경은 서로 다른 질문에 답한다.
NVIDIA의 Vera Rubin 플랫폼 발표는 아키텍처의 효율성과 성능을 주장한다. 이는 관련 조건에서 독립적으로 검증되지 않는 한 회사의 주장에 머문다. 또한 ASRock Rack의 전시 구성이 제공하는 성능을 직접 입증하지 않는다.
유용한 애플리케이션 비교에는 정의된 워크로드와 일관된 측정 범위가 필요하다. 학습된 모델에서 결과를 생성하는 과정인 추론은 모델 설정과 서비스 요구사항에 따라 달라진다. 이러한 조건이 다르면 처리량 수치를 해석하기 어려워진다.
대화형 서비스에서는 응답 시간과 출력 품질이 처리량과 함께 고려되어야 한다. 완화된 조건에서 더 많은 요청을 처리하는 구성은 다른 애플리케이션의 요구사항을 충족하지 못할 수 있다. 구매자는 제안된 테스트가 의도한 서비스를 어떻게 반영하는지 물어야 한다.
학습 평가에도 비슷한 엄격함이 필요하다. 모델, 소프트웨어 구성, 완료 기준이 명확해야 한다. 이러한 세부 사항 없이 하드웨어를 비교하면 워크로드 차이를 서버 플랫폼의 차이로 잘못 돌릴 위험이 있다.
에너지 비교에는 또 다른 범위 결정이 필요하다. 가속기 소비 전력만 측정하면 전체 설치 환경을 측정하는 것보다 더 좁은 질문에 답하게 된다. 평가 대상 주장에 따라 펌프, 네트워크 장비, 열 배출 시스템도 더 폭넓은 평가에 포함될 수 있다.
물에 관한 주장도 신중하게 해석해야 한다. 장비 내부를 순환하는 냉각수만으로는 시설이 열을 어떻게 배출하는지 알 수 없다. 구매자는 서버 냉각 설명에서 시설의 물 사용량을 추정하기보다 현장별 설명을 요청해야 한다.
이러한 공백이 전시의 가치를 무효화하는 것은 아니다. 전시회 하드웨어는 공급업체의 우선순위와 구현 방향에 관한 유용한 증거를 제공한다. 다만 고객 인수 테스트나 장기 운영 기록과는 다른 목적을 가진다.
따라서 적절한 회의론은 구체적이어야 한다. 어떤 구성을 테스트했는지, 어떤 워크로드를 실행했는지, 측정값을 어떻게 수집했는지, 어떤 인프라 구성 요소를 포함했는지 물어야 한다. 계약상 확약에 따라 무엇을 납품하고 지원할 수 있는지도 별도로 물어야 한다.
개발자와 엔터프라이즈 AI 팀에게 이러한 구분은 계획 수립에 영향을 준다. 모델 역량이 필요한 일정에 컴퓨팅 용량을 이용할 수 있음을 보장하지는 않는다. NVIDIA Rubin 배포가 신뢰할 수 있는 애플리케이션 의존성이 되려면 기술 검증과 납품 증거가 필요하다.
다음으로 납품, 워크로드 결과, 현장 인수를 지켜봐야 한다
다음으로 유용한 증거는 전시를 고객 운영과 연결해야 한다. ASRock Rack OCP 2026은 제품 방향과 전시 범위를 확립했다. 다음 단계에서는 구매자가 어떤 구성을 받을 수 있는지, 그리고 그 구성이 어떻게 작동하는지를 보여줘야 한다.
납품 약정, 관련 워크로드 측정값, 완료된 현장 인수는 제품군의 의미를 더 명확히 할 것이다.
첫째, ASRock Rack의 구성별 가용성 업데이트를 지켜봐야 한다. 유용한 업데이트라면 시스템, 지원 구성 요소, 주문 상태, 납품 약정을 식별할 것이다. 이러한 세부 사항은 전시된 제품군이 고객에게 제공되기 시작하고 있다는 근거를 강화할 것이다.
구성 세부 사항 없는 가용성 표현이 계속된다면 이 문제는 해결되지 않은 채 남는다. 이것이 반드시 기술적 문제를 의미하는 것은 아니다. 다만 구매자에게 조달과 설치 일정을 수립하는 데 필요한 정보가 아직 부족하다는 뜻이다.
이 구분은 특히 GB300과 Rubin 옵션을 비교할 때 중요하다. 현재 이용 가능한 구성과 향후 제공될 구성은 프로젝트 계획에서 서로 다른 위치를 차지한다. 구매자는 실제 배포 기간 안에서 각각이 지원할 수 있는 작업을 비교해야 한다.
둘째, 명확한 테스트 조건을 갖춘 애플리케이션 결과를 지켜봐야 한다. 유용한 증거라면 시스템 구성, 모델, 소프트웨어, 워크로드, 측정 방법을 식별할 것이다. 또한 에너지 측정이 서버만을 다루는지, 더 넓은 설치 환경을 포함하는지도 설명할 것이다.
고객 워크로드와 일치하는 결과는 단독 최고 사양보다 배포 근거를 더 강하게 뒷받침할 것이다. 반대로 운영 조건을 생략한 결과는 성능 비교를 어렵게 만든다. 테스트는 단지 아키텍처 수준의 역량을 반복하기보다 독자가 애플리케이션을 이해하도록 도와야 한다.
독립 테스트는 또 다른 관점을 제공할 수 있지만, 벤치마크를 누가 수행하든 투명성은 여전히 필요하다. 구매자는 관련성을 판단할 수 있을 만큼 충분한 세부 사항을 필요로 한다. 재현 가능한 방법론은 헤드라인 수치보다 그 판단에 더 도움이 된다.
셋째, 완료된 설치 환경에서 문서화된 고객 인수를 지켜봐야 한다. 현장 인수는 설치된 장비가 합의된 운영 요구사항을 충족하는지 검증하는 과정이다. 관련 증거는 컴퓨팅 동작, 냉각 통합, 모니터링, 서비스 절차를 다뤄야 한다.
이러한 증거는 서버 설계를 이 기사 전반에서 논의한 주변 인프라와 연결할 것이다. 작동 중인 설치 환경은 인터페이스들이 지정된 조건에서 함께 기능할 수 있음을 보여준다. 그렇더라도 다른 모든 현장에서 동일한 결과를 입증하는 것은 아니다.
인프라 팀의 즉각적인 조치는 구성을 선택하기 전에 이러한 인수 조건을 정의하는 것이다. 워크로드, 서비스 기대치, 시설 한계, 지원 책임을 식별해야 한다. 그런 다음 공급업체에 동일한 요구사항을 기준으로 답변하도록 요청해야 한다.
배포 문서를 그에 의존하는 애플리케이션 결정과 연결해 두어야 한다. 엔지니어링 팀은 검색 가능한 지식 베이스를 사용해 사양, 테스트 결과, 인수 기록을 보존할 수 있다. 이 기록은 제품 주장을 대상 현장에서 검증된 조건과 구분하는 데 도움이 된다. ASRock Rack OCP 2026 제품군을 검토할 때는 팀이 제공해야 하는 애플리케이션에서 시작해야 한다. 어떤 구성이 이를 지원하는지, 시설이 무엇을 제공해야 하는지, 어떤 증거가 준비 상태를 입증할지를 물어야 한다. 그 답변을 조달 및 인수 계획으로 이어가야 한다. 유용한 다음 단계는 참여하는 모든 팀이 동일하게 문서화된 요구사항에 따라 평가할 수 있는 배포 브리프를 만드는 것이다.
