top of page

d-Matrix, NVIDIA NVLink Fusion Platform 합류…Raptor는 아직 검증이 필요하다

9월 13일
11분 분량

d-Matrix는 첫 통합 랙 출시가 1년 이상 남은 상황에서 Raptor를 위한 다년 계획과 함께 NVIDIA NVLink Fusion Platform에 합류했다. 이 추론 칩 기업은 Raptor가 2026년 말 이전 테이프아웃될 것으로 예상한다. 초기 NVIDIA MGX 랙 공급 목표 시점은 2027년 4분기다.

이 파트너십은 d-Matrix에 NVIDIA의 랙 아키텍처, 네트워킹, 냉각 및 공급망으로 진입할 직접적인 경로를 제공한다. 동시에 NVIDIA와 경쟁하는 일이 얼마나 어려운지도 드러낸다. 차별화된 가속기만으로는 더 이상 충분하지 않다. 고객들은 점차 검증된 네트워킹과 소프트웨어를 갖춘 완전한 배포 가능 시스템을 기대한다.

NVIDIA는 이러한 요구에서 이익을 얻는다. NVLink Fusion은 맞춤형 프로세서가 주변 NVIDIA 구성 요소를 대체하지 않으면서도 NVIDIA 인프라에 진입하도록 한다. d-Matrix에는 Raptor 확장에 따른 엔지니어링 부담을 줄여준다. NVIDIA에는 범용 GPU의 대안을 위해 설계된 프로세서를 포함한 랙으로 플랫폼의 영향력을 확장하는 효과가 있다.

따라서 이번 발표의 핵심은 하나의 인터커넥트 라이선스라기보다 AI 랙의 주도권에 있다. Raptor는 특화된 메모리 중심 추론을 약속한다. NVIDIA는 이 프로세서를 인프라로 전환하는 시스템의 상당 부분을 제공한다. 남은 질문은 d-Matrix가 이 환경 안에서 의미 있는 기술적·경제적 우위를 유지할 수 있는지다.

d-Matrix, 2027년 목표로 NVIDIA NVLink Fusion Platform 합류

이번 계약은 Raptor를 독립 칩 로드맵에서 NVIDIA의 랙 규모 배포 모델로 옮기지만, Raptor를 이미 출하되는 제품으로 만들지는 않는다.

d-Matrix는 2026년 9월 10일 협업을 발표했다. 회사의 다년 로드맵은 차세대 추론 XPU인 Raptor에서 시작한다. XPU는 범용 프로세서보다 특정 컴퓨팅 작업을 더 효율적으로 처리하도록 설계된 워크로드 특화 가속기다.

Raptor는 외부 CPU와 맞춤형 가속기를 NVIDIA의 스케일업 패브릭에 통합하는 기술인 NVLink Fusion을 통해 연결된다. 스케일업 네트워킹은 긴밀하게 연결된 컴퓨팅 도메인 내부의 프로세서를 연결한다. 시스템 간 스케일아웃 네트워킹에는 Spectrum-X Ethernet도 사용된다.

계획된 랙에는 d-Matrix 실리콘보다 훨씬 많은 구성 요소가 포함된다. 발표된 구성에는 NVIDIA Vera CPU, NVLink 스위치, BlueField-4 데이터 처리 장치, ConnectX-9 SuperNIC, Spectrum-X 네트워킹이 포함된다. 모듈형 케이블리스 컴퓨팅 트레이를 포함한 NVIDIA MGX 레퍼런스 아키텍처를 따른다.

Astera Labs는 시스템 전반의 고처리량 데이터 이동을 지원하기 위한 연결성 작업을 제공한다. 워크로드가 프로세서, 트레이, 랙에 걸쳐 확장되면 통신 병목 때문에 가속기 성능이 사라질 수 있으므로 이는 중요하다.

NVIDIA는 이번 구성을 맞춤형 실리콘에서 대규모 배포로 이어지는 경로로 설명한다. NVIDIA의 랙 규모 계획은 Raptor를 고립된 어플라이언스로 취급하지 않고 NVIDIA 인프라와 나란히 배치한다. 운영자는 GPU, CPU, 특화 XPU를 지원할 수 있는 공통 랙 설계를 확보하게 된다.

첫 번째 제안 워크로드는 모델 실행의 서로 다른 단계를 서로 다른 프로세서에 나누는 분리형 추론이다. AI 코딩에서는 NVIDIA GPU가 컴퓨팅 집약적인 prefill 단계를 처리할 수 있다. 이후 Raptor는 토큰을 순차적으로 생성하는 지연 시간 민감형 decode 단계를 처리할 수 있다.

이 분리는 실제 아키텍처적 차이를 반영한다. Prefill은 사용자의 입력을 처리하고 모델의 작업 상태를 구축한다. Decode는 모델 가중치를 반복적으로 읽어 응답을 생성한다. 특히 사용자가 빠르고 상호작용적인 출력을 기대할 때 decode 성능은 메모리 이동에 제약을 받을 수 있다.

d-Matrix는 메모리 중심 설계로 이러한 제약을 겨냥한다. Raptor는 DRAM 메모리 칩과 SRAM 컴퓨팅 칩을 수직 적층 패키지에 결합하도록 계획됐다. SRAM은 컴퓨팅 로직 가까이에서 빠른 접근을 제공하며, DRAM은 더 큰 용량을 제공한다. 회사는 2층 구성으로 데이터 경로를 단축하고 사용 가능한 대역폭을 늘린다고 설명한다.

다만 발표된 랙은 여전히 로드맵이다. d-Matrix는 Raptor가 2026년 말 이전 테이프아웃될 것으로 예상한다. 테이프아웃은 상용 공급이 아니라 제조 전 칩 설계의 완료를 뜻한다. 이후 제조, 패키징, 검증, 소프트웨어 인증 및 랙 통합이 뒤따른다.

회사는 초기 Raptor MGX 시스템을 2027년 4분기에 제공할 것으로 예상한다. 이 일정은 핵심적인 긴장을 규정한다. d-Matrix는 NVIDIA 기반 데이터센터로 향하는 신뢰할 만한 경로를 확보했지만, 고객은 아직 완성된 랙을 측정할 수 없다.

따라서 구매자에게 이번 발표는 당장의 용량보다 아키텍처에 대한 신뢰를 바꾼다. Raptor에는 이제 명시된 인터커넥트, CPU, 네트워킹 스택, 랙 형식 및 배포 목표가 있다. 실제 제품은 설계 약속과 검증된 인프라 사이의 간극을 여전히 넘어야 한다.

NVIDIA는 가속기 선택을 플랫폼 수요로 전환하고 있다

d-Matrix는 성숙한 배포 시스템에 접근하는 반면, NVIDIA는 고객이 비NVIDIA 가속기를 선택할 때에도 자사 인프라를 피하기 어렵게 만든다.

NVIDIA는 2025년 5월 반맞춤형 AI 인프라 구축 방식으로 NVLink Fusion을 도입했다. 초기 NVLink Fusion 출시 발표에는 MediaTek, Marvell, Alchip Technologies, Astera Labs, Synopsys, Cadence, Fujitsu, Qualcomm이 참여 기업으로 이름을 올렸다.

이 프로그램은 가속기 결정과 나머지 랙을 분리한다. 클라우드 제공업체는 NVIDIA의 프로세서, 인터커넥트, 스위치, 네트워크 어댑터, 데이터 처리 장치 및 레퍼런스 설계를 유지하면서 맞춤형 XPU를 선택할 수 있다. 따라서 NVIDIA는 자사 GPU가 유일한 컴퓨팅 엔진이 아닐 때에도 참여할 수 있다.

이는 하이퍼스케일러와 AI 연구소가 단일 가속기 공급업체에 대한 의존도를 낮추기 위해 특화 실리콘을 개발하고 있기 때문에 전략적으로 중요하다. 맞춤형 칩은 운영자가 특정 워크로드, 전력 한계 및 서비스 요구 사항에 맞춰 하드웨어를 조정할 수 있게도 한다.

NVLink Fusion은 특화 기술을 NVIDIA 플랫폼과 호환되게 함으로써 이러한 흐름에 대응한다. 모든 프로세서가 NVIDIA GPU일 것을 요구하지 않는다. 대신 해당 프로세서들이 NVIDIA가 설계한 시스템 내부에서 작동하도록 유도한다.

소규모 칩 기업에는 이 교환이 매력적이다. 경쟁력 있는 가속기를 구축하려면 이미 실리콘 설계, 컴파일러, 커널, 런타임 소프트웨어, 모델 지원, 패키징 및 제조가 필요하다. 랙 규모 배포에는 전력 공급, 액체 냉각, 케이블, 스위치, 유지보수성, 인증 및 현장 지원이 추가된다.

각 추가 계층은 구매자가 도입을 미루는 또 다른 이유를 만든다. 가속기는 연구실에서 좋은 성능을 낼 수 있지만 익숙하지 않은 서버나 별도 네트워크를 요구할 수 있다. 그러면 데이터센터 운영자는 기존 NVIDIA 인프라를 유지하면서 새로운 스택을 인증해야 한다.

MGX는 재사용 가능한 랙 및 서버 사양을 통해 이러한 마찰을 줄인다. d-Matrix는 Raptor와 Aviator 소프트웨어 스택에 더 많은 엔지니어링 노력을 집중할 수 있다. 또한 NVIDIA 배포 환경의 다른 곳에서도 이미 나타나는 구성 요소와 운영 패턴을 구매자에게 제시할 수 있다.

그 대가는 더 큰 아키텍처 의존성이다. d-Matrix는 단순히 랙 가장자리의 개방형 네트워크에 연결하는 것이 아니다. 제안된 시스템은 스케일업, 스케일아웃, CPU, 네트워크 인터페이스 및 데이터 관리 계층 전반에 NVIDIA 기술을 통합한다.

독립적인 평가는 여기에서 유용할 수 있지만, 핵심적인 트레이드오프는 발표된 자재 명세에서 확인할 수 있다. d-Matrix는 NVIDIA 랙을 운영 환경으로 받아들이는 대가로 배포 신뢰성을 얻는다.

그렇다고 XPU의 중요성이 사라지는 것은 아니다. 가속기는 여전히 목표 모델 연산을 얼마나 효율적으로 실행하는지 결정한다. 하지만 NVIDIA는 고립된 칩 성능이 지속적인 애플리케이션 성능으로 전환되는지를 결정하는 많은 인터페이스를 통제한다.

이 때문에 d-Matrix는 NVIDIA를 직접 압박하기보다 경쟁 인프라 경로에 더 큰 압박을 가한다. 스타트업은 Ethernet, PCI Express 또는 자체 패브릭을 중심으로 시스템을 구축할 수 있다. 그러면 고객에게 대안이 추가 통합 작업을 정당화할 만큼 충분한 독립성 또는 효율성을 제공한다는 점을 설득해야 한다.

대신 Raptor는 상당수 AI 인프라가 이미 존재하는 곳에서 구매자를 만난다. 이 결정은 조달 및 인증 주기를 단축할 수 있다. 동시에 맞춤형 프로세서를 위한 공통 스케일업 옵션으로서 NVLink를 강화한다.

NVIDIA는 사실상 공략 가능한 플랫폼 범위를 넓히고 있다. 범용 GPU가 모든 워크로드를 유지하면 NVIDIA가 승리한다. 특화 가속기가 일부 워크로드를 차지하더라도 NVLink, MGX, Spectrum-X, BlueField에 의존하면 NVIDIA는 여전히 시스템의 핵심 부분을 차지한다.

그 결과 경쟁 구도는 더 미묘해진다. 가속기 선택지는 확대되지만 인프라의 수렴은 강화될 수 있다. NVIDIA의 영향력은 모든 컴퓨팅 장치를 소유하는 데서 이기종 장치가 하나의 AI 팩토리가 되는 방식을 정의하는 쪽으로 이동한다.

Raptor의 메커니즘은 Decode 병목을 겨냥한다

Raptor는 메모리 아키텍처가 데이터 이동 감소를 더 나은 애플리케이션 지연 시간, 에너지 사용량 및 랙 경제성으로 전환할 때에만 의미를 갖는다.

d-Matrix는 모델 학습보다 추론을 중심으로 시장 지위를 구축했다. 학습은 대규모 병렬 연산을 통해 모델 파라미터를 생성하거나 업데이트한다. 추론은 배포된 모델이 사용자에게 응답할 때 이러한 파라미터를 적용한다.

이 단계들이 항상 동일한 하드웨어에 보상하는 것은 아니다. GPU는 높은 유연성을 유지하며, 성숙한 소프트웨어, 폭넓은 모델 지원, 대규모 배포의 이점을 누린다. 특화 추론 프로세서는 프로덕션 서빙을 지배하는 반복 작업에 실리콘과 메모리 자원을 집중할 수 있다.

Raptor는 d-Matrix의 현행 Corsair 제품에 적용된 아키텍처를 확장한다. Corsair는 저장된 모델 데이터 가까이에 연산을 배치하는 디지털 인메모리 컴퓨팅을 사용한다. 목표는 메모리와 컴퓨팅 유닛 사이에서 가중치를 반복적으로 전송하며 발생하는 에너지 소비와 지연을 줄이는 것이다.

대형 모델은 상당한 파라미터 집합에 지속적으로 접근해야 하므로 토큰 생성 중 데이터 이동은 중요하다. 연산 능력이 풍부한 프로세서도 메모리를 기다릴 수 있다. d-Matrix의 주장은 연산을 모델 가중치 가까이 가져가면 더 빠른 소규모 배치 추론이 가능하다는 것이다.

소규모 배치는 상호작용형 애플리케이션에 중요하다. 제공업체는 많은 요청을 더 큰 배치로 결합해 하드웨어 활용도를 높일 수 있다. 그러나 그 배치를 구성하기 위해 기다리면 지연 시간이 늘어날 수 있고, 개별 요청을 처리하면 기존 하드웨어가 충분히 활용되지 않을 수 있다.

코딩 어시스턴트, 실시간 챗봇, 음성 에이전트는 이러한 트레이드오프를 직접 드러낸다. 사용자는 첫 유용한 출력 전의 지연과 이후 토큰의 생성 속도를 체감한다. 플랫폼 운영자는 동시 세션 전반에서 이러한 응답성을 유지하는 데 필요한 하드웨어와 에너지의 양을 확인한다.

d-Matrix는 이 시장을 프리미엄 토큰 서비스라고 부른다. 이 표현은 고객이 특화 인프라를 정당화할 만큼 낮은 지연 시간을 중시하는 추론을 설명한다. 이는 회사의 관점일 뿐, 독립적으로 보고되는 시장 규모를 가진 확립된 경제 범주는 아니다.

제안된 Raptor 설계는 이 접근 방식에서 활용할 수 있는 메모리 용량을 확장하려는 시도다. d-Matrix는 SRAM 컴퓨팅 칩 위에 DRAM을 적층해 용량과 처리 사이의 물리적 경로를 짧게 만들겠다고 밝혔다. 이는 로직을 별도의 고대역폭 메모리 스택에 연결하는 기존 가속기 설계와 다르다.

회사는 3D 메모리 접근 방식을 공개적으로 소개했지만, 기술 개념이 곧 랙 수준의 벤치마크는 아니다. 열 특성, 제조 수율, 메모리 용량, 컴파일러 지원, 인터커넥트 효율이 모두 최종 시스템에 영향을 미친다.

NVLink Fusion은 이 메커니즘의 또 다른 부분을 담당한다. 하나의 Raptor 장치만으로는 모든 대규모 또는 분산 워크로드를 처리할 수 없다. 여러 XPU를 고대역폭·저지연 도메인 안에서 연결함으로써 d-Matrix는 더 큰 모델과 더 많은 동시 요청을 지원할 수 있다.

Spectrum-X는 이후 Ethernet을 통해 랙 또는 시스템 도메인을 연결한다. 스케일업과 스케일아웃을 구분하는 이 방식은 d-Matrix가 하나의 특수 장치에서 데이터센터 배포까지 확장할 경로를 제공한다. NVIDIA는 이미 이러한 네트워킹 계층을 AI 인프라의 일부로 패키징하고 있다.

이기종 분리는 가장 명확한 제안 활용 사례를 제공한다. 병렬 연산의 가치가 큰 프리필 단계는 GPU가 처리한다. 메모리 접근과 사용자별 지연 시간이 더 중요한 디코드 단계는 Raptor가 처리한다. 이점을 유지하려면 두 프로세서 유형이 모델 상태를 충분히 효율적으로 교환해야 한다.

마지막 조건은 주목할 필요가 있다. 워크로드를 분할하면 통신 및 오케스트레이션 오버헤드가 발생한다. GPU와 XPU 간 상태 이전에 너무 많은 시간이 소요되면, 결합 시스템은 각 프로세서를 개별적으로 측정했을 때의 이점을 잃을 수 있다.

이 분할을 관리 가능한 수준으로 유지할 수 있는지는 소프트웨어가 결정한다. 운영자는 변화하는 요청 패턴 전반에서 스케줄링, 모델 지원, 모니터링, 장애 처리, 예측 가능한 성능을 필요로 한다. 또한 하드웨어 조합마다 별도 파이프라인을 유지하지 않고도 모델을 배포할 수 있는 개발자가 필요하다.

d-Matrix의 Aviator 소프트웨어는 이러한 요구 사항을 연결해야 한다. NVIDIA의 시스템 구성 요소는 네트워킹과 랙 운영에 도움을 줄 수 있지만, 모델이 Raptor에서 자동으로 좋은 성능을 내게 하지는 않는다. 커널 품질, 양자화 지원, 프레임워크 호환성, 프로덕션 관측성은 여전히 d-Matrix의 책임이다.

Corsair는 회사가 시뮬레이션 단계를 넘어섰다는 일부 근거를 제공한다. d-Matrix는 2026년 6월 Corsair가 양산에 들어갔으며, 일부 고객을 대상으로 물량 출하를 계획하고 있다고 밝혔다. Corsair 생산 현황 업데이트에서는 공랭식 카드와 랙 시스템도 설명했다.

회사는 GPU와 Corsair 구성에서 기준 응답 시간이 24초에서 2초 미만으로 줄었다는 Gimlet Labs의 테스트를 인용했다. 이 결과는 특정 추측 디코딩 구성에 관한 것이다. 이를 모든 모델, 요청 패턴 또는 경쟁 GPU 시스템으로 일반화해서는 안 된다.

그럼에도 Corsair는 Raptor에 작동하는 실리콘과 소프트웨어 기반을 갖춘 전신 제품을 제공한다. d-Matrix가 첫 번째 가속기를 제안하는 것은 아니다. 더 어려운 단계는 그 경험을 새로운 3D 패키지와 NVIDIA 통합 랙으로 전환하는 일이다.

이것이 d-Matrix가 NVLink Fusion을 선택한 배경이다. Raptor는 특화된 디코드 용량을 제공한다. NVLink와 MGX는 연결성과 물리적 시스템을 제공한다. GPU는 더 적합한 단계에서 계속 활용할 수 있다.

이 조합이 작동한다면 구매자는 별도의 데이터센터 아키텍처를 구축하지 않고도 서로 다른 모델 단계를 서로 다른 프로세서에 할당할 수 있다. 실패한다면 추가된 XPU는 구매, 프로그래밍, 모니터링, 지원해야 할 또 하나의 구성 요소가 된다.

2027년 출시 일정은 핵심 주장을 아직 입증하지 못한다

이 파트너십은 통합 위험을 줄이지만, Raptor의 성능, 제조 준비도, 고객 경제성을 검증하지는 않는다.

Raptor의 첫 번째 발표된 이정표는 2026년 말 이전 테이프아웃이다. 성공적인 테이프아웃은 제조를 위한 설계 동결을 의미한다. 하지만 생산 수율, 클록 속도, 전력 소비, 냉각 요구 사항 또는 지속적인 애플리케이션 성능을 입증하지는 않는다.

다음 과제는 적층 메모리 패키지다. 서로 다른 메모리 기술과 로직 다이를 결합하려면 제조 및 열 조건을 정밀하게 제어해야 한다. 전기적 경로를 단축하는 설계는 열을 집중시키고 패키징 복잡성을 높일 수도 있다.

d-Matrix는 Raptor가 AI 하이퍼스케일러와 프런티어 연구소에서 평가받고 있다고 밝혔다. 그러나 발표에서 해당 평가 기관의 이름을 공개하지는 않았다. 평가 역시 구매 주문, 프로덕션 배포 또는 반복적 워크로드 약정과는 다르다.

회사가 언급한 특허 수에도 같은 주의가 적용된다. d-Matrix는 Raptor가 100건이 넘는 특허로 뒷받침된다고 말한다. 특허는 구현 선택지를 보호할 수 있지만, 시스템의 제조 가능성이나 경제적 우위를 입증하지는 않는다.

독립 테스트는 개별 구성 요소가 아니라 완전한 시스템을 비교해야 한다. 유용한 측정 항목에는 첫 토큰까지 걸리는 시간, 토큰 간 지연 시간, 지속 처리량, 테일 레이턴시, 토큰당 에너지, 랙 전력, 메모리 용량, 활용률이 포함된다.

이러한 비교에서는 모델 품질이 동일하게 유지되어야 한다. 양자화, 추측 디코딩, 배치 처리, 모델 수정은 출력을 바꾸거나 작업을 다른 곳으로 옮기면서 속도를 높일 수 있다. 구매자는 각 결과가 무엇에서 비롯됐는지 이해할 수 있도록 투명한 구성을 필요로 한다.

가장 강력한 벤치마크는 현실적인 동시성 환경에서 프로덕션 서비스를 재현하는 방식일 것이다. 하나의 장치에서 실행되는 디코드 커널뿐 아니라 NVIDIA GPU와 Raptor XPU 간 통신도 포함해야 한다. 또한 여러 모델 크기와 아키텍처 전반의 성능을 보고해야 한다.

소프트웨어 성숙도는 또 다른 불확실성을 만든다. NVIDIA GPU는 폭넓은 프레임워크, 라이브러리, 운영 도구를 지원한다. 특수 가속기가 동일한 폭을 제공할 필요는 없지만, 배포를 정당화하는 워크로드는 지원해야 한다.

빠른 모델 변화는 이 과제를 더 복잡하게 만들 수 있다. 새로운 어텐션 메커니즘, Mixture-of-Experts 설계, 더 긴 컨텍스트 윈도우, 서로 다른 수치 형식은 컴퓨팅과 메모리 사이의 균형을 바꿀 수 있다. 이러한 워크로드가 진화해도 Raptor의 아키텍처는 유용성을 유지해야 한다.

2027년 일정은 경쟁사에 대응할 시간을 준다. NVIDIA는 GPU, 소프트웨어, 메모리, 랙 설계를 통해 자체 추론 성능을 계속 향상할 것이다. 다른 특수 벤더들도 서로 다른 프로세서 및 메모리 아키텍처를 통해 더 낮은 지연 시간을 추구할 수 있다.

Cerebras는 별도 칩 간 통신을 줄이기 위해 웨이퍼 스케일 시스템을 사용한다. Groq는 결정론적 실행과 저지연 토큰 생성에 집중한다. Amazon과 Google을 포함한 하이퍼스케일러는 수직 통합형 클라우드 서비스를 중심으로 자체 가속기를 개발하고 있다.

더 광범위한 추론 칩 경쟁은 배포가 아키텍처만큼 중요한 이유를 보여준다. 스타트업은 벤치마크 결과뿐 아니라 하드웨어 가용성, 개발자 친숙도, 클라우드 접근성, 조달 신뢰도와도 경쟁해야 한다.

NVIDIA의 플랫폼은 d-Matrix가 이러한 장벽 중 여러 가지를 해결하는 데 도움을 줄 수 있다. 그러나 또 하나의 프로세서 유형을 추가하는 비용을 없앨 수는 없다. 구매자는 여전히 지연 시간 또는 효율성 향상이 통합, 재고, 소프트웨어, 운영 비용을 초과하는지 물을 것이다.

상업 조건은 공개되지 않았다. 두 회사는 예상 랙 구성, 사용 가능한 메모리, 전력 범위, 서비스 방식 또는 고객 약정을 발표하지 않았다. 이러한 세부 사항이 협력의 실제 가치를 결정하게 된다.

전략적 의존 위험도 존재한다. d-Matrix는 Raptor를 GPU의 보완재로 포지셔닝하지만, 해당 랙은 수많은 NVIDIA 구성 요소에 의존한다. 따라서 NVIDIA의 로드맵, 라이선스, 공급 할당 또는 인터페이스 우선순위 변화는 d-Matrix 배포에 영향을 미칠 수 있다.

이러한 의존성이 파트너십을 무효화하는 것은 아니다. 모든 인프라 기업은 공급업체와 표준을 중심으로 구축된다. 다만 가속기 선택권 확대에 대한 주장은 주변 기술의 집중도와 함께 평가해야 한다는 의미다.

핵심 구분은 아키텍처 검증과 시장 검증의 차이다. NVIDIA의 참여는 Raptor가 통합을 위한 진지한 후보임을 검증한다. 시장 검증에는 실제 출하된 시스템, 재현 가능한 측정, 지원되는 모델, 지속적인 프로덕션 트래픽을 운영하는 고객이 필요하다.

그러한 신호가 나타나기 전까지 d-Matrix Joins the NVIDIA NVLink Fusion Platform은 로드맵 이야기로 남는다. 구성 요소, 워크로드 분할, 제공 시점을 명시한다는 점에서 의미 있는 로드맵이다. 그러나 Raptor가 프로덕션 추론 시장 점유율을 확보했다는 증거는 아니다.

세 가지 신호가 파트너십의 중요성을 보여줄 것이다

테이프아웃, 랙 수준 벤치마크, 실명 기반 프로덕션 도입이 이 발표가 인프라가 될지 통합 계획에 머물지를 결정할 것이다.

첫 번째 신호는 Raptor의 테이프아웃이다. d-Matrix는 이 이정표를 2026년 말 이전에 달성할 것으로 예상한다. 이를 달성하면 아키텍처, NVLink 인터페이스, 물리적 설계가 제조에 들어갈 준비가 됐음을 시사한다.

지연은 2027년 4분기 제공 목표에 대한 신뢰를 약화시킬 것이다. 테이프아웃 이후에는 제조, 초기 실리콘 테스트, 수정, 패키징 검증, 시스템 검증이 이어진다. 상용 시스템의 출시 시점이 이미 정해진 상황에서 각 단계는 지연을 허용할 여지가 제한적이다.

첫 실리콘의 품질은 일정만큼 중요하다. d-Matrix는 3D 메모리 패키지가 목표 성능 및 전력 수준에서 작동함을 보여야 한다. 제조 후 상당한 수정이 필요하면 출시 일정에 추가 압박이 가해질 것이다.

두 번째 신호는 Raptor MGX 랙의 엔드투엔드 벤치마크다. 동일한 모델, 정밀도 설정, 요청 패턴, 품질 목표 아래 GPU 전용 서빙과 이기종 프리필 및 디코드를 비교해야 한다.

신뢰할 수 있는 결과는 전체 데이터 경로를 포함해야 한다. 즉 GPU 처리, 상태 이전, Raptor 디코딩, NVLink 통신, 네트워킹, 스케줄링을 의미한다. 구성 요소 수준의 대역폭 주장은 사용자가 더 빠른 응답을 받는지에 답할 수 없다.

테일 레이턴시는 특히 주목할 만하다. 평균 출력 속도는 대화형 서비스를 훼손하는 느린 요청을 감출 수 있다. 운영자는 변화하는 동시성, 컨텍스트 길이, 출력 길이 전반의 백분위수 측정치를 확인해야 한다.

지연 시간과 함께 에너지 및 활용률도 제시돼야 한다. 특수 XPU는 다른 워크로드 단계에서 유휴 상태로 있으면서도 인상적인 응답 시간을 제공할 수 있다. 랙 수준 측정은 결합 시스템이 전체 효율성을 높이는지 보여준다.

독립 평가자가 이러한 벤치마크를 재현할 수 있다면 근거는 강화된다. 반대로 성능 향상이 제한적인 모델, 비정상적으로 작은 배치 또는 출력 품질을 희생하는 구성에 의존한다면 근거는 약화된다.

세 번째 신호는 실명 기반 프로덕션 도입이다. d-Matrix는 하이퍼스케일러와 프런티어 연구소가 Raptor를 평가하고 있다고 밝혔지만, NVLink Fusion 랙의 확정 고객은 공개하지 않았다.

실제 코딩 어시스턴트, 음성 서비스 또는 챗봇을 운영하는 실명 사업자는 또 하나의 아키텍처 발표보다 더 강력한 증거를 제공할 것이다. 프로덕션 도입은 지연 시간 이점이 새로운 하드웨어, 소프트웨어, 운영 절차를 정당화한다는 점을 보여줄 것이다.

도입의 깊이도 중요하다. 제한적인 시험은 호환성을 검증한다. 여러 랙에 걸친 반복적 배포는 서비스 신뢰성과 경제성을 검증한다. 시험 이후의 확장은 고객 가치를 보여주는 가장 강력한 증거가 될 것이다.

구매자는 고객이 어떤 모델 단계를 Raptor에 할당하는지도 지켜봐야 한다. 디코드에 대한 일관된 사용은 d-Matrix의 메모리 중심 가설을 뒷받침할 것이다. 더 광범위한 추론 업무는 아키텍처가 초기 발표에서 강조한 것보다 더 큰 유연성을 갖췄음을 시사할 것이다.

d-Matrix가 NVIDIA NVLink Fusion Platform에 합류한 시점은 액셀러레이터 스타트업들이 시스템 문제에 직면한 때와 맞물린다. 차별화된 실리콘을 설계하는 것은 시작에 불과하다. 제품은 고객이 이미 운영 중인 네트워크, 랙, 소프트웨어, 냉각 및 구매 환경에 맞아야 한다.

NVIDIA는 특정 워크로드에서 NVIDIA GPU 수요를 줄일 수 있는 칩을 만드는 기업들에 그 환경을 제공하고 있다. NVIDIA의 사업을 단일 프로세서로만 본다면 이는 모순처럼 보인다. 그러나 플랫폼 전략으로 보면 논리는 명확하다.

d-Matrix는 신뢰할 수 있는 랙 규모 배포에 더 빠르게 도달할 수 있는 경로를 얻는다. NVIDIA는 자사의 인프라를 이기종 시스템으로 확장한다. 고객은 이를 둘러싼 NVIDIA 스택을 포기하지 않고도 또 다른 액셀러레이터 선택지를 확보한다.

아직 풀리지 않은 질문은 그로 인해 발생하는 가치를 누가 가져가느냐다. Raptor는 GPU와 나란히 배치될 만한 충분한 지연 시간 또는 효율 개선을 입증해야 한다. NVIDIA는 파트너들이 자사 아키텍처 안에서 서로 구별되지 않는 존재가 되지 않도록 하면서도 NVLink Fusion의 매력을 유지해야 한다.

개발자와 엔터프라이즈 구매자에게 실질적인 대응은 토폴로지 다이어그램이 아니라 증거를 따르는 것이다. 테이프아웃을 추적하고, 완전한 랙 벤치마크를 요구하며, 이름이 공개된 프로덕션 배포 사례를 확인해야 한다. 이 세 가지 신호는 이번 파트너십이 실제 컴퓨팅 선택지를 확대하는지, 아니면 그 선택지에 대한 NVIDIA의 영향력만 확대하는지를 보여줄 것이다.

다음 수는 d-Matrix에 달려 있다. 2026년의 설계 이정표를 2027년 말까지 검증된 Raptor 랙으로 전환하고, 프로덕션 모델에서 측정 가능한 성과 향상을 보여줄 수 있을까? 그때까지 이번 거래가 남긴 가장 중요한 결과는 분명하다. 대안 AI 실리콘은 점점 더 NVIDIA가 정의하는 인프라를 통해 데이터센터에 도달하고 있다.

 
 

무료로 시작하세요

개인 지식 관리 기능을 갖춘 로컬 우선 AI 어시스턴트

더 나은 AI 경험을 위해

현재 remio는 Windows 10+ (x64) 및 M-Chip Macs만 지원합니다.

업무를 위한 AI 파트너
remio와 더 많은 일을 해내세요

계획하고, 만들고, 완성하세요
모든 일을 한곳에서

bottom of page