Intel GPU D-Series, Crescent Island을 고용량 추론 카드로 전환

Intel은 Crescent Island의 공식 명칭을 Intel GPU D-Series로 확정하고, 최대 480GB 메모리와 이론상 1.3 PFLOPS의 FP8 성능을 결합했다. 회사는 2026 Open Compute Project Global Summit에서 이 수치를 공개했다. 또한 1.5 TB/s의 메모리 대역폭과 350와트 전력 범위도 확인했다.

이 사양은 지난 1년간 부분적으로만 공개됐던 Crescent Island 이후 Intel의 전략을 분명히 보여준다. 이는 최대 연산 성능으로 모든 가속기를 이기려는 시도가 아니다. Intel은 일반적인 공랭식 PCIe 서버 안에서 실행할 수 있는 메모리 집약적 추론을 겨냥하고 있다.

이는 Intel GPU D-Series를 Nvidia의 엔터프라이즈 사업 중 특정 영역과 맞붙게 한다. Nvidia는 이미 성숙한 소프트웨어와 폭넓은 서버 지원을 갖춘 PCIe 가속기를 판매하고 있다. Intel은 카드당 훨씬 많은 메모리, 일부 Blackwell 대안보다 낮은 명시 전력, 그리고 추론에 맞춰 단순화한 아키텍처로 대응하고 있다.

그 결과 하드웨어 제안은 설득력이 있지만, 상업적 근거는 아직 완성되지 않았다. 메모리 용량은 모델 분할을 줄이고 배포를 단순화할 수 있지만, 고객이 구매하는 것은 실제 제공 토큰 처리량, 예측 가능한 지연 시간, 안정적인 소프트웨어, 그리고 이용 가능한 시스템이다. Intel은 카드의 핵심 사양을 공개했다. 그러나 이 문제들을 결론낼 만큼의 독립적인 성능 증거는 아직 충분히 공개하지 않았다.

Intel GPU D-Series가 바꾸는 점

Intel은 Crescent Island를 실험적 코드명에서 측정 가능한 배포 목표를 갖춘 명확한 제품군으로 전환했다.

Intel의 GPU D-Series 세부 정보에 따르면, 이 가속기는 회사의 Xe3P 아키텍처를 사용한다. 350와트 전력 범위 안에서 이론상 1.3 페타플롭스의 FP8 연산 성능을 제공한다고 주장한다.

FP8은 많은 AI 연산 비용을 낮추기 위해 사용되는 8비트 부동소수점 형식이다. 모델이 해당 형식에서 허용 가능한 정확도를 유지할 경우, 더 낮은 정밀도는 처리량과 메모리 효율을 높일 수 있다.

회사는 최대 480GB의 LPDDR5X 메모리와 1.5 TB/s의 대역폭도 제시했다. LPDDR5X는 일반적으로 모바일 시스템과 연관되는 저전력 메모리지만, Intel은 이를 이례적으로 큰 용량으로 활용하고 있다.

Crescent Island는 처음에는 160GB 추론 가속기로 공개됐다. Intel은 이후 최대 480GB 구성 지원 설계를 설명했지만, 최종 연산 및 대역폭 목표는 공개하지 않았다.

OCP 발표는 이러한 공백을 채웠다. 또한 Crescent Island 코드명을 Intel GPU D-Series로 대체하며 제품에 시장 지향적 정체성을 부여했다.

물리적 설계는 새 이름만큼 중요하다. Intel은 이 카드가 표준 PCIe 폼팩터와 공랭 방식을 사용한다고 밝혔다. 서버는 특수 액체 냉각 랙을 도입하지 않고도 최대 8개의 가속기를 수용할 수 있다.

Intel은 카드 한 장이 최대 3,000억 개 파라미터를 포함하는 모델을 지원할 수 있다고 말한다. 회사에 따르면 8장 구성 서버는 1조 개를 초과하는 파라미터의 모델을 지원할 수 있다.

이러한 용량 관련 설명에는 맥락이 필요하다. 파라미터 수만으로는 런타임 메모리를 설명할 수 없다. 정밀도, 양자화, 컨텍스트 길이, 캐시 사용량, 배칭, 소프트웨어 오버헤드 모두 추론 배포에 필요한 메모리 규모에 영향을 미친다.

그럼에도 480GB는 운영자에게 이런 변수를 관리할 더 많은 여유를 제공한다. 단일 카드는 상당한 키-값 캐시와 함께 대형 양자화 모델을 담을 수 있으며, 이 캐시는 추론 중 생성된 정보를 저장한다.

애플리케이션이 긴 문서를 처리하거나 많은 동시 세션을 제공할 때 이 캐시는 주요 제약 조건이 될 수 있다. 하나의 사용자 요청이 여러 모델 호출, 검색 단계, 도구 상호작용을 유발할 수 있기 때문에 에이전트형 워크플로는 이러한 압박을 강화할 수 있다.

Intel은 대규모 언어 모델, 긴 컨텍스트 추론, 동시 서비스, 로보틱스 및 기타 지연 시간에 민감한 활용 사례를 명시적으로 겨냥하고 있다. 이는 최고 연산 성능 비교에서 승리하는 것보다 용량과 예측 가능한 배포가 더 중요할 수 있는 워크로드다.

아키텍처도 이러한 전문화를 뒷받침한다. Xe3P는 Intel의 그래픽 작업에서 비롯됐지만, Crescent Island는 범용 그래픽 카드처럼 작동하지 않는다. 디스플레이와 렌더링 기능보다 병렬 AI 연산에 실리콘과 소프트웨어 전략을 집중한다.

이러한 초점은 D-Series를 AI, 시각화, 렌더링, 미디어 워크로드를 함께 처리하도록 예상되는 제품과 구분한다. 또한 Intel이 충족해야 할 기준도 좁힌다. 이 카드는 모든 작업에서 최고의 가속기가 될 필요는 없지만, 지속적인 추론에서 효율성을 입증해야 한다.

고객 샘플링이 이미 진행 중이라는 점에서 시점도 중요하다. Intel은 광범위한 공급 일정, 명명된 출시 시스템, 출하량 또는 운영 고객 배포를 공개하지 않았다.

따라서 이번 발표는 완전한 시장 성숙보다는 사양의 성숙을 의미한다. Intel은 이제 명확한 제품과 활발한 샘플링 프로그램을 갖췄다. 구매자는 여전히 이러한 샘플이 신뢰할 수 있는 운영 시스템으로 이어진다는 증거를 필요로 한다.

최고 연산 성능 수치보다 480GB가 더 중요한 이유

Intel GPU D-Series의 핵심 장점은 1.3 PFLOPS가 아니다. 하나의 공랭식 카드에 유지할 수 있는 모델 및 컨텍스트 데이터의 양이다.

최고 FP8 성능은 유용한 아키텍처 기준을 제공하지만, 그 자체로 애플리케이션 처리량을 예측하지는 못한다. 추론 서버는 모델 가중치, 어텐션 데이터, 캐시된 컨텍스트를 가속기에 지속적으로 공급해야 한다.

작업 세트가 가용 메모리를 초과하면 운영자는 모델을 여러 카드에 분할하거나 더 느린 연결을 통해 데이터를 이동해야 한다. 두 선택 모두 시스템 복잡성을 높인다.

모델 병렬화는 여러 가속기가 하나의 모델을 처리하게 하지만 조정 오버헤드를 만든다. 이후 인터커넥트 지연 시간, 통신 라이브러리, 토폴로지, 스케줄링이 실제 제공 성능에 영향을 줄 수 있다.

480GB 카드는 로컬에 적합한 워크로드에서 이러한 조정 일부를 피할 수 있다. 또한 모델을 로드한 뒤 동시 세션에 사용할 수 있는 메모리를 더 많이 남길 수 있다.

긴 계약서, 엔지니어링 문서 또는 고객 이력을 분석하는 엔터프라이즈 어시스턴트를 생각해 보자. 모델 가중치는 배포 공간의 일부만 차지한다. 긴 프롬프트와 증가하는 세션 캐시는 상당한 추가 용량을 소비할 수 있다.

멀티테넌트 추론 제공업체는 더 큰 규모에서 같은 문제에 직면한다. 많은 고객이 서로 다른 컨텍스트 길이의 요청을 제출하는 동안 응답 시간을 유지해야 한다. 더 큰 로컬 메모리는 시스템이 작업을 거부하거나 다른 곳으로 이전하기 전에 더 많은 활성 세션을 지원할 수 있다.

이것이 Intel의 용량 우선 전략이 작동하는 방식이다. 회사는 중간 수준의 전력 범위 안에서 더 큰 LPDDR5X 메모리 풀을 확보하는 대가로 HBM으로 알려진 고대역폭 메모리의 극단적인 대역폭을 포기하고 있다.

HBM은 적층 메모리를 프로세서 가까이에 배치하고 매우 높은 대역폭을 제공한다. 또한 패키징 복잡성, 전력 요구량, 가속기 비용에 영향을 준다.

LPDDR5X는 더 낮은 대역폭을 제공하지만 용량과 에너지 측면에서 장점을 제공할 수 있다. Intel의 1.5 TB/s 수치는 LPDDR 메모리로서는 상당하지만, 선도적인 HBM 가속기가 제공하는 대역폭보다는 낮다.

AMD는 256GB MI325X accelerator의 최대 메모리 대역폭을 6 TB/s로 제시한다. 이 제품은 이론상 FP8 연산 성능도 훨씬 높지만, 전력과 시스템 측면에서 다른 범주에 속한다.

이 비교는 D-Series를 HBM 플래그십 대체품으로 봐서는 안 되는 이유를 보여준다. AMD의 가속기는 고급 훈련 및 추론 플랫폼을 겨냥한다. Intel은 냉각, 전력, 통합 제약이 더 큰 서버용 카드를 설계하고 있다.

Nvidia의 RTX Pro 6000 Blackwell Server Edition은 물리적 특성 면에서 더 관련성 높은 기준점이다. Nvidia는 96GB GDDR7 메모리, 1.597 TB/s 대역폭, 2 페타플롭스 FP8 연산 성능을 명시한다.

Nvidia는 이 카드를 공랭 및 액체 냉각형으로 제공하며, 최대 600와트로 평가한다. Intel이 주장하는 350와트 설계는 메모리 용량이 5배이고, 대역폭은 약간 낮으며, 이론상 FP8 성능도 낮다.

이 수치만으로 성능 우위를 확정할 수는 없다. Nvidia의 소프트웨어, 스케줄링 동작, 수치 형식, 애플리케이션 최적화는 단순한 사양 비교의 영향을 능가할 수 있다.

그러나 이는 Intel이 선택한 축을 드러낸다. 회사는 최고 연산 밀도를 추구하는 대신 용량과 더 낮은 명시 전력을 제공하고 있다.

이 차이는 기존 서버실을 운영하는 기업에 중요하다. 많은 시설은 액체 냉각이나 비정상적으로 고밀도인 랙을 쉽게 도입할 수 없다. 다른 곳은 사용 가능한 PCIe 슬롯이 있지만 전력 여유가 제한적이다.

공랭식 350와트 카드는 이런 환경에서 평가하기가 더 쉽다. 팀이 대형 모델을 로컬에서 시험하기 전에 필요한 인프라 변경을 줄여준다.

대용량 메모리 풀은 모델 선택 폭도 넓힐 수 있다. 팀은 더 높은 정밀도의 가중치를 유지하거나, 더 긴 컨텍스트를 사용하거나, 한 카드에서 여러 소형 모델을 실행할 수 있다.

이런 이점이 운영 비용 절감을 보장하지는 않는다. 결정적인 측정치는 서버당, 와트당, 시간당 완료 작업량이다. Intel은 더 큰 메모리가 어떻게 이 결과를 개선할 수 있는지 설명했지만, 공개 벤치마크 데이터는 여전히 제한적이다.

진정한 경쟁은 랙 규모의 우위가 아니라 PCIe 추론이다

Intel은 D-Series를 최대 규모의 액체 냉각 AI 시스템에 대한 직접적인 해답으로 포지셔닝하지 않는다. 당면한 경쟁 상대는 Nvidia가 구축한 PCIe 배포 모델이다.

랙 규모 가속기 플랫폼과 PCIe 카드는 서로 다른 구매 문제를 해결한다. 가장 큰 시스템은 특수 인터커넥트, 냉각, 네트워킹, 전력 공급을 통해 훈련 및 추론 밀도를 극대화한다.

이러한 시스템은 하이퍼스케일러와 대형 모델 개발자에게 적합하다. 기존 시설 안에서 AI 용량을 점진적으로 추가하는 조직에는 접근성이 낮다.

Intel의 표준 카드 접근법은 두 번째 그룹을 겨냥한다. 공급업체가 필요한 전력, 열, 펌웨어, 소프트웨어를 검증한다면 기업은 익숙한 x86 서버에 D-Series 제품을 설치할 수 있다.

회사는 8-GPU 구성이 1조 개 파라미터를 넘는 모델을 제공할 수 있다고 말한다. 이 주장은 D-Series를 본격적인 대형 모델 인프라 안에 위치시키지만, 모든 고급 클러스터의 대안으로 규정하지는 않는다.

Tom’s Hardware 분석은 이 차이를 명확히 설명한다. Nvidia의 랙 규모 Rubin 시스템은 Intel의 공랭식 카드보다 훨씬 높은 연산 및 인프라 범위를 겨냥한다.

더 가까운 경쟁은 일반 시스템에 장착되는 엔터프라이즈 가속기 분야에서 벌어진다. Nvidia의 Blackwell server GPU는 2 페타플롭스의 FP8 연산 성능과 96GB의 GDDR7 메모리를 제공한다.

Nvidia의 카드는 가능한 활용 범위를 넓히는 그래픽, 렌더링, 미디어 기능도 포함한다. 조직은 같은 제품군을 AI, 디자인, 시뮬레이션, 시각화 워크로드에 배정할 수 있다.

Intel의 카드는 더 전문화되어 있다. 메모리 집약적 추론이 활용률의 대부분을 차지할 때 이러한 전문화는 가치 제안을 개선할 수 있다. 구매자에게 여러 부서를 위한 유연한 가속기가 필요할 때는 매력이 떨어진다.

소프트웨어는 더 어려운 경쟁 문제를 만든다. Nvidia의 CUDA 플랫폼은 방대한 라이브러리, 추론 엔진, 프레임워크, 배포 도구, 그리고 숙련된 엔지니어 인력을 지원한다.

이러한 설치 기반은 마이그레이션 위험을 낮춘다. 팀은 널리 사용되는 모델을 위한 검증된 배포 패턴, 호환 가능한 컨테이너, 성능 가이드를 찾을 수 있다.

Intel은 통합형 및 독립형 제품 전반에 걸친 공통 Xe 소프트웨어 기반을 내세운다. 원칙적으로 이러한 접근 방식은 애플리케이션이 각 가속기마다 다시 작성될 필요 없이 Intel GPU 플랫폼 간에 이동할 수 있게 한다.

하지만 실제로는 이식성만으로 충분하지 않다. 프로덕션 추론은 최적화된 어텐션 커널, 양자화 경로, 연속 배칭, 분산 실행, 모니터링, 장애 복구에 의존한다.

개발자들은 인기 있는 서빙 프레임워크의 지원도 기대한다. 카드가 인상적인 사양을 제공하더라도, 이러한 프레임워크가 이론적 성능에 도달하지 못한다면 사용하기 어려울 수 있다.

이 때문에 D-Series의 과제는 작동하는 가속기를 만드는 것보다 더 크다. Intel은 OEM, 클라우드 제공업체, 소프트웨어 벤더, 모델 서빙 프로젝트가 하드웨어를 중심으로 최적화하도록 설득해야 한다.

Intel은 OEM, ODM, 네오클라우드, 독립 소프트웨어 벤더, 어플라이언스 기업, AI 네이티브 기업과 협력하고 있다고 말한다. 그러나 발표에서는 프로덕션 시스템이나 고객 성능 결과를 특정하지 않았다.

이러한 누락은 생태계 준비 상태를 완전히 평가하기 어렵게 한다. 긴 파트너 범주 목록은 협력 확대를 시사하지만, 명시된 주문 가능 시스템은 더 강력한 증거가 될 것이다.

Intel의 최근 가속기 이력은 기준을 한층 더 높인다. 과거 Ponte Vecchio로 알려졌던 Data Center GPU Max 제품군은 지연과 상당한 복잡성을 거친 뒤 주요 슈퍼컴퓨팅 배포에 도달했다.

계획된 후속 제품들은 지속적인 가속기 로드맵을 만들지 못했다. 이 이력이 D-Series의 결과를 결정하지는 않지만, 구매자 신뢰에는 영향을 미친다.

고객은 컴파일러, 드라이버, 라이브러리, 대체 제품이 장기 지원을 받을 것이라는 확신이 필요하다. 가속기 도입 비용에는 설치 후에도 남는 엔지니어링 노력이 포함된다.

따라서 Intel은 아직 생태계 강도보다는 하드웨어 구성 측면에서 Nvidia에 압박을 가하고 있다. D-Series가 설치하기 쉬운 서버에서 충분한 용량을 제공한다면 평가 기회를 얻을 수 있다. 평가를 반복 배포로 전환하려면 물리적 설계에 걸맞은 소프트웨어 결과가 필요하다.

Intel Crescent Island 수치가 증명하지 못하는 것

발표된 사양은 이론적 역량을 설명할 뿐, 실제 제공되는 추론 성능이나 총소유비용을 보여주지는 않는다.

1.3 PFLOPS 수치는 정해진 하드웨어 조건에서의 최고 FP8 연산 성능을 측정한다. 실제 애플리케이션은 전체 요청에 걸쳐 최고 처리량을 지속하는 경우가 드물다.

모델 아키텍처는 활용률에 영향을 미친다. 입력 길이, 출력 길이, 배치 크기, 양자화, 샘플링 설정, 초기 프롬프트 처리와 토큰 생성 간 비율도 마찬가지다.

프롬프트 처리는 상당한 병렬 연산의 이점을 얻을 수 있다. 토큰 생성은 흔히 메모리 이동, 캐시 접근, 동기화에 더 민감해진다.

이는 D-Series를 지속적 추론에 흥미로운 설계로 만들지만, 동시에 벤치마크를 필수 요소로 만든다. Intel은 수백 기가바이트가 활성 상태로 유지될 때 1.5 TB/s의 메모리 대역폭이 어떻게 작동하는지 보여줘야 한다.

고용량 카드는 대형 모델을 담을 수 있지만, 이를 빠르게 서빙한다는 뜻은 아니다. 반대로 더 작은 가속기도 더 나은 커널, 더 빠른 메모리, 더 효과적인 배칭을 통해 이를 능가할 수 있다.

지연 시간 목표는 또 다른 변수를 더한다. 제공업체는 더 많은 요청을 배치로 묶어 총 처리량을 높일 수 있지만, 개별 사용자는 첫 토큰을 더 오래 기다릴 수 있다.

따라서 의미 있는 테스트는 여러 측정치를 보고해야 한다. 여기에는 첫 토큰까지 걸리는 시간, 초당 출력 토큰 수, 동시 사용자 수, 테일 레이턴시, 전력 소비량, 서버 수준 처리량이 포함된다.

테스트는 다양한 모델 크기와 컨텍스트 길이도 포괄해야 한다. 소형 모델을 중심으로 한 벤치마크는 카드의 메모리 이점을 대부분 활용하지 못할 수 있다.

최대 D-Series 구성은 특히 면밀한 검토가 필요하다. Intel은 이 제품군이 최대 480GB를 지원한다고 말하지만, 이 최대치가 출시되는 모든 카드에 적용되는 것은 아닐 수 있다.

이전 Crescent Island 공개 내용은 160GB 레퍼런스 구성에 초점을 맞췄다. 회사는 이후 이 아키텍처가 파트너가 더 높은 용량의 설계를 구축할 수 있도록 한다고 설명했다.

구매자에게는 정확한 제품 수준 사양이 필요하다. 여러 용량이 시장에 출시될 경우, 어떤 D-Series 모델이 160GB, 320GB 또는 480GB를 탑재하는지 확인해야 한다.

가격, 공급 가능 여부, 보증, 서버 호환성도 필요하다. Intel은 이러한 상업적 세부 사항을 공개적으로 제공하지 않았다.

용량만으로는 가치를 입증하지 못하기 때문에 가격은 특히 중요하다. 배포 팀은 고메모리 Intel 카드 한 장의 비용을, 더 큰 합산 대역폭을 제공하는 여러 검증된 가속기와 비교해야 한다.

전력 계산에도 유사한 주의가 필요하다. 350와트 가속기는 카드 수준의 수요를 줄일 수 있지만, 서버 전력에는 CPU, 메모리, 네트워킹, 스토리지, 냉각, 변환 손실이 포함된다.

8카드 서버는 이러한 구성 요소를 계산하기 전에도 가속기에 최대 2.8킬로와트를 할당하게 된다. 이는 많은 데이터센터에서 여전히 관리 가능한 수준이지만, 가벼운 설치는 아니다.

스케일아웃 성능도 또 다른 미해결 문제다. Intel은 8개의 D-Series 카드가 1조 개 이상의 파라미터를 가진 모델을 지원할 수 있다고 말한다. 그러나 카드 간 통신과 분산 추론 효율성에 관해서는 충분한 공개 정보를 제공하지 않았다.

8개 장치에 걸쳐 모델을 보유하는 것은 이를 효율적으로 서빙하는 것과 같지 않다. 데이터는 적절한 시점에 카드 간 이동해야 하며, 통신은 연산을 지연시킬 수 있다.

대규모 로컬 메모리 풀은 필요한 카드 수를 줄일 수 있어 도움이 된다. 그러나 최종 결과는 여전히 토폴로지, 집단 통신, 프레임워크 지원에 달려 있다.

신뢰성 기능도 더 명확한 문서화가 필요하다. 엔터프라이즈 구매자는 오류 수정, 격리, 텔레메트리, 가상화, 장애 처리, 서비스 용이성을 살펴볼 것이다.

D-Series가 로보틱스와 지연 시간에 민감한 워크로드를 지원할 수 있다는 회사의 주장은 신중하게 해석해야 한다. 로보틱스 워크로드는 매우 다양하며, 데이터센터 PCIe 카드는 모든 엣지 배포를 해결하지 못한다.

Intel이 의미하는 바는 로봇 플릿 또는 관련 시스템을 위한 중앙집중형 추론 서빙으로 보인다. 고객이 배포 사례를 설명하기 전까지 더 광범위한 주장은 잠정적으로 유지되어야 한다.

현재 가능한 가장 강한 결론은 더 제한적이다. Intel은 접근 가능한 열 설계 범주에 맞는 이례적으로 고용량인 가속기를 설계했다. 이것이 매력적인 토큰 경제성을 제공할지는 아직 검증되지 않았다.

Intel의 소프트웨어 스택이 이제 제품을 좌우한다

D-Series 하드웨어는 기회를 만들지만, Intel의 Xe 소프트웨어가 메모리 용량을 신뢰할 수 있는 애플리케이션 성능으로 전환해야 한다.

Intel은 GPU 제품 전반을 아우르는 공통 Xe 소프트웨어 기반을 설명한다. 이 기반은 애플리케이션 이식성을 유지하고 새 카드를 대상으로 하는 데 필요한 노력을 줄이기 위한 것이다.

이 전략에는 논리가 있다. 개발자들은 이미 클라이언트, 워크스테이션, 데이터센터 시스템 전반에서 Intel 통합 그래픽과 독립형 GPU를 사용한다. 공유 도구는 Intel 포트폴리오 내 단편화를 줄일 수 있다.

그러나 AI 인프라는 기본적인 애플리케이션 호환성 이상에 의존한다. 프로덕션 스택은 모델 로딩부터 요청 스케줄링과 텔레메트리에 이르는 전체 경로를 최적화해야 한다.

추론 팀은 연속 배칭을 지원하는 서빙 시스템에 점점 더 의존하고 있다. 이 방식은 변경되는 요청 그룹을 결합해 모든 사용자를 동일한 고정 배치에 묶지 않으면서 가속기가 계속 작업하도록 한다.

또한 낮은 정밀도에서도 모델 품질을 보존하는 양자화 라이브러리가 필요하다. FP8 지원은 모델과 프레임워크가 이를 일관되게 활용할 수 있을 때에만 상업적으로 유용해진다.

긴 컨텍스트 성능은 최적화된 어텐션 구현과 캐시 관리에 달려 있다. 부실한 메모리 할당은 D-Series를 차별화하는 용량을 낭비할 수 있다.

멀티카드 배포는 통신 요구사항을 더한다. Intel은 집단 연산과 모델 병렬 프레임워크가 전력 및 용량 이점을 상쇄하지 않고 8개 카드를 조정할 수 있도록 해야 한다.

회사의 Hot Chips 공개 자료는 32개의 Xe 코어와 256개의 XMX 매트릭스 엔진을 확인했다. Intel은 더 낮은 정밀도 및 과학 데이터 형식 지원도 강조했다.

이러한 아키텍처 세부 사항은 하드웨어가 다양한 연산을 처리할 수 있음을 보여준다. 하지만 현재 소프트웨어가 인기 모델을 칩에 얼마나 효율적으로 매핑하는지는 드러내지 않는다.

고객은 널리 사용되는 프레임워크의 업스트림 지원을 주시해야 한다. 조직은 프라이빗 포크나 벤더 전용 패치를 유지하는 데 주저하기 때문에 네이티브 통합이 중요하다.

컨테이너 가용성도 중요하다. 팀은 검증된 드라이버, 라이브러리, 서빙 소프트웨어, 모델 구성을 결합한 재현 가능한 이미지를 원한다.

모니터링 지원은 출시 발표에서 거의 주목받지 못하더라도 구매 결정에 영향을 줄 수 있다. 운영자는 익숙한 시스템을 통해 전력, 온도, 활용률, 메모리, 오류, 지연 시간 데이터를 확인해야 한다.

Intel은 CPU 선택을 명확히 하는 레퍼런스 설계도 필요하다. 에이전틱 애플리케이션에서는 GPU가 모델 추론을 수행하는 동안 CPU가 검색, 도구 실행, 데이터 처리, 네트워킹, 오케스트레이션을 담당한다.

회사는 OCP에서 새로운 Xeon 기반 랙 설계와 함께 D-Series를 공개했다. 이러한 포지셔닝은 추론을 고립된 가속기 벤치마크가 아닌 시스템 문제로 다룬다.

이는 Intel에 잠재적 이점도 제공한다. 회사는 하나의 플랫폼 전략 안에서 Xeon CPU, GPU, PCIe 연결성, 메모리, 랙 설계를 조정할 수 있다.

그러나 통합 플랫폼이 혼합 벤더 대안보다 성능이 낮다면 고객은 강제 묶음을 거부할 것이다. 개방형 배포는 구매자가 서버, 네트워킹, 소프트웨어 전반에서 실질적인 선택권을 유지한다는 의미여야 한다.

Intel의 개방형 인프라 강조는 상호운용성이 프로덕션 테스트를 통과할 때에만 가치가 있다. 표준은 통합 마찰을 줄이지만, 성능은 여전히 최적화된 구현이 결정한다.

가장 설득력 있는 증거는 재현 가능한 결과를 공개하는 명시된 고객에게서 나올 것이다. 이러한 결과는 이전 시스템과 비교한 비용, 처리량, 지연 시간, 전력을 보여줘야 한다.

그때까지 D-Series는 하드웨어 주도 제안으로 남는다. 메모리 구성은 관심을 끌지만, 소프트웨어 성숙도가 도입을 결정한다.

D-Series가 시장을 확보할지 결정할 세 가지 신호

다음 단계는 또 다른 사양 공개가 아니다. Intel은 주문 가능한 시스템, 재현 가능한 벤치마크, 지속적인 고객 사용을 보여줘야 한다.

첫 번째 신호는 독립적인 추론 테스트다. 리뷰어와 고객은 여러 오픈 모델, 정밀도, 컨텍스트 길이에 걸쳐 프로덕션 실리콘을 테스트해야 한다.

유용한 벤치마크에는 경쟁 PCIe 카드에 쉽게 들어가는 모델 하나와 480GB의 직접적인 이점을 얻는 모델 하나가 포함될 것이다. 이러한 설계는 일반적인 실행 품질과 D-Series의 용량 이점을 분리할 수 있다.

결과는 배치 크기, 요청 동시성, 입력 길이, 출력 길이, 소프트웨어 버전, 전력 설정을 공개해야 한다. 이러한 세부 사항이 없다면 토큰 처리량 주장은 구매 판단에 거의 도움이 되지 않는다.

첫 토큰까지 걸리는 시간과 출력 토큰 지연 시간은 총 처리량과 함께 제시되어야 한다. 시스템은 집계 기준으로 효율적으로 보이면서도 열악한 대화형 경험을 제공할 수 있다.

D-Series가 훨씬 큰 모델을 로컬에 보유하면서도 검증된 대안에 근접한다면 Intel의 논지는 강해진다. 성능이 이론적 연산 성능보다 크게 낮다면 추가 메모리가 모든 워크로드를 구제하지는 못할 것이다.

두 번째 신호는 폭넓은 시스템 가용성이다. Intel에는 실명으로 공개된 서버 제조사, 구체적인 구성, 검증 문서, 신뢰할 수 있는 납품 일정이 필요하다.

고객 샘플링은 하드웨어가 내부 연구소 밖에도 존재한다는 점을 보여 준다. 하지만 구매자가 지원되는 시스템을 의미 있는 물량으로 언제 주문할 수 있는지는 알려 주지 않는다.

공랭 방식과 PCIe 호환성은 도입 장벽을 낮추지만, 서버 인증은 여전히 필요하다. 섀시 공기 흐름, 슬롯 간격, 전력 공급, 펌웨어, 지원 계약 모두 실제 설치에 영향을 미친다.

480GB 구성은 명시적으로 주목할 필요가 있다. 해당 용량이 맞춤형 파트너 설계에만 제한된다면, 핵심 장점은 예상보다 적은 고객에게만 도달할 수 있다.

세 번째 신호는 Intel이 통제하는 데모를 넘어선 소프트웨어 채택이다. 업스트림 프레임워크 지원, 최적화된 모델 레시피, 공개 컨테이너, 타사 클라우드 인스턴스를 주시해야 한다.

네오클라우드 서비스는 개발자가 서버를 구매하지 않고도 D-Series를 시험할 수 있게 해줄 것이다. 또한 더 폭넓은 모델군에 걸쳐 워크로드 데이터를 생성할 수 있다.

기존 추론 프로젝트의 지원은 통합 위험을 낮출 수 있다. 공개된 튜닝 가이드는 LPDDR5X 용량이 더 낮은 대역폭보다 중요한 시점을 팀이 이해하는 데 도움이 될 수 있다.

반복 배포는 초기 시험보다 더 중요하다. 고객이 두 번째 클러스터를 주문한다는 것은 하드웨어, 소프트웨어, 경제성이 지속적인 사용 환경에서 함께 작동했다는 신호다.

이러한 신호는 막연한 로드맵 약속으로 남지 않고 향후 제품 주기 동안 나타나야 한다. Nvidia와 AMD도 가속기와 소프트웨어를 계속 개선하고 있으므로 Intel의 기회가 제자리에 머물지는 않을 것이다.

Intel GPU D-Series는 이제 일관된 정체성을 갖췄다. 최대 480GB 메모리를 탑재한 350와트 공랭식 추론 가속기다. 이 조합은 기업 구매자가 대안 아키텍처를 검토할 이유를 제공한다.

그렇다고 무작정 이전할 이유가 생기는 것은 아니다. 이 카드를 평가하는 팀은 대표적인 모델을 선정하고, 지연 시간 요구 사항을 정의하며, 칩의 최대 사양이 아닌 전체 서버 전력 소비를 측정해야 한다.

또한 평가 과정을 꼼꼼히 문서화해야 한다. 검색 가능한 engineering knowledge base는 벤치마크 설정, 드라이버 버전, 오류, 배포 결정을 여러 팀에 걸쳐 보존하는 데 도움이 될 수 있다.

이제 실질적인 질문은 분명하다. Intel은 이례적인 메모리 우위를 더 나은 지속적 추론 경제성으로 전환할 수 있을까? 독립 벤치마크, 출하 시스템, 반복 고객이 그 답을 제공할 것이다.