128GB 모델 대폭 가격 인상 속 NVIDIA DGX Spark 64GB 출시

NVIDIA가 NVIDIA DGX Spark 64GB를 발표했으며, 기존 128GB 시스템의 가격은 거의 50% 인상된다.

새 구성은 GB10 Grace Blackwell 프로세서, NVIDIA의 소프트웨어 스택, 고속 네트워킹을 유지한다. 다만 통합 메모리는 절반으로 줄었고, 로컬 스토리지도 감소한 것으로 알려졌다.

이러한 변화는 NVIDIA의 데스크톱 AI 시스템이 갖는 의미를 바꾼다. DGX Spark는 원래 소형 장비에서 이례적으로 큰 통합 메모리를 제공하겠다는 약속을 내세웠다. 새 보급형 모델은 이 핵심 자원을 더 제한하면서도, 기존 128GB 출시 가격보다 높은 가격을 책정한다.

NVIDIA는 Acer, ASUS, Dell, Gigabyte, HP, MSI를 통해 10월 23일부터 64GB 시스템을 제공할 예정이라고 밝혔다. NVIDIA 브랜드의 64GB Founders Edition은 판매하지 않는다.

64GB 출시 세부 사항은 프라이빗 추론, 지속 실행형 AI 에이전트, 2노드 클러스터로의 간편한 확장을 강조한다. 이러한 활용 사례는 타당하지만, 어떤 모델과 워크플로가 계속 실용적인지는 용량 제약에 따라 달라질 것이다.

NVIDIA DGX Spark 가격 인상은 핵심적인 갈등을 만든다. 구매자는 더 적은 메모리를 받아들이거나, 128GB에 훨씬 많은 비용을 지불하거나, AMD 및 Apple 실리콘 기반 경쟁 시스템을 검토해야 한다.

NVIDIA DGX Spark 64GB는 GB10을 유지하지만 메모리는 절반으로 줄인다

새 시스템은 NVIDIA의 컴퓨팅 플랫폼을 유지하지만, DGX Spark를 특히 가치 있게 만든 자원을 줄였다.

DGX Spark는 GB10 Grace Blackwell Superchip에 Blackwell 세대 GPU와 20코어 Arm CPU를 결합한다. MediaTek은 NVIDIA와 프로세서 설계에 협력했다.

CPU와 GPU는 하나의 일관된 메모리 풀을 공유한다. 일관된 통합 메모리를 통해 두 프로세서는 시스템 메모리와 그래픽 메모리를 별도로 할당해 유지하지 않고도 동일한 데이터에 접근할 수 있다.

이 구조는 로컬 인공지능에 중요하다. 대형 모델은 가중치, 런타임 상태, 프롬프트, 생성 데이터를 모두 가용 메모리 안에 담아야 한다.

기존 데스크톱 GPU는 DGX Spark보다 전용 메모리가 훨씬 적은 경우가 많다. 개발자는 시스템 RAM을 추가할 수 있지만, 개별 GPU는 이를 로컬 비디오 메모리만큼 효율적으로 활용할 수 없다.

기존 128GB 장비는 다른 균형을 제공했다. NVIDIA는 최대 2,000억 개 매개변수를 가진 모델의 추론을 실행하고, 최대 700억 개 매개변수 모델을 미세 조정할 수 있다고 밝혔다.

이는 모든 모델에서 보장되는 성능이 아니라 공급업체가 제시한 한계다. 정밀도, 양자화, 컨텍스트 길이, 캐시 요구 사항, 프레임워크 오버헤드는 모두 실제 메모리 사용량을 바꾼다.

NVIDIA DGX Spark 64GB는 NVIDIA가 밝힌 단일 시스템 기준 모델 한도를 1,000억 개 매개변수로 낮춘다. 특히 압축된 가중치를 사용하는 모델에서는 여전히 상당한 수준이다.

하지만 모델을 메모리에 올릴 수 있다고 해서 여유롭게 실행할 수 있는 것은 아니다. 워크로드에는 추론 중 생성되는 어텐션 데이터를 저장하는 키-값 캐시 공간도 필요하다.

프롬프트가 길수록 캐시를 더 많이 소비한다. 사용자나 에이전트가 늘어나면 요구량은 다시 증가한다. 간신히 로드되는 모델은 유용한 작업을 위한 여유 공간을 거의 남기지 못할 수 있다.

NVIDIA는 용량과 함께 메모리 대역폭을 줄이지는 않았다. 보도에 따르면 64GB 시스템은 초당 273GB의 대역폭을 유지한다.

이는 제조업체가 메모리 인터페이스 폭을 줄이지 않고 더 낮은 밀도의 LPDDR5X 패키지를 사용한다는 점을 시사한다. 따라서 워크로드가 메모리에 들어오는 경우 뚜렷한 대역폭 손실은 피할 수 있을 것으로 보인다.

새 장비는 DGX OS, CUDA 라이브러리, PyTorch 지원, NVIDIA의 에이전트 도구, 널리 사용되는 추론 런타임도 유지한다. 지원 옵션에는 Ollama, llama.cpp, vLLM, LM Studio가 포함된다.

ConnectX-7 네트워킹 역시 플랫폼의 일부로 남는다. 200Gbps 연결을 통해 두 시스템은 일반 소비자용 Ethernet보다 훨씬 빠르게 데이터를 교환할 수 있다.

따라서 64GB 버전은 같은 이름으로 판매되는 저속 프로세서 시스템이 아니다. 기존 플랫폼을 용량 제약형으로 구성한 버전이다.

이 구분은 소형 모델을 반복적으로 실행하는 개발자에게 유리하다. 반면 메모리 한계를 피하기 위해 DGX Spark를 선택한 구매자에게는 매력이 떨어진다.

시스템 메모리와 함께 스토리지도 줄어든 것으로 알려졌다. NVIDIA의 공개 발표는 제조사별 전체 스토리지 사양을 제공하기보다 메모리와 클러스터링에 집중한다.

구매 전 각 제조사의 구성을 확인해야 한다. 파트너 전용 출시이므로 스토리지, 포트, 지원, 보증 조건은 시스템마다 다를 수 있다.

NVIDIA의 첫 DGX Spark 출시는 이 장비를 개인용 AI 슈퍼컴퓨터로 포지셔닝했다. 64GB 에디션은 이 약속을 보다 목표가 명확한 로컬 워크로드로 좁힌다.

여전히 유용한 제품이다. 다만 하나의 책상 위에 이례적으로 큰 모델 개발 환경을 두는 것과는 다른 제안이다.

NVIDIA DGX Spark 가격 인상은 가치 논리를 다시 쓴다

기존 시스템이 초기 시장 포지션을 훨씬 벗어났기 때문에 저용량 모델이 등장했다.

DGX Spark는 CES 2025에서 발표된 소형 데스크톱 시스템 Project Digits로 시작했다. 초기 포지셔닝은 이 장비가 최종적으로 받은 가격보다 낮은 진입 가격을 시사했다.

128GB Founders Edition은 이후 더 높은 가격으로 출시됐다. NVIDIA는 LPDDR5X 메모리와 NAND 플래시의 공급 제약을 이유로 2026년 중 그 가격을 다시 인상했다.

최근 보도된 조정으로 128GB 모델의 가격은 직전 정가 대비 거의 절반 올랐다. 이는 최초 출시 가격보다 거의 75% 높은 수준이다.

정확한 거래 가격은 판매자와 재고 상황에 따라 달라질 수 있다. 그러나 NVIDIA 제품군과 여러 파트너 시스템 전반에서 가격 방향은 분명하다.

최초 가격 보도에 따르면, 새 64GB 구성은 이제 GB10의 더 저렴한 진입 옵션 역할을 한다.

다만 여기서 더 저렴하다는 말은 상대적이다. 축소된 모델은 출시 당시 128GB Founders Edition보다 25% 더 비싼 것으로 알려졌다.

이 비교는 역전을 드러낸다. 구매자는 안정적인 제품을 기준으로 일반적인 저메모리 할인 혜택을 받는 것이 아니다.

대신 지난해의 풀 용량 모델보다 높은 진입 비용을 내고 절반의 메모리를 받는다. 128GB 대안은 다른 지출 범주로 이동했다.

NVIDIA는 64GB 에디션을 접근하기 쉬운 출발점으로 제시한다. 이 설명은 제품의 전체 역사와 비교할 때가 아니라 현재 GB10 시장 안에서만 의미가 있다.

회사는 공급 측면에서 합리적인 설명을 제시한다. LPDDR5X 패키지는 이 소형 시스템에 납땜되며, 고용량 구성에는 많은 고밀도 부품이 필요하다.

NAND 스토리지도 비용에 영향을 미친다. 기존 워크스테이션과 달리 DGX Spark에서는 구매 후 더 저렴한 메모리 모듈을 추가할 수 없다.

부품 가격이 모든 소매 가격 변동을 완전히 설명하지는 않는다. 제조사 마진, 재고 시점, 수요, 유통 채널 가용성도 표시 가격에 영향을 미친다.

NVIDIA는 두 용량 구성 모두에 대한 자재 명세서 분석을 공개하지 않았다. 따라서 구매자는 가격 인상 중 메모리에서 직접 발생한 비중이 얼마인지 분리해 확인할 수 없다.

그럼에도 메모리 공급업체들은 시장이 타이트하다고 설명한다. Micron은 2027년과 2028년까지 수요가 공급을 계속 초과할 것이라고 경고했다.

이 전망은 AI 인프라가 여러 메모리 범주에서 제조 역량을 두고 경쟁한다는 점에서 중요하다. 공급업체는 자연스럽게 더 높은 수익을 제공하는 제품과 고객을 우선시한다.

소형 AI 시스템은 난처한 위치에 놓인다. 일반 PC와 차별화할 만큼의 메모리가 필요하지만, 데이터센터 수준의 구매 규모는 갖추지 못한다.

따라서 NVIDIA DGX Spark 가격 인상은 단순히 일시적 프로모션이 끝나는 수준을 넘어선다. 이는 제품을 규정하는 부품에 가해지는 압박을 반영한다.

이 압박은 구매 판단도 바꾼다. 여러 대의 Spark를 고려하는 팀은 이제 이를 워크스테이션, 임대 가속기, 중앙집중형 추론 서버와 비교해야 한다.

클라우드 컴퓨팅은 지속적인 워크로드에서는 여전히 비싸다. 그러나 모델이나 요구 사항이 커지기 직전에 고정 용량 시스템을 구매할 위험은 피할 수 있다.

로컬 하드웨어는 개인정보 보호, 예측 가능한 가용성, 직접적인 제어를 제공한다. 경제적 이점은 활용률, 모델 적합성, 에너지, 지원, 구매자의 개발 일정에 달려 있다.

유휴 상태로 놓인 워크스테이션의 경제성은 낮다. 내부 코딩 또는 연구 에이전트를 24시간 실행하는 Spark는 더 설득력 있는 사례가 된다.

새 가격 구조는 워크로드 정의를 필수로 만든다. 구매자는 더 이상 공격적인 출시 가격에 이례적으로 큰 메모리 풀을 제공한다는 이유만으로 이 시스템을 정당화할 수 없다.

DGX Spark 64GB와 128GB의 선택은 결국 워크로드 결정이다

적절한 용량은 매개변수 수만이 아니라 컨텍스트 길이, 동시성, 미세 조정 요구 사항, 모델 선택에 달려 있다.

NVIDIA는 더 작은 오픈 모델이 가치 있는 로컬 작업에 충분한 성능을 갖추게 됐다고 주장한다. 회사는 260억~350억 개 매개변수 범위의 모델을 언급한다.

이러한 모델은 코딩, 문서 분석, 연구 지원 및 기타 에이전트 작업을 지원할 수 있다. 양자화는 낮은 정밀도로 가중치를 저장해 메모리 사용량을 더 줄일 수 있다.

회사는 64GB Spark 한 대가 최대 1,000억 개 매개변수 모델을 지원할 수 있다고 말한다. 이 수치는 선택된 조건에서의 상한을 설명한다.

더 작은 모델이 더 나은 작업 경험을 제공하는 경우가 많다. 긴 프롬프트, 동시 요청, 도구, 임베딩, 운영체제 프로세스를 위한 메모리를 남길 수 있기 때문이다.

지속적으로 코딩 에이전트를 실행하는 개발자를 생각해 보자. 시스템은 리포지토리 인덱싱, 문서 처리, 계속 확장되는 대화 보존을 수행하면서 모델도 유지해야 한다.

64GB 풀은 적절한 모델로 이러한 워크플로를 처리할 수 있다. 그러나 개발자가 컨텍스트 길이를 늘리거나 여러 에이전트를 시작하면 제약이 커진다.

문서 분석도 비슷한 압박을 만든다. 연구 에이전트는 보고서, 노트, 소스 파일에서 수천 토큰을 처리해야 할 수 있다.

모델 가중치는 할당의 한 부분일 뿐이다. 추론 엔진, 캐시, 문서 처리 도구, 애플리케이션 서비스가 모두 메모리를 두고 경쟁한다.

이미지 생성과 멀티모달 워크로드는 또 다른 층을 더한다. 모델은 텍스트 인코더, 이미지 디코더, 비전 구성 요소, 임시 텐서를 결합할 수 있다.

미세 조정은 더욱 많은 자원을 요구한다. 모델을 학습하거나 적응시키려면 매개변수, 그래디언트, 옵티마이저 상태, 중간 활성화를 위한 메모리가 필요하다.

저랭크 적응과 같은 기법은 이러한 부담을 줄인다. 하지만 팀이 더 큰 모델, 더 긴 시퀀스, 더 큰 배치를 원할 때는 이를 없애지 못한다.

이것이 DGX Spark 64GB와 128GB 선택을 NVIDIA의 최대 모델 표기만으로 판단할 수 없는 이유다. 구매자는 자신이 의도한 소프트웨어에서 측정값을 확보해야 한다.

128GB 구성은 실험을 위한 더 많은 여유를 제공한다. 즉시 클러스터링하지 않아도 더 큰 모델, 더 넓은 컨텍스트 창, 동시 워크로드를 수용할 수 있다.

용량은 운영 마찰도 줄인다. 개발자는 양자화 수준 변경, 서비스 언로드, 시스템 간 작업 분할에 쓰는 시간을 줄일 수 있다.

64GB 시스템은 더 통제된 환경에 적합하다. 이미 알려진 모델을 표준화하고 해당 모델의 런타임 사용량을 이해하는 팀에 어울린다.

추론 전용 배포는 특히 적합할 수 있다. 팀이 모델을 선택하고 테스트한 후에는 예측 가능한 트래픽을 중심으로 서빙 스택을 최적화할 수 있다.

미세 조정 팀은 더 어려운 결정을 마주한다. 64GB를 기존 Spark의 일반적인 대체재가 아니라 검증해야 할 한계로 취급해야 한다.

NVIDIA의 활용 사례에는 코딩 에이전트, 리서치 에이전트, 이미지 생성, 원격 모델 서빙이 포함된다. 이는 표준화된 워크로드가 아니라 범주다.

작은 리포지토리를 읽는 코딩 에이전트와 수백만 줄의 코드를 분석하는 에이전트는 다르다. 단일 사용자용 리서치 어시스턴트와 부서 공동 서비스도 다르다.

유의미한 질문은 64GB로 로컬 AI를 실행할 수 있는지 여부가 아니다. 분명 실행할 수 있다.

문제는 완전한 목표 워크로드를 성장 여력을 충분히 남긴 채 실행할 수 있는지다. 그 답을 얻으려면 실제 모델과 데이터로 테스트해야 한다.

팀은 최대 메모리 사용량, 프롬프트 처리 속도, 생성 속도, 동시 요청 시 동작을 기록해야 한다. 가장 긴 현실적 컨텍스트도 테스트해야 한다.

소프트웨어 호환성은 NVIDIA의 입지를 강화한다. CUDA는 여전히 많은 AI 라이브러리에서 선호되는 플랫폼이며, 개발자들은 새로운 도구를 NVIDIA용으로 먼저 최적화하는 경우가 많다.

이러한 장점은 더 적은 메모리나 더 높은 도입 비용을 상쇄할 수 있다. 경쟁 시스템에서 지원되지 않는 커널이나 수동 수정이 필요할 때 특히 중요하다.

그러나 CUDA 호환성이 부족한 용량을 만들어낼 수는 없다. 워크로드가 물리 메모리를 초과하면 구매자는 더 작은 모델을 사용하거나, 워크로드를 분산하거나, 다른 시스템을 선택해야 한다.

NVIDIA, 두 개의 소형 시스템을 업그레이드 경로로 전환하다

클러스터링은 더 많은 컴퓨팅 성능과 통합 메모리를 제공하지만, 더 낮은 비용으로 단일 128GB 머신을 재현하지는 못한다.

모든 DGX Spark에는 ConnectX-7 네트워크 인터페이스가 포함된다. 두 시스템은 QSFP 케이블로 직접 연결해 고속 클러스터를 구성할 수 있다.

NVIDIA Sync Cluster Assistant는 머신을 감지하고 구성 상태를 검증하며 ConnectX-7 연결을 준비한다. 이를 통해 여러 수동 네트워킹 단계를 없앤다.

출시 예정인 Model Launcher는 하나 또는 두 노드에 걸친 지원 모델 배포를 단순화할 예정이다. NVIDIA는 Qwen3.8 27B가 초기 옵션 가운데 하나가 될 것이라고 밝혔다.

이 소프트웨어 작업은 실제 약점을 해결한다. 이전에는 분산 로컬 추론에 명령줄 구성과 vLLM 또는 TensorRT-LLM 실행 설정 변경이 필요했다.

NVIDIA는 두 대의 64GB 시스템이 메모리를 통합해 최대 2,000억 개 매개변수를 포함한 모델을 지원한다고 말한다. 또한 총 메모리 대역폭은 두 배가 된다.

NVIDIA의 Qwen3.8 27B 테스트에서 2노드 클러스터는 64GB 시스템 한 대 대비 최대 1.7배 성능을 제공했다.

이 결과는 공급업체가 생성한 것이며 광범위한 독립 검증을 받지 않았다. 보편적인 확장 비율로 해석해서는 안 된다.

분산 성능은 워크로드가 노드 간 데이터를 얼마나 자주 이동시키는지에 따라 달라진다. 인터커넥트가 빠르더라도 네트워크 전송은 지연 시간을 추가한다.

일부 모델은 두 프로세서에 깔끔하게 분할된다. 다른 모델은 동기화, 통신 또는 소프트웨어 오버헤드로 더 큰 성능 손실을 본다.

클러스터는 컴퓨팅, 스토리지, 네트워킹 하드웨어, 물리 시스템도 두 배로 늘린다. 단순히 두 메모리 뱅크를 결합하는 방식이 아니다.

따라서 이 설계는 처리량 측면에서 가치가 있다. 팀은 더 많은 요청을 처리하거나, 여러 에이전트를 실행하거나, 각 장치에 별도 작업을 할당할 수 있다.

하지만 64GB 시스템 두 대를 구매하는 비용은 새 가격의 128GB 시스템 한 대를 구매하는 것보다 훨씬 높다. 클러스터는 추가 컴퓨팅 성능을 제공하지만, 동일한 용량을 더 저렴하게 얻는 경로는 아니다.

업그레이드 제안은 수요가 점진적으로 증가할 때 가장 설득력이 크다. 개발자는 한 노드로 시작해 수요를 확인한 뒤 원래 머신을 교체하지 않고 다른 노드를 추가할 수 있다.

워크로드가 이미 64GB를 초과해 필요로 할 경우에는 매력이 약하다. 이 구매자는 완전한 용량 모델을 피하기 위해 즉각적인 복잡성과 더 높은 총지출을 감수해야 한다.

노드 수가 늘면 전력 사용량과 관리 부담도 증가한다. 팀은 두 운영체제, 두 스토리지 장치, 네트워크 상태, 분산 소프트웨어 동작을 모니터링해야 한다.

NVIDIA Sync는 설정 작업을 줄인다. 하지만 컴퓨터 한 대와 클러스터 사이의 운영상 차이를 없애지는 않는다.

회사는 애플리케이션이 일반 노트북과 데스크톱에서 클러스터 모델에 접근할 수 있다고 말한다. 이는 팀을 위한 소규모 공유 추론 어플라이언스를 만든다.

한 노드는 프라이빗 코딩 모델을 호스팅하고, 직원들은 브라우저나 익숙한 개발 도구를 사용할 수 있다. 민감한 데이터는 조직의 네트워크 내에 남을 수 있다.

이 시나리오는 DGX Spark가 단순한 프리미엄 미니 PC가 아닌 이유를 보여준다. NVIDIA는 더 작은 환경을 위해 데이터센터 소프트웨어, 네트워킹, 배포 패턴을 패키징하고 있다.

이 접근법은 NVIDIA의 플랫폼 전략도 보호한다. 두 번째 Spark를 추가하는 고객은 DGX OS, CUDA, ConnectX, NVIDIA 관리 도구에 대한 의존도를 높인다.

따라서 NVIDIA DGX Spark 64GB는 제품이자 확장 장치로 작동한다. 장기 가치는 엄선된 시연 외 환경에서 클러스터가 얼마나 잘 작동하는지에 달려 있다.

독립 테스트는 두 머신에서 첫 토큰 지연 시간, 지속 생성 성능, 동시 사용자 수, 전력 소모, 장애 복구를 측정해야 한다.

그러한 테스트가 나오기 전까지 NVIDIA의 1.7배 결과는 모든 모델에서 기대할 수 있는 결과라기보다 유용한 상한선이다.

AMD와 Apple, NVIDIA의 메모리 절충안에 압박을 가하다

NVIDIA는 CUDA 통합과 AI 네트워킹을 앞세우지만, 경쟁사들은 더 많은 메모리나 더 폭넓은 데스크톱 유연성을 제공할 수 있다.

AMD는 Ryzen AI Halo 시스템을 통해 소형 로컬 AI 대응을 확대했다. 이 머신들은 통합 메모리와 내장 Radeon 그래픽을 사용한다.

2026년에 발표된 한 AMD 개발자 시스템은 128GB LPDDR5X 메모리와 Linux 또는 Windows 지원을 포함했다. 초기 포지셔닝은 이전 Spark 가격보다 낮았다.

AMD 시스템 비교는 이러한 선택지를 보여준다. AMD는 익숙한 PC 유연성을 제공하는 반면, NVIDIA는 더 확립된 AI 소프트웨어 환경을 제공한다.

여러 제조사의 Ryzen AI Max 시스템도 로컬 모델 사용자를 겨냥한다. 일부는 128GB 구성, 표준 PC 기능, 교체 가능한 스토리지를 제공한다.

더 높은 용량의 AMD 플랫폼은 경쟁을 한층 확대한다. 일부 AI 성능이나 소프트웨어 편의성을 교환할 의향이 있는 사용자에게 대용량 메모리 풀을 우선할 수 있다.

메모리 용량만으로 비교가 결론 나지는 않는다. 리뷰들은 GPU 기반 AI 작업에서 GB10이 동시대 내장 Radeon 대안보다 더 빠른 경우가 많다고 평가해 왔다.

CUDA도 또 다른 장점으로 남는다. 많은 프레임워크, 모델 패키지, 최적화 프로젝트는 동등한 AMD 경로가 성숙하기 전에 NVIDIA 지원을 공개한다.

특정 CUDA 의존 라이브러리가 필요한 개발자에게는 실질적인 대안이 없을 수 있다. 필요한 소프트웨어가 올바르게 실행되지 않는다면 하드웨어 비용 절감은 거의 가치가 없다.

AMD의 Windows 지원은 다른 집단에는 그만큼 중요할 수 있다. 크리에이티브 작업자와 개발자는 전용 Linux 어플라이언스를 유지하지 않고도 로컬 AI를 원할 수 있다.

Apple은 세 번째 경로를 제공한다. Mac Studio 시스템은 높은 메모리 용량, 효율적인 프로세서, 성숙한 데스크톱 운영체제를 결합한다.

Apple의 통합 메모리는 대형 모델이 일반적인 개별 GPU의 비디오 메모리 한계 없이 로드되도록 한다. MLX 같은 도구는 Apple silicon을 직접 겨냥한다.

하지만 소프트웨어 가용성과 모델 성능은 다르다. CUDA 중심 워크플로는 Apple의 Metal 또는 MLX 환경으로 자동 전환되지 않는다.

Mac 시스템에는 DGX Spark의 내장 ConnectX-7 패브릭도 없다. NVIDIA의 직접 2노드 로컬 추론 경로를 중심으로 설계되지 않았다.

따라서 경쟁적 선택에는 여러 차원이 있다.

메모리 용량

• NVIDIA 64GB 시스템: 정의된 모델과 통제된 추론 워크로드에 더 적합하다.

• NVIDIA 128GB 시스템: 여유 공간은 더 크지만, 최근 가격 인상은 본래의 가치를 약화시킨다.

• AMD 및 Apple 시스템: 일부 구성은 서로 다른 성능 및 소프트웨어 절충안과 함께 더 큰 메모리 풀을 제공할 수 있다.

소프트웨어 호환성

• NVIDIA: 폭넓은 CUDA 지원과 사전 구성된 AI 스택.

• AMD: 개선되는 ROCm 지원과 일반적인 Windows 및 Linux 옵션.

• Apple: 강력한 네이티브 애플리케이션과 MLX 도구이지만 제한적인 CUDA 호환성.

확장 전략

• NVIDIA: 보조 구성을 활용한 직접 ConnectX-7 클러스터링.

• AMD: 보다 일반적인 워크스테이션 및 네트워크 배포 선택지.

• Apple: 동등한 Spark 클러스터링 설계 없이 높은 단일 시스템 용량 제공.

일반 컴퓨팅

• NVIDIA: DGX OS는 시스템을 AI 개발 및 추론에 집중시킨다.

• AMD: 표준 고성능 PC에 더 가깝게 작동한다.

• Apple: 로컬 AI를 확립된 크리에이티브 및 생산성 플랫폼과 결합한다.

따라서 DGX Spark 64GB와 128GB의 선택에는 대안도 포함되어야 한다. 구매자는 GB10을 프라이빗 로컬 모델로 가는 유일한 경로로 여겨서는 안 된다.

NVIDIA의 가장 강력한 방어 수단은 통합이다. 실리콘, CUDA, 최적화된 런타임, 네트워킹, 시스템 관리를 하나의 지원되는 설계 아래 결합한다.

취약점은 메모리의 가치다. 구매자가 주로 용량을 필요로 한다면, 경쟁사는 모든 GB10 성능 결과를 맞추지 않고도 NVIDIA에 도전할 수 있다.

최신 가격은 그 틈을 넓힌다. 대안이 필요한 모델을 한 대의 머신에 담을 수 있다면 구매자는 더 느린 추론을 감수할 수 있다.

반대로 CUDA를 통해 더 빠르게 실행되는 작은 모델은 일상적 사용에서 더 크지만 느린 배포보다 뛰어날 수 있다. 실제 워크로드가 승자를 결정해야 한다.

64GB 출시 이후 구매자가 주시해야 할 것

세 가지 신호가 소형 Spark가 실용적인 플랫폼이 될지, 아니면 메모리 부족에 대한 값비싼 대응책이 될지를 보여줄 것이다.

첫 번째 신호는 10월 23일과 그 이후의 파트너 공급 상황이다. NVIDIA는 6개 제조사를 지명했지만, 정확한 구성과 출하 물량이 중요하다.

명목상 시작 구성은 계속 구매할 수 없다면 가치가 거의 없다. 구매자는 발표 페이지나 품절 대기 목록이 아니라 실제 인도된 시스템을 추적해야 한다.

파트너 사양도 신중하게 비교해야 한다. 스토리지 용량, 포트 구성, 지역별 공급, 보증 서비스, 번들 소프트웨어는 실제 가치를 바꿀 수 있다.

여러 제조사가 안정적인 재고를 유지한다면 64GB 출시는 NVIDIA가 사용 가능한 진입점을 만들었다는 주장을 강화할 것이다.

재고가 계속 부족하다면 이 제품은 폭넓게 접근 가능한 개발 머신이라기보다 가격 기준점에 더 가까워 보일 것이다.

두 번째 신호는 독립적인 워크로드 테스트다. 리뷰는 64GB Spark 한 대, 128GB Spark 한 대, 64GB 2노드 클러스터를 비교해야 한다.

모델 로딩만으로는 충분하지 않다. 테스트에는 긴 컨텍스트, 동시 사용자, 에이전트 도구 호출, 파인튜닝 워크로드, 지속 운영이 필요하다.

가장 중요한 측정 항목에는 사용 가능한 메모리, 첫 토큰까지 걸리는 시간, 출력 속도, 에너지 소비량, 클러스터 확장 효율이 포함된다.

NVIDIA의 최대 매개변수 수 주장은 특별히 면밀히 검토해야 한다. 기술적으로 맞는 모델이라도 비현실적인 경험을 제공할 수 있다.

독립 테스트는 변하지 않은 대역폭이 대부분의 단일 노드 성능을 유지하는지도 드러낼 수 있다. 용량 제약 워크로드는 대역폭 제약 워크로드와 다르게 동작해야 한다.

더 작은 머신이 널리 사용되는 270억~350억 매개변수 모델에서 예측 가능하게 작동한다면 NVIDIA의 포지셔닝은 뒷받침될 것이다.

일반적인 컨텍스트나 동시 에이전트가 메모리를 소진한다면, 64GB 버전은 마케팅이 시사하는 것보다 훨씬 좁은 고객층에만 적합할 것이다.

세 번째 신호는 경쟁 대응이다. AMD 시스템 제조사와 Apple은 메모리 용량, 소프트웨어 지원, 더 낮은 총소유비용을 통해 NVIDIA에 압박을 가할 수 있다.

AMD는 ROCm 호환성을 개선하고 Windows 기반 로컬 AI를 홍보할 여지가 있다. 모델 실행 도구의 지원이 향상되면 CUDA의 실질적 종속성은 약해질 것이다.

Apple은 대용량 통합 메모리 구성과 효율적인 로컬 추론을 강조할 수 있다. 그 기회는 이미 macOS를 사용하는 개발자 사이에서 가장 크다.

NVIDIA는 또 다른 하드웨어 변경 대신 더 나은 소프트웨어로 대응할 수 있다. Sync Cluster Assistant와 Model Launcher는 그러한 전략의 초기 사례다.

메모리 시장은 여전히 외부 변수로 남아 있습니다. 공급 부족이 계속되면 높은 가격이 일상화되고, 제조업체는 더 작은 구성에 무게를 둘 가능성이 있습니다.

공급이 개선되면 최근의 가격 인상이 일시적인지 시험대에 오르게 됩니다. 또한 NVIDIA가 엔트리급 제품에 더 많은 메모리를 제공하도록 하는 압박도 다시 커질 수 있습니다.

엔터프라이즈 구매자에게 당장의 조치는 분명합니다. 장비를 고르기 전에 워크로드를 정의해야 합니다.

사용하려는 모델, 컨텍스트 길이, 사용자 수, 파인튜닝 방식을 테스트하세요. 비교에는 프레임워크 호환성과 운영 비용도 포함해야 합니다.

NVIDIA DGX Spark 64GB는 더 낮은 메모리 한도와 함께 동일한 GB10 기반을 제공합니다. 이는 특정 목적의 추론 및 에이전트 배포에는 적합할 수 있습니다.

하지만 이를 기존 128GB 시스템의 범용적인 대체재로 봐서는 안 됩니다. 128GB 모델은 여전히 더 유연하지만, 높은 가격만큼 더 높은 활용도가 요구됩니다.

귀사의 워크로드는 CUDA 성능과 NVIDIA의 관리형 스택, 혹은 하나의 시스템이 제공할 수 있는 최대 메모리 풀 중 어느 쪽에서 더 큰 이점을 얻을까요? 두 Spark 구성 중 하나를 선택하기 전에 이를 검증해 보세요.