Gelsinger, HBM을 ‘형편없다’고 비판… SK hynix는 그 이후를 준비한다

Pat Gelsinger는 고대역폭 메모리(HBM)를 “형편없다”고 비판했고, 이 발언은 빠르게 Google News와 반도체 업계 보도를 통해 확산됐다. 그의 비판은 대부분의 첨단 AI 가속기를 뒷받침하는 메모리 기술에 내재한 발열, 전력, 패키징상의 절충을 겨냥했다.

이 발언이 특히 적대적으로 들리는 이유는 SK hynix가 최근의 성공을 HBM을 중심으로 구축했기 때문이다. 그러나 SK hynix의 수석 부사장이자 펠로우인 Hoshik Kim은 이 기술을 메모리의 최종 목적지로 옹호하지 않았다. 같은 RAISE Summit 토론에서 Kim은 업계가 현재의 아키텍처를 넘어설 필요가 있음을 인정했다.

이 대화는 HBM이 실패했다는 자백이 아니었다. 오히려 더 중요한 전환을 드러냈다. HBM 붐의 가장 큰 수혜 기업들은 이미 표준화된 HBM 스택에 대한 의존도를 낮출 수 있는 기술에 투자하고 있다.

Google News 헤드라인이 놓친 것

Gelsinger는 AI 프로세서 곁의 고속 메모리 필요성이 아니라, 오늘날 HBM의 한계를 비판했다.

현재 Playground Global의 제너럴 파트너인 전 Intel 최고경영자 Gelsinger는 파리에서 열린 RAISE Summit 2026에서 발언했다. 이 행사는 7월 7일부터 7월 9일까지 열렸다. Kim은 “AI Has a Memory Problem”이라는 제목의 패널에 참여했다.

토론에서 Gelsinger는 HBM을 기술적으로 좋지 않은 절충안이라고 설명했다. HBM은 여러 개의 동적 랜덤 액세스 메모리 다이를 수직으로 쌓고, 짧고 조밀한 전기 경로로 연결한다. 이 구조는 프로세서에서 더 멀리 떨어진 일반 메모리 모듈보다 훨씬 높은 대역폭을 제공한다.

하지만 같은 적층 구조는 열 관리와 제조상의 과제를 만든다. 하위 레이어에서 발생한 열은 냉각 시스템에 도달하기 전에 다른 다이를 통과해야 한다. 더 높은 적층과 복잡한 패키징은 이 문제를 심화시킬 수 있다.

Gelsinger는 변화하는 메모리 사업에 관한 인터뷰에서도 같은 주장을 폈다. 그는 “오늘날 우리가 알고 애용하는 HBM은 형편없는 메모리”라고 말했다. 공개된 메모리 사업 분석에 따르면, 그의 설명은 갇힌 열과 그에 따른 프로세서 성능 압박에 초점을 맞췄다.

서밋 영상은 이 대화를 SK hynix의 이례적인 양보처럼 들리게 했다. Kim은 HBM이 최종 해답이 아니라는 데 동의하는 듯 보였다. 이어 다른 패널 참가자는 이 순간을 SK hynix가 HBM이 나쁜 메모리임을 인정한 것처럼 표현했다.

전체 맥락은 덜 극적이다. AI 가속기는 모델 가중치와 중간 데이터를 엄청난 속도로 이동시켜야 하므로 HBM은 여전히 필수적이다. 기존 서버 메모리는 비슷한 대역폭이나 에너지 효율로 모든 가속기 요청을 처리할 수 없다.

견해차는 HBM이 실용적 한계에 도달한 뒤에 무엇이 일어날지에 관한 것이다. Gelsinger는 메모리와 프로세서의 더 긴밀한 통합을 선호한다. SK hynix는 맞춤형 HBM, 새로운 메모리 계층, 첨단 패키징, 그리고 서로 다른 저장 기술을 결합한 제품을 탐색하고 있다.

이 구분은 중요하다. 나쁜 제품에는 설득력 있는 용도가 없다. 불완전한 제품은 이용 가능한 모든 대안이 더 심한 제약을 부과하기 때문에 시장을 지배할 수 있다.

현재 HBM은 두 번째 범주에 속한다. 제조 비용이 높고 냉각이 어렵으며 패키징 용량에 크게 제약받는다. 그럼에도 첨단 GPU에 데이터를 공급하는 가장 효과적인 방식 가운데 하나다.

Google News 헤드라인은 대립을 포착했지만 기술적 논쟁을 압축했다. Gelsinger는 아키텍처의 장기 효율성에 이의를 제기했다. Kim은 SK hynix가 이미 해결에 착수한 로드맵 문제를 인정했다.

AI 시스템이 HBM의 결함을 계속 받아들이는 이유

AI 인프라는 메모리 자체가 열적·경제적 비용을 만들더라도 프로세서가 데이터에 굶주려 있기 때문에 HBM을 사용한다.

현대 AI 가속기는 매초 엄청난 수의 수학 연산을 수행할 수 있다. 그러나 모델 데이터가 너무 느리게 도착하면 그 연산은 큰 의미를 갖지 못한다. 프로세서 처리량과 메모리 공급 간의 격차는 흔히 메모리 월(memory wall)이라고 불린다.

학습은 이 문제의 한 형태를 만든다. 수천 개의 가속기가 파라미터, 그래디언트, 임시 결과를 반복적으로 교환한다. 느린 메모리 경로는 값비싼 연산 유닛을 대기 상태로 남긴다.

추론은 또 다른 형태를 만든다. 서버는 모델 가중치를 읽고 이후 토큰 생성에 필요한 정보를 저장하는 키-값 캐시를 관리해야 한다. 더 큰 모델과 더 긴 컨텍스트는 이러한 메모리 수요를 늘린다.

HBM은 넓은 메모리 인터페이스를 가속기 가까이에 배치해 병목을 완화한다. 많은 연결을 병렬로 작동시켜 데이터를 전송한다. 이 설계는 오직 극도로 높은 클록 속도에만 의존하는 방식을 피한다.

이러한 근접성은 Nvidia, AMD, 그리고 맞춤형 가속기 개발업체가 AI 시스템을 확장하는 데 도움을 줬다. 또한 HBM 공급을 반도체 시장 전반의 전략적 제약으로 만들었다.

물리적 배치는 여전히 대가를 수반한다. 수직으로 쌓인 다이는 작은 영역에 열을 집중시킨다. 레이어가 늘어날수록 제조 복잡성이 커지고, 결함은 각 배치에서 생산되는 사용 가능한 패키지 수를 줄일 수 있다.

패키징은 메모리 공급업체의 운명도 파운드리 및 가속기 공급업체와 연결한다. HBM은 고립된 범용 제품으로 단순 생산해 표준 소켓에 장착할 수 없다. 프로세서 인터페이스, 패키지 설계, 전력 한계, 냉각 시스템에 맞아야 한다.

따라서 Gelsinger의 “형편없다”는 표현은 엔지니어링상의 절충을 지적한다. HBM은 더 큰 발열, 비용, 통합 복잡성을 감수하는 방식으로 대역폭 부족을 해결한다.

SK hynix도 이러한 제약을 부정하지 않는다. 자체 공개 자료에서도 메모리 기업은 고객의 프로세서, 워크로드, 전력 요구 사항, 열 설계를 이해해야 한다고 말한다. 이 회사의 풀스택 전략은 상호 교체 가능한 메모리 부품 공급을 넘어서는 방향을 명시적으로 제시한다.

이러한 변화는 더 우아한 아키텍처가 가능해진다고 해서 HBM이 곧 사라지지 않는 이유도 설명한다. AI 하드웨어 플랫폼에는 수년간의 설계, 인증, 제조 준비가 필요하다. 개발자들 또한 이미 배치된 가속기에서 사용 가능한 메모리에 맞춰 소프트웨어를 최적화한다.

데이터센터 운영자들은 HBM 탑재 시스템에 막대한 투자를 해왔다. 이들에게는 예측 가능한 신뢰성과 성능을 갖춘 호환 제품이 필요하다. 대체 기술은 현실적인 제조 및 배포 일정에 맞으면서 HBM보다 뛰어나야 한다.

따라서 현재의 아키텍처는 기술적으로 과도기적 위치가 되더라도 상업적으로는 여전히 중요할 수 있다. Ethernet, 플래시 스토리지, 실리콘 공정 기술도 비슷한 패턴을 따랐다. 각각은 핵심 설계와 함께 주변 생태계가 개선됐기 때문에 반복적인 비판 속에서도 살아남았다.

HBM 공급업체는 레이어를 추가하고, 본딩 방식을 개선하며, 베이스 다이를 맞춤화하고, 냉각을 정교화할 수 있다. 이런 변화는 근본적인 절충을 없애지는 못하더라도 아키텍처의 유효 수명을 연장한다.

SK hynix가 직면한 후속 기술의 딜레마

SK hynix는 HBM 리더십을 지키는 동시에 고객이 더 폭넓고 맞춤화된 메모리 계층에 의존하는 시스템을 구축하도록 도와야 한다.

HBM은 메모리를 배경 부품에서 AI 시스템 설계의 핵심 요소로 바꿨다. SK hynix는 가속기 기업 및 첨단 패키징 파트너와 긴밀히 협력하며 영향력을 얻었다. 그러나 모든 고객이 용량, 대역폭, 전력, 지연 시간의 서로 다른 조합을 요구하면서 이 위치를 지키기는 더 어려워지고 있다.

회사는 더 이상 광범위한 시장을 위해 하나의 표준화된 부품을 생산하는 방식만으로 생산량을 극대화할 수 없다. 점점 더 프로세서 설계자, 파운드리, 패키징 제공업체, 클라우드 운영자와 로드맵을 조율해야 한다.

이것이 Gelsinger의 비판 이면에 있는 비즈니스 모델상의 압박이다. 더 긴밀한 프로세서-메모리 통합은 성능을 개선할 수 있지만, 잘못된 고객이나 플랫폼을 선택했을 때의 비용을 높인다.

기존 메모리 칩은 많은 시스템에 쓰일 수 있다. 고도로 맞춤화된 제품은 하나의 프로세서 세대에 의존할 수 있다. 해당 프로세서의 출시 지연이나 수요 부진은 공급업체에 사용할 수 없는 생산 능력과 개발 비용을 남길 수 있다.

SK hynix는 이미 맞춤화를 받아들였다. 2026년 제품 발표에는 맞춤형 HBM 구조와 프로세싱 인 메모리 개념이 포함됐다. 프로세싱 인 메모리는 일부 연산을 저장된 데이터 가까이로 옮겨 메모리와 주 프로세서 간 데이터 전송을 줄인다.

CES 2026에서 이 회사는 48 GB 용량의 16단 HBM4 제품을 선보였다. 또한 CES 메모리 포트폴리오에 따르면 맞춤형 HBM과 프로세싱 인 메모리 설계를 중심으로 구축한 AI 시스템 시연도 공개했다.

이 제품들은 SK hynix가 HBM을 진화 가능한 플랫폼으로 본다는 점을 시사한다. 회사는 각 세대를 변화 없는 범용 제품의 더 빠른 버전으로 취급하지 않는다.

이 전략은 어려운 균형을 요구한다. 고객은 자신의 가속기에 맞는 특화 제품을 원한다. SK hynix는 설계를 재사용하고, 비용을 관리하며, 경쟁하는 여러 고객에게 공급할 수 있을 만큼의 공통성도 원한다.

TSMC와의 협력은 이러한 긴장을 관리하는 한 가지 방법을 제시한다. 여러 가속기 설계업체에 서비스를 제공하는 파운드리는 공유 패키징 및 통합 방식을 지원할 수 있다. 그러면 SK hynix는 모든 것을 한 칩 공급업체에 걸지 않고 여러 플랫폼에 참여할 수 있다.

Samsung과 Micron도 같은 전환에 직면해 있다. 두 회사 모두 제조 수율을 높이는 동시에 주요 가속기 고객사에서 제품 인증을 받아야 한다. 또한 맞춤형 메모리와 첨단 패키징에 대한 신뢰할 수 있는 로드맵이 필요하다.

따라서 경쟁은 헤드라인 대역폭을 넘어설 것이다. 구매자들은 열 특성, 에너지 사용량, 용량, 패키징 가용성, 소프트웨어 지원, 공급 신뢰성을 평가하게 될 것이다.

SK hynix는 생산 경험과 긴밀한 고객 관계를 갖추고 있어 여전히 유리한 위치에 있다. 그러나 한 HBM 세대에서의 리더십이 맞춤형 베이스 다이나 프로세서 통합을 중심으로 구축되는 메모리 아키텍처에서의 리더십을 보장하지는 않는다.

회사의 강점은 메모리 칩 카탈로그라기보다 공동 설계 관계의 네트워크에 가까워지고 있다. 이 모델은 지속적인 고객 관계를 만들 수 있지만, 더 크고 더 이른 투자를 요구하기도 한다.

진짜 경쟁은 HBM과 메모리 계층 간의 대결이다

오늘날 HBM의 유력한 후속 기술은 하나의 대체 칩이 아니라, 서로 다른 데이터를 서로 다른 메모리 계층에 배치하는 조율된 계층 구조다.

AI 워크로드는 모든 바이트를 동등하게 취급하지 않는다. 일부 데이터는 즉시 프로세서에 도달해야 한다. 다른 정보는 시스템이 용량을 늘리거나 에너지 사용을 줄일 수 있다면 추가 지연을 감수할 수 있다.

HBM은 가장 빠른 계층을 담당하지만, 모든 것을 여기에 저장하는 것은 비현실적이다. 일반 DRAM 및 플래시 스토리지에 비해 용량은 여전히 제한적이다. 제조와 패키징 비용도 더 높다.

SK hynix는 가능한 추가 계층 중 하나로 High Bandwidth Flash, 즉 HBF를 개발하고 있다. HBF는 NAND 플래시의 고밀도와 AI 인프라에 적합한 대역폭 특성을 결합하는 것을 목표로 한다. 어느 한 제품을 완전히 대체하기보다 HBM과 솔리드 스테이트 스토리지 사이에 위치하게 될 것이다.

회사는 또한 Compute Express Link를 통한 메모리 확장도 연구하고 있다. CXL은 프로세서가 일관된 주소 지정을 통해 풀링된 또는 외부 메모리에 접근할 수 있게 하는 인터커넥트 표준이다. 이를 통해 AI 서버는 모든 바이트를 가속기 옆에 배치하지 않고도 더 큰 용량을 확보할 수 있다.

SK hynix 연구진은 CXL로 연결된 메모리와 NVMe 스토리지를 활용한 계층형 추론 설계를 시험했다. 이 접근 방식은 모든 모델 정보가 HBM에 있어야 한다고 전제하는 대신 성능 요구사항에 따라 데이터를 이동시킨다.

이 때문에 RAISE Summit에서 나온 김의 발언이 중요하다. HBM이 최종 해답이 아니라고 말한 것은 회사가 공개한 로드맵과도 일치한다. SK hynix는 자사의 AI 메모리 로드맵에서 모든 AI 데이터를 적층 메모리에 유지하는 방식의 경제적 한계에 대응하는 기술로 HBF를 설명했다.

프로세서 통합은 또 다른 경로다. 메모리를 프로세서에 직접 배치하거나 더 발전한 패키징을 통해 연결하면 전기적 경로를 단축할 수 있다. 데이터 이동에 소비되는 에너지도 줄일 수 있다.

그러나 통합이 어려운 선택을 없애지는 않는다. 온패키지 용량에는 제약이 있고, 긴밀하게 결합된 설계는 독립적으로 업그레이드하기가 더 어렵다. 프로세서 설계가 실패하면 이를 위해 투입한 맞춤형 메모리 투자도 함께 타격을 받을 수 있다.

계층형 시스템은 이러한 위험을 분산한다. 자주 접근하는 모델 가중치는 HBM에 유지할 수 있다. 더 큰 캐시 정보 집합은 CXL 메모리나 고대역폭 플래시로 옮길 수 있다. 중요도가 낮은 데이터는 기존 스토리지에 보관할 수 있다.

소프트웨어는 데이터가 어디에 있어야 하는지 판단하고, 새로운 병목을 만들지 않으면서 이를 이동해야 한다. 이는 메모리 관리를 단순한 부품 사양이 아니라 시스템 수준의 최적화 문제로 바꾼다.

이 변화는 칩 기업뿐 아니라 개발자에게도 영향을 미친다. 모델 아키텍처, 양자화, 캐싱, 배치 처리, 추론 스케줄링은 모두 메모리 트래픽에 영향을 준다. 더 나은 소프트웨어는 새로운 반도체 공정을 기다리지 않고도 HBM 수요를 줄일 수 있다.

기업 구매자에게 피크 대역폭은 불완전한 구매 지표가 될 것이다. 유용한 평가는 와트당 처리량, 현실적인 워크로드에서의 지연 시간, 가용 용량, 데이터가 HBM을 넘어설 때의 성능을 포함하게 된다.

이 계층 구조는 HBM이 완전한 해답이라는 관점에 맞서는 주된 대안이다. HBM은 가장 빠른 계층으로 남을 수 있지만, 모든 AI 메모리 문제의 중심 해법이라는 지위는 잃을 수 있다.

“형편없는 메모리”라는 평결에 신중함이 필요한 이유

HBM의 약점은 분명하지만, 아직 어떤 후속 기술도 대역폭, 배포 규모, 고객 수용성의 조합에서 HBM을 따라잡지 못했다.

Gelsinger가 적층 메모리를 비판하는 데에는 분명한 기술적 근거가 있다. 열, 전력, 수율, 패키징 복잡성은 측정 가능한 제약이다. 그러나 프로세서 통합 메모리가 기존 HBM을 대체할 것이라는 더 강한 주장은 여전히 불확실하다.

첫째, 통합은 제품 로드맵 간의 의존성을 높인다. 가속기 기업들은 긴 주기에 걸쳐 아키텍처, 인터페이스, 제조 계획을 수정한다. 메모리 공급업체는 수요가 명확해지기 전에 연구와 생산 자원을 투입해야 한다.

둘째, 냉각 기술 개선은 HBM의 수명을 연장할 수 있다. 패키지 설계자는 소재, 적층 구조, 열 인터페이스, 시스템 냉각 방식을 바꿀 수 있다. 하이브리드 본딩은 연결부 크기를 줄이고 전기적 특성을 개선할 수도 있다.

셋째, HBM 표준은 경쟁을 유지할 수 있다. 표준 인터페이스는 여러 공급업체가 호환 가능한 제품을 개발할 수 있게 한다. 고도로 맞춤화된 메모리로 이동하면 성능은 높아질 수 있지만 상호 교환성은 낮아질 수 있다.

이러한 상충 관계는 클라우드 기업에 중요하다. 맞춤형 패키지는 구매자를 하나의 프로세서와 메모리 조합에 묶어둘 수 있다. 표준화된 제품은 공급업체가 지연이나 수율 문제를 겪을 때 더 많은 선택지를 제공한다.

넷째, 새로운 메모리 계층도 자체적인 지연 시간과 소프트웨어 비용을 도입한다. CXL은 용량을 확장하지만, 데이터는 여전히 가속기 옆에 저장된 정보보다 더 먼 거리를 이동한다. NAND 기반 메모리는 높은 집적도를 제공하지만 DRAM과는 내구성과 접근 특성이 다르다.

계층형 아키텍처는 소프트웨어가 데이터를 지능적으로 배치할 때만 작동한다. 배치가 부실하면 이론적 이점이 사라지고 예측하기 어려운 성능이 나타날 수 있다.

SK hynix의 현재 제품 전략은 이러한 불확실성을 반영한다. 회사는 HBM4 투자를 이어가는 한편, 이를 보완하는 제품도 연구하고 있다. 회사의 추론 프로그램에 따르면, SK hynix는 GTC 2026에서 대형 모델 추론 효율을 개선하는 도구로 HBM4를 제시했다.

이는 HBM 이후를 준비하는 것과 모순되지 않는다. 반도체 기업들은 현재 아키텍처를 개선하면서 다음 아키텍처에도 자금을 투입하는 경우가 많다. 고객에게는 유망한 실험실 설계만이 아니라 지금 배포할 수 있는 제품이 필요하다.

시장 역시 SK hynix가 HBM을 성급하게 포기할 이유를 거의 주지 않는다. AI 가속기 수요는 계속해서 고대역폭 제품에 보상하고 있다. 공급 계약과 인증 주기는 기술적 비판만으로 즉시 뒤집을 수 없는 상업적 추진력을 만든다.

Gelsinger는 더 긴밀한 메모리-컴퓨팅 통합을 추진하는 기업의 투자자라는 관점에서도 이 문제에 접근한다. 그의 전문성은 비판의 의미를 키우지만, 독자는 그가 대안적 방향을 지지한다는 점도 인식해야 한다.

김은 매출과 고객 관계 측면에서 HBM의 혜택을 받는 회사를 대표한다. 그가 후속 기술을 논의할 의향을 보인 점 역시 주목할 만하지만, 이것이 SK hynix가 하나의 대체 아키텍처를 선택했다는 증거는 아니다.

책임 있는 결론은 더 제한적이다. HBM은 이상적이지 않으면서도 필수적인 기술이 됐다. 그 단점은 로드맵을 재편할 만큼 심각하지만, 기존 배포 환경을 쓸모없게 만들 정도는 아니다.

Google News 독자는 이 교환을 활발한 아키텍처 전환의 증거로 받아들여야 한다. 업계가 이미 승자를 선택했다는 증거는 아니다.

HBM 이후를 보여줄 세 가지 신호

HBM의 미래는 제품 인증, 배포된 메모리 계층 구조, 그리고 통합이 완성된 시스템을 개선한다는 증거를 통해 더 분명해질 것이다.

첫 번째 신호는 HBM4와 그 후속 제품에 대한 고객 인증이다. 샘플을 발표했다고 해서 양산, 허용 가능한 수율, 가속기 패키지 내부에서의 안정적 동작이 입증되는 것은 아니다.

SK hynix, Samsung, Micron이 고객 일정에 맞춰 인증 제품을 공급할 수 있는지 지켜봐야 한다. 지연은 복잡성이 관리하기 더 어려워지고 있다는 Gelsinger의 주장을 강화할 것이다. 안정적인 양산 전환은 HBM에 여전히 발전할 여지가 있음을 보여줄 것이다.

열 성능은 명목상 대역폭만큼 중요하다. 공급업체들은 추가 적층이 지속 워크로드에서 프로세서의 속도 저하를 강요하지 않는다는 점을 보여야 한다. 실제 애플리케이션 결과가 피크 사양보다 더 많은 정보를 제공할 것이다.

두 번째 신호는 계층형 메모리의 상업적 배포다. HBF, CXL 메모리 확장, 컴퓨테이셔널 스토리지는 시연과 연구 논문을 넘어 채택돼야 한다.

성공적인 시스템은 용인하기 어려운 지연 시간을 만들지 않으면서 부족한 HBM에 대한 의존도를 줄여야 한다. 또한 신중하게 선택된 하나의 벤치마크뿐 아니라 유용한 모델과 추론 패턴 전반에서 작동해야 한다.

개발자들은 소프트웨어가 이러한 계층을 어떻게 노출하는지 지켜봐야 한다. 자동 배치는 도입을 더 쉽게 만들 것이다. 광범위한 수동 튜닝을 요구하는 시스템은 전문 엔지니어링 팀을 둔 하이퍼스케일러에만 제한적으로 남을 수 있다.

이러한 발전은 지식 관리와도 유사한 측면이 있다. 유용한 시스템은 긴급성, 맥락, 검색 비용에 따라 정보를 배치한다. 개인 지식 베이스는 반도체 하드웨어보다 훨씬 높은 애플리케이션 수준에서 작동하지만, 유사한 원리를 따른다.

세 번째 신호는 제조 규모에서 신뢰할 수 있는 프로세서-메모리 통합이다. 프로토타입은 낮은 지연 시간을 보여줄 수 있지만, 상용 제품은 수율, 냉각, 수리, 비용 요구사항도 충족해야 한다.

증거에는 완성된 시스템의 와트당 성능이 포함돼야 한다. 메모리 접근은 개선하지만 패키지 제조를 지나치게 어렵게 만드는 설계는 HBM을 광범위하게 대체하지 못할 것이다.

고객 다양성도 또 다른 시험대가 된다. 통합 제품이 하나의 가속기에서만 작동한다면 가치 있는 틈새 시장이 될 수 있다. 더 폭넓은 채택은 메모리 산업이 공동 설계된 실리콘으로 이동하고 있다는 Gelsinger의 예측을 뒷받침할 것이다.

이러한 신호는 누가 가장 큰 압박을 받는지도 보여줄 것이다. SK hynix는 HBM 리더십을 시스템 설계 영향력으로 전환해야 한다. Samsung은 제조 역량의 폭을 활용해 인증을 확보해야 한다. Micron은 모든 경쟁사의 규모와 맞먹지 못하는 상황에서 경쟁해야 한다.

가속기 설계자들도 각자의 선택에 직면해 있다. 더욱 맞춤화된 메모리를 요구할 수도 있고, 공급업체 의존성 확대를 받아들일 수도 있으며, 유연성을 유지하기 위해 소프트웨어와 계층화를 활용할 수도 있다.

가장 중요한 결과는 HBM이 죽었다는 선언이 아닐 것이다. 값비싼 가속기가 데이터를 기다리는 빈도가 측정 가능하게 줄어드는 것이 될 것이다.

그것이 Google News 대립의 핵심 질문이다. 업계는 HBM의 대역폭을 유지하면서 열, 용량, 비즈니스 모델의 제약에서 벗어날 수 있을까?

다음 제품 주기에는 가장 자극적인 인용구를 무시하고 시스템을 지켜봐야 한다. 인증 일정, 지속 성능, 실제 계층형 메모리 배포가 HBM이 AI 인프라의 중심으로 남을지, 아니면 여러 계층 중 하나가 될지를 보여줄 것이다.