SK hynix, HBF를 업계에 공개했지만 진짜 시험대는 하드웨어

SK hynix가 최초의 High Bandwidth Flash 사양을 공개하며, 제안 단계였던 AI 메모리 계층을 공개 기술 청사진으로 전환했다. 8월 4일 발표는 Google News를 통해 널리 알려졌지만, 핵심 쟁점은 제목 아래에 있다. HBF는 최대 512GB 용량과 3.0TB/s에 이르는 대역폭을 약속하지만, 아직 어떤 상용 HBF 시스템도 이러한 목표를 검증하지 못했다.

Open Compute Project를 통해 Sandisk와 함께 개발한 이 사양은 High Bandwidth Memory와 기존 솔리드 스테이트 드라이브 사이에 위치하는 NAND 플래시를 설명한다. 사용자 요청을 처리하는 동안 가속기가 대규모 모델 가중치를 반복적으로 읽는 AI inference를 겨냥한다. Google과 AI 프로세서 개발사 Tenstorrent가 컨소시엄에 합류하면서, 이 노력은 두 메모리 공급업체를 넘어선 잠재적 사용자를 확보했다.

이는 OpenAI가 메모리 기술을 발표한 것이 아니다. “Open”은 ChatGPT 제작사가 아니라 사양과 그 개발 모델을 뜻한다. 실제 경쟁은 공개형 용량 우선 메모리 계층과, 모델을 주로 값비싼 HBM에 배치해 온 기존 관행 사이에서 벌어진다. SK hynix는 이제 사양, 신뢰할 만한 파트너, 그리고 야심 찬 목표를 갖췄다. 하지만 작동하는 실리콘, 가속기 지원, 그리고 양산 경제성은 여전히 필요하다.

SK hynix, HBF를 공개 사양으로 전환

이번 공개는 시스템 설계자에게 공통의 HBF 목표를 제공하지만, 완성된 제품을 제공하는 것은 아니다.

SK hynix와 Sandisk는 캘리포니아주 산타클라라에서 Future of Memory and Storage 컨퍼런스가 개막하며 이 사양을 소개했다. 행사는 2026년 8월 4일부터 8월 6일까지 열렸다. 이번 발표는 Open Compute Project 워크스트림 아래에서 약 6개월간 진행된 표준화 작업에 이은 것이다.

양사는 2월 25일 Sandisk의 밀피타스 본사에서 해당 워크스트림을 출범시켰다. 당시 HBF를 HBM과 SSD 스토리지 사이의 새로운 계층으로 처음 설명했다. 새로 공개된 사양은 이 개념에 구체적인 용량, 성능 등급, 인터페이스, 패키징 요건, 신뢰성 지침을 부여한다.

첫 버전은 8단 또는 16단 NAND 다이 구성의 패키지를 다룬다. 스택당 최대 용량은 512GB에 달한다. 공개 발표와 이후 기술 보도에 따르면, 세 가지 성능 등급은 약 0.4TB/s에서 3.0TB/s까지를 포괄한다.

이 범위가 중요한 이유는 HBF가 단일한 고정 성능 지점이 아니기 때문이다. 낮은 등급은 용량과 효율성을 강조할 수 있으며, 이후 구현에서는 고급 HBM에 가까운 대역폭을 추구할 수 있다. 이러한 유연성은 또한 3.0TB/s 상한을 초세대 제품의 출하 보증으로 오해해서는 안 된다는 뜻이기도 하다.

HBF는 HBM에 사용되는 DRAM이 아니라 SSD에서 쓰이는 비휘발성 기술인 NAND 플래시를 사용한다. 비휘발성 메모리는 지속적인 전력 공급 없이도 저장된 데이터를 유지한다. 그러나 일반 NAND는 HBM 속도에 근접하는 수준으로 AI 가속기에 데이터를 공급할 수 없다.

HBF는 특수 NAND 다이를 적층하고 다수의 내부 어레이에 병렬로 접근해 이 격차를 해소한다. 로직 베이스 다이는 이러한 연결을 관리하고 프로세서에 훨씬 넓은 경로를 제공한다. 그 결과 패키지는 NAND의 밀도 이점을 유지하면서도 HBM의 밀결합 설계 철학을 닮게 된다.

이 사양은 HBF와 호스트 프로세서 간 연결에 Universal Chiplet Interconnect Express, 즉 UCIe도 채택한다. UCIe는 칩렛이 하나의 패키지 안에서 데이터를 교환할 수 있게 하는 공개 다이-투-다이 인터커넥트다. 이를 포함함으로써 CPU, GPU, 가속기 설계자에게 공통의 통합 경로가 제공된다.

UCIe specification은 상호운용성을 자동으로 보장하지 않는다. 공급업체는 여전히 컨트롤러, 메모리 관리, 오류 처리, 패키징, 펌웨어, 소프트웨어 지원을 마련해야 한다. 다만 각 HBF 공급업체가 호환되지 않는 물리적 연결을 만들 위험은 줄여 준다.

Open Compute Project를 통한 공개도 마찬가지로 중요하다. OCP 사양은 여러 기업이 구현할 수 있는 공통 요건을 마련하는 것을 목표로 한다. 이 프로젝트의 contribution framework는 폭넓은 기본 사양과, 상세한 양산 준비형 제품 문서를 구분한다.

이 구분은 HBF의 현재 상태를 정의한다. SK hynix와 Sandisk는 이 아이디어를 슬라이드와 비공개 논의의 수준을 넘어섰다. 그러나 서버 제조사가 주문하고 검증할 수 있는 양산 준비형 부품을 제공한 것은 아니다.

Google News를 통해 이 기사를 접한 독자라면 이 차이를 가장 먼저 기억해야 한다. SK hynix가 공개한 것은 상용으로 구매 가능한 512GB 메모리 스택이 아니라 표준 사양이다. 이번 발표는 목적지와 그곳으로 향하는 일부 경로를 정의한다.

AI inference에 또 다른 메모리 계층이 필요한 이유

HBF가 존재하는 이유는 AI inference에 빠른 접근성과 HBM이 경제적으로 제공하는 수준을 훨씬 넘어서는 용량이 모두 필요하기 때문이다.

학습이 대중의 관심을 대부분 받지만, inference는 학습된 모델을 지속적으로 운영되는 서비스로 전환한다. inference 과정에서 프로세서는 모델 가중치, 어텐션 데이터, 캐시된 컨텍스트에 반복적으로 접근한다. 더 큰 모델과 긴 대화는 컴퓨팅 가까이에 유지해야 할 데이터의 양을 늘린다.

HBM은 이 워크로드 가운데 가장 빠른 부분을 담당한다. DRAM 다이를 가속기 옆에 적층하고 넓은 인터페이스로 연결한다. 이 설계는 뛰어난 대역폭과 낮은 지연 시간을 제공하지만, 용량은 여전히 제한적이며 제조가 복잡하다.

SSD는 비트당 더 낮은 비용으로 용량 문제를 해결한다. 그러나 데이터는 가속기에 도달하기 전에 스토리지 컨트롤러와 인터페이스를 거쳐야 한다. 이 경로는 지연 시간을 유발하며 패키지 수준 메모리보다 훨씬 적은 대역폭을 제공한다.

따라서 시스템 구축업체는 불편한 선택에 직면한다. 컴퓨팅 자원이 충분히 활용되지 않더라도 대형 모델을 담기 위해 더 많은 HBM 탑재 가속기를 구매할 수 있다. 또는 SSD에서 모델 데이터를 이동시키고 더 느린 응답을 감수할 수 있다.

HBF는 세 번째 선택지를 만들려 한다. 수백 기가바이트의 영구 NAND를 프로세서에 훨씬 더 가깝게 배치하고, 고도로 병렬화된 채널을 통해 해당 NAND에 접근한다. 자주 바뀌는 데이터는 HBM에 유지하고, 더 큰 가중치 집합은 HBF에 둘 수 있다.

이 접근법은 mixture-of-experts 모델에 특히 관련이 있다. 이러한 모델은 다수의 특화 파라미터 그룹을 포함하지만, 각 토큰마다 일부만 활성화한다. 각 inference 단계가 더 작은 작업 집합만 다루더라도 총 용량 요구량은 막대질 수 있다.

용량 우선 계층은 각 가속기 가까이에 더 많은 expert를 보관할 수 있다. 소프트웨어는 최종 아키텍처에 따라 활성 데이터를 HBM으로 이동하거나 HBF에서 직접 접근하게 된다. 어느 방식이든 원격 SSD로부터의 전송을 줄이고, 오직 메모리 용량 때문에 필요한 가속기 수를 낮출 수 있다.

Sandisk는 이전에 Meta의 Llama 3.1 405B 모델을 사용해 HBF를 모델링했다. 이 회사는 시뮬레이션된 가중치 읽기 성능이 무제한 HBM 용량을 갖춘 가상의 시스템 대비 2.2% 이내에 근접했다고 밝혔다. 이 결과는 독립적인 양산 벤치마크가 아니라 회사의 시뮬레이션에 여전히 머문다.

이 회사의 HBF architecture analysis는 512GB를 담는 16다이 스택도 설명했다. Sandisk는 이 설계가 HBM4의 풋프린트, 스택 높이, 전력 프로파일에 근접할 수 있다고 밝혔다. 실제 제품이 테스트를 거치기 전까지 이는 개발 목표다.

이 비교가 NAND가 DRAM이 되었다는 의미로 받아들여져서는 안 된다. HBM은 근본적인 지연 시간과 내구성 측면에서 우위를 유지한다. HBF는 모든 가속기 메모리 바이트를 대체하는 것이 아니라, 읽기 중심 inference 워크로드에서 HBM을 보완하도록 설계됐다.

이러한 포지셔닝은 이번 발표를 단순히 더 빠른 SSD에 관한 이야기와 구분한다. HBF는 플래시를 프로세서 패키지 안으로 옮기고 메모리 지향 인터페이스를 통해 노출한다. 이 아키텍처는 데이터의 위치, 프로세서가 데이터에 도달하는 방식, 시스템이 메모리 계층 전반에 작업을 배분하는 방식을 바꾼다.

이는 AI 서비스 비용에도 영향을 줄 수 있다. 하나의 가속기가 상당히 더 많은 모델 데이터에 접근할 수 있다면, 운영업체는 용량 제약 워크로드를 위해 복제된 시스템을 더 적게 필요로 할 수 있다. 산술 처리량보다 메모리 용량이 서버 수를 결정할 때 이는 중요해진다.

기회는 최전선 모델을 넘어선다. 검색 시스템, 추천 엔진, 벡터 검색 워크로드는 프로세서가 반복적으로 읽는 대규모 데이터 컬렉션을 유지한다. 엣지 시스템 역시 더 느린 스토리지에서 지속적으로 전송받는 데 의존하지 않고 더 큰 모델을 로컬에 유지할 수 있다.

이 시나리오들 가운데 어느 것도 보장된 것은 아니다. 소프트웨어는 HBM, HBF, SSD 전반에 데이터를 지능적으로 배치해야 한다. 잦은 쓰기 작업이나 엄격한 지연 시간 요구 사항을 가진 워크로드는 여전히 적합하지 않을 수 있다. HBF의 가치는 적절한 데이터를 적절한 계층에 맞추는 데 달려 있다.

핵심 경쟁은 HBM 의존도에 맞서는 HBF 용량

SK hynix는 모든 작업에서 HBM을 이기려는 것이 아니라, inference가 주로 HBM 안에 들어가야 한다는 가정에 도전하고 있다.

이러한 구분은 HBF 제안을 더 신뢰할 수 있게 만든다. NAND와 DRAM을 직접 경쟁시키면 NAND의 지연 시간과 내구성 한계가 드러난다. 반면 계층형 설계는 모든 모델 가중치가 가장 빠르고 가장 비싼 메모리의 공간을 차지할 가치가 있는지를 묻는다.

초기 사양에 따르면 HBF 스택 하나는 최대 512GB를 담을 수 있다. 새로운 세대가 밀도를 높이고 있음에도 현재 HBM 스택은 훨씬 적은 용량을 제공한다. 따라서 HBF는 가속기 옆에 훨씬 더 큰 영구 데이터 풀을 배치할 수 있다.

최고 HBF 성능 등급은 3.0TB/s에 이른다고 명시돼 있다. 이 수치는 개별 차세대 HBM 스택과 연관된 대역폭 영역에 들어선다. 그러나 이 사양은 약 0.4TB/s부터 시작하는 넓은 범위를 포괄하며, 대역폭만으로는 접근 지연 시간을 알 수 없다.

프로세서는 여러 HBM 스택을 동시에 사용할 수도 있다. HBF 스택 하나와 HBM 스택 하나를 비교하는 것은 전체 가속기의 대역폭을 설명하지 못한다. 실제 시스템은 두 기술을 결합하고 각각에 서로 다른 역할을 부여할 가능성이 높다.

공개 사양은 HBM 공급업체 이상에 압박을 가한다. 긴밀하게 통합된 메모리 시스템을 제어하는 가속기 공급업체에도 도전한다. Nvidia, AMD, Google 및 기타 칩 설계사는 HBF가 새로운 컨트롤러, 패키지, 소프트웨어를 정당화할 만큼 충분한 가치를 더하는지 판단해야 한다.

Google의 참여는 컨소시엄에 중요한 워크로드 지식의 원천을 제공한다. Google은 대규모 AI 서비스를 운영하고 자체 Tensor Processing Units를 설계한다. 이 회사의 참여는 적어도 하나의 하이퍼스케일 운영업체가 용량이 풍부한 메모리 계층을 탐색하는 가치를 보고 있음을 시사한다.

그렇다고 미래 TPU에서의 채택을 확인하는 것은 아니다. 컨소시엄 발표에는 Google의 제품 약속, 배포 일정, 구매 물량이 포함돼 있지 않다. 참여는 상용 기기를 만들지 않고도 표준에 영향을 줄 수 있다.

Tenstorrent는 다른 관점을 제공한다. 이 회사는 AI 프로세서를 개발하며 칩렛 지향적 공개 아키텍처 전략을 사용한다. UCIe를 통해 연결되는 HBF는 이 접근법과 부합하지만, Tenstorrent는 HBF를 탑재한 출하 제품을 발표하지 않았다.

발표에 빠진 기업들은 참여 기업만큼이나 중요하다. Nvidia, AMD, Intel, Micron, Samsung, Kioxia, Broadcom, Marvell, Qualcomm은 참여자로 확인되지 않았다. 이들의 궁극적인 지원은 공급업체 및 프로세서 생태계를 확장할 것이다.

공개 사양은 채택 장벽을 낮출 수 있지만, 경쟁 구도도 바꾼다. SK hynix와 Sandisk는 다른 구현을 장려할 만큼 충분한 인터페이스를 공유하고 있다. HBF가 성공한다면 경쟁업체가 진입해 가격이나 마진을 낮출 수 있다.

그것이 표준이 되기 위해 필요한 대가다. 독점 인터페이스는 한 공급업체를 보호할 수 있지만 폭넓은 프로세서 지원을 얻기는 어렵다. 개방형 인터페이스는 도입을 끌어낼 수 있는 반면, 경쟁의 초점을 제조, 패키징, 수율, 컨트롤러 품질로 옮긴다.

SK hynix는 이 계산의 양면을 모두 이해하고 있다. 이 회사는 HBM 제조와 가속기 업체들과의 긴밀한 협력을 통해 AI 메모리 분야의 주요 기업으로 성장했다. HBF를 통해 자사의 DRAM 전문성, NAND 포트폴리오, 첨단 패키징 역량을 연결할 수 있다.

Sandisk는 최초의 HBF 개념과 NAND 공정 기술을 제공한다. 2025년 표준화 협약은 HBM에 필적하는 대역폭과 8~16배 더 큰 용량을 목표로 했다. 초기 샘플링 로드맵도 제시했다.

따라서 이 파트너십은 상호 보완적인 이해관계를 결합한다. Sandisk는 플래시를 AI 컴퓨팅에 더 가깝게 배치하려 하고, SK hynix는 HBM을 유일한 프리미엄 계층으로 지키기보다 메모리 계층 구조의 더 많은 부분을 공급하려 한다.

이 때문에 이 이야기는 Google News의 보도 틀보다 더 큰 의미를 지닌다. 최초의 사양은 메모리 제조사, 프로세서 설계사, 클라우드 운영자가 공통 아키텍처를 협의할 수 있는 장을 만든다. 승자는 문서만으로 결정되지 않을 것이다.

사양에는 여전히 하드웨어 신뢰성 격차가 있다

HBF의 가장 큰 위험은 단순하다. 가장 매력적인 수치가 검증된 양산 실리콘이 아니라 사양과 공급업체의 전망치를 설명한다는 점이다.

고밀도 스택에 512GB를 구현하려면 제조 측면의 과제를 해결해야 한다. 16개의 특수 NAND 다이는 첨단 패키징을 통해 안정적으로 연결돼야 한다. 스택은 허용 가능한 열 특성, 관리 가능한 뒤틀림, 충분한 수율을 확보해야 하며, 대규모 병렬성을 조율할 수 있는 로직 다이도 필요하다.

대역폭 역시 또 다른 과제다. NAND 어레이는 제안된 성능 등급에 근접하려면 동시에 동작해야 한다. 컨트롤러는 읽기 작업을 스케줄링하고, 오류를 수정하며, 불량 블록을 관리하고, 까다로운 워크로드에서도 예측 가능한 서비스를 유지해야 한다.

지연 시간은 대역폭보다 명확하게 정의되지 않았다. 3.0TB/s의 피크 속도는 유리한 조건에서 얼마나 많은 데이터를 이동할 수 있는지를 보여준다. 작은 요청이 얼마나 빨리 반환되는지, 불규칙한 액세스 패턴에서 성능이 어떻게 변하는지는 말해주지 않는다.

AI 추론은 대규모 모델 가중치를 스트리밍하는 경우가 많아, 이는 플래시에 무작위 트랜잭션 쓰기보다 더 적합하다. 하지만 어텐션 캐시와 기타 런타임 상태는 빠르게 변할 수 있다. 이러한 구조에는 여전히 HBM이나 기존 DRAM이 필요할 수 있다.

내구성 역시 현장 데이터로 입증돼야 한다. HBF는 제한된 횟수의 프로그램 및 삭제 사이클을 지원하는 NAND를 기반으로 한다. 읽기 중심의 모델 저장은 이 우려를 줄이지만, 실제 운영 시스템에는 여전히 업데이트, 리밸런싱, 장애 복구가 필요하다.

전력 관련 주장도 독립적인 검증이 필요하다. NAND는 리프레시 전력 없이 데이터를 유지하므로 DRAM보다 이론적 이점이 있다. 그러나 베이스 다이, 광대역 인터페이스, 오류 수정, 병렬 어레이 액세스는 모두 에너지를 소비한다.

Sandisk의 이전 팩트시트는 16다이 스택에서 1세대 목표치로 1.6TB/s와 512GB를 제시했다. 또한 메모리 기술 중 비트당 비용이 가장 낮은 수준 중 하나라고 주장했다. SK hynix와 Sandisk 모두 최종 상용 가격이나 검증된 총 시스템 비용을 공개하지 않았다.

경제성은 NAND 다이만으로 결정되지 않는다. 첨단 패키징, 컨트롤러 베이스 다이, UCIe 통합, 냉각, 보드 설계, 소프트웨어 개발이 모두 비용을 더한다. 많은 부품을 포함한 높은 스택에서는 수율 손실이 특히 중요해진다.

사양이 제시한 0.4TB/s~3.0TB/s의 폭넓은 범위도 또 다른 불확실성을 만든다. 여러 세대의 제품을 지원할 수는 있지만, “HBF 성능”에 관한 일반적 주장의 유용성은 떨어진다. 구매자는 각 구현의 등급, 용량, 지연 시간, 내구성, 전력을 살펴봐야 한다.

도입 과정에는 순환 고리도 있다. 메모리 공급업체는 생산에 대규모 투자하기 전에 프로세서 업체의 확약이 필요하다. 프로세서 공급업체는 패키지를 재설계하기 전에 신뢰할 수 있는 샘플과 복수의 공급업체를 원한다. 클라우드 운영업체는 메모리 관리 소프트웨어를 다시 작성하기 전에 검증된 시스템을 원한다.

개방형 표준은 모든 참여자에게 안정적인 목표를 제공함으로써 이 순환을 끊을 수 있다. 하지만 재무적 위험까지 없애지는 못한다. HBF 컨소시엄은 관심을 레퍼런스 설계, 컨트롤러, 검증 도구, 구매 확약으로 전환해야 한다.

가장 낙관적인 공개 로드맵은 2025년 Sandisk가 제시했다. Sandisk는 2026년 하반기 최초의 HBF 메모리 샘플을 목표로 했다. HBF를 사용하는 AI 추론 장치의 샘플은 2027년 초에 나올 것으로 예상했다.

샘플링 로드맵은 아직 양산 일정으로 전환되지 않았다. 샘플을 통해 파트너는 실현 가능성을 시험할 수 있다. 그러나 그것이 수율, 공급 가능성, 데이터센터 신뢰성을 확립해주지는 않는다.

이 격차는 독자가 이 발표를 해석하는 방식에 영향을 줘야 한다. SK hynix는 HBF가 추론 메모리 장벽을 해결한다고 입증한 것이 아니다. 관련 하드웨어를 구축하고 연결하기 위한 상세한 제안을 공개했다.

가장 설득력 있는 회의적 관점은 HBF에 유용한 목적이 없다는 주장이 아니다. 메모리 용량 문제는 실재하며, 계층형 아키텍처는 확립된 엔지니어링 대응 방식이다. 우려는 이 특정 구현이 지연 시간, 패키징, 소프트웨어, 비용을 모두 고려한 뒤에도 충분한 이점을 제공할 수 있는지에 있다.

개방형 HBF는 더 넓은 메모리 시장에 압력을 가한다

이 사양은 HBF를 채택하지 않기로 결정하더라도 메모리 및 가속기 기업들이 대응하도록 만든다.

Samsung과 Micron은 HBM에서 SK hynix와 직접 경쟁한다. Kioxia는 NAND에서 경쟁하며 Sandisk와 제조상 연계를 공유한다. 이제 각사는 참여하거나, 호환 구현을 개발하거나, 다른 해법을 내세울지 선택해야 한다.

참여는 HBF의 정당성을 강화하지만, 초기에는 SK hynix와 Sandisk가 주도한 표준에 참여 기업이 노출되는 결과를 낳는다. 외부에 남으면 전략적 독립성을 지킬 수 있지만, 두 경쟁업체가 새롭게 부상하는 인터페이스를 정의하도록 내버려둘 위험이 있다.

가속기 공급업체도 비슷한 계산에 직면한다. 대용량 플래시 계층은 동등한 HBM 용량을 추가하지 않고도 더 큰 모델을 지원할 수 있게 한다. 동시에 패키지 설계를 복잡하게 하고 기존 메모리 아키텍처의 단순성을 약화할 수도 있다.

Nvidia의 입지는 현재 AI 인프라 시장의 상당 부분을 자사 가속기로 뒷받침한다는 점에서 특히 주목할 만하다. Nvidia는 HBF 채택을 발표하지 않았다. 선도적인 가속기 플랫폼의 지원이 없다면 HBF는 맞춤형 실리콘과 특수 추론 시스템에 제한될 수 있다.

Google의 참여는 이 위험을 일부 상쇄한다. 자체 프로세서를 보유한 하이퍼스케일러는 범용 GPU 로드맵을 기다리지 않고 새로운 메모리 아키텍처를 도입할 수 있다. 성공적인 내부 배포는 기술적 근거와 의미 있는 물량을 제공할 수 있다.

Tenstorrent는 이 개방형 인터페이스가 더 작은 프로세서 생태계에서도 작동하는지 시험할 수 있다. 이들의 참여는 기존 메모리 및 클라우드 기업을 넘어 컨소시엄의 범위를 넓힌다. 하지만 현재 어느 참여자도 대중 시장의 수용을 보장하지는 않는다.

HBF 노력은 데이터센터 하드웨어에서 확립된 패턴을 따른다. 소수의 기업이 공통 인터페이스를 정의하고, 업계 조직을 통해 이를 공개하며, 제품이 성숙하기 전에 사용자를 모집한다. 성공 여부는 경쟁업체들이 상호운용성을 통제보다 더 가치 있게 평가하는지에 달려 있다.

HBM은 JEDEC 표준과 메모리 공급업체 및 프로세서 설계사 간의 긴밀한 협력을 통해 다른 제도적 경로를 밟았다. HBF의 OCP 경로는 클라우드 운영자와 시스템 아키텍트를 사양 수립 과정에 더 가깝게 둔다.

이 접근 방식은 의도된 워크로드에 부합한다. AI 추론 인프라는 프로세서, 메모리, 스토리지, 네트워킹, 오케스트레이션, 애플리케이션 소프트웨어를 아우른다. 메모리 구성 요소만 최적화하면 중요한 시스템 병목을 놓치게 된다.

512GB HBF 스택은 소프트웨어가 작은 분산 블록을 반복해서 요청할 때 성능을 개선할 수 없다. 컴파일러와 런타임이 긴 순차 읽기에 맞춰 가중치를 배치할 때 더 유용해진다. 광고된 대역폭이 생산적인 작업으로 이어지는지는 시스템 아키텍처가 결정한다.

따라서 개발자는 하드웨어 사양을 접하기 전에 소프트웨어를 통해 HBF를 접하게 될 수 있다. 프레임워크에는 할당 정책, 프로파일링 도구, 배치 제어 기능이 필요하다. 운영자는 HBM, HBF, SSD 계층 전반에 대한 가시성이 필요하다.

이는 관련성과 액세스 빈도에 따라 정보를 관리하는 더 넓은 작업과 닮아 있다. 검색 가능한 지식 베이스 역시 활성 컨텍스트와 더 큰 보존 컬렉션을 분리한다. HBF는 하드웨어 속도로 기계 데이터에 유사한 계층 구조를 적용한다.

이 비유에는 한계가 있지만, 원칙은 유용하다. 가장 빠른 자원은 여전히 희소하다. 시스템은 즉시 필요한 정보를 가까이에 두고 덜 긴급한 자료를 더 큰 지원 계층으로 옮길 때 개선된다.

이것이 HBF의 전략적 논거다. 중요해지기 위해 HBM을 대체할 필요는 없다. 의미 있는 추론 워크로드 집합에서 HBM 용량의 결정력을 낮추면 된다.

Google News 헤드라인이 사라진 뒤 주목할 점

HBF가 AI 메모리 표준이 될지, 야심 찬 문서상 아키텍처로 남을지를 결정할 신호는 세 가지다.

첫 번째 신호는 실제 샘플 제공이다. Sandisk의 공개 로드맵은 2026년 하반기에 HBF 메모리 샘플을 목표로 했다. 작동하는 패키지가 나오면 파트너는 반복 가능한 조건에서 지연 시간, 지속 대역폭, 내구성, 열 특성, 전력을 측정할 수 있다.

제시된 성능 등급에 근접한 결과는 대규모 병렬 NAND가 프로세서 인접 메모리 역할을 할 수 있다는 주장을 강화할 것이다. 지연 또는 피크 성능과 지속 성능 간 큰 격차는 이 사양의 용량 우선 논거를 약화할 것이다.

가장 유용한 벤치마크는 개별 패키지가 아니라 완전한 시스템을 비교해야 한다. 초당 토큰 수, 첫 토큰까지의 시간, 토큰당 에너지, 총 서버 비용을 측정해야 한다. 또한 HBM에 남아 있는 데이터의 비중도 공개해야 한다.

두 번째 신호는 실명이 공개된 프로세서 설계다. Google과 Tenstorrent는 컨소시엄에 참여했지만, 어느 쪽도 HBF를 탑재한 양산 가속기를 발표하지 않았다. 구체적인 칩, 패키지, 레퍼런스 플랫폼은 통합 작업이 자문 수준의 참여를 넘어섰음을 보여줄 것이다.

Sandisk의 이전 일정에 부합하는 2027년 초 추론 장치 샘플은 컨소시엄의 실행 역량에 대한 주장을 뒷받침할 것이다. 프로세서 파트너의 침묵은 패키징 또는 소프트웨어 작업이 여전히 해결되지 않았음을 시사할 수 있다.

Nvidia, AMD 또는 다른 범용 가속기 공급업체의 참여는 특히 중요할 것이다. 이들의 참여는 HBF를 맞춤형 시스템을 넘어 확장하고, 다수의 메모리 공급업체를 끌어들일 가능성을 높인다.

세 번째 신호는 더 폭넓은 공급업체 및 소프트웨어 지원이다. 개방형 표준은 독립적인 기업들이 호환 구성 요소를 구축할 수 있을 때 견고해진다. 그러므로 Samsung, Micron, Kioxia, 컨트롤러 공급업체, 패키징 기업, 클라우드 운영업체가 중요하다.

소프트웨어 지원도 그만큼 중요하다. AI 프레임워크는 HBF를 별도의 계층으로 인식하고 액세스 패턴에 따라 데이터를 배치해야 한다. 이 계층이 없다면 개발자는 수동 튜닝과 일관되지 않은 성능에 직면하게 된다.

SK hynix의 8월 발표는 중요한 점검 지점을 마련했다. 이 회사와 Sandisk는 용량, 성능 등급, 스택 구성, 연결성, 신뢰성 목표를 정의했다. Google과 Tenstorrent는 신뢰할 만한 업계 참여를 더했다.

이번 발표가 더 어려운 질문들에 답을 주지는 않는다. 용량, 대역폭, 지연 시간, 전력, 비용 간의 균형을 입증한 공개 프로덕션 시스템은 아직 없다. 주요 상용 가속기 업체 중 이 인터페이스 채택을 약속한 곳도 없다.

Google News를 통해 이 이야기를 지켜보는 독자라면 또 한 차례의 이론적 비교보다 이 세 가지 신호를 주시해야 한다. 측정된 실리콘, 명시된 가속기, 그리고 추가적인 독립 구현 사례를 확인해야 한다.

세 가지가 모두 나타난다면 HBF는 HBM과 SSD를 실용적으로 보완하는 기술이 될 수 있다. 사양과 시뮬레이션만 쌓인다면 업계는 더 많은 HBM, 기존 스토리지, 소프트웨어 최적화를 통해 추론 용량 문제를 계속 해결하게 될 것이다.

따라서 다음 결정적 헤드라인에는 제품명과 측정된 워크로드 결과가 담겨야 한다. 그때까지 SK hynix는 AI 메모리 장벽을 돌파할 유망한 경로를 열었지만, 하드웨어가 그 장벽을 넘은 것은 아니다.