Samsung SK hynix PIM 칩은 2026년의 새로운 발표가 아니었지만, 경쟁은 이미 다음 단계로 옮겨갔다

최근 떠오른 한 헤드라인이 시사한 것과 달리, Samsung과 SK hynix는 2026년 10월 공동 차세대 메모리 컴퓨팅 칩 출시를 발표하지 않았다. 해당 표현의 근거가 된 확인 가능한 사건은 SK hynix가 ISSCC에서 processing-in-memory 기술을 발표할 준비를 하던 2022년 2월로 거슬러 올라간다.

이 구분은 Samsung SK hynix PIM 칩이 이제 AI 인프라를 둘러싼 훨씬 폭넓은 경쟁의 일부이기 때문에 중요하다. 두 회사는 개별 연구 발표를 넘어 추론, 데이터 이동, 용량, 에너지 사용을 중심으로 설계된 메모리 시스템으로 나아가고 있다.

원래 이야기는 모든 연산을 별도 프로세서로 보내는 대신, 선별된 계산을 메모리 내부에서 수행하는 processing-in-memory, 즉 PIM에 관한 것이었다. 현재의 경쟁은 더 큰 범위로 확장됐다. Samsung과 SK hynix는 이제 PIM, high-bandwidth memory, 플래시, 패키징, 소프트웨어를 서로 다른 방식으로 결합해 발전시키고 있다.

이는 하나의 실험적 칩을 둘러싼 단순한 Samsung 대 SK hynix의 경쟁이 아니다. 핵심 경쟁은 기존 GPU 중심 시스템과 스토리지 또는 연산을 데이터에 더 가깝게 배치하는 아키텍처 사이에서 벌어지고 있다.

보도된 발표는 ISSCC 2022로 거슬러 올라간다

현재 확인 가능한 증거는 새로 예정된 2026년 10월 공개가 아니라 과거의 컨퍼런스 발표를 가리킨다.

SK hynix는 2022년 2월 16일 GDDR6-AiM을 발표했다. 회사는 이를 GDDR6 메모리에 연산 기능을 추가한 processing-in-memory 제품이라고 설명했다.

SK hynix는 2022 International Solid-State Circuits Conference에서 해당 개발 성과를 공개할 것이라고 밝혔다. ISSCC는 2026년 10월이 아니라 그해 2월 20일부터 2월 24일까지 온라인으로 열렸다.

회사의 발표에는 다시 떠오른 헤드라인과 일치하는 단서가 여러 가지 있다. 차세대 메모리 칩, 메모리 내부 연산, 주요 글로벌 반도체 컨퍼런스에서의 공개가 포함됐다.

시점에 관한 표현도 해당 컨퍼런스 직전에 작성된 기사와 일치한다. 그러나 SK hynix는 다음 달이 아니라 “이달 말”에 발표가 이뤄질 것이라고 말했다.

GDDR6-AiM 발표에 따르면, 이 샘플은 초당 16기가비트로 작동하는 GDDR6와 연산 기능을 결합했다. 회사는 이를 머신러닝, high-performance computing, 대규모 데이터 처리용으로 제시했다.

SK hynix는 기존 DRAM을 GDDR6-AiM으로 대체하면 특정 계산을 16배 더 빠르게 수행할 수 있다고 주장했다. 또한 메모리와 프로세서 간 이동을 제한함으로써 전력 소비를 80% 줄일 수 있다고 주장했다.

이는 선별된 워크로드를 기준으로 한 회사 발표 수치였다. 모든 AI 모델, 서버 또는 프로덕션 환경에서 비슷한 향상을 입증한 것은 아니다.

같은 시기에는 두 한국 메모리 제조사의 별도 ISSCC 발표도 있었다. 공식 ISSCC press kit는 SK hynix가 초당 896기가바이트 대역폭의 HBM3 설계를 발표했다고 기재했다.

Samsung은 핀당 초당 27기가비트로 작동하는 16기가비트 GDDR6 설계를 발표했다. 이 발표들은 고급 메모리 성능에 관한 것이었지만, 공동 PIM 제품 발표는 아니었다.

Samsung 자체의 PIM 역사는 더 이른 시기에 시작됐다. 2021년 2월, 회사는 각 메모리 뱅크에 프로그래밍 가능한 처리 장치를 통합한 high-bandwidth memory 버전인 HBM-PIM을 소개했다.

Samsung은 이 설계가 AI 학습, 추론, high-performance computing을 겨냥한다고 밝혔다. 관련 논문 역시 ISSCC 발표작으로 선정됐다.

따라서 주요 출처는 더 정확한 결론을 뒷받침한다. Samsung과 SK hynix는 각각 2021년 및 2022년 ISSCC 주기 전후로 메모리 중심 컴퓨팅을 발전시키고 있었다. 두 회사가 하나의 공동 제품을 공개한 것은 아니다.

원래 날짜를 삭제한 헤드라인은 이 과거의 발전을 속보처럼 보이게 만들 수 있다. 애그리게이터가 발행자의 전체 타임스탬프를 표시하지 않는 경우, 독자는 “다음 달” 같은 상대적 표현을 신중하게 받아들여야 한다.

Processing in Memory가 2026년에도 중요한 이유

더 빠른 산술 연산만으로는 되돌릴 수 없는 시간과 에너지를 데이터 이동이 소비하기 때문에 PIM은 여전히 중요하다.

기존 가속기는 모델 가중치, 활성화 값, 중간 결과를 프로세서와 메모리 사이에서 반복적으로 전송한다. 메모리 시스템이 데이터를 충분히 빠르게 공급하지 못하면 프로세서는 유휴 상태에 머물 수 있다.

엔지니어들은 이 제약을 memory wall이라고 부른다. 프로세서 성능은 대규모 데이터 세트를 시스템 안에서 효율적으로 이동시키는 능력보다 더 빠르게 향상돼 왔다.

실용적인 관점에서 설명하면, processing in memory는 이름만큼 복잡하지 않다. 선별된 연산을 데이터가 저장된 위치에서 수행해 메모리와 프로세서를 연결하는 인터페이스를 오가는 횟수를 줄이는 방식이다.

이 개념은 CPU나 GPU를 일반 DRAM으로 대체하는 것이 아니다. 대신 메모리 서브시스템 내부 또는 인근에 배치된 특수 로직에 적합한 연산을 할당한다.

이 구분은 중요하다. 범용 프로세서는 제어 흐름과 다양한 계산에 여전히 더 적합하다. 메모리 측 연산은 워크로드가 대규모 데이터 세트에 걸쳐 예측 가능한 작업을 반복 수행할 때 가장 효과적이다.

AI 추론은 이런 워크로드를 다수 만들어낸다. 언어 모델은 각 토큰을 생성하면서 지속적으로 파라미터를 검색하고 임시 데이터를 관리해야 한다.

더 긴 프롬프트는 생성 중 재사용되는 이전 계산 attention 데이터 모음인 key-value cache에도 부담을 높인다. 이 정보를 유지하면 반복 계산을 줄일 수 있지만, 상당한 메모리 용량과 대역폭이 필요하다.

GPU 산술 성능을 더한다고 해서 이런 문제가 자동으로 해결되지는 않는다. 데이터가 연산 장치에 충분히 빠르게 도달하지 못하면, 추가 프로세서는 비례하는 성능 향상 없이 비용과 전력만 늘릴 수 있다.

PIM 접근법은 이 불균형을 줄이려 한다. 행렬 계산, 검색, 필터링, 데이터 이동 관리와 같은 작업을 메모리에 더 가까운 위치에서 수행할 수 있다.

Samsung의 초기 HBM-PIM 설계는 HBM 스택의 뱅크 내부에 프로그래밍 가능한 연산 장치를 배치했다. HBM은 수직으로 연결된 DRAM 다이를 사용해 콤팩트한 패키지 안에서 높은 대역폭을 제공한다.

Samsung은 선택된 애플리케이션에서 프로토타입이 시스템 성능을 두 배 이상 높이고 에너지 사용량을 70% 이상 줄였다고 보고했다. 이 수치는 Samsung의 테스트에서 나온 것이며 독립적인 벤치마크로 간주해서는 안 된다.

SK hynix는 GDDR6-AiM으로 다른 초기 경로를 택했다. GDDR 메모리는 일반적으로 그래픽과 연관되지만, 그 대역폭은 AI 가속에도 유용하다.

회사는 이후 AiM 칩을 AiMX라는 가속기 카드로 결합했다. 이 패키징은 전체 프로세서를 메모리 중심으로 재설계하지 않고도 서버 내부에서 PIM을 시험할 수 있는 더 명확한 경로를 제공했다.

이것이 초기 보도 이후 4년이 지난 지금도 Samsung SK hynix PIM 칩이 주목받을 만한 이유다. AI 인프라는 점점 최고 GPU 처리량 이상의 요소에 의존하고 있다.

운영자는 이제 플랫폼이 모델을 얼마나 효율적으로 제공하는지, 긴 컨텍스트를 처리하는지, 캐시 데이터를 관리하는지, 전력 한도 내에서 확장하는지를 평가한다. 메모리 아키텍처는 이 모든 측정 항목에 영향을 줄 수 있다.

그 결과, 부품으로서의 더 빠른 메모리에서 컴퓨팅 아키텍처의 일부로서의 메모리로 전환이 이뤄지고 있다. 이 변화는 과거 프로세서 뒤편에 표준화된 칩을 공급하던 기업의 전략적 가치를 높인다.

Samsung vs SK hynix AI Memory는 이제 시스템 경쟁이다

경쟁은 개별 메모리 사양을 넘어 AI 데이터를 이동, 저장, 처리하는 완전한 경로로 확대됐다.

Samsung은 PIM 개발을 계속하는 한편, 해당 기술을 더 폭넓은 메모리 및 패키징 포트폴리오와 연결하고 있다. 강점은 메모리, 로직 제조, 첨단 패키징 전반에서 작업할 수 있는 능력이다.

Future of Memory and Storage 2026에서 Samsung은 약 30개의 메모리 및 스토리지 기술을 선보였다. 이 라인업에는 HBM4E, HBM5, LPDDR5X-PIM, 엔터프라이즈 스토리지 제품이 포함됐다.

LPDDR5X-PIM은 저전력 DRAM에 연산 기능을 더한다. 이 때문에 이 접근법은 순수 처리량만큼 에너지 소비가 중요한 엣지 시스템과 기기에도 관련성이 있다.

Samsung은 또한 프로세서 위에 high-bandwidth memory를 배치하는 제안된 3차원 아키텍처인 zHBM을 제시했다. 이 설계는 전용 냉각 구조를 통해 데이터 경로를 줄이고 열 한계를 해결하는 것을 목표로 한다.

이 접근법은 모든 메모리 제품에 연산 장치를 삽입하는 방식과 다르다. 물리적 거리, 패키징, 열을 동일한 데이터 이동 문제의 일부로 다룬다.

따라서 Samsung의 2026년 메모리 포트폴리오는 단기 HBM 제품부터 장기 아키텍처까지 아우른다. 일부 항목은 출하 제품인 반면, 다른 항목은 샘플, 시연 또는 로드맵 개념 단계에 머물러 있다.

SK hynix는 HBM, PIM, high-bandwidth flash, 소프트웨어를 중심으로 자체 스택을 구축하고 있다. 회사는 이 방향을 “full stack AI memory” 전략이라고 부른다.

GDDR6-AiM 칩은 대규모 언어 모델 워크로드를 위해 설계된 가속기 카드 AiMX의 기반으로 남아 있다. SK hynix는 이 기술을 독립형 다이에 한정하지 않고 서버 내부의 AiMX를 시연했다.

2026년 9월, 회사는 대화형 언어 모델 데모를 실행하는 AiMX 서버를 선보였다. 또한 high-bandwidth flash와 SALT-KV라는 소프트웨어 기법을 발표했다.

HBF라고도 하는 high-bandwidth flash는 NAND 플래시에 수직 인터커넥트 기술을 적용한다. SK hynix는 이를 고속 HBM과 기존 solid-state storage 사이에서 용량 중심 역할을 하는 계층으로 제시한다.

SALT-KV는 언어 모델 추론 중 생성되는 key-value cache를 다룬다. 회사는 이 소프트웨어가 특성과 재사용 가능성에 따라 캐시된 정보를 관리한다고 설명한다.

SK hynix는 이 기술들이 서로 다른 추론 요구를 충족한다고 주장한다. PIM은 빠른 디코딩을 목표로 하며, HBF는 긴 컨텍스트 워크로드에 더 많은 용량을 제공한다.

이 포트폴리오는 현재의 Samsung vs SK hynix AI memory 경쟁을 보여준다. 두 회사는 일반 DRAM을 대체할 하나의 범용 후속 기술에 베팅하는 것이 아니다.

Samsung은 패키징, 메모리, 제조 전반의 통합을 강조하고 있다. SK hynix는 뚜렷한 AI 서빙 패턴을 중심으로 특수 메모리 계층과 소프트웨어를 구성하고 있다.

Micron과 다른 메모리 공급업체는 경쟁 압력을 더하고 있으며, Nvidia, AMD, 맞춤형 가속기 설계업체는 어떤 인터페이스가 상업적으로 중요해지는지에 영향을 미친다. 기술적으로 인상적인 메모리 설계라도 프로세서 지원과 고객 검증이 필요하다.

클라우드 운영업체도 자체 실리콘 설계를 늘리고 있다. 이들의 선택은 메모리 기술이 폭넓게 지원되는 표준이 될지, 아니면 제한된 가속기 구성에 묶일지를 결정할 수 있다.

이로 인해 소프트웨어 계층에 대한 통제력은 점점 더 중요해지고 있다. 개발자에게는 각 연산이 어디에서 실행돼야 하는지 이해하는 컴파일러, 라이브러리, 스케줄러, 모니터링 도구가 필요하다.

광범위한 애플리케이션 재작성을 요구하는 하드웨어는 마찰을 만든다. 익숙한 프레임워크를 통해 활용할 수 있는 하드웨어는 시연 단계에서 프로덕션으로 전환될 가능성이 더 높다.

핵심 메커니즘은 데이터 이동을 줄이는 것이다

메모리 측 컴퓨팅의 가장 강력한 근거는 메모리가 GPU가 된다는 데 있지 않다. 비용이 큰 병목 구간을 통과해야 하는 데이터 바이트 수를 줄이는 데 있다.

현대적인 AI 서버에는 여러 형태의 메모리와 스토리지가 포함된다. 레지스터와 캐시는 컴퓨팅 코어와 가장 가깝고, 그 다음으로 HBM 또는 기타 직접 연결 메모리가 위치한다.

시스템 메모리는 가속기에서 더 먼 위치에 용량을 추가한다. SSD는 훨씬 큰 데이터 세트를 저장하지만 더 높은 지연 시간을 제공한다.

이러한 계층 간 전송은 모두 에너지를 소비한다. 또한 지연을 유발하고 인터페이스, 컨트롤러, 패키징 리소스를 필요로 한다.

PIM은 저장된 데이터 가까이에 제한적인 컴퓨팅 유닛을 배치해 워크플로를 바꾼다. 이 유닛은 더 작은 결과를 중앙 프로세서로 다시 보내기 전에 적합한 연산을 처리할 수 있다.

대규모 임베딩 테이블을 검색하는 추천 시스템을 생각해 보자. 기존 설계에서는 최종 출력이 소수의 후보 집합에 불과하더라도 상당한 양의 데이터를 프로세서로 이동시킬 수 있다.

메모리 측 로직은 원천 근처에서 데이터를 필터링하거나 결합할 수 있다. 그러면 프로세서는 더 적은 바이트를 수신하고 메모리 트래픽을 기다리는 시간도 줄어든다.

언어 모델 추론도 또 다른 사례다. 텍스트 생성에는 모델 파라미터와 캐시된 어텐션 데이터에 반복적으로 접근해야 한다.

PIM은 선택된 반복 연산을 가속할 수 있다. 고용량 메모리 계층은 더 느린 스토리지에서 반복적으로 불러오는 대신 모델의 작업 데이터를 서버 가까이에 더 많이 보관할 수 있다.

어느 방식도 GPU를 없애지는 않는다. GPU는 여전히 모델의 핵심 연산을 수행하고 실행을 조율한다.

목표는 더 균형 잡힌 시스템이다. 컴퓨팅, 대역폭, 용량, 전력은 어느 한 자원이 활용되지 못한 채 남지 않도록 함께 확장되어야 한다.

SK hynix는 2026년 9월 AI Infra Summit 발표에서 이러한 주장을 제시했다. 회사는 저지연 에이전트부터 긴 컨텍스트 서비스에 이르는 워크로드에서 기존 GPU-HBM 아키텍처가 충분하지 않게 되고 있다고 밝혔다.

회사의 AI 메모리 쇼케이스에는 PIM, HBF, AiMX, SALT-KV가 포함됐다. 방문객은 하드웨어를 살펴보고 AiMX가 탑재된 서버에서 실행되는 언어 모델 데모와 상호작용할 수 있었다.

이 시연은 또 하나의 이론적 성능 수치보다 더 중요하다. 메모리 칩에서 개발자와 고객이 평가할 수 있는 시스템으로 이어지는 경로를 보여주기 때문이다.

그러나 컨퍼런스 데모가 생산 환경의 경제성을 입증하는 것은 아니다. 이는 대규모 운영 환경에서의 신뢰성, 모델 전반의 소프트웨어 호환성, 또는 더 낮은 총소유비용을 확립할 수 없다.

Samsung도 같은 과제를 안고 있다. Samsung의 PIM 및 3차원 메모리 개념은 프로세서 로드맵, 패키징 역량, 냉각 시스템, 고객 소프트웨어에 맞아야 한다.

이 메커니즘은 트레이드오프도 수반한다. 메모리에 추가되는 로직은 다이 면적과 전력을 소비하면서 설계 복잡성을 높인다.

특정 연산 유형에 최적화된 PIM 유닛은 모델 아키텍처가 바뀔 때 유용성이 떨어질 수 있다. 고정 기능은 효율성을 제공하지만, 범용 프로그래밍 가능성은 비용과 오버헤드를 높인다.

메모리 제조업체는 이 경계를 어디에 둘지 선택해야 한다. 유연성이 너무 적으면 시장이 좁아지고, 너무 많으면 기존 프로세서의 복잡성을 다시 만들게 된다.

이러한 긴장은 메모리 내 처리를 최고 성능만으로 설명하면 독자를 오도할 수 있는 이유를 보여준다. 데이터 이동이 문제이지만, 실질적인 도입은 전체 시스템에 달려 있다.

컨퍼런스 주장은 여전히 생산 환경의 증거가 필요하다

해결되지 않은 질문은 PIM이 작동하는지 여부가 아니라, 새로운 하드웨어 및 소프트웨어 계층을 정당화할 만큼 폭넓게 작동하는지 여부다.

기업 발표는 일반적으로 새로운 아키텍처에 맞춰 선택된 워크로드의 결과를 제시한다. 이러한 테스트는 생산 환경 성능을 예측하지 못하더라도 기술적 잠재력을 확립할 수 있다.

SK hynix가 처음 제시한 처리 속도 16배 향상 및 전력 80% 절감 주장은 특정 연산에 적용됐다. 이는 모든 워크로드를 설명하거나 보편적인 배포 결과를 공개한 것은 아니었다.

Samsung의 이전 성능 및 에너지 주장은 마찬가지로 내부 평가에 연계돼 있었다. 이는 완전한 생산 시스템 간의 독립적인 비교가 아니라 공급업체 측정치로 읽어야 한다.

워크로드 민감성은 첫 번째 위험이다. 메모리 측 컴퓨팅은 연산이 반복적이고 병렬적이며 데이터 이동에 의해 제한될 때 가장 큰 이점을 제공한다.

불규칙한 제어 흐름을 가진 프로그램은 얻는 이점이 더 적을 수 있다. 일부 작업은 메모리 대역폭이 아니라 네트워킹, 프로세서 스케줄링, 스토리지에 의해 제한될 수도 있다.

소프트웨어는 두 번째 장벽이다. PIM 칩에는 어떤 연산을 메모리 내부에서 실행하고 어떤 연산을 가속기에 남길지 결정하는 도구가 필요하다.

이러한 도구는 변화하는 모델 및 프레임워크와 함께 작동해야 한다. 그렇지 않으면 고객은 인프라 절감 효과를 상쇄할 수 있는 엔지니어링 비용을 부담하게 된다.

표준은 세 번째 과제를 만든다. AI 프로세서, 메모리 장치, 소프트웨어 스택은 출시 주기가 서로 다른 여러 공급업체에서 나온다.

독점 구현은 초기에는 더 빠르게 움직일 수 있다. 공통 프로그래밍 모델은 더 많은 고객에게 도달할 수 있지만, 업계 전반의 합의에는 시간이 걸린다.

제조는 또 다른 불확실성을 만든다. 로직과 고집적 메모리를 결합하면 테스트, 수율 관리, 패키징, 열 설계가 복잡해질 수 있다.

메모리 산업은 대규모로 신뢰할 수 있는 DRAM을 생산해 온 광범위한 경험을 보유하고 있다. 컴퓨팅 기능을 추가하면 표준화된 메모리를 매력적으로 만드는 경제성이 바뀔 수 있다.

Samsung의 폭넓은 제조 역량은 여러 통합 옵션을 제공한다. 그러나 이러한 역량을 결합해 수용 가능한 수율에서 신뢰할 수 있는 시스템을 만들 수 있음을 보여줘야 한다.

SK hynix는 고대역폭 메모리에서 강력한 위치를 차지하고 있으며 더 폭넓은 AI 메모리 솔루션을 제시해 왔다. 전시회를 넘어 반복 가능한 고객 배포로 이러한 기술적 모멘텀을 전환해야 한다.

이 지점에서 Samsung 대 SK hynix AI 메모리는 사양 경쟁보다 덜 단순해진다. 서로 다른 아키텍처는 시장의 다른 부문에서 성공할 수 있다.

Samsung은 긴밀하게 통합된 패키지나 저전력 장치에서 더 강한 기회를 찾을 수 있다. SK hynix는 가속기 카드, 특화된 추론 시스템, 또는 계층형 메모리 아키텍처에서 입지를 확보할 수 있다.

두 회사 모두 가속기 설계를 통제하는 고객에게 의존한다. Nvidia, AMD, 클라우드 제공업체 및 기타 칩 개발업체는 메모리 공급업체가 선호하는 아키텍처를 지원하거나, 재구성하거나, 우회할 수 있다.

따라서 가장 강력한 증거는 반복 가능한 워크로드 결과를 갖춘 실명 생산 배포가 될 것이다. 고객은 현실적인 조건에서 성능, 에너지, 활용률, 소프트웨어 비용을 공개해야 한다.

그러한 증거가 없다면 독자는 세 단계의 진전을 구분해야 한다. 연구 논문은 실현 가능성을 확립하고, 프로토타입은 통합을 입증하며, 검증된 상용 제품은 고객 준비 상태를 확립한다.

재부상한 헤드라인은 원래 첫 두 단계를 설명했다. 이를 Samsung SK hynix PIM 칩이 이미 광범위한 상용 채택에 도달했다는 증거로 해석해서는 안 된다.

PIM이 시장이 되고 있는지 보여줄 세 가지 신호

고객 검증, 소프트웨어 지원, 반복 가능한 추론 경제성이 메모리 컴퓨팅 제품이 특화된 배포를 넘어설 수 있는지를 결정할 것이다.

첫 번째 신호는 PIM 또는 AiMX를 채택한 실명 생산 플랫폼이다. 확인된 서버 또는 가속기 배포는 고객이 하드웨어, 소프트웨어, 신뢰성 측면의 트레이드오프를 수용했음을 보여줄 것이다.

그 공개의 질이 중요하다. 파일럿, 양해각서, 전시 파트너십은 고객에게 제공되는 출하 시스템과 같은 무게를 갖지 않는다.

생산 환경의 채택은 메모리 공급업체가 AI 컴퓨팅에서 더 많은 가치를 확보할 수 있다는 근거를 강화할 것이다. 기존 HBM에 계속 의존한다면 아키텍처 전환 주장은 약화될 것이다.

두 번째 신호는 주류 AI 소프트웨어 내부의 지원이다. 개발자는 컴파일러 통합, 최적화된 커널, 개방형 프로그래밍 인터페이스, 프레임워크 수준의 스케줄링을 지켜봐야 한다.

소프트웨어는 애플리케이션이 특정 공급업체에 맞춰 다시 작성되지 않고도 특화 하드웨어를 활용할 수 있는지를 결정한다. 또한 모델 구조가 변할 때 시스템이 적응할 수 있는지도 결정한다.

폭넓은 도구 지원은 Samsung SK hynix PIM 칩 시장을 강화할 것이다. 파편화되거나 폐쇄적인 소프트웨어는 맞춤형 인프라를 유지할 수 있는 고객으로 사용처를 제한할 것이다.

세 번째 신호는 독립적으로 측정된 추론 경제성이다. 유용한 비교에는 여러 모델 유형에서의 지연 시간, 처리량, 에너지, 메모리 용량, 활용률이 포함돼야 한다.

긴 컨텍스트 추론은 캐시 요구 사항이 메모리 용량에 직접적인 압박을 가하기 때문에 특히 주목할 만하다. 빠른 대화형 에이전트도 낮은 지연 시간을 강조한다는 점에서 또 다른 시험대가 된다.

PIM, HBF 또는 3차원 메모리가 과도한 소프트웨어 작업 없이 이러한 측정치를 개선한다면, 메모리 중심 컴퓨팅은 더 설득력 있는 선택지가 될 것이다. 반대로 선택된 데모 밖에서 이점이 사라진다면 기존 가속기 설계는 우위를 유지할 것이다.

독자는 PIM과 HBM의 더 폭넓은 성공도 구분해야 한다. HBM은 이미 고성능 AI 가속기에 필수 요소가 됐지만, 그렇다고 메모리 내부 컴퓨팅의 채택이 보장되는 것은 아니다.

더 가능성 높은 단기 결과는 혼합형 계층 구조다. GPU는 중심에 남고, 특화된 메모리와 스토리지 계층은 더 큰 대역폭, 용량 또는 로컬 처리가 이로운 워크로드를 처리할 것이다.

Samsung과 SK hynix는 서로 다른 기술 조합으로 이러한 결과를 준비하고 있다. 두 회사의 전략은 미래 AI 시스템이 하나의 메모리 유형에 의존하지 않을 것임을 시사한다.

더 큰 변화는 개념적이다. 메모리 공급업체들은 점점 자사 제품을 수동적인 저장 구성 요소가 아니라 AI 인프라의 능동적인 부분으로 설명하고 있다.

이 변화는 프로세서 기업의 부담을 높인다. 동시에 클라우드 운영자에게 데이터가 저장되고, 이동하며, 처리되는 위치에 관한 더 많은 선택지를 제공한다.

개발자와 기업 구매자는 컨퍼런스의 명칭보다 배포 사례를 지켜봐야 한다. 중요한 질문은 통합 비용을 모두 계산한 뒤 새로운 메모리 아키텍처가 실제 워크로드를 개선하는지 여부다.

원래 보고서는 역사적 이정표로서 여전히 유용하다. 이는 한국 최대 메모리 제조업체들이 컴퓨팅과 스토리지의 전통적인 분리를 공개적으로 문제 삼았던 순간을 포착했다.

4년이 지난 지금도 이 아이디어는 사라지지 않았다. PIM, HBM, 고대역폭 플래시, 첨단 패키징, 메모리 인지형 소프트웨어를 위한 경쟁 로드맵으로 확장됐다.

다음으로 의미 있는 발표는 메모리가 연산할 수 있다는 또 하나의 약속이 아닐 것이다. 고객이 이 기술을 반복적으로 배포하고, 그 이점을 측정하며, 변화하는 AI 워크로드 전반에서 지원할 수 있다는 증거가 될 것이다.

AI 인프라를 평가하는 모든 이에게 이것이 따라야 할 실용적인 기준이다. 다음 컨퍼런스 시연을 시장 전환으로 간주하기 전에 실명 시스템, 접근 가능한 소프트웨어, 제3자 결과를 찾아야 한다.