SK hynix CPO 로드맵, AI 경쟁의 초점을 칩에서 시스템으로 전환

SK hynix는 지금까지 주로 고대역폭 메모리를 통해 AI 입지를 구축해 왔지만, 글로벌 연구진과 함께 co-packaged optics 로드맵을 발표했다. hynix newsroom의 이번 발표는 다음 인프라 경쟁의 핵심을 단일 가속기 패키지에 데이터를 공급하는 일이 아니라, 완전한 시스템 전반에서 데이터를 이동시키는 문제로 재정의한다.

Nature Electronics에 소개된 이 논문은 프로세서, 메모리, 랙, 더 큰 서버 그룹을 아우르는 광 연결을 다룬다. 가장 중요한 제안은 빛을 이용해 데이터를 라우팅하는 패키지 계층인 photonic interposer를 통해 광통신을 메모리에 더 가깝게 가져오는 것이다.

이 제안으로 SK hynix는 이미 포토닉스를 실제 출하 인프라로 전환하고 있는 기업들과 같은 무대에 섰다. Broadcom은 co-packaged Ethernet switch를 양산 단계로 옮겼고, Nvidia는 Ethernet 및 InfiniBand 네트워크용 photonics switch를 선보였다.

SK hynix의 출발점은 다르다. 이 회사는 이미 주요 AI 프로세서 옆에 탑재되는 HBM stack을 공급하고 있다. 이번 로드맵은 메모리 제조업체가 그 프로세서를 둘러싼 연결 구조까지 설계하는 데 기여할 수 있는지를 묻는다.

이 차이는 중요하다. 더 빠른 메모리만으로는 모든 데이터 병목을 없앨 수 없기 때문이다. AI cluster는 가속기, switch, rack, memory pool 사이에서 모델 파라미터와 중간 결과를 이동시켜야 한다. 경계 하나하나가 에너지, 지연 시간, 설계 복잡성을 더한다.

따라서 이번 발표는 단순한 연구 성과 그 이상이다. AI 경쟁이 개별 칩을 넘어 확장되는 상황에서, SK hynix가 자사 메모리를 둘러싼 아키텍처에도 영향력을 확보하려 한다는 신호다.

Hynix Newsroom CPO 로드맵이 실제로 더하는 것

SK hynix는 또 하나의 고립된 부품 개선안을 제시하는 대신, 메모리 전략을 더 폭넓은 광 아키텍처와 연결하고 있다.

CPO roadmap에 따르면, SK hynix는 University of Virginia의 Kyusang Lee 교수를 비롯한 연구진과 협력했다. 이들의 연구는 광 인터커넥트가 미래 AI 시스템 전반의 통신 한계를 어떻게 해소할 수 있는지를 설명한다.

CPO, 즉 co-packaged optics는 동일한 패키지 내부에서 광 트랜시버를 프로세서나 switch 옆에 배치하는 방식이다. 이 구조는 데이터가 손실이 적은 광 링크에 진입하기 전 거치는 전기적 경로를 줄인다.

현재 pluggable transceiver는 switch의 전면 패널 부근에 위치한다. 전기 신호는 switching chip과 각 모듈 사이에서 circuit board를 가로질러 이동해야 한다.

신호 속도가 높아질수록 이러한 board-level 경로는 관리가 더 어려워진다. 설계자는 전력을 소비하고 공간을 차지하는 신호 보정 부품을 추가해야 한다. 발열과 signal integrity 역시 제어하기 어려워진다.

CPO는 광 변환 기능을 컴퓨팅 또는 switching silicon에 더 가깝게 옮긴다. 남아 있는 전기 연결은 짧아지고, fiber가 더 긴 거리의 통신을 담당한다.

SK hynix는 이 확립된 개념을 메모리로 확장한다. 이 로드맵은 photonic interposer가 고밀도 광 링크를 통해 프로세서와 메모리를 연결하는 광 중심 시스템을 제안한다.

일반적으로 interposer는 첨단 패키지 내부의 칩 간 고밀도 연결을 만든다. photonic interposer는 이 연결 계층에 광 라우팅과 관련 부품을 추가한다.

제안된 아키텍처는 여러 AI 가속기가 더 큰 공유 메모리 풀에 접근하도록 할 수 있다. 이는 각 가속기에 정해진 양의 로컬 메모리를 할당하는 모델과 다르다.

공유 메모리가 자동으로 소프트웨어를 더 빠르게 만드는 것은 아니다. 그러나 경직된 용량 경계를 줄이고, 대형 모델과 데이터를 배치하는 방식에서 시스템 설계자에게 더 많은 선택지를 제공할 수 있다.

이 로드맵은 미래 node를 위한 까다로운 연구 목표를 제시한다. hynix newsroom은 node당 초당 100테라비트가 넘는 대역폭, 비트당 1피코줄 미만의 에너지, 10나노초 미만의 지연 시간을 설명한다.

이 수치는 독립적으로 검증된 제품 사양이 아니라 기술 목표를 나타낸다. SK hynix는 세 가지 목표를 모두 충족하는 상용 optical memory 제품을 발표하지 않았다.

로드맵은 여러 패키징 단계도 아우른다. 2차원 설계에서는 구성 요소를 나란히 배치하고, 2.5D 시스템은 interposer를 통해 die를 연결한다. 3차원 통합은 서로 다른 기능을 더 직접적으로 적층한다.

이러한 발전 단계가 중요한 이유는 모든 광 연결에 하나의 패키징 방식이 맞지는 않기 때문이다. rack-level switch는 HBM 옆의 광 인터페이스와 다른 열, 수리, 비용 제약에 직면한다.

따라서 이 연구는 하나의 완성된 설계가 아니라 개발 지도를 제공한다. 단기 CPO switch와 더 장기적인 가능성, 즉 광통신이 메모리 경계 자체에 도달하는 미래를 연결한다.

이 점이 이번 발표를 통상적인 학술지 논문 게재와 구분한다. SK hynix는 메모리 성능을 패키징, 네트워킹, 시스템 토폴로지와 함께 고려해야 한다고 주장하고 있다.

현재 HBM 사업은 가속기와 인접 메모리 사이의 거리를 다룬다. 광 로드맵은 데이터가 그 로컬 패키지를 벗어나 이동해야 할 때 무엇이 일어나는지를 다룬다.

이러한 더 넓은 관점은 고객이 메모리 공급업체를 평가하는 방식을 바꿀 수 있다. 용량과 대역폭은 여전히 핵심이지만, 아키텍처 지원도 또 다른 차별화 요소가 된다.

SK hynix는 이미 full-stack AI memory creator가 되겠다는 목표를 설명해 왔다. CPO 연구는 그 전략의 기술적 방향을 제시하지만, 상용화는 아직 검증되지 않았다.

대역폭 장벽은 HBM 너머로 이동했다

AI 인프라는 이제 메모리 pin에서 전체 cluster까지 이어지는 데이터 이동 문제에 직면해 있다.

HBM은 적층 DRAM을 가속기 가까이에 배치함으로써 주요 제약 하나를 완화했다. 넓은 인터페이스는 콤팩트한 패키지를 통해 기존 server memory보다 훨씬 큰 대역폭을 제공한다.

그러나 이 개선은 패키지 외부의 통신 문제를 없애지는 않는다. 학습 및 추론 시스템은 여전히 가속기, network switch, storage system, host processor 간에 데이터를 교환한다.

대형 모델은 이러한 데이터 이동을 더 늘린다. tensor-parallel workload는 계산을 프로세서 전반에 분산하고, pipeline parallelism은 연속된 단계 사이로 작업을 전달한다. 분산 학습은 많은 device에 걸쳐 업데이트를 동기화한다.

이러한 cluster의 실질적인 성능은 프로세서 속도뿐 아니라 조율에 달려 있다. 원격 데이터를 기다리는 가속기는 생산적인 작업을 수행할 수 없는 고가의 유휴 자원을 의미한다.

Copper는 짧은 거리에서는 여전히 효과적이다. 그러나 더 빠른 전기 신호는 trace가 길어질수록 더 많은 에너지를 잃고 보존하기도 어려워진다. 설계자는 깨끗한 데이터를 복구하기 위해 추가 전력을 소비하게 된다.

Optics는 신호 열화가 적은 상태로 더 먼 거리를 지원한다. 어려운 부분은 photonic component, electronics, laser, fiber, packaging을 신뢰할 수 있는 제조 공정으로 통합하는 일이다.

이 때문에 지금 시스템 경쟁이 도래하고 있다. 가속기 성능이 성장하고 HBM 대역폭이 증가했으며 AI 배포는 더 큰 cluster로 확장됐다. 이들이 만들어내는 복합 트래픽이 구성 요소 간 연결의 한계를 드러낸다.

동료 심사를 거친 silicon photonics roadmap은 CPO와 photonics-electronics 통합을 고성능 컴퓨팅 확장의 중요한 경로로 꼽았다. 또한 열 민감도, 제조 수율, 설계 도구, laser, fiber attachment와 관련된 장애물도 기록했다.

이러한 제약은 optics가 단순한 copper 대체재가 되는 것을 막는다. 광 소자는 정렬, 파장 제어, 예측 가능한 성능을 유지하면서 뜨거운 프로세서 옆에서 작동해야 한다.

수리 가능성도 또 다른 과제다. pluggable transceiver는 switch 전면에서 제거할 수 있다. 반면 switching chip 옆에 통합된 optical engine은 교체하기 더 어렵다.

외부 laser module은 일부 유지보수 위험을 줄일 수 있다. 선택된 laser component를 메인 패키지 외부에 두면서 optical engine으로 빛을 보낸다.

그렇더라도 운영자는 전체 시스템 신뢰성을 판단해야 한다. 더 적은 부품 수는 장애 지점을 줄일 수 있지만, 더 긴밀한 통합은 하나의 패키지 고장이 미치는 영향을 키울 수 있다.

전력 측면의 근거는 여전히 설득력이 있다. Broadcom은 51.2테라비트/초 이상에서 pluggable transceiver가 switch-system 전력의 절반을 넘을 수 있다고 밝혔다.

Bailly switch는 8개의 6.4테라비트 optical engine과 Tomahawk 5 switching chip을 결합한다. Broadcom은 표준 pluggable 설계와 비교해 optical-interconnect 전력을 70% 이상 절감한다고 주장한다.

이 수치는 Broadcom의 제품 주장과 구성에 해당한다. 이를 모든 CPO 시스템이나 SK hynix가 제안한 메모리 아키텍처에 자동으로 적용해서는 안 된다.

그럼에도 이 비교는 기존 설계가 받는 압박을 보여준다. 광 모듈이 switch 전력에서 큰 비중을 차지하기 시작하면, 프로세서만 개선해서는 시스템 수준의 수익이 점차 줄어든다.

같은 원칙이 메모리 주변에도 적용된다. 더 빠른 HBM은 가속기가 로컬 데이터에 접근하도록 돕지만, 원격 메모리와 가속기 간 데이터 전송은 여전히 시간과 에너지를 소비한다.

광 메모리 패브릭은 용량이 위치하는 방식을 바꿀 수 있다. 모든 메모리를 하나의 프로세서에 영구적으로 연결하는 대신, 설계자는 여러 컴퓨팅 device가 공유하는 더 큰 pool을 구축할 수 있다.

이러한 구성은 컴퓨팅과 메모리 자원을 별도로 할당할 수 있는 disaggregated infrastructure를 지원할 수 있다. 한 가속기에 사용되지 않는 용량이 남을 때 발생하는 stranded memory도 줄일 수 있다.

그러나 pooling은 관리 문제를 야기한다. 소프트웨어는 데이터의 위치를 결정하고, 접근 성능을 예측 가능하게 유지하며, 경쟁으로 인해 더 넓은 fabric의 이점이 사라지는 일을 막아야 한다.

지연 시간도 여전히 결정적이다. 광 링크는 거리 전반에서 데이터를 효율적으로 이동시킬 수 있지만, 변환, switching, protocol overhead는 여전히 애플리케이션 속도를 늦출 수 있다.

SK hynix의 10나노초 미만 목표는 이러한 과제를 인정한다. 메모리 트래픽은 많은 기존 네트워크 workload보다 지연 시간에 더 민감하다.

따라서 이 회사가 추구하는 목표는 switch에 광 포트를 추가하는 것보다 더 어렵다. 애플리케이션이 직접 체감하는 memory hierarchy에 photonics가 참여하게 만들려는 것이다.

이것이 HBM 리더십만으로 다음 경쟁의 승패를 가를 수 없는 이유다. 승리하는 시스템은 병목을 다른 곳으로 옮기지 않으면서 compute, memory, optics, packaging, thermal design, software를 결합해야 한다.

핵심 경쟁은 로컬 메모리와 광 메모리 풀의 대결이다

핵심 긴장은 긴밀하게 연결된 HBM과 프로세서 간 메모리를 공유하는 더 유연한 광 fabric 사이에 있다.

로컬 HBM은 분명한 장점을 제공한다. 가속기는 넓고 전용화된 인터페이스를 통해 인접 메모리에 접근한다. 물리적 근접성은 높은 대역폭과 예측 가능한 지연 시간을 뒷받침한다.

그 대가는 경직성이다. workload가 자원을 불균등하게 사용할 때도 각 가속기 패키지는 고정된 메모리 용량을 받는다.

공유 pool은 다른 조건을 제시한다. 여러 프로세서가 공통 용량에 접근할 수 있어, 시스템 소프트웨어가 workload 요구에 맞춰 메모리를 할당할 수 있다.

SK hynix가 제안한 photonic interposer는 이 두 모델을 잇는 가능한 다리를 제공한다. 로컬 HBM은 각 가속기 가까이에 남아 있고, 광 링크는 더 넓은 메모리 자원을 연결할 수 있다.

그 결과가 부착형 메모리를 완전히 대체할 필요는 없다. 실용적인 아키텍처는 지연 시간에 민감한 데이터에는 로컬 HBM을 유지하고, 더 크거나 접근 빈도가 낮은 자료에는 광 pool을 사용할 수 있다.

그러한 계층형 설계는 기존 메모리 계층 구조와 닮아 있다. 레지스터, 캐시, DRAM, 스토리지는 이미 속도와 용량 사이에서 균형을 맞춘다. 광 연결성은 로컬 패키지와 원격 시스템 사이에 새로운 배치 선택지를 더할 수 있다.

이 메커니즘은 모델이 단일 장치의 메모리 용량을 넘어서면 가치를 발휘한다. 오늘날 개발자들은 모델 가중치, 캐시 데이터, 학습 상태를 여러 가속기에 걸쳐 분할하는 경우가 많다.

이러한 분할은 통신을 발생시킨다. 시스템이 각 장치에 충분히 빠르게 데이터를 공급하지 못하면, 가속기를 더 추가해도 기대한 만큼의 성능 향상은 얻기 어렵다.

대역폭이 높은 광 메모리 풀은 일부 용량 제약을 완화할 수 있다. 요청마다 컨텍스트 길이 또는 메모리 요구량이 다른 경우, 추론 인프라를 더 유연하게 만들 수도 있다.

그러나 풀링된 메모리가 지역성의 원칙을 없애지는 못한다. 자주 접근하는 데이터는 여전히 이를 사용하는 프로세서 가까이에 둘 때 이점이 있다.

소프트웨어는 이러한 접근 패턴을 예측해야 한다. 배치가 부적절하면 원격 전송이 반복적으로 발생해 지연 시간이 늘고 패브릭 대역폭을 소모할 수 있다.

일관성 유지도 또 다른 비용을 초래한다. 여러 프로세서가 데이터를 공유할 때 시스템은 업데이트를 조정하고 사용 가능한 메모리 뷰를 유지해야 한다.

이런 요구사항은 경쟁의 일부를 컴파일러, 런타임, 스케줄링 소프트웨어로 옮긴다. 소프트웨어가 과도한 조정 없이 이를 활용할 수 있을 때에만 하드웨어 대역폭이 의미를 갖는다.

바로 이 지점에서 SK hynix의 입지가 흥미로워진다. 메모리 공급업체는 장치 동작과 패키징을 이해하지만, 모든 프로세서 아키텍처나 네트워크 프로토콜을 통제하지는 못한다.

상업적 성공을 위해서는 가속기 공급업체, 파운드리, 광 부품 공급업체, 시스템 제조업체, 클라우드 사업자와의 긴밀한 협력이 필요하다. 전체 기술 스택을 소유한 참여자는 없다.

Nvidia는 이미 이러한 네트워크를 구축하고 있다. Nvidia의 photonics switches는 자체 개발과 함께 TSMC, Coherent, Corning, Foxconn, Lumentum, SENKO 및 기타 공급업체의 기여를 결합한다.

Nvidia는 Spectrum-X 구성으로 총 처리량을 초당 최대 400테라비트까지 제공한다고 말한다. 또한 기존 접근 방식보다 전력 효율이 3.5배 높다고 주장한다.

이들 스위치는 우선 공유 광 메모리가 아닌 네트워크 연결성에 초점을 맞춘다. 그러나 프로세서 기업이 패키징, 포토닉스, 네트워킹, 소프트웨어를 얼마나 빠르게 조율할 수 있는지를 보여준다.

Broadcom은 다른 강점을 갖고 있다. 이 회사는 스위칭 실리콘, 실리콘 포토닉스, 광 엔진을 보유하고 있으며 클라우드 제공업체 및 장비 제조업체와 관계를 맺고 있다.

Bailly 플랫폼은 SK hynix가 상용 CPO 메모리 제품을 발표하기 전에 시장에 진입했다. 따라서 Broadcom은 공동 패키징 스위칭이 실험실 시연 단계를 넘어섰다는 근거를 제공한다.

SK hynix의 가장 강한 차별점은 메모리 분야의 입지다. 이 회사는 HBM 인터페이스, 열 한계, 적층, 첨단 패키징에 대한 직접적인 지식을 바탕으로 광 아키텍처를 연구할 수 있다.

이 지식은 메모리와 연결성을 함께 설계하는 데 도움이 될 수 있다. 또한 가속기 고객이 시스템 계획 초기 단계부터 이 회사를 참여시켜야 할 이유를 만든다.

위험은 전략적 의존성이다. SK hynix는 광 메모리의 이점을 드러내는 인터페이스를 채택할 프로세서 및 플랫폼 파트너가 여전히 필요하다.

표준도 중요해질 것이다. 독점 연결은 하나의 플랫폼을 최적화할 수 있지만, 개방형 인터페이스는 더 큰 공급업체 기반을 지원하고 도입 위험을 낮출 수 있다.

2026년 AMD, Broadcom, Meta, Microsoft, Nvidia, OpenAI는 광 스케일업 컨소시엄 설립을 도왔다. 이 컨소시엄의 open specification은 플러거블, 온보드, 공동 패키징 광 연결을 대상으로 한다.

컨소시엄의 로드맵에는 광섬유당 초당 3.2테라비트 이상에 이르는 데이터 전송 속도가 포함된다. 이는 광 스케일업 링크가 업계 차원의 조율 문제로 떠오르고 있음을 보여준다.

SK hynix는 메모리 중심 아키텍처가 이 표준화 과정에 어떻게 부합하는지 결정해야 한다. 기술적으로 뛰어난 설계라도 고객이 종속 효과나 호환되지 않는 관리 소프트웨어를 우려하면 어려움을 겪을 수 있다.

따라서 경쟁은 단순한 교체 주기에서 HBM과 CPO가 맞붙는 구도가 아니다. 이는 고정된 로컬 용량과 로컬 메모리 및 공유 가능한 광 자원을 결합한 계층 구조 사이의 경쟁이다.

SK hynix가 이러한 계층을 효과적으로 연결한다면 메모리 패키지를 넘어 영향력을 확보할 수 있다. 그렇지 못한다면 CPO 연구는 가치 있는 연구로 남는 반면, 실제 배포되는 아키텍처는 프로세서 및 네트워크 공급업체가 정의하게 될 수 있다.

제조 역량이 로드맵의 인프라 전환을 결정할 것이다

가장 큰 불확실성은 빛이 데이터를 전송할 수 있는지 여부가 아니라, 통합 광 시스템을 대규모로 생산하고 유지할 수 있는지에 있다.

CPO 패키지는 서로 다른 제조 요건을 가진 부품들을 결합한다. 전자 집적회로는 스위칭과 제어를 담당하고, 광자 회로는 빛을 유도하고 변조한다.

레이저, 검출기, 도파관, 광섬유 연결부, 열 제어 요소는 함께 작동해야 한다. 이들의 결합 수율이 완성 패키지를 경제적으로 출하할 수 있는 물량을 결정한다.

포토닉스 공정은 일관성 측면에서 여전히 성숙한 전자 제조 공정을 뒤따른다. Nature의 실리콘 포토닉스 로드맵은 전체 수율이 CMOS 전자공학보다 낮은 수준에 머물고 있다고 지적한다.

이 논문은 부족하거나 미완성인 설계 도구도 언급한다. 엔지니어는 전자 및 광학적 동작을 모두 반영하는 공정 설계 키트, 시뮬레이션, 검증 방법이 필요하다.

열 민감성은 또 다른 문제를 더한다. 온도가 변하면 광 부품의 동작 특성이 달라질 수 있는 반면, AI 프로세서와 스위치는 열을 집중적으로 발생시킨다.

설계자는 히터, 컨트롤러, 파장 튜닝 기능을 추가할 수 있다. 이러한 요소는 안정성을 높이지만 에너지를 소비하고 제어를 복잡하게 하며 패키지 면적을 차지한다.

광섬유 부착에는 높은 정밀도가 필요하다. 패키지의 실리콘이 정상적으로 작동하더라도 광학 정렬이나 결합 손실이 허용 범위를 벗어나면 실패할 수 있다.

통합 이후에는 테스트도 더 어려워진다. 제조업체는 값비싼 멀티칩 패키지에 투입하기 전에 포토닉 다이를 테스트할 방법이 필요하다.

검증된 양품 다이 전략은 전자 분야에서 잘 확립돼 있다. 대량 CPO 조립을 위해서는 이에 상응하는 광학 테스트 및 번인 공정이 성숙해야 한다.

공급 능력도 또 하나의 제약이다. 동일한 첨단 패키징 라인은 가속기, HBM 시스템, 포토닉스 제품에 모두 사용될 수 있다.

TrendForce는 2026년 7월 Nvidia가 일부 파트너에게 Spectrum-X CPO 스위치 출하를 시작했다고 보도했다. 또한 Broadcom이 제한적인 Bailly 출하를 계속하고 있다고 밝혔다.

이 회사는 광 엔진 수율, 실리콘 포토닉스 생산 능력, 첨단 패키징을 세 가지 주요 병목으로 지목했다. TrendForce의 CPO production analysis는 이러한 제약이 확장 속도를 좌우할 것으로 전망한다.

TrendForce는 포토닉스 패키지가 2.5D 및 3D 패키징 자원을 두고 AI 프로세서와 경쟁해야 한다고도 밝혔다. 이 경쟁은 SK hynix의 시스템 전략을 직접적으로 복잡하게 만든다.

이 회사는 이미 HBM을 위해 정교한 패키징에 의존하고 있다. 포토닉 인터포저를 추가하면 엔지니어링, 테스트, 생산 능력에 대한 수요가 더 늘어난다.

이러한 중첩은 SK hynix가 패키징 전문성을 재활용할 경우 이점이 될 수 있다. 반면 기존 메모리 제품과 아직 덜 성숙한 광 프로그램이 경쟁할 경우 내부 자원 배분 압박을 유발할 수도 있다.

신뢰성은 시스템 규모에서 평가돼야 한다. 실험실 결과는 일반적으로 제한된 장치와 운영 기간만을 다루는 반면, 데이터센터는 긴 서비스 수명을 요구한다.

고전력 실리콘 옆의 광 부품은 열 사이클, 진동, 지속적인 트래픽을 겪게 된다. 통합 스위치 패키지 전체를 교체해야 하는 경우, 현장 장애는 에너지 절감 효과를 상쇄할 수 있다.

원격 레이저 모듈은 장애 가능성이 높은 일부 부품을 분리할 수 있다. 그러나 변조기, 검출기, 광섬유 부착부, 패키지 연결부, 제어 전자장치의 위험을 없애지는 못한다.

운영업체는 개선되는 플러거블 광학 기술과도 CPO를 비교할 것이다. 플러거블 모듈은 교체, 공급업체 선택, 배포 유연성에서 강점을 유지한다.

리니어 드라이브 플러거블 광학 기술은 광 엔진을 스위치 패키지에 완전히 통합하지 않고도 신호 처리를 단순화해 전력 소비를 줄인다. 이는 일부 네트워크에 중간 경로를 제공한다.

따라서 CPO는 더 긴밀한 통합을 정당화할 만큼 충분한 대역폭 밀도와 에너지 절감 효과를 제공해야 한다. 그 이점은 스위치 속도, 링크 거리, 워크로드, 유지보수 모델에 따라 달라질 것이다.

메모리 중심 CPO는 추가적인 도입 장벽에 직면한다. 네트워크 스위치는 익숙한 Ethernet 또는 InfiniBand 인터페이스를 제공할 수 있지만, 공유 광 메모리는 시스템 아키텍처를 더 근본적으로 바꾼다.

프로세서 공급업체가 연결을 지원해야 한다. 운영체제, 런타임, 애플리케이션은 서로 다른 메모리 위치와 성능 특성을 이해해야 한다.

이후 클라우드 사업자는 향상된 활용도가 추가 복잡성을 상쇄하는지 검증해야 한다. 이들의 측정은 애플리케이션 처리량, 장애 복구, 총운영비에 초점을 맞출 것이다.

SK hynix는 제안한 광 메모리 아키텍처에 대해 제품명, 고객 배포 사례, 제조 수율, 상용 출시일을 공개하지 않았다.

연구 로드맵으로서는 이런 생략이 타당하다. 다만 hynix newsroom 발표를 시장에 대한 약속으로 얼마나 확신 있게 받아들일 수 있는지는 제한한다.

Nature Electronics 게재는 해당 연구가 과학적 가치를 지녔음을 시사한다. 그렇다고 제조 가능성, 고객 채택, 경쟁력 있는 경제성이 보장되는 것은 아니다.

따라서 단기적인 질문은 광 메모리가 AI를 바꿀지 여부보다 더 좁다. SK hynix가 아키텍처 목표에서 실제 워크로드로 검증한 통합 프로토타입으로 나아갈 수 있는지가 핵심이다.

신뢰할 만한 프로토타입은 엔드투엔드 측정 결과를 보여줘야 한다. 비트당 에너지, 애플리케이션 지연 시간, 열 특성, 지속적인 오류 성능이 없다면 대역폭만으로는 충분하지 않다.

이 회사는 공급하려는 범위도 명확히 해야 한다. 가능한 역할에는 메모리 장치, 포토닉 인터포저, 완성 패키지, 인터페이스 기술, 공동 설계한 고객 시스템이 포함된다.

각 역할은 서로 다른 상업적 의미를 지닌다. 인터포저를 공급하는 일은 소프트웨어에서 보이는 메모리 패브릭을 통제하는 일과 다르다.

그러한 세부 사항이 드러나기 전까지 이 로드맵은 전략적 방향으로 읽어야 한다. 이는 SK hynix의 설계 지평을 넓히지만, 완성된 광 플랫폼을 확립하는 것은 아니다.

AI 경쟁은 공급망 조율 역량의 시험대로 변하고 있다

CPO는 메모리, 로직, 광학, 패키징, 냉각, 네트워킹, 소프트웨어 전반에서 부품 개발을 조율할 수 있는 기업에 보상한다.

가속기 시대에는 칩 사양을 기반으로 비교하는 방식이 장려됐다. 구매자들은 연산 형식, 메모리 용량, 대역폭, 소프트웨어 호환성을 살폈다.

랙 규모 시스템에서는 이러한 경계가 덜 유용해진다. 빠른 가속기라도 네트워크 혼잡, 메모리 배치, 냉각, 전력 공급이 클러스터를 제약하면 기대 이하의 성능을 낼 수 있다.

CPO는 단일 칩만으로 완전한 결과를 제공할 수 없기 때문에 이러한 상호의존성을 가시화한다. 광 엔진에는 호환되는 로직, 패키징, 레이저, 광섬유, 열 제어, 관리 소프트웨어가 필요하다.

Nvidia의 전략은 하나의 대응 방식을 보여준다. 이 회사는 컴퓨팅, InfiniBand, Ethernet, 소프트웨어, 포토닉스를 포함하는 플랫폼을 중심으로 파트너를 조율한다.

Broadcom은 범용 스위치 실리콘과 광 통합을 통해 또 다른 경로를 따른다. 장비 파트너는 확립된 Ethernet 제품을 중심으로 시스템을 구축할 수 있다.

TSMC는 제조 측면에서 중심적인 위치를 차지한다. 이 회사의 실리콘 포토닉스와 3차원 적층 역량은 프로세서 설계와 대량 패키징을 연결한다.

SK hynix는 메모리 관점에서 같은 시스템 문제에 접근한다. 모든 대형 AI 가속기에는 대량의 데이터에 빠르게 접근할 수 있는 능력이 필요하기 때문에, 이 진입점은 회사에 영향력을 제공한다.

그러나 영향력이 곧 통제력을 뜻하는 것은 아니다. 가속기 공급업체는 패키지 인터페이스를 결정하고, 클라우드 기업은 네트워크 아키텍처를 선택하며, 파운드리는 첨단 패키징 생산 역량을 배분한다.

회사는 자사의 로드맵이 이러한 파트너들에게 유용하도록 만들어야 한다. 이를 위해서는 비현실적인 플랫폼 변경을 요구하지 않으면서도 완성형 시스템을 개선하는 인터페이스와 공동 설계 방식이 필요하다.

회사가 제안한 공유 메모리 아키텍처는 그러한 가치를 제공할 수 있는 하나의 방안이다. 클라우드 제공업체는 사용되지 않는 가속기 메모리도 여전히 설치 자본과 전력 소비를 의미하기 때문에 활용률에 주목하는 경우가 많다.

유연한 풀은 작업별로 서로 다른 양의 메모리를 사용하도록 할 수 있다. 또한 대규모 추론 배포 환경이 변화하는 캐시 요구 사항을 수용하는 데 도움이 될 수 있다.

이러한 이점은 워크로드의 동작 방식에 달려 있다. 느린 오버플로 용량으로 사용되는 광학 풀은 예측 가능하고 빈번히 접근하는 데이터를 지원하는 풀보다 가치가 낮다.

따라서 개발자는 광학 사양만큼이나 소프트웨어 지원을 면밀히 살펴야 한다. 메모리 배치 도구, 프로파일링 시스템, 스케줄러가 애플리케이션이 새로운 계층 구조를 활용할 수 있는지를 결정할 것이다.

엔지니어링 조직에는 더 나은 시스템 수준의 근거도 필요하다. 벤치마크는 최고 대역폭뿐 아니라 토폴로지, 데이터 배치, 통신 패턴, 장애 처리까지 설명해야 한다.

이러한 폭넓은 평가는 정보 관리 과제를 만들어낸다. 팀은 수많은 기술 문서 전반에 흩어진 프로세서 로드맵, 패키징 제약, 표준 제안, 공급업체 주장을 연결해야 한다.

검색 가능한 engineering knowledge base는 제품 사양이 계속 바뀌는 동안에도 팀이 이러한 연결 관계를 보존하는 데 도움이 될 수 있다.

이 전략적 전환은 조달에도 영향을 준다. AI 시스템을 평가하는 구매자는 통합 장애를 누가 지원하는지, 어떤 구성 요소를 독립적으로 교체할 수 있는지를 물어야 한다.

광학 엔진이 단일 공급업체에 의존하는지도 평가해야 한다. 레이저, 포토닉 다이, 광섬유 어셈블리, 첨단 패키지에 대한 신뢰할 수 있는 물량 계획도 필요하다.

표준은 일부 위험을 줄일 수 있지만 모든 구현을 표준화할 수는 없다. 공급업체들은 여전히 패키징, 전력, 소프트웨어 통합, 제조 수율을 놓고 경쟁할 것이다.

SK hynix는 자사의 메모리 전문성이 이러한 표준 논의의 일부가 된다면 혜택을 볼 수 있다. 고객들은 이미 이 회사를 HBM 공급업체로 알고 있어 아키텍처 협업의 장벽이 낮아진다.

회사의 위치는 흔히 분리된 채 남아 있는 두 가지 논의를 연결하는 데도 도움이 될 수 있다. 하나는 가속기 패키지 내부의 메모리 대역폭에 관한 것이고, 다른 하나는 클러스터 전반의 광학 대역폭에 관한 것이다.

포토닉 인터포저는 이 두 논의를 같은 기술적 지도 위에 올려놓는다. 데이터 이동을 분리된 메모리 및 네트워킹 제품이 아니라 연속적인 경로로 다룬다.

이러한 관점은 hynix newsroom 로드맵의 가장 강력한 기여다. 시스템 설계자가 데이터가 어디에 위치하는지, 얼마나 멀리 이동하는지, 어떤 매체가 이를 전달하는지를 최적화하도록 유도한다.

이 접근 방식은 경쟁사에도 압박을 가한다. Samsung은 메모리, 파운드리 서비스, 패키징을 결합할 수 있으며, Micron은 자사 HBM 제품을 중심으로 협업을 심화할 수 있다.

네트워크 공급업체는 반대 방향에서 압박을 받는다. 메모리 인터페이스까지 도달하는 광학 패브릭은 기존 스위치 포트를 넘어선 기회를 만들어낸다.

프로세서 기업은 아키텍처의 어느 정도를 통제할지 결정해야 한다. 더 긴밀한 통합은 성능을 개선할 수 있지만 공급 집중도와 개발 비용도 높일 수 있다.

클라우드 제공업체는 광학 구성 요소를 자체 개발하거나 전략적 공급업체에 자금을 지원하는 방식으로 대응할 수 있다. TrendForce는 이미 수직 통합을 새롭게 부상하는 산업 패턴으로 설명했다.

이는 시스템 경쟁이 부분적으로 조직의 경쟁이기도 하다는 뜻이다. 기업에는 더 나은 부품 연구소만이 아니라 공동 로드맵과 공유 테스트 프로세스가 필요하다.

학계 전문가와 맺은 SK hynix의 연구 파트너십은 이러한 현실을 반영한다. 다음 단계에는 파운드리, 시스템 구축업체, 사용자까지 포함하는 더 폭넓은 연합이 필요하다.

출판물은 그러한 연합 전반에서 기술 언어를 정렬할 수 있다. 상업적 진전은 파트너들이 설계, 생산 역량, 소프트웨어, 검증 자원을 투입할지에 달려 있다.

SK hynix가 HBM을 넘어설 수 있는지를 보여줄 세 가지 신호

이 로드맵은 프로토타입, 플랫폼 파트너, 제조 근거가 함께 나타날 때에만 상업적으로 의미를 갖는다.

첫 번째 신호는 포토닉 인터포저를 통해 프로세서와 메모리를 연결하는 통합 프로토타입이다. SK hynix는 지속 워크로드 환경에서 시스템 수준의 대역폭, 지연 시간, 에너지를 보고해야 한다.

이러한 시연은 이례적인 냉각이나 실험실 전용 조건 없이도 제시된 목표에 근접한다면 로드맵의 설득력을 높일 것이다. 종단 간 결과가 빠지면 단기적 근거는 약화될 것이다.

프로토타입은 테스트 중인 메모리 계층도 명시해야 한다. 로컬 HBM, 풀링된 DRAM, 용량 중심의 확장 메모리는 서로 다른 워크로드 요구를 충족한다.

두 번째 신호는 실명이 공개된 프로세서, 파운드리, 또는 클라우드 파트너다. CPO는 메모리 공급업체 하나만의 노력으로 인프라가 될 수 없다.

파트너 발표는 제안된 인터페이스가 실제 플랫폼 로드맵에 부합한다는 점을 보여줄 것이다. 소프트웨어 지원과 명확한 배포 단계가 포함된다면 더욱 중요하다.

SK hynix가 개방형 광학 스케일업 사양에 참여하는지 주목해야 한다. 정렬은 도입을 넓힐 수 있지만, 폐쇄형 인터페이스는 고객 우려를 상쇄할 더 강력한 성능을 요구할 것이다.

세 번째 신호는 제조 근거다. 관련 지표로는 광학 엔진 수율, 웨이퍼 수준 테스트, 광섬유 부착 자동화, 패키징 생산 역량, 신뢰성 데이터가 있다.

Nvidia와 Broadcom의 대량 출하는 유용한 기준점을 제공할 것이다. 이들의 현장 경험은 CPO의 에너지 및 밀도 이점이 실제 배포 조건에서도 유지되는지를 보여줄 수 있다.

안정적인 생산의 증거는 SK hynix의 타이밍을 강화할 것이다. 지속적인 부족 현상이나 신뢰성 문제는 광학 메모리를 현재 스위치 시장보다 더 먼 미래로 밀어낼 것이다.

회사의 CPO 작업은 업계가 시연 단계에서 제한적 생산 단계로 넘어가는 시점에 등장한다. 이러한 타이밍은 인터페이스가 고정되기 전에 SK hynix가 차세대 아키텍처를 형성할 기회를 제공한다.

동시에 기대치도 높인다. 고객들은 연구 목표를 경쟁사들이 이미 네트워크에 투입하고 있는 제품과 비교할 것이다.

올바른 결론은 SK hynix가 광학 메모리를 해결했다는 것이 아니다. 회사는 차기 AI 병목이 어디에 있다고 보는지, 그리고 이를 어떻게 해결하고자 하는지를 정의했다.

회사의 판단은 시스템이 커질수록 HBM이 여전히 필요하지만 충분하지는 않게 된다는 것이다. 데이터는 메모리 스택을 넘어 프로세서 사이를 지나 클러스터 전체로 효율적으로 이동해야 한다.

이러한 관점은 hynix newsroom 발표를 중요한 것으로 만든다. 이는 SK hynix를 가치 있는 구성 요소를 최적화하는 기업에서 미래 AI 시스템의 연결 방식을 제안하는 기업으로 전환시킨다.

개발자와 기업 구매자에게 실질적인 질문은 이제 분명하다. 미래의 벤치마크는 가속기 속도만 측정할 것인가, 아니면 컴퓨팅과 메모리 사이의 전체 경로를 측정할 것인가?

첫 번째 광학 메모리 프로토타입, 그 플랫폼 파트너, 그리고 제조 데이터를 추적해야 한다. 이 신호들은 이 로드맵이 배포된 인프라가 될지, 설득력 있는 연구 방향으로 남을지를 함께 보여줄 것이다.