top of page

Micron, Liqid, Microchip이 조명하는 CXL의 정적 AI 서버를 넘어선 확장

8월 11일
11분 분량

Google News 헤드라인에는 세 기업이 AI 메모리 파트너십을 맺었다는 내용으로 Micron이 등장했지만, 검증된 근거는 보다 느슨한 업계 정렬을 가리킨다. Micron, Liqid, Microchip은 Compute Express Link 시장의 서로 다른 영역을 지원한다. CXL은 프로세서가 일관성 있는 링크를 통해 연결된 메모리와 기타 장치에 접근할 수 있도록 하는 개방형 인터커넥트 표준이다.

이 구분은 중요하다. 공식적인 제품 파트너십이라면 공동 엔지니어링, 공유된 상업 계획 또는 통합 시스템을 의미한다. 현재 확인 가능한 발표 자료에는 세 기업 간 그러한 합의가 나타나지 않는다. 대신 이들은 특히 Future of Memory and Storage 2026을 중심으로 발전 중인 CXL 시장에서 호환 가능한 구성 요소를 홍보하는 공급업체들임을 보여준다.

과장된 협업 구도가 없어도 그 근본적인 이야기는 중요하다. Micron은 메모리 모듈을 공급하고, Liqid는 패브릭 오케스트레이션 및 풀링 시스템을 제공하며, Microchip은 컨트롤러와 연결성 구성 요소를 만든다. 이 계층들은 함께 메모리가 개별 장비 안에 묶여 있는 정적 AI 서버에 대한 새로운 도전을 보여준다.

이는 Micron, SK hynix, Samsung 사이의 또 다른 고대역폭 메모리 경쟁이 아니다. 이는 가속기 패키지 바깥에서 벌어지는 일에 관한 이야기다. CXL 지지자들은 데이터 센터가 고정된 서버 구성에서 메모리 용량을 분리한 뒤, 워크로드가 필요한 곳에 해당 용량을 배정할 수 있기를 바란다.

약속은 단순해 보인다. 구현은 그렇지 않다. 지연 시간, 프로세서 지원, 소프트웨어 정책, 장애 격리, 애플리케이션 동작은 풀링된 메모리가 AI 배포를 개선하는지를 여전히 좌우한다.

검증된 이벤트는 3자 계약이 아닌 생태계 쇼케이스다

Micron, Liqid, Microchip은 같은 CXL 전환에 참여하고 있지만, 검증된 발표 자료는 독점적인 3자 파트너십을 뒷받침하지 않는다.

가장 분명한 공동 이벤트는 8월 4일부터 8월 6일까지 미국 캘리포니아주 산타클라라에서 열린 Future of Memory and Storage 2026이었다. CXL Consortium은 Micron과 Microchip을 전시업체로 올렸다. 또한 분리형 메모리와 AI 인프라에 초점을 맞춘 세션에 Micron과 Liqid 관계자들이 연사로 참여한다고 명시했다.

컨소시엄 프로그램은 대규모 CXL 메모리 확장 시스템 및 워크로드에 관한 세션에 Liqid CEO Sumit Puri와 Micron 관계자 Ajay Joshi를 배치했다. 또 다른 프로그램은 분리형 메모리 시스템을 통해 고성능 컴퓨팅 및 AI 워크로드를 가속하는 주제의 발표에 Micron 연사 Luis Ancajas를 올렸다.

이벤트에는 CXL로 토큰당 비용 효율을 높이는 패널도 포함됐다. 공개된 CXL event program에 따르면, 이 패널에는 Astera Labs, Micron, UnifabriX와 함께 Liqid가 참여했으며, 메모리 풀링, 공유, 티어링, AI 추론을 위한 키-값 캐시 오프로딩 등을 다룰 예정이었다.

Microchip은 전시업체이자 CXL 메모리 컨트롤러의 기존 공급업체로 별도로 등장했다. 이러한 모습은 개방형 표준 시장에서의 공동 참여를 보여준다. Micron, Liqid, Microchip이 제품을 공동 출시했다는 증거는 아니다.

이 차이는 Google News 헤드라인에서 흐려졌다. 집계형 헤드라인은 여러 관련 발전을 시장 친화적인 하나의 주장으로 압축하는 경우가 많다. 이 경우 “teams up”이라는 표현은 현재 확인 가능한 1차 자료가 문서화하지 않은 기업 관계를 암시한다.

더 정확한 설명은 상호운용성 정렬이다. Micron은 CXL 메모리 확장 하드웨어를 개발한다. Liqid는 연결된 자원을 풀링하고 배정하는 시스템을 구축한다. Microchip은 메모리를 프로세서에 연결할 수 있는 컨트롤러 및 스위칭 기술을 공급한다.

이 역할들은 패키지형 시스템을 만들지 않고도 서로 보완될 수 있다. 호스트 플랫폼, 펌웨어, 운영체제, 관리 소프트웨어가 해당 구성을 지원한다면 고객은 여러 CXL 공급업체의 부품을 조합할 수 있다.

따라서 이 이벤트는 기업 구조보다 시장 가시성을 더 크게 바꿨다. 서로 다른 CXL 계층을 같은 AI 인프라 대화에 끌어들였다. 이는 구매자에게 완전한 컴포저블 메모리 스택에 무엇이 필요한지 더 명확한 그림을 제공한다.

동시에 핵심 긴장도 드러낸다. 개방형 표준은 멀티벤더 시스템을 가능하게 하지만, 가능성은 검증된 프로덕션 상호운용성과 같지 않다. 구매자에게 필요한 것은 인접한 공급업체들의 병렬 시연이 아니라 완전한 구성에서 나온 결과다.

Google News가 Micron, Liqid, Microchip을 연결한 이유

헤드라인은 이 기업들이 컴포저블 메모리 시스템에 필요한 세 가지 계층을 대표하기 때문에 함께 묶었다.

Micron은 용량 계층에 속한다. CZ120은 CXL 메모리 확장 모듈로, 프로세서의 기존 메인보드 채널 바깥에 주소 지정 가능한 메모리를 추가한다는 의미다. Micron 문서는 CZ120을 자사의 1세대 CXL 확장 제품으로 설명한다.

각 CZ120은 PCIe Gen 5 x8 링크를 사용하며 두 개의 DDR4 메모리 채널에 연결된다. Micron은 모듈 하나가 최대 256GB 용량을 지원한다고 설명한다. 이 설계는 호환되는 프로세서가 설치된 듀얼 인라인 메모리 모듈이 제공하는 것보다 더 많은 메모리에 접근할 수 있게 한다.

이는 완전한 풀링이 아니라 확장이다. 호스트는 추가 용량을 얻을 수 있지만, 여러 호스트 간 동적 공유에는 스위칭 및 관리 계층이 필요하다. 이러한 계층이 Liqid와 Microchip 같은 공급업체가 등장하는 지점이다.

Liqid는 오케스트레이션 계층에 속한다. Matrix 소프트웨어는 물리적 자원을 검색하고 워크로드 요구에 따라 서버에 배정한다. 이 회사의 CXL 시스템은 호스트 어댑터, 패브릭 스위치, 확장 섀시, 메모리 장치, 관리 소프트웨어를 결합한다.

Liqid는 EX-5410C 섀시가 CXL Gen 5 장치 10개를 수용하고 최대 20TB의 메모리를 제공할 수 있다고 말한다. 여러 섀시를 더 큰 풀로 구성할 수 있다. 이는 독립적인 성능 결과가 아닌 회사 사양이므로, 실제 배포 동작은 여전히 검증이 필요하다.

Microchip은 제어 및 연결성 계층에 더 가깝게 위치한다. SMC 2000 및 SMC 2100 제품군은 DDR 메모리를 CXL 지원 호스트에 연결한다. Microchip의 controller portfolio는 2세대 SMC 2100이 DDR5와 향상된 오류 정정을 지원한다고 설명한다.

Microchip은 2022년에 이전 세대인 SMC 2000 제품군을 소개했다. 회사는 초당 32기가트랜스퍼로 동작하는 16레인 또는 8레인 모델을 명시했다. 또한 보드 설계에 따라 일반적인 연결 모듈이 512GB 이상을 포함할 수 있다고 밝혔다.

이 계층들은 서로 다른 질문에 답한다.

Micron은 “추가 메모리 용량은 어디에서 오는가?”에 답한다. Liqid는 “운영자는 변화하는 워크로드 전반에 그 용량을 어떻게 배정하는가?”에 답한다. Microchip은 “어떤 실리콘이 메모리 트래픽을 관리하고 호스트에 안정적으로 연결하는가?”에 답한다.

업계에는 이 세 가지 답이 모두 필요하다. 소프트웨어 없는 확장 모듈은 대체로 정적인 자원에 머문다. 표준화된 하드웨어 없는 오케스트레이션은 제어할 대상이 거의 없다. 검증된 메모리와 호스트 시스템이 없는 컨트롤러는 사용 가능한 시장을 만들 수 없다.

이러한 기능적 정렬이 헤드라인을 설명할 가능성이 크다. 그러나 독자는 이를 모든 제품이 함께 테스트됐다는 증거로 해석해서는 안 된다. Google News 목록이나 접근 가능한 소스 자료 어느 쪽도 공동으로 검증된 자재 명세를 식별하지 않는다.

이 구분은 투자 분석에도 영향을 미친다. 파트너십은 선호 공급업체나 보호된 수익을 만들 수 있다. 개방형 생태계는 더 큰 잠재 시장을 제공하지만, 고객이 경쟁 모듈, 스위치, 관리 플랫폼을 대체할 수도 있게 한다.

CXL 메모리는 묶여 있는 용량을 AI 인프라 문제로 바꾼다

실질적인 대상은 서버 구성 요소의 이론적 부족이 아니라 활용되지 못하는 메모리다.

전통적인 서버는 프로세서, 메모리 채널, 듀얼 인라인 메모리 모듈을 고정된 구성으로 묶는다. 운영자는 배포 전에 그 구성을 선택한다. 일반적인 사용량이 그 수준보다 훨씬 낮게 유지되더라도, 워크로드의 예상 피크에 충분한 메모리를 설치하는 경우가 많다.

그 결과 한 서버에서는 용량이 유휴 상태로 남는 반면 다른 서버는 더 많은 메모리를 필요로 할 수 있다. 워크로드 이동이 도움이 될 수는 있지만, 데이터 중력, 가속기 배치, 라이선스, 보안 정책, 스케줄링 제약이 종종 그 선택을 제한한다.

CXL은 다른 경로를 제시한다. PCI Express 기반 링크를 통해 로드 및 스토어 메모리 트래픽을 전달하면서 일관성을 유지한다. 이는 참여하는 프로세서와 장치가 데이터에 대한 일관된 관점을 유지할 수 있음을 뜻한다.

Type 3 CXL 장치는 범용 프로세서 역할을 하지 않고 메모리를 노출한다. 이 설계는 주된 기능이 용량 제공인 확장 카드와 어플라이언스를 지원한다. CXL 2.0은 더 유연한 자원 할당에 필요한 스위칭 및 풀링 기능을 추가한다.

Micron의 역할은 이 주소 지정 가능한 용량에서 시작된다. CZ120 analysis는 자주 접근하는 페이지를 프로세서 가까이에 유지하는 계층형 접근 방식을 설명한다. 덜 활성화된 페이지는 확장 메모리로 이동할 수 있다.

이 계층 구조는 스토리지 티어링과 유사하지만, 성능 거리는 다르다. 로컬 메모리는 가장 빠른 계층으로 남는다. CXL 연결 메모리는 더 멀리 위치하며 링크, 컨트롤러, 스위치, 미디어 지연을 유발한다. 일반적인 메모리 접근에서 스토리지는 여전히 훨씬 느리다.

AI 추론 서버는 대규모 키-값 캐시에 이 추가 계층을 사용할 수 있다. 키-값 캐시는 모델이 생성 중 이전 토큰을 다시 계산하지 않도록 중간 어텐션 데이터를 저장한다. 더 큰 캐시는 더 많은 동시 요청이나 더 긴 컨텍스트를 지원할 수 있지만, 상당한 메모리를 소비한다.

검색 시스템도 또 다른 사례다. 벡터 인덱스, 임베딩, 자주 접근하는 데이터베이스 페이지는 로컬 용량을 초과할 수 있다. 더 많은 워킹 세트를 메모리에 유지하면 스토리지 트래픽을 줄일 수 있지만, 성능은 접근 패턴에 따라 달라진다.

과학 컴퓨팅, 그래프 분석, 인메모리 데이터베이스도 비슷한 제약에 직면한다. 이들의 유용한 데이터세트는 한 서버의 경제적인 용량을 넘어설 수 있다. CXL 계층은 더 많은 메모리 채널을 얻기 위해서만 프로세서를 업그레이드하지 않고도 주소 공간을 확장할 수 있다.

풀링은 플릿 수준의 가치를 더한다. 운영자는 모든 호스트에 피크 용량을 설치하는 대신 공유 자원을 유지하고 수요에 따라 배정한다. Liqid의 composable memory 자료는 사용자 인터페이스, 명령줄 또는 애플리케이션 프로그래밍 인터페이스를 통한 할당을 설명한다.

이점은 피크가 서로 다른 시점에 발생하는지에 달려 있다. 모든 서버가 동시에 최대 용량을 필요로 한다면, 풀링은 근본적인 수요를 제거하지 않는다. 그 수요의 패키징과 관리 방식을 바꿀 뿐이다.

이 때문에 이 이야기는 기존 서버 설계에 압력을 가한다. 데이터 센터는 역사적으로 서버의 일부로 메모리를 구매해 왔다. CXL은 메모리를 스토리지나 네트워크 용량에 더 가까운, 별도로 확장 가능한 인프라 자원으로 바라보게 한다.

진정한 경쟁자는 다른 메모리 공급업체가 아니라 정적 서버다

Micron의 CXL 추진은 Samsung이나 SK hynix보다 고정된 자원 소유 모델에 더 직접적인 도전을 제기한다.

Micron은 여전히 DRAM, NAND, 고대역폭 메모리 분야에서 이들 기업과 치열하게 경쟁한다. HBM 스택은 AI 가속기에 가깝게 배치돼 매우 높은 데이터 전송률을 제공한다. 대부분의 CXL 확장 시스템과는 계층 구조 내에서 다른 지점을 담당한다.

CXL은 가속기 비중이 높은 학습 시스템에서 HBM을 대체하지 않습니다. 원격 메모리 계층은 GPU 옆에 패키징된 메모리의 대역폭과 지연 시간을 따라갈 수 없습니다. 두 기술을 직접적인 대체재로 취급하면 아키텍처를 잘못 설명하게 됩니다.

대신 CXL은 부족한 로컬 용량을 보완할 수 있습니다. 더 낮은 우선순위의 모델 데이터, 캐시 항목, 데이터베이스 페이지, 체크포인트 또는 보조 데이터 세트를 저장할 수 있습니다. 이후 소프트웨어가 어떤 정보는 프로세서 가까이에 유지하고, 어떤 정보는 더 느린 계층을 감당할 수 있는지 결정합니다.

이러한 구성은 각 장비가 모든 메모리를 영구적으로 소유해야 한다는 가정을 약화시키므로 정적 서버 모델에 압박을 가합니다. 서버는 고정된 용량 한계를 지닌 폐쇄형 상자가 아니라 패브릭의 한 참여자가 됩니다.

Liqid는 이 주장을 명확히 제시합니다. 이 회사의 시스템은 리소스를 개별 호스트에서 분리하고 소프트웨어를 통해 할당합니다. 지원되는 구성 내에서는 워크로드가 완료된 뒤 관리자가 용량을 풀로 반환할 수 있습니다.

Microchip의 컨트롤러는 다른 방향에서 같은 아키텍처 변화를 지원합니다. 신뢰성, 오류 정정, 텔레메트리 및 보안 기능을 처리하면서 CXL 트래픽을 DDR 메모리 액세스로 변환합니다.

개방형 표준은 각 계층에 여러 경쟁자가 참여할 여지를 만듭니다. Samsung, SK hynix, Astera Labs, Marvell, XConn, MemVerge, UnifabriX 및 기타 공급업체는 CXL 관련 하드웨어 또는 소프트웨어를 개발해 왔습니다. Intel과 AMD는 서로 다른 수준의 CXL 지원을 제공하는 호스트 프로세서를 공급합니다.

CXL Consortium의 resource library는 이러한 폭넓은 생태계를 보여 줍니다. 여기에는 Micron, Microchip, Samsung, Astera Labs, Intel, AMD 및 추가 공급업체의 데모가 포함됩니다. 시장은 하나의 수직 통합 스택이 아니라 상호운용성을 중심으로 형성되고 있습니다.

이는 구매자에게 협상력을 제공합니다. 제품이 규정 준수 및 상호운용성 테스트를 통과한다면, 공통 프로토콜은 독점 인터커넥트에 대한 의존도를 낮출 수 있습니다. 고객은 메모리 장치, 스위치, 컨트롤러 및 관리 소프트웨어를 별도의 구매 결정으로 평가할 수 있습니다.

반면 공급업체의 통제력은 줄어듭니다. Micron은 CXL을 통해 더 많은 용량을 판매할 수 있지만, 경쟁 메모리 공급업체도 동일한 소켓을 공략할 수 있습니다. Liqid는 리소스를 오케스트레이션할 수 있지만, 대체 패브릭 관리자가 그 역할을 두고 경쟁할 수 있습니다. Microchip 역시 다른 컨트롤러 및 스위치 공급업체와 경쟁합니다.

정적 서버는 더 광범위한 변화를 포착한다는 점에서 가장 유용한 비교 대상입니다. 기존 모델에서는 메모리가 부족해지면 고객이 서버를 교체하거나 확장합니다. 컴포저블 모델에서는 고객이 패브릭을 통해 용량을 연결하고 이를 프로그래밍 방식으로 할당할 수 있습니다.

이 전환이 모든 곳에서 일어나지는 않을 것입니다. 소규모 배포 환경은 단순한 직접 연결 구성을 선호할 수 있습니다. 수요가 일정한 워크로드는 동적 재할당에서 얻는 이점이 적습니다. 균일하게 낮은 지연 시간에 의존하는 애플리케이션은 메모리 계층 전반에서 성능이 저하될 수 있습니다.

CXL은 시간, 호스트 또는 워크로드 단계에 따라 용량 수요가 변할 때 매력적입니다. AI 추론은 컨텍스트 길이, 요청량, 모델 크기 및 캐시 요구 사항이 크게 달라질 수 있으므로 많은 전통적 애플리케이션보다 이러한 패턴에 더 잘 부합합니다.

CXL 메모리의 주장이 입증하지 못하는 것

공급업체 데모는 기술적 방향성을 보여 주지만, 프로덕션 규모에서의 성능, 신뢰성 또는 운영 비용을 확정하지는 못합니다.

첫 번째 불확실성은 지연 시간입니다. 프로세서는 전용 메모리 채널을 통해 로컬 DRAM에 접근합니다. CXL 트래픽은 호스트 인터페이스를 거치며 컨트롤러, 스위치 및 외부 미디어를 통과할 수 있습니다.

각 단계는 지연을 추가합니다. 그렇다고 확장 메모리를 사용할 수 없다는 뜻은 아니지만, 어떤 데이터를 그곳에 배치해야 하는지는 달라집니다. 잘못된 배치는 용량 개선을 성능 저하로 바꿀 수 있습니다.

Micron의 자체 기술 자료는 메모리 계층 구조를 강조합니다. 자주 재사용되는 영역은 프로세서 가까이에 남아야 하며, 덜 활성화된 영역은 확장 계층에 배치할 수 있습니다. 따라서 시스템에는 정확한 페이지 배치 및 마이그레이션 정책이 필요합니다.

소프트웨어 동작은 두 번째 불확실성입니다. 운영체제는 CXL 메모리를 인식할 수 있지만, 인식만으로 애플리케이션이 최적화되지는 않습니다. 관리자는 할당, 모니터링, 장애 조치 및 리소스 회수 정책을 마련해야 합니다.

일부 애플리케이션은 메모리를 예측 가능하게 할당합니다. 다른 애플리케이션은 핫 영역과 콜드 영역으로 나누기 어려운 불규칙한 접근 패턴을 생성합니다. 인공지능 워크로드 역시 모델 로딩, 프롬프트 처리, 토큰 생성 및 캐시 축출 과정에서 동작이 달라질 수 있습니다.

세 번째 불확실성은 상호운용성입니다. 표준은 프로토콜 동작을 정의하지만, 프로덕션 시스템은 여전히 특정 프로세서, 펌웨어 버전, 스위치, 컨트롤러, 메모리 모듈, 커널 및 오케스트레이션 도구를 결합합니다.

CXL 3.1 지지자들은 메모리 컴포지션, 풀링 및 패브릭 관리를 전략적 목표로 설명했습니다. 이들의 support statements는 가능한 모든 멀티벤더 구성을 인증한 것은 아닙니다.

이 격차는 이른바 Micron, Liqid 및 Microchip의 협업에 중요합니다. 통합 벤치마크라면 호스트 프로세서, Micron 모듈, Microchip 구성요소, Liqid 패브릭, 소프트웨어 버전, 워크로드 및 기준선을 식별해야 합니다. 현재의 헤드라인에는 이러한 세부 정보가 전혀 없습니다.

장애 도메인도 또 다른 우려를 낳습니다. 한 서버 내부의 메모리는 다른 모든 호스트를 직접 중단시키지 않고 장애를 일으킬 수 있습니다. 공유 패브릭은 리소스를 집중시키므로 컨트롤러, 스위치, 펌웨어 또는 관리 장애의 영향을 키울 수 있습니다.

호스트 전반에서 보안 격리도 유지되어야 합니다. 풀링 시스템은 한 테넌트 또는 워크로드가 다른 워크로드의 메모리에 접근하지 못하도록 막아야 합니다. 인증, 접근 제어, 장치 할당, 보안 펌웨어 및 데이터 삭제는 모두 메모리 아키텍처의 일부가 됩니다.

CXL 3.1은 보안과 패브릭 기능을 개선했지만, 구현 품질은 여전히 공급업체의 책임입니다. 구매자는 시스템이 메모리를 어떻게 격리하는지, 오래된 데이터를 어떻게 처리하는지, 펌웨어 업데이트를 어떻게 적용하는지, 링크 또는 스위치 장애 후 어떻게 복구하는지 물어봐야 합니다.

경제성도 자동으로 보장되지는 않습니다. 풀링은 유휴 용량을 줄일 수 있지만, 패브릭에는 어댑터, 스위치, 섀시, 케이블, 소프트웨어, 지원 및 운영 복잡성이 추가됩니다. 올바른 비교는 메모리 모듈을 기존 듀얼 인라인 메모리 모듈과 비교하는 대신 이러한 구성요소를 포함해야 합니다.

에너지 사용도 유사한 주의가 필요합니다. 더 나은 활용률은 충분히 활용되지 않는 서버 수를 줄일 수 있습니다. 그러나 외부 메모리 셸프와 패브릭 하드웨어도 전력을 소비합니다. 순효과는 프로토콜만이 아니라 워크로드 통합과 활용률에 달려 있습니다.

이러한 문제들이 CXL의 유효성을 부정하는 것은 아닙니다. 이는 데모가 인프라 결정으로 이어지기 전에 필요한 증거를 정의합니다.

AI 메모리 구매자에게는 구성요소 주장이 아니라 워크로드 결과가 필요하다

CXL 도입의 다음 단계는 완전한 시스템 전반에서 반복 가능한 워크로드 측정으로 결정될 것입니다.

용량 사양은 출발점을 제공합니다. Micron의 CZ120은 모듈당 최대 256GB를 지원하며, Liqid는 수 테라바이트 규모의 섀시부터 더 큰 컴포즈드 풀까지 시스템을 홍보합니다. Microchip은 DDR4 및 DDR5 연결 메모리를 위한 컨트롤러 기능을 나열합니다.

이 수치는 제품이 무엇을 연결할 수 있는지 설명합니다. 애플리케이션이 무엇을 얻는지는 보여 주지 않습니다. 구매자는 현실적인 조건에서 처리량, 테일 지연 시간, 전력 사용량, 장애 복구 및 활용률 결과를 필요로 합니다.

AI 추론 테스트는 프롬프트 처리와 토큰 생성을 분리해야 합니다. 프롬프트 처리는 높은 컴퓨팅 처리량의 이점을 얻는 경우가 많지만, 토큰 생성은 메모리 이동과 캐시 액세스에 민감해질 수 있습니다. 하나의 평균 결과는 서로 다른 병목 현상을 가릴 수 있습니다.

테스트는 컨텍스트 길이와 동시성도 다양하게 설정해야 합니다. 모델과 활성 캐시가 로컬 메모리에 충분히 들어갈 때는 CXL 계층이 거의 가치가 없을 수 있습니다. 그렇지 않으면 캐시 축출, 스토리지 액세스 또는 동시성 감소를 강제하는 용량 제한 상황에서 그 이점이 더 분명해집니다.

검색 증강 생성은 또 다른 유용한 테스트를 제공합니다. RAG는 모델을 문서 또는 데이터베이스에서 수행하는 외부 검색과 결합합니다. 더 큰 메모리 계층은 더 많은 인덱스 데이터를 프로세서 가까이에 유지할 수 있지만, 불규칙한 조회는 지연 시간의 불이익을 드러낼 수 있습니다.

데이터베이스 및 분석 벤치마크는 어떤 페이지가 로컬 및 연결 메모리를 차지하는지 보고해야 합니다. 이 정보가 없으면 독자는 결과가 효과적인 계층화 측정인지, 유리한 데이터 세트 배치 측정인지 알 수 없습니다.

구매자에게는 비교 기준선도 필요합니다. 유용한 선택지에는 더 많은 로컬 DRAM을 갖춘 서버, 더 큰 서버, NVMe 기반 계층 및 워크로드를 노드 전반에 분산하는 클러스터가 포함됩니다. CXL은 운영자가 실제로 사용할 수 있는 대안과 비교해 그 가치를 입증해야 합니다.

관리 오버헤드도 평가에 포함해야 합니다. 패브릭은 하드웨어 할당을 프로그래밍 가능하게 만들 수 있지만, 누군가는 정책을 정의하고 장애에 대응해야 합니다. Kubernetes, Slurm, 가상화 시스템 및 관측성 도구와의 통합은 운영 결과에 영향을 줍니다.

개방형 생태계는 기회와 부담을 모두 만듭니다. 고객은 하나의 독점 스택을 구매하는 대신 특화된 제품을 조합할 수 있습니다. 동시에 장애가 공급업체 경계를 넘을 때 누가 전체 구성을 지원하는지도 판단해야 합니다.

공개된 인증 목록은 이러한 불확실성을 줄일 수 있습니다. 공급업체는 테스트된 프로세서 세대, 서버 모델, 펌웨어 버전, 커널, 스위치, 모듈 및 오케스트레이션 릴리스를 명시해야 합니다. 표준 옆의 로고만으로는 충분하지 않습니다.

독립 벤치마크는 추가적인 신뢰를 제공할 수 있습니다. 공급업체 측정은 유용한 연구 단서이지만, 테스트 방법, 구성 및 한계가 공개되어야 합니다. 결과에는 신중하게 선택한 성공 사례뿐 아니라 불리한 워크로드도 포함되어야 합니다.

이 요구 사항은 헤드라인에도 직접 적용됩니다. Micron, Liqid 및 Microchip을 하나의 팀으로 부르기 전에 독자는 명명된 공동 시스템, 공동 발표 또는 공동 작성 검증 보고서를 찾아야 합니다. 그때까지는 “동일한 CXL 생태계의 참여자”라는 표현이 뒷받침되는 설명입니다.

세 가지 신호가 CXL 정렬의 중요성을 보여 줄 것이다

다음 증거는 CXL이 배포 가능한 AI 메모리 계층으로 자리 잡는지, 아니면 유망한 구성요소들의 집합으로 남는지를 보여 줄 것입니다.

첫 번째 신호는 공동 인증된 구성입니다. Micron, Liqid, Microchip 또는 이들의 서버 파트너는 명명된 구성요소와 지원 소프트웨어를 포함한 완전한 시스템 설계를 공개해야 합니다.

이러한 문서는 테스트된 데이터 경로에 Microchip 실리콘이 포함되는지, Liqid가 Micron 모듈을 관리하는지, 어떤 프로세서가 해당 구성을 지원하는지를 명확히 해야 합니다. 공동 참조 아키텍처는 파트너십 해석을 강화할 것입니다. 계속된 개별 발표는 이를 약화시킬 것입니다.

두 번째 신호는 프로덕션 워크로드 데이터입니다. 가장 유용한 결과는 AI 추론, 검색, 데이터베이스 및 고성능 컴퓨팅 워크로드 전반에서 로컬 전용 메모리와 CXL 확장 또는 풀링을 비교하는 것입니다.

이 결과에는 용량, 처리량, 중앙값 지연 시간, 테일 지연 시간, 에너지 및 활용률이 포함되어야 합니다. 페이지 배치와 워크로드 단계도 설명해야 합니다. 완전한 애플리케이션 전반에서 더 나은 결과가 나온다면 정적 서버에 맞서는 근거가 강화될 것입니다.

세 번째 신호는 이벤트 데모를 넘어선 반복 가능한 배포입니다. 명명된 고객, 지원되는 서버 플랫폼 및 공개 인증 매트릭스는 CXL 시스템이 일반적인 운영 조건을 견딜 수 있음을 보여 줄 것입니다.

프로덕션 증거는 펌웨어 유지보수, 패브릭 장애, 보안 격리, 모니터링 및 멀티벤더 지원을 다뤄야 합니다. 프로세서, 컨트롤러, 스위치, 모듈 또는 관리 계층이 예상과 다르게 동작할 때 누가 문제를 책임지는지 구매자는 알아야 합니다.

더 넓은 메모리 시장도 중요하게 작용할 것이다. Micron, Samsung, SK hynix는 AI 중심 제품군을 계속 확대하고 있으며, 컨트롤러와 패브릭 공급업체들도 그 주변에서 입지를 놓고 경쟁하고 있다. 치열한 경쟁은 선택지를 넓힐 수 있지만, 초기 도입 환경을 파편화할 수도 있다.

CXL의 방향성은 이미 분명하다. 이 표준은 메모리를 단일 서버의 고정된 경계 밖으로 확장하고 있다. 아직 답이 나오지 않은 질문은 구매자들이 이러한 유연성을 얼마나 빠르게 일상적인 인프라로 받아들일 수 있느냐다.

개발자에게 당장의 의미는 아키텍처 측면에 있다. 균일한 메모리 지연 시간을 전제로 하는 애플리케이션은 프로파일링과 배치 제어가 필요할 수 있다. 시스템 팀은 어떤 데이터셋이 지연 시간에 민감한지, 어떤 데이터셋이 주로 용량만 필요한지 파악해야 한다.

엔터프라이즈 구매자는 양극단을 모두 경계해야 한다. CXL을 외면하는 것은 별도로 확장 가능한 메모리로의 신뢰할 만한 전환을 간과하는 일이다. 모든 효율성 주장을 받아들이는 것은 새로운 패브릭 계층의 비용과 복잡성을 무시하는 일이다.

Google News의 헤드라인은 관련 기업들을 포착했지만, 이들 사이의 관계를 과장했다. 더 중요한 이야기는 한 문장으로 압축하기 어렵다. Micron, Liqid, Microchip은 메모리가 풀링된 인프라가 될 수 있는 개방형 시장을 함께 구축하는 데 기여하고 있다.

처음 공개되는 공동 지원 구성 사례를 주시하고, 이를 자체 워크로드로 검증해야 한다. 공급업체가 그 근거를 제시하지 못한다면, 현재의 협력 구도는 완성된 AI 메모리 플랫폼이 아니라 로드맵으로 봐야 한다.

 
 

무료로 시작하세요

개인 지식 관리 기능을 갖춘 로컬 우선 AI 어시스턴트

더 나은 AI 경험을 위해

현재 remio는 Windows 10+ (x64)M-Chip Macs만 지원합니다.

업무를 위한 AI 파트너
remio와 더 많은 일을 해내세요

계획하고, 만들고, 완성하세요
모든 일을 한곳에서

bottom of page