인공지능(AI) 시장이 초고속 연산 경쟁에서 초대용량 메모리 경쟁으로 전환되면서 삼성전자와 SK하이닉스가 차세대 메모리 기술인 CXL(Compute Express Link) 상용화에 속도를 내고 있다. 업계는 CXL이 고대역폭메모리(HBM)를 대체하기보다 AI 서버의 메모리 확장성을 높이는 핵심 기술로 자리 잡을 것으로 전망하고 있다.
현재 AI 서버는 GPU 옆에 탑재되는 HBM과 CPU에 연결되는 일반 D램(DRAM)으로 구성된다. 그러나 두 메모리 모두 프로세서와 일대일로 연결돼 있어 메모리 용량을 늘리려면 고가의 GPU나 CPU까지 함께 추가해야 하는 구조적 한계를 안고 있다.
이 같은 문제를 해결하기 위한 기술로 주목받는 것이 CXL이다.
CXL은 PCIe(Peripheral Component Interconnect Express) 인터페이스를 기반으로 프로세서와 메모리를 연결하는 차세대 표준이다. 기존 D램과 SSD 사이의 새로운 메모리 계층을 형성해 대용량 메모리를 효율적으로 공유하면서도 AI 연산에 필요한 낮은 지연시간을 제공하는 것이 특징이다.
AI 데이터센터 운영 기업 입장에서는 값비싼 GPU를 추가하지 않고도 메모리 용량을 확장할 수 있어 비용 절감 효과가 기대된다.
SK하이닉스는 지난 6월 미국 라스베이거스에서 열린 'HPE 디스커버(HPE Discover)' 행사에서 CXL 3.2 기반의 2세대 256GB CMM-DDR5 메모리 모듈을 공개했다.
이 제품은 기존 1세대 대비 용량을 두 배로 늘렸으며, AI 인프라 전문기업 리퀴드(Liqid)의 메모리 풀링 서버에서 실제 구동되는 모습을 시연했다. 다만 양산 일정은 아직 확정되지 않았다.
삼성전자도 차세대 CXL 메모리 모듈(CMM-D) 양산을 준비하고 있다.
당초 올해 말 생산을 목표로 했지만, 인텔과 AMD의 차세대 서버 플랫폼 출시 일정이 지연되면서 양산 시점이 2027년으로 늦춰질 가능성도 제기됐다. 이에 대해 삼성전자는 일부 일정 조정에도 불구하고 계획에 맞춰 생산을 준비하고 있다는 입장을 밝혔다.
업계는 AI 메모리 시장의 경쟁 구도가 기존의 속도 중심에서 메모리 시스템 설계와 확장성 중심으로 빠르게 변화하고 있다고 분석한다.
특히 생성형 AI 서비스가 확산되면서 대규모 언어모델(LLM) 운영 과정에서 생성되는 '키-값(Key-Value) 캐시' 데이터가 급격히 증가하고 있다. 메모리 용량이 부족할 경우 시스템 성능이 저하되거나 이미 수행한 연산을 반복해야 하는 문제가 발생한다.
CXL은 이러한 대규모 데이터를 별도의 공유 메모리 공간에서 관리할 수 있어 AI 추론 성능을 높일 수 있는 대안으로 평가받는다.
양사는 자체 테스트를 통해 성능 개선 효과도 공개했다.
삼성전자는 지난 7월 실시한 테스트에서 1TB 규모의 CXL 메모리 풀이 기존 시스템보다 훨씬 큰 캐시를 지원하면서도 8개의 GPU 환경에서 기존 D램 기반 추론 성능의 약 92%를 유지했다고 밝혔다.
SK하이닉스 연구진도 지난 6월 발표한 연구 결과를 통해 CXL을 테라바이트급 공유 메모리 계층으로 활용할 경우 AI 추론 처리량이 최대 35.7% 향상됐다고 발표했다.
다만 두 결과 모두 각 기업이 자체 환경에서 수행한 실험 결과라는 점은 감안할 필요가 있다.
전문가들은 CXL이 HBM을 대체하는 기술은 아니라고 평가한다.
HBM은 여전히 초고속 연산이 필요한 AI 프로세서의 핵심 메모리 역할을 담당하며, CXL은 대용량 메모리를 보완하는 새로운 계층으로 활용될 가능성이 높다. 다시 말해 HBM은 속도를, CXL은 용량을 담당하는 형태로 상호 보완적인 구조가 형성될 것으로 전망된다.
다만 CXL의 성능은 하드웨어뿐 아니라 소프트웨어 기술에 크게 좌우된다.
로컬 D램보다 접근 속도가 느린 만큼 어떤 데이터를 CXL 메모리에 저장하고 어떤 데이터를 HBM이나 D램에 유지할지 결정하는 메모리 관리 기술과 컨트롤러, 펌웨어 등이 핵심 경쟁력으로 떠오르고 있다.
현재 CXL 생태계는 아직 초기 단계다. 관련 서버 플랫폼과 운영 소프트웨어가 본격적으로 확대돼야 시장이 본궤도에 오를 것으로 업계는 보고 있다.
유진투자증권 임소정 애널리스트는 "AI 인프라가 확대될수록 CXL 수요도 빠르게 증가할 것"이라며 "2026년부터 시장이 본격 성장하고, 2028년에는 CXL을 지원하는 서버 플랫폼이 업계의 주류로 자리 잡을 가능성이 높다"고 전망했다.
AI 산업이 초거대 모델 중심으로 발전하면서 메모리 기술 경쟁도 새로운 국면에 접어들고 있다. 삼성전자와 SK하이닉스의 CXL 경쟁은 단순한 차세대 메모리 개발을 넘어 AI 데이터센터의 구조 자체를 바꾸는 핵심 기술 경쟁으로 확대될 것으로 전망된다.
@굿모닝베트남미디어
