HBM承压,CXL是替代还是互补?三星SK海力士加速布局

随着供应趋紧、成本飙升,HBM 正承受越来越大的压力,AI 热潮也为替代性存储技术打开了大门,CXL(Compute Express Link)由此成为关键竞争者之一。不过,据 Chosun Biz 与 Financial News 报道,援引 OpenAI 和 Intel 高管在加州 AI Infrastructure Summit 上的表态,CXL 或许并非要取代 HBM,而是更适合与之互补。

据 Chosun Biz 解释,CXL 是一种新一代互连技术,可通过将额外内存资源连接至计算系统、并实现内存跨服务器池化与共享,来扩展内存容量。AI 加速器随后可通过 CPU 访问连接至 CXL 的内存,从而以更灵活的方式扩展容量。报道称,一些行业观察人士认为,更广泛的采用有望减少所需的高成本 HBM 数量,而不会显著损害系统性能,从而可能降低大规模 AI 服务器部署的成本。

CXL 的两大限制:用例与带宽

不过,两大障碍可能限制 CXL 蚕食 HBM 地盘的程度。OpenAI 从事 AI 加速器设计的研究员 Daniel Morris,以及 Intel AI 系统级芯片(SoC)架构负责人 Vidhya Thyagarajan 指出,CXL 在 AI 模型执行方面缺乏实际用例,并且与 HBM 之间存在不小的带宽差距。

Chosun Biz 援引 Morris 的话称,他尚未在真实 AI 模型工作负载中找到 CXL 的有力用例。Morris 表示,CXL 的作用可能主要局限于存储大型 AI 模型很少访问的非活跃数据。

与此同时,Thyagarajan 指出,该技术更适合作为二级存储的补充,而非 HBM 的替代品,因为通过 CXL 在 GPU 之间传输数据的速度“绝没有 HBM 那么快”。

在此背景下,Chosun Biz 指出,即便 CXL 作为更广泛 AI 内存层级中的额外一层获得更多采用,这一局面也可能让 Samsung Electronics 和 SK hynix 的竞争格局基本保持不变;这两家公司目前在全球 HBM 市场占据领先地位。

SK hynix、Samsung 推进 CXL 内存

尽管 CXL 挑战 HBM 的能力存疑,SK hynix 和 Samsung 仍在推进该技术,将其作为 AI 内存层级中的新一层。据 SeDaily 报道,今年 6 月,SK hynix 公布了新的“Inference Tier Memory Expansion”(ITME)架构,在当今基于 HBM 的 AI 内存栈中,将“CXL 混合内存”插入 DDR 与 SSD 之间。

SeDaily 援引 SK hynix 称,通过将传统的 HBM → DDR → SSD 内存层级扩展为 HBM → DDR → CXL memory → SSD,这家存储巨头将 AI 推理效率提升了 35.7%。报道解释称,在新架构下,CXL 内存充当内存枢纽,预测 HBM 和 DDR 将需要哪些热数据,提前从 SSD 中取回这些数据,并将其送入更快的内存层级。

在此背景下,Samsung Electronics 和 SK hynix 不仅在竞相推进基于 CXL 的架构,也在推进支持这些架构所需的内存产品。据 SeDaily 报道,Samsung 计划在今年年底前,开始量产基于最新 CXL 3.2 规范的 CXL Memory Module (CMM-D) 3.0。

另一方面,Sharing Economy News 报道称,SK hynix 已推出基于 CXL 3.2 的第二代 CMM-DDR5 样品,并已开始与潜在客户进行供应谈判,但尚未披露明确的量产时间表。