AMD推MEXT预测型内存软件 缓解数据中心DRAM瓶颈

在通过Venice和Verano扩展CPU产品线的同时，AMD还将目光投向数据中心的另一项挑战——内存瓶颈。据Wccftech报道，这家芯片厂商发布了基于闪存的MEXT Predictive Memory Software（预测型内存软件），可在EPYC服务器上将DRAM需求降低20%至75%，在保持性能大致相当的同时缓解成本与供应压力。

该产品于11月推出，此前AMD于6月收购了MEXT。据Commercial Times报道，AMD业务发展副总裁Gary Smerdon解释称，企业往往会超额配置内存，以防止性能下降。Wccftech补充称，DRAM超额配置比例可达50%，使已分配内存中有一半未被虚拟机（VM）使用，另有25%滞留在实例内部。报道认为，随着内存页变为非活跃或“冷”页，整体可能有50%至80%的DRAM容量未被充分利用。

在此背景下，作为AI驱动的预测型内存解决方案，MEXT通过将闲置数据转移至闪存，并利用AI预测需求，在应用需要之前将数据移回DRAM，以尽量降低延迟，Commercial Times报道称。

据称，在供应持续短缺的情况下，DRAM占服务器总成本的比例可高达75%，因此潜在节省空间可观。据Wccftech报道，MEXT能以远低于增加物理DRAM的成本，将可用内存容量有效提升至三倍，为数据中心提供更经济的扩展路径。

其收益还可能超出内存节省本身，尤其是在智能体AI（agentic AI）工作负载中。据Wccftech报道，AMD声称，采用50/50的DRAM与支持MEXT的闪存组合，可在五智能体并发工作流中将每美元性能提升90%，在内存密集型智能体应用中将每美元性能提升70%。

MEXT迈向商业化

AMD已在其自身IT基础设施中部署MEXT。据Wccftech报道，初期在145台服务器上部署，预计可避免约490万美元的DRAM采购，与同等纯DRAM升级相比，将内存扩展成本削减83%。报道指出，AMD计划到2027年将部署范围扩大至2000台服务器。

除内部采用外，AMD还与慧与（Hewlett Packard Enterprise，HPE）合作，将MEXT带给企业客户，初期重点面向具备充足CPU核心和NVMe扩展能力的“MEXT Ready”系统，Wccftech报道称。

NVIDIA借助CMX扩展KV Cache容量

AMD并非唯一希望借助闪存缓解内存约束的厂商。NVIDIA在AI推理中采取了相关但不同的做法，即Context Memory Storage（CMX）平台。随着生成式AI和AI智能体处理更长的上下文，用于存储早期token计算结果的KV cache（KV缓存）迅速增长，若全部保存在HBM中，成本高昂且容量受限。

CMX在GPU HBM和主机DRAM之下增加闪存层级，使被挤出HBM的KV cache可存储在闪存中，并在需要时取回。Wccftech报道称，CMX使用TLC闪存，通过BlueField-4 DPU和Spectrum-X Ethernet（以太网）连接至Rubin GPU集群。