传英伟达Vera Rubin系统内存配置减半,成本占比逼近BOM的29%

传英伟达Vera Rubin系统内存配置减半,成本占比逼近BOM的29%

随着高带宽内存(HBM)与先进封装成本持续走高,AI算力基础设施的总体拥有成本正面临前所未有的压力。近期有分析指出,在英伟达下一代Vera Rubin NVL72机架级系统中,仅内存子系统的物料成本就逼近整机BOM的29%,促使这家GPU巨头大幅调整硬件规格。

根据Wccftech披露的广发证券研究报告,英伟达已决定将Vera Rubin平台所搭载的SOCAMM(Stacked Chip on Wafer Advanced Memory Module)配置容量削减近一半。原计划中每颗Grace CPU或配套的高带宽内存模组容量可达到较高水平,但为抑制系统总成本并保障供应连续性,新方案将显著收缩内存配备。

Vera Rubin是英伟达面向2026年后数据中心推出的重要计算平台,采用Grace CPU与新一代GPU的紧耦合设计,其NVL72机架可集成多达72个GPU,目标直指万亿参数大模型训练与推理。SOCAMM作为基于3D堆叠和晶圆级集成的新型内存形态,本欲提供更高的带宽与能效,但在良率和封装产能受限的背景下,价格远超传统HBM。

产业观察家表示:内存成本占比上升不仅会影响英伟达自身利润空间,更可能传导至下游CSP客户的采购决策。通过缩减内存容量,英伟达试图在单位性能与机架总成本之间重新取得平衡,同时减轻对紧缺封装资源的依赖,确保Vera Rubin能在2026年下半年顺利交付。

若此举得以落实,或将影响大型AI集群的架构设计,并进一步刺激业界对更高性价比内存方案的探索。

新人专享大礼包