AMD MI455X AI推理性能较英伟达高30%

AMD公布了最新Instinct服务器GPU的人工智能(AI)计算性能,并披露了该产品线的新成员及更多细节。公司称,其用于Helios系统的MI455X在MLPerf离线AI推理基准测试中运行DeepSeek-R1模型时,单GPU吞吐量达到21,333 token/s。

AMD于当地时间11月12日表示,这一成绩比英伟达(Nvidia)Vera Rubin NVL72服务器机架在相同测试中的结果高30%。英伟达的测试结果于11月11日发布。

AMD将推理性能优势归因于系统数据带宽的差异。MI455X的高带宽内存(HBM)带宽最高比Nvidia Rubin GPU高20%;其GPU到GPU的scale-up带宽也高于Nvidia Vera Rubin。Scale-up指在单个机架内通过超高速通信连接多颗GPU的架构。

Helios系统搭载72颗Instinct MI455X GPU,HBM4总容量合计31 TB,内存带宽最高达1.7 PB/s;其scale-up带宽达到260 TB/s。

AMD还公布了面向科学研究领域高性能计算(HPC)的MI430X详细规格。该GPU配备432 GB HBM4内存,最高内存带宽为23.3 TB/s。

MI430X原生支持高精度64位双精度浮点(FP64)计算。AMD分析了11个科学计算应用及基准中的47项工作负载,发现许多精度模拟和科学计算的准确性依赖于原生硬件FP64计算性能。

此外,AMD推出成本优化型Instinct MI450X,每颗GPU配备288 GB HBM4内存。其核心计算性能、内存带宽、scale-up能力以及服务器间scale-out连接能力均与MI455X相同。MI450X可作为AMD Helios的GPU选项提供。

新人专享大礼包