AMD扩展Instinct MI400系列:DeepSeek-R1推理吞吐较NVIDIA高至多30%
AMD于11月12日(美国时间)公布了面向AI与科学计算GPU的AMD Instinct MI400系列的新产品组合及性能测试结果。此次发布公开了面向科学计算与AI融合场景的AMD Instinct MI430X细节,展示了搭载AI导向AMD Instinct MI455X的机架级(rack-scale)平台AMD Helios的推理性能,并新增了MI400系列产品AMD Instinct MI450X。
AMD表示,科学模拟、前沿AI和对话式AI推理对计算精度、内存容量和响应时间的要求各不相同。通过扩展MI400系列产品组合,AMD希望覆盖HPC与AI的不同工作负载。
MI455X在DeepSeek-R1推理中达到每GPU每秒21,333 tokens
在AMD进行的测试中,搭载MI455X的AMD Helios在DeepSeek-R1推理处理中实现每GPU每秒21,333 tokens。测试采用MLPerf Inference的Offline配置。AMD称,与NVIDIA Vera Rubin NVL72公布的最新MLPerf Inference v6.1 Offline结果相比,吞吐量最高高出30%。
不过,MI455X的结果来自AMD Performance Labs于2026年10月进行的AMD侧测试,NVIDIA的结果则是MLCommons公开的另一套系统测量值。性能可能因系统配置和软件版本等因素而变化。
AMD Helios是在机架级整合MI455X、EPYC处理器、网络技术以及开源AI软件基础ROCm的AI平台。AMD称,与NVIDIA Vera Rubin相比,Helios具备最高高出20%的HBM带宽以及更宽的scale-up带宽,这些特性有助于提升推理性能。
MI430X面向AI for Science与HPC,配备432GB HBM4
MI430X面向将高精度科学模拟与AI结合的“AI for Science”以及HPC用途设计。它可原生处理双精度浮点运算FP64,在保持科学计算所需精度的同时,支持与AI结合的工作负载。
该GPU配备432GB HBM4,内存带宽最高为每秒23.3TB,可将大规模科学模拟和数据集保留在GPU内存中,并以高带宽进行处理。
在科学计算中,一些处理可通过低精度运算加速,但为确保数值精度和稳定性,仍有用途需要FP64。AMD调查了11种应用和基准测试中的47种工作负载配置,分析了可通过FP64仿真处理的处理,以及需要原生双精度运算的科学计算。MI430X将原生FP64运算、AI运算和大容量HBM4结合起来,为同时运行科学计算与AI提供环境。
新增配备288GB HBM4的MI450X
AMD还发布了MI400系列新品MI450X,配备288GB HBM4。MI450X具备与MI455X相同的核心计算性能、内存带宽以及scale-up和scale-out连接功能,但HBM4容量为288GB。
AMD表示,对于所需内存容量可容纳的AI模型和工作负载,选择内存容量低于MI455X的MI450X,可在维持吞吐量和响应时间目标的同时优化运营成本。相反,对于更大规模的AI模型、更长上下文以及需要同时处理大量请求的用途,可选择内存容量更充裕的MI455X。
在AMD Helios中,MI450X与MI455X均可使用相同的开放式机架级架构和ROCm软件基础。这样,在保持系统和软件共通部分的同时,用户可根据模型规模、内存容量、并发执行数和运营成本等选择GPU。
按AI与科学计算需求区分产品
MI400系列根据目标工作负载区分MI430X、MI450X和MI455X。MI430X面向需要FP64高精度运算、大容量内存和高内存带宽的科学计算及AI for Science;MI450X面向可用288GB HBM4处理的AI模型和推理工作负载,在保持计算性能的同时优化运营成本;MI455X则面向需要更多内存的大规模模型、长上下文以及要求高并发性能的AI处理。
AMD强调,其优势不在于为每种用途固定产品,而是以共通的Helios架构和ROCm为基础,让用户根据所需计算精度和内存容量选择配置。通过MI455X提升推理性能,并补齐面向科学计算的MI430X和降低内存容量的MI450X,AMD希望扩大从AI推理到HPC均可覆盖的GPU产品组合。












