Arm加速布局Agentic AI：CPU需求飙升，AGI CPU亮相OCP峰会

随着 agentic AI（智能体 AI）让 CPU 重新回到聚光灯下，Arm 正加紧布局这一新兴机遇。在今年 3 月推出面向 agentic AI 负载的 Arm AGI CPU 之后，该公司于 OCP Global Summit 2026 上分享了对市场需求演变的展望。

以下是 Arm 云 AI 事业部执行副总裁兼总经理 Mohamed Awad 与解决方案产品管理总监 Ravi Malhotra 分享的核心观点，由 TrendForce 现场报道。

AI 数据中心中 CPU 的三种专门角色

Awad 详细阐述了 CPU 在现代 AI 基础设施中如何扮演关键角色，并针对特定用途做了高度优化，具体包括 AI Head Node（AI 头节点）、Cloud-Native CPU（云原生 CPU）与 Agentic CPU（智能体 CPU）。

“头节点讲究的是协同设计，它的首要职责是不让加速器闲置。众所周知，加速器与内存是昂贵的折旧资产，我们不愿看到它空转。因此头节点经过优化，尽可能让加速器保持高效运转，负责调度、数据搬运与内存管理。”他说。

接下来是云原生 CPU，定制化 CPU 已在悄然改变数据中心的方方面面。据 Awad 介绍，高核心数的定制 CPU 让虚拟机兼具出色性能、能效与扩展能力；而定制的 DPU 则为网络、存储、安全与控制平面提供支撑。

最后，Agentic AI 正迅速成为主流 AI 负载。“智能体本质上就是一个虚拟用户，一个从不睡觉的虚拟用户。”Awad 说道，并补充说：“这意味着专用的 CPU、专用的内存、专用的资源……CPU 的重要性前所未有。这正是 CPU 需求飙升的原因。”

在此背景下，Arm 援引研究预测指出，CPU 市场规模有望从 2026 年的 520 亿美元增长至 2030 年的 3000 亿美元。

双轨基础设施：AI 机架与 CPU 机架配对

Malhotra 强调，agentic AI 的基础设施本质上由两个互补部分组成。

“一方面是 AI 机架或 AI 基础设施，专注于智能体的推理与规划。”他解释道。该领域的核心目标是运行各类模型以实现高 token throughput（token 吞吐量），即最大化每秒钟、每瓦特、每美元所能产出的 token 数量。

“另一方面则是 CPU 机架。所有智能体工具链与编排通常都会运行在这些 CPU 机架上。”Malhotra 指出。因此，企业客户在部署智能体基础设施时，其决策自然围绕两大问题展开：评估自身的 AI 基础设施形态，以及如何将其与相应的 CPU 机架有效配对。

聚焦 AGI CPU

为满足 agentic AI 带来的需求，Malhotra 重点介绍了 Arm AGI CPU 的突破——这是该公司自主设计的首款服务器级 CPU 芯片。

“我们在设计 AGI CPU 时牢记三点：高性能、可扩展性与能效，并为此做出了一些刻意的设计取舍。我们采用了最新的第三代 Neoverse 核心，并与超大规模云厂商合作进行了大量优化。我们专注于降低内存延迟，确保每核心拥有高内存带宽以避免争用，同时确保线性扩展能力——性能不会下降，可以在 90%、95% 的利用率下使用。最终，这一切都能在可控的功耗范围内实现，既能降低冷却成本，也能在机架层面塞进更多核心。”Malhotra 强调说。