Ceva发布NeuPro NPU家族：性能翻倍能效提升50%

要点：

• Ceva发布下一代NPU产品家族“NeuPro”，可覆盖从传感器到AI基础设施。
• 与第一代相比，每mm²的AI处理性能最高提升至2倍，能效提升50%。
• 该家族包含4款采用共同架构的产品，计划于2027年第二季度全面供货。

Ceva于10月28日（美国时间）发布下一代NPU产品家族“NeuPro”。该家族基于共同架构和统一软件栈，面向从常开型传感器到高级边缘系统、机器人、云/数据中心等广泛场景，支持感知、分类以及Transformer、多模态AI、生成式AI、代理型AI等推理处理。与第一代相比，每mm²的AI处理性能最高提升至2倍，能效提升50%。

每mm² AI处理性能最高提升至2倍

下一代NeuPro是一款半导体IP，设计目标不仅是提升算力，还针对功耗、芯片面积、内存带宽和数据传输量优化推理处理。其AI运算格式支持FP4、FP8等，并通过混合精度运算提升推理效率，同时减少内存使用量和数据传输量。

在内存管理方面，NeuPro支持动态形状和以页为单位的KV缓存管理，可应对处理长上下文的Transformer以及需要大量内存的工作负载。该产品通过优化张量形状提高乘加运算（MAC）利用率，并支持压缩、量化和剪枝，以提升每瓦功耗和每单位芯片面积的有效性能。

此外，NeuPro支持已量化模型，无需另行量化和校准，即可部署公开的checkpoint。

支持MoE和线性注意力等

NeuPro支持的神经网络架构包括MoE（Mixture-of-Experts，混合专家）和线性注意力等。Ceva假设AI模型和网络配置会在产品生命周期内发生变化，因此为该产品赋予了对新模型类型的灵活性。

在物理AI（Physical AI）领域，越来越多的系统在靠近传感器处执行感知处理和实时响应，同时将复杂推理和编排分散到设备、边缘系统和云端。为此，下一代NeuPro允许根据执行位置和工作负载选择NPU，同时使用共同架构和软件环境。

由Nano、Prime、Max、Ultra四款产品组成

下一代NeuPro产品家族由4款面向不同处理性能和用途的NPU组成。

• NeuPro Nano：面向功耗和面积约束严格的设备，针对常开型感知和入门级感知处理。
• NeuPro Prime：支持主流的CNN和Transformer工作负载。
• NeuPro Max：面向高分辨率感知处理、多模态模型、设备端AI助手、机器人、物理AI、代理型AI等高级边缘AI。
• NeuPro Ultra：面向AI基础设施，除云和数据中心中的大语言模型（LLM）推理处理外，还设想嵌入智能内存、连接和数据处理的芯片组。

通过共同SDK复用软件资产

4款NPU采用共同的核心架构，并由相同的集成软件开发工具包（SDK）支持。因此，半导体设计人员可根据性能、功耗和面积切换NPU核心，也可在一个SoC中集成多个NPU，并按工作负载将处理分配给合适的引擎。

工具、开发流程和软件资产可在整个产品家族中共享，使从常开型传感器到AI基础设施等不同性能要求的产品能够基于共同开发平台进行设计。Ceva表示，第一代NeuPro已向15家以上公司授权。下一代产品基于与这些客户合作获得的洞见，重新审视了算力、内存、带宽、功耗和成本的平衡。

借NeuPro Ultra扩展至AI基础设施业务

随着下一代NeuPro发布，Ceva还宣布将在传统智能边缘之外，将业务领域扩展至AI基础设施。

在大规模AI推理中，需要为大量用户同时运行多个模型，因此不仅算力，内存带宽以及内存、计算单元和网络之间的数据传输也会影响系统性能和能效。

NeuPro Ultra具备多核处理、多用户支持、高内存带宽和高级内存管理功能，可支持云和数据中心使用的软件框架，既可作为LLM推理处理器使用，也可嵌入内存和连接子系统，对数据移动本身应用神经处理。

减少数据移动以提升AI系统效率

通过将NPU布置在靠近内存或网络的位置，可先筛选和处理必要数据再送往计算单元，从而减少系统内部不必要的数据传输。Ceva将向半导体厂商强调，将此类功能集成到芯片组后，无需从零开发NPU平台，即可开发面向从边缘到AI基础设施的半导体产品。

计划2027年第二季度全面供货

下一代NeuPro技术已开始向部分早期访问客户提供，大型半导体厂商和系统开发企业正在评估将其集成到未来AI产品中。面向一般客户的供货计划于2027年第二季度开始。

Ceva表示，将把共同的NPU架构和软件栈推广到常开型感知、边缘AI、机器人、物理AI和AI基础设施领域，帮助半导体厂商缩短开发周期并复用软件资产。