SK hynix 发布 MARS 内存解耦架构，HBF 容量达 HBM 14 倍

为突破当前的内存瓶颈，SK hynix 正将 AI 基础设施的探索延伸至传统 HBM 方案之外。在 OCP Global Summit 2026 上，SK hynix 高级副总裁 Hoshik Kim 介绍了 MARS（Memory-Centric AI Rack-Scale System，以内存为中心的 AI 机架级系统）——一种解耦式机架级架构，旨在让计算与内存资源实现无缝协同。

值得注意的是，Kim 还重点提及了 HBF（High Bandwidth Flash，高带宽闪存）的进展，该技术瞄准的正是业界当前迫切面临的容量瓶颈。以下是 TrendForce 对其演讲要点的现场整理。

MARS：TTFT 最高提升 5 倍，破解以处理器为中心的集群瓶颈

据 Kim 介绍，传统的以处理器为中心的架构在分布式计算集群中面临严重的结构性局限。其一是资源失衡——某台服务器上的闲置内存难以被另一台服务器共享；其二是扩展刚性问题——要增加内存就必须购买一整台新的服务器节点。由此，运营方被迫超额配置 GPU，导致 TCO（总拥有成本）上升，并造成系统效率低下。

Kim 表示：“通过内存解耦，我们把内存从传统 CPU/GPU 服务器的限制中释放出来，构建一个专用的大规模内存池……我们实际上可以从每台服务器的内存余量，走向内存池级别的效率。”

按照 Kim 的解释，MARS 是一套解耦式机架级内存系统，将计算与内存作为共享基础设施统一调度。“现在，我们正把内存托盘级别的内存池这一概念，扩展为机架级内存池。”

谈及 MARS 带来的实际性能提升，Kim 指出：“我们把它应用于多轮 AI 智能体（agentic AI）推理服务。通过提供这套系统，我们能够把多轮 AI 智能体产生的爆炸式增长的 KV cache 消耗并存储到共享内存系统中，而不会耗尽 GPU 内存和存储系统。”

“所以看这张图，相比重新计算（recomputation），我们在 TTFT（Time To First Token，首 Token 时间）上取得了 3 到 5 倍的显著改善，这相当令人印象深刻，尤其是在尾延迟方面，尾延迟被大幅降低。”

HBF：容量达 HBM 的 14 倍，2028 年提供样品

SK hynix 还详细介绍了高带宽闪存 HBF 的进展，并强调其关键性能优势。

Kim 说：“总体而言，HBM 是很好的内存……而 HBF 把这种 HBM 级别的带宽扩展到机架级的能力与容量……HBF 的带宽通常是 HBM 的一半，但容量大约是 HBM 的 14 倍。”

他确认产品开发进展顺利。“今年 7 月，我们发布了 OCP HBF 规范 0.7 版……预计明年初发布 1.0 版规范，目前正在开发 HBF 概念原型，并将在 2028 年初提供 HBF Cube 样品。”