Baya Systems日本设点，聚焦Chiplet数据移动

Baya Systems是一家成立于2023年的相对较新的半导体IP企业。公司提供名为WeaverPro的、基于Chiplet的设计平台（Design Platform），以及可在该平台上使用的四种WeaveIP（Calico/Cashmere/Chiffon-AI/Neurascale）。创始人为Sailesh Kumar博士，创始成员中还包括Tenstorrent CEO Jim Keller（Keller现任该公司董事长）。也因此，Baya与Tenstorrent的合作早已公布：Tenstorrent从Baya获得WeaveIP授权，并将其用于自身的Chiplet解决方案。

Baya Systems于8月25日宣布开设日本办公室。原Synopsys的猪飼歩出任Director of Sales。9月7日，CEO Kumar博士与今年3月作为COO（Chief Commercial Officer）上任的Nandan Nayampally一同来日，笔者获得了采访机会。

（图注：左为CEO Kumar博士，右为COO Nayampally。Nayampally曾在Arm工作至2020年，笔者与其多次见面，例如2017年的报道；但由于新冠疫情后面对面机会骤减，此次是约10年后再见。）

从Jim Keller一句话开始

Kumar博士原本共同创立了开发System Fabric的Net Speed Systems，并担任CTO。该公司业绩非常好，于2018年被Intel收购。Net Speed Systems的Fabric IP被当时在Tesla的Jim Keller看中，并被用于Tesla第一代Autopilot。后来Keller加入Intel时热情邀请Kumar，Kumar也在Intel收购时直接转入Intel。在Intel，他与Keller密切共事约3年半。

之后Keller离开Intel加入Tenstorrent，从CTO中途转为CEO。一年后，Keller联系Kumar称：“必须再一次创办一家新的Fabric公司，因为Fabric正在成为新的瓶颈。”这就是Baya Systems的开端。

据说从收到联系到融资、组织团队、公司实际运转，仅用了1个月。目前团队以原Intel出身者为中心。（图注：不知为何，日本办公室似乎有不少原Arm出身者。）

以Tenstorrent合作为跳板进入日本市场

该公司目前以欧美为中心扩大销售，亚洲地区则与新加坡的AdoreSys签订合作伙伴协议进行覆盖；但日本市场不经过AdoreSys，而是直接接触。（图注：笔者确认了图中颜色深浅差异的含义，得知只是为便于观看，并无不同。）

至于为何如此重视日本，公司表示有两个理由：“第一，对半导体和HPC的投资活跃。第二，密切合作伙伴Tenstorrent在日本非常活跃，并在与政府的讨论或测试项目中把Baya拉了进来。”不过，整体仍是“Slowly but steadily”，似乎不会立刻带来什么大动作。

AI半导体新瓶颈是“数据移动”

那么Baya提供什么？结论是，Baya的焦点是“Data Movement”（数据移动）。

按顺序说明：对于未来AI的进化，已经明确预测会出现巨大缺口。（图注：预计到2030年token数将增至120倍，而可供电力量仅约2倍。也就是说，每token的功耗效率必须提升60倍才能对得上。）

要解决这一问题，需要计算能力进一步高密度化，而课题就在于Chiplet之间、芯片之间等多设备集成。

（图注：Chiplet的四个课题。提到Chiplet，人们会想到UCIe，但UCIe是物理层规范，其上运行什么协议由用户决定，因此必须自行开发协议。图注：Scale-out的“No change in latency”似乎已因各种原因无法实现而被放弃；Scale-up虽也承认其必要性，但延迟感觉正在逐渐增加。）

针对该问题，Baya能提供的解决方案如何对应图中四个课题，其回答如下。（图注：简而言之，就是为过去在Chiplet设计或NoC设计中需要用户苦恼实现的协议等上层提供解决方案。）

通过WeaverPro一贯支持Chiplet设计

具体设计流程如下：利用WeaverPro提供的工具，可从初期需求把握、架构解析、工作流和流量模式仿真、微架构设计，一直到最终Fabric自动生成，提供一贯支持。

（图注：此外，WeaverPro还支持post-silicon调优，以及利用内置telemetry功能进行路由优化和QoS控制。）

以自有IP应对不同用途的数据移动

支撑这一切的是以WeaveIP提供的IP群。支持256个Chiplet和512个SLC（System Level Cache）的Cache Coherent Fabric IP基于CHI和Multi-Layer CHI，提供跨越物理Chiplet边界的Cache Coherent性。

接下来是Custom AI Fabric IP，面向不希望使用AXI、想定义轻量自有协议的客户。另一方面，面向偏好AXI的客户，则准备了Non-coherent Fabric IP。该IP符合AXI，可用于已经支持AXI的I/O、GPU、NPU等。最后是面向Scale-up/Scale-out Fabric的Neuroscale，据称可替代Crossbar。

那么，Neuroscale能否替代例如Broadcom的Tomahawk 6？对此，公司回答：“并不能替换整个交换芯片。PHY和协议引擎本身需要客户自行实现。Neuroscale提供的是芯片内部PHY之间以非阻塞方式转发消息和数据的Digital Crossbar Core部分。”顺便一提，由于这完全是数字IP，因此可作为小型交换tile复制，物理实现和布局更容易，也容易通过UCIe等实现Die-to-Die扩展。

不仅支持Synopsys，也支持Cadence和Siemens环境

Baya Systems获得Synopsys出资，董事会中也有Synopsys的Siva Yerramilli（CVP, Corporate Incubation Group）参加，联系紧密。因此，公司实现了从Synopsys的Platform Architect中调用Baya的FabricStudio来使用的集成方式。那么其他EDA厂商的工具呢？对此，公司回答：“我们对EDA工具保持中立。当然与Synopsys的Platform Architect联动，也同样能与Cadence的芯片框架联动，实际上已有一些客户在Cadence中使用Baya的解决方案。Siemens也一样。我们的工具通过标准System C API、Python API、C++模型进行接口连接。”

（图注：另一个例子是Baya的Packetizer与Synopsys的UCIe Controller IP协同工作。）

不仅Chiplet，也瞄准单片SoC

还有一点，这也与日本业务相关。Baya的解决方案看似是用于轻松构建Chiplet的工具和IP。于是笔者问：“我认为日本并没有那么多想用Chiplet构建SoC的客户，这样业务能成立吗？”得到的回答是：“我们的解决方案是优化Data Movement。无论monolithic还是Chiplet，这一点都不会改变。也就是说，即使是构建monolithic SoC的客户，我们的解决方案也有用。”

（图注：重点在于，monolithic和Chiplet都能以相同方式设计（或者说，从CPU或GPU角度看，可视为访问同一NoC）。）

与此相关，阅读日本办公室开设的新闻稿可知，最初使命被描述为支持Tenstorrent客户构建其Fabric。于是笔者问：“那直接支持Tenstorrent不是更快吗？”回答是：“契机是Tenstorrent，但Baya并不依赖Tenstorrent，我们会独立获取自己的客户。”

问题在于，是否真有那么大的需求。对此Kumar博士表示：“换个说法吧。我们是小公司。所以如果有3家客户，那很好（Great）。能获得5家就更好（Better）。能获得20家就是大成功（Excellent）。我们在这里，是为了证明Baya所提供技术的出色。”

日本期待HPC和车载半导体市场

Kumar博士还说：“今后哪些市场需要Data Movement？——长期来看，我认为所有芯片都会需要——（一旦这种需求出现）我们也就有可能进入那里。我们正在关注富士通的HPC举措，以及瑞萨电子的汽车解决方案举措。同时也在关注许多汽车OEM正在构建自有系统。丰田和本田也在考虑，或至少已经制定所需规格。”Baya的解决方案提及了汽车和工业设备的功能安全规格，这大概也很大程度是在瞄准汽车业务；若如此，在日本新设基地也就说得通了。

（图注：当然，要取得ASIL-B或D等认证需要庞大工作量和时间，并非现在就能提供（这里也有“in assessment”“systematic capability, roadmap”等表述）。）

目标成为“全球第四大IP供应商”

最后，笔者（冒昧地）向Kumar博士确认：“顺便问一下，Baya的目标是什么？EDA工具和IP供应商大多被EDA厂商收购，你们是否设想过这种目标？”他回答：“同样的问题也经常被投资者和新员工问起（笑）。确实人人都梦想有出色的Exit，这可以理解。我的想法是‘关于Exit什么都没考虑’。我们投入这项事业是为了建立出色的业务，而出色的业务建立在出色的产品上，出色的产品又由出色的人才创造。因此，我们正在这里建立真正出色的公司，并解决当代最重要的问题。”

他进一步表示：“如果和高性能计算或高性能基础设施领域的人聊，每个人都会异口同声地说‘制约因素是连接性和数据移动’。仔细看AI数据中心，AI计算资源经常闲置，因为无法把数据从内存移动到AI计算资源。也就是说，数据移动才是核心课题。因此，我们组建了一支对此充满热情、全心投入的团队。成员拥有Net Speed、Intel、Arm的工作经验，并在这些公司都有解决连接性问题的实绩。所有人都感到‘终于到了自己的专业知识最能发挥的时代’。因此，他们都对打造出色产品、建立业务充满热情，甚至可以说没有余地去考虑Exit。确实，从历史上看，大多数IP企业都被Synopsys或Cadence等收购。但我们确信能够建立可持续业务，成为市场第四大IP供应商。因为我们解决的是‘正确的问题’，我们的产品有巨大需求。而且我们不是以Exit为目标，而是建立了一支对打造出色公司倾注非凡热情的团队。重复一下，关于Exit完全没有考虑。”这是充满热情的回答。

把Baya的解决方案看作“Chiplet IPs and Tools”是错误的，准确地说，大概是“Data movement IPs and Tools”。不过这也是非常难以理解的说法。竞争对手方面，例如Cadence的Janus NoC、Arteris IP的NoC IP等应该可以列举出来。那么，Kumar博士所说的第四大IP供应商能否实现呢？