模型参数量的快速增长推动了国产芯片生态在“系统级主权”竞争中的快速发展。这一趋势在世界人工智能大会（WAIC）上尤为明显。
Kimi在WAIC前夕发布了2.8万亿参数的全球最大规模开源模型。多名业界人士预测，模型参数量还会继续增加。要支持大参数模型的训练和推理需求，不仅需要单张算力卡性能迭代，还需要对算力集群进行系统级优化，超节点成为关键环节。今年的WAIC展会上，华为、新华三、燧原科技、沐曦、摩尔线程、中兴、阿里、昆仑芯等多家厂商展示了超节点产品，壁仞也发布了新一代超节点方案。
随着模型规模的增大，算力系统的性能必须随之提升。壁仞科技AI框架架构副总裁丁云帆表示，明年可能会出现5万亿参数的模型。沐曦股份研发副总裁黄向军解释说，7000多亿至1万亿参数的模型采用典型的PD分离部署时，P和D节点分别用16张左右的算力卡就能支持，但当参数量超过万亿，所需算力、显存容量和卡的数量都会成倍增长。算力卡数量增加后，协同成为影响性能的关键因素，超节点通过统一卡间、机间通信带宽等方式降低沟通成本，让大量算力卡如同一台计算机一样运行，从而提高整体性能。
随着模型所需的算力集群增大，特别是在十万卡算力集群中，超节点的重要性更加突出。摩尔线程高级副总裁董龙飞指出，万卡集群尚可以不用超节点，但十万卡集群不能靠堆砌1000台服务器来运行，需要将多个超节点组成POD，再由多个POD组成集群。混合专家模型架构的特点和长文本处理也需要多个算力卡、服务器作为一个紧密连接的整体运行。超节点成为刚需，关键在于满足专家并行高互连要求，提升带宽和通信能力。
在国内的算力叙事中，做超节点有另一层含义。受限于算力供给不足，国内模型企业需要先把工程化链路做到极致，通过系统能力弥补单芯片的不足。国内的超节点方案已在科学计算等AI场景中有落地案例。例如，壁仞发布的下一代NPO光互连、分布式解耦架构超节点方案支持单个超节点1024卡扩展；摩尔线程展示的超节点MTT C256通过一层网络把256张GPU连成一台数据中心级计算机；沐曦发布的新一代AI超节点曦景S600支持扩展至万卡级集群。
作为算力集群的关键设施，国内超节点方案在与海外的竞争中表现如何？英伟达的超节点部署较早且出货量大，但在技术路线上，国内已部分抢跑。超节点中的高密度机柜是一个关键设施，Cable Tray和正交背板是两种主要的电互连方式。正交背板解决了Cable Tray的信号问题，国内同时在做这两种方案，正交背板路线走得比国外快。此外，国内超节点方案更像是产业协同的标准化结果，而英伟达则是单家整合产业上下游一体化构建超节点。
超节点厂商面临不低的生产难度，需要解决工程化难点。随着超节点在算力、散热、功耗方面指标数量级的提升，互联、软件互动、计算、可靠性、散热等方面存在考验。供应链也处于紧张状态。超节点功耗非常大，两三年前国内一台普通机柜功耗只有6KW，现在一台高密度机柜功耗48KW，一个超节点功耗达400KW。保证超节点的可靠性，确保某个部件故障时不至于停掉整台机器，还有很多工程性问题需要解决。
算力基础设施变得更加复杂，考验算力厂商的系统设计能力。除了现有超节点方案的制造工程性问题需要解决，还需要回答如何扩大单个超节点的规模、进一步提升集群的算力性能的问题。光互连被认定为一种关键技术。目前在超节点中，不少主流高密度机柜仍采用电互连方式，但电互连存在局限性。正交背板和Cable Tray电互连都存在规模扩展的局限，未来还需进一步迭代。光互连成为必然选择，壁仞提出的新一代NPO光互连方案相对具备产业可行性，预计明年将逐步落地，2028年基于NPO光互连的超节点将实现规模化。
本届WAIC上，超节点的演进映照着国产算力从“堆卡”走向“组网”的系统思维转变。单卡算力的竞争与系统级算力集群协同效率的比拼，将定义新的算力格局。
一鼎盈提示：文章来自网络，不代表本站观点。
