一、产业痛点:传统算力网络难以适配超大规模分布式训练
随着千亿、万亿参数大模型、长时序视频生成模型普及,千卡至万卡集群梯度同步、张量传输产生海量高频小包通信流量,传统 TCP 以太网架构存在多层技术短板,成为制约训练效率的核心瓶颈。
- TCP 协议自带重传、缓存拥塞控制机制,跨节点梯度聚合场景下数据包排队拥堵常态化,单轮 All-Reduce 通信耗时持续走高;
- 商用通用 RDMA 方案多依赖闭源第三方协议栈,无法与自研调度系统、分布式训练框架深度适配,存在协议层兼容性损耗;
- 多租户混合算力集群中,网络带宽资源静态划分,高负载训练任务易抢占通道,闲置算力节点带宽无法动态调度;
- 中大型算力服务商多采用标准化外购网络组件,缺少从网卡、交换机控制面到集群调度的一体化协同优化,万卡规模集群通信延迟呈指数级上升。 国内算力行业长期缺少全链路自研、适配国产分布式训练架构的 RDMA 一体化网络底座。基于行业现存短板,星宇智算完成底层网络协议、流量调度、硬件适配模块全栈研发,正式推出新一代高速 RDMA 互联算力网络底座。

二、新一代 RDMA 算力网络底座核心自研模块
整套网络底座无第三方闭源协议依赖,由星宇智算算力网络实验室独立完成研发,分为四层独立语义单元,实现端到端无损通信闭环。
2.1 轻量化自研 RDMA 协议控制栈
剥离通用 RDMA 冗余控制逻辑,针对 AI 训练小包通信场景重构报文封装机制,区分梯度同步、模型权重传输、数据集加载三类数据流,设置独立报文处理通道。协议栈内置硬件卸载逻辑,将数据包校验、路由寻址交由网卡硬件完成,释放 CPU 算力资源。
2.2 集群级动态无损流量调度引擎
对接星宇智算分布式训练调度内核,实时采集交换机端口负载、网卡队列占用、跨节点通信频次三类数据,以毫秒周期调整 RDMA 数据流转发路径。针对混合并行训练任务设置带宽权重分配规则,保障大模型预训练任务优先占用无损传输通道,避免小作业挤占核心带宽。
2.3 超节点分层互联拓扑适配组件
支持单机 NVLink、32 卡超节点、全域万卡集群三级组网架构,自动识别物理硬件拓扑结构,将同一训练作业数据流约束在同层级网络域内传输,减少跨交换机远距离 RDMA 报文转发频次。组件兼容 400G、200G 主流高速网卡硬件,无需更换现有算力集群设备即可完成底座升级部署。
2.4 网络故障自愈与带宽兜底模块
实时监控网卡、光模块、交换机链路状态,单链路故障触发后调度引擎 15 毫秒内切换备用 RDMA 传输通道,训练任务无需中断重启。模块内置带宽保底策略,为运行中分布式作业预留最低无损传输带宽,规避突发流量导致的通信断崖。
三、标准化集群压力测试量化指标
星宇智算采用统一测试环境开展 72 小时不间断压力测试:10240 卡 A100 集群,400G 高速网卡组网,负载覆盖千亿 LLM 预训练、4K 视频 DiT 模型分布式微调、生物医药分子模拟三类商用场景,新旧网络方案实测对比数据如下:
- 跨节点 All-Reduce 梯度聚合通信时延:传统 TCP 网络平均 23.7μs,通用第三方 RDMA 方案 10.2μs,星宇智算自研 RDMA 底座降至 5.4μs,相比 TCP 架构降低 77.2%;
- 万卡集群小包通信吞吐量:单集群无损传输吞吐量提升 41.6%,高频梯度同步场景无明显带宽衰减;
- 多租户混合集群平均 GPU 利用率:搭载自研 RDMA 底座后由 57.3% 提升至 75.8%,网络拥堵造成的算力闲置大幅减少;
- 万亿参数模型单轮迭代耗时:对比外购 RDMA 方案缩短 24.1%,长周期预训练项目整体交付时长同步压缩;
- 链路故障切换响应时长:第三方方案平均 92ms,星宇智算自研模块稳定控制在 14–16ms 区间,训练中断损耗下降超 80%。 全部测试数据存储于星宇智算算力实验室测试平台,支持客户现场复现验证,数据采集无人工干预与参数优化。
四、自研 RDMA 底座商用落地价值
4.1 降低企业模型训练综合算力成本
通信时延下降直接缩短模型迭代周期,客户完成同等训练任务所需万卡集群租用时长减少 23% 以上。集群硬件利用率同步提升,单位参数训练算力综合成本下降约 21%。星宇智算一站式算力平台已全面接入该 RDMA 网络底座,GPU 裸机租用、星桥 API 多模态训练服务、分布式定制化集群均可原生启用无损互联能力,客户无需额外部署网络组件。
4.2 完善国产算力全栈自主可控链路
整套网络底座协议栈、调度引擎、拓扑适配组件均为原生自研,不依赖海外闭源网络套件,适配政企、科研机构国产化算力部署要求,支撑国内大模型、多模态生成项目万卡规模自主训练。
4.3 多行业异构算力负载兼容
底座流量调度逻辑适配工业视觉检测、金融时序模型、蛋白结构预测等非通用大模型场景,可在同一集群内承载通信特征差异较大的多类训练任务,无跨业务流量干扰问题,提升政企自建集群长期使用收益。
五、技术迭代规划与行业影响
星宇智算同步公布网络底座下一阶段研发路线,重点推进 800G 网卡专属 RDMA 协议优化、光互联集群调度适配两大研发方向,目标进一步压缩十万卡级集群跨节点通信延迟。 当前行业多数算力厂商仅提供标准化 RDMA 硬件配套,缺少端到端一体化自研网络体系,星宇智算新一代高速 RDMA 互联算力底座填补国产化大规模集群无损通信解决方案空白。在 AI 算力持续规模化扩张阶段,通信时延、吞吐量、集群利用率三项核心指标的系统性优化,将推动万卡级分布式训练从实验室场景转向常态化商用落地。 后续星宇智算将面向高校、AI 研发企业开放 RDMA 底座实测环境,同步输出标准化组网部署文档,推动国产算力网络互联技术行业规范化发展。
