OpenAI结合五巨头刚出场中国团队的答卷曾经上线

　　两条各自处理各自的问题，但配合指向一个判断：过去比的是谁能拿到更多卡，现正在起头比谁能把已有卡组织得更无效率。

　　堆卡扩容是最间接的应敌手段，但卡的供给有天花板。ZCube的落地，意味着智谱和合做伙伴给出了另一种思：正在现有GPU规模不变的前提下，从收集架构层挖掘效率空间。

　　打个例如，ROFT假设每条车道上的车流量差不多，所以平均分派红绿灯时长。现实上有几条道车出格多，有几条道几乎没车，红绿灯方案就失效了。

　　美东时间5月5日，OpenAI结合英伟达、AMD、英特尔、微软和博通，发布了一项名为MRC的新型收集传输和谈，方针是处理大规模AI集群中GPU之间的数据传输效率问题。

　　5月21日，中国大模子独角兽智谱颁布发表，结合大学取驭驯收集，正在GLM-5。1线上出产集群中完成了另一种全新收集架构ZCube的规模化落地。

　　英伟达正在此根本上推过一个优化版ROFT，把不异编号的GPU接到统一台Leaf互换机上，锻炼场景下结果不错。但到了PD分手推理场景，问题了。

　　三个月前，智谱刚履历过一轮线上线后，全球范畴内的需求激增，并发拜候量冲破了既有规划的上限，办事呈现列队、响应延迟和卡顿。智谱多次对国产芯片集群进行扩容，限量发售GLM Coding Plan套餐，仍然无法完全处理求过于供的场合排场，不得不正在2月16日发通知布告，面向芯片厂商和算力办事商公动「算力合股人」招募打算。

　　MRC次要面向锻炼收集，处理的是大规模GPU集群做同步预锻炼时，尾部延迟和链毛病拖慢整个锻炼功课的问题。ZCube此次落地正在推理收集，对于的是PD分手场景下KV Cache传输形成的布局性堵塞。

　　智谱正在2月发布算力合股人打算时，明白提到已「多次对国产芯片集群进行扩容」。GLM-5本身也已完成取华为昇腾、寒武纪、摩尔线程等多家国产芯片平台的推理适配。

　　保守Clos架构的布局里，底层互换机连GPU，顶层互换机担任转发，数据跨组传输要先上楼再下楼，径长，也更容易构成局部堵塞。

　　回到适才的例如：ZCube不是优化红绿灯，而是从头画网，让本来由拓扑布局形成的无谓冲突大幅削减。

　　智谱手艺团队做过一组节制变量尝试：同样的GPU和软件，仅将收集带宽从100Gbps提拔到200Gbps，推理总吞吐就涨了约19%，首Token时延下降了约22%。

　　中国AI公司手里的牌，曾经从单一的英伟达GPU，变成了国产芯片取存量英伟达芯片夹杂的多元组合。

　　MRC曾经摆设正在OpenAI全数最大规模的英伟达GB200超算集群上，并已用于锻炼多个前沿模子。

　　OpenAI正在通知布告中提到，ChatGPT每周活跃用户曾经冲破9亿。用户规模继续膨缩，背后对应的是锻炼、推理和安排系统的持续扩张。收集起头从底层配套，变成影响GPU无效产能的环节环节。

　　两种方案以至不互斥，理论上能够叠加。但它们正在统一个月被推到财产台前这件事本身，比单项手艺更值得关心：GPU军备竞赛打了两年之后，中美两边都起头正在收集层脱手了。

　　现正在业界支流的做法是PD分手摆设，担任「理解问题」的GPU和担任「生成回覆」的GPU分隔摆设正在分歧节点上，两头有一块叫KV Cache的数据需要跨节点搬运，搬运量大且极不服均。

　　当然，这并不料味着所有堵塞城市消逝。多个GPU同时向统一目标地写入数据这类不成避免的堵塞仍然存正在，但那需要堵塞节制和安排策略去向理，曾经不是ZCube次要处理的问题。

　　最终结果是，全网肆意两张GPU之间只需颠末两台互换机就能通信，每对GPU之间都只要一条最优径。被大幅压低。

　　若是说OpenAI和智谱的配合点，是把收集推到AI基建台前，那么两家公司面临的资本束缚其实完全分歧。

　　过去两年，万卡集群、十万卡集群，几乎成了权衡AI公司根本设备能力的硬目标。但OpenAI和智谱几乎同时的信号表白，AI基建曾经进入了一个新阶段：GPU之外，收集起头成为超大规模AI根本设备的下一个从疆场。

　　ZCube的价值刚好正在这里：它处理的是收集层的效率问题，并不绑定特定GPU产物和生态。无论集群里跑的是昇腾、寒武纪仍是英伟达，只需规模上千卡、走PD分手推理，收集堵塞的瓶颈就客不雅存正在。

　　手艺线上，MRC没有像ZCube那样沉构拓扑，而是正在现有多平面两层以太网布局上，通过多径并发传输和智能由把径操纵率拉高，哪条堵了就微秒级绕过。

　　ZCube免却的三分之一互换机和光模块成本，正在万卡规模下是2亿到6亿元级此外实金白银。更主要的是，这类架构优化并不依赖期待下一代GPU供给铺开，而是从现有系统里间接挖效率。

　　当全球AI基建从纯真堆卡进入系统效率时代，这种从架构层向内挖潜的能力，正正在成为中国AI财产的一张新牌。

　　目前，该集群已正在线上不变运转跨越两周，正在GLM-5。1 coding推理办事中阐扬着主要感化。

　　据智谱披露，GPU平均推理吞吐提拔15%，TTFT P99，也就是首Token时延的99分位，降低40。6%，互换机取光模块成本削减三分之一。按万卡规模估算，仅收集硬件一项可节流2。1亿至6。4亿元。

　　扩展性上，利用一层容量为51。2T的互换机，也就是128个400Gbps端口，ZCube就能建立一个毗连16384块400Gbps网卡的收集。若是利用更高容量的互换机，或者将ZCube划分为多个平面，规模能够进一步推到数万甚至数十万张GPU。

　　ZCube还没有走出智谱成为行业通用方案，但论文、出产数据和从动化摆设东西链曾经把一件事楚了：收集架构优化不只是尝试室里的拓扑设想，而是能够间接进入出产集群、为吞吐和成本收益的工程能力。

　　智谱正在一个千卡级的GLM-5。1 coding推理集群上做了实测。GPU型号、软件栈、营业代码全数不动，只把收集从ROFT换成ZCube。

　　这一拓扑架构此前已由大学、中关村尝试室、驭驯收集、字节跳动等团队正在ACM SIGCOMM 2025论文中系统提出。SIGCOMM是计较机收集范畴的全球第一流别学术会议。据智谱披露，评审曾评价ZCube「显著改变了整个行业对收集的认知体例」（significantly change the way we think about and understand networking）。

　　OpenAI手握五家美国芯片和云巨头的全财产链支持，选择正在现有架构上做和谈层优化；智谱结合和驭驯收集走产学研径，间接从架构层从头设想。

　　本年5月，黄仁勋搭上特朗普的「空军一号」再度访华，英伟达正在中国市场的姿势看上去比以往任何时候都积极。但姿势归姿势，H100和GB200仍受严酷；H200虽然呈现了必然松动，可否构成不变、规模化的供给仍充满不确定性。

　　保守的收集架构很难适配这种不服均的流量模式。少数几台互换机和链频频拥堵，其他链却没有被充实操纵。成果就是，总带宽看起来够，但无效吞吐上不去，GPU只能等数据。

　　这申明，现有集群里相当一部门GPU并没有充实产能。卡没坏，但起头成为决定无效产能的环节变量。

　　KV Cache传输天然是不合错误称的，分歧GPU、分歧网卡承担的负载差别很大，ROFT假设的「平均分派」不成立。PFC反压屡次触发，链堵塞进一步放大尾时延，拖慢整个集群。

　　ZCube的摆设并非软件升级，而是物理。布线方案、IP编址、由策略、互换机设置装备摆设全数要针对新架构从头设想。驭驯收集团队为此开辟了一套完整的从动化东西链，笼盖机房结构设想、连线准确性校验、设置装备摆设从动生成取批量下发，这是短时间内完成大规模出产集群的环节。

　　业界沿用了二十多年的组网体例叫Clos架构。它的根基形态，是互换机一层一层往上堆，底层Leaf互换机连GPU，顶层Spine互换机担任转发跨组流量，像。

　　此次智谱将其引入GLM-5。1 coding出产推理集群，是ZCube初次正在实正在大规模推理中完成验证。

　　目前，MRC曾经摆设正在OpenAI最大规模的超算集群中，而五家合做伙伴几乎笼盖了美国AI芯片和云计较财产的全数焦点力量。

　　ZCube的做法是砍掉顶层，只留底层互换机，分成两组做完全互联，再用一种夹杂接入体例让每张GPU同时毗连两组互换机。