一个10万卡规模的AI(人工智能)算力集群,业界的MFU(模型浮点算力利用率)往往连30%都不到。这意味着,70%的算力经常处于故障和故障修复状态。
MFU每提升一个百分点,理论上一个10万亿参数的大模型训练时间就可以缩短约三天。
按照算力集群演进规律,2027年,10万卡规模的算力集群就会成为行业主流,如何将如此大规模算力集群的效率最大化提升,是一个现实难题。
2026年9月17日,上海,华为轮值董事长汪涛接受了包括我们在内的媒体采访。汪涛提到,用大规模高效互联,把更多芯片组成一个超大的计算系统——华为要解的,就是这道题。它的答案不在单芯片上,而在系统。
对于华为来说,由于NPU(自然语言处理器)单卡制程制约,短期绕不过去。但大模型迭代不会停下来等。汪涛预计,2027年行业领先大模型的参数规模将达到10万亿级,到2030年将达到100万亿以上。训练10万亿参数这样的模型,需要10万卡规模的算力集群。
单颗芯片、单服务器再强,也不可能独立完成训练任务。10万卡集群中,如果采用现有光模块方案,光模块数量会达到100多万个。这个规模集群带来的能源消耗难以想象。
“只有一条路可走。”汪涛提到,这条路的核心,是“超节点+集群”。
汪涛当天发布了昇腾960超节点。它支持4096张卡,是950系列的4倍。按照鹏城实验室和全球计算联盟联合38家单位制定的行业标准,超节点的关键在于“跨物理节点统一内存编址”——让分散在不同物理服务器中的芯片,能够像访问本地内存一样访问整个系统的内存池。
华为的演进路线清晰:910C超节点支持384卡,950支持1024卡,960扩大至4096卡。多个超节点再通过灵衢协议互联,组成10万卡乃至更大规模的集群。
汪涛还明确了华为的AI战略:核心是算力,坚持硬件变现,通过“超节点+集群”构建中国算力底座,构建开源开放的算力生态,支持主流大模型原生训练。
“坚持硬件变现”的目的是战略聚焦。汪涛说,“任何一家公司都有它的专注点。”一些客户和伙伴担心华为什么都做,这高估了华为的能力。
“我们希望大家放心用昇腾。”汪涛说,“华为磨好自己的豆腐,做好算力底座。”
华为的路线选择,本质上是用系统效率对冲单卡劣势。当制程差距短期无法弥合,把更多芯片高效地组织成一台“计算机”,就成了为数不多能主动作为的变量。
在一个容错率几乎为零的行业里,这个新路线需要重新定义内存、互联、供电、散热和软件栈,也需要让开发者愿意在上面写代码。这既是华为接下来要回答的问题,也是中国AI算力能否真正自主的关键。
为什么要走系统路线?
“用这种大规模高效互联方式,组成一个超大算力计算系统,通过并行计算来解决单算力不足的问题。”
昇腾面临的现实环境是具体的。
制程上,华为昇腾无法从全球供应链获得最先进的芯片制造、存储和封装资源,它的供应链主要来自中国市场。部分关键器件的采购成本甚至更高。不过,这主要来自先进制程受限,而非芯片设计问题。
成本压力同样现实。HBM(高带宽内存)是AI芯片里最关键的零部件之一,它的容量和带宽会直接影响AI芯片能否充分发挥计算能力。中国的HBM供应并不充足。
需求则在加速。2026年,全球领先大模型的参数规模仍在快速增长,主流SOTA(业界顶尖)模型的参数规模已经超过2万亿。汪涛预计,2027年行业领先大模型的参数规模可能达到10万亿级。训练这样一个模型,往往需要10万卡规模的算力集群。
这些挑战让华为比其他同行更早遇到了系统级的物理瓶颈。华为试图率先处理这个问题。
华为计算首席战略官朱照生对我们表示,当前SOTA模型的训练和推理,无论单颗芯片性能多强、用什么先进工艺,单颗芯片、单台服务器都无法独立完成。“规模算力是全行业的共同方向,华为只是更早遇见了这个问题。”
物理约束会继续存在。上一代华为950系列超节点规模为1024卡,昇腾960要扩大至4096卡,规模翻了4倍。但传统光模块方案下,组建一个4096超节点,光模块就需要约48000个800G模块——48000个潜在故障点、海量光纤布线、巨大功耗。更棘手的是单板空间:单卡算力变大后,扇出能力无法通过可插拔光模块实现,“板就那么长,插不进去”。
传统的算力架构更多是为万卡时代设计的。随着大模型规模从万亿走向十万亿,集群规模从万卡走向十万卡,整个算力行业都将共同面对新的物理瓶颈。算力竞争的维度,正在从“谁的单卡快”,转变为“谁的系统效率高”。
从华为此次公布的昇腾960系列理论参数性能来看,它的进展十分快速。
昇腾960DT和960PR单芯片算力已进入2024下半年-2025下半年国际同行旗舰产品的性能区间。一位华为人士对我们表示,理论参数并不能完全反映芯片在实际模型训练和推理中的性能表现。以推理场景为例,他更关注昇腾960在实际运行中的每秒Token(词元)吞吐量、单卡可支持的并发用户规模等指标。这些指标更接近企业真实使用场景,也更能反映芯片的实际效率和使用成本。
企业实际使用中的性能,并不完全由单芯片的理论参数决定。对当前的SOTA模型来说,单颗芯片性能再强,单颗芯片、单台服务器也不可能独立完成训练和推理任务,最终仍要依赖大规模集群。因此,真正决定模型训练和推理效率的,是规模算力和集群能力。
这恰恰给系统工程优化留下了空间。
华为选择通过高速互联、超节点和大规模集群,把更多芯片组织成一个计算系统,用更高的并行效率和系统利用率,弥补单芯片算力不足。
因此,昇腾960DT并没有把设计重点只放在堆砌峰值算力上。它配备288GB显存,显存带宽达到9.6TB/s,这已经达到甚至超过国际厂商旗舰产品的部分参数水平。
这背后的逻辑是,在大模型训练、推理场景中,性能瓶颈有时并不在算力本身,更关键的是数据的读取速度。更大的显存容量、显存带宽,以及更强的芯片间互联能力,可以减少芯片数据等待时间、性能损耗,让已有算力得到更充分利用。
这种强化显存容量、显存带宽以及芯片间互联能力的做法,也是在为后续更大规模的超节点集群做准备。
超节点+集群,怎么走?
“我们的超节点和集群是被SOTA模型驱动着做到这么大的规模。”
2026年,全球领先大模型的参数规模仍在快速增长。主流SOTA模型的参数规模已经超过2万亿。训练一个万亿参数的基础模型,往往需要10万卡规模的算力集群。
汪涛预计,2027年行业领先大模型的参数规模可能达到10万亿级。随着模型规模继续扩大,10万卡算力集群可能逐渐成为标准配置。
让一个10万卡集群稳定高效运转并不容易。大量芯片需要频繁交换数据,通信等待会消耗训练时间。供电、散热、软件调度和故障恢复,也会影响整个系统的运行效率。芯片的数量决定了算力的规模,能否让这些算力持续用于训练,则考验系统工程能力。
如何让10万卡集群更高效地运转?华为采用的是“超节点+集群”的方案。
超节点是2025年-2026年算力行业的热词。所有主要算力厂商都推出了超节点产品。
今年7月,鹏城实验室联合全球计算联盟发布了《超节点定义与实践白皮书》,首次统一了行业对超节点的定义。华为是白皮书的重要参与方。
何谓超节点?定义的核心是分散在不同服务器、不同机柜里的芯片,内存被映射成一张巨大的地图,不管数据在哪颗芯片上,都可以直接访问,不需要走网络协议。
汪涛用了一个通俗比喻。“真正的超节点,是一个办公室里10个人,每个人桌上都有一张地图,标着所有人的文件放在哪儿。你要拿别人的文件,伸手就够到了。”他说。
“业界很多超节点,是10个人坐在不同的办公室里,中间用网线连起来。你要拿别人的文件,得打电话说‘把文件发我一下’,然后对方找文件、发邮件、你下载——每一步都有开销。”
“靠IP(网络协议地址)协议转换的,只能叫集群,不能叫超节点。”他说。
从三代产品看,华为超节点的规模在持续扩大:昇腾910C是384卡超节点,950系列是1024卡,960系列达到4096卡。
规模扩大的核心支撑,是新一代互联芯片的内存统一编址能力。
事实上,目前主要的国际算力厂商在采取类似的策略。一位通信领域的专家2025年曾对我们表示,目前行业主流方式更多是用铜缆进行联接,但只能在单机柜内,要突破单柜,需要光互联技术。
在集群总卡数相同的情况下,更大规模的超节点可以减少芯片间通信带来的性能损耗。
规模的价值,可以用一组仿真数据量化。按照华为披露的测试结果,同样是10万卡集群——如果以4096卡超节点为基本单元组成,相比约1.25万台传统8卡服务器三层组网,MFU是后者的2.75倍。
“MFU每提升一个百分点,一个10万亿参数的大模型训练时间就可以缩短约3天。”他说。
规模也带来了物理挑战。昇腾960超节点单柜功耗约20万瓦。散热、高速信号完整性、故障累积,任何一个环节出问题,都会导致整个系统的可用度大幅下降。
这时候,NPO(近封装光学)成为关键支点。
关键牌NPO,核心技术支点
“如果未来CPO的可靠性提高了、封装良率提升了,再去用也不迟,华为并不排斥CPO。”
当AI算力的竞争维度从一张卡上升到一个集群时,卡和卡之间,机柜和机柜之间,整个集群之间的通信效率就变得至关重要。
整个行业都撞上了高速信号的物理墙。
224G SerDes是当前AI芯片互联的最新一代技术。从56G到112G再到224G,每一代速率翻一倍——单芯片算力越来越强,需要传输的数据量越来越大,112G已经不够用了。
但224G的电信号有个物理极限(高速电信号频率越高,衰减越快,就像大声说话,距离越远声音越小)。在电路板上,224G信号最多允许20几个dB的损耗,过了25dB,信号就模糊得认不出来了。
也就是说,224G电信号在电路板上物理传输长度基本上小于2米。
柜内短距离,电信号还能撑住;但柜间、跨柜,电信号跑不了那么远,就必须用光了。这意味着,超大规模互联不能只靠电,“近电远光”是全行业共识。
近两年,基于CPO技术的以太网光子交换机诞生。这项技术引发了市场关注。
所谓CPO,是共封装光学(Co-Packaged Optics)的缩写。它的核心思路是:把光引擎和主芯片封装在同一个基板上,让光信号尽可能短距离地从芯片出发,减少电信号在电路板上传输的损耗。
受CPO趋势影响,一大堆光通信企业“站在光里”。资本市场上,光模块概念股涨了一轮又一轮。行业里,从光模块到光引擎,从可插拔到共封装,各种技术路线的讨论越来越热闹。目前,CPO由于可靠性、可维护性等方面的挑战,一直还未规模量产。
华为选择了另一条路。昇腾960超节点采用的不是CPO,而是NPO——近封装光学。
NPO的解决方案,是把36个200G光通道集成到一个小模块。7.2T带宽,一个 NPO模块代替9个上一代产品800G光模块。
按照华为披露的数据,一个昇腾960超节点用5500个Hi-ONE光引擎,代替约48000个800G光模块。故障点从48000个降到5500,接近一个数量级,同时还可以降低超过550千瓦的功耗。
CPO本质是把光引擎和主芯片封装在一起。理论上,CPO比NPO再省约3dB的链路损耗,信号质量好一倍。为什么华为不选更激进的 CPO?汪涛表示,这不是技术能不能的问题,而是商业上的权衡。
他算了一笔账:“为了获得那3个dB,现在要增加至少40%以上的总拥有成本,承受更高的故障率。因为,CPO的光引擎一旦坏了,整个主芯片会一起报废。此外,CPO对现有数据中心的运维体系是“破坏式变化”——工程师技能需要全部重新培训。
“至少目前不是最优方案。”汪涛说。
这背后是华为的战略逻辑。华为要的不是技术最先进,而是现阶段最实用、成本最低、客户最容易接受的方案。
华为能做NPO还是有另一个因素。
光传输的核心竞争力在于对光信号的理解、对光电转换效率的优化,以及把设备做到运营商愿意大规模采购的成熟度。
在全球光传输设备市场,华为多年保持30%以上市场份额。1996年做出第一代SDH设备,1999年定义MSTP,2006年发布业界首款OTN设备,2011年自研出第一代100G oDSP(光数字信号处理器)芯片。oDSP是光传输里技术门槛最高的环节之一,全球能自研的厂商寥寥。华为在2014年完成了第二代自研,成为业界唯一能提供第二代100G oDSP芯片的厂家。
这些积累在AI时代变成了直接的筹码。光互联的核心部件是光引擎和oDSP。oDSP华为自研,光引擎在武汉工厂生产,光源也是自己的。从设计到制造,华为走的是IDM模式。
即便如此,汪涛透露,NPO研发了四五年,迭代多个版本。“失败了再来,良率不断提升。”
今年,华为在 OIF光互联网论坛提交的NPO提案通过立项。为什么要把技术推成标准?汪涛的逻辑很实际。“不希望把这个技术只有华为有……推成标准,让大家都来做,成本就很低,他成本做得比我们低,我们顺便买点他的,然后我们成本也更低。”
“未来CPO可靠性和封装良率提升后,我们再跟进。”汪涛说。
“NPO和CPO核心技术是一样的——都是把光引擎从可插拔模块的位置,往主芯片方向移。”一位资深光通信技术专家向我们评价:“集成工艺类似,生产能力也可以复用,确实不难过渡”。
CANN开源,跨越生态坎
“没有软件的硬件是没用的。”
汪涛在华为领衔了一个工作组,叫“第一横队”。
工作组2025年下半年成立,拉通了海思、2012实验室、计算产品线等多个部门主要负责人几乎每月要开半天会,就干一件事——找问题,学习国际同行的产品,找昇腾软硬件适配层面的问题。
CANN开源后,团队发现了很多以前看不到的问题——模块太大、改几行代码就要全量重编译。在华为内部,硬件和软件是两条战线。硬件上,华为用超节点和NPO,在系统层面补单芯片的差距;软件上,“第一横队”就是破局的组织调优。
超节点和NPO解决的是如何让更多芯片高效协同。但硬件算力能否真正被用起来,还取决于软件。国产算力的使用成本之一,其实是软件适配的成本。
性能已经不是国产算力的最大障碍。但软件适配成本,依然是影响企业使用国产算力的关键因素。
由于仍然存在一定的适配成本,一些算力公司对使用国产算力有顾虑。一位云计算腰部厂商的基础设施产品人士对我们表示,因为资源少、盘子小,不敢押注在国产算力上。
但进入2026年,国产芯片的使用成本正在大幅降低。更多企业愿意使用国产算力。一位地方大数据发展集团人士对我们曾表示,他们2025年中用DeepSeek-R1适配昇腾910B,花了两个月。2026年他们用DeepSeek-V4系列适配昇腾910B,只花了不到半个月。
这和CANN这一年多的改进有很大关系。
2025年8月,华为宣布CANN全面开源开放。目前,华为之外的CANN外部开发者占总开发者的61%。昇腾覆盖90多个主流第三方社区,适配或支持了200多个开源模型。
CANN是华为为昇腾芯片配套开发的基础软件,它连接PyTorch等上层开发框架与底层硬件。由于PyTorch是全球最有影响力的计算框架,开发者通常通过它完成模型开发和训练,而不是直接操作底层芯片。
对昇腾来说,它是通过CANN等软件,把PyTorch里的模型和算子转换成昇腾芯片能够高效执行的计算任务。华为改善软件生态的重要方向,是让开发者继续使用熟悉的PyTorch等框架,同时减少适配昇腾的额外工作。
过去几个月,昇腾在软件生态上取得了一项重要进展:开发者可以直接通过PyTorch开源社区获取相关支持,不再需要先转入华为自己的社区进行二次适配。这降低了昇腾与主流开发框架之间的使用门槛。
CANN这套软件是否好用,影响的不只是模型能否运行,还包括开发者要花多少时间适配调优,芯片的算力能发挥出多少,乃至最后的他是否真正愿意使用国产算力。
在汪涛看来,开源首先是一种“曝光机制”。早期使用昇腾910A、910B的客户曾反馈不少CANN的使用问题。CANN开源后,团队发现,一些代码模块划分不够细,修改少量代码也可能触发大范围重新编译,拖慢开发效率。这倒逼内部团队必须直面这些问题。
华为技术专家也会参与客户的原生预训练,协助处理缺失的算子、效率不足的算子,以及实验室没有提前发现的问题。汪涛说,一些设计上的不足,只有在客户的实际应用中才会暴露出来。
这种合作也不是单向的。一位华为技术人士介绍,CANN开源后,一些客户在具体场景下对算子的优化,已经超过华为原有的实现效果。
这说明,改善昇腾的使用体验,不再只是华为内部团队的工作。其他企业的开发者也可以根据自身需求改进软件,进一步挖掘芯片的潜力。
我们在全球最大开源社区GitHub发现,包括一批互联网公司、模型创业公司的官方代码仓库都在围绕昇腾/CANN开展工具开发、框架支持或模型适配等工作。
汪涛用一个词形容CANN的生态阶段——“跨过拐点”。
经过八年努力,我们今天只敢说CANN生态跨过了拐点。
对昇腾而言,越来越多开发者能够自主解决问题,才能把芯片用得更好,昇腾的开发成本也会变得更低。生态的惯性是巨大的。但生态的正循环一旦转起来,也是巨大的。
边界和选择
“华为磨好自己的豆腐,华为的豆腐就是算力底座;大模型由更擅长的公司去做,中国大模型越优秀,我们越高兴。”
汪涛反复提到一个词——“硬件变现”。这是当下华为AI战略的核心。
“经常有很多客户伙伴,对华为有一点莫名的不必要的恐惧,感觉好像华为啥都做,什么都能做得好。其实这是外界对我们的谬赞。”
汪涛说,坚持硬件变现这句话,“一半是说给外部听的,一半是说给员工听的”。
说给外部听,是给生态伙伴吃定心丸。告诉他们:华为不碰模型和应用,只做最底层的算力。你们放心用,华为不抢饭碗。“我们坚定地做好他们的底座,坚定地做好他们的后盾。” 汪涛说。
说给内部员工听,是给庞大的组织划边界。华为内部不是没有人想做全。每个人都觉得自己的方向重要,都想投入更多资源。但华为一年研发投入2000多亿,也不够五层蛋糕都做。“我们没有那么多资源。”汪涛说。
所以坚持硬件变现这句话,也是给内部立规矩——不要什么都想做,聚焦在算力这一环,把豆腐磨好。
但 “硬件变现” 不等于不做软件。“(坚持硬件变现)是约束自己的边界,但我们70%的研发投入,其实是在软件上。”华为计算首席战略官朱照生说。
如果每家公司都有自己的生态位,华为希望守住的是AI算力这一环。它未必要在所有AI领域都做到第一,但至少要让算力不成为中国AI技术演进和全球竞争中的短板。
超节点并不是一次性的产品投入。它是一条需要持续数年演进的技术路线。昇腾960之后,华为还计划继续推出970、980系列芯片,并保持一年一代的迭代节奏。华为希望通过持续的芯片、互联和系统能力升级,逐步完善自己的算力底座。
这种创新最终仍需要回到商业市场。既然最终要靠客户真金白银买硬件,那么制程受限、HBM采购成本更高这些困难,都不能成为产品竞争力不足的理由。
汪涛强调,即使难以获得最先进的制程,华为也必须通过芯片、部件和系统层面的创新,提供高性能、高性价比的产品。客户最终要花钱买单,购买理由应当“不是因为同情华为才买华为,应该是因为华为产品做得好。”
2026年以来,华为昇腾的产品力正在不断提升。
汪涛提到,昇腾950系列芯片在模型预训练方面已经有一定规模的应用。华为同时正在和中国主流模型厂商、主流互联网厂商合作,提前围绕昇腾960做训练、推理和算子适配的相关工作。他透露,预计中国部分开源大模型,后续会逐步采用昇腾950、昇腾960进行原生预训练。
剩下的问题似乎只有一个——超节点不是一次性的产品投入,而是一条需要持续数年演进的技术路线。960是第一个路标,970、980还在后面。除了战略耐心,华为需要更多战略智慧。
华为昇腾的路线图已经明确:950系列在2026年规模供应,960系列2026年发布、2027年分季度交付,970计划2028年推出,980计划2029年推出。“从950开始,连续几年,我们坚持一年一代。”汪涛说,这一节奏的前提是国内半导体制造、封装、上下游配套全部起跑。
汪涛在发布会上提到的“韬(τ)定律”,是华为更长期的技术路线。它包含四个层次:器件层面(皮秒级)、电路/晶体管层面、芯片层面、系统层面。
目前,昇腾主要在系统层面发力——超节点就是系统级的“τ”。麒麟手机芯片已经率先用到了晶体管层面的“τ”。汪涛透露,970、980会往下走到芯片设计层面的“τ”。
时至今日,任正非的一句话仍有含金量:不去想困难,干就完了。
算力即国力。在举国追赶的宏大叙事中,产业政策纵横捭阖,地方政府多头押注,企业各展其长,有人攒局,有人赌赛道。落到华为身上,故事要朴素得多:守好边界,深挖技术,该聚焦聚焦,该扩散扩散。这条路能走多远,取决于960、970、980能不能按期落地;取决于10万卡集群能不能稳定运转;取决于开发者愿不愿意把下一代模型“种”在昇腾这块黑土地上。