点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:华为开创AI时代计算架构:让百万处理器成为一台计算机
首页> 经济频道> 光明经济 > 正文

华为开创AI时代计算架构:让百万处理器成为一台计算机

来源:光明网2026-10-06 15:51

  日前,在上海举行的华为全联接(HC)大会期间,华为轮值董事长徐直军与海思首席科学家廖恒,就华为新发布的AI时代的Peerium计算架构和灵衢总线(UnifiedBus)与媒体进行了交流。

  今年 HC 大会期间,华为展出了昇腾 950 和 Atlas 950 超节点。徐直军表示,“超节点”如今被广泛提及,但不同厂商实现差异很大,真正的挑战在于让数千、数万颗处理器组成一台计算机。华为将这一全新计算架构命名为 Peerium,它能让百万颗处理器成为一台计算机。目前,华为正部署和测试 25.6 万张卡规模的 Atlas 950 SuperPoD 超节点。

  廖恒认为,未来两年内,预计中国将出现约 6 至 7 个前沿 AI 实验室,目标都是训练参数规模在 10 万亿到 40 万亿之间的基础语言模型。这些数字与超节点的内存容量和规模大致匹配,因此需要如此规模的基础设施来做训练。(张伟)

  以下为媒体沟通会摘要:

  徐直军:非常感谢大家来参加媒体沟通会,我有很长一段时间没有跟媒体朋友们沟通了,今天很高兴和大家相聚交流,主要聚焦在我们开创AI时代的计算架构和灵衢协议。

  去年 HC 大会上,我在主题演讲中发布了昇腾芯片及其路标(950、960、970、超节点与集群解决方案),并宣布开放灵衢协议。

  今年 HC 大会上,华为展出了昇腾 950 和 Atlas 950 超节点。“超节点”如今人人都在讲,但不同厂商实现的差异很大。去年我曾一再强调,超节点的真正挑战,是让数千、数万颗处理器组成一台计算机。

  今天展出的基于 950 芯片的超节点,背后正是我们开创的全新计算架构。它能让百万颗处理器成为一台计算机。我们将这一架构命名为 Peerium,它是基于嵌套并行、统一内存寻址、平等互联实现百万级处理器强扩展的计算架构,突破了图灵范式的串行,提出了Nested BSP。

  同时,它也突破了冯・诺依曼单机架构,颠覆了长久以来的主从架构。但现有技术无法支撑这一架构的实现,为此我们发明了关键互联技术——灵衢,最终实现让百万级处理器真正成为一台更大的计算机。

  灵衢是基于一个开放协议、可无限扩展地联接 CPU、NPU、内存、SSD、网卡和交换机的高速总线。有了灵衢,计算、存储、网络得以平等互联,从而彻底颠覆原有的主从架构。

  Atlas 950超节点就是华为采用Peerium计算架构的产品,目前25.6万卡规模的集群已经在部署和测试中。

  问:廖博论文里面写的25.6万张卡组成一个超节点,这是该技术的上限吗?目前整体市场需求情况如何?

  廖恒:25.6万或约20万这个数字,并不是随便定的。

  首先,这类大型集群用于训练,硬件基础设施需要支撑基础模型训练,而目前模型参数规模已达到 5 万亿级别。

  未来两年内,预计中国将出现约 6 至 7 个前沿 AI 实验室,目标都是训练参数规模在 10 万亿到 40 万亿之间的基础语言模型。这些数字与超节点的内存容量和规模大致匹配,因此需要如此规模的基础设施来做训练。

  第二,在中国,大多数数据中心都接入了国家电网。考虑到单个区域、单个数据中心园区的电力输送系统设计,20万是一个相对保守的数字。

  正如我所说,大家一定对全球范围内正在发生的AI模型竞赛非常熟悉。在中国,至少有3到4家一线参与者已获得广泛认可,并达到了一线地位。

  问:华为接下来将如何推动中国的模型厂商将昇腾系列芯片用于训练?

  徐直军:950率先推出的是 PR 版,主要面向推理,目前上市量不算大。基于 950DT 的超节点则主要用于训练,目前还在测试中,规模供货应该在今年年底或明年初。我们和各家模型厂商做了很多沟通交流,从目前测试结果来看,950DT 的训练表现非常不错,我相信从明年开始,大量模型的训练会构筑在 950DT 超节点上。未来关键可能不在于我们推动的力度有多大,而在于我们的供货能力有多大。现在能产多少就供多少,我们希望产业链加快扩产,快一点、多产一点。

  问:现在美国部分领先模型厂商呼吁放缓AI产业的发展,对此华为怎么看?

  徐直军:从中美 AI 发展的水平和节奏来看,中国的模型基本都是开源的,相对而言,发展到哪一步也是透明的;而美国几家主流模型厂商由于拥有更强大的算力,到底发展到了哪一步,目前可能只有他们自己知道。他们感受到的 AI 风险,在中国可能感受并不强烈。中国现在还是要加快自己的节奏,等真正能够感受到这种风险时,或许会与美国头部模型厂商有同样的感觉。但我一直认为,AI 既要发展又要管控风险,要让 AI“向善”,而不是“向恶”。

  问:950 超节点目前有没有在海外扩展的计划?如果有的话,会在哪些市场上开展?国内市场份额情况如何?如何看待芯片自主化率的问题?

  徐直军:目前昇腾满足国内市场需求还远远不足,所以没有全面拓展海外市场的计划。但确有少数国家非常需要,我们做了测试和供给,但量非常少。

  在中国市场要统计英伟达的市场占有率很难,但如果从我们能够统计到的数据看,昇腾应该已经超过了英伟达。

  中国推进芯片自主化是一条必然之路。中国有 14 亿人口,又是一个工业化大国,所有的生活、工作都与芯片相关。中华民族又是一个忧患意识很强的民族,不能一直受制于人,不能今天被说卖一颗给你,明天又说不卖给你。尽管水平差一点、先进性差一点,但解决 "有无" 问题,不要天天提心吊胆,应该是必然之路。相信无论是中国政府还是中国产业界,包括华为在内,推动芯片的全面自主化、推动半导体产业整个链条的全面自主化,肯定是一条必由之路,而且我也相信总有一天会变为现实。

  问:华为推出了灵衢互联技术,是基于在计算和通信领域的长期积累,其中有多少是来自华为网络部门的贡献?

  徐直军:UB不仅仅是华为网络部门的贡献,我们在各种各样的互联协议基础上,最终将其做成一个统一协议。网络领域一般是IP协议,时延都很高。计算互联和传统网络不一样,我们提的是总线,需要低时延、超高速。当时在决策做这个产品时,我们将其放在计算部门而不是传统的网络部门,这样才能真正做出一个高速、低时延、又统一协议的UB出来。

  廖恒:如果把UB看作一群人的智慧结晶,它是由计算机架构师孕育,但是由网络技术抚养长大。

  问:UB是一个同时兼顾Scale-out和Scale-up的技术。英伟达分别做了NVLink和InfiniBand。为什么华为把Scale-up和Scale-out做成一个技术?这和现在其他方案相比有什么优势?

  徐直军:首先,不是他们不做,而是能不能做出来的问题。当前最新的NVL72柜内带宽很宽,达到 1.8 TB/s,但一出柜就降到 0.2 TB/s。要把百万台处理器变成一台计算机,柜间如此低的带宽根本不可能。大家都希望柜内、柜间、数据中心之间乃至跨区,速度最好都一样,那才能让一个巨大的物理空间成为一台计算机。这正是 UB 的价值,它基于一个统一协议,做到全程高速互联。因此 UB 技术路线上做的是总线,就像计算机内部的总线一样,而不只是 Link。基于 UB,我们的柜间带宽最高可达 800 GB/s。

  去年我们开放 UB 协议后,最大的下载量其实来自硅谷。英伟达最早的目标可能不是做NV72,而是NV256,但最终它的256变成了72;而华为的910C 超节点做到了384,还交付了一千多套。最主要的差别在于,我们在910C超节点上采用了UB,而当时英伟达的NVLink主要局限于柜内,柜间网络速度太慢,不可能扩展太多。

  廖恒:我补充一下为何采用单一协议。英伟达及大多数其他厂商至少使用了两种协议,分别应对不同的场景,就像一次旅行往往要同时选择飞机、高铁、汽车等多种交通工具,转换过程相当麻烦费时。而在这些超节点中,大量流量需要中转,如果从 NVLink 切换到 InfiniBand,至少涉及微秒级的转换时间,即从一个协议到另一个协议的中转时间,时延很难满足。

  UB采用统一协议,将数据包从 scale-up 网络传输到 scale-out 网络,可能只需要大约 150 纳秒。相比而言,与这些协议转换开销至少可节省一个数量级。

  问:在采用灵衢总线(UB)的Atlas 950中,Scale-up场景下光互联和电互联分别占多少?未来柜内有没有可能全部实现光互联,主要障碍是什么?

  徐直军:华为刚刚发布了基于 NPO 的 Hi-ONE 模组,支持7.2T 高带宽,光引擎距离主芯片仅约 5 厘米,只有这部分还需要铜线做电连接,基本可以说是全光的超节点。同时,Hi-ONE 模组把光源直接封装进模组内部,实现内置光源。我们预计,未来两到三年内都很难有其他厂商能做出来。这是华为多年来在光电相关领域的积累,才得以实现和量产。

  廖恒:在我职业生涯初期,20年多前我们就已经在讨论让芯片连接走向光学化。因为光的传输距离和衰减非常小,信号可以高速传输更远。

  从电路角度看 Hi-ONE 内部其实非常简单,器件并不多。但走向量产这条路,我们走得非常艰难:光学技术涉及大量物理原理,温度稍微变化,就会影响二极管的物理特性,改变折射率,影响波导性能,导致无法正常工作。

  我认为全光互联最大的障碍是对可靠性的担忧,因为器件会发生故障。目前大多数厂商选择外置光源路线,用单个光源馈送 32 路信号,功率就必须放大 32 倍。如此巨大的功率很容易引发许多问题,在耦合接口及其他各个环节都会出问题。我们选择内置光源方案,是出于工程上的务实选择,Hi-ONE 正是经过多次权衡后达成的出色折中方案,很快将进入量产阶段。

  问:关于昇腾芯片的工艺和产能问题,目前限制产能进一步释放的主要瓶颈是哪些环节?华为预计还需多久可以实现大规模稳定的算力芯片供应?

  徐直军:中国的瓶颈问题与全球瓶颈问题基本一致。全球产业界都没有为 AI 如此浪涌式的发展做好准备。现在所有光模块公司、存储公司之所以能卖高价,并不是因为产品有多好,而是严重供不应求所致。因此,只有全球和中国同时达到供需平衡,瓶颈问题才能彻底结束。我预计全球的供需平衡差不多在 2029 年能得到解决,中国可能还要慢一点。这里的供需平衡,还要考虑 AI 发展过程中不断发生的技术变化,包括 CPO、NPO 等。

  从华为的角度讲,相比过去的通信、IT 产业,现在我们的供应量已具备相当规模;但如果和当前产业对 AI 基础设施的需求相比,规模确实又远远不够。要实现客户要多少就能供多少,华为要达成这个平衡,取决于整个中国产业界的平衡。

  问:华为在NPO、CPO这两个技术路线上,当时内部选择或者博弈是什么?

  徐直军:这个问题在华为好像没有过争论。因为华为既做光器件,又做光模块和昇腾芯片,清楚哪种情况才是最佳选择,所以我们很早就达成共识做 NPO,没做 CPO。而且我认为,在相当长时间里,从工程实现、成本、维护、良率等角度讲,NPO 都是最佳选择。

  经过产业界这几年关于 NPO、CPO 的辩论,从两次 OIF的讨论来看,产业认知也在进一步清晰。OIF 第一次讨论时,有一部分厂家不支持 NPO,一心要搞 CPO;而最近一次

  NPO 立项时,反对的已经寥寥无几。相比 CPO 方案,NPO的铜线连接有 5 厘米左右,比 CPO 的 5 毫米左右要长一点,但带来了成本接近 40% 的下降,同时还带来另一个好处,即一旦光引擎出问题,不会把整个 AI 芯片一起报废。当然,CPO 和NPO 并不是谁消灭谁的问题,而是工程、成本、产业链、维护等各个方向上平衡的选择,没有对错。

  所以,我们坚定不移走 NPO 的道路,推动产业界形成标准,全产业链共同把 NPO 发展好,但也不是说 CPO 不行。在OIF上NPO得到了 40 家产业链厂商的支持,应该来讲,大家也看到了 NPO 的好处。

  问:模型厂商对于950DT用在模型训练上,给华为反馈了哪些需要改进的领域和问题?华为对大模型的预训练做了哪些芯片和底层方面的调整和优化?

  廖恒:此前昇腾芯片遇到的第一个障碍其实并非硬件本身,而主要是生态壁垒。就在两年前,昇腾软件层面仍存在巨大障碍,而 CUDA 在这方面显然具有压倒性优势,因为整个学术界都是伴随 CUDA 成长起来的,所有算法开发者都已习惯了 PyTorch 加 CUDA 的便利。

  过去 18 个月发生了巨大变化。首先,模型的数学复杂程度发生了巨大变化,编程复杂度也随之增加。其次,模型正变得非常细粒度,这意味着无法再仅用 PyTorch 编写程序并保持效率。因此,即便是算法开发者,也必须转向超大规模内核的编程风格,需要新的编程语言,这已经是前沿实验室的发展方向。

  如今,随着新的编译器语言出现,它们正在逐步取代并平衡 CUDA 的壁垒,前沿实验室已不再像两年前那样重视 CUDA。这是软件层面的壁垒消解。我认为我们正在接近甚至达到平衡,差距已大幅缩小。

  其次,关于芯片本身,我们拥有自身优势,正如我讲到的UB和 Nested BSP 模型。这不仅是对单个芯片编程,更是以便捷的方式对大量芯片编程,我们正在提供这些能力。而在芯片内部,我们也吸取了此前的教训,做出了大量改进。

  整体上,我们正在缩小英伟达与昇腾之间的差距。我认为如今主要差异已大幅缩小,当人们使用这些处理器开发时,不再感到陌生。

  问:关于 UnifiedBus 技术,这是国内在先进制程受限情况下走出的中国特色路线,还是未来全行业都可能的方向,英伟达也有可能往这个方向走吗?

  徐直军:UB是一条创新之路,我认为也是未来AI计算的必由之路。

  因为只有 UB 这种互联技术,才能实现百万级处理器的巨大计算机。而上百万的处理器像一台计算机一样工作,才能真正实现更好、更高效率的训练和推理,所以它是必由之路。相信过不了几年,大家都会朝着这条路走。

  为什么开放 UB 协议?就是因为相信整个产业界会朝着这条路线走。这样,为 AI 走向 AGI,需整个产业界共同努力。廖博为什么以论文形式公布 Peerium计算架构,也是因为这一创新架构就是 AI 时代的计算架构。960 只是节奏变快了,规格和我去年讲的一样;HBM 是在 960 里面的,没有HBM 的进步,也没有 960 的进步。

  今天 UB 互联技术是整个 Peerium 计算架构实现的基础。无论是 UB 互联技术还是 Peerium 计算架构,我们都认为是 AI 时代的未来之路。

  我多次讲过,在单芯片上,我们的设计没有任何问题,只是仍受制于国内的工艺。但将多芯片互联起来成为一台计算机,我们已经处于全球领先的地位。这是基于架构的创新和互联技术的创新,而且这些研究工作不是在制裁后才开始的,而是在制裁之前就开始了。第一颗 AI 芯片以及华为的整个 AI 战略,是我在 2018 年 HC 大会上发布的;2019年,我们发布了超节点和集群。自那以后我们就认为,AI 要支撑大规模的训练和推理,需要新的架构、新的互联技术,也是从那时开始不断投入研究、不断创新,才有了今天讲的创新计算架构和 UB 互联技术。

  我相信现在产业界面临的问题都是一样的。在多卡计算系统中,MFU(模型浮点算力利用率)是很关键的指标。大模型训练过程中,突然一个卡故障,或一个卡性能忽然下降,都会对训练造成巨大损失。

  基于 UB 互联技术、基于 Peerium 计算架构做出的超节点和集群,可以大幅提升 MFU,这已经被验证了。这也是头部模型厂商采用昇腾 950 训练最喜欢的一点。我们还能提供原厂服务,让提升 MFU 更有保障,训练成本反而降低,训练迭代速度加快。

阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见瑞士联邦主席帕姆兰

  • 中国共产党第二十届中央委员会第五次全体会议在京举行

独家策划

推荐阅读
记者詹媛29日从中国汽车工程学会了解到,该学会日前发布了《2027年度中国汽车十大技术趋势》。这份凝聚共识的行业“风向标”提示,明年,汽车的电池会更强、芯片更自主、“硬科技”使用更多,且能减少堵车。
2026-10-30 09:51
如果说户外运动项目是产业发展的根系,选对项目之后还要让它根往深里扎,让项目发展的更有质量。户外运动产业的高质量发展,体现于一个个鲜活的户外运动项目及项目产业的健康成长,根深方能叶茂,户外运动产业才能行稳致远。
2026-10-30 09:49
生态环境部29日公布的全国地表水环境质量状况显示,今年1月至9月,全国地表水Ⅰ至Ⅲ类水质比例为86.1%,同比上升1.7个百分点;劣Ⅴ类水质比例为0.8%,同比下降0.4个百分点。
2026-10-30 09:50
脑膜边界的免疫细胞还会“监控”蛋白清除过程,并促成免疫耐受反应,避免免疫系统误伤大脑自身组织。在正常生理状态下,这一多通路清除系统与蛋白生成之间保持动态平衡。在此背景下,恢复或增强脑内蛋白清除通路的功能成为值得关注的方向。
2026-10-30 09:59
深秋的陕北,天高云淡。记者走进陕西省榆林市佳县方塌镇圪崂湾村现代农业示范园,联排的大棚在黄土高原的沟峁间依次排开。棚内葡萄藤上挂满沉甸甸的果实,工人们正忙着采摘、分选、打包。
2026-10-30 09:56
北京大学地球与空间科学学院教授江大勇领衔的三叠纪国际合作研究团队与贵州省地质博物馆合作,在贵州关岭三叠纪晚期地层中发现两栖类新物种海异螈。
2026-10-30 09:50
“数字乡村是乡村振兴的战略方向,是建设网络强国、农业强国的重要内容。”中国工程院院士、国家农业信息化工程技术研究中心主任赵春江表示。“十五五”时期数字乡村怎么建?记者就此采访了相关专家,梳理数字乡村建设的发力方向。
2026-10-29 09:56
突然口角歪斜、一侧肢体无力、说话含混,或眩晕、行走不稳、视物异常,都可能是脑卒中的信号。赵文博提醒,等待症状自行缓解、未拨打120而自行送医、仅凭血压高低判断是否发生卒中,以及忽视不典型症状,都是脑卒中急救的常见误区。
2026-10-29 09:58
在创新决策方面,应发挥企业洞悉市场需求、产业需求的优势,研判未来产业走势,强化关键问题凝练,让企业当好“出题者”。构建以科技领军企业为牵引、大中小企业融通共生的创新生态,打造高水平产业集群,是驱动引领未来产业高质量发展的基石。
2026-10-29 09:52
一边是批量产出的“成果”,一边是说“不”的数学界。这场“冲突”让人不得不追问:数学真正在意的究竟是答案还是过程?一份通过了验证却无人能道出所以然的证明,算不算数学的收获?AI闯入数学,二者之间是取代、叠加,还是互相成全?
2026-10-29 09:51
近年来,不少资源型地区加快转型步伐,因地制宜探索利用型修复新模式,对资源开发中形成的退化土地、废弃矿坑、污染水体展开系统治理。
2026-10-29 09:44
10月26日,国家药监局批准全球首个活化凝血因子XI(FXI)抑制剂阿舒克森片(商品名:舒华博)上市,用于降低缺血性卒中或高风险短暂性脑缺血发作(TIA,又称“小中风”)成人患者的卒中风险,不包括心源性栓塞型卒中患者。
2026-10-28 10:18
超市里的肉,颜色看着挺好,但它真的新鲜吗?答案远非肉眼能及。
2026-10-28 10:05
算法依赖云端数据,也把隐私风险从个人终端延伸到平台和云端,成为无法回避的公共议题。分层定价应遵循公开、可解释的商业逻辑;算法越了解消费者,平台越应以此维护公平、保护隐私。
2026-10-28 09:42
近年来,河北省唐山市丰南区将发展特色农业作为富民兴农重要抓手,大力发展麻山药、白萝卜等特色农作物种植,并推行标准化管理,促进农业增效、农民增收,助力乡村振兴。图为10月26日,唐山市丰南区小集镇的农民在田间收获麻山药。
2026-10-28 09:44
生态文明建设是关系中华民族永续发展的根本大计。我国高度重视生态环境犯罪的立法和司法,使包括环境污染、生态破坏、资源滥用在内的生态环境犯罪罪刑规范不断完善。
2026-10-28 09:43
联合国教科文组织打造技能供给的普惠发展底座,世界技能组织则以世赛为全球性平台,逐级检验多层次培养方式的效度。可以说,世赛既是推动技能普惠发展、标准互认对齐的过程,更是提升技能人才培养质量的有力抓手。
2026-10-27 09:43
在极端天气阻断鸟类天然觅食通道之时,由专业机构实施救助性补饲,是必要的保护措施。从管理实践看,人工投喂行为需要科学评估、分类施策,而我国的制度供给正不断完善。
2026-10-27 09:46
江苏苏州深耕健康城市建设,将健康医疗服务能力水平列入全市高质量发展综合考核,把体教融合、体卫融合、食品安全保障等内容增至健康中国行动重点任务中;新华社发  “北京密云区联合北大第一医院设立了全科医师综合能力培养项目,我是第二批培训学员。
2026-10-27 09:44
10月23日,国家统计局社科文司《中国创新指数研究》课题组发布的2025年中国创新指数测算结果显示:2025年中国创新指数达到185.5(以2015年为100),比2024年增长6.4%,增幅较上年提高1.1个百分点。
2026-10-27 09:53
加载更多