《科創(chuàng)板日報》9月18訊(記者 黃心怡)在華為全聯(lián)接大會2025上,華為輪值董事長徐直軍分享了昇騰芯片的規(guī)劃路線,并推出全球最強超節(jié)點和集群。
他透露,未來三年,直至2028年,華為開發(fā)和規(guī)劃了三個系列,分別是Ascend(昇騰)950系列,包括兩顆芯片:Ascend950PR和Ascend 950DT,以及Ascend 960、Ascend 970系列,更多具體芯片還在規(guī)劃中。
結合已經(jīng)推出或正在研發(fā)中的昇騰芯片,華為將帶來更多超節(jié)點和集群產(chǎn)品。包括Atlas 950超節(jié)點和Atlas 960超節(jié)點,分別支持8192張和15488張的昇騰卡。并將在2027年第四季度,基于Atlas 960超節(jié)點同步推出Atlas 960 SuperCluster,集群規(guī)模提升到百萬卡級。
以下為徐直軍針對昇騰芯片、超節(jié)點和集群的演講內(nèi)容,經(jīng)過《科創(chuàng)板日報》刪減和整理:
算力的基礎是芯片,昇騰芯片是華為AI算力戰(zhàn)略的基礎。未來3年,至2028年,我們在開發(fā)和規(guī)劃了三個系列,分別是Ascend 950系列,包括兩顆芯片:Ascend 950PR和Ascend 950DT,以及Ascend 960、Ascend 970系列,更多具體芯片還在規(guī)劃中。
目前正在開發(fā)、且即將推出的芯片叫Ascend 950系列,包括Ascend 950 PR和Ascend 950 DT。
與前一代昇騰芯片相比,Ascend 950 在以下幾個方面實現(xiàn)了根本性提升。
第一,新增支持業(yè)界標準FP8/MXFP8/MXFP4等低數(shù)值精度數(shù)據(jù)格式,算力分別達到1P和2P,提升訓練效率和推理吞吐。并特別支持華為自研的HiF8,在保持FP8的高效的同時,精度非常接近FP16。
第二,大幅度提升了向量算力。這主要通過三個方面實現(xiàn):其一,提升向量算力占比;其二,采用創(chuàng)新的新同構設計,即支持 SIMD/SIMT 雙編程模型,SIMD能夠像流水線一樣處理“大塊”向量,而SIMT便于靈活處理“碎片化”數(shù)據(jù);其三,把內(nèi)存訪問顆粒度從512字節(jié)減少到128字節(jié),內(nèi)存訪問更精細,從而更好地支持了離散且不連續(xù)的內(nèi)存訪問。
第三,互聯(lián)帶寬相比Ascend 910C提升了2.5倍,達到2TB/s。
第四,結合推理不同階段對于算力、內(nèi)存、訪存帶寬及推薦、訓練的需求不同,我們自研了兩種HBM,分別是:HiBL 1.0和HiZQ 2.0。不同的自研HBM與Ascend 950 Die合封,分別構成芯片Ascend 950PR:面向Prefill和推薦場景,以及Ascend 950DT:面向Decode和訓練場景。
其中,Ascend 950PR主要面向推理Prefill階段和推薦業(yè)務場景,將在2026年一季度推出,首先支持的產(chǎn)品形態(tài)是標卡和超節(jié)點服務器。
而Ascend 950DT,更注重推理Decode階段和訓練場景。由于推理Decode階段和訓練對互聯(lián)帶寬和訪存帶寬要求高,華為開發(fā)了HiZQ 2.0,使內(nèi)存容量達到144GB,內(nèi)存訪問帶寬達到4TB/s。同時把互聯(lián)帶寬提升到了2TB/s。其次,支持了FP8/MXFP8/MXFP4/HiF8數(shù)據(jù)格式。Ascend 950DT 將在2026年Q4推出。
第三顆是在規(guī)劃中的芯片Ascend 960,在算力、內(nèi)存訪問帶寬、內(nèi)存容量、互聯(lián)端口數(shù)等各種規(guī)格上相比Ascend 950翻倍,大幅度提升訓練、推理等場景的性能;同時還支持華為自研的HiF4數(shù)據(jù)格式。它是目前業(yè)界最優(yōu)的4bit精度實現(xiàn),能進一步提升推理吞吐,并且比業(yè)界FP4方案的推理精度更優(yōu)。Ascend 960將在2027年四季度推出。
最后一顆是在規(guī)劃中的Ascend 970,這顆芯片的一些規(guī)格還在討論中??傮w方向是,在各項指標上大幅度升級,全面升級訓練和推理性能。目前的初步考慮是,相比Ascend 960,Ascend 970的FP4算力、FP8算力、互聯(lián)帶寬要全面翻倍,內(nèi)存訪問帶寬至少增加1.5倍。Ascend 970計劃在2028年四季度推出。
總體上,我們將以幾乎一年一代算力翻倍的速度,同時圍繞更易用,更多數(shù)據(jù)格式、更高帶寬等方向持續(xù)演進,持續(xù)滿足AI算力不斷增長的需求。
可以看到,相比Ascend 910B/910C,從Ascend 950開始的主要變化包括:
引入SIMD/SIMT新同構,提升編程易用性;
支持更加豐富的數(shù)據(jù)格式,包括FP32 /HF32 /FP16/BF16/FP8/MXFP8/HiF8/MXFP4/HiF4等;
支持更大的互聯(lián)帶寬,其中950系列為2TB/s,970系列提升到4TB/s;
支持更大的算力,F(xiàn)P8算力從950系列的1 PFLOPS提升到960的2 PFLOPS、970的4 PFLOPS;FP4算力從950的2 PFLOPS提升到960的4 PFLOPS、970的8 PFLOPS;
內(nèi)存容量逐漸加倍,而內(nèi)存訪問帶寬將翻兩番。
從大型AI算力基礎設施建設的技術方向看,超節(jié)點已經(jīng)成為主導性產(chǎn)品形態(tài),并正在成為AI基礎設施建設的新常態(tài)。超節(jié)點事實上就是一臺能學習、思考、推理的計算機,物理上由多臺機器組成,但邏輯上以一臺機器學習、思考、推理。
今年3月份,華為正式推出了Atlas 900超節(jié)點,滿配支持384卡,最大算力可達300 PFLOPS。CloudMatrix384超節(jié)點,則是華為云基于Atlas 900超節(jié)點構建的云服務實例。Atlas 900超節(jié)點自上市以來,已經(jīng)累計部署超過300套,服務20多個客戶,涵蓋互聯(lián)網(wǎng)、電信、制造等多個行業(yè)。
結合已經(jīng)推出或正在研發(fā)中的昇騰芯片,將帶來更多超節(jié)點和集群產(chǎn)品。今天發(fā)布的第一款產(chǎn)品——Atlas 950超節(jié)點,是基于Ascend 950DT打造。
Atlas 950超節(jié)點支持8192張基于Ascend 950DT的昇騰卡,是Atlas 900超節(jié)點的20多倍,我們習慣稱呼的昇騰卡,每張卡對應一顆Ascend 950DT芯片,8192張昇騰卡等同于8192顆Ascend 950DT芯片。
Atlas 950超節(jié)點滿配包括由128個計算柜、32個互聯(lián)柜,共計160個機柜組成,占地面積1000平方米左右,柜間采用全光互聯(lián)。總算力大幅度提升,其中,F(xiàn)P8算力達到8E FLOPS,F(xiàn)P4算力達到16E FLOPS。互聯(lián)帶寬達到16PB/s,這個數(shù)字意味著,Atlas 950一個產(chǎn)品的總互聯(lián)帶寬,已經(jīng)超過今天全球互聯(lián)網(wǎng)峰值帶寬的10倍有余。
Atlas 950超節(jié)點的上市時間是:2026年四季度。
我們很自豪的看到,Atlas 950超節(jié)點,至少在未來多年都將保持是全球最強算力的超節(jié)點,并且在各項主要能力上都遠超業(yè)界主要產(chǎn)品。其中,相比英偉達同樣將在明年下半年上市的NVL144,Atlas 950超節(jié)點卡的規(guī)模是其56.8倍,總算力是其6.7倍,內(nèi)存容量是其15倍,達到1152TB;互聯(lián)帶寬是其62倍,達到16.3PB/s。即使是與英偉達計劃2027年上市的 NVL576相比,Atlas 950超節(jié)點在各方面依然是領先的。
算力、內(nèi)存容量、內(nèi)存訪問速度、互聯(lián)帶寬等能力的大幅度增強,為大模型訓練性能和推理吞吐帶來顯著提升。相比華為已經(jīng)推出的Atlas 900超節(jié)點,Atlas 950超節(jié)點的訓練性能提升17倍,達到4.91M TPS。通過支持FP4數(shù)據(jù)格式,Atlas 950超節(jié)點的推理性能提升達26.5倍,達到19.6M TPS。
8192卡超節(jié)點并不是終點。今天發(fā)布的第二款超節(jié)點產(chǎn)品Atlas 960超節(jié)點,其基于Ascend 960,最大可支持15488卡。Atlas 960超節(jié)點由176個計算柜,44個互聯(lián)柜,共220個機柜,占地面積約2200平方米。
Atlas 960超節(jié)點的上市時間是:2027年四季度。
基于Ascend 960,Atlas 960超節(jié)點總算力、內(nèi)存容量、互聯(lián)帶寬在Atlas 950基礎上再翻倍。其中,F(xiàn)P8總算力將達到30E FLOPS,而FP4總算力將達到60 EFLOPS;內(nèi)存容量達到4460TB,互聯(lián)帶寬達到34PB/s。大模型訓練和推理的性能相比Atlas 950超節(jié)點,將分別提升3倍和4倍以上,達到15.9M TPS 和80.5M TPS。
在通用計算領域,我們同樣認為,超節(jié)點技術能夠帶來很大的價值。TaiShan 950超節(jié)點,基于Kunpeng 950打造,全球首個通用計算超節(jié)點,其最大支持16節(jié)點,32個處理器,最大內(nèi)存48TB,同時支持內(nèi)存、SSD、DPU池化。
超節(jié)點的價值,不僅僅體現(xiàn)在智算和通算傳統(tǒng)業(yè)務領域。互聯(lián)網(wǎng)產(chǎn)業(yè)廣泛應用的推薦系統(tǒng),正在從傳統(tǒng)推薦算法向生成式推薦系統(tǒng)演進。我們可以基于TaiShan 950和Atlas 950打造成混合超節(jié)點,為下一代生成式推薦系統(tǒng)打開全新架構方向。
一方面,通過超大帶寬、超低時延互聯(lián)以及超大內(nèi)存,混合超節(jié)點構成超大共享內(nèi)存池,支持PB級推薦系統(tǒng)嵌入表,從而支撐超高維度用戶特征;另一方面,混合超節(jié)點的超大AI算力,能夠支持超低時延推理和特征檢索。因此,混合超節(jié)點是面向下一代生成式推薦系統(tǒng)的解決方案的全新選擇。
為了達成Atlas 950/960超節(jié)點對互聯(lián)的技術要求,為了實現(xiàn)萬卡超節(jié)點還能是一臺計算機,華為開創(chuàng)了超節(jié)點架構并開創(chuàng)了新型的互聯(lián)協(xié)議,能夠支撐萬卡級超節(jié)點架構?;谶@個互聯(lián)協(xié)議的超節(jié)點架構的核心價值主張是:萬卡超節(jié)點,一臺計算機,也就是說,通過該互聯(lián)協(xié)議,把數(shù)萬規(guī)模的計算卡,聯(lián)接成一個超節(jié)點,能夠像一臺計算機一樣工作、學習、思考、推理。
萬卡級超節(jié)點架構應該具備6大特征,分別是總線級互聯(lián)、平等協(xié)同、全量池化、協(xié)議歸一、大規(guī)模組網(wǎng)、高可用性。我們?yōu)檫@個面向超節(jié)點的新型互聯(lián)協(xié)議取名“靈衢”,英文名稱:UB,UnifiedBus。今天,我們正式發(fā)布靈衢UnifiedBus,一個面向超節(jié)點的互聯(lián)協(xié)議。
同時,華為將開放靈衢2.0技術規(guī)范,歡迎產(chǎn)業(yè)界伙伴基于靈衢研發(fā)相關產(chǎn)品和部件,共建靈衢開放生態(tài)。
接下來帶來兩個集群產(chǎn)品:首先是Atlas 950 SuperCluster 50萬卡集群。
Atlas 950 SuperCluster集群由64個Atlas 950超節(jié)點互聯(lián)組成,把1萬多機柜中的52萬多片昇騰950DT組成為一個整體,F(xiàn)P8總算力可達524 EFLOPS。上市時間與Atlas 950超節(jié)點同步,即2026年Q4。
在集群組網(wǎng)上,我們同時支持UBoE與RoCE兩種協(xié)議,UBoE是把UB協(xié)議承載在以太網(wǎng)上,讓客戶能夠利用現(xiàn)有以太交換機。相比傳統(tǒng)RoCE,UBoE組網(wǎng)的靜態(tài)時延更低、可靠性更高,交換機和光模塊數(shù)量都更節(jié)省,所以,我們推薦UBoE。
Atlas 950 SuperCluster集群,相比當前世界上最大的集群 xAI Colossus,規(guī)模是其2.5倍,算力是其1.3倍,是當之無愧的全世界最強算力集群!無論是當下主流的千億稠密、稀疏大模型訓練任務,還是未來的萬億、十萬億大模型訓練,超節(jié)點集群都可以成為性能強悍的算力底座,高效穩(wěn)定地支持人工智能持續(xù)創(chuàng)新。
在2027年Q4,我們還將基于Atlas 960超節(jié)點,同步推出Atlas 960 SuperCluster,集群規(guī)模進一步提升到百萬卡級,F(xiàn)P8總算力達到2 ZFLOPS,F(xiàn)P4總算力達到4 ZFLOPS。并且,它同樣也支持UBoE與RoCE兩種協(xié)議,在UBoE協(xié)議加持下,性能與可靠性同樣更優(yōu),并且,靜態(tài)時延和網(wǎng)絡無故障時間優(yōu)勢進一步擴大,因此繼續(xù)推薦UBoE組網(wǎng)。通過Atlas 960 SuperCluster,我們將持續(xù)加速客戶應用創(chuàng)新,探索智能水平新高。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.