夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

揭秘超節(jié)點(diǎn),AI算力需要“統(tǒng)一的語(yǔ)言” |?對(duì)話(huà)華為靈衢

0
分享至



文|白 鴿

編|王一粟

AI大模型帶動(dòng)的熱潮,也在持續(xù)地席卷算力行業(yè)。

從CPU到GPU,再到NPU,各種AI芯片逐漸成為了市場(chǎng)中的香餑餑。

中國(guó)AI芯片也趁此機(jī)會(huì)開(kāi)始崛起。從華為、阿里、百度等大廠(chǎng),到寒武紀(jì)、云天勵(lì)飛、?壁仞科技?、摩爾線(xiàn)程等新興企業(yè),中國(guó)AI芯片的單顆能力在不斷提升。

但是,哪怕單顆芯片能力再?gòu)?qiáng),算力也不能夠滿(mǎn)足大模型的需求。

尤其是隨著大模型參數(shù)的不斷翻倍,很多企業(yè)可能都會(huì)遇見(jiàn)的問(wèn)題,就是8張卡的服務(wù)器根本跑不動(dòng),勉強(qiáng)用多臺(tái)機(jī)器拆分任務(wù),結(jié)果CPU、AI芯片、存儲(chǔ)之間“各說(shuō)各話(huà)”,數(shù)據(jù)傳著傳著就“堵車(chē)”,算力損耗快到一半。



更要命的在于,不同廠(chǎng)商的設(shè)備像說(shuō)不同方言的人:

A廠(chǎng)的CPU用一套協(xié)議,B廠(chǎng)的GPU用另一套,數(shù)據(jù)從CPU傳到GPU,得先“翻譯”,一來(lái)一回就浪費(fèi)時(shí)間;甚至同一廠(chǎng)商的不同設(shè)備,規(guī)模擴(kuò)大后性能也會(huì)“打折”,比如10個(gè)節(jié)點(diǎn)本應(yīng)發(fā)揮10倍算力,實(shí)際可能只到1倍,這就是行業(yè)常說(shuō)的“線(xiàn)性度”問(wèn)題。

單個(gè)芯片算力不夠用、不同設(shè)備溝通有障礙,成了整個(gè)行業(yè)的“卡脖子”難題。那么,要怎么解決這些問(wèn)題,才能夠支撐大模型的需求?

眾所周知,當(dāng)單獨(dú)作戰(zhàn)打不過(guò)之時(shí),團(tuán)隊(duì)配合戰(zhàn)斗則成為了贏(yíng)取戰(zhàn)爭(zhēng)勝利的關(guān)鍵,而中國(guó)AI算力突破算力瓶頸的一個(gè)關(guān)鍵,就是開(kāi)始走團(tuán)隊(duì)?wèi)?zhàn)斗路線(xiàn)。

此前,華為發(fā)布了“超節(jié)點(diǎn)”架構(gòu),配套的技術(shù)則是“靈衢”(UnifiedBus)。

簡(jiǎn)單理解兩者的關(guān)系,當(dāng)單顆芯片算力不夠用,就需要將多種算力如CPU、GPU、NPU、存力等統(tǒng)一起來(lái)干活,超節(jié)點(diǎn)架構(gòu)就是將多種算力部件整合為一個(gè)大節(jié)點(diǎn),而互聯(lián)協(xié)議則是讓這些部件能順暢溝通的規(guī)則,只有雙方相互配合,才能夠把整個(gè)算力系統(tǒng)的能力提升上去。

其中最核心的就是靈衢技術(shù),其搞出了“算力普通話(huà)”,即一套能覆蓋所有場(chǎng)景的統(tǒng)一協(xié)議,不管是超節(jié)點(diǎn)內(nèi)部的CPU和GPU的溝通,還是超節(jié)點(diǎn)之間的集群互聯(lián),都不用換“語(yǔ)言”,這就像全國(guó)都講普通話(huà),不用到一個(gè)地方學(xué)一種方言,溝通效率自然高。

這套“普通話(huà)”還打破了兩個(gè)關(guān)鍵界限:計(jì)算機(jī)網(wǎng)絡(luò),如平時(shí)上網(wǎng)的物理層、鏈路層,以及計(jì)算機(jī)內(nèi)部架構(gòu),如內(nèi)存管理、節(jié)點(diǎn)控制等。

過(guò)去,這倆像兩個(gè)獨(dú)立的房間,數(shù)據(jù)得“開(kāi)門(mén)、進(jìn)門(mén)、再開(kāi)門(mén)”,而靈衢直接拆了兩者之間的“墻”,底層用網(wǎng)絡(luò)邏輯連設(shè)備,上層用架構(gòu)邏輯管資源,數(shù)據(jù)傳輸?shù)摹奥贰币幌伦幼兺〞沉恕?/p>

同時(shí),靈衢的超節(jié)點(diǎn)也不是“把部件堆一起就行”。華為專(zhuān)家強(qiáng)調(diào),靈衢超節(jié)點(diǎn)是“超級(jí)單一節(jié)點(diǎn)”,不是“松散的部件集合”,就像把多間小房子改成一套大平層,所有家具(CPU、GPU、NPU、內(nèi)存)都連在一條“統(tǒng)一的高速總線(xiàn)”上,不用再繞路,如交換機(jī),過(guò)去只是“數(shù)據(jù)中轉(zhuǎn)站”,現(xiàn)在在靈衢里成了“處理單元”,能直接參與算力協(xié)作。

基于這些突破,靈衢要實(shí)現(xiàn)四個(gè)目標(biāo),即讓不同算力“組隊(duì)干活”(提升計(jì)算性能)、系統(tǒng)出問(wèn)題能快速恢復(fù)(高可用)、內(nèi)存帶寬等資源“集中共用不浪費(fèi)”(資源池化)、不同廠(chǎng)商部件“插進(jìn)去就能用”(組件貨架化)。

這些目標(biāo)的最終目的,都是為了讓整個(gè)算力系統(tǒng)“更高效、更靈活、更省錢(qián)”。

而華為靈衢之所以能夠?qū)崿F(xiàn)“一套通吃”,原因在于,華為從一開(kāi)始就盯著“整個(gè)算力系統(tǒng)”,不是只做單個(gè)產(chǎn)品,沒(méi)有受制于老產(chǎn)品的束縛。

同時(shí),華為靈衢于2019年正式立項(xiàng),并把華為過(guò)去自研IT設(shè)備的經(jīng)驗(yàn)、技術(shù)成果,還有搞集群的工程經(jīng)驗(yàn)全部融入其中,同時(shí)還和鯤鵬、昇騰這些華為芯片一起反復(fù)測(cè)試。

基于這些實(shí)踐經(jīng)驗(yàn),“現(xiàn)在靈衢1.0已經(jīng)完成產(chǎn)品化,經(jīng)過(guò)了芯片驗(yàn)證、集群交付驗(yàn)證,是工業(yè)化級(jí)別的可靠系統(tǒng)。”華為集群計(jì)算總經(jīng)理朱照生說(shuō)。


華為集群計(jì)算總經(jīng)理朱照生

同時(shí),在具體落地客戶(hù)實(shí)踐場(chǎng)景中,也會(huì)考慮客戶(hù)原有設(shè)備,比如客戶(hù)已有以太網(wǎng),靈衢也能直接在上面跑,不用大改基礎(chǔ)設(shè)施,還能和現(xiàn)有的應(yīng)用互通。

而為了讓更多的廠(chǎng)商參與進(jìn)來(lái),華為還開(kāi)放了靈衢的“全套說(shuō)明書(shū)”,即從物理層到事務(wù)層的協(xié)議規(guī)范全公開(kāi),甚至找了第三方做“協(xié)議驗(yàn)證儀”。

“不管是做CPU的、做GPU的,只要按規(guī)范做,就能用靈衢,未來(lái)還能通過(guò)第三方驗(yàn)證是不是符合標(biāo)準(zhǔn)。”朱照生說(shuō)到,“說(shuō)實(shí)話(huà),靈衢發(fā)布后,已經(jīng)有很多廠(chǎng)商找過(guò)來(lái)跟我們交流,這已經(jīng)超出了我們最初的預(yù)期?!碑吘?,在其預(yù)期中,可能只有2-3家頭部廠(chǎng)商會(huì)找過(guò)來(lái)。

業(yè)內(nèi)皆知,過(guò)去,不同廠(chǎng)商的協(xié)議不互通,客戶(hù)只能“綁定一家”,選擇少還貴。但現(xiàn)在靈衢開(kāi)放了協(xié)議,不管是華為的競(jìng)爭(zhēng)對(duì)手,還是中小廠(chǎng)商,都能基于靈衢做產(chǎn)品。

朱照生說(shuō):“我們希望先做企標(biāo),再慢慢形成團(tuán)標(biāo)、甚至國(guó)標(biāo),讓大家一起把算力基礎(chǔ)設(shè)施做好?!北热缒硰S(chǎng)商想做GPU,不用自己再搞一套協(xié)議,直接用靈衢,就能和華為的CPU、其他廠(chǎng)商的存儲(chǔ)兼容,大大降低了研發(fā)成本。

據(jù)靈衢系統(tǒng)架構(gòu)師介紹,在A(yíng)I大模型訓(xùn)練場(chǎng)景,通過(guò)超節(jié)點(diǎn)互聯(lián)降低通信占比,端到端性能收益達(dá)到20%+;通算數(shù)據(jù)庫(kù)場(chǎng)景,通過(guò)三層池化支撐多寫(xiě)多讀,TPCC提升20%。結(jié)論表明,靈衢技術(shù)特別適合高并行、高同步的負(fù)載特征場(chǎng)景,能為業(yè)務(wù)帶來(lái)顯著提升。

另外,當(dāng)前行業(yè)關(guān)于超節(jié)點(diǎn)是否越大越好也存在著諸多爭(zhēng)議。對(duì)此,朱照生的回答很坦誠(chéng):“現(xiàn)在沒(méi)人能說(shuō)清‘甜點(diǎn)區(qū)’在哪,因?yàn)锳I的發(fā)展總是超出預(yù)期。我們能做的,就是把超節(jié)點(diǎn)的規(guī)模做大,給行業(yè)留足空間。”

因此,靈衢2.0作為核心技術(shù)底座,支撐華為發(fā)布兩款超大規(guī)模算力產(chǎn)品,覆蓋不同階段需求:

Atlas 950 SuperCluster(2026年Q4上市):由64個(gè)Atlas 950超節(jié)點(diǎn)組成,F(xiàn)P8算力達(dá)524 EFLOPS,規(guī)模與算力超過(guò)當(dāng)前全球最大集群xAI Colossus;

Atlas 960 SuperCluster(2027年Q4上市):百萬(wàn)卡級(jí)集群,F(xiàn)P8算力2 ZFLOPS、FP4算力4 ZFLOPS,支持UBoE(靈衢推薦模式)與RoCE協(xié)議,適配未來(lái)更大規(guī)模AI訓(xùn)練、推理需求;

越大的超節(jié)點(diǎn)集群,整體算力性能越突出,以Atlas 950 SuperPoD為例,其支持8192張昇騰卡,訓(xùn)練吞吐達(dá)4.91M TPS,推理吞吐達(dá)19.6MTPS,遠(yuǎn)超前代產(chǎn)品。

“如果我們不能夠準(zhǔn)確預(yù)判未來(lái)負(fù)載模型一旦收斂于某一類(lèi)模型某一個(gè)大小,我們就沒(méi)法在算力基礎(chǔ)設(shè)施層面給它設(shè)個(gè)框,如果設(shè)定那個(gè)框,那個(gè)框一定會(huì)反過(guò)來(lái)制約模型發(fā)展?!敝煺丈f(shuō)。

當(dāng)前,我們不難發(fā)現(xiàn):算力的競(jìng)爭(zhēng),早已不是“單芯片誰(shuí)更強(qiáng)”,而是“系統(tǒng)誰(shuí)更高效”。

靈衢的價(jià)值,就在于用一套“通用語(yǔ)言”,把分散的算力聚合成一股力量,它或許不會(huì)馬上改變所有,但至少給行業(yè)指了一個(gè)方向:未來(lái)的計(jì)算,不該有“語(yǔ)言壁壘”,不該有“設(shè)備孤島”。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
火箭3人入選!美媒更新25歲以下25大新星:申京4阿門(mén)14謝潑德無(wú)緣

火箭3人入選!美媒更新25歲以下25大新星:申京4阿門(mén)14謝潑德無(wú)緣

鍋?zhàn)踊@球
2025-12-21 10:39:30
伊薩克進(jìn)球 利物浦客場(chǎng)2-1險(xiǎn)勝九人熱刺

伊薩克進(jìn)球 利物浦客場(chǎng)2-1險(xiǎn)勝九人熱刺

環(huán)球體壇啄木鳥(niǎo)
2025-12-21 11:29:20
突然拉升!加密貨幣超6萬(wàn)人爆倉(cāng),發(fā)生了什么?

突然拉升!加密貨幣超6萬(wàn)人爆倉(cāng),發(fā)生了什么?

每日經(jīng)濟(jì)新聞
2025-12-21 09:15:15
西甲第17輪姆巴佩點(diǎn)射進(jìn)球 皇馬2-0擊敗塞維利亞 姆巴佩打進(jìn)411球

西甲第17輪姆巴佩點(diǎn)射進(jìn)球 皇馬2-0擊敗塞維利亞 姆巴佩打進(jìn)411球

環(huán)球體壇啄木鳥(niǎo)
2025-12-21 11:25:53
火箭大勝掘金!烏度卡火線(xiàn)變陣:8人輪換出爐,31歲高塔遭雪藏

火箭大勝掘金!烏度卡火線(xiàn)變陣:8人輪換出爐,31歲高塔遭雪藏

熊哥愛(ài)籃球
2025-12-21 12:11:59
西方媒體:哪怕中國(guó)全力以赴,也不可能按時(shí)建成這樣龐大的工程

西方媒體:哪怕中國(guó)全力以赴,也不可能按時(shí)建成這樣龐大的工程

樂(lè)天閑聊
2025-12-20 10:59:49
王炸開(kāi)局!新機(jī)官宣:1月1日,正式發(fā)售上市!

王炸開(kāi)局!新機(jī)官宣:1月1日,正式發(fā)售上市!

科技堡壘
2025-12-21 11:33:39
房子貶值后才想通:那幾百萬(wàn)不是憑空消失了,是被偷走了...

房子貶值后才想通:那幾百萬(wàn)不是憑空消失了,是被偷走了...

深度報(bào)
2025-12-19 23:14:12
申花中衛(wèi)離隊(duì)!原以為會(huì)被中超俱樂(lè)部搶著要,結(jié)果只收到中甲邀約

申花中衛(wèi)離隊(duì)!原以為會(huì)被中超俱樂(lè)部搶著要,結(jié)果只收到中甲邀約

振剛說(shuō)足球
2025-12-21 10:31:32
南陽(yáng)兩地發(fā)布關(guān)于禁售禁放煙花爆竹的通告

南陽(yáng)兩地發(fā)布關(guān)于禁售禁放煙花爆竹的通告

大象新聞
2025-12-21 09:53:02
花生再次被關(guān)注!調(diào)查發(fā)現(xiàn):糖尿病常吃花生,不過(guò)半年或有6好處

花生再次被關(guān)注!調(diào)查發(fā)現(xiàn):糖尿病常吃花生,不過(guò)半年或有6好處

蜉蝣說(shuō)
2025-11-20 14:40:39
血戰(zhàn)石城:那場(chǎng)動(dòng)搖大明江山的土達(dá)叛亂

血戰(zhàn)石城:那場(chǎng)動(dòng)搖大明江山的土達(dá)叛亂

無(wú)心鏡
2025-12-20 08:06:47
林峯撞臉西安兵馬俑事件,回應(yīng)直言有點(diǎn)嚇到

林峯撞臉西安兵馬俑事件,回應(yīng)直言有點(diǎn)嚇到

TVB的四小花
2025-12-21 04:50:34
26歲女子顏值秒殺女明星,男子相中才知東莞工作,要求男方月薪1.5w

26歲女子顏值秒殺女明星,男子相中才知東莞工作,要求男方月薪1.5w

趣筆談
2025-12-16 22:57:31
5天榜首3次易主!孫穎莎重回體壇第一,王楚欽落后樊振東1029萬(wàn)票

5天榜首3次易主!孫穎莎重回體壇第一,王楚欽落后樊振東1029萬(wàn)票

侃球熊弟
2025-12-21 11:27:46
我?guī)褪组L(zhǎng)擋下了兩槍后,負(fù)傷退伍,在我交出軍官證時(shí)女文員卻鎖上門(mén)

我?guī)褪组L(zhǎng)擋下了兩槍后,負(fù)傷退伍,在我交出軍官證時(shí)女文員卻鎖上門(mén)

如煙若夢(mèng)
2025-12-16 16:32:17
英超第17輪結(jié)束了8場(chǎng)比賽,最新積分榜如下!

英超第17輪結(jié)束了8場(chǎng)比賽,最新積分榜如下!

薇說(shuō)體育
2025-12-21 11:33:41
張學(xué)良三個(gè)兒子瘋的瘋,死的死,都以為張家就要絕后,結(jié)局如何?

張學(xué)良三個(gè)兒子瘋的瘋,死的死,都以為張家就要絕后,結(jié)局如何?

古書(shū)記史
2025-12-12 11:32:56
事實(shí)證明!放棄回國(guó)嫁給撒貝寧的李白,做出了人生中最正確的決定

事實(shí)證明!放棄回國(guó)嫁給撒貝寧的李白,做出了人生中最正確的決定

可樂(lè)談情感
2025-12-21 09:12:21
3100萬(wàn)稀土訂單談妥了,蒙古想要空運(yùn)直達(dá)美?中方:上天也運(yùn)不走

3100萬(wàn)稀土訂單談妥了,蒙古想要空運(yùn)直達(dá)美?中方:上天也運(yùn)不走

愛(ài)吃醋的貓咪
2025-12-20 20:58:15
2025-12-21 12:24:49
光錐智能 incentive-icons
光錐智能
來(lái)這里,看千行百業(yè)的數(shù)字化、智能化。
881文章數(shù) 138關(guān)注度
往期回顧 全部

科技要聞

生態(tài)適配已超95% 鴻蒙下一關(guān):十萬(wàn)個(gè)應(yīng)用

頭條要聞

山西宣布廢除煙花爆竹"禁放令" 網(wǎng)友:年味回來(lái)了

頭條要聞

山西宣布廢除煙花爆竹"禁放令" 網(wǎng)友:年味回來(lái)了

體育要聞

送快船西部墊底!鵜鶘大勝步行者獲4連勝

娛樂(lè)要聞

鹿晗關(guān)曉彤戀愛(ài)期間毫不避諱?

財(cái)經(jīng)要聞

百年老店陷貼牌爭(zhēng)議 同仁堂必須作出取舍

汽車(chē)要聞

-30℃,標(biāo)致508L&凡爾賽C5 X冰雪"大考"

態(tài)度原創(chuàng)

房產(chǎn)
藝術(shù)
旅游
時(shí)尚
軍事航空

房產(chǎn)要聞

中交·藍(lán)色港灣一周年暨藍(lán)調(diào)生活沙龍圓滿(mǎn)舉行

藝術(shù)要聞

懸崖頂上藏了只“天眼”?廣西這個(gè)村,看一眼就忘不掉!

旅游要聞

2025年貴陽(yáng)市溫泉季啟動(dòng)

中年女人,冬天這么穿羽絨服、大衣,優(yōu)雅都藏在這3個(gè)細(xì)節(jié)里

軍事要聞

澤連斯基:前線(xiàn)局勢(shì)愈發(fā)艱難

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版 99视频国产精品免费观看| 国产成人99久久亚洲综合精品| 性高湖久久久久久久久| 丰满人妻毛片一区二区| 亚洲综合av免费观看| 精品午夜国产福利在线观看| 亚洲日韩一区二区AI| 亚洲欧美综合精品久久成人网| 岳的下面又大又黑又肥| 国产女人十八毛片| 农村亲妺妺性视频| 天天日日夜夜| 亚洲欧美中文字幕| 亚洲va中文在线播放免费| 999久久久免费精品播放| 新天堂网资源在线播放| 欧美国产亚洲精品成人a v| 亚洲日本成本人观看| 国产免费av片在线观看麻豆| 亚洲一区二区三区在线观看成人AV | 一级淫乱视频| 无码人妻丰满熟妇啪啪网不卡| 蜜臀av无码人妻精品| 久久午夜私人影院| 国产猛男猛女超爽免费视频| 欧美日韩激情| 办公室做好硬好紧我要视频| 51精品免费视频国产专区| 中文8天堂网| 国产AV无码专区亚洲AV漫画| 免费操逼国产精品视频| 亚洲精品久久一区二区三区四区 | 久久久久久久久久久久久久动漫| 亚洲深深色噜噜狠狠网站| 久久久亚洲AⅤ无码精品色| 人与牲交精品片| 日韩一区二区三区四区| 女大破处在线免费| 日韩夜夜高潮夜夜爽无码| 伊人狠狠色丁香婷婷综合| 国产成人丝袜精品视频app|