夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

DeepSeek V3.1 專為國(guó)產(chǎn)芯片設(shè)計(jì)的 UE8M0 FP8 到底是什么?

0
分享至

文章轉(zhuǎn)載自「量子位」

DeepSeek V3.1發(fā)布后,一則官方留言讓整個(gè)AI圈都轟動(dòng)了:


新的架構(gòu)、下一代國(guó)產(chǎn)芯片,總共短短不到20個(gè)字,卻蘊(yùn)含了巨大信息量。

國(guó)產(chǎn)芯片企業(yè)股價(jià)也跟風(fēng)上漲,比如寒武紀(jì)今日早盤盤中大漲近14%,總市值躍居科創(chuàng)板頭名。

半導(dǎo)體ETF,同樣也是在半天的時(shí)間里大漲5.89%。


這個(gè)UE8M0 FP8到底是個(gè)啥?下一代國(guó)產(chǎn)芯片,又是指什么?

我們從UE8M0 FP8的概念開始說(shuō)起。

超 12000 人的「AI 產(chǎn)品市集」社群!不錯(cuò)過(guò)每一款有價(jià)值的 AI 應(yīng)用。

邀請(qǐng)從業(yè)者、開發(fā)人員和創(chuàng)業(yè)者,飛書掃碼加群:

進(jìn)群后,你有機(jī)會(huì)得到:

  • 最新、最值得關(guān)注的 AI 新品資訊;

  • 不定期贈(zèng)送熱門新品的邀請(qǐng)碼、會(huì)員碼;

  • 最精準(zhǔn)的AI產(chǎn)品曝光渠道

01

什么是 UE8M0 FP8?

“UE8M0 FP8”這個(gè)概念,可以拆分成前后兩個(gè)部分來(lái)解釋,前面的UE8M0,是MXFP8路徑里的“縮放因子”。

MXFP8是Open Compute Project在2023年發(fā)布的《Microscaling (MX) Formats Specification v1.0》里定義的8 bit微縮塊格式。

Open Compute Project是2011年由Facebook(現(xiàn)Meta)聯(lián)合英特爾、Rackspace等發(fā)起的開源硬件協(xié)作計(jì)劃,目的是通過(guò)共享數(shù)據(jù)中心及服務(wù)器設(shè)計(jì)推動(dòng)行業(yè)效率提升。

其成員陣容相當(dāng)強(qiáng)大,國(guó)外還有微軟、谷歌、亞馬遜、AMD、英偉達(dá)等,而國(guó)內(nèi)的阿里、騰訊、百度等也參與其中。

說(shuō)回MXFP8,它以FP8為基礎(chǔ)建立,F(xiàn)P8是把常規(guī)浮點(diǎn)格式壓縮到8 bit的一種編碼方式。

MXFP8的核心思想是先把張量切成固定長(zhǎng)度的“塊”,然后為每個(gè)塊單獨(dú)指定一個(gè)2的整數(shù)次冪作為“縮放因子”,把塊內(nèi)所有數(shù)一起除以這個(gè)系數(shù)后再寫成FP8。

這種塊級(jí)(而不是全張量級(jí))的縮放,讓MXFP8既保留了8 bit位寬,又把可用動(dòng)態(tài)范圍擴(kuò)展了幾十倍。


來(lái)源:英偉達(dá)技術(shù)博客

而這里的“縮放因子”也是包含8個(gè)bit,其中包含符號(hào)位、指數(shù)位和尾數(shù)位,開發(fā)者可以自行將這8個(gè)bit分配給這三種不同的位。

其中符號(hào)位只區(qū)分有無(wú),若有則占一個(gè)bit,無(wú)則不占用,而UE8M0中的U表示的就是無(wú)符號(hào)(有符號(hào)可表示為S或省略不寫)。

E和M則分別表示指數(shù)位和尾數(shù)位分配到的bit數(shù),E8M0指的就是8個(gè)bit全都分配給了指數(shù)位。

其他常用的格式還有E4M3、E5M2(縮放引子外的本體部分也常采用這兩種)等,它們均包含符號(hào)位,其余7個(gè)bit在指數(shù)和尾數(shù)位之間分配。


DeepSeek之前開源的5.6k星標(biāo)項(xiàng)目FP8 GEMM內(nèi)核DeepGEMM就已經(jīng)支持UE8M0,不過(guò)這個(gè)項(xiàng)目主要是適配英偉達(dá)芯片和CUDA生態(tài)。


那么,采用這種全指數(shù)表示縮放因子的方式,有什么好處呢?

首先,由于UE8M0不含尾數(shù)與符號(hào)位,處理器在根據(jù)縮放因子對(duì)數(shù)據(jù)進(jìn)行復(fù)原時(shí),只需要乘以對(duì)應(yīng)的2的冪,也就是移動(dòng)一下指數(shù)位,而不需要浮點(diǎn)乘法、規(guī)格化或舍入邏輯,縮短了時(shí)鐘關(guān)鍵路徑。

并且UE8M0的動(dòng)態(tài)范圍覆蓋2^(?127)到2^128,其指數(shù)表可輕松容納這一跨度,為后續(xù)塊縮放提供充足空間。

另外UE8M0還能解決單尺度FP8無(wú)法同時(shí)顧及大/小值,導(dǎo)致溢出或被壓成0的問(wèn)題,將UE8M0作為分塊的尺度后,錯(cuò)誤率曲線從整張曲線下降到一條遠(yuǎn)低水平的橫線,在保持8 bit張量精度的同時(shí)大幅減少信息損失。


來(lái)源:英偉達(dá)技術(shù)博客

UE8M0 FP8的好處我們了解了,現(xiàn)在可以解釋為什么它更適配“下一代國(guó)產(chǎn)芯片”了。

大部分已量產(chǎn)的國(guó)產(chǎn)AI加速器仍沿用FP16/BF16 + INT8的計(jì)算通路,并未集成E4M3/E5M2這類完整的FP8乘加單元。

不過(guò),摩爾線程MUSA 3.1 GPU、芯原VIP9000 NPU等2025 H2首發(fā)的新款國(guó)產(chǎn)芯片已經(jīng)在宣傳資料里列出“原生 FP8”或“Block FP8”支持,并與 DeepSeek、華為等15家廠商聯(lián)合驗(yàn)證UE8M0格式。

雖然下一代國(guó)產(chǎn)芯片雖然已經(jīng)在為FP8做出準(zhǔn)備,但HBM/LPPDDR帶寬仍然與頂尖芯片存在較大差距。

而UE8M0讓一組32個(gè)FP8數(shù)據(jù)只追加8bit縮放引子,相比傳統(tǒng)的4B(32bit) FP32縮放直接節(jié)省75%的流量,這種空間節(jié)約措施被視作下一代架構(gòu)的重要優(yōu)化方向。

02

DeepSeek為哪個(gè)國(guó)產(chǎn)芯片做了優(yōu)化?

在搞清楚啥是UE8M0 FP8之后,回過(guò)神來(lái)的網(wǎng)友們又開始紛紛猜測(cè):

DeepSeek這是在說(shuō)哪一家的國(guó)產(chǎn)芯片呢?

在官方有意賣關(guān)子的情況下,人們只好首先把目光放在了首批通過(guò)“DeepSeek大模型適配”的8家廠商。


來(lái)源:中國(guó)信通院官微

這當(dāng)中大家看好的“頭號(hào)種子選手”當(dāng)屬寒武紀(jì),市場(chǎng)反應(yīng)相當(dāng)直觀——

截至今日10:25,寒武紀(jì)盤中大漲近14%,總市值超4940億元,超過(guò)中芯國(guó)際躍居科創(chuàng)板頭名(實(shí)際以最新為準(zhǔn))。

理由也很簡(jiǎn)單,該公司旗下的MLU370-S4、思元590及最新690系列芯片均支持FP8計(jì)算,在架構(gòu)設(shè)計(jì)和低精度計(jì)算優(yōu)化上一直相對(duì)比較領(lǐng)先。

而基于類似理由,海光、沐曦,中昊芯英甚至包括名單之外的摩爾線程等也都被網(wǎng)友們挨個(gè)點(diǎn)名:

  • 海光:其深算三號(hào)DCU支持FP8計(jì)算,存在進(jìn)一步優(yōu)化的空間;

  • 沐曦:今年7月發(fā)布的曦云C600,也支持FP8精度計(jì)算;

  • 中昊芯英: 其“剎那”TPU AI芯片支持FP8精度;

  • 摩爾線程:作為國(guó)內(nèi)極少數(shù)原生支持FP8的GPU廠商,旗艦產(chǎn)品MTT S5000支持FP8精度計(jì)算。

與此同時(shí),一些很有可能“即將上車FP8”的廠商也出現(xiàn)在了一眾盤點(diǎn)名單中。

例如華為昇騰,雖然昇騰910B和910C暫不支持原生FP8,但官方路線圖已經(jīng)寫明“2025Q4原生FP8”,所以眾人預(yù)計(jì)或?qū)⒃?026年推出的910D(可能的命名)很有可能是所謂的“下一代芯片”。

除了以上這些,還有一大串芯片廠商的名字出現(xiàn)在了討論當(dāng)中,堪稱盛況空前。

雖然猜來(lái)猜去沒(méi)有最終定論,但不妨礙市場(chǎng)給予熱烈回應(yīng)。根據(jù)最新消息,今日國(guó)產(chǎn)芯片概念集體高開,科創(chuàng)50大漲3%創(chuàng)近三年半新高,芯片產(chǎn)業(yè)鏈集體走強(qiáng)。


所以,大家為什么集體狂歡?這些國(guó)產(chǎn)芯片一旦支持UE8M0 FP8究竟意味著什么?

綜合當(dāng)前國(guó)內(nèi)外各方說(shuō)法來(lái)看,一切都可以用一句話來(lái)概括:

這代表了國(guó)產(chǎn)AI正走向軟硬協(xié)同階段,能夠?qū)嵸|(zhì)性減少對(duì)英偉達(dá)、AMD等國(guó)外算力的依賴。

這里頭的邏輯也很簡(jiǎn)單清晰,正是由于UE8M0 FP8精度格式所具備的上述優(yōu)勢(shì)(更小的帶寬、更低的功耗、更高的吞吐),這意味著同樣的硬件今后能跑更大的模型,所以國(guó)產(chǎn)芯片的“性價(jià)比”被大幅拉高了。

換句話說(shuō),這些國(guó)產(chǎn)芯片廠商將在競(jìng)爭(zhēng)中更具優(yōu)勢(shì),因此也就屬于利好了。

從另一方面來(lái)看,DeepSeek通過(guò)改動(dòng)精度格式,相當(dāng)于主動(dòng)貼合國(guó)產(chǎn)芯片的最佳性能點(diǎn),這種軟硬協(xié)同的模式無(wú)疑是把國(guó)產(chǎn)芯片們拉進(jìn)了一個(gè)統(tǒng)一的生態(tài)坐標(biāo)系。

這就像當(dāng)年的“Wintel聯(lián)盟”一樣——微軟和英特爾通過(guò)深度技術(shù)綁定,筑起了個(gè)人計(jì)算機(jī)領(lǐng)域的生態(tài)護(hù)城河,只不過(guò)如今換成了DeepSeek和國(guó)產(chǎn)芯片廠商們。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
早上7點(diǎn)半,世預(yù)賽生死戰(zhàn)打響!2隊(duì)爭(zhēng)1個(gè)附加賽名額,巴西成判官

早上7點(diǎn)半,世預(yù)賽生死戰(zhàn)打響!2隊(duì)爭(zhēng)1個(gè)附加賽名額,巴西成判官

球場(chǎng)沒(méi)跑道
2025-09-09 12:12:52
圈內(nèi)好老板!辛芷蕾團(tuán)隊(duì)工資曝光,員工最低工資3萬(wàn)還帶假日福利

圈內(nèi)好老板!辛芷蕾團(tuán)隊(duì)工資曝光,員工最低工資3萬(wàn)還帶假日福利

鑫鑫說(shuō)說(shuō)
2025-09-09 09:20:53
毛新宇少將被攙扶著參加閱兵:高顏值妻女陪同,兒子就讀國(guó)防科大

毛新宇少將被攙扶著參加閱兵:高顏值妻女陪同,兒子就讀國(guó)防科大

博士觀察
2025-09-08 21:08:19
受巨大刺激,特朗普當(dāng)眾表示:中俄絕不會(huì)動(dòng)用自己的武力對(duì)抗美國(guó)

受巨大刺激,特朗普當(dāng)眾表示:中俄絕不會(huì)動(dòng)用自己的武力對(duì)抗美國(guó)

議紀(jì)史
2025-09-08 15:30:03
隊(duì)記:楊瀚森能有普拉姆利的生涯 就是中國(guó)第二好的NBA球員了

隊(duì)記:楊瀚森能有普拉姆利的生涯 就是中國(guó)第二好的NBA球員了

直播吧
2025-09-09 11:17:14
神引援!皇馬、巴薩均花500萬(wàn)簽巴爾韋德+佩德里 兩人現(xiàn)身價(jià)2.7億

神引援!皇馬、巴薩均花500萬(wàn)簽巴爾韋德+佩德里 兩人現(xiàn)身價(jià)2.7億

直播吧
2025-09-09 16:17:08
俄副總理:俄羅斯已準(zhǔn)備好向中國(guó)供應(yīng)飛機(jī)零部件

俄副總理:俄羅斯已準(zhǔn)備好向中國(guó)供應(yīng)飛機(jī)零部件

俄羅斯衛(wèi)星通訊社
2025-09-07 16:03:11
李炮兒真神!干誰(shuí)誰(shuí)“死”,玩的就是真實(shí)!妥妥的“網(wǎng)絡(luò)紀(jì)檢委”

李炮兒真神!干誰(shuí)誰(shuí)“死”,玩的就是真實(shí)!妥妥的“網(wǎng)絡(luò)紀(jì)檢委”

小娛樂(lè)悠悠
2025-09-09 10:29:04
王洪文38歲時(shí)擔(dān)任正國(guó)級(jí),當(dāng)農(nóng)民的弟弟想進(jìn)城做工,他怒道: 不行

王洪文38歲時(shí)擔(dān)任正國(guó)級(jí),當(dāng)農(nóng)民的弟弟想進(jìn)城做工,他怒道: 不行

大運(yùn)河時(shí)空
2025-09-08 00:40:52
國(guó)民黨主席選舉爆變數(shù)!張雅屏突然宣布退選:國(guó)民黨要團(tuán)結(jié)不分裂

國(guó)民黨主席選舉爆變數(shù)!張雅屏突然宣布退選:國(guó)民黨要團(tuán)結(jié)不分裂

海峽導(dǎo)報(bào)社
2025-09-09 16:12:05
心梗去世的人越來(lái)越多?醫(yī)生提醒:沒(méi)事寧可做家務(wù),也別做這3事

心梗去世的人越來(lái)越多?醫(yī)生提醒:沒(méi)事寧可做家務(wù),也別做這3事

男女那點(diǎn)事兒兒
2025-09-09 17:44:14
大風(fēng)文旅 | 全面完成!西安再添一座火車站!

大風(fēng)文旅 | 全面完成!西安再添一座火車站!

大風(fēng)新聞
2025-09-09 16:19:06
被大陸警告后,賴清德改口稱洪秀柱無(wú)罪,對(duì)沒(méi)去北京的馬英九下手

被大陸警告后,賴清德改口稱洪秀柱無(wú)罪,對(duì)沒(méi)去北京的馬英九下手

南宗歷史
2025-09-08 22:04:22
最新!美國(guó)出動(dòng)核攻擊潛艇

最新!美國(guó)出動(dòng)核攻擊潛艇

魯中晨報(bào)
2025-09-09 16:01:20
離退役又近一步?西蒙斯已拒絕尼克斯一年合同:不愿只拿底薪打球

離退役又近一步?西蒙斯已拒絕尼克斯一年合同:不愿只拿底薪打球

羅說(shuō)NBA
2025-09-09 06:37:32
四川省紀(jì)委監(jiān)委通報(bào):2人被查!其中一人去年2月退休

四川省紀(jì)委監(jiān)委通報(bào):2人被查!其中一人去年2月退休

魯中晨報(bào)
2025-09-09 18:29:15
出乎意料的反轉(zhuǎn):民進(jìn)黨認(rèn)慫了,洪秀柱安全了,國(guó)民黨有人尷尬了

出乎意料的反轉(zhuǎn):民進(jìn)黨認(rèn)慫了,洪秀柱安全了,國(guó)民黨有人尷尬了

通文知史
2025-09-08 17:00:04
細(xì)思極恐!為什么楊蘭蘭膽敢不給澳洲警方提供她的個(gè)人信息?

細(xì)思極恐!為什么楊蘭蘭膽敢不給澳洲警方提供她的個(gè)人信息?

李昕言溫度空間
2025-09-06 20:04:06
破案了!終于知道許凱為什么快塌成廢墟了,他惹了3個(gè)不該惹的人

破案了!終于知道許凱為什么快塌成廢墟了,他惹了3個(gè)不該惹的人

小娛樂(lè)悠悠
2025-09-09 09:01:11
豪門玩物,幾年被折磨成牙齒全脫落,不足80斤,似骷髏,慘不忍睹

豪門玩物,幾年被折磨成牙齒全脫落,不足80斤,似骷髏,慘不忍睹

觀察鑒娛
2025-08-17 09:54:54
2025-09-09 19:32:49
FounderPark incentive-icons
FounderPark
關(guān)注AI創(chuàng)業(yè),專注和創(chuàng)業(yè)者聊真問(wèn)題
957文章數(shù) 140關(guān)注度
往期回顧 全部

科技要聞

王騰辟謠:我沒(méi)有竊取公司機(jī)密,收人錢財(cái)

頭條要聞

網(wǎng)友稱38年前買的威力洗衣機(jī)還能用 廠家:公司沒(méi)倒閉

頭條要聞

網(wǎng)友稱38年前買的威力洗衣機(jī)還能用 廠家:公司沒(méi)倒閉

體育要聞

解說(shuō)了4屆世界杯,這次他要帶隊(duì)去美加墨了

娛樂(lè)要聞

她自己嫌棄的兒媳婦讓前夫主動(dòng)想“上門求原諒”

財(cái)經(jīng)要聞

桂浩明:牛還在

汽車要聞

無(wú)框車門+寬體低趴 零跑Lafa5亮相慕尼黑車展

態(tài)度原創(chuàng)

本地
家居
健康
時(shí)尚
公開課

本地新聞

云游中國(guó) | 山南水北 咸陽(yáng)好美

家居要聞

浪漫氤氳 奏響人居新篇

內(nèi)分泌科專家破解身高八大謠言

這些才是氣質(zhì)女人喜歡的穿搭!以裙子為主、色彩柔和,好高級(jí)

公開課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版 亚洲人成电影在线天堂色| 免费无码又爽又刺激高潮的视频网站| 国产第三区| 久久久www成人免费无遮挡大片| 欧美性色老妇人| 一线天粉嫩极品虎白女| 国产亚洲综合成人91精品果冻传| XXXX互换人妻中国69| 国产成人亚洲综合网色欲网| 女人高潮视频网站| 亚洲国内精品自在线影院| 久久精品蜜臀无码| 日韩一区二区不卡黄色伦理电影 | 久久国产人妻一区二区| 国严精18久久久久久麻辣| 亚洲高潮喷水中文字幕| 国产又a又黄又潮娇喘视频| 久久99精品久久久久久噜噜| 免费看黄片毛片| 日韩精品无码熟人妻视频| 久久大香萑太香蕉av| 国产六月婷婷爱在线观看| 亚洲伦理一区| 吉川爱美一区二区三区视频| 门国产乱子视频观看| 开心激情五月婷婷| 久久艹久久国产| 人人妻人人狠人人爽天天综合网| 欧美交换国产一区内射| 俺来也俺去了老熟女视频| 国模沟沟一区二区三区| 超碰97人人做人人爱2020| 欧美老妇黄色| 秋霞鲁丝一区二区| 欧美性爱网免费| 九色91丨PORNY丨口爆| 天天爽夜夜爽人人爽| 欧美日韩国产图片区一区| 97成人精品一区二区三区狼人| 天下第一毛片| 国产成人精品a视频|