夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

推理性能提升13倍!百度智能云發(fā)布昆侖芯超節(jié)點

0
分享至

4月25日,以“模型的世界,應(yīng)用的天下”為主題的Create 2025 百度AI開發(fā)者大會在湖北武漢召開。會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖分享了百度智能云在智能基礎(chǔ)設(shè)施建設(shè)方面的最新成果,并在算力、模型及應(yīng)用等方面發(fā)布一系列全新產(chǎn)品。



?大模型的高效落地亟需從底層算力到應(yīng)用的全棧、系統(tǒng)級支撐——既需高性能硬件與集群優(yōu)化,也需靈活的開發(fā)工具鏈與場景化解決方案?;诙嗄暝诖竽P脱邪l(fā)與產(chǎn)業(yè)落地的深厚積累,百度智能云構(gòu)建了新一代系統(tǒng)級智能基礎(chǔ)設(shè)施,為企業(yè)大模型應(yīng)用落地提供最佳解決方案。

相關(guān)數(shù)據(jù)顯示,2024全年百度智能云在大模型相關(guān)中標(biāo)項目數(shù)、行業(yè)覆蓋數(shù)、央國企中標(biāo)項目數(shù)三個維度均為第一,在能源、政務(wù)、金融三個行業(yè)的中標(biāo)項目數(shù)位于所有廠商第一。截止目前,千帆平臺企業(yè)用戶數(shù)量超40萬,千帆平臺組件數(shù)量超1000個,企業(yè)在千帆平臺上已開發(fā)出了超100萬個應(yīng)用。

?沈抖表示,系統(tǒng)的價值,不僅是解決某一個問題,而是讓企業(yè)擁有創(chuàng)造“創(chuàng)造的能力”。企業(yè)可以結(jié)合自己的數(shù)據(jù)、流程、邏輯,利用百度智能云的系統(tǒng)級能力打造企業(yè)專屬AI基礎(chǔ)設(shè)施。

百舸+昆侖芯超節(jié)點:推理性能提升13倍、成本降低95%

?算力是AI時代的“新電力”。百度智能云通過自研昆侖芯P800芯片及百舸大規(guī)模推理加速能力,實現(xiàn)算力性能與成本的雙重突破。



本次大會,百度正式點亮了昆侖芯P800的三萬卡集群。在金融行業(yè),招商銀行與百度智能云基于昆侖芯P800展開算力合作,能穩(wěn)定支持各類開源大模型,性能表現(xiàn)卓越,在智能客服、多模態(tài)數(shù)據(jù)分析等場景實現(xiàn)了顯著效能提升。目前,除了招商銀行這類金融機構(gòu),昆侖芯P800算力已在國家電網(wǎng)、中國鋼研等央企,同濟大學(xué)、北京大學(xué)等高校及一批互聯(lián)網(wǎng)企業(yè)進行規(guī)?;渴?。

?為了進一步降低算力使用成本,百度智能云正式發(fā)布昆侖芯超節(jié)點。

?昆侖芯超節(jié)點支持把64張昆侖芯AI加速卡放到同一個機柜,實現(xiàn)單節(jié)點的超強性能,一個機柜就能頂過去100臺機器。與以往的方案相比,昆侖芯超節(jié)點用更快的機內(nèi)通信替代機間通信,可以有效降低帶寬成本,最終實現(xiàn)卡間互聯(lián)帶寬提升8倍,單機訓(xùn)練性能提升10倍,單卡推理性能提升13倍。

?僅僅擁有高性能芯片和大規(guī)模集群是遠遠不夠的,如何穩(wěn)定、高效地釋放算力的真正價值才是關(guān)鍵所在。沈抖認為,未來三年,推理降本,一定是企業(yè)最重要的工作。



百度智能云全面升級百舸推理加速能力。通過大規(guī)模分布式推理的PD分離,百舸支持客戶根據(jù)不同場景的業(yè)務(wù)特點,自適應(yīng)地設(shè)置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸做到了大規(guī)模多機專家并行的極致優(yōu)化,可以大幅降低MOE模型推理的通信開銷。最后,百舸對核心鏈路上的每一個細節(jié)做了系統(tǒng)級的工程優(yōu)化,大幅提升GPU的有效利用率。

從百度內(nèi)部實踐來看,百舸推理加速的能力正在作為千帆的算力底座,為40萬客戶提供服務(wù)。上線以來,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持著像招商銀行、中國石化、長安汽車等企業(yè)的超大規(guī)模算力需求,也很好地支撐著創(chuàng)企客戶、伙伴的模型訓(xùn)練、推理需求。

?以北京人形機器人創(chuàng)新中心為例,百度百舸為創(chuàng)新中心構(gòu)建了穩(wěn)定的超大算力集群,確保具身模型的訓(xùn)練和推理得以高效進行,支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中,北京人形機器人創(chuàng)新中心旗下純電驅(qū)全尺寸人形機器人“天工”,以2小時40分42秒的成績率先沖線一舉奪冠。?

為企業(yè)應(yīng)用開發(fā)提效!千帆發(fā)布智能體Pro及MCP服務(wù)

?企業(yè)部署大模型,不僅需要高性價比的模型服務(wù),更需要全面的模型工具。在模型服務(wù)層面,目前千帆平臺上有超過100多個模型,不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型,還包括DeepSeek、Ilama、Vidu等第三方模型,服務(wù)穩(wěn)定、可靠。在模型開發(fā)層面,千帆平臺可以提供全面的模型開發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制、精調(diào)。

?以模型蒸餾為例,智聯(lián)招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈,用千億參數(shù)的DeepSeek R1作為“教師模型”,用百億參數(shù)的ERNIE Speed作為“學(xué)生模型”,經(jīng)過調(diào)優(yōu)后的小參數(shù)模型,不僅可以媲美“教師模型”的效果,成本也降低至3成。

?在應(yīng)用開發(fā)上,本次大會千帆平臺全面升級了企業(yè)級Agent開發(fā)工具鏈,發(fā)布了全新推理式智能體——智能體Pro,從快問快答升級到深思熟慮,并且支持每個企業(yè)定制自己的專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,讓Agent結(jié)合企業(yè)自己的私域數(shù)據(jù)和企業(yè)知識庫,可以基于對任務(wù)的理解去制定檢索策略,大幅降低模型幻覺。同時,智能體Pro也支持Deep Research深度研究模式,能讓Agent自主完成復(fù)雜任務(wù)的步驟規(guī)劃、信息篩選和整理,支持像人一樣操控電腦瀏覽網(wǎng)頁(computer use)進行探索式知識收集,也支持像人一樣使用多種工具繪制圖標(biāo)、撰寫,生成結(jié)構(gòu)清晰、內(nèi)容豐富的專業(yè)報告。

?基于DeepResearch能力,榮耀正在利用千帆平臺,面向高校學(xué)生、職場白領(lǐng)等群體,打造一款科研場景深度研究的應(yīng)用,將很快會在榮耀筆記本上上線。

MCP的出現(xiàn),幫助開發(fā)者和企業(yè)在開發(fā)Agent時,能夠更好地利用行業(yè)數(shù)據(jù)和工具。本次大會,百度智能云正式發(fā)布國內(nèi)首個企業(yè)級MCP服務(wù),第一批已經(jīng)有超過1000個MCP Servers供企業(yè)及開發(fā)者靈活選擇。另外,開發(fā)者也可以在千帆上開發(fā)自己的MCP Server,并發(fā)布到MCP廣場,支持免費托管,而且百度搜索也會索引這些MCP Server,讓它們被更多的開發(fā)者引用。

?從模型服務(wù)到應(yīng)用開發(fā),企業(yè)客戶已經(jīng)在千帆平臺上做出了很多行業(yè)創(chuàng)新。民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地,完成了金融領(lǐng)域第一個端到端涵蓋算力、平臺、模型、應(yīng)用四層架構(gòu)的項目落地。

自研AI應(yīng)用重磅升級:實現(xiàn)營銷全旅程服務(wù),視覺AI應(yīng)用成本大幅下降

?百度智能云打造的智能基礎(chǔ)設(shè)施也支撐著百度自己的應(yīng)用創(chuàng)新。本次大會,百度智能云面向智能營銷、視覺AI兩大領(lǐng)域,升級了兩大自研AI應(yīng)用產(chǎn)品。

?金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預(yù)警,百度智能云本次升級發(fā)布客悅·ONE,在上述核心場景進行了全面優(yōu)化,為客戶提供全生命周期智能營銷服務(wù),助力企業(yè)實現(xiàn)營銷效能全面提升。

?以理財撤單場景為例,傳統(tǒng)模式下,用戶需經(jīng)歷復(fù)雜的說明閱讀和多層級菜單操作,效率低下??蛺偼ㄟ^AI驅(qū)動的智能交互,極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮,更能在對話中直接引導(dǎo)解決問題,還能自動提煉關(guān)鍵信息并回流數(shù)據(jù),持續(xù)優(yōu)化服務(wù)體驗。

?目前客悅已經(jīng)服務(wù)銀行、證券、保險等不同細分領(lǐng)域的金融企業(yè)50余家,落地金融行業(yè)10余個場景。

為了解決視覺AI模型訓(xùn)練周期長、門檻高,需要大量人工干預(yù)的問題。百度智能云升級發(fā)布一見5.0,在標(biāo)準化高、規(guī)則清晰的任務(wù)中,僅需一句自然語言,即可秒級生成專業(yè)級視覺AI應(yīng)用,一線業(yè)務(wù)人員也能輕松上手,借助云邊協(xié)同,應(yīng)用成本大幅降低,加速了視覺智能規(guī)?;穆涞?。

?目前,百度智能云從算力、平臺到應(yīng)用的系統(tǒng)級能力,已經(jīng)在多個企業(yè)場景中穩(wěn)定運行。中國鋼研與百度智能云聯(lián)合打造全棧智能基礎(chǔ)設(shè)施,基于昆侖芯和百舸,搭建了專屬的智算平臺;在千帆上做模型精調(diào),使用大、小模型結(jié)合的方式獲得最佳效果;結(jié)合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應(yīng)用開發(fā)

聲明:取材網(wǎng)絡(luò),謹慎辨別

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
年薪5260萬美元,遭主教練背刺,歷史第一人真要退役或去打替補?

年薪5260萬美元,遭主教練背刺,歷史第一人真要退役或去打替補?

毒舌NBA
2025-12-28 21:16:55
奪冠半月突遭解約!張本智和兄妹雙雙失業(yè),背后3大真相太扎心

奪冠半月突遭解約!張本智和兄妹雙雙失業(yè),背后3大真相太扎心

卿子書
2025-12-28 08:50:29
震驚!新冠消失3年,6個反?,F(xiàn)象席卷中國!

震驚!新冠消失3年,6個反常現(xiàn)象席卷中國!

老特有話說
2025-12-28 21:52:11
河北:各村口、路口,開始大范圍排查!

河北:各村口、路口,開始大范圍排查!

新牛城
2025-12-28 12:08:06
德甲俱樂部苦求樊振東留下,開價嚇退國內(nèi)資本

德甲俱樂部苦求樊振東留下,開價嚇退國內(nèi)資本

熱點新聞天下薈
2025-12-28 16:50:05
23分25板10助!就在今天,1項由約基奇創(chuàng)造的NBA紀錄被巴恩斯達成

23分25板10助!就在今天,1項由約基奇創(chuàng)造的NBA紀錄被巴恩斯達成

世界體育圈
2025-12-29 09:08:13
云南大理一?;莱鋈α?,五官精致,傾國傾城,美得讓人移不開眼

云南大理一?;莱鋈α?,五官精致,傾國傾城,美得讓人移不開眼

情感大頭說說
2025-12-29 10:24:39
自宣離隊上海?洛夫頓官宣,1個月后將回歸美國母校,原因或曝光

自宣離隊上海?洛夫頓官宣,1個月后將回歸美國母校,原因或曝光

樂聊球
2025-12-28 09:58:59
成龍稱以前對兒子太嚴格了,現(xiàn)在只希望他平安開心就好

成龍稱以前對兒子太嚴格了,現(xiàn)在只希望他平安開心就好

韓小娛
2025-12-29 08:45:04
闞清子被曝生畸形兒4天,醫(yī)院發(fā)聲,信息量大,3個疑問解開了

闞清子被曝生畸形兒4天,醫(yī)院發(fā)聲,信息量大,3個疑問解開了

除夕煙火燦爛
2025-12-29 09:57:50
山東地級市某設(shè)計院月發(fā)兩千八,員工罷工愈演愈烈!

山東地級市某設(shè)計院月發(fā)兩千八,員工罷工愈演愈烈!

黯泉
2025-12-28 22:48:33
深度 | 饅頭、喝8+1、xhs......誰在制造網(wǎng)絡(luò)“文字獄”

深度 | 饅頭、喝8+1、xhs......誰在制造網(wǎng)絡(luò)“文字獄”

新傳研究
2025-12-29 10:04:29
告別秒射尷尬!3個控精技巧,讓你持久又帶感,讓她高潮來得更爽

告別秒射尷尬!3個控精技巧,讓你持久又帶感,讓她高潮來得更爽

精彩分享快樂
2025-12-29 07:00:05
痛心!36歲寶媽轉(zhuǎn)呼啦圈2分鐘倒地身亡,3歲兒子旁邊哭喊無回應(yīng)

痛心!36歲寶媽轉(zhuǎn)呼啦圈2分鐘倒地身亡,3歲兒子旁邊哭喊無回應(yīng)

行者聊官
2025-12-29 08:46:32
特朗普與澤連斯基未談妥領(lǐng)土問題

特朗普與澤連斯基未談妥領(lǐng)土問題

財聯(lián)社
2025-12-29 06:20:09
突傳!河北主持雪莉去世!僅38歲,前一天還發(fā)自拍,好友透露死因

突傳!河北主持雪莉去世!僅38歲,前一天還發(fā)自拍,好友透露死因

千言娛樂記
2025-12-28 20:01:31
導(dǎo)游是否坑人,只看這兩點!

導(dǎo)游是否坑人,只看這兩點!

趣聞分享1
2025-12-17 15:07:55
征服中年女人,無需套路:兩顆真心,一生相守

征服中年女人,無需套路:兩顆真心,一生相守

青蘋果sht
2025-11-04 06:10:40
中國最敗家的兒子:為追求女明星與文強約架,在天上人間激起動蕩

中國最敗家的兒子:為追求女明星與文強約架,在天上人間激起動蕩

凱裕說故事
2024-12-19 10:12:44
AI圈發(fā)生9級地震:大神 Karpathy 的一條推文,戳破了所有人的幻想

AI圈發(fā)生9級地震:大神 Karpathy 的一條推文,戳破了所有人的幻想

AI范兒
2025-12-28 10:40:12
2025-12-29 11:11:00
山上 incentive-icons
山上
時間寶貴,讀點有意思的。關(guān)注科技與商業(yè)變革。
222文章數(shù) 7關(guān)注度
往期回顧 全部

科技要聞

五年之約到期,小米:林斌擬減持20億美元

頭條要聞

保時捷出事故保險公司讓報廢 但只賠100萬保額的一半

頭條要聞

保時捷出事故保險公司讓報廢 但只賠100萬保額的一半

體育要聞

“史上最貴”的世界杯,球迷成了韭菜

娛樂要聞

白敬亭現(xiàn)身冰雪大世界 拍視頻還翻車了

財經(jīng)要聞

貴金屬“牛市”能否跨年

汽車要聞

一汽正式“入股”零跑,總金額超37億元!

態(tài)度原創(chuàng)

教育
數(shù)碼
親子
本地
公開課

教育要聞

收藏給孩子看,總有一種方法適合自己孩子

數(shù)碼要聞

一加開啟全檔位產(chǎn)品布局 為各檔位提供極致游戲體驗

親子要聞

家庭關(guān)系相處

本地新聞

云游安徽|合肥的基因,藏于三處無言的舊址

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版 日日操夜夜操av| 偷拍视频一区二区三区四区| 一本到在线视频| 天堂AV综合在线无码流出| www.rihan| 欧美人人操人人| 久久久久久国产精品无码下载| 日本久久综合网| 内射人妻少妇无码一本一道| 中文字幕无码精品亚洲35| 少妇被猛烈进入| 久久国产亚洲一区二区三区| 国产成人无码av一区二区在线观看 | 欧美在线一区二区三区| 自拍偷自拍亚洲一区二区| 黑人大战欧美在线看片| 在线天堂新版最新版在线8| 亚洲国产中文在线二区三区免| 97亚洲欧美国产网曝97| 亚洲无码久久| 四虎国产精品免费久久久| 毛片A级毛片免费播放| 少妇愉情理伦片BD| 伊人久久久精品区| 一个本道久久综合久久88| 精品国产AⅤ一区二区三区四川人老熟女国产老熟女| 无码高清色色色| 国产成人精品久久性色av| 天天综合网 天天| 自慰免费观看在线网站| 六月丁香婷婷色狠狠久久| 美女视频黄频A美女大全| 亚洲爆乳一区| 国产精品国产三级国产专播| AV天堂图片多毛无码| 日韩偷拍无码| AV影视人妻少妇| 国产人妻精品久久久久野外| 精品中文字幕一区| 一区二区三区精密机械| 婷婷久久麻豆导航|