夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

難以置信!DeepSeek 新變體速度提升200%,企業(yè)部署成本銳減60%

0
分享至

距離DeepSeek發(fā)布其熱門開源模型 DeepSeek 的最新版本 R1-0528,才剛過去一個(gè)多月,本周,一家 24 年歷史的德國公司 TNG 技術(shù)咨詢有限公司發(fā)布了一個(gè)此類改編版本:DeepSeek-TNG R1T2 Chimera,這是其 Chimera 大型語言模型系列的最新型號(hào)。

R1T2 在效率和速度上實(shí)現(xiàn)了顯著提升,其智能基準(zhǔn)分?jǐn)?shù)達(dá)到 R1-0528 的 90% 以上,同時(shí)生成答案所需的輸出 token 數(shù)量不到 R1-0528 的 40%。

這意味著它能產(chǎn)生更簡短的回復(fù),直接轉(zhuǎn)化為更快的推理速度和更低的計(jì)算成本。在 TNG的AI 代碼共享社區(qū)上,該公司稱其 “比常規(guī) R1快約 20%,比 R1-0528快兩倍以上”。

對(duì)此,AI 開發(fā)者社區(qū)的反響極為熱烈。社區(qū)高級(jí)負(fù)責(zé)人寫道:“天??!DeepSeek R1T2,比 R1-0528 快 200%,比 R1 快 20%。在 GPQA 和 AIME 24 上顯著優(yōu)于 R1,通過專家組裝法結(jié)合 DS V3、R1 和 R1-0528 構(gòu)建,且采用 MIT 許可證,可在社區(qū) 上獲取?!?/p>


這一提升得益于 TNG 的專家組裝(AoE)方法,這是一種通過選擇性合并多個(gè)預(yù)訓(xùn)練模型的內(nèi)部參數(shù)來構(gòu)建 LLM 的技術(shù)。作為原始 R1T Chimera 的后繼者,R1T2 引入了新的 “三思維”(Tri-Mind)配置,集成了三個(gè)父模型:DeepSeek-R1-0528、DeepSeek-R1 和 DeepSeek-V3-0324。其結(jié)果是一個(gè)經(jīng)過精心設(shè)計(jì)的模型,既能保持高推理能力,又能顯著降低推理成本。

而且,R1T2 的構(gòu)建無需進(jìn)一步微調(diào)或再訓(xùn)練。它繼承了 R1-0528 的推理優(yōu)勢(shì)、R1 的結(jié)構(gòu)化思維模式,以及 V3-0324 簡潔的指令導(dǎo)向特性,為企業(yè)和研究應(yīng)用提供了一個(gè)更高效且有能力的模型。

01

專家組裝(AoE)與

專家混合(MoE)的區(qū)別

專家混合(MoE)是一種架構(gòu)設(shè)計(jì),其中不同組件根據(jù)輸入有條件地激活。在 DeepSeek-V3 或 Mixtral 等 MoE LLM 中,任何給定 token 的前向傳播過程中,僅激活模型專家層的一部分。這使得超大型模型能夠?qū)崿F(xiàn)更高的參數(shù)數(shù)量和專業(yè)化,同時(shí)保持推理成本可控,因?yàn)槊總€(gè) token 僅評(píng)估網(wǎng)絡(luò)的一小部分。

專家組裝(AoE)是一種模型合并技術(shù),而非架構(gòu)。它用于通過選擇性插值多個(gè)預(yù)訓(xùn)練 MoE 模型的權(quán)重張量來創(chuàng)建新模型。AoE 中的 “專家” 指的是被合并的模型組件,通常是 MoE 層內(nèi)的路由專家張量,而非運(yùn)行時(shí)動(dòng)態(tài)激活的專家。

TNG 對(duì) AoE 的實(shí)現(xiàn)主要側(cè)重于合并路由專家張量,同時(shí)通常保留來自更快模型的更高效共享層和注意力層。這種方法使生成的 Chimera 模型能夠繼承推理能力,而無需復(fù)制最強(qiáng)父模型的冗長或延遲。

02

性能與速度:基準(zhǔn)測(cè)試的實(shí)際結(jié)果

E-25 和 GPQA-Diamond 測(cè)試集衡量,R1T2 實(shí)現(xiàn)了其最智能父模型 DeepSeek-R1-0528 90% 至 92% 的推理性能。然而,與 DeepSeek-R1-0528 不同,R1T2 被設(shè)計(jì)為更加簡潔。它能以少得多的詞匯量提供同樣智能的響應(yīng)。TNG 并非關(guān)注原始處理時(shí)間或每秒 token 數(shù),而是以每個(gè)答案的輸出 token 數(shù)來衡量 “速度”,這是成本和延遲的實(shí)用代理指標(biāo)。

根據(jù) TNG 共享的基準(zhǔn)測(cè)試,R1T2 生成響應(yīng)所需的 token 數(shù)約為 R1-0528 的 40%。這意味著輸出長度減少 60%,直接縮短推理時(shí)間和計(jì)算負(fù)載,將響應(yīng)速度提升 2 倍,即 200%。與原始 DeepSeek-R1 相比,R1T2 平均也約縮短 20%,為高吞吐量或成本敏感的部署提供了顯著的效率提升。這種效率并未以智能為代價(jià)。


03

部署注意事項(xiàng)與可用性

R1T2 根據(jù)寬松的 MIT 許可證發(fā)布,現(xiàn)已在社區(qū)上提供,這意味著它是開源的,可用于構(gòu)建商業(yè)應(yīng)用。TNG 指出,盡管該模型非常適合一般推理任務(wù),但由于繼承自 DeepSeek-R1 的局限性,目前不建議用于需要函數(shù)調(diào)用或工具使用的用例。這些問題可能在未來的更新中解決。

對(duì)企業(yè)技術(shù)決策者的意義

對(duì)于CTO、AI 平臺(tái)所有者、工程負(fù)責(zé)人和 IT 采購團(tuán)隊(duì)而言,R1T2 帶來了切實(shí)的好處和戰(zhàn)略選擇:

更低的推理成本:每個(gè)任務(wù)的輸出 token 更少,R1T2 減少了 GPU 時(shí)間和能源消耗,直接轉(zhuǎn)化為基礎(chǔ)設(shè)施節(jié)省 —— 這在高吞吐量或?qū)崟r(shí)環(huán)境中尤為重要。

無開銷的高推理質(zhì)量:它保留了 R1-0528 等頂級(jí)模型的大部分推理能力,但沒有其冗長性。這非常適合數(shù)學(xué)、編程、邏輯等結(jié)構(gòu)化任務(wù),這些任務(wù)更偏好簡潔的答案。

開放且可修改:MIT 許可證允許完全的部署控制和自定義,支持在受監(jiān)管或空氣隔離環(huán)境中進(jìn)行私有托管、模型對(duì)齊或進(jìn)一步訓(xùn)練。

新興的模塊化:AoE 方法預(yù)示著未來模型將以模塊化方式構(gòu)建,使企業(yè)能夠通過重組現(xiàn)有模型的優(yōu)勢(shì)來組裝專用變體,而無需從頭開始再訓(xùn)練。

注意事項(xiàng):依賴函數(shù)調(diào)用、工具使用或高級(jí)代理編排的企業(yè)應(yīng)注意當(dāng)前的局限性,盡管未來的 Chimera 更新可能會(huì)解決這些差距。

關(guān)于首席信息官

公眾號(hào)“首席信息官 ”由資深媒體人創(chuàng)辦,致力于用專業(yè)的文字,精準(zhǔn)的洞察,特色的服務(wù),深入的踐行服務(wù)企業(yè)數(shù)智化領(lǐng)域,為產(chǎn)業(yè)的發(fā)展點(diǎn)燃“微光”!

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
王偉中辭去廣東省省長職務(wù),孟凡利任廣東省代省長!

王偉中辭去廣東省省長職務(wù),孟凡利任廣東省代省長!

每日經(jīng)濟(jì)新聞
2025-10-11 17:14:04
菲律賓發(fā)現(xiàn),中國還沒重啟黃巖島填海,有人在3個(gè)島礁先下手造島

菲律賓發(fā)現(xiàn),中國還沒重啟黃巖島填海,有人在3個(gè)島礁先下手造島

芭比衣櫥
2025-10-12 04:56:59
重慶商報(bào)原總編輯陶衛(wèi)紅案一審宣判,辯護(hù)針鋒相對(duì)擲地有聲

重慶商報(bào)原總編輯陶衛(wèi)紅案一審宣判,辯護(hù)針鋒相對(duì)擲地有聲

非醫(yī)不可
2025-10-08 19:57:53
每一口外賣、瓶裝水或都與癌癥相關(guān)!首個(gè)人體樣本研究,微塑料會(huì)改變腸道菌群,與癌癥模式相似

每一口外賣、瓶裝水或都與癌癥相關(guān)!首個(gè)人體樣本研究,微塑料會(huì)改變腸道菌群,與癌癥模式相似

醫(yī)諾維
2025-10-10 17:12:29
巴鐵倒戈?赴美稀土貨輪已啟程,中方出手,直接祭出一張“王牌”

巴鐵倒戈?赴美稀土貨輪已啟程,中方出手,直接祭出一張“王牌”

環(huán)球情報(bào)員
2025-10-11 15:29:22
停工450天、訂單驟減40%,外資集體“大撤退”,世界工廠被取代?

停工450天、訂單驟減40%,外資集體“大撤退”,世界工廠被取代?

瘋狂小菠蘿
2025-10-11 15:14:09
孫穎莎老鄉(xiāng)曝放棄中國籍歸化韓國的內(nèi)幕,苦熬13年才上位奧運(yùn)奪牌

孫穎莎老鄉(xiāng)曝放棄中國籍歸化韓國的內(nèi)幕,苦熬13年才上位奧運(yùn)奪牌

體壇小二哥
2025-10-11 22:41:37
炸了!深夜大消息!算力利好來了!

炸了!深夜大消息!算力利好來了!

龍行天下虎
2025-10-12 01:42:30
62歲退休大爺:人老了出軌雖然很有激情,但最終下場(chǎng)很慘

62歲退休大爺:人老了出軌雖然很有激情,但最終下場(chǎng)很慘

熱心柚子姐姐
2025-10-10 14:59:19
果然不出所料,幾小時(shí)后特朗普改口:還想見面,沒必要打貿(mào)易戰(zhàn)

果然不出所料,幾小時(shí)后特朗普改口:還想見面,沒必要打貿(mào)易戰(zhàn)

影孖看世界
2025-10-11 16:57:48
我升任市長參加初戀婚禮,被新郎冷嘲熱諷,臨走時(shí)一句市長全場(chǎng)靜寂

我升任市長參加初戀婚禮,被新郎冷嘲熱諷,臨走時(shí)一句市長全場(chǎng)靜寂

蕭竹輕語
2025-10-10 18:08:18
國家出手擒下的4名華人首富,看看他們干的事,根本不值得饒??!

國家出手擒下的4名華人首富,看看他們干的事,根本不值得饒??!

說歷史的老牢
2025-10-06 11:58:48
玩不起就別玩!《向往的生活8》官網(wǎng)評(píng)論區(qū)被罵翻了

玩不起就別玩!《向往的生活8》官網(wǎng)評(píng)論區(qū)被罵翻了

星宿影視鴨
2025-10-07 17:39:45
走了20年彎路,C羅生涯前19年掙了4億英鎊,去沙特4年掙了6億!

走了20年彎路,C羅生涯前19年掙了4億英鎊,去沙特4年掙了6億!

田先生籃球
2025-10-10 21:24:32
5種茶葉已被列入“傷肝名單”,喝多了或傷肝?再愛喝也要管住嘴

5種茶葉已被列入“傷肝名單”,喝多了或傷肝?再愛喝也要管住嘴

平祥生活日志
2025-10-08 05:40:21
特朗普恐嚇中國,華爾街果然慌了:晴天霹靂!

特朗普恐嚇中國,華爾街果然慌了:晴天霹靂!

觀察者網(wǎng)
2025-10-11 22:42:03
大跌五成!上海樓市,最新數(shù)據(jù)曝光…

大跌五成!上海樓市,最新數(shù)據(jù)曝光…

新浪財(cái)經(jīng)
2025-10-11 19:06:54
如何應(yīng)對(duì):下周一的大跌:危與機(jī)!3500字報(bào)告,值得收藏!

如何應(yīng)對(duì):下周一的大跌:危與機(jī)!3500字報(bào)告,值得收藏!

牛鍋巴小釩
2025-10-12 04:38:03
網(wǎng)友自曝丈夫出軌,帶多位女性去廁所錄視頻,連老板娘都不放過

網(wǎng)友自曝丈夫出軌,帶多位女性去廁所錄視頻,連老板娘都不放過

社會(huì)醬
2025-10-11 17:02:47
救援隊(duì)沿暗河搜尋在下游找到溺水男子遺體,父親跪地致謝,搜救人員:他去世前還用手機(jī)轉(zhuǎn)錢給妹妹

救援隊(duì)沿暗河搜尋在下游找到溺水男子遺體,父親跪地致謝,搜救人員:他去世前還用手機(jī)轉(zhuǎn)錢給妹妹

極目新聞
2025-10-11 15:56:46
2025-10-12 06:48:49
首席信息官 incentive-icons
首席信息官
以數(shù)字化和商業(yè)創(chuàng)新為視角
463文章數(shù) 128關(guān)注度
往期回顧 全部

科技要聞

在中國打不贏,還想在全球贏?

頭條要聞

16歲少年在未管所被打死 家屬:打人的孩子也是受害者

頭條要聞

16歲少年在未管所被打死 家屬:打人的孩子也是受害者

體育要聞

王牌對(duì)王牌,阿德巴約終究還是高攀了

娛樂要聞

《向往》收視創(chuàng)新低!節(jié)目氛圍遭吐槽

財(cái)經(jīng)要聞

從稀土到高通 中國72小時(shí)連出10記重拳

汽車要聞

純電續(xù)航215km 全新阿爾法T5增程版10月底將上市

態(tài)度原創(chuàng)

數(shù)碼
健康
親子
本地
教育

數(shù)碼要聞

蘋果官網(wǎng)出現(xiàn)“錯(cuò)別字”上熱搜,AirPods 拼成“ArPods”

內(nèi)分泌科專家破解身高八大謠言

親子要聞

帶姐姐第一次在美國打高爾夫,一趟下來可給打過癮了

本地新聞

“閩東利劍·惠民安商”首期緝車聯(lián)動(dòng)執(zhí)行

教育要聞

18個(gè)棱長為2的小正方體堆成如圖所示的形狀,求它的表面積

無障礙瀏覽 進(jìn)入關(guān)懷版 巴西富婆性猛交| 亚洲丰满人妻无码| 久久久国产精品美女久久久久| 自慰网站免费观看| 人妻精油按摩bd高清中文字幕| 东北妇女精品bbwbbw| 国产无套粉嫩白浆内精高潮| 国产一国产二国产三国产四国产五| 日本中文字幕有码在线视频| 精品毛片免费看| 免费大片黄国产在线观看| 日本精品天干天干综合网| 2021年免费全黄一级裸片视频老熟女 | 极品粉嫩嫩模大尺度无码| 美国vps毛片| 国产片av国语在线观麻豆| 97久久国产精品成人观看| 欧美超级乱婬视频播放| 蜜臀一区二区三区精品免费视频| 久久国产精品波多野结衣AV接吻| 国产精品一区二区无码免费看片| 天天av天天干| 久久精品亚洲AV无码四区| 玩弄Chinese人妻videos| 50岁熟妇的呻吟声对白| 日本久久精品三级片| 色悠久久久久综合网伊| 无码国产精品一区二区| 人妻中文字幕不卡精品| 黑人Vs日本女优98AV| 国产精品人人做人人爽| 在线亚洲人成电影网站色www| 99re热精品视频| 特级欧美AAAAAAA免费观看| 免费看片av| 96国产xxxx免费视频| 亚洲AV美国AV| 国产精品h片在线播放| 欧洲美女性爱网| 人人疌人人爽| 性一交一乱一伦一|