夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Transformer作者:DeepSeek才有搞頭,OpenAI指望不上了

0
分享至

Jay 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

“閉源人工智能在阻礙我們探索真正的科學(xué)?!?/strong>

說這句話的不是別人,是大名鼎鼎的Transformer發(fā)明者——Ashish Vaswani



大佬之所以這么說,是因?yàn)樗X得OpenAI等閉源廠商被商業(yè)化沖昏了頭腦,沒心思做基礎(chǔ)研究。

在Scaling Law碰壁后,獨(dú)角獸們越來越搞不清技術(shù)方向。

迫于投資者壓力,不得不親自下場探索落地場景,更沒精力去搞科研了。

為了填補(bǔ)這塊空白,一路從Google到Adept再到Essential AI三次搬家的Vaswani,今年再度迎來巨大轉(zhuǎn)折點(diǎn)——

All in基礎(chǔ)研究,并且堅(jiān)持要走開源路線。



萬萬沒想到,大佬三遷,只為打造西方世界的DeepSeek

“我們很樂意成為西方世界的DeepSeek”

2017年,還在Google Brain工作的Vaswani與團(tuán)隊(duì)共同寫出了《Attention Is All You Need》,這篇論文在5年后開啟了如今的GenAI大航海時(shí)代。



可惜的是,老東家不太給力,各種條條框框把人束縛得動(dòng)彈不得,這讓Vaswani心灰意冷。

2022年,他離家出走,與Niki Parmar(Transformer八子之一)和David Luan(當(dāng)時(shí)的Adept CEO)創(chuàng)辦了Adept AI

可惜好景不長,據(jù)BloomBerg報(bào)道,Vaswani在Adept與某位聯(lián)合創(chuàng)始人爆發(fā)了一次嚴(yán)重沖突。

這次爭執(zhí)讓他意識(shí)到:

  • 只有創(chuàng)立一個(gè)完全屬于自己的公司,才能有絕對(duì)的自由。

于是2022年底,他再次揮手告別,拉起新團(tuán)隊(duì)創(chuàng)立了Essential AI



最開始,Essential AI還走的是務(wù)實(shí)派路線——主要業(yè)務(wù)就是幫企業(yè)做財(cái)務(wù)分析自動(dòng)化。

結(jié)果,就在今年年初,Vaswani突然對(duì)董事會(huì)宣布:

放棄公司現(xiàn)有業(yè)務(wù),并將精力全部投入基礎(chǔ)研究。

What!?

這不是把商業(yè)模式直接推翻重來嗎?



要知道,對(duì)于一家原本服務(wù)于企業(yè)客戶的初創(chuàng)公司來說,這可是一個(gè)風(fēng)險(xiǎn)性極高的Bet。

出乎意料的是,董事會(huì)和資方居然都在一定程度上對(duì)Vaswani表示了支持。

參與Essential AI上一輪融資的AMD在采訪中表示:

這個(gè)路線確實(shí)有點(diǎn)不太尋常,但人工智能領(lǐng)域需要更開放的替代方案。

看來,三次遷居的努力沒有白費(fèi),Vaswani終于如愿以償,集結(jié)了一幫理念同頻的大佬。



為商業(yè)化四處奔波的這么多年,與資本和客戶打了無數(shù)次交道,Vaswani真的累了。

驀然回首,在他的精神世界中,其實(shí)一直有一塊能承載他一切美好期許的土地,這片伊甸園的名字叫做——開源。

他在Essential官網(wǎng)上寫道:

在教育和醫(yī)療等領(lǐng)域,有真正的科學(xué)需要追求,我們不能讓封閉的人工智能阻礙人類探索這些新方向。

是不是聽著很耳熟,沒錯(cuò),Vaswani在與Economics Time的采訪中直接承認(rèn)了:

“短期內(nèi),我們想要成為西方世界的DeepSeek?!?/strong>



Vaswani認(rèn)為,要想推動(dòng)AI的邊界絕不能靠OpenAI、Anthropic等依靠閉源模式盈利的獨(dú)角獸。

在他的設(shè)想里,AI不該只服務(wù)于商業(yè),而是要真正進(jìn)入教育、醫(yī)療等關(guān)乎大眾的場景,讓普通人也能享受到技術(shù)紅利。

比如,一個(gè)偏遠(yuǎn)地區(qū)的孩子也能用開源AI上到最好的課;一個(gè)小診所也能借助開源工具做出最準(zhǔn)確的診斷。

更重要的是,Vaswani可不光是喊口號(hào),Essential在轉(zhuǎn)型后的確下了不少真功夫。

提出轉(zhuǎn)型后的不久,2025年4月,Essential AI團(tuán)隊(duì)發(fā)表了一篇題為《Rethinking Reflection in Pre-Training》的論文。

這篇論文提出了一個(gè)顛覆性觀點(diǎn):

大型語言模型的反思能力其實(shí)在預(yù)訓(xùn)練階段就開始萌芽。

簡單來說,相較于用RL在后訓(xùn)練打補(bǔ)丁,他們在預(yù)訓(xùn)練中取得了突破,并且這個(gè)技術(shù)可能大幅降低訓(xùn)練成本。

要真能成,那對(duì)整個(gè)開源社區(qū)絕對(duì)是大利好。

Vaswani看到了什么?

為什么Vaswani說不能把希望寄托在獨(dú)角獸公司身上?

Vaswani擔(dān)心,這些模型性能最優(yōu)異的獨(dú)角獸正在阻礙人工智能進(jìn)步。



有幾家公司關(guān)閉了長期的研發(fā)工作,以便將所有資源用于商業(yè)化,這種現(xiàn)象在市場環(huán)境惡化時(shí)更加明顯。

自Scaling Law迎來邊際收益遞減的拐點(diǎn)后,AI獨(dú)角獸的產(chǎn)品化傾向已是眾人皆知。

Anthropic做瀏覽器,OpenAI派出著名產(chǎn)品經(jīng)理Kevin Weil…….各大模型廠商紛紛下場,親自探索商業(yè)模式。

這折射出來的一個(gè)問題是創(chuàng)新者窘境。

Scaling Law興起后,暴力美學(xué)的砝碼使得AI研究的天平從學(xué)術(shù)機(jī)構(gòu)幾乎完全向企業(yè)實(shí)驗(yàn)室傾斜。

不過,產(chǎn)業(yè)界雖壟斷了最稀缺的生產(chǎn)要素,他們真的可以All in創(chuàng)新嗎?

絕大多數(shù)時(shí)候不能。因?yàn)槟强赡軣魩讉€(gè)億,而且不一定能看到回報(bào)。

關(guān)鍵在于,無論公司成立的初衷是什么,創(chuàng)始人最終都得優(yōu)先對(duì)投資人負(fù)責(zé)。

因此,探索商業(yè)模式和利益最大化是閉源模型的最終歸宿,這從一開始就注定了。

如今,這把熱烈的商業(yè)化之火同樣燒到了硅谷這批天之驕子身上。

今天等著小扎買買買,明天聽說OpenAI搞收購,下個(gè)月又去創(chuàng)業(yè)。



△由AI生成

這種節(jié)奏很適合追熱點(diǎn),但科研不一樣——要搞出突破性的成果,你得花幾年甚至十幾年死磕一個(gè)方向。

而頻繁的流動(dòng),讓團(tuán)隊(duì)很難靜下心來。

Vaswani嘆息道,這不是科學(xué)應(yīng)有的進(jìn)步方式。

那Vaswani想要怎么做?開源陣營能夠拯救AI嗎?

老生常談的話題——人多力量大,知識(shí)共享才是推動(dòng)AI技術(shù)發(fā)展的關(guān)鍵動(dòng)力。

閉源公司雖手握頂級(jí)資源和技術(shù)成果,但為了維護(hù)投資人的利益,不得不把這些秘密藏起來,以阻礙競爭對(duì)手。

但如果有成千上萬的研究者和開發(fā)者一起貢獻(xiàn)代碼,整個(gè)生態(tài)齊心協(xié)力,并行推進(jìn),也許能克服開源陣營資源匱乏的問題。

當(dāng)然,開源最重要的問題在于資金來源,畢竟咱不能總靠“用愛發(fā)電”。

對(duì)此,Vaswani參考了互聯(lián)網(wǎng)產(chǎn)品的解法

交叉補(bǔ)貼大法好

什么是交叉補(bǔ)貼呢?

這是互聯(lián)網(wǎng)時(shí)代很常見的一種商業(yè)模式,典型案例就是瀏覽器:Google搜索對(duì)用戶完全免費(fèi),取得市場份額后依靠廣告回血。

簡單來說,就是一部分業(yè)務(wù)賺錢,用來補(bǔ)貼另一部分業(yè)務(wù)



Vaswani對(duì)于Essential AI的計(jì)劃是這樣的:

先構(gòu)建一個(gè)開源的垂直領(lǐng)域模型,這個(gè)基座本身不收錢。

但如果有客戶想用這個(gè)基座搭建自己的AI,可以向Essential AI購買訓(xùn)練數(shù)據(jù)和相關(guān)產(chǎn)品。

通過這個(gè)途徑賺來的錢,正好能用來反哺開源社區(qū)。

這樣,既能保證技術(shù)開放,又能讓公司活下去。



此外,Vaswani還指出閉源不一定代表更高的投資回報(bào)率。

雖然閉源模型看起來更容易變現(xiàn),但實(shí)際上也面臨巨大的成本壓力。

實(shí)際上,如果按照之前科技互聯(lián)網(wǎng)的發(fā)展來看,開源通常是更賺錢的一方,畢竟構(gòu)建起了一整個(gè)生態(tài)。

One More Thing

最后,關(guān)于Ashish Vaswani,或許還有一點(diǎn)點(diǎn)可以多說的。



作為《Attention Is All You Need》論文的“一作”,他博士師承的兩位導(dǎo)師,都是華人。

在2011年的南加州大學(xué),有兩名活躍在自然語言處理(NLP)前沿的教授——蔣偉(David Chiang)與黃亮(Liang Huang)。

他倆都是Ashish Vaswani的導(dǎo)師。



△圖左為蔣偉教授,圖右為黃亮教授

蔣偉教授的學(xué)士和碩士均就讀于哈佛大學(xué),后到賓夕法尼亞大學(xué)攻讀博士,他提出的分層短語翻譯模型曾被Google Translate采用。

黃亮教授本科畢業(yè)于上海交通大學(xué)計(jì)算機(jī)系,同樣是在賓夕法尼亞大學(xué)進(jìn)修的PhD,主要研究方向是開發(fā)高效算法來加速NLP任務(wù),Vaswani是他指導(dǎo)的第一名博士生。

怎么說呢,雖然Transformer八子里沒有華人作者,但“功勞簿”里,也并非全然沒有華人貢獻(xiàn)。

這實(shí)際也是另一個(gè)維度的開源之力。AI也好、深度學(xué)習(xí)也好,之所以可以站上浪潮之巔,根本上就在于始終有一個(gè)持續(xù)交流、開放互助的生態(tài)環(huán)境。

開源是一種選擇,更是一種精神和信仰。

參考鏈接
[1]https://www.bloomberg.com/news/features/2025-09-03/the-ai-pioneer-trying-to-save-artificial-intelligence-from-big-tech
[2]https://www.communicationstoday.co.in/ashish-vaswani-the-mind-behind-the-transformer-that-powers-genai
[3]https://economictimes.indiatimes.com/tech/artificial-intelligence/we-would-like-to-be-deepseek-in-the-west-says-essential-ai-cofounder/articleshow/121891250.cms
[4]https://www.forbesindia.com/article/ai-special-2025/ashish-vaswanis-essential-ai-wants-to-use-powerful-ai-to-solve-humanitys-biggest-challenges/96148/1
[5]https://www.wired.com/story/eight-google-employees-invented-modern-ai-transformers-paper/
[6]https://www.essential.ai/
[7]https://viterbischool.usc.edu/news/2023/03/attention-is-all-you-need-usc-alumni-paved-path-for-chatgpt/

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
游資章建平(章盟主):從5萬到百億,冷門賽道的突擊高手

游資章建平(章盟主):從5萬到百億,冷門賽道的突擊高手

復(fù)利種韭菜
2025-11-01 19:04:09
荷蘭最終改口,稱可以不再接管安世半導(dǎo)體,只要中方滿足一個(gè)條件

荷蘭最終改口,稱可以不再接管安世半導(dǎo)體,只要中方滿足一個(gè)條件

小影的娛樂
2025-11-09 00:08:25
湖南一老人摔倒,33分鐘內(nèi)49人路過無一人攙扶!老人去世后,家屬調(diào)監(jiān)控起訴路人每人索賠14萬,法院判了!

湖南一老人摔倒,33分鐘內(nèi)49人路過無一人攙扶!老人去世后,家屬調(diào)監(jiān)控起訴路人每人索賠14萬,法院判了!

二胡的歲月如歌
2025-11-08 18:01:58
林志玲老太多了,看著比張鈞甯大20歲!臉部浮腫,簡直慘不忍睹!

林志玲老太多了,看著比張鈞甯大20歲!臉部浮腫,簡直慘不忍睹!

樂悠悠娛樂
2025-11-08 09:38:15
陪玩陪睡根本不夠!集體開嫖、目無王法、舔手指,陰暗面藏不住了

陪玩陪睡根本不夠!集體開嫖、目無王法、舔手指,陰暗面藏不住了

叨嘮
2025-11-09 05:07:59
竟然不是爭冠?孫銘徽談四川男籃全運(yùn)會(huì)目標(biāo):定了前三

竟然不是爭冠?孫銘徽談四川男籃全運(yùn)會(huì)目標(biāo):定了前三

狼叔評(píng)論
2025-11-09 09:14:08
火箭出最大短板,杜蘭特把話挑明!申京沒借口,烏度卡該重用一人

火箭出最大短板,杜蘭特把話挑明!申京沒借口,烏度卡該重用一人

魚崖大話籃球
2025-11-08 15:48:46
街頭無規(guī)則限制,散打高手打得過身經(jīng)百戰(zhàn)的地痞流氓嗎?網(wǎng)友解密

街頭無規(guī)則限制,散打高手打得過身經(jīng)百戰(zhàn)的地痞流氓嗎?網(wǎng)友解密

帶你感受人間冷暖
2025-08-30 00:20:05
河南28歲離異女看上寧波35歲拆遷大哥主動(dòng)要留宿 更多細(xì)節(jié)曝光

河南28歲離異女看上寧波35歲拆遷大哥主動(dòng)要留宿 更多細(xì)節(jié)曝光

阿SIR觀察
2025-11-08 11:03:09
朱俊龍被交易?廣廈官宣,名單公布,已無頂薪名額,朱俊龍發(fā)聲

朱俊龍被交易?廣廈官宣,名單公布,已無頂薪名額,朱俊龍發(fā)聲

樂聊球
2025-11-08 09:40:04
出場時(shí)間少得可憐!火箭用一份不低的簽下他是一個(gè)巨大的錯(cuò)誤?

出場時(shí)間少得可憐!火箭用一份不低的簽下他是一個(gè)巨大的錯(cuò)誤?

稻谷與小麥
2025-11-09 00:54:35
形勢逆轉(zhuǎn)!3名大法官倒戈,貝森特向美高院攤牌:整個(gè)國家將陪葬

形勢逆轉(zhuǎn)!3名大法官倒戈,貝森特向美高院攤牌:整個(gè)國家將陪葬

原來仙女不講理
2025-11-09 09:45:32
中國籃協(xié)終于開竅了!女籃3大賽事公開選帥:宮魯鳴這下壓力大了

中國籃協(xié)終于開竅了!女籃3大賽事公開選帥:宮魯鳴這下壓力大了

籃球快餐車
2025-11-08 05:54:52
霸氣,威斯布魯克在連續(xù)造成雷霆隊(duì)亞歷山大犯規(guī)后說:他不會(huì)防守

霸氣,威斯布魯克在連續(xù)造成雷霆隊(duì)亞歷山大犯規(guī)后說:他不會(huì)防守

好火子
2025-11-09 04:42:22
擁有最強(qiáng)話語權(quán)的三個(gè)星座女

擁有最強(qiáng)話語權(quán)的三個(gè)星座女

星座葉大仙
2025-11-09 10:26:08
老師發(fā)的三年級(jí)數(shù)學(xué)期中復(fù)習(xí)試卷,很多我也不會(huì),難怪孩子不愿學(xué)

老師發(fā)的三年級(jí)數(shù)學(xué)期中復(fù)習(xí)試卷,很多我也不會(huì),難怪孩子不愿學(xué)

特特農(nóng)村生活
2025-11-09 00:00:24
廣州地鐵這回捅大簍子了!人民網(wǎng)痛批:要認(rèn)清自己的身份!

廣州地鐵這回捅大簍子了!人民網(wǎng)痛批:要認(rèn)清自己的身份!

王二哥老搞笑
2025-11-08 10:38:52
浙江28分完敗廣東!丁偉無奈苦笑:他們是拿前兩場比賽來熱身了

浙江28分完敗廣東!丁偉無奈苦笑:他們是拿前兩場比賽來熱身了

狼叔評(píng)論
2025-11-08 22:18:04
為何說兩岸統(tǒng)一迫在眉睫?再晚了臺(tái)灣就“新加坡化”,等不及了!

為何說兩岸統(tǒng)一迫在眉睫?再晚了臺(tái)灣就“新加坡化”,等不及了!

顧史
2025-11-06 21:21:48
突發(fā)!終止重大資產(chǎn)重組,山東這家上市公司“蛇吞象”并購告吹

突發(fā)!終止重大資產(chǎn)重組,山東這家上市公司“蛇吞象”并購告吹

山東財(cái)經(jīng)報(bào)道
2025-11-09 08:55:01
2025-11-09 11:16:49
量子位 incentive-icons
量子位
追蹤人工智能動(dòng)態(tài)
11646文章數(shù) 176329關(guān)注度
往期回顧 全部

科技要聞

黃仁勛親赴臺(tái)積電“討要更多芯片”

頭條要聞

"賞金獵人"用無人機(jī)獵殺200頭野豬:一次只能帶一支箭

頭條要聞

"賞金獵人"用無人機(jī)獵殺200頭野豬:一次只能帶一支箭

體育要聞

馬刺絞贏火箭,不靠文班亞馬?

娛樂要聞

《繁花》劇組又回應(yīng)了?

財(cái)經(jīng)要聞

10月CPI同比上漲0.2% CPI同比下降2.1%

汽車要聞

鈦7月銷破2萬 霜霧灰與青巒翠配色正式開啟交付

態(tài)度原創(chuàng)

旅游
教育
藝術(shù)
家居
數(shù)碼

旅游要聞

北京彩葉樹迎來最佳觀賞期!有南方游客專程“飛”來北京趕秋

教育要聞

校長培養(yǎng)中層干部的六個(gè)核心維度

藝術(shù)要聞

毛主席幾封感人書信,真情流露引熱議!

家居要聞

現(xiàn)代自由 功能美學(xué)居所

數(shù)碼要聞

Q3移動(dòng)智慧屏全渠道銷量漲29% 線下市場高速增長

無障礙瀏覽 進(jìn)入關(guān)懷版 爱性久久久久久久久| 漂亮人妻被强中文字幕久久| 爆乳美女午夜福利视频| 亚洲免费精品| 国产精品禁18久久久夂久| 欧美性爱大片免费看| 台湾无码一区二区| 亚洲 成人 小说 校园 激情| 4388亚洲三区四区| 五十六十日本老熟妇乱| 日韩AV专区| 不卡人妻少妇精品特级毛片一区二三区| 日本A级视频| 色XAV无码’| 九九热99精品视频在线| 人禽交 欧美 网站| 国产99视频精品免费视看6| 日韩亚洲国产中文字幕欧美| 国产精品久久久久久久久久红粉| 免费avtt| 欧美xxxx18性欧美| 欧美性猛交xxxx乱大交极品 | 欧美午夜不卡影院| www.熟女.com| 成人免费视频2018| 欧美熟妇丰满乱XXZZXXZZ| 免费观看AV在线网站网址| 欧美老少配另类| 青草91视频免费观看| 中国老太婆野外xxxx| 国产成人桃色AV免费| 蜜臀久久99精品久久久久久免费| av熟女资源| 国产成人欧美一区二区三区| 特级做a爰片毛片免费69| 一区二区中文字幕久久| 99RE8这里有精品热视频| www.69AV在线观看| 亚洲AV无码寂寞少妇久| 秋霞在线观看片无码免费不卡| 豪妇荡乳1一5白玉兰在线看|