夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Transformer作者:DeepSeek才有搞頭,OpenAI指望不上了

0
分享至

Jay 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

“閉源人工智能在阻礙我們探索真正的科學(xué)。”

說這句話的不是別人,是大名鼎鼎的Transformer發(fā)明者——Ashish Vaswani



大佬之所以這么說,是因?yàn)樗X得OpenAI等閉源廠商被商業(yè)化沖昏了頭腦,沒心思做基礎(chǔ)研究。

在Scaling Law碰壁后,獨(dú)角獸們越來越搞不清技術(shù)方向。

迫于投資者壓力,不得不親自下場探索落地場景,更沒精力去搞科研了。

為了填補(bǔ)這塊空白,一路從Google到Adept再到Essential AI三次搬家的Vaswani,今年再度迎來巨大轉(zhuǎn)折點(diǎn)——

All in基礎(chǔ)研究,并且堅(jiān)持要走開源路線。



萬萬沒想到,大佬三遷,只為打造西方世界的DeepSeek。

“我們很樂意成為西方世界的DeepSeek”

2017年,還在Google Brain工作的Vaswani與團(tuán)隊(duì)共同寫出了《Attention Is All You Need》,這篇論文在5年后開啟了如今的GenAI大航海時代。



可惜的是,老東家不太給力,各種條條框框把人束縛得動彈不得,這讓Vaswani心灰意冷。

2022年,他離家出走,與Niki Parmar(Transformer八子之一)和David Luan(當(dāng)時的Adept CEO)創(chuàng)辦了Adept AI。

可惜好景不長,據(jù)BloomBerg報(bào)道,Vaswani在Adept與某位聯(lián)合創(chuàng)始人爆發(fā)了一次嚴(yán)重沖突。

這次爭執(zhí)讓他意識到:

  • 只有創(chuàng)立一個完全屬于自己的公司,才能有絕對的自由。

于是2022年底,他再次揮手告別,拉起新團(tuán)隊(duì)創(chuàng)立了Essential AI。



最開始,Essential AI還走的是務(wù)實(shí)派路線——主要業(yè)務(wù)就是幫企業(yè)做財(cái)務(wù)分析自動化。

結(jié)果,就在今年年初,Vaswani突然對董事會宣布:

放棄公司現(xiàn)有業(yè)務(wù),并將精力全部投入基礎(chǔ)研究。

What?。?/p>

這不是把商業(yè)模式直接推翻重來嗎?



要知道,對于一家原本服務(wù)于企業(yè)客戶的初創(chuàng)公司來說,這可是一個風(fēng)險(xiǎn)性極高的Bet。

出乎意料的是,董事會和資方居然都在一定程度上對Vaswani表示了支持。

參與Essential AI上一輪融資的AMD在采訪中表示:

這個路線確實(shí)有點(diǎn)不太尋常,但人工智能領(lǐng)域需要更開放的替代方案。

看來,三次遷居的努力沒有白費(fèi),Vaswani終于如愿以償,集結(jié)了一幫理念同頻的大佬。



為商業(yè)化四處奔波的這么多年,與資本和客戶打了無數(shù)次交道,Vaswani真的累了。

驀然回首,在他的精神世界中,其實(shí)一直有一塊能承載他一切美好期許的土地,這片伊甸園的名字叫做——開源。

他在Essential官網(wǎng)上寫道:

在教育和醫(yī)療等領(lǐng)域,有真正的科學(xué)需要追求,我們不能讓封閉的人工智能阻礙人類探索這些新方向。

是不是聽著很耳熟,沒錯,Vaswani在與Economics Time的采訪中直接承認(rèn)了:

“短期內(nèi),我們想要成為西方世界的DeepSeek?!?/strong>



Vaswani認(rèn)為,要想推動AI的邊界絕不能靠OpenAI、Anthropic等依靠閉源模式盈利的獨(dú)角獸。

在他的設(shè)想里,AI不該只服務(wù)于商業(yè),而是要真正進(jìn)入教育、醫(yī)療等關(guān)乎大眾的場景,讓普通人也能享受到技術(shù)紅利。

比如,一個偏遠(yuǎn)地區(qū)的孩子也能用開源AI上到最好的課;一個小診所也能借助開源工具做出最準(zhǔn)確的診斷。

更重要的是,Vaswani可不光是喊口號,Essential在轉(zhuǎn)型后的確下了不少真功夫。

提出轉(zhuǎn)型后的不久,2025年4月,Essential AI團(tuán)隊(duì)發(fā)表了一篇題為《Rethinking Reflection in Pre-Training》的論文。

這篇論文提出了一個顛覆性觀點(diǎn):

大型語言模型的反思能力其實(shí)在預(yù)訓(xùn)練階段就開始萌芽。

簡單來說,相較于用RL在后訓(xùn)練打補(bǔ)丁,他們在預(yù)訓(xùn)練中取得了突破,并且這個技術(shù)可能大幅降低訓(xùn)練成本。

要真能成,那對整個開源社區(qū)絕對是大利好。

Vaswani看到了什么?

為什么Vaswani說不能把希望寄托在獨(dú)角獸公司身上?

Vaswani擔(dān)心,這些模型性能最優(yōu)異的獨(dú)角獸正在阻礙人工智能進(jìn)步。



有幾家公司關(guān)閉了長期的研發(fā)工作,以便將所有資源用于商業(yè)化,這種現(xiàn)象在市場環(huán)境惡化時更加明顯。

自Scaling Law迎來邊際收益遞減的拐點(diǎn)后,AI獨(dú)角獸的產(chǎn)品化傾向已是眾人皆知。

Anthropic做瀏覽器,OpenAI派出著名產(chǎn)品經(jīng)理Kevin Weil…….各大模型廠商紛紛下場,親自探索商業(yè)模式。

這折射出來的一個問題是創(chuàng)新者窘境。

Scaling Law興起后,暴力美學(xué)的砝碼使得AI研究的天平從學(xué)術(shù)機(jī)構(gòu)幾乎完全向企業(yè)實(shí)驗(yàn)室傾斜。

不過,產(chǎn)業(yè)界雖壟斷了最稀缺的生產(chǎn)要素,他們真的可以All in創(chuàng)新嗎?

絕大多數(shù)時候不能。因?yàn)槟强赡軣魩讉€億,而且不一定能看到回報(bào)。

關(guān)鍵在于,無論公司成立的初衷是什么,創(chuàng)始人最終都得優(yōu)先對投資人負(fù)責(zé)。

因此,探索商業(yè)模式和利益最大化是閉源模型的最終歸宿,這從一開始就注定了。

如今,這把熱烈的商業(yè)化之火同樣燒到了硅谷這批天之驕子身上。

今天等著小扎買買買,明天聽說OpenAI搞收購,下個月又去創(chuàng)業(yè)。



△由AI生成

這種節(jié)奏很適合追熱點(diǎn),但科研不一樣——要搞出突破性的成果,你得花幾年甚至十幾年死磕一個方向。

而頻繁的流動,讓團(tuán)隊(duì)很難靜下心來。

Vaswani嘆息道,這不是科學(xué)應(yīng)有的進(jìn)步方式。

那Vaswani想要怎么做?開源陣營能夠拯救AI嗎?

老生常談的話題——人多力量大,知識共享才是推動AI技術(shù)發(fā)展的關(guān)鍵動力。

閉源公司雖手握頂級資源和技術(shù)成果,但為了維護(hù)投資人的利益,不得不把這些秘密藏起來,以阻礙競爭對手。

但如果有成千上萬的研究者和開發(fā)者一起貢獻(xiàn)代碼,整個生態(tài)齊心協(xié)力,并行推進(jìn),也許能克服開源陣營資源匱乏的問題。

當(dāng)然,開源最重要的問題在于資金來源,畢竟咱不能總靠“用愛發(fā)電”。

對此,Vaswani參考了互聯(lián)網(wǎng)產(chǎn)品的解法

交叉補(bǔ)貼大法好

什么是交叉補(bǔ)貼呢?

這是互聯(lián)網(wǎng)時代很常見的一種商業(yè)模式,典型案例就是瀏覽器:Google搜索對用戶完全免費(fèi),取得市場份額后依靠廣告回血。

簡單來說,就是一部分業(yè)務(wù)賺錢,用來補(bǔ)貼另一部分業(yè)務(wù)。



Vaswani對于Essential AI的計(jì)劃是這樣的:

先構(gòu)建一個開源的垂直領(lǐng)域模型,這個基座本身不收錢。

但如果有客戶想用這個基座搭建自己的AI,可以向Essential AI購買訓(xùn)練數(shù)據(jù)和相關(guān)產(chǎn)品。

通過這個途徑賺來的錢,正好能用來反哺開源社區(qū)。

這樣,既能保證技術(shù)開放,又能讓公司活下去。



此外,Vaswani還指出閉源不一定代表更高的投資回報(bào)率。

雖然閉源模型看起來更容易變現(xiàn),但實(shí)際上也面臨巨大的成本壓力。

實(shí)際上,如果按照之前科技互聯(lián)網(wǎng)的發(fā)展來看,開源通常是更賺錢的一方,畢竟構(gòu)建起了一整個生態(tài)。

One More Thing

最后,關(guān)于Ashish Vaswani,或許還有一點(diǎn)點(diǎn)可以多說的。



作為《Attention Is All You Need》論文的“一作”,他博士師承的兩位導(dǎo)師,都是華人。

在2011年的南加州大學(xué),有兩名活躍在自然語言處理(NLP)前沿的教授——蔣偉(David Chiang)與黃亮(Liang Huang)。

他倆都是Ashish Vaswani的導(dǎo)師。



△圖左為蔣偉教授,圖右為黃亮教授

蔣偉教授的學(xué)士和碩士均就讀于哈佛大學(xué),后到賓夕法尼亞大學(xué)攻讀博士,他提出的分層短語翻譯模型曾被Google Translate采用。

黃亮教授本科畢業(yè)于上海交通大學(xué)計(jì)算機(jī)系,同樣是在賓夕法尼亞大學(xué)進(jìn)修的PhD,主要研究方向是開發(fā)高效算法來加速NLP任務(wù),Vaswani是他指導(dǎo)的第一名博士生。

怎么說呢,雖然Transformer八子里沒有華人作者,但“功勞簿”里,也并非全然沒有華人貢獻(xiàn)。

這實(shí)際也是另一個維度的開源之力。AI也好、深度學(xué)習(xí)也好,之所以可以站上浪潮之巔,根本上就在于始終有一個持續(xù)交流、開放互助的生態(tài)環(huán)境。

開源是一種選擇,更是一種精神和信仰。

參考鏈接
[1]https://www.bloomberg.com/news/features/2025-09-03/the-ai-pioneer-trying-to-save-artificial-intelligence-from-big-tech
[2]https://www.communicationstoday.co.in/ashish-vaswani-the-mind-behind-the-transformer-that-powers-genai
[3]https://economictimes.indiatimes.com/tech/artificial-intelligence/we-would-like-to-be-deepseek-in-the-west-says-essential-ai-cofounder/articleshow/121891250.cms
[4]https://www.forbesindia.com/article/ai-special-2025/ashish-vaswanis-essential-ai-wants-to-use-powerful-ai-to-solve-humanitys-biggest-challenges/96148/1
[5]https://www.wired.com/story/eight-google-employees-invented-modern-ai-transformers-paper/
[6]https://www.essential.ai/
[7]https://viterbischool.usc.edu/news/2023/03/attention-is-all-you-need-usc-alumni-paved-path-for-chatgpt/

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
白鹿這個v好深好養(yǎng)眼

白鹿這個v好深好養(yǎng)眼

情感大頭說說
2025-09-16 13:05:02
陋居法國農(nóng)村的張曼玉,給不婚不育的人提了個醒,蔡瀾的話應(yīng)驗(yàn)了

陋居法國農(nóng)村的張曼玉,給不婚不育的人提了個醒,蔡瀾的話應(yīng)驗(yàn)了

史行途
2025-09-16 07:53:34
看完魅族今天的發(fā)布會,魅友們不知該高興還是難過。。。

看完魅族今天的發(fā)布會,魅友們不知該高興還是難過。。。

差評XPIN
2025-09-16 00:10:31
農(nóng)業(yè)農(nóng)村部部長韓?。簢?yán)禁退休干部到農(nóng)村占地建房

農(nóng)業(yè)農(nóng)村部部長韓?。簢?yán)禁退休干部到農(nóng)村占地建房

政知新媒體
2025-09-16 12:18:51
比恒大更慘?王健林3年還債6000億,如今再賣48座萬達(dá)廣場

比恒大更慘?王健林3年還債6000億,如今再賣48座萬達(dá)廣場

文史旺旺旺
2025-09-15 23:01:30
屁股大腿粗的梨形身材怎么穿?美女一身白色吊帶短裙,遮肉顯瘦

屁股大腿粗的梨形身材怎么穿?美女一身白色吊帶短裙,遮肉顯瘦

小喬古裝漢服
2025-09-11 09:26:03
國足主帥又一候選!前國腳推薦,歸化球員認(rèn)可,足協(xié)會考慮他嗎?

國足主帥又一候選!前國腳推薦,歸化球員認(rèn)可,足協(xié)會考慮他嗎?

國足風(fēng)云
2025-09-16 10:43:52
女優(yōu)天使萌隱退前拼了!拍攝職業(yè)生涯首支VR片

女優(yōu)天使萌隱退前拼了!拍攝職業(yè)生涯首支VR片

葫蘆哥愛吐槽
2025-09-16 16:27:53
不顧大陸反對, 林佳龍公然竄歐, 美10億美元援臺, 中方發(fā)7字警告

不顧大陸反對, 林佳龍公然竄歐, 美10億美元援臺, 中方發(fā)7字警告

軍器戰(zhàn)位
2025-09-16 21:48:52
哈馬斯禁止加沙城平民南撤,以將其作為阻擋以軍進(jìn)攻的肉盾

哈馬斯禁止加沙城平民南撤,以將其作為阻擋以軍進(jìn)攻的肉盾

近距離
2025-09-15 18:53:09
6億打水漂?投資人揭《美人魚2》不上映原因,劣跡藝人害慘周星馳

6億打水漂?投資人揭《美人魚2》不上映原因,劣跡藝人害慘周星馳

查爾菲的筆記
2025-09-02 00:48:54
77歲何慶魁自爆已再婚:去年領(lǐng)證妻子比他年輕,直言需要被照顧

77歲何慶魁自爆已再婚:去年領(lǐng)證妻子比他年輕,直言需要被照顧

查爾菲的筆記
2025-09-16 12:06:18
世體:亞馬爾已驅(qū)車離開基地,他沒有參加今日訓(xùn)練

世體:亞馬爾已驅(qū)車離開基地,他沒有參加今日訓(xùn)練

懂球帝
2025-09-16 20:58:04
于朦朧事件第4天,好消息來了!愿意“兜底”的人發(fā)聲,讓人意外

于朦朧事件第4天,好消息來了!愿意“兜底”的人發(fā)聲,讓人意外

小丸子的娛樂圈
2025-09-15 21:54:50
四川成都2名干部被通報(bào)

四川成都2名干部被通報(bào)

金臺資訊
2025-09-16 11:15:22
恭喜,等到了,王曼昱官宣喜訊,父母擔(dān)心難題解決,馬琳送祝福

恭喜,等到了,王曼昱官宣喜訊,父母擔(dān)心難題解決,馬琳送祝福

東球弟
2025-09-16 13:27:33
震三觀:吃麥當(dāng)勞居然能治偏頭痛?數(shù)百網(wǎng)友親測有效,連歐美神經(jīng)科醫(yī)生都不敢否認(rèn)!

震三觀:吃麥當(dāng)勞居然能治偏頭痛?數(shù)百網(wǎng)友親測有效,連歐美神經(jīng)科醫(yī)生都不敢否認(rèn)!

最英國
2025-09-12 15:07:41
中國最有錢的5位運(yùn)動員排行榜,姚明勉強(qiáng)排第3,第1名非他莫屬

中國最有錢的5位運(yùn)動員排行榜,姚明勉強(qiáng)排第3,第1名非他莫屬

妙知
2025-09-15 10:51:49
同樣是“預(yù)制菜”風(fēng)波,對比汪小菲和賈國龍的做法,差別就出來了

同樣是“預(yù)制菜”風(fēng)波,對比汪小菲和賈國龍的做法,差別就出來了

科學(xué)發(fā)掘
2025-09-16 15:34:41
“治港敗類”曾蔭權(quán):治理香港7年,為何卻在卸任后,獲刑20個月

“治港敗類”曾蔭權(quán):治理香港7年,為何卻在卸任后,獲刑20個月

梁訊
2025-09-14 19:15:18
2025-09-16 23:04:49
量子位 incentive-icons
量子位
追蹤人工智能動態(tài)
11329文章數(shù) 176274關(guān)注度
往期回顧 全部

科技要聞

2025款A(yù)pple Watch全系怎么選?

頭條要聞

網(wǎng)紅面包店被指閉店后大量丟棄面包 市監(jiān)局突擊檢查

頭條要聞

網(wǎng)紅面包店被指閉店后大量丟棄面包 市監(jiān)局突擊檢查

體育要聞

2022:勇士歸來,庫里的第四個冠軍

娛樂要聞

李小璐母親:女兒嫁給賈乃亮我好后悔

財(cái)經(jīng)要聞

擴(kuò)大服務(wù)消費(fèi) 9部門提出5方面19條舉措

汽車要聞

智能體豪華旅行車 享界S9T30.98萬元起售

態(tài)度原創(chuàng)

手機(jī)
游戲
數(shù)碼
旅游
時尚

手機(jī)要聞

vivo X300系列首發(fā)天璣9500,追焦能力再升級

《戰(zhàn)地6》開發(fā)者承認(rèn):永遠(yuǎn)打不贏外掛

數(shù)碼要聞

AMD 推出銳龍 7 9700F 處理器,9700X 無核顯版

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

當(dāng)女將軍成為內(nèi)娛偶像劇時尚單品,我們更懷念穆桂英

無障礙瀏覽 進(jìn)入關(guān)懷版 www.youjizz.喷水| 精品久久久久久国产潘金莲| 日本少妇人妻xxxxx18| 人妻中文字幕无码专区| 国产午夜精品久久一二区| 人伦片无码中文字| 激情夜夜狠狠干| 无码国模国产在线观看免费| 人人色人人做人人爱| 国产亚洲国产精品二区| 少妇人妻偷人精品系列| 欧美性爱地址| 爽到高潮无码视频在线观看| 天天狠天天操| 国产无码精品视频| av一区二区三区人妻少妇| 四虎影视库国产精品一区| H无码里番肉片在线观看的| 黑人巨大精品欧美在线观看| 成人国产精品一区二区免费| 肉大捧进出全过程免费视频| 亚洲中文久久久久久精品| A级国产乱理伦片在线播放| 香蕉一本在线| 亚洲色图另类小说| 亚洲精品欧美日韩在线| 国产极品美女到高潮| 小泽玛利亚波多野结衣在线| 天堂网在线最新版www| 久久高清无码视频| 国产人妻久久精品二区三区| 亚洲v日韩v欧美在线观看| 手机免费Av| 黑人大粗又爽又黄大片视频| 国产精品一线二线三线区| 淫乱视频免费观看| 黄频视频大全免费的国产| 国产大屁股视频免费区| 九色PORNY自拍视频在线播放| 亚洲精品国产VA在线观看| 三级国产三级在线|