夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Transformer作者:DeepSeek才有搞頭,OpenAI指望不上了

0
分享至

Jay 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

“閉源人工智能在阻礙我們探索真正的科學(xué)。”

說這句話的不是別人,是大名鼎鼎的Transformer發(fā)明者——Ashish Vaswani。



大佬之所以這么說,是因?yàn)樗X得OpenAI等閉源廠商被商業(yè)化沖昏了頭腦,沒心思做基礎(chǔ)研究。

在Scaling Law碰壁后,獨(dú)角獸們越來越搞不清技術(shù)方向。

迫于投資者壓力,不得不親自下場探索落地場景,更沒精力去搞科研了。

為了填補(bǔ)這塊空白,一路從Google到Adept再到Essential AI三次搬家的Vaswani,今年再度迎來巨大轉(zhuǎn)折點(diǎn)——

All in基礎(chǔ)研究,并且堅(jiān)持要走開源路線。



萬萬沒想到,大佬三遷,只為打造西方世界的DeepSeek。

“我們很樂意成為西方世界的DeepSeek”

2017年,還在Google Brain工作的Vaswani與團(tuán)隊(duì)共同寫出了《Attention Is All You Need》,這篇論文在5年后開啟了如今的GenAI大航海時代。



可惜的是,老東家不太給力,各種條條框框把人束縛得動彈不得,這讓Vaswani心灰意冷。

2022年,他離家出走,與Niki Parmar(Transformer八子之一)和David Luan(當(dāng)時的Adept CEO)創(chuàng)辦了Adept AI。

可惜好景不長,據(jù)BloomBerg報(bào)道,Vaswani在Adept與某位聯(lián)合創(chuàng)始人爆發(fā)了一次嚴(yán)重沖突。

這次爭執(zhí)讓他意識到:

  • 只有創(chuàng)立一個完全屬于自己的公司,才能有絕對的自由。

于是2022年底,他再次揮手告別,拉起新團(tuán)隊(duì)創(chuàng)立了Essential AI。



最開始,Essential AI還走的是務(wù)實(shí)派路線——主要業(yè)務(wù)就是幫企業(yè)做財(cái)務(wù)分析自動化。

結(jié)果,就在今年年初,Vaswani突然對董事會宣布:

放棄公司現(xiàn)有業(yè)務(wù),并將精力全部投入基礎(chǔ)研究。

What???

這不是把商業(yè)模式直接推翻重來嗎?



要知道,對于一家原本服務(wù)于企業(yè)客戶的初創(chuàng)公司來說,這可是一個風(fēng)險(xiǎn)性極高的Bet。

出乎意料的是,董事會和資方居然都在一定程度上對Vaswani表示了支持。

參與Essential AI上一輪融資的AMD在采訪中表示:

這個路線確實(shí)有點(diǎn)不太尋常,但人工智能領(lǐng)域需要更開放的替代方案。

看來,三次遷居的努力沒有白費(fèi),Vaswani終于如愿以償,集結(jié)了一幫理念同頻的大佬。



為商業(yè)化四處奔波的這么多年,與資本和客戶打了無數(shù)次交道,Vaswani真的累了。

驀然回首,在他的精神世界中,其實(shí)一直有一塊能承載他一切美好期許的土地,這片伊甸園的名字叫做——開源

他在Essential官網(wǎng)上寫道:

在教育和醫(yī)療等領(lǐng)域,有真正的科學(xué)需要追求,我們不能讓封閉的人工智能阻礙人類探索這些新方向。

是不是聽著很耳熟,沒錯,Vaswani在與Economics Time的采訪中直接承認(rèn)了:

“短期內(nèi),我們想要成為西方世界的DeepSeek?!?/strong>



Vaswani認(rèn)為,要想推動AI的邊界絕不能靠OpenAI、Anthropic等依靠閉源模式盈利的獨(dú)角獸。

在他的設(shè)想里,AI不該只服務(wù)于商業(yè),而是要真正進(jìn)入教育、醫(yī)療等關(guān)乎大眾的場景,讓普通人也能享受到技術(shù)紅利。

比如,一個偏遠(yuǎn)地區(qū)的孩子也能用開源AI上到最好的課;一個小診所也能借助開源工具做出最準(zhǔn)確的診斷。

更重要的是,Vaswani可不光是喊口號,Essential在轉(zhuǎn)型后的確下了不少真功夫。

提出轉(zhuǎn)型后的不久,2025年4月,Essential AI團(tuán)隊(duì)發(fā)表了一篇題為《Rethinking Reflection in Pre-Training》的論文。

這篇論文提出了一個顛覆性觀點(diǎn):

大型語言模型的反思能力其實(shí)在預(yù)訓(xùn)練階段就開始萌芽。

簡單來說,相較于用RL在后訓(xùn)練打補(bǔ)丁,他們在預(yù)訓(xùn)練中取得了突破,并且這個技術(shù)可能大幅降低訓(xùn)練成本。

要真能成,那對整個開源社區(qū)絕對是大利好。

Vaswani看到了什么?

為什么Vaswani說不能把希望寄托在獨(dú)角獸公司身上?

Vaswani擔(dān)心,這些模型性能最優(yōu)異的獨(dú)角獸正在阻礙人工智能進(jìn)步。



有幾家公司關(guān)閉了長期的研發(fā)工作,以便將所有資源用于商業(yè)化,這種現(xiàn)象在市場環(huán)境惡化時更加明顯。

自Scaling Law迎來邊際收益遞減的拐點(diǎn)后,AI獨(dú)角獸的產(chǎn)品化傾向已是眾人皆知。

Anthropic做瀏覽器,OpenAI派出著名產(chǎn)品經(jīng)理Kevin Weil…….各大模型廠商紛紛下場,親自探索商業(yè)模式。

這折射出來的一個問題是創(chuàng)新者窘境。

Scaling Law興起后,暴力美學(xué)的砝碼使得AI研究的天平從學(xué)術(shù)機(jī)構(gòu)幾乎完全向企業(yè)實(shí)驗(yàn)室傾斜。

不過,產(chǎn)業(yè)界雖壟斷了最稀缺的生產(chǎn)要素,他們真的可以All in創(chuàng)新嗎?

絕大多數(shù)時候不能。因?yàn)槟强赡軣魩讉€億,而且不一定能看到回報(bào)。

關(guān)鍵在于,無論公司成立的初衷是什么,創(chuàng)始人最終都得優(yōu)先對投資人負(fù)責(zé)。

因此,探索商業(yè)模式和利益最大化是閉源模型的最終歸宿,這從一開始就注定了。

如今,這把熱烈的商業(yè)化之火同樣燒到了硅谷這批天之驕子身上

今天等著小扎買買買,明天聽說OpenAI搞收購,下個月又去創(chuàng)業(yè)。



△由AI生成

這種節(jié)奏很適合追熱點(diǎn),但科研不一樣——要搞出突破性的成果,你得花幾年甚至十幾年死磕一個方向。

而頻繁的流動,讓團(tuán)隊(duì)很難靜下心來。

Vaswani嘆息道,這不是科學(xué)應(yīng)有的進(jìn)步方式。

那Vaswani想要怎么做?開源陣營能夠拯救AI嗎?

老生常談的話題——人多力量大,知識共享才是推動AI技術(shù)發(fā)展的關(guān)鍵動力。

閉源公司雖手握頂級資源和技術(shù)成果,但為了維護(hù)投資人的利益,不得不把這些秘密藏起來,以阻礙競爭對手。

但如果有成千上萬的研究者和開發(fā)者一起貢獻(xiàn)代碼,整個生態(tài)齊心協(xié)力,并行推進(jìn),也許能克服開源陣營資源匱乏的問題。

當(dāng)然,開源最重要的問題在于資金來源,畢竟咱不能總靠“用愛發(fā)電”。

對此,Vaswani參考了互聯(lián)網(wǎng)產(chǎn)品的解法

交叉補(bǔ)貼大法好

什么是交叉補(bǔ)貼呢?

這是互聯(lián)網(wǎng)時代很常見的一種商業(yè)模式,典型案例就是瀏覽器:Google搜索對用戶完全免費(fèi),取得市場份額后依靠廣告回血。

簡單來說,就是一部分業(yè)務(wù)賺錢,用來補(bǔ)貼另一部分業(yè)務(wù)。



Vaswani對于Essential AI的計(jì)劃是這樣的:

先構(gòu)建一個開源的垂直領(lǐng)域模型,這個基座本身不收錢。

但如果有客戶想用這個基座搭建自己的AI,可以向Essential AI購買訓(xùn)練數(shù)據(jù)和相關(guān)產(chǎn)品。

通過這個途徑賺來的錢,正好能用來反哺開源社區(qū)。

這樣,既能保證技術(shù)開放,又能讓公司活下去。



此外,Vaswani還指出閉源不一定代表更高的投資回報(bào)率。

雖然閉源模型看起來更容易變現(xiàn),但實(shí)際上也面臨巨大的成本壓力。

實(shí)際上,如果按照之前科技互聯(lián)網(wǎng)的發(fā)展來看,開源通常是更賺錢的一方,畢竟構(gòu)建起了一整個生態(tài)。

One More Thing

最后,關(guān)于Ashish Vaswani,或許還有一點(diǎn)點(diǎn)可以多說的。



作為《Attention Is All You Need》論文的“一作”,他博士師承的兩位導(dǎo)師,都是華人。

在2011年的南加州大學(xué),有兩名活躍在自然語言處理(NLP)前沿的教授——蔣偉(David Chiang)與黃亮(Liang Huang)。

他倆都是Ashish Vaswani的導(dǎo)師。



△圖左為蔣偉教授,圖右為黃亮教授

蔣偉教授的學(xué)士和碩士均就讀于哈佛大學(xué),后到賓夕法尼亞大學(xué)攻讀博士,他提出的分層短語翻譯模型曾被Google Translate采用。

黃亮教授本科畢業(yè)于上海交通大學(xué)計(jì)算機(jī)系,同樣是在賓夕法尼亞大學(xué)進(jìn)修的PhD,主要研究方向是開發(fā)高效算法來加速NLP任務(wù),Vaswani是他指導(dǎo)的第一名博士生。

怎么說呢,雖然Transformer八子里沒有華人作者,但“功勞簿”里,也并非全然沒有華人貢獻(xiàn)。

這實(shí)際也是另一個維度的開源之力。AI也好、深度學(xué)習(xí)也好,之所以可以站上浪潮之巔,根本上就在于始終有一個持續(xù)交流、開放互助的生態(tài)環(huán)境。

開源是一種選擇,更是一種精神和信仰。

參考鏈接
[1]https://www.bloomberg.com/news/features/2025-09-03/the-ai-pioneer-trying-to-save-artificial-intelligence-from-big-tech
[2]https://www.communicationstoday.co.in/ashish-vaswani-the-mind-behind-the-transformer-that-powers-genai
[3]https://economictimes.indiatimes.com/tech/artificial-intelligence/we-would-like-to-be-deepseek-in-the-west-says-essential-ai-cofounder/articleshow/121891250.cms
[4]https://www.forbesindia.com/article/ai-special-2025/ashish-vaswanis-essential-ai-wants-to-use-powerful-ai-to-solve-humanitys-biggest-challenges/96148/1
[5]https://www.wired.com/story/eight-google-employees-invented-modern-ai-transformers-paper/
[6]https://www.essential.ai/
[7]https://viterbischool.usc.edu/news/2023/03/attention-is-all-you-need-usc-alumni-paved-path-for-chatgpt/

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
鞏立姣:肯定是最后一屆世錦賽;東京奧運(yùn)會運(yùn)氣都用完了

鞏立姣:肯定是最后一屆世錦賽;東京奧運(yùn)會運(yùn)氣都用完了

懂球帝
2025-09-22 23:48:21
你有過發(fā)橫財(cái)?shù)慕?jīng)歷嗎?網(wǎng)友:最后一個人值得佩服

你有過發(fā)橫財(cái)?shù)慕?jīng)歷嗎?網(wǎng)友:最后一個人值得佩服

解讀熱點(diǎn)事件
2025-09-11 00:05:09
36歲瞿秋白慷慨赴死,建國后毛主席卻說:以后少紀(jì)念他!有何隱情

36歲瞿秋白慷慨赴死,建國后毛主席卻說:以后少紀(jì)念他!有何隱情

浩舞默畫
2025-09-05 08:26:07
大學(xué)生捐精,女方要求私下見面,承諾給予費(fèi)用,內(nèi)幕如何?

大學(xué)生捐精,女方要求私下見面,承諾給予費(fèi)用,內(nèi)幕如何?

極品小牛肉
2024-03-22 10:46:53
江西48.8萬彩禮后續(xù):男子轉(zhuǎn)頭退婚提豪車,女子破防:要告你強(qiáng)奸

江西48.8萬彩禮后續(xù):男子轉(zhuǎn)頭退婚提豪車,女子破防:要告你強(qiáng)奸

鋭娛之樂
2025-09-09 22:24:54
深圳租客月虧16萬哭求退租!房東卻愁到失眠:這爛攤子誰來接?

深圳租客月虧16萬哭求退租!房東卻愁到失眠:這爛攤子誰來接?

娛樂看阿敞
2025-09-12 09:25:46
23歲法國新獸腰成香餑餑,3大英超豪強(qiáng)瘋搶,曼聯(lián)視為胖虎接班人

23歲法國新獸腰成香餑餑,3大英超豪強(qiáng)瘋搶,曼聯(lián)視為胖虎接班人

零度眼看球
2025-09-23 07:19:58
剛剛!深圳臺風(fēng)預(yù)警升級為紅色!多家外賣平臺停止派單

剛剛!深圳臺風(fēng)預(yù)警升級為紅色!多家外賣平臺停止派單

深圳晚報(bào)
2025-09-23 19:40:34
大洗盤結(jié)束!這些主線將領(lǐng)漲!

大洗盤結(jié)束!這些主線將領(lǐng)漲!

證券市場周刊市場號
2025-09-23 20:19:30
19歲男子KTV上班,三名女孩來喝酒,男子下體過度使用成永久創(chuàng)傷

19歲男子KTV上班,三名女孩來喝酒,男子下體過度使用成永久創(chuàng)傷

丫頭舫
2025-09-22 20:39:00
四人幫被粉碎后,孫玉國被降級轉(zhuǎn)業(yè),李德生:要做好他的思想工作

四人幫被粉碎后,孫玉國被降級轉(zhuǎn)業(yè),李德生:要做好他的思想工作

帝哥說史
2025-09-16 06:30:02
女神塌了,金主慌了。

女神塌了,金主慌了。

會說話的舌
2025-09-23 04:54:19
大本:如果活塞當(dāng)年選安東尼,我們肯定拿不到總冠軍

大本:如果活塞當(dāng)年選安東尼,我們肯定拿不到總冠軍

雷速體育
2025-09-23 08:16:18
北大“韋神”換新發(fā)型。課堂照片曝光后,網(wǎng)友:誰會把女兒嫁給他

北大“韋神”換新發(fā)型。課堂照片曝光后,網(wǎng)友:誰會把女兒嫁給他

湘村大余
2025-09-20 10:24:57
風(fēng)王樺加沙 | 從太空直擊超巨大風(fēng)眼,超震撼!日籍航天員:擔(dān)心地面情況

風(fēng)王樺加沙 | 從太空直擊超巨大風(fēng)眼,超震撼!日籍航天員:擔(dān)心地面情況

星島記事
2025-09-23 10:13:53
川島芳子被軍統(tǒng)折磨了3年才槍斃,臨終前直言:想和猴子葬在一起

川島芳子被軍統(tǒng)折磨了3年才槍斃,臨終前直言:想和猴子葬在一起

老吳教育課堂
2025-09-23 05:14:49
日本女優(yōu)上海旅游穿漢服,沒認(rèn)出來?

日本女優(yōu)上海旅游穿漢服,沒認(rèn)出來?

貴圈真亂
2025-09-22 10:26:37
旅行社知情人士披露始祖鳥煙花燃放地處置后續(xù):村里開始清理

旅行社知情人士披露始祖鳥煙花燃放地處置后續(xù):村里開始清理

南方都市報(bào)
2025-09-22 22:11:22
頂級女神,也塌房了?

頂級女神,也塌房了?

尋藝
2025-09-22 18:29:55
清純魔女天花板,太吃她的顏了!

清純魔女天花板,太吃她的顏了!

貴圈真亂
2025-09-08 13:20:48
2025-09-23 23:48:49
量子位 incentive-icons
量子位
追蹤人工智能動態(tài)
11371文章數(shù) 176282關(guān)注度
往期回顧 全部

科技要聞

27.98萬起,全新問界M7正式上市

頭條要聞

美媒驚訝:電磁彈射給福建艦帶來的優(yōu)勢 原來這么多

頭條要聞

美媒驚訝:電磁彈射給福建艦帶來的優(yōu)勢 原來這么多

體育要聞

放下游戲機(jī),捧起金球獎

娛樂要聞

娛樂圈里最干凈的是王寶強(qiáng)和肖戰(zhàn)?

財(cái)經(jīng)要聞

“924行情”一周年,A股投資邏輯生變

汽車要聞

"聽勸"但"不從眾", iCAR將"特色車"進(jìn)行到底

態(tài)度原創(chuàng)

游戲
時尚
本地
數(shù)碼
軍事航空

《零紅蝶》三版本畫面對比 任天堂版畫面更性感

今年秋天穿裙子,配靴子才好看呀!

本地新聞

云游中國|闖進(jìn)蘆芽山綠野仙蹤!我像演仙俠劇

數(shù)碼要聞

1998元起!DJI Osmo Nano深度評測:無感拍攝體驗(yàn)絕了

軍事要聞

專家:福建艦已基本就位 入列指日可待

無障礙瀏覽 進(jìn)入關(guān)懷版 久久亚洲国产精品成人av秋霞| 蜜桃av噜噜一区二区三区| 欧美亚洲色大成网站| www.少妇.ong| 无码一区二区三区久久精品| 久久婷婷一区二区三区| 超碰 大香蕉| 影音先锋人妻啪啪av资源网站| 国产成人高清精品亚洲| 狠狠噜天天噜日日噜| 麻豆国产精品va在线观看不卡| 国产成年无码久久久久下载| 欧美精品18videos性欧美| 亚洲国产在一区二区三区| 日本50人大乱加勒比| 五月天俺也去婷婷| 天天综合网永久在线| 国产精品96久久久久久又黄又硬| 精品九九人人做人人爱| 精品久久久bbbb人妻| 国产髙潮视频| 中文字幕一二三| 高潮内射双龙视频| a国产精品| 亚洲最大无码视频| 人人艹人人爽| 国产69精品久久久久按摩| 天天日夜夜爽| 亚洲国产天堂久久综合226114| 亚洲熟妇av一区二区三区漫画 | 人妻 校园 激情 另类| 永久AV在线| 久久精品这里热有精品| 青青青国产在线观看手机免费| 天堂AV在线免费看| 亚洲国产另类久久久精品| 尤物喷水秒播在线| 国内揄拍国内精品| 成人影院永久免费观看网址| 最新精品国偷自产在线美女足| 私人高清免费影院五月婷|