夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

楊立昆再出狂言:LLM和機(jī)器人正走向死胡同,世界模型才是正解

0
分享至

近日,在麻省理工學(xué)院生成式 AI 影響力聯(lián)盟(MIT Generative Al Impact Consortium)研討會的開幕演講中,Meta 首席 AI 科學(xué)家、紐約大學(xué)教授 Yann LeCun 再次展現(xiàn)了他一貫的“離經(jīng)叛道”。這位 2018 年圖靈獎得主又重申了他此前認(rèn)為大模型是“死胡同”的觀點(diǎn),堅(jiān)稱它們“永遠(yuǎn)無法達(dá)到人類水平的智能”,同時,他也毫不客氣地潑了一盆冷水給當(dāng)前的人形機(jī)器人熱潮:“這個行業(yè)的大秘密是,這些公司都不知道如何讓機(jī)器人足夠聰明以至于有用?!?/strong>


(來源:Youtube)



四十年前的“愚蠢”選擇

1987 年,當(dāng) AI 學(xué)界還在追逐專家系統(tǒng)的熱潮時,年輕的 LeCun 在巴黎完成了他關(guān)于“連接主義學(xué)習(xí)模型”的博士論文。那篇論文奠定了神經(jīng)網(wǎng)絡(luò)反向傳播算法的基礎(chǔ),卻在當(dāng)時顯得格格不入。


圖丨相關(guān)論文(來源:Research Gate)

“也許是出于天真或無知吧,”LeCun 回憶起那段經(jīng)歷時略帶自嘲,“我在本科時就偶然發(fā)現(xiàn),五六十年代包括 MIT 在內(nèi)的一些研究者,曾經(jīng)思考過自組織這個問題?!彼贿@個想法深深吸引——在自然界中,一切生命都具備適應(yīng)能力,一切擁有神經(jīng)系統(tǒng)的生物都能學(xué)習(xí)。“也許我不夠聰明,或者說人類整體還不夠聰明,無法直接設(shè)計(jì)出一個智能系統(tǒng)。智能系統(tǒng)必須自己建造自己。”

這個信念讓他在一個不受歡迎的領(lǐng)域堅(jiān)持了下來。當(dāng)時的 AI 主流方向是專家系統(tǒng)——將人類專家的知識轉(zhuǎn)錄成規(guī)則和事實(shí),希望機(jī)器能以此運(yùn)作。“我們今天在大語言模型上遇到的問題其實(shí)類似,”LeCun 指出,“只不過現(xiàn)在這種知識轉(zhuǎn)錄是通過學(xué)習(xí)完成的,但本質(zhì)上仍然是把人類知識搬到機(jī)器里,這依然是個瓶頸。”

找 PhD 導(dǎo)師成了一道難關(guān)。最終他遇到了一位“非常好心的紳士”(也就是 Maurice Milgram),對方說:“你看起來夠聰明,我?guī)筒涣四闶裁醇夹g(shù)上的忙,但我可以簽文件?!本瓦@樣,LeCun 開始了他的研究之路。



蛋糕理論:自監(jiān)督學(xué)習(xí)的預(yù)言

2016 年,在 NeurIPS 大會上,LeCun 提出了那個著名的“蛋糕理論”——如果把人工智能比作一個蛋糕,那么蛋糕的主體應(yīng)該是自監(jiān)督學(xué)習(xí)(Self-Supervised Learning),糖霜是監(jiān)督學(xué)習(xí)(Supervised Learning),而櫻桃則是強(qiáng)化學(xué)習(xí)(Reinforcement Learning)。

“當(dāng)時研究界很多人,特別是 DeepMind,完全投入到強(qiáng)化學(xué)習(xí)中,”LeCun 說,“他們相信通往更強(qiáng)大 AI 系統(tǒng)的路徑是通過強(qiáng)化學(xué)習(xí)。但我從來不相信這個,因?yàn)閺?qiáng)化學(xué)習(xí)在試錯次數(shù)上極其低效。”他主張應(yīng)該盡可能少地使用強(qiáng)化學(xué)習(xí),“你當(dāng)然別無選擇,最終需要某種自我糾正的方式,但這應(yīng)該是最后的手段?!?/p>

十年前,LeCun 就在鼓吹一個理念:讓機(jī)器學(xué)習(xí)捕捉數(shù)據(jù)的內(nèi)在依賴關(guān)系,而不用針對任何特定任務(wù)進(jìn)行訓(xùn)練,從而讓系統(tǒng)能夠表征世界。“然后在此基礎(chǔ)上,利用這些學(xué)到的表征來訓(xùn)練系統(tǒng)完成特定任務(wù)。整個過程只需要從未標(biāo)注的數(shù)據(jù)中觀察。”

這套想法在 2000 年代中期就開始低調(diào)研發(fā)。他們嘗試將其應(yīng)用于視頻預(yù)測——輸入一段視頻,訓(xùn)練系統(tǒng)預(yù)測接下來會發(fā)生什么。結(jié)果慘淡。但同樣的方法用在自然語言理解上,卻超出了所有人的預(yù)期?!澳靡淮栃蛄?,讓系統(tǒng)預(yù)測下一個符號,這個方法奇跡般地有效?!?/p>

為什么文本可以而視頻不行?答案在于:一個句子后面可能跟隨的詞是有限的,你可以預(yù)測一個覆蓋詞典中所有可能詞匯的分布?!暗?dāng)你要預(yù)測視頻的未來,可能的未來實(shí)在太多了,根本無法表征所有這些可能性?!?/p>

LeCun 舉了個例子:假設(shè)給這個會議室拍段視頻,然后平移鏡頭,在某處停下來讓系統(tǒng)補(bǔ)全剩余畫面?!跋到y(tǒng)不可能知道這里每個人長什么樣,也無法確定房間大小和座位數(shù)量,更別提預(yù)測地面的紋理細(xì)節(jié)。有些東西就是完全不可預(yù)測的。如果你強(qiáng)迫系統(tǒng)去預(yù)測所有這些細(xì)節(jié),基本上就是在扼殺它?!?/p>

五年前,他們意識到傳統(tǒng)方法永遠(yuǎn)不會奏效,必須發(fā)明新技術(shù)。



三千億美元的豪賭與一個四歲孩子

2022 年底 ChatGPT 的橫空出世改變了整個世界。2023 年初 Meta 推出 Llama,如今 Meta AI 基于 Llama 技術(shù)的月活用戶已超過 10 億,Llama 的下載量也突破 10 億次。


圖丨相關(guān)論文(來源:arXiv)

不過 LeCun 卻撇清了自己和 Llama 的關(guān)系,他聲稱自己在技術(shù)層面并未深度參與項(xiàng)目。“第一代 Llama 其實(shí)是 Meta 內(nèi)部一個有點(diǎn)‘海盜’(Pirate Project)性質(zhì)的項(xiàng)目,”他說,“2022 年中期,巴黎的一小群人,大約十來個,決定要做一個輕量高效的語言模型,就這么干起來了。”這個項(xiàng)目后來在 2023 年初成為 Meta 的工作主力,促使扎克伯格創(chuàng)建了 GenAI 組織(現(xiàn)在叫超級智能實(shí)驗(yàn)室)來將其產(chǎn)品化。

盡管今年行業(yè)巨頭在 AI 基礎(chǔ)設(shè)施上的資本支出將達(dá)到 3,230 億美元,Meta 也是其中之一,LeCun 依然認(rèn)為大語言模型是通往人類級別智能的“死胡同”。

他用一組數(shù)字進(jìn)行了說明。以 Llama 3 為例,訓(xùn)練使用了大約 30 萬億個 token(代表文本的基本單位),也就是 3×10^13。一個 token 通常是 3 個字節(jié),總共約 10^14 字節(jié)。“我們?nèi)魏我粋€人要讀完這些材料,大概需要 40 萬年或 50 萬年。這基本上是互聯(lián)網(wǎng)上所有公開可得的文本。”

現(xiàn)在對比一下,一個四歲孩子的視覺皮層在生命最初四年接收到多少信息?一個四歲孩子清醒的時間總共約 16,000 小時。通過視神經(jīng)每根纖維,每秒約有 1 字節(jié)的信息流向我們的視覺皮層,而我們有 200 萬根纖維?!耙簿褪敲棵爰s 2 兆字節(jié),乘以 16,000 小時,大約是 10^14 字節(jié)。一個四歲孩子通過視覺看到的數(shù)據(jù)量,相當(dāng)于最大的語言模型在全部公開文本上訓(xùn)練的數(shù)據(jù)量?!?/p>

這個對比揭示了什么?“首先,我們顯然漏掉了什么重要的東西。AI 系統(tǒng)需要從像視頻這樣的自然高帶寬感官數(shù)據(jù)中學(xué)習(xí)。僅僅在文本上訓(xùn)練,我們永遠(yuǎn)達(dá)不到人類級別的智能。”

LeCun 毫不客氣地說:“盡管硅谷某些加入了“邪教”的人會告訴你,明年我們就能在一個數(shù)據(jù)中心里擁有一個國家天才的智能水平。我很不客氣地說:這根本不會發(fā)生?!?/strong>

“你可能會得到一些有用的工具,能幫助人們的日常生活,甚至感覺像是擁有博士學(xué)位的智能,因?yàn)樗鼈儠雌c訓(xùn)練過的內(nèi)容。但這些系統(tǒng)不會擁有我們期待的真正智能——不僅是人類的智能,甚至連你家貓的智能都達(dá)不到。”

家貓只有 28 億個神經(jīng)元,并不算多。但它們對物理世界的理解令人驚嘆,能進(jìn)行復(fù)雜的動作規(guī)劃,而我們連這個都遠(yuǎn)未達(dá)到?!斑@就是我感興趣的方向:如何彌合這個鴻溝?如何讓系統(tǒng)學(xué)習(xí)物理世界的模型?這需要非生成式的新架構(gòu)。”



JEPA:不重建像素,只預(yù)測表征

當(dāng)業(yè)界都在生成式模型上狂飆突進(jìn)時,LeCun 和他的團(tuán)隊(duì)在過去五年一直在研究另一條路——JEPA(Joint Embedding Predictive Architecture,聯(lián)合嵌入預(yù)測架構(gòu))。


圖丨JEPA(來源:2024 年 Yann LeCun 在哈佛的演講)

2022 年,他在 OpenReview 上發(fā)表了一篇長文,題為《通向自主機(jī)器智能之路》,為未來十年的 AI 研究勾勒了藍(lán)圖。此后,他與 Meta 和紐約大學(xué)的同事們一直朝著這個方向推進(jìn)?!叭绻阍?Google Scholar 上搜索‘Joint Embedding Predictive Architectures’,加引號,會得到大約 750 條結(jié)果。所以有很多人在研究這個,主要在學(xué)術(shù)界?!?/p>

LeCun 不滿于業(yè)界對學(xué)術(shù)貢獻(xiàn)的輕視:“人們很快就說所有 AI 研究都在工業(yè)界手里了,這是錯的?!?/strong>他強(qiáng)調(diào),學(xué)術(shù)界往往在研究下一代技術(shù),而這些技術(shù)在五到十年后會對產(chǎn)業(yè)產(chǎn)生重大影響。

那么 JEPA 和生成式架構(gòu)有什么本質(zhì)區(qū)別?

在生成式架構(gòu)中,基本思路是這樣的:拿一段文本,用某種方式破壞它——比如隨機(jī)刪除一些詞,然后訓(xùn)練神經(jīng)網(wǎng)絡(luò)把缺失的詞補(bǔ)回來。這就是在教機(jī)器理解語言的結(jié)構(gòu)和含義。

GPT 架構(gòu)更巧妙——它不需要顯式地破壞文本,因?yàn)榧軜?gòu)本身是因果性的。在預(yù)測某個詞時,系統(tǒng)只能看到它左邊的詞,所以當(dāng)你訓(xùn)練系統(tǒng)在輸出端重建輸入序列時,隱式地就是在訓(xùn)練它預(yù)測下一個 token。“這很高效,可以并行化處理?!?/p>

這種方法之所以有效,是因?yàn)?token 是離散的,數(shù)量有限,你可以訓(xùn)練系統(tǒng)輸出一個覆蓋所有可能 token 的分布。然后就可以進(jìn)行自回歸預(yù)測——預(yù)測下一個 token,把它挪到輸入端,再預(yù)測第二個 token,如此循環(huán)。

“但我認(rèn)為這在視頻上行不通,”LeCun 說,“因?yàn)榧词鼓闩牧艘欢魏芎玫囊曨l,仍然有很多東西無法預(yù)測——各種細(xì)節(jié),比如這里每個人的長相,你就是預(yù)測不了?!?/p>

JEPA 的理念是:把視頻編碼到一個表征空間,在這個空間里很多細(xì)節(jié)被消除了。然后之前在輸入空間做的自回歸預(yù)測,現(xiàn)在在這個表征空間進(jìn)行。“訣竅在于,同時訓(xùn)練編碼器和預(yù)測器非常棘手?!痹蚴穷A(yù)測器很容易強(qiáng)迫編碼器什么都不做——忽略輸入,產(chǎn)生一個恒定的輸出表征,這樣預(yù)測問題就變得平凡了,但這不是好的解決方案。

“所以你必須想辦法誘導(dǎo)系統(tǒng)在表征中承載盡可能多的輸入信息,但同時消除那些無法預(yù)測的細(xì)節(jié)?!毕到y(tǒng)需要在這兩者之間找到平衡:既承載足夠的輸入信息,又只保留可預(yù)測的部分?!斑@就是 JEPA 的基本概念?!?/p>

在架構(gòu)層面,它有一個與語言模型不同的編碼器。真正的技巧在于找到好的訓(xùn)練算法或程序,讓系統(tǒng)學(xué)到有趣的表征。

直到最近,還不清楚這種聯(lián)合嵌入方法學(xué)習(xí)自然數(shù)據(jù)(如圖像和視頻)的表征,是否最終會優(yōu)于那些在像素級別進(jìn)行重建訓(xùn)練的技術(shù)。但在 Meta 的 FAIR 實(shí)驗(yàn)室,他們進(jìn)行了一次直接對比。一個大團(tuán)隊(duì)在做 MAE(Masked Auto-Encoder,掩碼自編碼器)項(xiàng)目和它的視頻版本——拿一張圖像或視頻,破壞它,然后訓(xùn)練一個巨大的神經(jīng)網(wǎng)絡(luò)重建完整的圖像或視頻?!敖Y(jié)果不太理想?!?/p>

MIT 的何愷明教授是這個項(xiàng)目的核心人物之一,對結(jié)果有些失望。他后來重新調(diào)整了研究方向,離開 FAIR 加入 MIT 擔(dān)任副教授。與此同時,另一些并行項(xiàng)目嘗試訓(xùn)練非重建的架構(gòu)——非生成式架構(gòu),結(jié)果表現(xiàn)好得多。“這是明確的實(shí)證證據(jù),表明對于自然感官數(shù)據(jù),你就是不該用生成式架構(gòu)。”現(xiàn)在他們還有數(shù)據(jù)顯示,這些系統(tǒng)在圖像任務(wù)上的性能甚至超過了監(jiān)督模型,而在一年前這還做不到。



Dino、V-JEPA 與機(jī)器人的世界模型

目前哪些應(yīng)用開始展現(xiàn)出早期的希望?

LeCun 提到了他巴黎同事們源的一個系統(tǒng) Dino。這是第三版,幾個月前剛發(fā)布?!斑@基本上是一個通用的自監(jiān)督視覺編碼器、圖像編碼器,可以用于各種下游應(yīng)用?!币呀?jīng)有數(shù)百篇論文使用 Dino 的歷代版本,應(yīng)用范圍涵蓋醫(yī)學(xué)圖像分析、生物圖像分析、天文學(xué),以及日常計(jì)算機(jī)視覺任務(wù)。“我認(rèn)為自監(jiān)督學(xué)習(xí)模型花了很長時間,但最終在圖像和視頻表征領(lǐng)域贏得了這場戰(zhàn)斗?!?/p>


圖丨Dino 架構(gòu)(來源:Meta)

另一個項(xiàng)目叫 V-JEPA(Video JEPA,視頻聯(lián)合嵌入預(yù)測架構(gòu)),由蒙特利爾、巴黎和紐約的研究者共同完成,LeCun 適度參與其中。這個系統(tǒng)從視頻中訓(xùn)練——拿一段視頻,通過掩碼遮擋一大塊,然后訓(xùn)練架構(gòu)。完整視頻和部分被掩蓋的視頻分別通過兩個基本相同的編碼器,同時訓(xùn)練一個預(yù)測器,從部分視頻的表征預(yù)測完整視頻的表征。

“我們用大約一個世紀(jì)的視頻量來訓(xùn)練這個系統(tǒng)。這是個瘋狂的數(shù)量?!彪m然效率不如四歲孩子,但這些系統(tǒng)基本上學(xué)到了一點(diǎn)常識?!叭绻憬o它看一段視頻,其中發(fā)生了一些不可能的事情——比如物體突然消失或改變形狀——預(yù)測誤差會飆升。系統(tǒng)會告訴你:發(fā)生了非常不尋常的事情,我理解不了?!边@是自監(jiān)督學(xué)習(xí)系統(tǒng)獲得一點(diǎn)常識的第一個跡象。

在機(jī)器人領(lǐng)域已經(jīng)看到一些早期成功。訓(xùn)練的第二階段可以微調(diào)一個條件于動作的預(yù)測器。這樣你就得到了一個世界模型(World Model)。

什么是世界模型?“給定 t 時刻世界狀態(tài)的表征,以及智能體想象要采取的一個動作,你能預(yù)測采取這個動作后的世界狀態(tài)嗎?”如果系統(tǒng)擁有這樣的世界模型,就可以用它來規(guī)劃。你可以想象一連串動作,用世界模型預(yù)測這串動作的結(jié)果,然后用一個代價函數(shù)衡量特定任務(wù)的完成程度——比如是否煮好了咖啡。接著用優(yōu)化方法,搜索一串能優(yōu)化、即最小化這個目標(biāo)函數(shù)的動作序列。

“這就是經(jīng)典的規(guī)劃和最優(yōu)控制。區(qū)別在于,我們使用的環(huán)境動力學(xué)模型是通過自監(jiān)督學(xué)習(xí)獲得的,而不是像傳統(tǒng)機(jī)器人學(xué)或最優(yōu)控制那樣,寫成一堆方程式。這就是我們真正追求的?!?/strong>

他們已經(jīng)證明,可以使用從 Dino 等系統(tǒng)派生出來的世界狀態(tài)表征,或者從頭學(xué)習(xí)或在其之上學(xué)習(xí)的表征,讓機(jī)器人零樣本完成任務(wù)——不需要任何針對特定任務(wù)的訓(xùn)練,沒有強(qiáng)化學(xué)習(xí)?!坝?xùn)練完全是自監(jiān)督的,”LeCun 強(qiáng)調(diào),“最終系統(tǒng)的世界模型足夠好,可以想象如何完成一個從未被訓(xùn)練過的任務(wù)?!?/p>

有個例子中,機(jī)器人在 62 小時內(nèi)自主訓(xùn)練某個任務(wù)——但這 62 小時的訓(xùn)練不是針對特定任務(wù)的,而是基礎(chǔ)的世界模型訓(xùn)練:這是 t 時刻的世界狀態(tài),這是一個動作,這是采取這個動作后世界的樣子?!澳憧梢杂媚M數(shù)據(jù),用機(jī)器人模擬器,或者用真實(shí)數(shù)據(jù),讓機(jī)器人手臂四處移動,記錄實(shí)際采取的動作。”

世界模型的概念,LeCun 早在 2016 年的主題演講中就提到過?!拔艺J(rèn)為它會成為未來 AI 系統(tǒng)的關(guān)鍵組件。我的預(yù)測是——這讓我在硅谷某些角落不太受歡迎,包括在 Meta 內(nèi)部——在三到五年內(nèi),這會成為 AI 架構(gòu)的主導(dǎo)模式。沒有人會再用我們今天這種類型的語言模型。”

“這會推動未來十年成為機(jī)器人的十年,”主持人說。

“對,但關(guān)于這一點(diǎn),”LeCun 話鋒一轉(zhuǎn),“過去幾年創(chuàng)立了大量機(jī)器人公司,你知道的,在造人形機(jī)器人。好吧,這個行業(yè)的大秘密是:沒有一家公司知道如何讓這些機(jī)器人足夠聰明以至于有用——或者我應(yīng)該說,足夠聰明以至于具有通用用途?!?/p>

我們可以訓(xùn)練這些機(jī)器人完成特定任務(wù),也許在制造業(yè)之類的場景?!暗愕募矣脵C(jī)器人?還需要一些 AI 領(lǐng)域的關(guān)鍵突破才能實(shí)現(xiàn)。所以很多這些公司的未來,本質(zhì)上取決于我們能否在世界模型、規(guī)劃這類架構(gòu)上取得重大進(jìn)展?!?/p>



目標(biāo)驅(qū)動的 AI 與護(hù)欄設(shè)計(jì)

與許多 AI 領(lǐng)域的悲觀論者不同,LeCun 對 AI 安全持相對樂觀的態(tài)度。他提倡的架構(gòu)是“目標(biāo)驅(qū)動的”:系統(tǒng)擁有世界的心智模型,規(guī)劃一系列動作來滿足目標(biāo)、完成任務(wù)?!皬臉?gòu)造上講,這樣的系統(tǒng)除了產(chǎn)生優(yōu)化該目標(biāo)的動作序列之外,什么都做不了,”他說。

關(guān)鍵在于,可以在目標(biāo)函數(shù)中硬編碼護(hù)欄。LeCun 用家用機(jī)器人舉例:"比如你有一個新的家用助手機(jī)器人,你說'給我拿咖啡'。它走到咖啡機(jī)前,有人站在前面。你不希望機(jī)器人為了拿咖啡就把那個人砍倒吧?"

這個例子曾被 AI 安全研究者 Stuart Russell 用來說明如何可能制造出危險的機(jī)器。“我一直駁斥這個論點(diǎn),Russell 總是認(rèn)為我很愚蠢,在一些采訪中公開叫我愚蠢,”LeCun 略帶自嘲地說,“很多人習(xí)慣于攻擊我,我已經(jīng)習(xí)慣了”。


圖丨 Stuart Russell(來源:Wikipedia)

但他的邏輯是:如果在目標(biāo)函數(shù)中硬編碼護(hù)欄,系統(tǒng)在構(gòu)造上就無法逃脫這些護(hù)欄。"這些護(hù)欄可以是非常底層的。比如你有一個會做飯的家用機(jī)器人,你可以有一個非常底層的護(hù)欄說:如果周圍有人且你手里拿著刀,不要揮動你的手臂,諸如此類的事情。"

LeCun 將這個問題類比于人類社會的法律系統(tǒng):“我們習(xí)慣于對人類這樣做。法律基本上是改變你可以采取的行動景觀的目標(biāo)函數(shù),每個行動的成本。我們制定法律來使人類行為與公共利益保持一致。我們甚至對叫做公司的超人實(shí)體這樣做,盡管成功有限?!彼麖?qiáng)調(diào),人類已經(jīng)處理這類問題數(shù)千年了。

“設(shè)計(jì)這些護(hù)欄不是一個簡單的任務(wù),但這不是一個比設(shè)計(jì)能安全地將你運(yùn)送到世界另一端的噴氣式飛機(jī)更復(fù)雜和更具挑戰(zhàn)性的問題?!?/p>



給年輕學(xué)生的建議:學(xué)量子力學(xué),別學(xué) App 編程

在訪談接近尾聲時,主持人問了一個經(jīng)典問題:如果 LeCun 現(xiàn)在是 MIT 的博士生,他會研究什么?

“這個問題我經(jīng)常被問到,”LeCun 說,“我認(rèn)為,在過去 40 到 50 年里,探索人類智能的奧秘一直是最吸引人的問題。MIT 非常注重工程,而我自己也是工程師,我認(rèn)為理解某個東西的最好方式就是建造它。”他引用了物理學(xué)家費(fèi)曼的話——雖然費(fèi)曼說的不是建造物理實(shí)物,而是指自己推導(dǎo)想法、理解概念。

在 LeCun 看來,對于有抱負(fù)的年輕科學(xué)家或工程師來說,有三個大問題值得研究:“宇宙是由什么構(gòu)成的?生命是怎么回事?大腦如何工作?”而第三個問題的工程方面就是:如何建造智能機(jī)器?智能的本質(zhì)組成部分是什么?

“如果你是本科生,人們會問這樣的問題:AI 將會出現(xiàn),會在底層做各種事情,我們可能不需要再學(xué)某些東西了?!盠eCun 認(rèn)為,有些東西的確不需要再學(xué)了,那些“保質(zhì)期很短”的技能。

“我開玩笑說,如果你在學(xué)計(jì)算機(jī)科學(xué)或某種工程,你可以選擇一門教授當(dāng)前流行技術(shù)的課程——比如移動應(yīng)用編程或 LLM 提示工程之類的——在移動編程和量子力學(xué)之間,選量子力學(xué),即使你是計(jì)算機(jī)科學(xué)家?!?/p>

他的理由是:量子力學(xué)會讓你學(xué)到路徑積分等通用方法和概念,這些抽象概念適用于各種各樣的情況。“比如,如何最好地解碼語音識別系統(tǒng)中最可能的詞序列?實(shí)際上就是路徑積分。它是離散的,但基本上是相同的概念。”

LeCun 鼓勵學(xué)生選擇那些具有挑戰(zhàn)性的課程,學(xué)習(xí)能將你置于正確道路上的理論概念,而讓未來的 AI 助手處理底層細(xì)節(jié)?!跋胂笠幌履闶且粋€博士導(dǎo)師,有一群博士生。大秘密是學(xué)生教導(dǎo)導(dǎo)師,而不是相反?!彼A(yù)言學(xué)生未來會有一支虛擬員工隊(duì)伍——AI 助手為你工作,你可以將自己的抽象層次提升幾個級別。

“過去你可以通過測序 DNA 獲得博士學(xué)位,現(xiàn)在不再需要了,我們有機(jī)器來做這個。曾經(jīng)你可以作為數(shù)學(xué)家計(jì)算對數(shù)表和三角函數(shù)表來謀生,不再需要了,我們有計(jì)算器和計(jì)算機(jī)。這只是技術(shù)進(jìn)步的自然延續(xù),人類在層級階梯上向上移動,把底層的東西留給機(jī)器。”

參考資料:

https://www.youtube.com/watch?v=kN38CNAQRuc

運(yùn)營/排版:何晨龍

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
170cmD杯女孩,撩走肌肉猛男,網(wǎng)友:沒X生活的我哭了…

170cmD杯女孩,撩走肌肉猛男,網(wǎng)友:沒X生活的我哭了…

健身迷
2025-09-20 09:22:20
iPhone 18 Pro概念設(shè)計(jì)圖曝光 后置鏡頭豎向雙排列

iPhone 18 Pro概念設(shè)計(jì)圖曝光 后置鏡頭豎向雙排列

手機(jī)中國
2025-10-27 15:02:21
大爆冷,陳幸同一輪游!比輸球遺憾的是,無孫穎莎國乒缺少主心骨

大爆冷,陳幸同一輪游!比輸球遺憾的是,無孫穎莎國乒缺少主心骨

大秦壁虎白話體育
2025-10-28 21:25:54
受權(quán)發(fā)布|全國人民代表大會常務(wù)委員會關(guān)于批準(zhǔn)《中華人民共和國和津巴布韋共和國關(guān)于刑事司法協(xié)助的條約》的決定

受權(quán)發(fā)布|全國人民代表大會常務(wù)委員會關(guān)于批準(zhǔn)《中華人民共和國和津巴布韋共和國關(guān)于刑事司法協(xié)助的條約》的決定

新華社
2025-10-29 00:15:11
突發(fā)特訊!魯比奧剛發(fā)表完涉臺言論,就接到王毅外長電話,罕見措辭引發(fā)全球高度關(guān)注

突發(fā)特訊!魯比奧剛發(fā)表完涉臺言論,就接到王毅外長電話,罕見措辭引發(fā)全球高度關(guān)注

愛看劇的阿峰
2025-10-29 00:53:06
任澤平:在A股4000點(diǎn),給股民們九條建議

任澤平:在A股4000點(diǎn),給股民們九條建議

澤平宏觀展望
2025-10-28 14:05:19
國家公務(wù)員局:46周歲以下可報考

國家公務(wù)員局:46周歲以下可報考

第一財經(jīng)資訊
2025-10-27 13:11:58
紅米誕生“新卷王”,7550mAh+90W+IP68防水,雙11加速沖銷量

紅米誕生“新卷王”,7550mAh+90W+IP68防水,雙11加速沖銷量

知心數(shù)碼
2025-10-27 23:02:52
紅軍城失守?歐洲集體倒戈,孤立無援的澤連斯基同意結(jié)束俄烏沖突

紅軍城失守?歐洲集體倒戈,孤立無援的澤連斯基同意結(jié)束俄烏沖突

科普100克克
2025-10-26 20:58:35
長得像180cm,實(shí)際身高168,54歲當(dāng)爺爺?shù)哪挲g當(dāng)?shù)?,像換了一個人

長得像180cm,實(shí)際身高168,54歲當(dāng)爺爺?shù)哪挲g當(dāng)?shù)?,像換了一個人

動物奇奇怪怪
2025-10-26 13:21:07
今日晚上澳門(新出內(nèi)慕)特馬開什么號?精準(zhǔn)一肖必中特馬

今日晚上澳門(新出內(nèi)慕)特馬開什么號?精準(zhǔn)一肖必中特馬

極智峰科技
2025-10-29 00:03:03
41歲白百何現(xiàn)身東京,她的下跨變得好大啊,臉也胖了,變化真大

41歲白百何現(xiàn)身東京,她的下跨變得好大啊,臉也胖了,變化真大

小椰的奶奶
2025-10-28 00:50:29
中央決定:陳忠岳、楊杰職務(wù)調(diào)整

中央決定:陳忠岳、楊杰職務(wù)調(diào)整

魯中晨報
2025-10-28 18:12:03
沒有這種食物,你的肌肉將消失!醫(yī)生:53歲后恢復(fù)肌力的7種食物

沒有這種食物,你的肌肉將消失!醫(yī)生:53歲后恢復(fù)肌力的7種食物

小舟談歷史
2025-10-09 11:28:59
山西一女子孕檢低風(fēng)險卻生下唐氏兒,保險公司拒賠付:唐氏兒分型不同,只賠“標(biāo)準(zhǔn)型”!

山西一女子孕檢低風(fēng)險卻生下唐氏兒,保險公司拒賠付:唐氏兒分型不同,只賠“標(biāo)準(zhǔn)型”!

魯中晨報
2025-10-27 11:52:04
又一暴力溝通致孩子自殺事件:攻擊性強(qiáng)的父母,是孩子一生的災(zāi)難

又一暴力溝通致孩子自殺事件:攻擊性強(qiáng)的父母,是孩子一生的災(zāi)難

洞見
2025-10-27 22:07:08
穆帥早知道情況不對!土耳其足協(xié)徹查裁判丑聞,超六成裁判涉事

穆帥早知道情況不對!土耳其足協(xié)徹查裁判丑聞,超六成裁判涉事

星耀國際足壇
2025-10-28 12:35:57
比亞迪變了,它要讓一家人滿意:29.98萬元大六座SUV騰勢N8L上市

比亞迪變了,它要讓一家人滿意:29.98萬元大六座SUV騰勢N8L上市

光電科技君
2025-10-28 22:57:32
劉湘作為前中國泳壇第一美女,身材顏值不進(jìn)內(nèi)娛可惜了

劉湘作為前中國泳壇第一美女,身材顏值不進(jìn)內(nèi)娛可惜了

喜歡歷史的阿繁
2025-10-27 15:06:21
利物浦連敗暴露3大缺點(diǎn)!32歲鐵腰可創(chuàng)造奇跡,他若首發(fā)有望連勝

利物浦連敗暴露3大缺點(diǎn)!32歲鐵腰可創(chuàng)造奇跡,他若首發(fā)有望連勝

銳評利物浦
2025-10-28 23:41:40
2025-10-29 02:40:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技評論獨(dú)家合作
15789文章數(shù) 514242關(guān)注度
往期回顧 全部

科技要聞

30000人,一夜失業(yè)!亞馬遜AI“砍刀”落下

頭條要聞

“這是日本的恥辱,高市早苗成了美國的奴仆”

頭條要聞

“這是日本的恥辱,高市早苗成了美國的奴仆”

體育要聞

半場:多特0-1法蘭克福,格策助攻克瑙夫破門

娛樂要聞

76歲歡喜哥去世!眾星悼念

財經(jīng)要聞

信息量巨大!“十五五”規(guī)劃建議發(fā)布

汽車要聞

煥新極氪7X 22.98萬起 全系升級900V

態(tài)度原創(chuàng)

數(shù)碼
游戲
親子
公開課
軍事航空

數(shù)碼要聞

XREAL啟用上海浦東全球總部,明年推出首款A(yù)ndroid XR系統(tǒng)AR眼鏡

為女孩子“造夢”,《王者榮耀》真的讓玩家“心動”了

親子要聞

共繪幼兒科學(xué)教育新圖景!2025年幼兒園STEM教育學(xué)術(shù)研討會舉行

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普:俄方知道美國在俄海岸附近部署核潛艇

無障礙瀏覽 進(jìn)入關(guān)懷版 成年人这里只有精品| 九七色色影院| 国产 高潮 抽搐 正在播放| 精品多人p群无码视频| 久久免费观看归女高潮特黄| 日韩精品一区二区三区色欲av在线播放| 免费99精品国产人妻自在现线| 久久久久久久久久久久久久久国产| 国内自拍五区| 另类 久久 人妻| 无码樱花成人影片在线观看 | 免费毛片a线观看| 性色AV无码免费一区二区三区| 日韩国产成人一区二区| 好男人社区www在线官网| 成在人线AV无码免费看网站直播| 亚洲成人av在线高清 | 色哟哟国产成人精品| 人人爽成人综合| 精品久久久无码中文字幕| 亚洲有码视频在线观看| 国产精华液1区2区区别| 亚洲sm另类一区二区三区| 91精品91久久久中77777老牛| 无码人妻在线一区二区三区免费| 五月丁香六月婷婷社区| 国产伦精品一区二区三区视频我| 欧美成人性蜜芽| 久久久久久亚洲综合影院| 国产精品天天看天天狠| 久久精品亚洲综合专区| 精品无码人妻1区 2区 3区| 熟女视频一区二区三区嫩草| 国产熟女一区二区三区五月婷| 国产精品永久免费视频| 久久久成人性爱| 最新亚洲av日韩av二区| 久久婷婷一区二区| 国产freexxxx性播放麻豆| 久久99亚洲国产无毛欧| 欧洲无码免费视频在线…|