新智元洞察

作者：張軍平

【新智元導(dǎo)讀】人類的學(xué)習(xí)是AI進(jìn)化的基礎(chǔ)，那人類真是硅基生命的過渡體嗎？人類的學(xué)習(xí)對AI來說最終會變成弱智嗎？AI能力的邊界在哪里？人工智能或許存在無法逾越的終極天花板。未來，人類或?qū)⑥D(zhuǎn)向「解讀AI」的角色，以重塑學(xué)習(xí)方式，實(shí)現(xiàn)人與硅基智能的共生。

前一陣子馬斯克說碳基生命是硅基生命的過渡體，到底是對是錯呢？

我想從人工智能近年來的進(jìn)化展開聊聊。

人工智能近兩年來，從大的框架角度來說，完成了大語言模型的設(shè)計(jì)、基于大語言模型的AIagent的構(gòu)造、多模態(tài)內(nèi)容生成的實(shí)現(xiàn)。

從學(xué)習(xí)策略來看，監(jiān)督微調(diào)正走向自監(jiān)督學(xué)習(xí)，以盡量減少人類標(biāo)注的需求，再通過強(qiáng)化學(xué)習(xí)來改進(jìn)其對未知問題的學(xué)習(xí)能力。

在此大方向指引下，我們看到了大量的人工智能應(yīng)用落地。

但從本質(zhì)上來看，都離不開學(xué)習(xí)二字。

只不過與人類的學(xué)習(xí)不同，人工智能目前的學(xué)習(xí)方式是極度耗能、需要巨量數(shù)據(jù)和依賴大量參數(shù)的學(xué)習(xí)模型。

由于模型過于龐大，其中充斥了大量的非線性函數(shù)變換，以至于想從中找到可解釋性變得異常困難。

也由于其強(qiáng)非線性的特點(diǎn)，以至于數(shù)學(xué)大牛陶哲軒都在吐槽，說目前的數(shù)學(xué)界沒有在此波人工智能熱潮上發(fā)力。

實(shí)際上也是如此，與人工智能最接近的數(shù)學(xué)，是經(jīng)常不被純數(shù)學(xué)認(rèn)可的統(tǒng)計(jì)學(xué)。

比如復(fù)旦，統(tǒng)計(jì)學(xué)都沒放在數(shù)學(xué)學(xué)院，而歸屬于管理學(xué)院。

但統(tǒng)計(jì)學(xué)研究的內(nèi)容多數(shù)是線性框架下展開的。

這里的線性指的是直線，而非線性則是拋物線、雙曲線。強(qiáng)非線性則更為復(fù)雜。

而數(shù)學(xué)領(lǐng)域目前非線性程度較大的研究分支是微分流形、拓?fù)涞取?/p>

然而，這樣的幾何學(xué)一般會假設(shè)局部線性，長程和復(fù)雜的非線性結(jié)構(gòu)并不容易得到好的表征，尤其在人工智能的數(shù)據(jù)常常被表現(xiàn)成離散點(diǎn)后。

要想讓數(shù)學(xué)在強(qiáng)非線性的人工智能時代發(fā)揮更大的作用，可能需要一套新的理論體系。

正是依賴于模型里蘊(yùn)含的強(qiáng)非線性，人工智能這一波表示出的學(xué)習(xí)能力已經(jīng)開始將人類不少方面自以為的學(xué)習(xí)優(yōu)勢變得不值一提。

比如圍棋。

現(xiàn)在人工智能模型的圍棋訓(xùn)練，基本不需要依賴人類，因?yàn)橐矝]有哪個人類棋手的棋力還值得AI的圍棋模型去學(xué)習(xí)。

人類與AI對弈時，也能發(fā)現(xiàn)其棋風(fēng)有的時候很明顯不是人類棋手能下出來的。這意味著，AI在圍棋上的博弈水平已經(jīng)凌駕于人類之上。

再比如繪畫。

今年OpenAI的GPT-4o的文生圖功能推出后，我們能看到不同風(fēng)格的繪畫能快速通過該模型生成。而如果讓人類畫家來畫，很有可能得花一天或更長的時間才能完成。

雖然前者仍然存在不少的瑕疵，比如合照在轉(zhuǎn)換時會丟人、漢字生成仍然存在明顯的錯誤等，但按性價比來取代中流水平的畫家，已經(jīng)不是不可能。

或者再比如視頻生成。

國慶假期，OpenAI剛剛推出的Sora 2再次刷新了人們對于AI生成視頻的認(rèn)知。不論是從畫面真實(shí)度、物理一致性、鏡頭運(yùn)動、人物表情與情緒細(xì)節(jié)、故事敘事能力、還是生成速度與穩(wěn)定性等方面，都展現(xiàn)出了前所未有的突破。

但Sora 2的問題在于，這些看似完美的結(jié)果其實(shí)都是「AI的腦補(bǔ)」。

最終結(jié)果是AI說了算，而且不穩(wěn)定。

即使是編程這一人工智能進(jìn)化必須依賴的工具。

從其學(xué)習(xí)出來的結(jié)果，也能看出人工智能編出來的程序規(guī)范工整、像模像樣，畢竟知名大模型的研發(fā)都是無數(shù)清北復(fù)交這樣水平或相當(dāng)水平的碼農(nóng)在參與。

其可讀性比一般人寫得要好得多。如果對相關(guān)代碼熟悉的，只需要對大模型給出的代碼進(jìn)行針對性的改進(jìn)，就能快速形成能跑通特定任務(wù)的代碼。

有的時候，看著人工智能生成的代碼，我都會暗想，平時考試就考不過這些參與編程的碼農(nóng)，現(xiàn)在人家還抱團(tuán)集思廣義來做大模型，再加上大模型自己還能自我進(jìn)化。

要想超越人工智能編出的代碼，有可能在未來只是一種夢想。

由這些例子可以推測，人工智能模型的某些學(xué)習(xí)能力已經(jīng)超越人類了。

但是否意味著人工智能會全方位超越人類呢？

這要回顧下1980年代的莫拉維克悖論以及1990年左右統(tǒng)計(jì)機(jī)器學(xué)習(xí)曾經(jīng)流行的概念「轉(zhuǎn)導(dǎo)學(xué)習(xí)」。

莫拉維克悖論發(fā)現(xiàn)人工智能在學(xué)習(xí)的過程中，有一個特別有趣的現(xiàn)象，即人覺得簡單的問題，機(jī)器會覺得復(fù)雜；人覺得復(fù)雜的，機(jī)器反而覺得簡單。

在此悖論下，我們常以為的簡單易重復(fù)的工作容易被AI淘汰，實(shí)際指的是AI覺得簡單、可以方便其重復(fù)的工作。

與「AI認(rèn)為簡單易重復(fù)，而人類卻覺得復(fù)雜」相關(guān)的，其中一個重要元素就是學(xué)習(xí)。

對高階知識的吸取、對抽象技能的把握，人類向來覺得非常復(fù)雜，于是我們不得不花漫長的時間來學(xué)習(xí)。

它也是幫助人類區(qū)分于自然界其它生命的重要指標(biāo)。

自然界里，從來沒有其他動物可以像人這樣耗盡人生的一大半來上下求索。

但是在當(dāng)前的人工智能時代，一個一個AI新成果的出現(xiàn)，似乎又在暗示著，人類的學(xué)習(xí)恰恰是AI更為擅長的。

只不過，AI采用了更為簡單粗暴的方式，即有技巧的窮盡一切可能，從而獲得比人類學(xué)習(xí)規(guī)律、學(xué)習(xí)知識更為全面完整的集合，而每個人類能學(xué)到的規(guī)律知識只是它的一個非常小的真子集。

如果這一假設(shè)成立，那很有可能與學(xué)習(xí)相關(guān)的多數(shù)行業(yè)會被AI替代。

能在行業(yè)中繼續(xù)生存下來的，也許只能是那些百里挑一甚至萬里挑一的、行行里出的狀元。

不過，獲得全集并非沒有代價。

這些代價，會讓人工智能實(shí)際上無法取代所有與學(xué)習(xí)相關(guān)的行業(yè)，比如高能耗的代價、高質(zhì)量標(biāo)注的代價，諸如此類。

也讓他在進(jìn)行判斷時無法像人類一樣在某些場合可以做出快速判斷。

而這其中的差異又可以再聊聊另一種學(xué)習(xí)機(jī)制，轉(zhuǎn)導(dǎo)學(xué)習(xí)（Transduction）。

轉(zhuǎn)導(dǎo)學(xué)習(xí)在深度學(xué)習(xí)興起之前，由統(tǒng)計(jì)機(jī)器學(xué)習(xí)先驅(qū)萬普尼克(Vapnik)提出的觀點(diǎn)。

Induction, deriving the function from the given data.

Deduction, deriving the values of the given function for points of interest.

Transduction, deriving the values of the unknown function for points of interest from the given data.

歸納，從給定數(shù)據(jù)推導(dǎo)函數(shù)。

演繹，從給定函數(shù)推導(dǎo)感興趣點(diǎn)的取值。

轉(zhuǎn)導(dǎo)，從給定數(shù)據(jù)為感興趣點(diǎn)推導(dǎo)未知函數(shù)的取值。

他認(rèn)為當(dāng)一個問題過于復(fù)雜，而實(shí)際要解決的只是問題的一個子集時，沒有必要針對原問題進(jìn)行精確求解，只需要針對子集來尋找替代方案即可。

這樣就能用相對簡單的函數(shù)，來刻畫本需要復(fù)雜函數(shù)才能表征的原問題，在子集下的預(yù)測。

或者反過來說，如果手頭想解決的是一個問題的子集，我們就沒必要把子集的問題復(fù)雜化到去求一個遠(yuǎn)比手頭問題困難得多的任務(wù)上。

這一觀點(diǎn)，在統(tǒng)計(jì)機(jī)器學(xué)習(xí)時代是有效的。因?yàn)槟菚r的數(shù)據(jù)集相對較小，算力也不強(qiáng)，所以統(tǒng)計(jì)機(jī)器在當(dāng)時是占主流地位，而深度學(xué)習(xí)的前身神經(jīng)網(wǎng)絡(luò)則話語權(quán)弱得多。

類似于轉(zhuǎn)導(dǎo)學(xué)習(xí)，我們可以再比較下人工智能的深度模型及人類在學(xué)習(xí)機(jī)制上的差異。顯然，如前所述，人工智能目前的主流做法是堆算力、上數(shù)據(jù)量、加深網(wǎng)絡(luò)，從某種意義來看，它是希望對通用人工智能問題進(jìn)行求解，所以需要學(xué)習(xí)出一個極其復(fù)雜的函數(shù)。

而人類并非如此，對人類來說，腦容量是有限的，不可能把進(jìn)入大腦的信息事無具細(xì)全部記住，所以一直都是在找各種簡化的解釋性或規(guī)律，不管是歸納還是演繹，還是常說的快慢思維轉(zhuǎn)化，本質(zhì)上都是在做減法，以便在具體的問題上形成簡單有效的決策和預(yù)測。

這也可以算是人類對世界規(guī)律學(xué)習(xí)中做的轉(zhuǎn)導(dǎo)學(xué)習(xí)。

但這種學(xué)習(xí)又并不能等同于人工智能當(dāng)下喜歡講的蒸餾，蒸餾一般是模型大小上的區(qū)別，從教師模型中學(xué)習(xí)知識，轉(zhuǎn)為小模型的有用信息，幫助小模型獲得更好的性能。

而轉(zhuǎn)導(dǎo)則是結(jié)構(gòu)上存在本質(zhì)差異，類似從慢思維中總結(jié)出快思維的規(guī)則，類似于高中生刷了很多題后，能快速找到捷徑一樣。

由于我們對大腦的認(rèn)識還遠(yuǎn)遠(yuǎn)不夠，人類這種轉(zhuǎn)導(dǎo)學(xué)習(xí)的機(jī)理尚沒有得到完美答案。

雖然有一些被人工智能學(xué)走了，比如一部分思維鏈。但要弄明白全部的機(jī)理，尚需時日。

這也就意味著，人工智能至少在目前還無法完全取代人類。

但一旦全部機(jī)理能被弄明白，并能夠程序化、流程化，理論上人工智能都能學(xué)會。

到那時，人類在知識方面的學(xué)習(xí)，對人工智能來說，會像學(xué)人類的圍棋一樣，沒有任何意義了。

當(dāng)人工智能達(dá)到這個水平時，也許在不久的將來，人類會產(chǎn)生一類新的工作，就是解讀人工智能在不同領(lǐng)域里生成的成果。

以數(shù)學(xué)為例，不久將來的人工智能也許能具備強(qiáng)大的推理能力，可以發(fā)現(xiàn)一些復(fù)雜且新奇的數(shù)學(xué)定理或證明。

但因?yàn)槠渌季S邏輯有可能不同于人類，所以，需要有對相關(guān)問題精通的數(shù)學(xué)專業(yè)人士對其證明進(jìn)行解讀，再以多數(shù)數(shù)學(xué)家可以理解的方式進(jìn)行重新詮釋，整理成論文發(fā)表。它意味著，即使是「解讀師」，也需要進(jìn)行專業(yè)知識的學(xué)習(xí)。

人類也可能不得不對人工智能和人類自己做的產(chǎn)品進(jìn)行分類標(biāo)注，否則人類做的產(chǎn)品在數(shù)量級和質(zhì)量級上都可能不占優(yōu)勢。

為了能從產(chǎn)品中找到一絲人類個性化的味道，可能人工智能做的會標(biāo)明AI-made，人類做的Human-made，人機(jī)協(xié)作的是Human-AI-Augmented-made，就像現(xiàn)在的預(yù)制菜一樣進(jìn)行相對明顯的標(biāo)識，人類做的更有那種現(xiàn)炒的感覺。

人們可以根據(jù)自己的需求來選擇使用哪種，喜歡原生態(tài)的就用Human-made的，喜歡價廉物美的就是AI-made，兩者皆可的還能選人機(jī)協(xié)作的。

當(dāng)然，理論歸理論，實(shí)際上人工智能應(yīng)該還達(dá)不到我們假想的那種高度。

因?yàn)槟S論悖論中還有一塊是人類覺得簡單、機(jī)器認(rèn)為復(fù)雜的。

這一塊仍然有許多無法被人工智能學(xué)習(xí)到。

哪些是人工智能未來仍然會覺得復(fù)雜的呢？

自然進(jìn)化賦予人類的、與生俱來的能力。

快慢思維的轉(zhuǎn)換、急智智能的表現(xiàn)、想象力、視角、留白、甚至個人行事的風(fēng)格、特色。屬于小樣本、小概率事件的，都不太好學(xué)習(xí)，也無法通過高質(zhì)量數(shù)據(jù)來形成統(tǒng)計(jì)規(guī)律來進(jìn)行隨后的生成。

這也是為啥有些人的作品看了兩頁就知道結(jié)果，歌聽了開頭就知道旋律如何收尾，而有些人的作品卻別居一格、易于出圈的原因。

即使是程序，除了人類現(xiàn)今推出的，還有自然界演化而來的，比如可以按時表達(dá)的DNA密碼。它本質(zhì)上也可以看成是一種程序，但人類至今沒有完全參透其采用諸如內(nèi)含子外顯子進(jìn)行編程的底層邏輯。人類搞不明白，就無法將其程序化、流程化地喂給AI去學(xué)習(xí)。

還有一些是不可計(jì)算的，比如人類的一些隱性的思維，這都無法建模。

除此以外，我相信還有一條規(guī)律會保護(hù)人類不會被人工智能全方位替代。

人工智能歸根到底，其源代碼是人類設(shè)計(jì)的。而人又無法完全了解自己。這就是導(dǎo)致人工智能只有可能超越人類教過它的那一部分。人類自己都無法理解的部分，也沒法教給人工智能，讓其實(shí)現(xiàn)超越。

電影《普羅米修斯》中的人造人大衛(wèi)，在想什么？

如果用稍微晦澀點(diǎn)的語言來說，就是哥德爾不確定性原理。

即一個系統(tǒng)的完美性證明，自身是無法獲得的，需要有一個系統(tǒng)之外的理論來完成證明。

如果用通俗點(diǎn)的說法，需要有個比人類更聰慧的「外星生命」來降維打擊。

也許理解人類和人工智能的學(xué)習(xí)，重塑人工智能的時代學(xué)習(xí)，才是未來與人工智能和諧共處最好的辦法，也能避免人類被硅基生命取代的可能性。

最終，AI會不會取代人類？更多內(nèi)容和思考可以在作者新書中找到答案。

作者介紹

張軍平

張軍平，復(fù)旦大學(xué)教授，中國自動化學(xué)會普及工作委員會主任。研究方向包括人工智能、圖像處理、生物認(rèn)證、智能交通等。著有人工智能科普書和《高質(zhì)量讀研》系列書籍。其中《人工智能的邊界》進(jìn)入25年中國好書8月推薦書目?！度斯ぶ悄軜O簡史》2024年獲第19屆文津圖書獎提名圖書（科普類）、2024全國優(yōu)秀科普圖書作品。《愛犯錯的智能體》2020年獲中國科普創(chuàng)作領(lǐng)域最高獎等多個獎項(xiàng)。