當(dāng)辛頓在上海人工智能大會(huì)上，把AI比作人類正在豢養(yǎng)的一只可愛(ài)的小老虎時(shí)，我想起了機(jī)器人先驅(qū)莫拉維克的名著《心靈的孩子：機(jī)器人與人類智能的未來(lái)》（Mind Children: The Future of Robot and Human Intelligence ），他把人工智能看成是人類教養(yǎng)自己的智能后代，甚至可能是一種人類文明的繼承者。

人工智能，人類在養(yǎng)虎還是養(yǎng)子

辛頓與莫拉維克是同時(shí)代人，年長(zhǎng)一歲。 他們開(kāi)始在人工智能領(lǐng)域取得成就時(shí)，1980年代前期與中期，AI主流仍是符號(hào)主義，強(qiáng)調(diào)規(guī)則、邏輯推理等。當(dāng)時(shí)莫拉維克與布魯克斯（Rodney Brooks） 等人提出“新 AI”（Nouvelle AI）主張具身機(jī)器人，更關(guān)注感知、行為和環(huán)境互動(dòng)。同時(shí)，辛頓等人則復(fù)興連接主義，以神經(jīng)網(wǎng)絡(luò)為核心架構(gòu)，強(qiáng)調(diào)學(xué)習(xí)與適應(yīng)能力。

這兩位從歐洲移民到加拿大的當(dāng)代AI先驅(qū)，都深入研究了數(shù)字智能與生物智能，即AI與大腦。他們都相信，智能可以脫離硬件而存在，如果不必然是人類大腦中的智能，而是人工智能的話；所以他們都相信人工智能會(huì)有一天超過(guò)人腦，成為超級(jí)智能。所不同的是，在辛頓那里，當(dāng)小老虎長(zhǎng)成大老虎時(shí)，它可能會(huì)吃人。在莫拉維克那里，超級(jí)智能是人類智慧之子，當(dāng)它長(zhǎng)大成人，它將繼承人類的文明，人類自身，尤其是大腦也要適應(yīng)這一轉(zhuǎn)化，這是一個(gè)”和平演變“的過(guò)程。

我們可以讀一下莫拉維克的這段文字，需要注意的是，他在1980年代末所展望的機(jī)器人超過(guò)人類智能的時(shí)間，即構(gòu)建出普世通用機(jī)器人（Universal Robot）, 是在2030-2040年之間：

在未來(lái)半個(gè)世紀(jì)里，計(jì)算能力將持續(xù)增長(zhǎng)，機(jī)器人也將逐步超越“爬行動(dòng)物階段”：它們將像哺乳動(dòng)物那樣學(xué)習(xí)、像靈長(zhǎng)類動(dòng)物那樣構(gòu)建對(duì)世界的模型，最終達(dá)到類人推理的能力。 那時(shí)，取決于你的視角，人類要么造出了一個(gè)真正值得的繼任者，要么超越了自身的某些先天局限，從而將自己轉(zhuǎn)化為一種全新的存在。

莫拉維克并非無(wú)視AI可能帶來(lái)的風(fēng)險(xiǎn)，因?yàn)樗鼤?huì)代替人類，但是莫拉維克更傾向于認(rèn)為這是對(duì)人類的一種“溫和的接管”，這是人類演化和自然選擇的產(chǎn)物。

這也體現(xiàn)出莫拉維克與辛頓對(duì)于AI發(fā)展各自的側(cè)重。莫拉維克推崇進(jìn)化時(shí)間帶來(lái)的感知／動(dòng)作優(yōu)化；強(qiáng)調(diào)機(jī)器模擬人腦需大量計(jì)算力與架構(gòu)復(fù)制。而辛頓注重訓(xùn)練方法與神經(jīng)結(jié)構(gòu)設(shè)計(jì)，強(qiáng)調(diào)數(shù)據(jù)與算法的力量；更關(guān)注如何讓 AI 學(xué)習(xí)而非進(jìn)化。一個(gè)強(qiáng)調(diào)進(jìn)化的時(shí)間，一個(gè)強(qiáng)調(diào)設(shè)計(jì)的空間。正因?yàn)槿绱耍女a(chǎn)生了更著名的——

莫拉維克悖論

在《心靈的孩子》中，莫拉維克有這樣一段描述：

人類大腦中那些高度進(jìn)化的感知與運(yùn)動(dòng)區(qū)域，承載著十億年的生命記憶——關(guān)于這個(gè)世界的本質(zhì)，關(guān)于如何在其中生存。我們稱之為’推理‘的那個(gè)刻意過(guò)程，我認(rèn)為，不過(guò)是人類思維中最薄如蟬翼的一層表皮，之所以奏效，只因它依附在那一套更古老、更強(qiáng)大、卻往往不為我們所察覺(jué)的感知-運(yùn)動(dòng)知識(shí)之上。我們每個(gè)人，其實(shí)都是感知與動(dòng)作領(lǐng)域里的奧運(yùn)選手，強(qiáng)大到可以把復(fù)雜變得看似輕松。至于抽象思維，它是個(gè)新鮮的把戲，也許誕生還不滿十萬(wàn)年——我們還未真正馴服它。它本身未必真的如此艱深；只是在我們運(yùn)用它時(shí)，才顯得如此艱難。

也就是說(shuō)，人類作為一種生命體經(jīng)過(guò)億萬(wàn)年演化而來(lái)的感知與運(yùn)動(dòng)能力，已經(jīng)強(qiáng)大到刻入人類的基因，每個(gè)人可以輕松地完成，而那些聽(tīng)起來(lái)高深的”推理“能力，不過(guò)是人類還沒(méi)有真正馴服的能力，所以用起來(lái)才感到艱難。

這個(gè)悖論是莫拉維克與布魯克斯和明斯基（Marvin Minsky）等人在 1980 年代提出的，長(zhǎng)期以來(lái)成為對(duì)機(jī)器人和AI一種最真實(shí)的寫(xiě)照。與我們的直覺(jué)相反，人類的推理能力（即人類的高階認(rèn)知能力）其實(shí)只需非常少的計(jì)算資源，而感知-運(yùn)動(dòng)技能（在人類中被視為較低層次的能力）卻需要極大的計(jì)算資源。

明斯基也強(qiáng)調(diào)：“最難以被逆向工程（模仿）的，是那些我們無(wú)意識(shí)中具備的人類技能?！?/p>

辛頓認(rèn)為大模型理解語(yǔ)言的方式，與人類沒(méi)有什么區(qū)別 。而從物理世界出發(fā)，莫拉維克給出了一個(gè)進(jìn)化論式的解釋：我們應(yīng)當(dāng)預(yù)期，那些在人類進(jìn)化史中存在得更久的認(rèn)知技能，在AI中會(huì)更難被復(fù)現(xiàn)，因?yàn)檫M(jìn)化過(guò)程對(duì)這些“古老技能”施加了更強(qiáng)的優(yōu)化壓力。而在生存壓力之下能經(jīng)歷長(zhǎng)期選擇與優(yōu)化的技能，正是感知與感知/運(yùn)動(dòng)技能。

這就是莫拉維克悖論的反直覺(jué)之處：我們?nèi)祟愇锓N史前進(jìn)化打磨出來(lái)的，正是那些“低階”技能，而且這些低技能的任務(wù)是由高度優(yōu)化的算法棧（加上身體中的配套硬件）完成的，比如視覺(jué)任務(wù)依賴眼睛，聽(tīng)覺(jué)任務(wù)依賴耳朵，活動(dòng)依賴四肢，這些系統(tǒng)共同支撐著人類行為背后的算法。這些人類祖先經(jīng)歷上百萬(wàn)年進(jìn)化出來(lái)的生存技能，今天看起來(lái)是那么“四肢發(fā)達(dá)，頭腦簡(jiǎn)單”。

人類進(jìn)入文明階段之后，那些語(yǔ)言文字能力、思考推理能力等發(fā)展起來(lái)了，但是因?yàn)闀r(shí)間較短，較容易進(jìn)行“逆向工程”。而人類長(zhǎng)期積累下來(lái)的、用以謀生存和生活的能力，潛藏在人類的無(wú)意識(shí)當(dāng)中。

機(jī)器人莫拉維克悖論

莫拉維克是智能機(jī)器人的先驅(qū)，今天人們真正記住他的，正是莫拉維克悖論。當(dāng)下具身智能和人形機(jī)器人火得一塌糊涂，但莫拉維克悖論，總是讓人們清醒和謙卑一些。

最近較少在X上發(fā)言的Jim Fan，在看到了宇樹(shù)機(jī)器人又拿出一套“廣播體操”后，就用“莫拉維克悖論”說(shuō)事了。他是英偉達(dá)的機(jī)器人總監(jiān)和科學(xué)家，GEAR實(shí)驗(yàn)室的聯(lián)合創(chuàng)始人，直接向黃仁勛匯報(bào)。大語(yǔ)言模型和推理AI之后，物理AI是黃仁勛最看重的一個(gè)新興領(lǐng)域。他更看好中國(guó)的物理AI，宇樹(shù)就是他最喜歡的中國(guó)人形機(jī)器人公司。

視頻展示的是宇樹(shù)繼 H1和G1后 第三款 人形機(jī)器人R1

這種“機(jī)器人莫拉維克悖論”也讓人產(chǎn)生一種錯(cuò)覺(jué)：仿佛物理智能已經(jīng)非常先進(jìn)了。其實(shí)并不是。我不是專門(mén)說(shuō)某家廠商（比如宇樹(shù)），這個(gè)現(xiàn)象幾乎適用于所有近期炫技式的機(jī)器人表演。你可以做一個(gè)簡(jiǎn)單測(cè)試：在那個(gè)會(huì)側(cè)空翻的機(jī)器人前面放一堵墻，它會(huì)直接撞上去，砸出一個(gè)好看的畫(huà)面——因?yàn)樗皇撬烙浻脖沉四且惶走\(yùn)動(dòng)軌跡，根本沒(méi)有對(duì)周圍環(huán)境的感知。

的確，我們看到的機(jī)器人健步如飛的視頻，多數(shù)是經(jīng)過(guò)無(wú)數(shù)次的跌倒失敗，精心剪輯那些成功片段而成的，與它們實(shí)際上的表現(xiàn)大相徑庭。在北京的機(jī)器人馬拉松比賽上，人形機(jī)器人需要人類用遙控器形影不離控制，小步跑得跌跌撞撞，經(jīng)常摔跤，有的都掉腦袋了。

這可能是目前人形機(jī)器人的常態(tài)，簡(jiǎn)單套路的嫻熟程度會(huì)提升很快。不過(guò)問(wèn)題在于，目前在炫技的人形機(jī)器人，可能與我們想像中能學(xué)會(huì)干活的人形機(jī)器人，還不是一個(gè)物種。

Jim Fan認(rèn)為：“這個(gè)悖論存在的根本原因是：訓(xùn)練一個(gè)‘盲體操選手’遠(yuǎn)比訓(xùn)練一個(gè)‘會(huì)看、會(huì)操作’的機(jī)器人容易得多。前者可以完全在模擬器中訓(xùn)練完成，并直接零樣本（zero-shot）部署到現(xiàn)實(shí)世界；而后者則要求極其真實(shí)的渲染、接觸物理、以及現(xiàn)實(shí)世界中千奇百怪的物體動(dòng)態(tài)——這些目前都沒(méi)法在模擬器中還原得好。”

“會(huì)看會(huì)操作”的機(jī)器人，所需要的正是人類經(jīng)過(guò)長(zhǎng)期進(jìn)化的感知和行動(dòng)能力。我們看到的目前霸屏的機(jī)器人，并不具備感知能力，或者只具備非常初級(jí)的感知能力，它們只是執(zhí)行預(yù)設(shè)軌跡的機(jī)器人，有些因?yàn)槲锢砟M的能力也日益強(qiáng)大，訓(xùn)練時(shí)不接觸真實(shí)世界，也能直接在真實(shí)環(huán)境中執(zhí)行任務(wù)。

不過(guò)宇樹(shù)認(rèn)為，在機(jī)器人學(xué)會(huì)干活之前，不是需要先掌握各種動(dòng)作嗎？先通過(guò)各種雜耍游戲讓處于幼年期的人形機(jī)器人學(xué)會(huì)爬行、走路、跑步、翻跟頭、手舞足蹈，不正是為以后讓機(jī)器人學(xué)會(huì)干活做準(zhǔn)備嗎？

莫拉維克在前互聯(lián)網(wǎng)時(shí)代做出了通用機(jī)器人的預(yù)言，他也用了超級(jí)人工智能（superman intelligence) 這個(gè)詞，甚至包括通用智能，如他在1987年發(fā)表了論文《移動(dòng)機(jī)器人與通用智能》（Mobile Robots and General Intelligence）。莫拉維克面對(duì)的是真實(shí)的物理世界，而今天的所說(shuō)的通用人工智能AGI，被OpenAI和Anthropic等公司和一些人定義為在數(shù)字空間和電腦屏幕上達(dá)到人類智能的水平。

Jim Fan認(rèn)為：“機(jī)器人研究的本質(zhì)極大地復(fù)雜化了設(shè)計(jì)空間。與 LLM 處理純文本的‘比特世界’不同，機(jī)器人研究人員要面對(duì)的是混亂的‘原子世界’......沒(méi)有“觸摸”、沒(méi)有“感知”、沒(méi)有“具身性”，就沒(méi)有通用人工智能（AGI）。"

這似乎代表了英偉達(dá)的看法，包括對(duì)于AI給人類帶來(lái)生存威脅的看法。《黃仁勛：英偉達(dá)之芯》記載了這么一段：黃仁勛對(duì)于辛頓的擔(dān)憂不以為然，在他的影響下，辛頓的p(doom)=50%，即人工智能毀滅人類的機(jī)率為50%，已經(jīng)下降到了10%~20%。

辛頓在WAIC的另外一場(chǎng)對(duì)話中，談到了在訓(xùn)練同一個(gè)AI時(shí)，可以同時(shí)用讓它更聰明的技術(shù)和讓它更善良的技術(shù)，這兩種技術(shù)可以分別拿出來(lái)使用和分享。如果少數(shù)AI大國(guó)不想分享讓AI聰明的技術(shù)，可以先分享讓AI更善良的技術(shù)。也的確是一種非常好的愿望。

但是對(duì)于莫拉維克來(lái)說(shuō)，人類最終可能已經(jīng)沒(méi)有能力操這個(gè)心了。智能機(jī)器人可能是人類文明的長(zhǎng)子，“機(jī)器人擁有遠(yuǎn)超我們的智能……但它們會(huì)對(duì)我們抱有好奇，也能復(fù)制我們文明” 。

最后，回到明斯基的思路。也許，AI可能在進(jìn)行一場(chǎng)人類進(jìn)化的的終級(jí)逆向工程，從這個(gè)角度理解，它是不是不可能對(duì)人類不好？

參考：

The Universal Robot， Hans Moravec

https://digiethics.org/en/2023/08/29/schmidhuber-kurzweil-and-moravec-artificial-intelligence-as-a-surrogate-religion/

https://epoch.ai/gradient-updates/movarec-s-paradox

https://www.wired.com/1995/10/moravec/?utm_source=chatgpt.com