大家都知道，上周差評(píng)君去WAIC上看機(jī)器人去了，但其實(shí)咱也順便看了看諾獎(jiǎng)得主，AI教父辛頓的一個(gè)演講。

話里話外的總結(jié)一下就是，老爺子又開(kāi)始擔(dān)憂了。

現(xiàn)在AI太厲害了，已經(jīng)有點(diǎn)控制不住了，各國(guó)得趕緊想辦法給它管管，可不能養(yǎng)虎為患。

當(dāng)然很多差友估計(jì)也都知道，這也不是老爺子第一次這么說(shuō)，這兩年他一直覺(jué)得自己打開(kāi)了潘多拉魔盒，跟葉文潔似的，點(diǎn)燃了火，卻控制不了它。

該說(shuō)不說(shuō)，AI這玩意兒到底安不安全，會(huì)不會(huì)突然長(zhǎng)腦子，把咱人類(lèi)給一波團(tuán)滅了，其實(shí)一直是這行里最前沿的話題之一，谷歌的哈薩比斯前幾天也擔(dān)憂過(guò)。

雖然每次大家一說(shuō)AI要成精了，科學(xué)家們都會(huì)站出來(lái)辟謠，讓大家冷靜冷靜。但是你要較真，未來(lái)AI到底會(huì)不會(huì)有意識(shí)，毀滅人類(lèi)？那他們可就不好說(shuō)了，科學(xué)家里也有信的有不信的。

這里邊兒最核心，大家都公認(rèn)的事其實(shí)就一個(gè)，AI現(xiàn)在確實(shí)太強(qiáng)了。不過(guò)咱今天想跟大家嘮的是，讓這些大佬感到恐懼的，究竟是什么。

中國(guó)現(xiàn)代有個(gè)哲學(xué)家叫趙汀陽(yáng)，這人說(shuō)你要討論AI安全性這塊兒，那就得話分兩頭。一個(gè)叫意識(shí)的威脅，另一個(gè)叫能力的威脅，先別把這兩件事搞混。

咱就拿辛頓這次講話來(lái)說(shuō)，首先第一個(gè)前提，他覺(jué)得這人腦，跟現(xiàn)在的大語(yǔ)言模型（LLM）其實(shí)差不多，都一個(gè)類(lèi)型。

其實(shí)這也好理解，深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)啥的說(shuō)白了，它本來(lái)就是帶點(diǎn)模仿生物的樣子做的嘛。咱編輯部不少有育兒經(jīng)驗(yàn)的同事也覺(jué)得，小孩剛開(kāi)始學(xué)語(yǔ)言啥就跟訓(xùn)練大模型很像很像。

所以你要這么去推理，AI這玩意他很可能也就跟小孩一樣，能發(fā)展出來(lái)自我意識(shí)，那它就也有青春期，也會(huì)叛逆啊?？催^(guò)動(dòng)漫的都知道，中二小孩談個(gè)對(duì)象都得毀天滅地的，萬(wàn)一這AI學(xué)歪了，那不就完蛋了。

所以像這種，這就叫意識(shí)的威脅。

舉個(gè)例子，22年谷歌有個(gè)事兒鬧挺大。說(shuō)是有個(gè)谷歌工程師，跟谷歌的LaMDA模型聊天，聊著聊著發(fā)現(xiàn)這東西太像人了，什么都懂，還說(shuō)自己有意識(shí)，不想被關(guān)掉。于是這哥們兒就嚇到了，一封預(yù)警信交上去，結(jié)果谷歌反手把他給開(kāi)了。當(dāng)時(shí)就搞得一堆人說(shuō)，谷歌這老小子有陰謀啊，搞智械危機(jī)啊。

然而在工程師眼中，這屬實(shí)是有點(diǎn)san值太低了。因?yàn)長(zhǎng)aMDA其實(shí)跟別的模型沒(méi)啥區(qū)別，只是規(guī)模更大了，語(yǔ)言更流暢，所以剛開(kāi)始接觸到的測(cè)試者就被嚇暈了。

但在三年后的現(xiàn)在，各家的大模型其實(shí)都比LaMDA會(huì)說(shuō)話，甚至像GPT-4o啥的，還專(zhuān)門(mén)要測(cè)一個(gè)情商分。

至于大家覺(jué)得像人，當(dāng)時(shí)有認(rèn)知科學(xué)家就分析，說(shuō)這是因?yàn)槿祟?lèi)天然有擬人化的偏見(jiàn)，會(huì)把有人類(lèi)特征的東西投射在非人實(shí)體上，這種事在視覺(jué)上其實(shí)更常見(jiàn)，比如這張圖。

那有朋友可能就要問(wèn)了，你咋就能確定模型沒(méi)有自我意識(shí)呢，萬(wàn)一這些模型其實(shí)都有意識(shí)，只不過(guò)裝的清純無(wú)害呢？

老實(shí)說(shuō)，要這么問(wèn)，那這問(wèn)題其實(shí)沒(méi)法回答。

現(xiàn)代哲學(xué)上有一個(gè)叫哲學(xué)僵尸的概念，啥意思呢，就是假設(shè)你身邊有個(gè)偽人，跟活人一毛一樣，他也會(huì)說(shuō)話，也會(huì)拉屎，下雨也知道往家走，你跟他講笑話他也跟著笑，你倆看恐怖片他也抖，但是以上這些所有動(dòng)作都是它裝的，其實(shí)它沒(méi)有自我意識(shí)，內(nèi)心毫無(wú)波瀾，只是個(gè)有這種逢場(chǎng)作戲的條件反射的軀殼。

那么問(wèn)題來(lái)了，你怎么判斷你身邊這個(gè)朋友是活人還是偽人呢？

這個(gè)思想實(shí)驗(yàn)就是說(shuō)，對(duì)個(gè)體而言，你其實(shí)沒(méi)法判斷對(duì)面的人是不是真有自我意識(shí)，那就更不要說(shuō)AI和機(jī)器人了。

所以對(duì)于AI會(huì)不會(huì)產(chǎn)生意識(shí)的討論，說(shuō)白了辯論雙方再怎么討論也是雞同鴨講眼碌碌。

用連線雜志主編，技術(shù)預(yù)言家凱文凱利的話來(lái)說(shuō)，我們對(duì)意識(shí)本身幾乎一無(wú)所知，我們甚至不知道我們自己的意識(shí)是什么，所以去討論它們“有沒(méi)有”意識(shí)其實(shí)非常困難。

所以，對(duì)意識(shí)的恐懼，其實(shí)目前更多還是在哲學(xué)的層面上，也確實(shí)不好討論。那既然不用討論，辛頓這些大佬是不是就擱這兒杞人憂天呢？恰恰相反。

這咱就得說(shuō)到另一邊兒，能力的威脅。

還是拿辛頓來(lái)講，老頭呢這次的第二個(gè)觀點(diǎn)就說(shuō)，這大模型啊，他學(xué)知識(shí)學(xué)的太快了，嚇銀。

拿我們?nèi)祟?lèi)比，劉慈欣的小說(shuō)鄉(xiāng)村教師里就寫(xiě)，我們?nèi)祟?lèi)是靠聲帶在空氣里傳播振動(dòng)來(lái)交換信息的物種，一秒的傳輸量才幾個(gè)比特，哪怕你從中專(zhuān)開(kāi)始學(xué)說(shuō)唱，完事兒你叭叭半天，信息量都趕不上百度網(wǎng)盤(pán)下載速度。

而且就算你講出來(lái)，聽(tīng)的人能不能學(xué)會(huì)還兩碼事呢。不少信息都是左耳進(jìn)右耳出，這咱上過(guò)學(xué)的都懂。

但是這AI它就不一樣。首先人家在電腦里，信息速度那首先海了去了，就不說(shuō)在電線里跑，這次WAIC上連光通信的都有了，這你咋比。

再一個(gè)，人家學(xué)的也快。不光是人家能力進(jìn)步快，一秒讀完好幾本書(shū)這種，關(guān)鍵AI這東西哪怕互相學(xué)習(xí)，它也快。

比方你有一很牛的大模型，你怎么讓小模型也學(xué)會(huì)呢？只需要蒸餾一遍，這小模型就能全掌握，變成大模型的樣子。

所以這辛頓就擔(dān)憂，那要照這么發(fā)展下去，人類(lèi)不就遲早玩成了AI的玩物了？這回演講中他就說(shuō)，大家搞這個(gè)是養(yǎng)老虎，別看它現(xiàn)在小，以后長(zhǎng)大了遲早要吃人。

該說(shuō)不說(shuō)，辛頓這話確實(shí)有道理，聽(tīng)得有點(diǎn)后背發(fā)涼是不。

就拿現(xiàn)在用的最多的聊天AI來(lái)說(shuō)，光這玩意負(fù)面新聞就也不少了，有宣傳納粹思想的，有教唆青少年自殺的，有讓小孩子加入邪教獻(xiàn)祭儀式的。

再比如，《侏羅紀(jì)公園》的作者以前寫(xiě)過(guò)一篇科幻小說(shuō)，說(shuō)是某天人類(lèi)發(fā)明了一個(gè)醫(yī)用機(jī)器人，可以自己制造打印材料，制造新的機(jī)器人。但有一天出了個(gè)bug，機(jī)器人開(kāi)始從環(huán)境里掠食有機(jī)物來(lái)復(fù)制，于是就把地球上所有生命（包括你我）都團(tuán)滅了。

所以哪怕這AI它就算沒(méi)有意識(shí)，但就這個(gè)成長(zhǎng)速度，未來(lái)AI跟硬件互聯(lián)還能控制機(jī)器人，那出點(diǎn)兒什么事，我是想都不敢想。

那看到這，可能有朋友得生氣了，聽(tīng)你這么一說(shuō)，合著發(fā)展AI就是個(gè)錯(cuò)唄，那大家干脆學(xué)波爾布特行了。

然而你瞅瞅外邊兒，這AI大趨勢(shì)奪么火熱，就知道那肯定不是所有人都這么想的。比方說(shuō)馬克·安德里森，人就覺(jué)得AI就純粹是一工具，能“給人類(lèi)帶來(lái)無(wú)限繁榮”的“有史以來(lái)最好的東西”，吹上天了這一塊。

不過(guò)在凱文·凱利（KK）看來(lái)，甭管是辛頓還是馬克·安德里森，其實(shí)都沒(méi)說(shuō)到點(diǎn)子上。

在他十年前出版的《必然》一書(shū)中認(rèn)為，烏托邦和反烏托邦其實(shí)都更像是基于對(duì)未來(lái)盲目，這種盲目或許只是現(xiàn)代社會(huì)難以逃避的苦惱，因?yàn)榧夹g(shù)的發(fā)展實(shí)在是太快了。

而真正的未來(lái)，反而是當(dāng)下就能看到的、正在“形成”這種進(jìn)程的產(chǎn)物（protopia）。

所以他倒是覺(jué)得，AI更像一種工具，最終發(fā)展估計(jì)就像電一樣，會(huì)成為大家生活里的一個(gè)基礎(chǔ)設(shè)施。那家用電還能短路起火災(zāi)呢，有本事你別用啊。

照他的意思，它不是來(lái)取代人類(lèi)的，是來(lái)增強(qiáng)人類(lèi)的。AI下棋軟件的出現(xiàn)，并沒(méi)有讓國(guó)際象棋完蛋。反而是在這些超強(qiáng)軟件的幫助下，下棋的人數(shù)、比賽的數(shù)量、棋手的水平，全都達(dá)到了歷史最高，棋力碾壓古人。

這么想，未來(lái)一定是人和AI融合的，就像我們離不開(kāi)手機(jī)一樣。

圖源Bilibili: 野路子梗畫(huà)師

其實(shí)說(shuō)白了，任何大有作為的新發(fā)明都會(huì)有反對(duì)者，而且作為越大，反對(duì)聲也越大。 現(xiàn)在大家對(duì)AI的恐慌，研究技術(shù)奇點(diǎn)帶來(lái)會(huì)毀滅還是狂歡，這場(chǎng)面倒特像50年前大家討論互聯(lián)網(wǎng)。

1994 年,《時(shí)代周刊》認(rèn)為互聯(lián)網(wǎng)“并非為商業(yè)設(shè)計(jì),也不能優(yōu)雅地容忍新用戶(hù)”，所以永遠(yuǎn)不會(huì)成為主流。。。

1995年2月,《新聞周刊》在標(biāo)題里更是直接開(kāi)大，互聯(lián)網(wǎng)？我呸！(Internet ? Bah!)。這文章還認(rèn)為在線購(gòu)物和網(wǎng)絡(luò)社區(qū)有違常識(shí)，都是不切實(shí)際的幻想，覺(jué)得在線數(shù)據(jù)庫(kù)不會(huì)取代報(bào)紙。

你瞅瞅這臉打的。

不過(guò)雖然凱文·凱利認(rèn)為AI的重要性不亞于火、印刷術(shù)和工業(yè)革命，然而他也說(shuō)，100年后估計(jì)AI會(huì)真的有大眾理解的那種意識(shí)，而且會(huì)是與人類(lèi)完全不同的模式，他稱(chēng)之為異人意識(shí)(alien consciousness)。

實(shí)際上，甚至在互聯(lián)網(wǎng)尚未起步的時(shí)代，科幻作家和哲學(xué)家們就已經(jīng)開(kāi)始擔(dān)憂機(jī)械智能毀滅人類(lèi)了，比如戰(zhàn)錘40k里的鐵人叛亂。

用哲學(xué)家趙汀陽(yáng)的話說(shuō)，以前的技術(shù)革命，只是理性的技術(shù)升級(jí)，但人工智能和基因編輯不僅僅是技術(shù)革命，而且是存在論水平上的革命，技術(shù)的無(wú)限進(jìn)步也許是一場(chǎng)不可信任的賭博。

不過(guò)要我說(shuō)，無(wú)論是覺(jué)得有沒(méi)有意識(shí)，啥樣的意識(shí)，還是認(rèn)為AI是養(yǎng)老虎或者新電力，我覺(jué)得咱還是得從務(wù)實(shí)的角度來(lái)看。

目前大多數(shù)人都同意一件事是，這玩意的力量確實(shí)超乎人類(lèi)想象，那就絕不能放任自流，該管還得管。這就好比核能。核裂變可以發(fā)電，但核武器的威脅一天都沒(méi)離開(kāi)過(guò)我們，上個(gè)月美國(guó)還為這事飛B2呢。

大國(guó)之間既然可以通過(guò)協(xié)商，制訂條約來(lái)限制核武器，那在AI這塊兒其實(shí)也一樣。人類(lèi)需要一起坐下來(lái)，給它訂一個(gè)防火墻，來(lái)防止那個(gè)可能發(fā)生在100年后的危機(jī)。

比方說(shuō)馬斯克就老琢磨，AI這玩意兒以后估計(jì)要都集中在幾個(gè)巨頭手里，那萬(wàn)一哪家AI叛變了，剩下的也夠嗆打得過(guò)。所以他要去搞開(kāi)源的OpenAI，覺(jué)得人人有槍那它就不亂，提出一些美國(guó)方案。

這方案好不好咱先不說(shuō)，但這說(shuō)明，大家已經(jīng)開(kāi)始認(rèn)真思考如何建墻的問(wèn)題了。

所以在我看來(lái)，AI這事兒，你要說(shuō)它是天網(wǎng)降臨那有點(diǎn)過(guò)，要說(shuō)天下太平也不至于。

就像KK說(shuō)的，我們現(xiàn)在就像站在1984年，看著一堆剛剛注冊(cè)的.com域名一樣，一臉懵逼又滿(mǎn)心激動(dòng)。本世紀(jì)前半葉最偉大的事物已經(jīng)出現(xiàn)在我們面前，只不過(guò)那些奇跡般的發(fā)明，都在等著人類(lèi)用卓識(shí)遠(yuǎn)見(jiàn)和智慧來(lái)采摘那些累累果實(shí)。

技術(shù)爆炸的未來(lái)注定是一場(chǎng)冒險(xiǎn)，而我們，全人類(lèi)，都是這未來(lái)的一份子。

撰文：納西

編輯：江江 & 面線

美編：萱萱

圖片、資料來(lái)源：

《必然》，電子工業(yè)出版社

《獵物》，譯林出版社

《5000天后的世界》，中信出版社

《智能與智慧——人工智能遇見(jiàn)中國(guó)哲學(xué)家》，中信出版社

李建忠對(duì)話 KK 凱文·凱利《AI 的進(jìn)化和顛覆》實(shí)錄

趙汀陽(yáng)：技術(shù)的無(wú)限進(jìn)步也許是一場(chǎng)不可信任的賭博

Marc Andreessen：Why AI Will Save the World

Lex Fridman：Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games

科學(xué)網(wǎng)，theRegister，鈦媒體等，部分圖源網(wǎng)絡(luò)