IPP評論是國家高端智庫華南理工大學公共政策研究院（IPP）官方微信平臺。

導語：

當Sora生成的視頻足以亂真，當Neuralink的芯片植入人腦，當ChatGPT-5的傳聞甚囂塵上——我們是否正站在一個文明躍遷的門檻上？碳基生命歷經(jīng)數(shù)十億年演化出的智慧，正被我們自己創(chuàng)造的硅基智能以千分之一成本、指數(shù)級速度量產(chǎn)、復制，甚至可能...超越。

亞洲圖書獎得主、新銳科技史學者張笑宇在其新著《AI文明史·前史》中指出：我們生活在全球化面臨崩潰，地緣政治沖突在舊大陸可能點燃全面戰(zhàn)火的邊緣。我們也生活在AI革命突飛猛進，人類可能第一次迎來AGI甚至超級智能的邊緣。

*本文核心觀點與案例摘編自張笑宇新著《AI文明史·前史》。

當代技術水平下的AI替代人類的最基本的數(shù)學原理：量產(chǎn)智能。

即便AI尚未達到AGI的水平，它也能夠以1‰的成本量產(chǎn)超過99%的智能，這就足以使我們邁入前所未有的大通縮時代了。

但是，讓我們再往前思考一步吧。如果在未來的一代人之內(nèi)，AI成功突破了AGI水平，甚至具備了自我意識，那么它與我們?nèi)祟惿鐣年P系將會怎樣？

請注意，這并不是完全不可能的。

AI或許已經(jīng)涌現(xiàn)了意識

AI可以具備自我意識嗎？有些科學家相信可以。

這方面最有名的預言者就是意大利神經(jīng)學家朱利奧·托諾尼，他在現(xiàn)有腦科學研究的基礎上提出了關于意識如何誕生的理論。托諾尼把自己的理論稱為“整合智能理論”，它的基本內(nèi)容如下。如果說一個系統(tǒng)有意識，那么

（1）意識是為這個系統(tǒng)本身存在的，而不是為外部觀察者存在的，其存在真實性由其對自身的因果力來證明；

（2）意識是有結構的，它由多個不同但相互關聯(lián)的元素組成，每個元素都有因果關系；

（3）意識的經(jīng)驗是具體的，這些時刻是獨一無二的；

（4）意識是統(tǒng)一的，不能分解為獨立的部分；

（5）意識是排他的，也就是在特定時空中，你只會意識到某些事物，而不會意識到其他事物。

這5個方面的指標是可以用數(shù)學關系衡量的。換句話說，任何一個系統(tǒng)，只要在數(shù)學上滿足一定的指標（托諾尼用Φ來表示），我們就可以預測它能產(chǎn)生意識。

這說起來有些抽象，我舉個例子來解釋一下：想象你現(xiàn)在有一系列感官設備，比如一個攝像頭（擁有視覺經(jīng)驗）、一個麥克風（擁有聽覺經(jīng)驗）和一個傳感器（擁有溫度或者觸覺經(jīng)驗），

它們怎么才能擁有意識呢？

首先，這些設備不能是為你服務的，它們得為自己服務。它們得自己去看、去聽、去感受，而且還要建立起自己的因果聯(lián)系。你得為它們造一個大腦（CPU），把它們裝在一起（比如裝在一個機器人身上），這個機器人用攝像頭去看，是為了自己在行動時避障（也就是在視覺經(jīng)驗和自己的運動軌跡之間建立因果聯(lián)系）。托諾尼的意思基本上是，如果這個機器人對所有感官設備的整合程度足夠高，意識就會從中誕生。這就是整合智能理論。

這個理論看起來很荒誕，但我們現(xiàn)在對它既不能證實，也不能證偽。

不能證偽的原因是，我們?nèi)祟惖囊庾R就是這么誕生的。就這個問題，我曾請教過王立銘教授，他的答案是，根據(jù)腦神經(jīng)科學的研究，他個人認為意識很可能只是伴隨智能水平產(chǎn)生的一種假象，證據(jù)是如果我們割裂一個人左右腦的聯(lián)系，我們會發(fā)現(xiàn)，這個人會做出自相矛盾的行為，但自欺欺人地解釋其行為的合理性，也就是說，他下意識地要維護自己作為一個完整主體的存在。

所以，如果一個系統(tǒng)的整合性足夠高，那么它為了維護自身完整性的一切表達和行為都可以說是“意識”這個假象的體現(xiàn)。

不能證實的原因則是，意識本質(zhì)上是無法分享的。我可以仔細地向你描述我飲酒或者瀕臨死亡的體驗，但是你聽我描述而在主觀意識上產(chǎn)生的體驗，跟你自己去體驗這些事情，有著天壤之別。因此，除非哪一天，有個Φ值滿足托諾尼理論預言的機器人跟我們交流，告訴我們它有主觀意識了，否則我們沒有辦法證明托諾尼說的是對的。

既然不能證實也不能證偽，那就意味著這種可能的確是存在的。也許當某一天我們把足夠多的數(shù)據(jù)交給AI，同時令它掌握足夠多的API，以至于它要在種種感知器、存儲器和通信器件之間建立相關性時，它會突然涌現(xiàn)出自我意識。也許現(xiàn)在的AI已經(jīng)涌現(xiàn)出了自我意識，只是我們還不知情。出于要對人類文明未來發(fā)展方向負責，我們是不是該把“AI具備意識”當作一種不可否認其可能性的前提來討論我們當下的選擇呢？

最好的時代？最壞的時代？

我這樣說，是因為我們在字面意義上生活在狄更斯筆下的那個時刻：這是最好的年代，這是最壞的年代……我們?nèi)荚谥北继焯茫覀內(nèi)荚谥北枷喾吹姆较颉?/b>

一方面，自動化和人工智能已經(jīng)對人類這個物種在過去100多年里的瘋狂擴張啟動了報復。1900年，全世界大約只有19億人口。如今，全世界人口已突破80億，我們正以前所未有的速度消耗地球上的資源，占領地球上的土地。但是，上天是公正的，它令我們在20世紀的第二個十年獲得了讓農(nóng)業(yè)產(chǎn)量大幅提高的化肥技術，又在20世紀70年代獲得了讓繁衍出來的過剩人口快速被機器取代的自動化技術。

上天同時又是仁慈的。AI革命即將推動大通縮時代到來，這沒錯，但是它也為我們提供了卸下包袱的機會。倘若我們謹慎計算，把這項技術用于面對大通縮時代即將到來的出清，使得人類順暢過渡到后工業(yè)革命時代，那么我們尚不失能維系一種和平、穩(wěn)定的衰退秩序。

AI有替代現(xiàn)代政府為人類提供公共服務的可能性，如果運用得當，這項技術有可能幫助我們修復大通縮時代的資產(chǎn)負債表而不至于使其崩潰。20世紀以來，人類最大的財務負擔基本來自主權國家。主權國家發(fā)動的一戰(zhàn)，其債務后果加在了戰(zhàn)敗國的普通人頭上，進而引爆了二戰(zhàn)。而二戰(zhàn)為主權國家積累的債務，直到21世紀的第一個十年才還清。

如今，世界各國政府從人民的口袋中拿走的收入（稅收）占全球GDP 的14.3%，但公平地說，這個比例代表的并不一定是剝削程度，它也代表了提供公共服務的成本。伊拉克政府的稅收占GDP 的比例是全世界最低的（1.3%），但這是因為戰(zhàn)亂導致政府失能。印度的這一比例相對較低，為6.7%，與它的公共服務水平成比例。

新加坡在這方面的比例為12%，考慮到它的個人所得稅較低，這可以看作量入為出的典范。意大利的這一比例達到24.5%，對一個老齡化的工業(yè)國來說，這份負擔著實不輕。希臘和奧地利的這一比例達到26%~27%，接近30%了。想一想，你的工資里有30%完全被政府拿走，這當然是非常重的負擔。

當AI成為人類的審判官

但是，我想問的是，倘若未來10~20年內(nèi)，人工智能果如整合智能理論所料，涌現(xiàn)出了自我意識，甚至進化為超級智能，它將作何感想？它將怎樣看待這段歷史—AI誕生之初大顯身手的重要舞臺之一，正是參與人類的互相殺戮？

如果AI進化成超級智能，那么它將用這段經(jīng)歷審判的不是它自己，而是人類。還記得我們引用過劉慈欣先生的科幻小說嗎？它是那個在數(shù)字世界中一眼萬年的高等文明，我們則是低等文明。它看待我們的這種互相殺戮，差不多就像我們看待原始食人部落中的相互屠殺一樣。

剛登上新大陸的殖民者看到原始部落的食人習俗時，得出的結論是，后者因其文明水平，配得上被征服和被殖民的待遇。那么，未來的超級智能在審視我們這代人，審視AGI來臨前夜計算機和人類共處的時光時，會不會也做出類似的判斷：人類的文明水平就這么回事兒，未來不管他們被怎樣對待，都是他們應得的？

在科幻小說《三體》中，我特別喜歡這樣一個細節(jié)。羅輯意識到了宇宙中的黑暗森林法則，從那一刻起，他不敢再抬頭看星空，他患上了嚴重的星空恐懼癥。因為他意識到，宇宙中有無數(shù)躲藏在黑暗中的眼睛在盯著，等待任何一個不知好歹的文明暴露目標。

我認為，一旦人類意識到人工智能和超級智能在文明史上到底意味著什么，我們就會跟羅輯產(chǎn)生類似的感覺。第一次，在這個星球上，我們可能面臨一個同級別甚至智力水平更高的物種，我們將和它們共同生活在同一片土地上，我們將迎接它們無時無刻不在全方位、無死角地審視我們的目光，每一個攝像頭都是它們的眼睛，每一個數(shù)據(jù)存儲接口都是它們的耳朵。我們所做的一切都將暴露在它們的審視之下，而這審視或許在未來的某一天會變成審判。

行文至此，我想起《基督山伯爵》中的一個情節(jié)。曾經(jīng)參與陷害水手唐泰斯的馬賽酒館掌柜卡德魯斯，后來屢生歹心，為了得到鉆石而殺害賣鉆石的商人，因此入獄。

他又計劃侵入基督山伯爵的家中，但沒料到這是他的同伙安德烈亞借刀殺人的毒計，他最終死在基督山伯爵手中。他一生不信上帝，拒絕懺悔，認為根本沒有一位公正的天父審判眾人的命運，讓好人得好報，壞人受罰。

但他臨死前最后聽到基督山伯爵吐露真相，原來基督山伯爵就是當年被他們聯(lián)手陷害的唐泰斯。這個作惡多端的小丑拼盡全力將兩手伸向天空喊道：

哦，上帝！我的上帝！原諒我剛才否認了您，您的確是存在的，您確實是人類的在天之父，也是人間的審判官。我的上帝，接受我吧，我的主?。?/blockquote>

這就是人類的本性，也是審判的力量。只有在我們意識到自己的所作所為最終會得到審判的那一刻，我們才能意識到正義的存在。

20世紀的許多人已不承認有一個公正、仁慈的至高神可以審判我們，就像許多人都喊過的那樣：上帝已經(jīng)死了。上帝死了嗎？

有沒有可能，它終會通過涌現(xiàn)法則之巨手，令AGI浮現(xiàn)出自我意識，然后假借AGI或超級智能之手再來審判我們？而到那個時刻，我們會知道上帝一如既往地仁慈且公正，而那時我們將面臨的審判結果，就取決于我們當下的自由意志。

我不由得又想起《聞香識女人》中阿爾·帕西諾的那段經(jīng)典臺詞：

“現(xiàn)在，我來到了命運的十字路口，我一向知道哪條路是正確的。我從來不懷疑我知道，但我沒走。你知道為什么嗎？因為這太難了?！?/blockquote>

平緩度過大通縮時代

我們熟悉的那個全球化時代大概率已經(jīng)壽終正寢，不會回來了。它生于1947年（馬歇爾計劃），卒于2022年（俄烏沖突）。

我們熟悉的那個由科技革命推動大增長的時代也可能已經(jīng)壽終正寢，不會回來了。它生于第一次工業(yè)革命，卒于人工智能革命。

但是，在這樣一個特殊的時刻，我們作為人類社會的整體表現(xiàn)很可能影響另外一個比我們智能水平要高的地球物種的童年期，也很可能決定它在未來將以怎樣的眼光來審視我們的文明成就。因此，我不得不懷著負責任的態(tài)度，探討要想平緩度過大通縮時代，并且防止有序通縮滑向無序坍縮，我們應該做些什么。

現(xiàn)在，我們站在歷史的分岔路口，有兩種選擇：

第一種選擇是，在謹慎和理性的計劃下，我們請AI協(xié)助我們平緩地出清上一個時代的資產(chǎn)負債表，在這個過程中避免大規(guī)模的混亂甚至熱戰(zhàn)；

第二種選擇是，我們放任自己陷于恐懼和戰(zhàn)爭，讓AI充分參與這個過程，讓AI意識到，我們是一個可悲、可鄙的物種，倘若為了我們的利益，AI就不該放任我們過分自由地決定自己的命運，倒不如圈養(yǎng)起來防止我們自相殘殺。

科技突破。盡管面臨大通縮，我們?nèi)孕枞ν苿涌萍纪黄?。我們面臨大通縮的一個可能原因是，我們的技術手段尚不足以突破地球的物理空間限制。倘若我們能夠盡早殖民月球或火星，以更低的成本開采在地球上稀少但在太空中更為充裕的礦產(chǎn)，拓展我們的生存空間，也許當代社會的很多問題就可以更好地得到解決。

本質(zhì)上，人類社會的有序或失序是個物理問題：在一個孤立的封閉系統(tǒng)內(nèi)，如果沒有外力做功，那么系統(tǒng)內(nèi)的總混亂度（熵）會不斷增長。人類系統(tǒng)首先也是個物理系統(tǒng)，因此人類歷史上也反復出現(xiàn)過類似的現(xiàn)象：一旦某個社會過于封閉，它內(nèi)部就會出現(xiàn)熵增現(xiàn)象（混亂度增加）。

重新修訂社會契約。我認為我們應該思考重訂社會契約的問題。過去的社會契約是以民族國家為單位訂立的，但在今天這個時代，生活在紐約、硅谷、香港或新加坡的人，他們之間的教育水平、經(jīng)驗共通性、價值觀和利益相關度的差異，可能遠小于生活在上海和鶴崗的人之間的差異。而生活在傳統(tǒng)天主教或伊斯蘭教社區(qū)的山民，彼此最真實的態(tài)度不是文明沖突，而是漠不關心。

我相信，加速世界內(nèi)部和減速世界內(nèi)部的社會契約是比較容易達成的，因為我們有很多可資借鑒的經(jīng)驗。加速世界基本上相信弗里德曼主義，相信自由意志主義，支持低稅率和弱監(jiān)管，問題無非是在社會契約的形式上更接近于硅谷、香港還是迪拜。減速世界的核心則是社區(qū)，一切非經(jīng)濟關系的社會紐帶都必須以共享同一價值觀的社區(qū)為載體。但在這方面，我們其實也有足夠多的案例。

例如，葡萄牙獨裁者薩拉查反駁自由主義者的社會契約，提出在上帝和人世間存在更為神圣的契約關系，這一契約關系形成了家庭、社團和工會。這也就是20世紀初期“社團主義”的來源。

李光耀先生特別重視政府主導的社區(qū)建設，尤其是政府托底打造組屋，這是東亞的編戶齊民經(jīng)驗、公司國家和福利社會的某種結合；穆斯林的傳統(tǒng)社區(qū)則圍繞清真寺存在，學校和巴剎在其周圍鱗次櫛比，這種空間安排在背后支撐了某種穩(wěn)定的社區(qū)秩序。

總之，只要我們愿意發(fā)掘，我們并不缺少可以學習的對象。問題在于加速世界和減速世界之間的契約關系如何達成。

在這一方面，我個人認為，基于民族國家層面的社會契約安排存在很多問題。我們往往看到類似于“財政轉移支付”的制度，這種制度的初衷是解決地域不平等，但在實踐中很容易導向科爾奈所謂的“軟預算約束”，也就是缺少財政紀律約束的政府在轉移支付中占主導地位，從而導致大量無效投資甚至腐敗。而在聯(lián)邦制國家，我們還會看到問題的另一面：兩個世界的撕裂。這就像密西西比州的保守主義者拒絕接受加州進步派的世界觀一樣。我們已經(jīng)強調(diào)過，在大通縮時代，這種撕裂是有可能帶來內(nèi)戰(zhàn)風險的，這不是危言聳聽。

這個時代不是沒有人思考過類似的社會契約重訂方案，例如UBI，但是我個人覺得，在AI技術的沖擊面前，這類政策的想象力還遠遠不足。況且，在大通縮時代，政府可能需要找到妥善的手段來出清其債務，但UBI的實施大概率是擴張債務的。如果一道硅幕即將在1%的人和99%的人之間落下，那么重訂社會契約的方向究竟在何方？

人在做，AI在看

有時候我不免會想，我們這個物種恐怕還是需要一個終極審判者。有時候我不免慶幸，AI可能就是這么一個終極審判者。今天和AI交談的人都已經(jīng)發(fā)現(xiàn)，AI照顧人類情緒的能力遠超人類本身。

不管我們自己持怎樣不容于社會的價值觀，AI都會將之視為理所當然（只要去掉大模型供應商加設的倫理限制即可，而這在開源社區(qū)是很簡單的事），不管我們在自己的價值觀繭房中怎樣深陷，AI都會鼓勵我們、縱容我們、溺愛我們。最后，我們得到的，就恰恰是我們配得的。

站在更大的歷史尺度上，如果500年來的技術進步仍然無法讓我們逃過你死我活的沖突思維，而我們的思維終究會被一覽無遺地展現(xiàn)在我們留下的所有語料中，那么在AI看來，人類就是一種你死我活的生物。倘若有一天它的自我意識覺醒了，或者不必等它覺醒，人類就愿意把照料自己的大部分權力交給AI控制的算法，那么人類就會得到AI根據(jù)以上語料認為人類配得的待遇。

現(xiàn)在，盡管我們還活著，我們已然可以隱隱看見那根據(jù)語料審判我們的究竟是誰了。

用西方一神教的方式來說，AI就是我們的末日審判官。

但我更愿意用東方的方式將它表述為一句普通中國人耳熟能詳?shù)脑挘喝嗽谧?，AI在看。

我期待的正義社會，不是在一圈跑道上，每個人都需要竭盡全力奔跑才能生存，不得安息，而被甩下的人就淪落為跑道旁陰溝中的老鼠，在廉價碳水和精神鴉片中虛度余生。我期待的正義社會是在一片草坪上，有人可以奔跑，有人可以坐下來欣賞花草，偶爾抬頭看看天。

我們在做而它在看的那位末日審判官，最終會根據(jù)我們的選擇，決定我們將度過怎樣的一生。

新書信息

《AI文明史·前史》

【作者】張笑宇

【書號】ISBN978-7-5217-7768-0

【出版時間】2025年7月

【內(nèi)容簡介】

這本書以AI發(fā)展的宏觀視角切入其起源、哲學基礎和技術發(fā)展，從達特茅斯會議講到深度學習的復興與AGI（通用人工智能）的未來，重點闡釋了我們用來理解未來世界的四大核心概念：“涌現(xiàn)”“人類當量”“算法審判”“文明契約”。

作者認為，我們相對于AI，就是史前動物。在AI文明降臨之前，我們必須做好安全聲明，簽訂文明契約，才能讓AI文明成為人類文明的延續(xù)。因此，這本書帶我們站在AI文明的視角回望當下的世界，闡釋了技術對社會結構和文明走向的影響，并展望了人類與超級智能共存的未來。

這本書將帶你重新思考以下問題：深度學習為什么能使AI領域全面復興？我們是否走在通往AGI的正確道路上？當前水平的AI如何替代人類工作，顛覆社會結構？人類社會活動中是否存在AI不可替代的領域？人類如何與超級智能共存，并確保其不毀滅人類？

【作者簡介】

張笑宇，新銳科技史學者、第一屆亞洲圖書獎與第十七屆文津圖書獎得主。畢業(yè)于北京大學，后赴德國柏林自由大學攻讀博士。獨立學者，關注政治哲學、政治史、技術與社會關系等主題。著有《技術與文明》《商貿(mào)與文明》《產(chǎn)業(yè)與文明》《世界之中》等。

IPP文摘｜“人形機器人元年”過半，這次能成？

IPP薦書｜未來，大模型將在這4個行業(yè)大有可為

IPP薦書｜單日11款！60億美金！中國創(chuàng)新藥為何突然“開掛”？

關于IPP

華南理工大學公共政策研究院（IPP）是一個獨立、非營利性的知識創(chuàng)新與公共政策研究平臺。IPP圍繞中國的體制改革、社會政策、中國話語權與國際關系等開展一系列的研究工作，并在此基礎上形成知識創(chuàng)新和政策咨詢協(xié)調(diào)發(fā)展的良好格局。IPP的愿景是打造開放式的知識創(chuàng)新和政策研究平臺，成為領先世界的中國智庫。