隨著人工智能技術(shù)突飛猛進(jìn)，其對人類文明的潛在影響已成為全球關(guān)注的焦點(diǎn)。為了更深刻地理解這場正在發(fā)生的變革，我們不能僅限于技術(shù)本身，還需要將視野拓展至歷史、自然科學(xué)乃至古老的神話傳說。2025年7月，蘭德公司高級政治學(xué)家Iskander Rehman在《恩格爾斯貝格觀點(diǎn)》（Engelsberg Ideas）上發(fā)表研究文章《理解人工智能革命》（Making Sense of the AI Revolution）。文章通過引入多學(xué)科的分析框架，探討了超級人工智能（Artificial Superintelligence）的出現(xiàn)可能帶來的機(jī)遇、挑戰(zhàn)與倫理困境。啟元洞見編譯了文章的核心觀點(diǎn)，以供讀者參考。

一、人工智能：

一種比肩“外星智慧”的全新物種

要理解人工智能所帶來的深刻變革和無限潛力，我們需要拓寬自身的知識邊界，將歷史、自然界乃至古代神話納入思考范疇。一個超級人工智能（Artificial Superintelligence）或通用人工智能（Artificial General Intelligence），其能力將超越人類在幾乎所有認(rèn)知領(lǐng)域的能力。這種高級人工智能的出現(xiàn)，或許可以被看作是與發(fā)現(xiàn)先進(jìn)外星智慧最為相似的事件。更重要的是，許多行業(yè)巨頭和預(yù)測平臺認(rèn)為，這種高級人工智能在未來五到十年內(nèi)出現(xiàn)的可能性遠(yuǎn)大于我們一生中發(fā)現(xiàn)外星智慧。

這種與外星智慧的類比乍看之下有些夸張，但實(shí)際上，它遠(yuǎn)沒有我們想象中那么遙不可及。正如許多頂尖技術(shù)專家、倫理學(xué)家和哲學(xué)家所指出的，一種真正意義上的超級智能，其意義將遠(yuǎn)超于一項(xiàng)革命性的通用技術(shù)。從本質(zhì)上講，它的誕生將預(yù)示著一個新物種的出現(xiàn)。這個新物種所擁有的能力，在許多人看來，幾乎是神一般的存在。事實(shí)上，像薩姆·奧爾特曼（Sam Altman）這樣的人工智能創(chuàng)造者和企業(yè)家，經(jīng)常用一種狂喜的、近乎神秘的語言來形容人工智能的“魔力”。

這樣一個范式轉(zhuǎn)變對人類歷史的深遠(yuǎn)影響是毋庸置疑的。然而，預(yù)測其具體走向卻異常困難。人工智能與指揮控制系統(tǒng)的深度融合，是否會顛覆核威懾，將我們推入一個充滿不確定性的新時代？超級人工智能能否治愈癌癥或逆轉(zhuǎn)衰老？它在寫作、地理定位等領(lǐng)域的廣泛應(yīng)用，是會增強(qiáng)我們的集體智慧，還是會像麻省理工學(xué)院最近的一項(xiàng)研究暗示的那樣，將我們個體變成遲鈍的庸人？最重要的問題或許是：我們是否正在不經(jīng)意間創(chuàng)造出一種技術(shù)，其發(fā)展速度不僅超出了我們的理解能力，甚至對人類自身的存續(xù)構(gòu)成了生存威脅？

二、歷史的啟示：

從印刷術(shù)到原子彈的多維類比

沒有任何單一的學(xué)科，無論是人文學(xué)科還是硬科學(xué)，能夠幫助我們完全理解后超級人工智能時代即將到來的新世界。我們必須借鑒多種學(xué)科的智慧，而歷史研究在此刻尤為重要。歷史類比雖有其局限性，但能夠?yàn)槲覀兲峁徱曔^往技術(shù)變革的寶貴視角，并提出新的問題。

在所有充滿不確定性的時期，那些被人工智能發(fā)展速度所吸引或驚恐的評論家們，總是本能地訴諸歷史，急切地尋求各種歷史類比。

有人提到了15世紀(jì)中葉古騰堡發(fā)明的活字印刷術(shù)，及其對歐洲信息生產(chǎn)和傳播方式的徹底革新。就像今天的人工智能一樣，知識的突然井噴和信息的廣泛傳播也伴隨著陰暗面。印刷革命雖然加速了創(chuàng)新，但也助長了虛假信息的傳播，極大地擴(kuò)展了國家宣傳的影響力，為16、17世紀(jì)歐洲可怕的宗教戰(zhàn)爭火上澆油。正如歷史學(xué)家Alexander Lee所記錄的，文藝復(fù)興時期一些保守的文人對印刷術(shù)抱有毫不掩飾的敵意，將其視為虛假信息之源、公共道德的威脅，甚至是對知識的普遍貶低。

另一些當(dāng)代政策制定者和評論家則更傾向于援引19世紀(jì)末期內(nèi)燃機(jī)的例子，及其在推動工業(yè)革命中的關(guān)鍵作用。政治學(xué)家、美國前國防部官員邁克爾·霍洛維茨（Michael Horowitz）認(rèn)為，作為一種“賦能者”和“具有多種應(yīng)用的通用技術(shù)”，人工智能“更像是內(nèi)燃機(jī)或電力，而非武器”。如果我們要繼續(xù)使用機(jī)械隱喻，我們甚至可以追溯到18世紀(jì)初蒸汽泵的發(fā)明。正如喬治·穆瑟（George Musser）所指出的，這些發(fā)明是“修修補(bǔ)補(bǔ)和實(shí)驗(yàn)的產(chǎn)物”，而非源于“對熱力學(xué)的深入理解”。然而，它們最終卻成為了“無數(shù)其他工業(yè)革命必要進(jìn)步的催化劑”。

與此同時，還有一些專家將核武器的誕生與通用人工智能的潛在來臨進(jìn)行類比。他們認(rèn)為，從曼哈頓計劃、美國短暫的核壟斷期，到冷戰(zhàn)時期威懾理論的復(fù)雜性，原子時代的種種教訓(xùn)或許能為我們理解超級智能人工智能的機(jī)遇與風(fēng)險提供啟示。

當(dāng)然，這些類比都有其局限性。內(nèi)燃機(jī)和蒸汽機(jī)是純粹的物理和機(jī)械技術(shù)，而人工智能雖然嚴(yán)重依賴大規(guī)模能源和計算基礎(chǔ)設(shè)施，但其本質(zhì)是軟件驅(qū)動的。印刷機(jī)復(fù)制人類創(chuàng)作的文本，而人工智能可以生成全新的內(nèi)容。與核技術(shù)相比，人工智能的另一個顯著區(qū)別在于，一個主權(quán)國家難以將其完全“武器化”，并確保其與國家目標(biāo)完全兼容。

但這些吹毛求疵的批評者們可能忽略了關(guān)鍵點(diǎn)。歷史類比不應(yīng)被視為完美無缺、可以生搬硬套的模板。相反，它們應(yīng)該被看作是“強(qiáng)大的工具，使決策者能夠?qū)?dāng)下與過去進(jìn)行比較，以從中吸取經(jīng)驗(yàn)教訓(xùn)，從而為他們的判斷提供信息”。歷史的洞察力教會我們?nèi)グl(fā)現(xiàn)新的問題，而不是去尋找現(xiàn)成的答案。一個敏銳的歷史視角能幫助政策制定者在不確定和動蕩時期，通過“將不熟悉的事物視為熟悉”來更好地駕馭局面。

正如諾貝爾經(jīng)濟(jì)學(xué)獎得主達(dá)龍·阿西莫格魯（Daron Acemoglu）所言，人工智能的影響將是多方面的，這種新興技術(shù)可能融合了“印刷機(jī)、蒸汽機(jī)和原子彈的某些特質(zhì)，形成一種雜亂無章的混合體”。換言之，將多種類比編織在一起，可能比依賴單一的類比更能幫助我們理解人工智能的復(fù)雜性。

三、重新定義智能：

從自然界尋找啟示

除了研究歷史，關(guān)注人工智能的人們也應(yīng)該花更多時間在自然和進(jìn)化科學(xué)上。近年來，非人類認(rèn)知領(lǐng)域的新進(jìn)展，從烏鴉、蜘蛛到頭足類動物甚至黏菌，正在從根本上挑戰(zhàn)我們長期以來關(guān)于智能邊界和含義的假設(shè)。當(dāng)像微軟的穆斯塔法·蘇萊曼（Mustafa Suleyman）這樣的行業(yè)領(lǐng)袖開始公開將人工智能稱為一種新的“數(shù)字物種”時，我們應(yīng)該超越狹隘的“人類中心主義”認(rèn)知評估。

我們可以從自然界中找到許多例子?？茖W(xué)家們發(fā)現(xiàn)，極其復(fù)雜的認(rèn)知形式可以從完全不同的神經(jīng)結(jié)構(gòu)（例如章魚的分布式神經(jīng)節(jié)）和相對較小甚至罌粟籽大小的大腦（例如普通烏鴉或微小的昆孔蛛）中產(chǎn)生。更令人驚訝和富有爭議的是，無腦甚至單細(xì)胞生物似乎也能表現(xiàn)出學(xué)習(xí)和解決問題的能力。例如，植物雖然沒有大腦，但它們擁有復(fù)雜的內(nèi)部信號網(wǎng)絡(luò)（電化學(xué)和激素），以及分散的感應(yīng)結(jié)構(gòu)。查爾斯·達(dá)爾文在1880年就曾提出，植物的根尖幾乎“像低等動物的大腦，接收來自感覺器官的印象，并指揮各種運(yùn)動”，這在當(dāng)時是頗具前瞻性的想法。

同樣，不起眼的黏菌可以解決迷宮問題，預(yù)測周期性事件，并在細(xì)胞層面?zhèn)鬟f習(xí)得性知識。它已成為在沒有神經(jīng)元的情況下研究原始認(rèn)知行為的模式生物。還有研究表明，樹木可以通過菌根網(wǎng)絡(luò)（真菌網(wǎng)絡(luò)）釋放化學(xué)信號，向附近的其他樹木“警告”捕食性昆蟲或食草動物的威脅。

這些來自植物智能的教訓(xùn)，比如將“生長”作為一種策略、模塊化響應(yīng)和局部決策節(jié)點(diǎn)，正在被轉(zhuǎn)化為工程原理，用于設(shè)計需要在不可預(yù)測、非結(jié)構(gòu)化環(huán)境中運(yùn)行的機(jī)器人。一個有趣的項(xiàng)目開發(fā)出一種像藤蔓一樣“生長”的軟體機(jī)器人，它通過模仿植物行為來尋找支撐結(jié)構(gòu)和穿越雜亂空間，利用車載3D打印技術(shù)添加材料。同樣，無人機(jī)工程師長期以來借鑒鳥類學(xué)或蜜蜂學(xué)（昆蟲學(xué)中專門研究蜜蜂的分支）來開發(fā)群體算法。章魚柔軟靈活的觸手也為新一代軟體機(jī)器人提供了靈感，使其能夠擠進(jìn)狹小空間并靈巧地操作物體。

然而，除了簡單地利用自然界的洞察力來優(yōu)化機(jī)器人性能，人工智能開發(fā)者還應(yīng)從更廣闊的非人類智能視角中汲取教訓(xùn)，而這或許有著更深層次的意義。最值得注意的是，這種視角可以帶來一種必要的謙遜和謹(jǐn)慎態(tài)度，幫助我們更好地理解一個真正先進(jìn)的人工智能將如何產(chǎn)生和運(yùn)作。一些專家認(rèn)為，人工智能的發(fā)展速度和固有的不可預(yù)測性，可能會導(dǎo)致一個“人工智能的寒武紀(jì)大爆發(fā)”。這個類比雖然并不完美，但它反映了這樣一種預(yù)期：就像寒武紀(jì)時期多樣化生命形式的爆發(fā)一樣，我們可能會在相對短的時間內(nèi)看到各種各樣的人工智能系統(tǒng)涌現(xiàn)，它們的能力、行為和應(yīng)用將截然不同。

著名的靈長類動物學(xué)家弗朗斯·德瓦爾（Frans de Waal）創(chuàng)造了“擬人否定”（anthropodenial）一詞，來描述先驗(yàn)地拒絕承認(rèn)其他生物擁有類人特征（包括認(rèn)知能力）的行為。如果我們拒絕考慮新興人工智能系統(tǒng)可能獲得的多種智能形式——無論是分散式、具身化還是分布式，我們就有可能陷入另一種同樣狹隘的偏見。從在圍棋游戲中下出前所未有的棋步，到發(fā)展出遠(yuǎn)超設(shè)計預(yù)期的感覺運(yùn)動智能，人工智能系統(tǒng)不斷展示出其非同尋常的創(chuàng)造力。這些系統(tǒng)的成功并非因?yàn)樗鼈兿袢祟愐粯印八伎肌?，而是因?yàn)楣こ處焸兾茨茴A(yù)見到它們解決問題的“異類”方式。正如一位頂尖的人工智能研究人員所言，我們應(yīng)該將“試圖解釋一個機(jī)器學(xué)習(xí)模型，視為試圖解釋另一個物種或外星人的腦電波”。鑒于我們對地球上可能存在的智能形式的直覺是如此有限，更密切地關(guān)注自然界無疑是明智的第一步。

四、神話的警示：

技術(shù)傲慢與失控的古老主題

當(dāng)談到圍繞超級人工智能創(chuàng)造的那些更具曲折性的道德或倫理困境時，我們應(yīng)該訴諸何種知識體系或?qū)W科？在這種語境下援引神話，而非哲學(xué)或道德心理學(xué)，可能顯得奇怪甚至不切實(shí)際。畢竟，正如哲學(xué)家卡爾·波普爾（Karl Popper）所寫：“科學(xué)必須始于對神話的批判”。然而，在這種特殊情況下，重新審視古典神話中那些強(qiáng)大的主題和教訓(xùn)，或許能成為我們理解科學(xué)即將向這個世界釋放出什么的最有效方式之一。

數(shù)千年來，神話的警示和教誨故事一直是重要的社會工具，為社會提供了結(jié)構(gòu)、倫理意義和凝聚力。神話中許多永恒的主題，例如關(guān)于傲慢和技術(shù)過度擴(kuò)張的危險、對禁忌知識的渴望，以及在追求力量過程中失控所帶來的生存威脅，都與當(dāng)前圍繞人工智能的討論完美契合。它們?yōu)檫@個日益由工程師主導(dǎo)、缺乏人文學(xué)科滋養(yǎng)的人工智能對齊世界，提供了一系列方便、易于理解的“思想實(shí)驗(yàn)”。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點(diǎn)，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er