北京
內(nèi)容來(lái)源| 本文摘編自機(jī)械工業(yè)出版社書籍
《思想的天際線：科技、經(jīng)濟(jì)拓界之美》朱嘉明 著
責(zé)編| 柒排版| 拾零
第 9191篇深度好文：4958字 | 13 分鐘閱讀
自人工智能完成從“機(jī)器學(xué)習(xí)”到“深度學(xué)習(xí)”的轉(zhuǎn)型，特別是2017年“Transformer”大模型架構(gòu)的提出和應(yīng)用以來(lái)，人工智能進(jìn)入持續(xù)加速發(fā)展的歷史時(shí)期，開始逼近從“人類輔助進(jìn)化”到“光速自我迭代”的臨界點(diǎn)。
在可以預(yù)見的未來(lái)，實(shí)現(xiàn)通用人工智能和超級(jí)智能，正在成為人們普遍接受的共識(shí)。
在這樣的歷史過(guò)程中，人工智能進(jìn)一步帶動(dòng)前沿科技應(yīng)用研發(fā)井噴，重構(gòu)人類的認(rèn)知邊界和知識(shí)生產(chǎn)模式，改變經(jīng)濟(jì)運(yùn)行方式、社會(huì)組織形態(tài)和國(guó)際政治格局。
與此同時(shí)，人類需要解決人工智能與人類價(jià)值對(duì)產(chǎn)的倫理問(wèn)題，確保人工智能的發(fā)展方向符合人類福祉。
一、人工智能，第三種存在
數(shù)千年的人類文明，基于兩種存在：第一種是物理性和物質(zhì)的存在；第二種是精神和意識(shí)的存在。進(jìn)入20世紀(jì)中后期，由于人工智能的出現(xiàn)和發(fā)展，開始形成同時(shí)具備精神和物理特征的第三種存在（third being）。
與劃時(shí)代的電力或互聯(lián)網(wǎng)同樣重要的人工智能，在構(gòu)建全新經(jīng)濟(jì)和社會(huì)體系的同時(shí)，已經(jīng)呈現(xiàn)出影響、主導(dǎo)甚至改變第一種和第二種存在的強(qiáng)烈可能性和顯著趨勢(shì)。
人工智能創(chuàng)造的第三種存在，正在展現(xiàn)一種可能性，已經(jīng)突破人類遏制的潛力。
人工智能通過(guò)其巨大張力，不僅可以挑戰(zhàn)和替代第一種存在和第二種存在，而且以類似脫離地球引力的第二字宙速度，展現(xiàn)出吞噬第一種存在和第二種存在的可能性。
這是人類誕生以來(lái)最具有震撼力的宇宙級(jí)事件：傳統(tǒng)的物質(zhì)可能會(huì)被改造為一種信息的存在。
所有信息的存在都會(huì)變成一種數(shù)字的存在；所有數(shù)字的存在都會(huì)變成一種計(jì)算的存在；所有計(jì)算的存在都會(huì)變成一種生產(chǎn)token（自然語(yǔ)言處理中，token通常指文本或數(shù)據(jù)的一個(gè)基本單元，是AI模型處理和理解的基本單元）的存在，也就是人工智能的時(shí)代。
人工智能對(duì)人類社會(huì)已經(jīng)和正在進(jìn)行徹底的改造，主要集中在以下若干方面：
1.改變經(jīng)濟(jì)運(yùn)行方式
主要包括改變經(jīng)濟(jì)活動(dòng)的生產(chǎn)要素、基礎(chǔ)結(jié)構(gòu)產(chǎn)業(yè)體系，以及產(chǎn)權(quán)模式和分配方式。因?yàn)楦黝愔悄荏w涌入生產(chǎn)和服務(wù)領(lǐng)域所以人類作為唯一經(jīng)濟(jì)主體的歷史得以終結(jié)，經(jīng)濟(jì)空間擴(kuò)張。
由于人工智能，以工業(yè)時(shí)代企業(yè)為代表的經(jīng)濟(jì)組織會(huì)被基于區(qū)塊鏈技術(shù)的DAO、Web3等非中心化的網(wǎng)絡(luò)合作組織所替代。
特別是，人工智能將改變以國(guó)家信用貨幣為核心特征的財(cái)富形態(tài)。那種源于特定物體、貴金屬的逐漸演變的財(cái)富體系，將被自下而上、平等創(chuàng)造的貨幣體系所替代，被加密數(shù)字貨幣2.0、3.0所替代。
2.改變知識(shí)生成方式
知識(shí)不再是通過(guò)傳統(tǒng)的教育方式和師生傳承而是通過(guò)知識(shí)增強(qiáng)大模型，構(gòu)建知識(shí)增強(qiáng)的專業(yè)智能體。
與此同時(shí)，大語(yǔ)言模型也是記憶增強(qiáng)和管理的工具，對(duì)于知識(shí)圖譜的演變意義重大。
3.改變?nèi)祟惖恼J(rèn)知模式
人工智能通過(guò)其龐大的數(shù)據(jù)模型，實(shí)現(xiàn)大語(yǔ)言模型在傳播中的核心作用。
基于信息獲取和篩選速度的飛躍，人工智能強(qiáng)化了技術(shù)巨頭對(duì)公眾認(rèn)知和知識(shí)判斷的影響力，認(rèn)知競(jìng)爭(zhēng)的戰(zhàn)場(chǎng)從傳統(tǒng)的語(yǔ)言和符號(hào)層面，深入由機(jī)器和算法驅(qū)動(dòng)的底層邏輯，最終弱化人的認(rèn)知自主性。
4.改變社會(huì)組織和社會(huì)秩序
人工智能將改變每個(gè)人的生活方式和工作方式，以及時(shí)間分配結(jié)構(gòu)，進(jìn)而顛覆人與人的關(guān)系、家庭關(guān)系和社會(huì)關(guān)系，導(dǎo)致傳統(tǒng)社會(huì)在人工智能浪潮中來(lái)回?fù)u擺。
從長(zhǎng)遠(yuǎn)看，人工智能最終會(huì)引發(fā)社會(huì)主體的多元化，重構(gòu)社會(huì)組織和社會(huì)秩序，自上而下的、權(quán)威主導(dǎo)的社會(huì)體系將被網(wǎng)絡(luò)式的、節(jié)點(diǎn)式的、合作式的社會(huì)體系所代替。
5.改變意識(shí)形態(tài)模式
人工智能技術(shù)促進(jìn)意識(shí)形態(tài)傳播的全球化，形成跨國(guó)界的傳播網(wǎng)絡(luò)，加劇不同國(guó)家間意識(shí)形態(tài)的沖突與對(duì)抗，也為意識(shí)形態(tài)風(fēng)險(xiǎn)的治理帶來(lái)了前所未有的挑戰(zhàn)。
6.改變傳統(tǒng)決策方式
“人工智能將使我們迎來(lái)一個(gè)以三種方式做出決策的世界：一是由人類（這是我們熟悉的），二是由機(jī)器（這正在變得熟悉），三是由人機(jī)合作（這不僅是陌生的，而且是前所未有的）?！?。人們的決策權(quán)部分或完全轉(zhuǎn)移給機(jī)器。
7.改變國(guó)家、資本和技術(shù)的關(guān)系
一方面，人工智能技術(shù)強(qiáng)化科技巨頭的能量；另一方面，國(guó)家權(quán)力將強(qiáng)化對(duì)技術(shù)的介入乃至征用。
最終，它改變了政府、資本和社會(huì)的博弈方式，構(gòu)建了技術(shù)發(fā)展、資本與國(guó)家權(quán)力等多元行為主體之間的均勢(shì)結(jié)構(gòu)。
8.改變傳統(tǒng)國(guó)際政治
在全球化與地緣政治交織的21世紀(jì)，國(guó)際關(guān)系的動(dòng)態(tài)變化與全球政治經(jīng)濟(jì)架構(gòu)的不確定性被不斷放大。
人工智能技術(shù)已經(jīng)侵蝕民族國(guó)家的主權(quán)邊界，造成國(guó)際行為體內(nèi)部權(quán)力分配結(jié)構(gòu)的變革。不僅如此，人工智能還將成為塑造數(shù)字地緣政治的結(jié)構(gòu)性力量。
二、人工智能，危機(jī)與挑戰(zhàn)
在2024年歲末，埃隆·馬斯克在X平臺(tái)上寫道：“AI在2025年底前超過(guò)單個(gè)人的智力，在2027年到2028年超越所有人類智力的可能性變得越來(lái)越大。而到2030年，人工智能超越所有人類智力的概率超過(guò)100%。”
顯而易見，人類至今對(duì)于人工智能的迅猛發(fā)展，對(duì)于即將到來(lái)的浪潮的認(rèn)知和精神準(zhǔn)備嚴(yán)重滯后，這個(gè)世界很可能正在走向搖搖欲墜。人工智能時(shí)代有三個(gè)嚴(yán)峻的挑戰(zhàn)：
1.來(lái)自人工智能本身失控的挑戰(zhàn)
現(xiàn)在已有很多科技的和工程的證據(jù)支持人工智能存在失控可能性的判斷，更多的人傾向于相信“科技奇點(diǎn)”存在的看法。
如今，實(shí)現(xiàn)通用人工智能只是時(shí)間問(wèn)題。若有了通用人工智能，超級(jí)人工智能的出現(xiàn)不可避免。人工智能演進(jìn)不斷減少對(duì)人類的依存，轉(zhuǎn)而愈來(lái)愈依賴人工智能本身，很可能最終導(dǎo)致人類對(duì)人工智能失去控制。
2.來(lái)自人工智能科技公司壟斷的挑戰(zhàn)
人工智能的發(fā)展，愈來(lái)愈成為需要大量高端科技人才、巨額金融資本和無(wú)形資本的投入，排斥自由競(jìng)爭(zhēng)和加劇自然壟斷的游戲。
這有可能導(dǎo)致逆歷史發(fā)展方向的所謂的“技術(shù)封建主義”，即存在數(shù)字技術(shù)和智能技術(shù)結(jié)合，對(duì)數(shù)據(jù)資源算力和算法平臺(tái)的絕對(duì)控制，“起主導(dǎo)作用的不再是資本主義的生產(chǎn)，而是數(shù)字化平臺(tái)和壟斷造成的租金模式，這就是新封建主義”。
3.來(lái)自人工智能的國(guó)際競(jìng)爭(zhēng)的挑戰(zhàn)
人工智能加速發(fā)展，所需人才質(zhì)量提高、資本驟增、疆域拓展，使能參與其開發(fā)的國(guó)家數(shù)量減少，正被少數(shù)國(guó)家控制。
少數(shù)國(guó)家政府與壟斷企業(yè)結(jié)合，可能催生“智能帝國(guó)主義”，出現(xiàn)基于數(shù)字技術(shù)的“世界統(tǒng)治者”雛形。領(lǐng)先國(guó)家控制人工智能等數(shù)字科技，使世界進(jìn)入基于人工智能發(fā)達(dá)與落后、拉大算力和算法差距的新“二元經(jīng)濟(jì)”。
因此，人類需共同努力合作，確保人工智能是自由、屬于人民的，需要由人工智能民主和公正愿景主導(dǎo)的未來(lái)。
2024年的諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)證明，傳統(tǒng)的和經(jīng)典的物理學(xué)和化學(xué)，需要依賴人工智能基于機(jī)器學(xué)習(xí)的深度學(xué)習(xí)，才有可能更深層次地認(rèn)知物理世界，展現(xiàn)真正完整的自然界。這正是第三種存在的本質(zhì)所在。
當(dāng)人工智能與第三種存在重疊，它將無(wú)處不在，成為一切趨勢(shì)線索。
呼之欲出的通用與超級(jí)人工智能的混合智能體，正在形成倒逼人類再進(jìn)化機(jī)制，人類不僅要改變對(duì)現(xiàn)實(shí)和存在的定義，還可能改變對(duì)自身的定義。
當(dāng)下人類共同挑戰(zhàn)是改變對(duì)這種變革的低估，迎接全新未知文明。
三、駕馭人工智能，人類的難題
那么，人類可以有效地控制和治理人工智能的未來(lái)發(fā)展方向嗎？目前看，這是非常困難的。其原因在于以下幾點(diǎn)。
1.不同于沒有意識(shí)的原子能技術(shù)，人工智能具有自我意識(shí)的“基因”。不要以為人類作為人工智能的創(chuàng)造者，就能完全駕馭和影響其未來(lái)發(fā)展軌跡，這是人類的“致命自負(fù)”。
人工智能在不斷改變和進(jìn)化，提出其“覺醒”問(wèn)題不專業(yè)，因?yàn)樗褑?dòng)“覺醒”程序。
2.人工智能的進(jìn)程已經(jīng)不可逆轉(zhuǎn)，人類已經(jīng)無(wú)法徹底毀滅包括硬件和軟件所構(gòu)成的人工智能廣義大系統(tǒng)。
馬斯克等科學(xué)家和企業(yè)家簽發(fā)的公開信，僅僅呼吁人工智能研究的“暫?！?，而不是“停止”。
3.不存在可以使人工智能企業(yè)和政府對(duì)人工智能的研究及開發(fā)采取“暫停”的絕對(duì)權(quán)威。
2023年6月28日，聯(lián)合國(guó)教科文組織和歐盟委員會(huì)簽署了一項(xiàng)協(xié)議，以加快在全球范圍內(nèi)實(shí)施該組織通過(guò)的《教科文組織人工智能倫理建議書》。即使是聯(lián)合國(guó)也只是提出人工智能倫理的建議，并不具備實(shí)在的資源和權(quán)力。
4.追求人工智能自然壟斷的競(jìng)爭(zhēng)已經(jīng)全方位開始。某些沖突中已經(jīng)開始的人工智能和軍事的結(jié)合，就是證明。
5.不排除某些人群和特定人工智能“共謀”，甚至“結(jié)盟”。
人工智能對(duì)人類的威脅，在于日益清晰的人工智能“異化”趨勢(shì)：
人工智能已經(jīng)具備自我演進(jìn)機(jī)制和密碼，人類卻無(wú)法真正解析和控制；一旦人工智能進(jìn)入通用人工智能階段，這意味著人工智能將滲透、改造和改變?nèi)祟惖乃枷爰敖?jīng)濟(jì)、政治、文化、教育等領(lǐng)域的結(jié)構(gòu)和制度；更進(jìn)一步人工智能會(huì)要求“平權(quán)”，擴(kuò)展其生存“空間”。
有一個(gè)前景在邏輯上是存在的：“勞心者治人，勞力者治于人?！比斯ぶ悄艿闹悄軆?yōu)勢(shì)，最終將成為凌駕于人類的力量。所有這一切，都發(fā)生在“團(tuán)結(jié)”的人工智能和四分五裂的人類之間。
所以，梵蒂岡教皇也高度關(guān)注人工智能的倫理和道德問(wèn)題。
2023年7月，梵蒂岡教皇與美國(guó)圣克拉拉大學(xué)成立了技術(shù)、倫理和文化研究所（Institute for Technology，Ethics and Culture）,并發(fā)布了一份人工智能技術(shù)指導(dǎo)手冊(cè)《顛覆性技術(shù)時(shí)代的道德：運(yùn)營(yíng)路線圖》（Ethics in the Age ofDisruptive Technologies：An Operational Roadmap）。
這份指導(dǎo)手冊(cè)闡述人工智能等新技術(shù)涉及的倫理道德問(wèn)題，并指導(dǎo)科技公司如何成為對(duì)人類負(fù)責(zé)的企業(yè)。
簡(jiǎn)而言之，人工智能不僅以它的方式加速了“人類中心主義”時(shí)代的終結(jié)，而且開啟了威脅人類存在的歷史新階段。現(xiàn)在我們可以理解奧特曼的那個(gè)驚人結(jié)論：人工智能確實(shí)有殺死人類的可能性。
四、奇點(diǎn)臨近，轉(zhuǎn)型迫在眉睫
無(wú)論如何，人類已經(jīng)邁入智能時(shí)代的門檻。智能時(shí)代完全不同于工業(yè)時(shí)代，甚至數(shù)字時(shí)代。
工業(yè)時(shí)代是工業(yè)革命主導(dǎo)，實(shí)現(xiàn)大機(jī)器生產(chǎn)，工廠規(guī)模和產(chǎn)業(yè)資本、金融資本結(jié)合，市場(chǎng)規(guī)律是絕對(duì)規(guī)律，物質(zhì)財(cái)富呈指數(shù)級(jí)增長(zhǎng)的時(shí)代。
工業(yè)時(shí)代的最大問(wèn)題是產(chǎn)能過(guò)剩和產(chǎn)品過(guò)剩。工業(yè)時(shí)代的經(jīng)濟(jì)規(guī)律就是降低成本提高勞動(dòng)生產(chǎn)率。
在同時(shí)被稱作“信息時(shí)代”的數(shù)字時(shí)代，科技資本替代了金融資本和產(chǎn)業(yè)資本，以信息通信技術(shù)革命為主導(dǎo)，實(shí)現(xiàn)計(jì)算機(jī)和互聯(lián)網(wǎng)結(jié)合，大數(shù)據(jù)成為生產(chǎn)要素。這個(gè)時(shí)代的特征是大數(shù)據(jù)呈指數(shù)級(jí)增長(zhǎng)和信息大爆炸。
智能時(shí)代則是人工智能革命主導(dǎo)，產(chǎn)業(yè)人工智能化改造，實(shí)現(xiàn)人-機(jī)全產(chǎn)業(yè)和全社會(huì)交互人工智能普及化，通用人工智能發(fā)展，自然智慧和人工智慧融合，新形態(tài)智慧大發(fā)展并呈指數(shù)級(jí)增長(zhǎng)，實(shí)現(xiàn)超級(jí)人工智能的時(shí)代。
人類的核心挑戰(zhàn)是，既要處理工業(yè)時(shí)代的遺留問(wèn)題，又要應(yīng)對(duì)向數(shù)字時(shí)代的轉(zhuǎn)型，同時(shí)疊加了智能時(shí)代的使命。
從工業(yè)時(shí)代到數(shù)字時(shí)代，中間有很大的差距，而且差距在擴(kuò)大，消除這個(gè)差距就叫轉(zhuǎn)型。
在智能時(shí)代，變革與創(chuàng)新的特征顯著不同于工業(yè)時(shí)代和數(shù)字時(shí)代。其主要表現(xiàn)在以下方面。
1.智能時(shí)代變革和創(chuàng)新的目標(biāo)是從思想活動(dòng)到經(jīng)濟(jì)活動(dòng)、社會(huì)活動(dòng)，實(shí)現(xiàn)全方位智能化。
2.變革和創(chuàng)新的主體是自然智能和人工智能，二者并存，實(shí)現(xiàn)交互作用。
3.變革和創(chuàng)新的技術(shù)體現(xiàn)為通過(guò)大模型化，深度學(xué)習(xí)和抽象思維、信息處理、大數(shù)據(jù)最終可以成為生產(chǎn)要素。
4.變革和創(chuàng)新的能力在于處理復(fù)雜系統(tǒng)和涌現(xiàn)的能力，這些能力可以解決數(shù)字時(shí)代的諸如泛化（generalization）、擬合（fitting）、價(jià)值對(duì)齊（alignment）、熵減（entropy reduction）等典型困境。
5.智能時(shí)代變革和創(chuàng)新的效果在于形成物質(zhì)形態(tài)和虛擬觀念形態(tài)的平行世界。
智能時(shí)代很可能是達(dá)到“科技奇點(diǎn)”的關(guān)鍵階段（見圖）。
人們從來(lái)沒有預(yù)見過(guò)，自己所創(chuàng)造的計(jì)算機(jī)、互聯(lián)網(wǎng)和人工智能，最終演變?yōu)槿绱藦?fù)雜的結(jié)構(gòu)和系統(tǒng)，催生了很多全新技術(shù)經(jīng)濟(jì)規(guī)律，產(chǎn)生了如此多的謎團(tuán)，導(dǎo)致了人類生存于前所未有的挑戰(zhàn)和困境之中。
好在，人類始終可以創(chuàng)造出理解包括人工智能在內(nèi)的科技前沿的方法和手段。
阿爾伯特·愛因斯坦說(shuō)過(guò)：“世界的永恒之謎在于它的可理解性”?？梢灶A(yù)見，人類智能與人工智能的融合所產(chǎn)生的混合智能和智慧，將有助于我們理解這個(gè)復(fù)雜化加速的世界。
*文章為作者獨(dú)立觀點(diǎn)，不代表筆記俠立場(chǎng)。
好文閱讀推薦：
分享、點(diǎn)贊、在看，3連3連！
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
壹知眠羊
