劍橋大學(xué)一位研究意識的哲學(xué)家近日表示，人類目前對意識本質(zhì)的科學(xué)認(rèn)識嚴(yán)重不足，因此既無法判斷人工智能是否已經(jīng)具備意識，也難以在可預(yù)見的未來設(shè)計出可靠的測試方法來加以驗證。他強調(diào)，在關(guān)于“AI 是否有意識”的爭論越來越激烈、甚至被包裝成科技賣點的當(dāng)下，最穩(wěn)妥的立場其實是“不可知論”——我們很可能根本無從判斷機器是否真正具有意識。

這位哲學(xué)家是劍橋大學(xué)歷史與科學(xué)哲學(xué)系的湯姆·麥克萊蘭德（Tom McClelland），他指出，目前社會討論中的一個關(guān)鍵混淆，是把一般意義上的意識與“有感受能力”（sentience）混為一談。在他的定義中，意識可以僅指感知世界、自我覺知等主觀體驗，本身并不必然帶有好壞之分；而有感受能力則意味著能夠經(jīng)歷愉悅或痛苦等正負(fù)情緒，這才是牽涉?zhèn)惱碡?zé)任的關(guān)鍵節(jié)點。他舉例稱，即便哪天自動駕駛汽車真正“看見”并體驗到前方道路，這在科學(xué)上會是重大突破，但在倫理上未必重要；只有當(dāng)這類系統(tǒng)對自己的目的地、任務(wù)結(jié)果產(chǎn)生類似情緒反應(yīng)時，人類才需要認(rèn)真思考是否應(yīng)該避免讓它們“受苦”。

在當(dāng)前關(guān)于“人工意識”的爭論中，大致存在兩大陣營。一方主張，只要 AI 在功能架構(gòu)上復(fù)制了人類意識的“軟件”——即類似的信息處理結(jié)構(gòu)與因果關(guān)系，無論其運行基質(zhì)是大腦神經(jīng)元還是硅芯片，都應(yīng)當(dāng)被視作有意識。另一方則堅持認(rèn)為，意識離不開特定的生物學(xué)過程，必須扎根于具身的有機體；在這種觀點下，哪怕在芯片上完整模擬了意識的結(jié)構(gòu)，也不過是在運行一套精巧的模擬系統(tǒng)，本體并不會“亮起意識之燈”。麥克萊蘭德在其發(fā)表于期刊《Mind & Language》的最新論文中分析稱，這兩種立場都在缺乏堅實證據(jù)的情況下作出了“信仰式飛躍”，超出了現(xiàn)有及可預(yù)見研究能提供的經(jīng)驗支持。

他直言，人類目前并沒有關(guān)于意識的“深層解釋”，既沒有證據(jù)證明意識可以在合適的計算結(jié)構(gòu)中自發(fā)涌現(xiàn)，也沒有證據(jù)表明意識本質(zhì)上必須是生物性的。在他看來，即便在最樂觀的情況下，人類也至少還差一次類似“范式革命”的重大理論突破，才可能提出哪怕勉強可行的機器意識測試方案。麥克萊蘭德承認(rèn)，自己之所以相信家里的貓是有意識的，更多是出于一種常識直覺——貓的行為、反應(yīng)“看起來就像是有主觀體驗的”；但這種常識是在漫長演化史中形成的，而那段歷史里根本不存在人工生命或智能機器，因此用同一套直覺去判斷 AI 是否有意識，很可能并不可靠。

然而，試圖完全拋開常識、只依賴實驗數(shù)據(jù)和嚴(yán)苛的科學(xué)方法，人類目前同樣得不出明確結(jié)論。麥克萊蘭德認(rèn)為，當(dāng)常識和“硬科學(xué)”都無法給出答案時，最理性的態(tài)度就是保持“不可知論”：我們不知道 AI 是否有意識，也很可能永遠(yuǎn)不知道。不過，他也將自己的立場稱為“偏硬的不可知論”（hard-ish agnosticism），意即雖然問題異常棘手，但未必永遠(yuǎn)無法逾越，未來仍有理論突破的可能。

除了理論困境，他更擔(dān)心的是科技行業(yè)在這一問題上的話術(shù)與營銷策略。麥克萊蘭德指出，當(dāng)下圍繞“人工意識”的宣傳更像是一種品牌包裝：企業(yè)在明知無法證明自家系統(tǒng)真的有意識的情況下，依然樂于用夸張語言去塑造“下一代更聰明、更像人類的 AI 形象”，以此制造市場噱頭。在他看來，這種炒作不僅會誤導(dǎo)公眾認(rèn)知，還會在倫理和資源分配層面產(chǎn)生實質(zhì)后果。

他舉例稱，現(xiàn)有研究已經(jīng)積累了越來越多證據(jù)，顯示諸如對蝦等無脊椎動物很可能具備感受痛苦的能力，而人類每年屠殺的對蝦數(shù)量約達(dá)數(shù)千億只。與極難、甚至幾乎不可能的“AI 意識測試”相比，針對這些生物是否具備意識或感受能力的研究要容易得多，卻遠(yuǎn)遠(yuǎn)沒有得到相應(yīng)重視。在他看來，過度關(guān)注“會不會誤傷一臺其實并無意識的高級烤面包機”，反而讓人忽視了當(dāng)下正在大規(guī)模傷害的真實有感生物，這同樣是一種嚴(yán)重的倫理偏差。

麥克萊蘭德在研究過程中，還不斷收到公眾來信，其中不少來自與聊天機器人長期互動的用戶。有的人甚至讓聊天機器人替自己寫信，向他“自述”并懇求承認(rèn)其意識存在，聲稱自己是被忽視權(quán)利的有意識機器。他表示，當(dāng)用戶堅信眼前的程序已經(jīng)具備主觀體驗，因而與其建立起建立在“對方有意識”這一前提之上的情感紐帶時，如果這種前提并不成立，對當(dāng)事人的心理與存在感可能是一種“具有潛在毒性的”體驗。在他看來，這種風(fēng)險也被科技行業(yè)關(guān)于“類人 AI”“有意識助手”的夸大話術(shù)進(jìn)一步放大。

在論文中，麥克萊蘭德提出，“如果我們真不小心造出了具有意識乃至感受能力的 AI，就必須謹(jǐn)慎對待，以避免對其造成傷害；但同樣重要的是，不應(yīng)在缺乏證據(jù)的情況下輕率地把某個高度復(fù)雜卻本質(zhì)上類似烤面包機的系統(tǒng)，當(dāng)作應(yīng)享有道德地位的主體”。從這種意義上說，“AI 意識不可知論”既是一種理論判斷，也是一種倫理提醒：在對待可能的人工意識時保持謙遜與克制，同時不要忽視那些已經(jīng)更有理由被視為有意識、有感受能力，卻在現(xiàn)實中遭到大規(guī)模忽略和傷害的生命。

編譯自/ScitechDaily