來源：智源社區(qū)

編輯：齊會芳

在 AI 飛速發(fā)展的當(dāng)下，澳大利亞新南威爾士大學(xué)桂冠學(xué)者、AI 領(lǐng)域權(quán)威學(xué)者 Toby Walsh，在采訪中拋出觀點：人類在藝術(shù)創(chuàng)造力上的優(yōu)勢無可替代，但在數(shù)學(xué)與科學(xué)領(lǐng)域，AI 終將超越人類。

在他看來，藝術(shù)創(chuàng)造力的核心在于 “人類處境”—— 墜入愛河的甜蜜、失去摯愛的痛苦、對生死永恒的思考，這些人類獨有的真實體驗，是 AI 永遠無法擁有的。偉大藝術(shù)正因其觸及這些深層境遇而動人，AI 即便能寫詩譜曲，也難以復(fù)刻這種源于生命體驗的情感共鳴，人類在這一領(lǐng)域的優(yōu)勢牢不可破。

但在數(shù)學(xué)與科學(xué)領(lǐng)域，AI 的潛力遠超人類。Toby Walsh 指出，AI 能處理人類難以應(yīng)對的規(guī)模龐大、細(xì)節(jié)過于復(fù)雜的數(shù)據(jù)集，它在邏輯推演、數(shù)據(jù)運算上具備天然優(yōu)勢。如今 AI 已能輔助發(fā)明新藥物、提出數(shù)學(xué)新成果。隨著技術(shù)迭代，未來在科學(xué)發(fā)現(xiàn)的速度與深度上，AI 必將超越人類 —— 畢竟人類的認(rèn)知與算力存在生理局限，而 AI 能突破這些邊界持續(xù)進化。

即便如此，他也強調(diào) AI 的發(fā)展方向應(yīng)當(dāng)由人類掌控。當(dāng)下，他正在努力推進一系列因地制宜的 “AI 為善” 項目：澳洲海灘眾多，他與當(dāng)?shù)睾┙M織開展合作，構(gòu)建了一套機器學(xué)習(xí)模型用來識別危險水流，切實挽救人民何游客們的生命。同時模型還被用來為無家可歸者匹配援助服務(wù)，這一系列舉動正是讓 AI 在科學(xué)能力框架內(nèi)，服務(wù)人類社會需求的實踐。

對于投身 AI 領(lǐng)域的年輕人，Toby Walsh 建議深耕所在領(lǐng)域，成為“專家”。面對AI熱潮要有定力，更應(yīng)該專注于那些短期內(nèi)沒有明顯經(jīng)濟回報，但長期對社會更有價值的問題。

Toby Walsh 的觀點，既清晰界定了人類與 AI 的能力邊界，也為 AI 未來發(fā)展提供了理性指引，值得每一位關(guān)注 AI 與人類關(guān)系的人深思。

智源專訪欄目意在展現(xiàn)行業(yè)頂尖技術(shù)研究者和創(chuàng)業(yè)者的研究經(jīng)歷和故事，記錄技術(shù)世界的嬗變，激發(fā)當(dāng)代AI從業(yè)者的創(chuàng)新思維，啟迪認(rèn)知、關(guān)注突破性進展，為行業(yè)注入靈感光芒。本次專訪為總第30期。

簡介：Toby Walsh 是澳大利亞新南威爾士大學(xué)計算機科學(xué)與工程學(xué)院的桂冠學(xué)者和科學(xué)教授，同時兼任Data61研究團隊負(fù)責(zé)人、昆士蘭科技大學(xué)兼職教授、烏普薩拉大學(xué)信息科學(xué)系外部教授，以及愛丁堡大學(xué)信息學(xué)院榮譽研究員。他還是新南威爾士大學(xué)澳大利亞人權(quán)研究所的準(zhǔn)會員。Walsh 教授曾擔(dān)任多家頂級期刊的主編。他是澳大利亞科學(xué)院、ACM、AAAS、AAAI及ECCAI的會士，并榮獲洪堡獎、IJCAI唐納德·E·沃克杰出服務(wù)獎、約束編程協(xié)會研究卓越獎、新南威爾士州州長卓越工程和ICT獎等多項重要獎項。此外，Walsh 教授還是《約束編程手冊》和《可滿足性手冊》的編者之一，并在多個人工智能領(lǐng)域主要會議中擔(dān)任程序委員會主席和會議主席。

01

因為女兒選擇了AI公眾科普，責(zé)任讓他站了出來
只要我們謹(jǐn)慎部署 AI 技術(shù)，它就可以成為一種向善的力量。

李夢佳：你最初是如何被人工智能領(lǐng)域吸引的？在您漫長的職業(yè)生涯中，研究方向從約束規(guī)劃與可滿足性這類細(xì)節(jié)的技術(shù)方向，逐漸拓展至AI倫理、政策倡導(dǎo)甚至公眾科普。這種轉(zhuǎn)變背后的動機是什么？是什么讓您始終保持對AI研究的熱情？

Toby Walsh：我小時候看了太多科幻小說了，比如阿瑟?克拉克和艾薩克?阿西莫夫的作品，他們在書中描繪了一個有機器人和智能計算機的未來。也是從那時起，我意識到自己可以幫助創(chuàng)造那個未來，而且那個未來或許能在我有生之年到來。

大約十年前，人工智能開始大行其道，也取得了不少成果。比如 AlphaGo 擊敗了李世石，大語言模型也相繼出現(xiàn)。也就是從這時起，人們更加關(guān)注 AI 領(lǐng)域正在發(fā)生的事情。我也意識到，作為一名科學(xué)家，向公眾傳遞相關(guān)信息，參與這場討論，至關(guān)重要。

而且，作為在這個領(lǐng)域有一定聲望的人，我有責(zé)任利用這個地位，推動輿論朝著好的方向發(fā)展。我有一個尚年幼的女兒，我不希望將來她對我說：“你當(dāng)時有機會發(fā)聲，為什么不說話？”所以我選擇站出來，逐漸將研究方向拓展到 AI 倫理、政策倡導(dǎo)和公眾科普這些領(lǐng)域。

圖注：Toby Walsh教授和他的女兒組裝的 Meccano 機器人

而能讓我始終保持對 AI 研究熱情的原因，其實還是我小時候的那個夢想。我們終將創(chuàng)造出能夠改變生活方式的技術(shù)。如果能謹(jǐn)慎地使用這些技術(shù)，它們會以積極的方向改變我們的生活，幫助解決貧困、疾病和社會不平等這些問題。我仍然堅信，只要我們謹(jǐn)慎部署 AI 技術(shù)，它就可以成為一種向善的力量。

李夢佳：您目前正在推進哪些 AI 研究項目？請介紹下這些項目的核心目標(biāo)與最新進展？

Toby Walsh：我的研究非常關(guān)注AI的負(fù)責(zé)任使用。AI的挑戰(zhàn)在于它是一種雙用途技術(shù)，同樣的技術(shù)可以被用于積極或消極的目的。所以，我會盡量把自己的研究聚焦在積極應(yīng)用的方向上。

下面用兩個項目來舉例。

• 第一個項目，在澳大利亞這樣的國家，海灘數(shù)量很多，而溺水是當(dāng)?shù)卮嬖诘囊粋€實際問題。由于海灘太多，沒辦法實現(xiàn)全部巡邏覆蓋。于是，我們和當(dāng)?shù)刎?fù)責(zé)巡邏海灘的組織 “澳洲海浪救生協(xié)會” 開展合作，構(gòu)建了一套機器學(xué)習(xí)模型。使用時，人們只需用智能手機的攝像頭對準(zhǔn)海灘，這個模型就能識別出哪些區(qū)域存在危險水流，也就是哪些地方不適合游泳。

• 第二個項目是一套 AI 驅(qū)動的推薦系統(tǒng)，它是為無家可歸者以及其他有需求的人群設(shè)計的搜索引擎，幫助他們找到當(dāng)?shù)胤?wù)、銀行、餐飲、慈善機構(gòu)和商店等。但問題是，剛成為無家可歸者的人往往不知道該求助什么，也不知道哪些慈善機構(gòu)會提供舊手機，或者提供兒童玩具—— 比如有人在逃離家庭暴力時，可能就有這方面的需求。因此我們正在打造一個推薦引擎，根據(jù)用戶的提問和查詢，提供一些他們可能不知道的實用信息。

這是我目前在做的“AI for Good”（AI為善）項目的兩個例子。

02

AI研究的最大障礙：融合符號和概率范式

當(dāng)前的概率基礎(chǔ)模型在推理能力上存在一定挑戰(zhàn)，而符號系統(tǒng)的強項恰恰是推理，但它們在處理雜亂、模糊的知識時又會面臨困難。我認(rèn)為這可能是當(dāng)前 AI 研究最大的技術(shù)障礙，我們該如何把這兩種截然不同的范式結(jié)合在一起。

李夢佳：您的新書《The Shortest History of AI》為我們提供了精煉的歷史視角。能否為我們簡單介紹一下書中描繪的 AI 發(fā)展史及關(guān)鍵節(jié)點？

Toby Walsh：我在這本書開篇就寫道，AI 始于 1956 年 6 月 18 日?；蛟S很多人沒意識到，AI是有一個確切的起點日期的，要知道，很少有科學(xué)學(xué)科能明確說出自己的起始日、起始年，但AI可以。因為那一天，正是著名的達特茅斯會議的第一天。

那次夏季會議匯集了許多人工智能領(lǐng)域的奠基人物，像約翰?麥卡錫（John McCarthy）（美國計算機科學(xué)家、認(rèn)知科學(xué)家，人工智能之父）、馬文?明斯基（Mara Miski）（美國著名的計算機科學(xué)家和人工智能領(lǐng)域的奠基人）等等學(xué)者。其中，約翰?麥卡錫 —— 我曾有幸認(rèn)識他 —— 首次提出了 “人工智能” 這個詞，用來描述會議的主題。人工智能就是從那一天正式開始的，因為那是第一次真正用 “人工智能” 來指稱這個研究領(lǐng)域。

當(dāng)然，人工智能的歷史其實遠遠早于此。它可以追溯到艾倫?圖靈（Alan Turing）（英國數(shù)學(xué)家、邏輯學(xué)家，被稱為計算機科學(xué)之父，人工智能之父），甚至更久遠的遠古時代。事實上，在許多文化中，人們都思考過能否將思維機械化。這類思想的源頭可以追溯到萊布尼茨（Gottfried Wilhelm Leibniz）（德國哲學(xué)家、數(shù)學(xué)家）、布爾（George Boole）（英國數(shù)學(xué)家、哲學(xué)家和邏輯學(xué)家）、巴貝奇（Charles Babbage）（英國數(shù)學(xué)家、哲學(xué)家兼機械工程師）等人，而且并不局限于西方文化。

圖注：Toby Walsh 教授的新書《The Shortest History of AI: The Six Essential Ideas That Animate It 》通過人工智能的六種主要運作方式講述了人工智能的歷史

所以，本書的一個重要目的，就是讓人們認(rèn)識到，人工智能并不是從 2022 年 ChatGPT 發(fā)布才開始的。另外，這本書的副標(biāo)題是《六個關(guān)鍵思想》，全書一共分為六章，每一章都會講述一個不同的思想。在我看來，這六個思想正是構(gòu)成人工智能工具箱的核心理念。

• 前兩個是搜索，包括啟發(fā)式搜索，還有在競爭環(huán)境下的搜索，比如極大極小博弈搜索。

• 第三個是基于規(guī)則的系統(tǒng)，我們在專家系統(tǒng)和 Prolog 等方面見過這種系統(tǒng)。

• 第四個是神經(jīng)網(wǎng)絡(luò)，這當(dāng)然是當(dāng)今像 ChatGPT 這樣的系統(tǒng)的基石。

• 第五個是強化學(xué)習(xí)，同樣應(yīng)用于 ChatGPT 之類的系統(tǒng)，用來獎勵它們回答問題或提供幫助。

• 第六個是貝葉斯推理。世界存在一定的不確定性，而貝葉斯推理正是處理這類問題的出色工具。這是一種非常數(shù)學(xué)化且令人滿意的方法，用于更新概率，也是許多 AI 系統(tǒng)的核心。

以上就是我精選出的人工智能發(fā)展中的關(guān)鍵里程碑。

李夢佳：您能否梳理 AI 發(fā)展史中，對 “計算創(chuàng)造力” 領(lǐng)域產(chǎn)生關(guān)鍵影響的突破？人類在某些領(lǐng)域是否還具有創(chuàng)造力的獨特優(yōu)勢？

Toby Walsh：如果要我指出 AI 發(fā)展史中最深刻、最獨特的方向，我會說是計算創(chuàng)造力。

事實上，“創(chuàng)造力是人類相較于機器的優(yōu)勢” 這一觀點，早在 1956 年之前就已經(jīng)存在了，最早可以追溯到阿達·洛芙萊斯（Ada Lovelace）（英國著名女?dāng)?shù)學(xué)家、計算機程序創(chuàng)始人）。在艾倫·圖靈 1950年的著名論文《計算機器與智能》中，他就把這稱作“洛芙萊斯異議”。

圖注：艾倫·圖靈1950年的論文《計算機器與智能》

在我看來，讓計算機具備創(chuàng)造性并不存在根本性的障礙。事實上，我們已經(jīng)取得了一些進展：計算機已經(jīng)能發(fā)明新藥物、提出新的數(shù)學(xué)成果，還能寫出還算有趣的詩歌，甚至譜寫出讓音樂家感興趣的樂曲。

但同樣地，我認(rèn)為人類在某些方面確實仍然占有優(yōu)勢。尤其是藝術(shù)創(chuàng)造力。藝術(shù)創(chuàng)造力往往聚焦于 “人類處境”——比如墜入愛河、失去親人、思考死亡與永恒。這些都是人類獨有的真實體驗，機器永遠無法擁有。偉大的藝術(shù)之所以偉大，正是因為它觸及了人類的這些深層境遇。在這方面，AI將始終處于劣勢。

但在科學(xué)發(fā)現(xiàn)方面的創(chuàng)造力上，人工智能會超越人類，尤其在科學(xué)和數(shù)學(xué)領(lǐng)域。AI在處理復(fù)雜數(shù)據(jù)、進行邏輯推演等方面具備更強的能力，能夠處理那些規(guī)模過于龐大、細(xì)節(jié)過于復(fù)雜，以至于人類完全無法理解的數(shù)據(jù)集。

李夢佳：過去 20 年 AI 領(lǐng)域變化很快，這期間 AI 研究的核心范式發(fā)生了哪些根本性的轉(zhuǎn)變？在您看來，未來 AI 研究繼續(xù)發(fā)展的方向是什么？面臨的最大技術(shù)障礙又是什么？

Toby Walsh：我認(rèn)為 AI 研究的范式確實正在經(jīng)歷根本性轉(zhuǎn)變。事實上，我的書《The Shortest History of AI》就是按照兩個范式來劃分的。

第一個時代，對應(yīng)的是人工智能研究的最初30到40年 ——從 1956 年到 2000初，這一階段可以稱為 “符號主義” 時代。我們試圖構(gòu)建推理系統(tǒng)，試圖手工編碼知識。

第二個時代始于2010年初，也就是“概率機器學(xué)習(xí)”時代。在這一階段，我們不再試圖手工編碼知識，而是構(gòu)建能夠直接自我學(xué)習(xí)知識的系統(tǒng)。這種方式更多是在概率層面 ，比如用概率向量或者數(shù)字向量，去表示相當(dāng)復(fù)雜的概念和想法。我認(rèn)為這就是 AI 研究的兩個主要范式，也是我眼中未來 AI 研究將繼續(xù)發(fā)展的方向。

圖注：Toby Walsh 教授與機器人互動

現(xiàn)在的關(guān)鍵問題是，它們各有優(yōu)勢，也各有劣勢：當(dāng)前的概率基礎(chǔ)模型在推理能力上存在一定挑戰(zhàn)，而符號系統(tǒng)的強項恰恰是推理，但它們在處理雜亂、模糊的知識時又會面臨困難。那么，怎樣把這兩種方法結(jié)合起來，從而兼顧兩方面的優(yōu)勢呢？

我認(rèn)為我們目前還沒有能實現(xiàn)這一點的完善的體系結(jié)構(gòu)，這種結(jié)合后的系統(tǒng)或許可以稱為神經(jīng)符號系統(tǒng)。如果借用丹尼爾?卡尼曼（Daniel Kahneman）（以色列裔美國認(rèn)知心理學(xué)家）的概念，你可以把它看作是系統(tǒng) 1 和系統(tǒng) 2 思維的結(jié)合，而這能推動我們向真正的通用人工智能邁進。

圖注：系統(tǒng)1和系統(tǒng)2思維是由諾貝爾經(jīng)濟學(xué)獎得主丹尼爾·卡尼曼提出的認(rèn)知模型，描述了人類思考的兩種不同模式：系統(tǒng)1是快速、自動的直覺思維，而系統(tǒng)2是緩慢、理性的深思熟慮思維

所以，我認(rèn)為這可能是當(dāng)前 AI 研究最大的技術(shù)障礙 ，至今我們都還沒找到一個好的方法來做到這一點，或許需要一次根本性的概念性突破，才能弄清楚結(jié)合的路徑。我們可能開始觸及到單純依靠規(guī)模擴展的極限了。毫無疑問，GPT-5 帶來的失望表明，很多人都看到了收益遞減的跡象。所以現(xiàn)在的核心問題是，我們需要什么樣的體系結(jié)構(gòu)，才能結(jié)合兩種范式的最佳之處，幫助我們構(gòu)建通用人工智能。

03

日投20億：我們可能低估了AI的長期效益

我們總是高估一項科技所帶來的短期效益，卻又低估它的長期影響。

李夢佳：在最近的研究或交流中，是否某個觀點或技術(shù)發(fā)現(xiàn)，讓您深受啟發(fā)，甚至顛覆了您過去對AI的某些固有認(rèn)知？

Toby Walsh：和這個領(lǐng)域里的所有人一樣，我對我們推動大語言模型發(fā)展的方式，既感到鼓舞、印象深刻，又感到擔(dān)憂。不過，或許有一點本不該讓人如此驚訝 ——語言會在 AI 發(fā)展中占據(jù)如此重要的地位。智能似乎確實依賴于語言：我們是唯一擁有復(fù)雜語言的動物，我們用語言表達思想、傳遞知識、分享目標(biāo)，這一直是人類智能的關(guān)鍵組成部分。所以，一旦我們能讓計算機在某種程度上掌握語言，那也該成為通往人工智能的重要一步。但事實是，大多數(shù)人在看到這一點時，確實感到了驚訝。

圖注：大語言模型的發(fā)展歷程

我認(rèn)為我們許多人——包括我自己在內(nèi)——在大部分人工智能研究生涯中都專注于“推理”，因為推理看起來更容易掌控。邏輯學(xué)家、哲學(xué)家、數(shù)學(xué)家已經(jīng)寫下過形式化推理的邏輯體系，這些體系更容易、也能更好地在符號和計算機系統(tǒng)中被捕捉。相比之下，語言就顯得困難得多。所以，當(dāng)我們發(fā)現(xiàn)語言問題竟然可以被解決時，確實相當(dāng)令人意外。語言最終被證明是高度統(tǒng)計性的，并且影響深遠。我們能夠通過一些相對簡單的統(tǒng)計方法，在大量數(shù)據(jù)和海量參數(shù)的支持下，在語言上取得如此重要的突破。而這種“規(guī)?！闭俏覀冞^去所缺失的。

李夢佳：考慮到當(dāng)前AI技術(shù)的發(fā)展趨勢與應(yīng)用潛力，您認(rèn)為未來5-10年哪些具體領(lǐng)域或新興子方向最有可能實現(xiàn)重大技術(shù)突破？在您看來，推動這些突破的核心驅(qū)動因素是什么？

Toby Walsh：從個人角度來說，我最希望看到突破的領(lǐng)域是醫(yī)學(xué)和教育。我認(rèn)為，人工智能在社會效益層面最有前景的兩個方向，就是改變我們保持健康、應(yīng)對疾病的方式。醫(yī)學(xué)領(lǐng)域未來會發(fā)展成高度個性化且極具力量的技術(shù)領(lǐng)域，同時它也會建立在其他突破性進展之上，比如 mRNA 疫苗，以及讀寫基因信息的能力。當(dāng)然，CRISPR 的出現(xiàn)意味著我們已經(jīng)能夠非常容易地“書寫”和“讀取”基因信息。而如何解釋這些基因代碼中的信息，并將其轉(zhuǎn)化為具體功能？這類問題恰恰需要人工智能來幫助解決。

圖注：Emmanuelle Charpentier 和 Jennifer A. Doudna因開創(chuàng)革命性基因編輯技術(shù) CRISPR 獲得2020年諾貝爾化學(xué)獎

很明顯，目前推動這些領(lǐng)域發(fā)展最關(guān)鍵的因素，就是大量資金的投入，這些資金正在支持前所未有規(guī)模的研究和技術(shù)開發(fā)。現(xiàn)在每天有 20 億美元投入到 AI 相關(guān)領(lǐng)域，這確實極具變革性，也令我十分驚訝。我對技術(shù)本身的發(fā)展倒沒有特別驚訝，甚至原本以為我們會比實際更快走到今天這一步。但過去幾年里，這個領(lǐng)域投入的資金規(guī)模，以及 AI 從各方面吸引來的巨大興趣和熱情，著實超出了我的預(yù)期。

不過，我們或許正處于 “期望膨脹的頂峰”，接下來可能會出現(xiàn)一些反彈。但我對此相對樂觀。目前幾乎每天都有新的、有趣且令人興奮的模型出現(xiàn)，我認(rèn)為這種趨勢不會停止。即便我們不再取得更多技術(shù)突破，僅僅是把現(xiàn)有技術(shù)應(yīng)用得更實用、更廣泛，也能帶來巨大的社會效益。如果它能比今天更廣泛地普及，而不只是局限在少數(shù)幾家掌握了使用方法的優(yōu)秀公司手中，那么它依然會對我們的社會產(chǎn)生相當(dāng)大的變革性影響。

李夢佳：您如何看待 AI 領(lǐng)域 “短期高估、長期低估” 的認(rèn)知偏差？未來 AI 又可能從哪些方面深刻改變社會？

Toby Walsh：“我們總是高估一項科技所帶來的短期效益，卻又低估它的長期影響”，我相當(dāng)確信，這一點對人工智能同樣適用。我們對某些事情的難易程度過于樂觀。比如很多人堅信通用人工智能（AGI）幾年內(nèi)就能實現(xiàn)，但我懷疑它實際會更遙遠。與此同時，我們又低估了它將帶來的影響 ——它對人們工作方式、教育模式、健康管理方式、社會運作方式的影響，以及它將帶來的諸多益處，這些長期影響都被我們低估了。

圖注：Toby Walsh教授 與新南威爾士大學(xué)的 Baxter 協(xié)作機器人

過去，農(nóng)業(yè)社會自給自足的狀態(tài)已經(jīng)被工業(yè)化與城市化徹底改變，如今人們難以想象百年以前的世界。同樣地，現(xiàn)在也很難具體想象人工智能會如何改變我們的未來?；蛟S在未來我們回頭看時會驚嘆：曾經(jīng)，我們大多數(shù)人竟然都在辦公室和工廠里工作。因此，有一點值得記?。何覀兒芸赡艿凸懒巳斯ぶ悄芪磥韺⒔o社會帶來的影響。

04

技術(shù)非“命中注定”：調(diào)整制度適應(yīng)AI發(fā)展

技術(shù)并不是命中注定的。我們得到的技術(shù)，是我們當(dāng)下選擇的結(jié)果，而我們完全可以做出不同的選擇。

李夢佳：您此前提到，當(dāng)下科幻作品多帶反烏托邦色彩，公眾對 AI 發(fā)展也普遍悲觀。AI帶來的挑戰(zhàn)涉及心理健康、算法歧視、技術(shù)失業(yè)等現(xiàn)實問題。結(jié)合您最近的研究或接觸的案例，目前最突出和緊迫的AI社會問題是什么？ 普通人應(yīng)該如何應(yīng)對？

Toby Walsh：我真正擔(dān)憂的是，我們現(xiàn)在正生活在由人工智能生成的 “真與假、陰謀論交織的信息泡沫” 里，這種影響不容忽視。之前我們也聊到過 AI 對工作的影響，即便長遠來看結(jié)果是好的，但短期內(nèi)對一部分人來說，這種影響仍將是破壞性的、痛苦的，如何管理這些過渡期也是一個關(guān)鍵問題。

我認(rèn)為必須做好溝通，讓公眾理解技術(shù)發(fā)展方向以及需要做的選擇。很多人似乎會忘記，技術(shù)并不是命中注定的。我們得到的技術(shù)，是我們當(dāng)下選擇的結(jié)果，而我們完全可以做出不同的選擇。而且這些選擇不僅僅是由硅谷的人來做，而是由那些將會受到這些技術(shù)影響的人來做。我相信，我們完全有可能做出正確的選擇。其實很多擔(dān)憂都來自對未知的恐懼，不一定是因為技術(shù)會帶來壞結(jié)果，而是人們總會意識到變化難以管理而感到擔(dān)心。

李夢佳：從哲學(xué)角度來看，未來AI系統(tǒng)變得越來越強大并接管更廣泛的任務(wù)，您認(rèn)為哪些工作將對人類而言最有意義和價值？在AI時代，社會應(yīng)如何重新思考“工作”的概念？

Toby Walsh：答案其實很清晰。首先，凡是枯燥、重復(fù)、危險或是骯臟的工作，都應(yīng)該交給機器去做。而那些與同理心、社會互動以及人性相關(guān)的工作，才是人類應(yīng)該繼續(xù)從事的。事實上，人類的 “超級能力” 是社會性：我們能聚集在一起，為了共同目標(biāo)集體協(xié)作，這才是帶給我們最大滿足感的東西。我們是社會性動物，比如疫情期間我們最懷念的是彼此的陪伴，是能和他人面對面相處的時光。所以這類需要社交屬性的工作，未來會變得愈發(fā)重要。

而且有大量職位都具備這樣的特征，哪怕是咖啡師。機器其實能做出比人類更好、更穩(wěn)定的咖啡，但我們還是喜歡從人類手里買咖啡，因為他們會和我們調(diào)情、講笑話，我們會有社交互動。我們總是重視這種社交互動的價值。

除此之外，我們社會中還有很多工作從未得到應(yīng)有的報酬，比如照顧兒童、老人、殘疾人，或是照料病人，這些工作往往由女性承擔(dān)，報酬卻很低，甚至沒有報酬。如果機器或機器人能承擔(dān)生產(chǎn)中的繁重勞動，為社會創(chuàng)造更多價值，我們就有能力為這類照料工作提供合理報酬了。

圖注：Toby Walsh教授接受紀(jì)錄片《Machine》的采訪，這部紀(jì)錄片探討了“什么是人工智能？它是如何創(chuàng)造的？它對我們的工作、娛樂、生活和學(xué)習(xí)方式意味著什么？” 等問題

所以我認(rèn)為，我們確實該對 AI 時代的 “工作” 進行徹底的思考，并借鑒歷史經(jīng)驗。工業(yè)革命時期，工作性質(zhì)發(fā)生了根本轉(zhuǎn)變——人們離開農(nóng)田，進入工廠和辦公室。為了確保這一轉(zhuǎn)變真正改善生活，我們實際上對社會運行方式做了很多重大調(diào)整，包括建立勞動法、工會、福利體系、全民教育及養(yǎng)老金制度等等。

當(dāng)我們邁向后工業(yè)社會——一個數(shù)字化、由 AI 驅(qū)動的世界時，我們可能會經(jīng)歷類似的徹底變革。我對這次變革有信心，因為我們之前在工業(yè)革命時已經(jīng)做到過一次，但這次的獨特挑戰(zhàn)在于速度 —— 工業(yè)革命花了大約 50 年才逐步推進，而AI 帶來的變革，似乎在一夜之間就發(fā)生了。所以，AI 帶來的獨特挑戰(zhàn)就在于：我們必須快速調(diào)整社會，讓它適應(yīng)這個后工業(yè)世界。

05

成為“那個專家”：年輕研究者的立身之道

關(guān)鍵是要讓別人提到某個方向時，能想到 “你就是那個專家”。

李夢佳：在《2062: The World that AI Made》中，您提醒關(guān)注AI的“眼前威脅”。對于今天正在構(gòu)建AI系統(tǒng)的工程師和開發(fā)者，您最想給的一條倫理建議是什么？

Toby Walsh：我的建議是，對高風(fēng)險決策進行有意義的人類監(jiān)督。我覺得這是 AI 系統(tǒng)帶來的一個全新倫理挑戰(zhàn)，因為 AI 可能具有顯著的自主性，能在有限或沒有人類監(jiān)督的情況下做決策，像自動駕駛汽車、自主武器。這讓我們處于一個全新的道德、倫理和法律處境，畢竟機器無法為自己的決策負(fù)責(zé)，而人類卻必須在法律或道德上為自己的決策負(fù)責(zé)。

所以，在涉及到如決定誰被雇用、誰被解雇、誰能從政府獲得福利、誰能獲得簽證等這些會產(chǎn)生真實后果的高風(fēng)險決策時，雖然可以讓 AI 輔助決策、提供信息，但最終必須確保由人類進行有意義的監(jiān)督，因為當(dāng)這些決策被證明是壞決策時，是要由人類來承擔(dān)責(zé)任的。

圖注：Toby Walsh教授與他的書《2062: The World that AI Made》，這本書預(yù)測了人工智能將對工作、戰(zhàn)爭、政治、經(jīng)濟、人類日常生活以及人類死亡產(chǎn)生的影響

李夢佳：在最近的采訪中，您提到非常羨慕現(xiàn)在的年輕人正處于一個歷史性的時刻，有大量的投資資金涌入AI領(lǐng)域。但面對AI的爆炸式發(fā)展和海量投資，許多學(xué)生感到焦慮，擔(dān)心選擇的研究方向會很快過時或被大公司所主導(dǎo)。您對他們選擇研究方向有什么建議？

Toby Walsh：我建議大家不要盲目追潮流，熱門領(lǐng)域優(yōu)秀人才扎堆，團隊和資源常更具優(yōu)勢，個人很難脫穎而出。我認(rèn)為這一點是非常重要的，作為學(xué)術(shù)上的建議，不僅適用于當(dāng)下的 AI 領(lǐng)域，也適用于任何年輕人的學(xué)術(shù)生涯，那就是你要確保自己在某一方面是有名的。做博士研究的意義就在于此。你要成為世界上某個非常狹窄課題的專家，靠這個領(lǐng)域被人熟知，讓別人清楚你擅長什么。這可能是某個特定的應(yīng)用領(lǐng)域，也可能是某種特定工具，關(guān)鍵是要讓別人提到某個方向時，能想到 “你就是那個專家”。我會鼓勵你確保自己精通某一門技藝，而不是樣樣通卻都不精。

李夢佳：年輕人如何找到那個既能產(chǎn)生持久影響、又能讓自己保持激情的方向？又如何能提高自己的競爭力？

Toby Walsh：第一個問題的答案其實很簡單：追隨你的熱情，找你真正關(guān)心的事情。做科研是一項相當(dāng)孤獨且令人沮喪的活動，尋找那些你充滿熱情的方向，才不會覺得太煎熬、太孤單。

但要確保研究有影響力確實不易，很難預(yù)判哪些領(lǐng)域能成功或者有重大價值。學(xué)術(shù)界工作者有選擇研究課題和方向的自由，情況會好于工業(yè)界。過去三年我有意識地選擇研究對社會有重大益處的問題，也鼓勵有課題選擇權(quán)的人這樣做，既能回應(yīng)公眾關(guān)切，也能讓研究成果更有價值。

再說如何提高競爭力。你可以這樣思考：有實際經(jīng)濟價值的問題，工業(yè)界有大量資金雄厚的人主動解決。學(xué)術(shù)界人士應(yīng)回避這類問題，因為這些問題無論如何都會被解決。我們更應(yīng)該專注于那些短期內(nèi)沒有明顯經(jīng)濟回報，但長期對社會更有價值的問題。這類問題少有人關(guān)注，有較大發(fā)揮空間且競爭少，它們雖耗時久，但一旦解決價值非?？捎^。這是我的觀點。

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟、人類風(fēng)險等等領(lǐng)域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。