投稿 | 中信出版集團(tuán)

責(zé)編 | Echo

出品 | CSDN（ID：CSDNnews）

在世界人工智能大會(huì)（WAIC）上，香港科技大學(xué)校董會(huì)主席、美國(guó)國(guó)家工程院外籍院士沈向洋和前 Google CEO 埃里克·施密特（Eric Schmidt）圍繞“人工智能全球合作展望”的主題，展開(kāi)了一場(chǎng)“爐邊對(duì)話”，回顧了中國(guó)在 AI 領(lǐng)域的飛速發(fā)展，并探討了 AI 安全、中美合作等核心議題。

施密特強(qiáng)調(diào)，過(guò)去兩年，中國(guó)的 AI 技術(shù)，特別是 DeepSeek 和 MiniMax、Kimi 等大模型，已經(jīng)取得了舉世矚目的成就。在發(fā)展的過(guò)程中，開(kāi)源和技術(shù)合作將是推動(dòng) AI 健康發(fā)展的關(guān)鍵，但與此同時(shí)，技術(shù)濫用的風(fēng)險(xiǎn)也不容忽視。施密特對(duì)中美如何攜手應(yīng)對(duì)這一時(shí)代變革充滿期待，認(rèn)為只有通過(guò)開(kāi)放對(duì)話，才能真正引領(lǐng) AI 走向一個(gè)更加負(fù)責(zé)任和可持續(xù)的未來(lái)。

以下為對(duì)話內(nèi)容實(shí)錄：

沈向洋：歡迎你來(lái)到上海，埃里克。

埃里克·施密特：大家好，非常高興來(lái)到上海，一座美麗的城市，謝謝大家，也感謝 WAIC 大會(huì)主辦方的邀請(qǐng)。

沈向洋：剛才辛頓先生的發(fā)言，的確給了我們很多思考和深度的想法，但是在這里面我也有很多的問(wèn)題。

這次大會(huì)探討的主題特別好，有關(guān)全球 AI 治理的原則和標(biāo)準(zhǔn)，您和這么多的行業(yè)好友一起來(lái)到上海，談這些非常重要的話題，我對(duì)此也感到很興奮。你這次來(lái)中國(guó)待了好幾天了，去了不少的公司參觀，你覺(jué)得到現(xiàn)在為止，中國(guó)的 AI 發(fā)展如何？

埃里克·施密特：中國(guó)人的工作態(tài)度非常出色，給我留下了深刻的印象。兩年多前，我與基辛格博士（前國(guó)務(wù)卿 Henry Kissinger）一起來(lái)到中國(guó)——非常懷念他，我們的好朋友、好導(dǎo)師基辛格博士。

當(dāng)時(shí)我記得剛到中國(guó)時(shí)，我感覺(jué)中國(guó)還沒(méi)有完全認(rèn)識(shí)到 AI 的潛力和力量。但在過(guò)去的兩年里，我們已經(jīng)看到了中國(guó) AI 模型的巨大進(jìn)步，包括像 DeepSeek、MiniMax、Kimi 等大模型的發(fā)展，令人震撼。

他們?cè)谌蚣夹g(shù)層面都取得了巨大的成就。中國(guó)同行及其公司在這個(gè)領(lǐng)域也取得了顯著的成績(jī)。但我們也看到一個(gè)非常大的區(qū)別：在中國(guó)，這些領(lǐng)先的 AI 模型并非所有主要模型都像美國(guó)那樣采取封閉策略。美國(guó)的大多數(shù)領(lǐng)先模型，尤其是語(yǔ)言模型，并不是開(kāi)源的，也不開(kāi)放權(quán)重。而中國(guó)則采取了開(kāi)放權(quán)重的方式，這已經(jīng)成為當(dāng)前 AI 發(fā)展中的一個(gè)重要特點(diǎn)。我會(huì)在稍后的討論中深入探討這一點(diǎn)。

沈向洋：剛才你提到了基辛格博士，他是我們共同的朋友，也是我們中國(guó)人的老朋友，也是 WAIC 大會(huì)的老朋友。

四年前，我特別榮幸采訪過(guò)基辛格博士，也是在這次的 WAIC 系列會(huì)議。他提了一些非常深刻的想法，就是 AI 對(duì)人類的影響，尤其是他以一個(gè)歷史學(xué)家、政治家的獨(dú)特視角，來(lái)看待 AI 的影響。實(shí)際上你和基辛格，還有克雷格·蒙迪（Craig James Mundie）共同出了這部非常好的書(shū)——《人工智能時(shí)代與人類價(jià)值》。跟我們分享一下這本書(shū)具體講了哪些內(nèi)容呢？

《人工智能時(shí)代與人類價(jià)值》（2025 年 3 月出版）

埃里克·施密特：基辛格博士在他最后的 15 年的研究中，認(rèn)為人工智能將會(huì)成為我們社會(huì)的一個(gè)非常大的一個(gè)挑戰(zhàn)。

盡管他對(duì)技術(shù)方面理解并沒(méi)有特別多，但是他作為哲學(xué)家和社會(huì)學(xué)家，帶來(lái)了一個(gè)深度的視角，聚焦人工智能會(huì)在社會(huì)層面帶來(lái)什么影響。就像剛才辛頓在演講中所說(shuō)的，他特別擔(dān)心隨著人工智能的快速發(fā)展，會(huì)對(duì)人類的文明和尊嚴(yán)造成怎樣的影響，以及國(guó)家之間在這方面是如何進(jìn)行競(jìng)爭(zhēng)等問(wèn)題。

基辛格給美國(guó)以及給中國(guó)提供了一個(gè)核心關(guān)鍵點(diǎn)的建議，就是要通過(guò)合作來(lái)防止 AI 帶來(lái)的負(fù)面影響、擁抱它帶來(lái)的正面影響。

人工智能帶來(lái)的正面影響有很多，比如健康領(lǐng)域、工程領(lǐng)域、氣候變化處理，不僅能推動(dòng)科技的提升，還能幫助我們創(chuàng)造更好的社會(huì)等等，這些方面的優(yōu)勢(shì)是無(wú)限的。并且，人工智能為我們每個(gè)人的生產(chǎn)力提升提供了幫助。但是，我們目前最大的擔(dān)憂是，如果你面對(duì)的這個(gè)智能體已非人類，并且比人類更聰明，那這時(shí)候該怎么辦？

沈向洋：你說(shuō)的對(duì)，埃里克。其實(shí)在辛頓博士發(fā)言之前，我是很樂(lè)觀的。但是聽(tīng)完他的發(fā)言后，我又感到很悲觀。我現(xiàn)在有另一個(gè)非常關(guān)注的問(wèn)題。你認(rèn)為中美之間如何能夠增強(qiáng)互信，并加強(qiáng) AI 方面的合作呢？

埃里克·施密特：首先，我想說(shuō)的是，整個(gè)行業(yè)普遍認(rèn)為這些問(wèn)題是可以解決的，但我們需要迅速行動(dòng)。

因?yàn)榭萍及l(fā)展的速度非?？?。但只要我們投入足夠多的力量，付出足夠的努力，就能解決一切問(wèn)題。

我認(rèn)為，未來(lái)超級(jí)智能之間的協(xié)作最終是不可避免的。因?yàn)殡S著技術(shù)的發(fā)展，我們將會(huì)擁有一個(gè)超級(jí)智能系統(tǒng)，未來(lái)這些系統(tǒng)會(huì)有能力去相互協(xié)作和協(xié)調(diào)。關(guān)于這一點(diǎn)的討論已經(jīng)逐漸展開(kāi)。

所以，我們需要讓中國(guó)和西方的研究人員能夠互相交流，合作探討，達(dá)成在價(jià)值觀方面一致性，比如我們?nèi)绾尉S護(hù)人類尊嚴(yán)和對(duì)人工智能的控制權(quán)等。

基辛格博士推動(dòng)了一系列項(xiàng)目，和中國(guó)重要的領(lǐng)導(dǎo)者達(dá)成的一致意見(jiàn)：建立持續(xù)對(duì)話機(jī)制，讓雙方清晰界定問(wèn)題并共同尋求解決路徑。重點(diǎn)在于共享深度見(jiàn)解、風(fēng)險(xiǎn)研判與測(cè)試數(shù)據(jù)，避免任何一方因意外而產(chǎn)生誤判。所以關(guān)鍵在于，讓中國(guó)和西方的研究人員相互交流，在人工智能發(fā)展中共同守護(hù)人類尊嚴(yán)與主體地位。

WAIC 現(xiàn)場(chǎng)：中國(guó)的老朋友——基辛格

沈向洋：我們都同意你說(shuō)的。我們之間首先要進(jìn)行對(duì)話交流，才能更好地理解對(duì)方的價(jià)值觀。在思考這些科技在傳播中的問(wèn)題時(shí)，可能會(huì)面臨到兩個(gè)方面的問(wèn)題：

第一，AI 非常強(qiáng)大，我們需要思考如何防止其擴(kuò)散？另一方面，您比任何人都更了解，并且支持開(kāi)源技術(shù)。幾十年前，Linux 系統(tǒng)和 Android 推動(dòng)了開(kāi)源技術(shù)的發(fā)展。您如何看待這兩者之間的平衡？

埃里克·施密特：我更傾向于支持開(kāi)源。開(kāi)源技術(shù)雖然有一些潛在風(fēng)險(xiǎn)，但我們可以通過(guò)設(shè)定一些限制措施來(lái)管理這些風(fēng)險(xiǎn)，并根據(jù)需要對(duì)其進(jìn)行調(diào)整。與此不同，閉源公司通常受到政府監(jiān)管，因此它們的操作受到更嚴(yán)格的控制，不容易出現(xiàn)這種問(wèn)題。

我認(rèn)為這里的核心是技術(shù)性的問(wèn)題，我們可以與中國(guó)及其他開(kāi)源技術(shù)的倡導(dǎo)者們合作。開(kāi)源的擴(kuò)散就像即時(shí)傳播一樣——如果你發(fā)明了一項(xiàng)技術(shù)，世界其他地方的人很快就會(huì)使用它。我們應(yīng)該考慮這種方式，這里問(wèn)題的關(guān)鍵在于技術(shù)的“編輯者”是誰(shuí)，以及這些技術(shù)在哪些地方得以應(yīng)用，在哪些地方去設(shè)置“防護(hù)欄”。理想的場(chǎng)景是，我們能根據(jù)人類的價(jià)值觀來(lái)訓(xùn)練和對(duì)齊這些模型。

目前我們對(duì)深入研究一些模型的安全性還需要提升。在每一個(gè)案例中，只要稍微投入一點(diǎn)心力，就能夠識(shí)別出 AI 會(huì)出現(xiàn)一些不良行為，比如撒謊和欺騙問(wèn)題，我們也在努力避免這些問(wèn)題。

目前我們還沒(méi)有找到有效的制衡措施。這個(gè)問(wèn)題尚未得到解決，但我認(rèn)為它是非常重要的。如果基辛格博士今天在場(chǎng)，他一定會(huì)非常贊賞我們?cè)诩夹g(shù)上取得的進(jìn)展，但他也會(huì)擔(dān)憂，比如是否未來(lái)會(huì)有一些國(guó)家或個(gè)人可能會(huì)沒(méi)有正確的利用這些強(qiáng)大的技術(shù)。

更進(jìn)一步說(shuō)，很多人認(rèn)為在接下來(lái)的三年內(nèi)，系統(tǒng)將會(huì)進(jìn)行遞歸式自我改進(jìn)。因此，我們必須非常小心，了解它們到底會(huì)學(xué)到什么，它們可能學(xué)習(xí)到的不僅是好的東西，也可能是有害的內(nèi)容。

沈向洋：再次回到您的作品，上次我有機(jī)會(huì)和基辛格博士交流時(shí)，正值他的第一本和您合著的的書(shū)上市，即《人工智能時(shí)代與人類未來(lái)》（我注意到上次您和我的好朋友、技術(shù)專家丹尼爾·胡騰洛赫爾合作撰寫(xiě)）。幾年后，他的第二本書(shū)《人工智能時(shí)代與人類價(jià)值》出版，這也基辛格博士和您的最后一本書(shū)。您曾作為谷歌 CEO，近距離觀察到全球科技行業(yè)的進(jìn)展，也曾親身參與推動(dòng)谷歌、微軟和蘋(píng)果之間的激烈競(jìng)爭(zhēng)，推動(dòng)整個(gè)行業(yè)向前發(fā)展。關(guān)于您的管理經(jīng)驗(yàn)、行業(yè)經(jīng)驗(yàn)，是不是也會(huì)體現(xiàn)在自己的著作中？

《人工智能時(shí)代與人類未來(lái)》（2023 年 6 月出版）

埃里克·施密特：基于克雷格·蒙迪（微軟公司前首席研發(fā)策略長(zhǎng)）和我的工作背景，可能我們更了解商業(yè)方面的情況。

在第二本書(shū)（《人工智能時(shí)代與人類價(jià)值》）中，我們?cè)谇懊娴牟糠忠仓v到了，從古到今，世界上有很多多才多藝的人。那么現(xiàn)在我們相信通過(guò)人工智能，可以讓每個(gè)人都能夠有一個(gè)多才多藝的工具來(lái)幫助自己。這對(duì)于企業(yè)、我們每個(gè)人的工作和生活來(lái)說(shuō)都帶來(lái)非常大的影響。但從總體來(lái)說(shuō)，我們?cè)谥卫?、在相關(guān)討論上面還沒(méi)有做好準(zhǔn)備。

我想說(shuō)的是，作為最大的以及最重要的經(jīng)濟(jì)體，美國(guó)和中國(guó)應(yīng)該在這些問(wèn)題上一起合作。因?yàn)槲覀兊墓餐繕?biāo)在于，要一起讓世界穩(wěn)定，讓世界和平，要確保人類能夠控制住這些工具。

沈向洋：在技術(shù)方面，你會(huì)不會(huì)不同意杰弗里·辛頓所說(shuō)的——其實(shí)這些國(guó)家沒(méi)有辦法技術(shù)合作，或者說(shuō)，他們只能在面對(duì)共同的威脅時(shí)才進(jìn)行合作？

埃里克·施密特：我是基辛格博士的學(xué)生，他的看法就是如果你坐下來(lái)，我們根據(jù)共同的目標(biāo)進(jìn)行談判的話，就可以實(shí)現(xiàn)目標(biāo)。他愿意和任何人坐下來(lái)談。

在中國(guó)發(fā)展的歷史長(zhǎng)河中，從一窮二白到改革開(kāi)放，建立了現(xiàn)代的生活，再到后來(lái)實(shí)現(xiàn)了巨大的飛躍和很多方面的巨大成功。我們也能看到，在中國(guó)的上海等城市能夠生產(chǎn)一些先進(jìn)的機(jī)器人等等，這些說(shuō)明我們都有一個(gè)積極發(fā)展的價(jià)值觀。

我是樂(lè)觀主義者。我認(rèn)為中國(guó)和美國(guó)可以建立信任，一步一步的建立，以前中美之間就曾經(jīng)這樣合作過(guò)，我們也可以再次做到這一點(diǎn)，

沈向洋：謝謝 Eric。看來(lái)我們兩個(gè)人對(duì)于未來(lái)的合作都很樂(lè)觀。關(guān)于 AI 和技術(shù)的未來(lái)，對(duì)于您來(lái)說(shuō)，最感到振奮的是什么？

埃里克·施密特：簡(jiǎn)單來(lái)說(shuō)，現(xiàn)在許多國(guó)家和企業(yè)都在進(jìn)行戰(zhàn)略規(guī)劃。比如，OpenAI 的 ChatGPT、Claude、Gemini 等產(chǎn)品都取得了許多突破。我們也可以看到，中國(guó)的 DeepSeek 和其他大模型也做得非常出色。這就是我們當(dāng)前的發(fā)展現(xiàn)狀。

接下來(lái)的兩年里，我們將會(huì)看到很多智能體的出現(xiàn)。智能體能夠記憶語(yǔ)言，執(zhí)行任務(wù)并采取行動(dòng)，你可以驅(qū)動(dòng)它們做事。這將是智能體革命對(duì)企業(yè)產(chǎn)生巨大的影響。

舉個(gè)例子，這些智能體可以應(yīng)用到每個(gè)企業(yè)的工作流、每個(gè)政府的工作流中，我對(duì)此感到非常振奮。

如果這一點(diǎn)能夠做好，那么接下來(lái)我們將能看到更多深度推理的應(yīng)用和更先進(jìn)算法的提升。

需要注意的是，我們現(xiàn)在還不知道“紅線”在哪里。我認(rèn)為一個(gè)重要的點(diǎn)是，中國(guó)、美國(guó)以及其他國(guó)家需要達(dá)成一致。

也就是說(shuō)，在某些關(guān)鍵問(wèn)題上，我們必須進(jìn)行對(duì)話。舉個(gè)例子，如果有一天，AI 開(kāi)始自主決定獲取武器，或者決定自我復(fù)制，或者它不經(jīng)由我們同意開(kāi)始學(xué)習(xí)所有事物，當(dāng)這些事情發(fā)生時(shí)，我們的目標(biāo)不是立即停止它的發(fā)展，而是要通過(guò)對(duì)話來(lái)探討如何防止和控制這個(gè)過(guò)程，從而避免它失控。

對(duì)于未來(lái)的五年，我感到非常振奮。我們將看到社會(huì)發(fā)生深刻的變化，且大部分變化會(huì)讓社會(huì)變得更好。如果能應(yīng)對(duì)剛才講到的關(guān)切，那么將會(huì)發(fā)展得很好。

AI 產(chǎn)品爆發(fā)，但你的痛點(diǎn)解決了嗎？

2025 全球產(chǎn)品經(jīng)理大會(huì)

8 月 15–16 日

北京·威斯汀酒店

互聯(lián)網(wǎng)大廠、AI 創(chuàng)業(yè)公司、ToB/ToC 實(shí)戰(zhàn)一線的產(chǎn)品人

12 大專題分享，洞察趨勢(shì)、拆解路徑、對(duì)話未來(lái)。

立即掃碼領(lǐng)取大會(huì)PPT

搶占 AI 產(chǎn)品下一波紅利