來(lái)源：市場(chǎng)資訊

（來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

21世紀(jì)經(jīng)濟(jì)報(bào)道記者肖瀟 杭州報(bào)道

阿里巴巴云棲大會(huì)進(jìn)入第二天，9月25日下午，王堅(jiān)在主場(chǎng)館內(nèi)談到了他對(duì)AI治理和風(fēng)險(xiǎn)問(wèn)題的看法。作為中國(guó)工程院院士、阿里云創(chuàng)始人和之江實(shí)驗(yàn)室主任，王堅(jiān)的出現(xiàn)吸引了許多人涌入會(huì)場(chǎng)，觀眾一度擠到門(mén)外。這場(chǎng)“負(fù)責(zé)任的AI：AI風(fēng)險(xiǎn)治理與先進(jìn)安全能力”的安全論壇，也成了大會(huì)的一大熱門(mén)區(qū)域。

王堅(jiān)表示，他覺(jué)得“負(fù)責(zé)任”的說(shuō)法略帶歧義，仿佛默認(rèn)AI不負(fù)責(zé)任。對(duì)于怎么理解AI風(fēng)險(xiǎn)問(wèn)題，王堅(jiān)分享了他的三個(gè)思考：

他提到的第一件事，是2024年年9月在美國(guó)紐約參加的聯(lián)合國(guó)未來(lái)峰會(huì)。當(dāng)時(shí)研討會(huì)結(jié)束后，圖靈獎(jiǎng)得主Yoshua Bengio等20多位人工智能研究人員和政策專(zhuān)家，共同簽署了《關(guān)于人工智能包容性全球科學(xué)理解的曼哈頓宣言》(The Manhattan Declaration on Inclusive Global Scientific Understanding of Artificial Intelligence)，為人工智能的發(fā)展和治理制定了10條原則。

“最后我們二十多個(gè)人形成的一個(gè)共識(shí)，就是要把AI的能力建設(shè)和發(fā)展機(jī)遇（capability and opportunity），也要放到風(fēng)險(xiǎn)框架里來(lái)討論。”王堅(jiān)說(shuō)，AI的意義因人群、地區(qū)和國(guó)家而異，復(fù)雜程度遠(yuǎn)超表面想象。

第二件事來(lái)自之江實(shí)驗(yàn)室的實(shí)踐。王堅(jiān)坦言，他們過(guò)去兩年也碰到了許多挑戰(zhàn)，包括能不能將一篇論文投喂給大模型作為訓(xùn)練數(shù)據(jù)?！懊總€(gè)問(wèn)題都是一個(gè)新問(wèn)題，每個(gè)問(wèn)題都在挑戰(zhàn)我們傳統(tǒng)的習(xí)慣?！?/p>

王堅(jiān)舉例，今天一篇研究論文發(fā)表后，作者不但自己要為閱讀付費(fèi)，要想讓論文被更多讀者看到，還需要付出巨大的經(jīng)濟(jì)成本，并非單純靠版物發(fā)表拿收益?！昂芏啻蠹移毡橛X(jué)得正確的事情，其實(shí)我們還沒(méi)有搞明白到底是不是正確。”

第三件事關(guān)于看待AI的視角。王堅(jiān)提到兩種常見(jiàn)的比喻：一句是“ChatGPT 是人工智能的 iPhone 時(shí)刻”；另一句是去年杰弗里·辛頓獲得諾貝爾物理學(xué)獎(jiǎng)時(shí)，《大西洋雜志》評(píng)價(jià)為AI的青霉素和X光時(shí)刻。

王堅(jiān)更認(rèn)同后者，可能是因?yàn)榍罢甙袮I比喻成一種消費(fèi)產(chǎn)品，而后者更突出AI對(duì)人類(lèi)的貢獻(xiàn)作用。王堅(jiān)強(qiáng)調(diào)，在今天討論人工智能安全倫理問(wèn)題時(shí)，最常見(jiàn)的一個(gè)話(huà)題是“人工智能要替代什么”。但在他看來(lái)，相比AI要替代誰(shuí)，更值得思考的是AI究竟幫助了誰(shuí)。

“我個(gè)人的觀點(diǎn)，有病人才有醫(yī)生，醫(yī)生的價(jià)值是能不能幫病人治病?！盇I同理，應(yīng)當(dāng)從它能提供的實(shí)際幫助出發(fā)來(lái)衡量?jī)r(jià)值。

王堅(jiān)表示，他最近經(jīng)常掛在嘴邊的是一句圖靈名言：一個(gè)人有一張紙、一支筆，再加上一個(gè)橡皮擦，就是一臺(tái)通用機(jī)器。在沒(méi)有人工智能概念的年代，圖靈就已揭示了人類(lèi)與工具的關(guān)系。“我想說(shuō)的是，今天的人工智能也沒(méi)有任何神秘的東西。這個(gè)時(shí)代的紙和筆永遠(yuǎn)不能替代大腦，但是大腦離開(kāi)了紙和筆什么都做不成?！?/p>