搜狐科技《思想大爆炸——對話科學(xué)家》欄目第138期，對話西湖大學(xué)工學(xué)院終身教授張?jiān)?/strong>。

嘉賓簡介：

張?jiān)溃?/strong>西湖大學(xué)工學(xué)院終身教授，曾在新加坡科技與設(shè)計(jì)大學(xué)擔(dān)任助理教授。主要研究領(lǐng)域?yàn)樽匀徽Z言處理、文本挖掘、機(jī)器學(xué)習(xí)和人工智能。

• DeepScientist最關(guān)鍵的因素，是貝葉斯優(yōu)化問題以及學(xué)術(shù)經(jīng)驗(yàn)指導(dǎo)的試錯(cuò)問題。

• 如果人和機(jī)器共同加速科研進(jìn)展，而不去擔(dān)心發(fā)表范式的滯后，科研的可復(fù)現(xiàn)性會(huì)大大提升，也不存在弄虛造假的問題。

• AI本身的研究和AI安全研究一定是齊頭并進(jìn)的，并且AI是可控的。

• 未來想把計(jì)算機(jī)科學(xué)家變成全學(xué)科的科學(xué)家，真正幫助人類設(shè)計(jì)新材料，發(fā)明新物質(zhì)，解決更多的挑戰(zhàn)。

出品｜搜狐科技

作者｜周錦童

編輯｜楊 錦

人工智能迅猛發(fā)展，西湖大學(xué)再度成為聚光燈下的焦點(diǎn)。近日，張?jiān)澜淌趫F(tuán)隊(duì)研發(fā)了一款A(yù)I科學(xué)家系統(tǒng)——DeepScientist，引發(fā)了網(wǎng)友們的關(guān)注。

DeepScientist是首個(gè)具有完整科研能力，且在無人工干預(yù)下，展現(xiàn)出目標(biāo)導(dǎo)向、持續(xù)迭代、漸進(jìn)式超越人類研究者最先進(jìn)研究成果的AI科學(xué)家系統(tǒng)，它在多個(gè)前沿人工智能科學(xué)任務(wù)中，首次實(shí)現(xiàn)自主產(chǎn)出超越人類最佳方法（State of the Art，簡稱SOTA）的研究成果。

DeepScientist工作流程是怎樣的？克服了哪些局限性？AI科學(xué)家的出現(xiàn)會(huì)不會(huì)改變科研范式？帶著這些問題，搜狐科技對話了西湖大學(xué)工學(xué)院終身教授張?jiān)?，聽他分享DeepScientist從研發(fā)到落地的故事。

中國首個(gè)AI科學(xué)家

“DeepScientist”的命名是文章一作翁詣軒的手筆，最開始本想叫Deep Researcher，但和Open AI開發(fā)的搜索智能體重名，所以就有了DeepScientist。

談及研究初衷，張?jiān)辣硎荆骸拔覀冮_發(fā)DeepScientist的最終目的是想做一個(gè)具有自主科研能力的科研大模型智能體，因?yàn)槿祟愒谘芯窟^程面臨很多挑戰(zhàn)，科學(xué)家的精力有限，如果大模型能幫助人類解決這些挑戰(zhàn)，就能推動(dòng)科學(xué)發(fā)展?！?/p>

在這一到兩年的時(shí)間，張?jiān)缊F(tuán)隊(duì)有關(guān)DeepScientist的探索取得了里程碑式進(jìn)展。

在AI文本檢測任務(wù)中，DeepScientist用兩周時(shí)間就實(shí)施和驗(yàn)證了超過1000種不同的假設(shè)，取得了相當(dāng)于人類三年的進(jìn)展，其設(shè)計(jì)的方法實(shí)現(xiàn)了7.9%的性能提升，成功超越了人類現(xiàn)有SOTA方案。而且DeepScientist還在智能體失敗歸因、LLM推理加速等任務(wù)上也分別達(dá)成了新的SOTA，同樣僅需數(shù)周時(shí)間即可超越人類表現(xiàn)。

人類科研很大程度上是試錯(cuò)的過程，成功和失敗的經(jīng)驗(yàn)再加上已有知識，是構(gòu)成科學(xué)家發(fā)明創(chuàng)造的一個(gè)基礎(chǔ)，另一個(gè)基礎(chǔ)是可以試錯(cuò)迭代，根據(jù)實(shí)驗(yàn)結(jié)果調(diào)整方案，這也是張?jiān)缊F(tuán)隊(duì)設(shè)計(jì)DeepScientist的出發(fā)點(diǎn)。

AI科學(xué)家的概念是去年6月被正式提出的，日本Sakana AI公司率先推出了AI scientist的智能體系統(tǒng)，張?jiān)缹?shí)驗(yàn)室也在同期進(jìn)行相關(guān)研究。

“2023年4月Open AI推出ChatGPT-4后，我們都在想同一個(gè)問題：當(dāng) AI具備一定的智能（解決新問題的能力）后，能不能幫助人類加速科研進(jìn)展？所以從去年6月開始，AI科學(xué)家的概念和系統(tǒng)原型不斷在國際上被推出來，我們也做了很多基礎(chǔ)貢獻(xiàn)?！睆?jiān)廊缡钦f。

世界上第一篇正式發(fā)表的AI科學(xué)家文章，就是張?jiān)缊F(tuán)隊(duì)今年4月推出的CycleResearcher，這也是DeepScientist的前身。當(dāng)時(shí)他們還推出了世界上第一個(gè)人類專家水平的自動(dòng)審稿大模型DeepReviewer，AI科學(xué)家寫完論文后根據(jù)審稿意見可以回過頭改進(jìn)。

不過，CycleResearcher是單線的科研系統(tǒng)，并不能真正解決人類的挑戰(zhàn)，只是有寫學(xué)術(shù)論文的能力，這樣的科學(xué)家不能產(chǎn)出真正改變?nèi)祟惿畹目茖W(xué)成果。

等到了DeepScientist這個(gè)版本就實(shí)現(xiàn)了迭代式的進(jìn)步，能夜以繼日地進(jìn)行科研，真刀實(shí)槍地改變?nèi)祟惿睿_(dá)到人類探索中尚未達(dá)到的科研高度。這里面最關(guān)鍵的因素是貝葉斯優(yōu)化問題以及學(xué)術(shù)經(jīng)驗(yàn)指導(dǎo)的試錯(cuò)問題，這也是“里程碑”意義所在。

回到貝葉斯優(yōu)化過程，張?jiān)酪策M(jìn)行了解釋：“首先要制定一個(gè)目標(biāo)，比如我們的研究全是AI算法，那我想讓算法精確率達(dá)到多少，然后進(jìn)行兩方面的驅(qū)動(dòng)?！?/p>

一是根據(jù)科學(xué)知識、文獻(xiàn)去設(shè)想現(xiàn)有方法的不足，這是理論上的驅(qū)動(dòng)。另一個(gè)驅(qū)動(dòng)是實(shí)證上的，寫代碼后去運(yùn)行，看看取得的實(shí)際效果如何。這需要一些測試基準(zhǔn)，可以認(rèn)為是實(shí)驗(yàn)數(shù)據(jù)，然后算法根據(jù)實(shí)驗(yàn)數(shù)據(jù)得到運(yùn)行結(jié)果，結(jié)果也必須是可評估的，評估出它的準(zhǔn)確率后就可以進(jìn)一步指導(dǎo)試錯(cuò)過程。這樣一來，DeepScientist就具備了從大量的想法和嘗試中歸納總結(jié)并漸進(jìn)式探索的能力。

張?jiān)婪Q，在整個(gè)過程中，還要分不同的層次。比如頂端有一些技術(shù)路線的指導(dǎo)，指引以后再往下細(xì)分，細(xì)分就是指這一條技術(shù)路線會(huì)有不同的設(shè)置，每個(gè)設(shè)置下面都有不同的結(jié)果，根據(jù)這些試錯(cuò)反饋，還要回溯到頂層，評估技術(shù)路線要不要進(jìn)行調(diào)整。

“類比來說就像發(fā)明燈泡，要嘗試不同的材料，并且根據(jù)試錯(cuò)的結(jié)果，還需要再進(jìn)行一些理論的分析，指導(dǎo)下一步的試錯(cuò)?！睆?jiān)琅e例道。

用AI寫論文、審稿、做實(shí)驗(yàn)

在張?jiān)揽磥?，DeepScientist的出現(xiàn)一定會(huì)催生新的發(fā)表范式和科研范式。

“我上學(xué)發(fā)表第一篇頂會(huì)論文的時(shí)候，整個(gè)會(huì)上不過一百篇論文，現(xiàn)在同樣的會(huì)議超過了一萬篇，科研速度快，論文數(shù)量激增了100倍，我們在arXiv上看文章，但開會(huì)時(shí)間往往比科研結(jié)果晚9個(gè)月甚至更多，開會(huì)的時(shí)候就學(xué)不到什么新知識，傳統(tǒng)的發(fā)表范式跟不上了。”

此外，張?jiān)肋€稱現(xiàn)在會(huì)議的審稿系統(tǒng)也接近崩潰狀態(tài)，因?yàn)橥陡辶刻?，有?jīng)驗(yàn)的審稿專家工作超負(fù)荷，每個(gè)作者都需要審稿，但作者的認(rèn)真程度和專業(yè)知識參差不齊，導(dǎo)致論文質(zhì)量大大下降。

AI科學(xué)家出現(xiàn)之后，會(huì)進(jìn)一步增加學(xué)術(shù)迭代速度，人類所擁有的技術(shù)也就越多，所以未來發(fā)表范式會(huì)轉(zhuǎn)變，也許不再需要學(xué)術(shù)會(huì)議。

“我們實(shí)驗(yàn)室推出了一個(gè)新的平臺(tái)AiraXiv，既可以接受arXiv的文章，也可以接受AI寫的文章，再用AI審稿人自動(dòng)把關(guān)，標(biāo)注文章質(zhì)量，進(jìn)行個(gè)性化算法推薦，每天根據(jù)用戶喜好從海量論文中篩選出最相關(guān)、最喜愛的文章進(jìn)行推送，這樣大家的科研結(jié)果就可以用AI快速寫成文章，快速公之于眾，不需要等到學(xué)術(shù)會(huì)議發(fā)表?！睆?jiān)廊缡钦f。

至于科研范式也會(huì)有所轉(zhuǎn)變。如果每個(gè)實(shí)驗(yàn)室都用AI助力做實(shí)驗(yàn)、寫論文，科學(xué)家就可以把軟件工程和論文負(fù)擔(dān)交給AI，大大地解放雙手。而且科學(xué)家還可以幫助AI進(jìn)一步提升科研效率，畢竟科學(xué)家的洞見是現(xiàn)在大模型不具備的，大模型可能試錯(cuò)100次，才得到3個(gè)正向結(jié)果，而在科學(xué)家的指導(dǎo)下，可能只需要試錯(cuò)10次。

在張?jiān)揽磥?，如果人和機(jī)器共同加速科研進(jìn)展，而不去擔(dān)心發(fā)表范式的滯后，每一個(gè)實(shí)驗(yàn)室就是所見即所得的文章，科研的可復(fù)現(xiàn)性會(huì)大大提升，因?yàn)樗械拇a都是AI寫的，所有的實(shí)驗(yàn)過程都可以被公開追溯，不存在故意弄虛造假的問題。

第三是發(fā)表迭代，很快每個(gè)人都能第一時(shí)間得到最相關(guān)的文章，將來的學(xué)術(shù)會(huì)議會(huì)變成由AI自動(dòng)聚集興趣最相關(guān)的科學(xué)家成一個(gè)小組，科學(xué)家可以隨時(shí)拉一個(gè)20-100人的會(huì)議，以最高效的線上、線下方式交流科研成果。

張?jiān)勒J(rèn)為這是將來必由的范式轉(zhuǎn)變。下個(gè)月，世界第一AI科學(xué)家大會(huì)將在北京召開，他們邀請了國內(nèi)外最相關(guān)的科研人員參加進(jìn)行小范圍討論。

“大會(huì)主席由人把關(guān)，但允許世界上愿意參與的學(xué)者通過我們的AI科學(xué)家系統(tǒng)進(jìn)行研究，并自動(dòng)生成論文投稿到會(huì)議，然后接受AI審稿，整個(gè)AI科學(xué)家大會(huì)對新的學(xué)術(shù)范式以及新興領(lǐng)域會(huì)帶來什么影響，我們也拭目以待。”張?jiān)廊缡钦f。

全學(xué)科人工智能科學(xué)家

不過，也有許多網(wǎng)友擔(dān)心，一個(gè)無需人類干預(yù)的AI系統(tǒng)，是否存在研究方向失控或被誤導(dǎo)的風(fēng)險(xiǎn)呢？

對此，張?jiān)辣硎荆骸癆I安全問題一直是我們重視的問題，所以DeepScientist公之于眾，我們也采取了審慎的策略?！?/p>

第一批公開可以使用的接口只通過AI科學(xué)家會(huì)議公開，并且每位想使用的科學(xué)家需要提交書面申請，張?jiān)缊F(tuán)隊(duì)會(huì)從眾多申請者中遴選出少部分最有挑戰(zhàn)性、符合倫理標(biāo)準(zhǔn)的研究對象，再進(jìn)行合作實(shí)驗(yàn)，同時(shí)他們也會(huì)有倫理規(guī)范的檢驗(yàn)工具。

“比如，我們實(shí)驗(yàn)室有AI生成論文自動(dòng)檢測系統(tǒng)，可以準(zhǔn)確地檢測出論文是否由AI生成，我們也有世界上第一個(gè)AI審稿人大模型，之后我們又做了AI安全審稿人的工作，讓審稿人不被惡意的用戶欺騙，做到評價(jià)可靠?！睆?jiān)琅e例道。

在他看來，AI本身的研究和AI安全研究一定是齊頭并進(jìn)的，并且張?jiān)郎钚臕I是可控的。

“作為一位AI語言模型學(xué)者，我們對語言模型的工作機(jī)理相對比較了解，所以對于AI的可控程度我是持比較積極的態(tài)度，我也十分鼓勵(lì)學(xué)生們盡早、更多地使用AI工具，畢竟未來人一定要和AI協(xié)同工作?！?/p>

“AI取代了50%以上的程序員，但還是需要最優(yōu)秀的程序員來控制AI才能生成好的系統(tǒng)，我們用多了之后才能真正讓AI理解你，才能得心應(yīng)手地寫出想要的東西，如果完全依靠AI，那是做不出來的，而且我們也能檢測出來論文是不是AI代寫的。”張?jiān)佬Φ馈?/p>

國際上也有一些團(tuán)隊(duì)在嘗試有關(guān)AI科學(xué)家的研究，在張?jiān)揽磥?，我們國家處在國際最前沿的水平。

目前，張?jiān)缊F(tuán)隊(duì)正在做兩方面的工作。一是讓它更聰明，擁有更深刻的洞見和更強(qiáng)的推理能力，能在試錯(cuò)更少的情況下得到正面的結(jié)果，提升科研效率。二是想讓它從計(jì)算機(jī)科學(xué)家擴(kuò)展為通用學(xué)科的科學(xué)家，解決生物、物理、化學(xué)等各個(gè)學(xué)科的問題。

“在這些問題上，我們團(tuán)隊(duì)也有嘗試，像一般學(xué)科，數(shù)據(jù)并不是存在計(jì)算機(jī)里，往往是實(shí)驗(yàn)得到的，經(jīng)過一年的開發(fā)，我們打造了Airalogy平臺(tái)，可以讓每一個(gè)實(shí)驗(yàn)室都以最方便的形式把實(shí)驗(yàn)數(shù)據(jù)電子化上傳云端，最近也全球上線了?！?/p>

張?jiān)缊F(tuán)隊(duì)還加了一些巧思和設(shè)計(jì)，讓導(dǎo)師和AI對話，告訴AI正在做什么實(shí)驗(yàn)，學(xué)生也可以通過拍照、對話的形式，快速地把正在做的實(shí)驗(yàn)電子化。

“我們相信當(dāng)收到足夠多的通用學(xué)科實(shí)驗(yàn)數(shù)據(jù)后，就可以把現(xiàn)在的計(jì)算機(jī)科學(xué)家變成全學(xué)科的科學(xué)家，真正幫助人類設(shè)計(jì)新材料，發(fā)明新物質(zhì)，解決更多的挑戰(zhàn)，促進(jìn)社會(huì)進(jìn)步。”張?jiān)廊缡钦f。

運(yùn)營編輯 |曹倩審核｜孟莎莎