設(shè)置星標(biāo) 關(guān)注，從此你的世界多點(diǎn)科學(xué)~

自我糾錯(cuò)是科學(xué)的基本原則。其中最重要的形式之一便是同行評(píng)審，即研究成果在發(fā)表前交由匿名專家仔細(xì)審查。此機(jī)制是對(duì)學(xué)術(shù)文獻(xiàn)準(zhǔn)確性的保障。當(dāng)然，這樣的糾錯(cuò)也總出差錯(cuò)。

目前有許多來自民間和官方的力量都致力于識(shí)別問題論文、完善評(píng)審流程，并通過撤稿或?？确绞絻艋蒲杏涗?。但這些工作都有局限性，且需耗費(fèi)大量資源。

人工智能，或?qū)閷W(xué)術(shù)評(píng)審事業(yè)注入強(qiáng)大動(dòng)力，成為幫助科學(xué)自我糾錯(cuò)的專家里手——那么，當(dāng)AI全面、深度參與論文評(píng)審的那天到來，你我對(duì)于科學(xué)的信念將會(huì)更清澈，還是產(chǎn)生更多搖擺呢？

同行評(píng)審越發(fā)力不從心

近幾十年來，數(shù)字時(shí)代與學(xué)科多元化發(fā)展共同助推學(xué)術(shù)論文和期刊數(shù)量爆發(fā)式增長(zhǎng)，傳統(tǒng)的同行評(píng)審作為科學(xué)可靠性的主要保障已越發(fā)力不從心。與此同時(shí)，多方力量都在為科研誠(chéng)信做出貢獻(xiàn)。

媒體平臺(tái)《撤稿觀察》(

Retraction Watch

調(diào)查記者們持續(xù)曝光企業(yè)勢(shì)力對(duì)科研的干預(yù)。新興的“元科學(xué)”(科學(xué)學(xué))領(lǐng)域正嘗試量化科研流程，揭示其中的偏見與缺陷。

并非所有劣質(zhì)的科研都產(chǎn)生大影響，但有些確實(shí)危害深遠(yuǎn)。這些影響不僅限于學(xué)術(shù)界，往往還會(huì)滲透至公眾認(rèn)知與政策制定。

哈佛大學(xué)的科學(xué)史學(xué)家內(nèi)奧米·奧雷斯克斯(Naomi Oreskes)與同事近期發(fā)表論文稱，他們對(duì)一篇被廣泛引用的草甘膦除草劑安全評(píng)估報(bào)告進(jìn)行了審查，發(fā)現(xiàn)文章本身看似獨(dú)立而全面，但孟山都公司訴訟案曝光的文件表明，其真實(shí)作者為由孟山都的員工，發(fā)表刊物有煙草業(yè)背景。

孟山都是一家來自美國(guó)的農(nóng)業(yè)生物技術(shù)公司，于2018年被拜耳收購(gòu)。由于其生產(chǎn)銷售的草甘膦除草劑農(nóng)達(dá)

(Roundup)

導(dǎo)致大量使用者罹患癌癥，孟山都面臨一系列訴訟。

然而即便真相曝光，該評(píng)估報(bào)告仍持續(xù)影響全球范圍內(nèi)的文獻(xiàn)引用、政策文件乃至維基百科詞條。

當(dāng)此類問題被揭露后，公眾會(huì)就此展開熱議，但大家未必認(rèn)為這是科學(xué)界做出了成功的自我糾錯(cuò)，反而可能將其視作“科學(xué)崩壞”的證據(jù)。如此負(fù)面的論調(diào)有損公眾對(duì)科學(xué)的信任。

我們需要全新的論文糾錯(cuò)機(jī)制或工具，AI此時(shí)介入恰似雪中送炭。

人工智能已開始助力學(xué)術(shù)監(jiān)督

關(guān)于自我糾錯(cuò)所需的技術(shù)工具，過去的主要應(yīng)用一直是查重系統(tǒng)。但局面正在改變：ImageTwin和Proofig等機(jī)器學(xué)習(xí)服務(wù)能對(duì)數(shù)百萬張圖表進(jìn)行掃描，檢測(cè)是否存在重復(fù)、篡改或AI生成的跡象。

自然語言處理工具可標(biāo)記出“別扭的措辭”(tortured phrases)，即論文工廠特產(chǎn)的怪詞怪語。而像“語義學(xué)者”(Semantic Scholar)這樣的文獻(xiàn)計(jì)量分析平臺(tái)則能追蹤論文被引用的語境是支持性還是反駁性的。

隨著AI——尤其是越發(fā)擅長(zhǎng)數(shù)學(xué)與推理的代理式新型AI模型——持續(xù)演進(jìn)，未來它還將有能力識(shí)別更隱蔽的學(xué)術(shù)缺陷。

例如，“黑鏟項(xiàng)目”(Black Spatula Project)正探索如何運(yùn)用最新AI模型大規(guī)模查驗(yàn)已發(fā)表的數(shù)學(xué)證明，其核心在于自動(dòng)識(shí)別易被人類評(píng)審忽略的代數(shù)矛盾。前文提及的奧雷斯克斯等人的工作同樣高度依賴大語言模型處理海量文本。

若獲得全文訪問權(quán)限與充足算力，這些系統(tǒng)很快就能對(duì)學(xué)術(shù)文獻(xiàn)展開全球性的審查。全面審查很可能會(huì)發(fā)現(xiàn)一些明目張膽的欺詐，以及大量充斥著匠氣與常見錯(cuò)誤的平庸之作。

我們尚不清楚學(xué)術(shù)欺詐的確切比例，但可以確定的是，有大量科研成果實(shí)際上無足輕重?？茖W(xué)家對(duì)此心知肚明，正如他們對(duì)那些鮮少甚至從無引用的出版物習(xí)以為常一樣。

對(duì)大眾來說，認(rèn)識(shí)到學(xué)術(shù)的平庸可能與發(fā)現(xiàn)欺詐事件同樣令人震驚——因?yàn)檫@與主流媒體關(guān)于科學(xué)發(fā)現(xiàn)的那種戲劇化、英雄主義敘事相悖。

顛覆與重塑，崩壞或革新

要維護(hù)好公眾的信任，就必須以更透明、更務(wù)實(shí)的方式重新定義科學(xué)家角色。當(dāng)今多數(shù)的科研工作都是漸進(jìn)式的，往往與科學(xué)家職業(yè)生涯相綁定，扎根于教育傳承、導(dǎo)師培養(yǎng)和公眾參與。

要對(duì)自己和公眾保持誠(chéng)實(shí)，就必須摒棄那些驅(qū)使高校、科學(xué)出版商乃至科學(xué)家本人夸大研究成果的功利機(jī)制。真正具有開創(chuàng)性的工作本就鳳毛麟角，但這并不意味著其他科研毫無價(jià)值。

相較于將科學(xué)發(fā)現(xiàn)描繪成個(gè)人英雄式的壯舉，更平和、更誠(chéng)實(shí)地認(rèn)可科學(xué)家作為集體認(rèn)知進(jìn)步貢獻(xiàn)者的形象，或許更有利于幫助學(xué)術(shù)界經(jīng)受人工智能的審查考驗(yàn)。

一場(chǎng)跨學(xué)科的全面審查即將降臨學(xué)術(shù)界。審查的發(fā)起者可能是政府監(jiān)督機(jī)構(gòu)、智庫(kù)，也可能是企圖削弱公眾科學(xué)信心的企業(yè)。

科學(xué)家其實(shí)可以預(yù)見到諸多結(jié)果。若科學(xué)界做好了面對(duì)AI評(píng)審的準(zhǔn)備，甚至主動(dòng)去引領(lǐng)浪潮，這場(chǎng)關(guān)于學(xué)術(shù)成果的大調(diào)查或許還能激發(fā)體系的革新。但若遲疑不決，AI揭露的裂痕就可能被曲解為科學(xué)事業(yè)的崩壞。

科學(xué)的力量從來不在永不犯錯(cuò)，而是敢于糾錯(cuò)、樂于修正。

資料來源：

《世界科學(xué)》雜志版在售中 歡迎訂閱

月刊定價(jià)

15元/期

全年訂閱價(jià)

180元

點(diǎn)擊左側(cè)圖片或以下方訂閱方式選購(gòu)

方式一：

掃描二維碼，“雜志鋪”訂閱有折扣～

方式二：

全國(guó)各地郵局訂閱 郵發(fā)代號(hào)：4-263

方式三：

機(jī)構(gòu)訂閱，請(qǐng)撥打

021-53300839；

021-53300838