2025年8月，美國戰(zhàn)略與國際研究中心（CSIS）下屬的瓦德瓦尼人工智能中心發(fā)布了題為《人工智能驅(qū)動(dòng)的生物恐怖主義：美國強(qiáng)化生物安全的契機(jī)與政策要點(diǎn)》（Opportunities to Strengthen U.S. Biosecurity from AI-Enabled Bioterrorism: What Policymakers Should Know）的報(bào)告。系統(tǒng)闡述了人工智能與生物技術(shù)融合所帶來的雙重性挑戰(zhàn)：一方面催生了前所未有的科學(xué)突破和全球健康機(jī)遇，另一方面卻顯著降低了生物武器的開發(fā)門檻，對(duì)生物安全構(gòu)成了嚴(yán)峻且前所未有的威脅。該報(bào)告深入剖析了人工智能賦能生物恐怖主義的兩大核心路徑——即大語言模型（LLM）瓦解傳統(tǒng)信息壁壘的能力，以及生物設(shè)計(jì)工具（BDT）生成新型高致病性病原體的巨大潛力。該報(bào)告指出，美國現(xiàn)有的生物安全防御體系在面對(duì)這些新興威脅時(shí)存在根本性不足。對(duì)此報(bào)告提出了三項(xiàng)核心建議，旨在推動(dòng)美國盡快構(gòu)建一套能夠有效應(yīng)對(duì)人工智能時(shí)代挑戰(zhàn)的新型生物防御體系。啟元洞見編譯該報(bào)告主要內(nèi)容，旨在為讀者了解相關(guān)研究提供參考。

一、新興威脅：人工智能降低生物武器開發(fā)門檻

人工智能技術(shù)正在以前所未有的速度降低生物武器開發(fā)的傳統(tǒng)壁壘?；仡櫄v史，開發(fā)生物武器是一項(xiàng)需要國家級(jí)投入的龐大工程，涉及巨額資金和高度專業(yè)化的科研團(tuán)隊(duì)。例如，在二戰(zhàn)時(shí)期，美國的生物武器計(jì)劃耗資高達(dá)數(shù)千萬美元，并雇傭了近4500名專業(yè)人員。而進(jìn)入現(xiàn)代，技術(shù)的進(jìn)步已經(jīng)大幅壓縮了這項(xiàng)成本與難度——一個(gè)常被引用的例證是，兩名加拿大科學(xué)家僅以10萬美元的微小代價(jià)就成功合成了馬痘病毒。人工智能的介入，更使得這一門檻呈現(xiàn)斷崖式下降。具體而言，威脅主要通過兩種路徑實(shí)現(xiàn)：大語言模型充當(dāng)了知識(shí)普及與技術(shù)指導(dǎo)的角色，而生物設(shè)計(jì)工具則直接提供了生成致命病原體的潛在能力。

在大語言模型方面，來自O(shè)penAI、Anthropic等領(lǐng)先機(jī)構(gòu)的內(nèi)部評(píng)估顯示，它們最先進(jìn)的模型已經(jīng)能夠就病毒學(xué)、病原體獲取與培養(yǎng)等具有明顯雙重用途性質(zhì)的主題，提供堪比甚至超越人類專家的詳細(xì)建議。在某些特定測試場景中，這些模型的表現(xiàn)優(yōu)于94%的人類專家。盡管模型開發(fā)公司出于責(zé)任倫理已經(jīng)實(shí)施了一系列防護(hù)措施，例如內(nèi)容過濾和政策約束，但現(xiàn)實(shí)表明，通過“越獄”（jailbreaking）技術(shù)破解模型限制，或通過對(duì)開源模型進(jìn)行有針對(duì)性的“微調(diào)”（fine-tuning），惡意行為者完全可以繞過這些安全護(hù)欄。這意味著，即使是一個(gè)缺乏生物學(xué)專業(yè)背景的個(gè)體，也有可能借助人工智能獲取到進(jìn)行生物武器開發(fā)所需的關(guān)鍵技術(shù)信息和步驟指導(dǎo)，從而極大地?cái)U(kuò)大了潛在的威脅來源。

在生物設(shè)計(jì)工具方面，其威脅更具根本性和顛覆性。以2025年2月發(fā)布的Evo 2模型為例，該模型基于高達(dá)12.8萬個(gè)基因組數(shù)據(jù)進(jìn)行訓(xùn)練，不僅能夠精準(zhǔn)預(yù)測基因突變對(duì)功能的影響，更具備了設(shè)計(jì)全新、自然界中不存在的生物序列的能力。盡管目前最先進(jìn)的生物設(shè)計(jì)工具尚無法真正從頭設(shè)計(jì)出能夠自我復(fù)制的完整病原體，但其技術(shù)能力正以驚人的速度演進(jìn)。研究機(jī)構(gòu)Epoch AI的分析指出，在2017至2021年間，頂級(jí)生物設(shè)計(jì)工具模型訓(xùn)練所消耗的計(jì)算算力正以年均21倍的幅度增長，而用于訓(xùn)練的數(shù)據(jù)量也以年均10倍的速度擴(kuò)張。按照這一指數(shù)級(jí)發(fā)展軌跡預(yù)測，未來的三到五年內(nèi)，生物設(shè)計(jì)工具極有可能突破現(xiàn)有的技術(shù)瓶頸，獲得設(shè)計(jì)出兼具高傳染性（如麻疹病毒水平）和高致死率（如埃博拉病毒水平）的全新病原體的能力，這將是一場生物安全領(lǐng)域的范式轉(zhuǎn)移。

二、現(xiàn)有生物安全措施的挑戰(zhàn)

報(bào)告指出，面對(duì)急速演進(jìn)的人工智能生物威脅，美國當(dāng)前賴以維持生物安全的防御體系顯得陳舊和脆弱，其主要依賴的兩大支柱——生物設(shè)計(jì)工具模型自身防護(hù)和核酸合成篩查，在人工智能時(shí)代暴露出了致命的局限性。

在生物設(shè)計(jì)工具模型防護(hù)方面，現(xiàn)有的措施極易被規(guī)避。例如，盡管Evo系列模型的開發(fā)者出于安全考慮，從其訓(xùn)練數(shù)據(jù)集中移除了所有已知的真核病毒序列，但這種防護(hù)是靜態(tài)且脆弱的。惡意用戶可以通過對(duì)模型進(jìn)行微調(diào)，輕而易舉地將有害的序列數(shù)據(jù)重新注入，從而“教會(huì)”模型生成危險(xiǎn)的設(shè)計(jì)。更令人擔(dān)憂的是，整個(gè)行業(yè)的生物模型安全狀況極不樂觀。Epoch AI的調(diào)查數(shù)據(jù)顯示，目前僅有不到3%的生物設(shè)計(jì)工具配備了任何形式的安全防護(hù)措施（包括嚴(yán)格的訪問控制、訓(xùn)練數(shù)據(jù)過濾或輸出審查），而這些已部署的防護(hù)措施本身也普遍存在漏洞，安全性并不可靠。這種整體性的安全缺失狀態(tài)，使得強(qiáng)大的生物設(shè)計(jì)能力可能毫無阻礙地?cái)U(kuò)散至非國家行為體手中。

在核酸合成篩選方面，美國及國際社會(huì)現(xiàn)行的體系建立在“管制病原體與毒素清單”的基礎(chǔ)之上，其局限性日益凸顯。美國政府的清單僅包含63種病原體和毒素，即便算上國際訂單中需篩查的出口管制物品，總數(shù)也不過150種左右。這種基于有限、靜態(tài)名單的篩選方法，完全無法應(yīng)對(duì)由人工智能生成的全新生物序列威脅。2024年進(jìn)行的測試結(jié)果觸目驚心，主流的商業(yè)合成篩查軟件對(duì)經(jīng)過人工智能改造的毒素序列的漏檢率高達(dá)100%，意味著這些已知的篩查工具完全無法識(shí)別出非清單上的、由人工智能設(shè)計(jì)的新型生物威脅。雖然業(yè)界和政府已認(rèn)識(shí)到問題，并啟動(dòng)了擴(kuò)展“關(guān)注序列”（Sequence of Concern, SOC）數(shù)據(jù)庫的倡議，旨在覆蓋更廣泛的潛在威脅序列，但這一努力面臨著缺乏標(biāo)準(zhǔn)化、更新嚴(yán)重滯后、不同篩查機(jī)構(gòu)間數(shù)據(jù)孤島化等一系列挑戰(zhàn)，其演進(jìn)速度遠(yuǎn)遠(yuǎn)跟不上人工智能生成新型威脅序列的步伐。

三、政策建議：構(gòu)建人工智能時(shí)代的生物防御體系

鑒于威脅的緊迫性和現(xiàn)有措施的不足，報(bào)告為政策制定者勾勒出了一套構(gòu)建人工智能時(shí)代生物防御體系的核心行動(dòng)方案。

首要建議是確保關(guān)鍵機(jī)構(gòu)獲得充足的資金支持以強(qiáng)化政府評(píng)估與標(biāo)準(zhǔn)制定能力。美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）及其下屬新成立的美國人工智能安全研究所被確定為推進(jìn)人工智能生物安全評(píng)估、開發(fā)和制定篩查標(biāo)準(zhǔn)的核心機(jī)構(gòu)。它們的工作對(duì)于建立全國統(tǒng)一的測試基準(zhǔn)、風(fēng)險(xiǎn)評(píng)估框架和數(shù)據(jù)共享標(biāo)準(zhǔn)至關(guān)重要。然而，當(dāng)前特朗普政府提交的2026財(cái)年預(yù)算提案中，計(jì)劃削減國家標(biāo)準(zhǔn)與技術(shù)研究院高達(dá)30%的經(jīng)費(fèi)，這一舉措將嚴(yán)重削弱甚至癱瘓其執(zhí)行上述關(guān)鍵任務(wù)的能力。因此，立法者必須意識(shí)到其中的戰(zhàn)略風(fēng)險(xiǎn)，確保為NIST和CSIS提供充足且穩(wěn)定的資金流，支持其開展前沿模型測試、推動(dòng)數(shù)據(jù)標(biāo)準(zhǔn)化進(jìn)程以及進(jìn)行必要的國際協(xié)調(diào)與合作。

第二項(xiàng)核心建議是由CSIS主導(dǎo)，定期對(duì)最前沿的生物設(shè)計(jì)工具進(jìn)行系統(tǒng)性的能力評(píng)估與紅隊(duì)測試。CSIS應(yīng)當(dāng)聯(lián)合跨部門的“人工智能與國家安全測試風(fēng)險(xiǎn)工作組”（TRAINS），并吸納國際合作伙伴及頂尖學(xué)術(shù)機(jī)構(gòu)，共同對(duì)市場上商業(yè)流通及實(shí)驗(yàn)室中非商業(yè)的最強(qiáng)大生物設(shè)計(jì)工具模型進(jìn)行持續(xù)評(píng)估。評(píng)估焦點(diǎn)應(yīng)明確放在那些最危險(xiǎn)的能力上，例如設(shè)計(jì)全新病原體、優(yōu)化病原體的抗原性以逃避現(xiàn)有免疫系統(tǒng)、或設(shè)計(jì)能夠規(guī)避現(xiàn)有篩查工具的序列。為了在安全與創(chuàng)新之間取得平衡，測試對(duì)象應(yīng)聚焦于“能力最強(qiáng)”的模型（基于計(jì)算算力、訓(xùn)練數(shù)據(jù)量等客觀閾值），避免監(jiān)管范圍過度擴(kuò)大而扼殺有益的科研創(chuàng)新和產(chǎn)業(yè)發(fā)展。

第三項(xiàng)建議是技術(shù)升級(jí)，呼吁開發(fā)新一代人工智能賦能的標(biāo)準(zhǔn)化核酸合成篩選系統(tǒng)。報(bào)告建議由美國白宮科技政策辦公室（OSTP）牽頭，協(xié)調(diào)美國衛(wèi)生部、美國商務(wù)部、美國國土安全部等部門，并聯(lián)合私營合成生物學(xué)企業(yè)，共同開發(fā)和部署一套統(tǒng)一的、智能化的合成序列篩查系統(tǒng)。這套系統(tǒng)必須超越過去的靜態(tài)名單比對(duì)，深度整合人工智能的預(yù)測能力，對(duì)每一筆合成序列訂單實(shí)施動(dòng)態(tài)的、分層級(jí)的風(fēng)險(xiǎn)評(píng)估。其工作流程可設(shè)計(jì)為：與現(xiàn)有數(shù)據(jù)庫無任何相似性的序列被劃為低風(fēng)險(xiǎn)，可快速放行；與已知威脅序列存在部分相似性的序列被列為中風(fēng)險(xiǎn)，自動(dòng)觸發(fā)對(duì)客戶背景和用途的更深入核查；與已知威脅序列高度相似或經(jīng)人工智能預(yù)測模型判定為具有潛在有害功能的序列被視為高風(fēng)險(xiǎn)，此類訂單需暫緩并由政府監(jiān)管部門進(jìn)行批準(zhǔn)審查；對(duì)于那些被高度確信具有引發(fā)大流行潛力的極端危險(xiǎn)序列，系統(tǒng)應(yīng)立即終止訂單并自動(dòng)向執(zhí)法和國家安全機(jī)構(gòu)發(fā)出警報(bào)。整個(gè)系統(tǒng)的設(shè)計(jì)必須精心權(quán)衡安全與效率，最大化安全效益的同時(shí)，盡量避免給蓬勃發(fā)展的合成生物學(xué)行業(yè)帶來過重的合規(guī)負(fù)擔(dān)和時(shí)間成本。

四、結(jié)論：緊迫性與平衡之道

人工智能技術(shù)正在以指數(shù)級(jí)速度重塑生物技術(shù)的研發(fā)范式，其強(qiáng)大的雙重用途特性要求國家的應(yīng)對(duì)之策必須同時(shí)服務(wù)于兩個(gè)有時(shí)相互競爭的目標(biāo)：堅(jiān)決防范任何惡意濫用行為，同時(shí)積極保護(hù)和促進(jìn)負(fù)責(zé)任的科學(xué)創(chuàng)新與產(chǎn)業(yè)發(fā)展。分析表明，美國現(xiàn)有的生物安全措施，無論是在模型防護(hù)還是合成篩查方面，都已無法有效應(yīng)對(duì)由人工智能生成或賦能的新型生物威脅。拖延和不作為的風(fēng)險(xiǎn)極高。雖然特朗普政府近期發(fā)布的《人工智能行動(dòng)計(jì)劃》體現(xiàn)了對(duì)這一問題的高度關(guān)注，并邁出了重要的第一步，但現(xiàn)在亟需將其中的原則性聲明加速轉(zhuǎn)化為具體、可操作、有資金支持的法律法規(guī)和政策工具。通過果斷投資于美國國家標(biāo)準(zhǔn)與技術(shù)研究院和美國戰(zhàn)略與國際研究中心的基礎(chǔ)能力建設(shè)、建立對(duì)前沿生物設(shè)計(jì)工具模型的持續(xù)評(píng)估機(jī)制、以及徹底升級(jí)國家的核酸合成篩選基礎(chǔ)設(shè)施，美國可以推行一項(xiàng)“高回報(bào)、低成本”的先發(fā)制人式生物防御戰(zhàn)略。其最終目標(biāo)是構(gòu)建一個(gè)多層次的強(qiáng)大防御體系，確保無論技術(shù)如何演進(jìn)，開發(fā)生物武器始終是一項(xiàng)極其困難、極其昂貴、極易被察覺和阻止的行動(dòng)，從而牢牢守住生物安全的底線，避免最壞情況的發(fā)生。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機(jī)構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er