henry 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

AI Coding火了大半年，AI Debugging也來(lái)了！

剛剛，OpenAI發(fā)布由GPT-5驅(qū)動(dòng)的“白帽”Agent——Aardvark（土豚）

這只“AI安全研究員”能幫助開(kāi)發(fā)者和安全團(tuán)隊(duì)，在大規(guī)模代碼庫(kù)中自動(dòng)發(fā)現(xiàn)并修復(fù)安全漏洞

據(jù)OpenAI報(bào)告，Aardvark已識(shí)別出了92%的已知與人工注入漏洞，而且能定位僅在復(fù)雜條件下出現(xiàn)的問(wèn)題。

OpenAI副總裁Matt Knight表示：

• 我們的開(kāi)發(fā)者發(fā)現(xiàn)，土豚在清晰地解釋問(wèn)題并引導(dǎo)他們找到修復(fù)方案方面確實(shí)非常有價(jià)值。這個(gè)信號(hào)告訴我們，我們正走在一條有意義的道路上。

而且，不僅OpenAI。

整個(gè)10月Anthropic谷歌微軟基本上是前腳跟后腳發(fā)布了類似的白帽Agent。

這是怎么一回事。

Agentic AI +自動(dòng)修補(bǔ)漏洞

OpenAI對(duì)這款白帽Aardvark的官方描述是——代理型安全研究員（agentic security researcher）

Aardvark的核心任務(wù)是持續(xù)分析源代碼倉(cāng)庫(kù)，以識(shí)別安全漏洞、評(píng)估可利用性、確定風(fēng)險(xiǎn)等級(jí)，并提出有針對(duì)性的修復(fù)方案。

它通過(guò)監(jiān)控代碼提交（commits）與變更來(lái)工作，自動(dòng)識(shí)別潛在漏洞、推斷攻擊路徑并生成修復(fù)建議。

Aardvark并不依賴傳統(tǒng)的程序分析技術(shù)（如模糊測(cè)試fuzzing或軟件成分分析SCA），而是運(yùn)用大語(yǔ)言模型驅(qū)動(dòng)的推理與工具使用能力來(lái)理解代碼行為，像人類安全研究員那樣閱讀、分析代碼、編寫(xiě)測(cè)試并運(yùn)行驗(yàn)證。

具體來(lái)說(shuō)，它的工作流程從Git倉(cāng)庫(kù)出發(fā)，依次經(jīng)歷：威脅建?！┒窗l(fā)現(xiàn)→沙盒驗(yàn)證→Codex 修復(fù)→人工復(fù)審→ 提交Pull Request。

• 分析：對(duì)整個(gè)倉(cāng)庫(kù)進(jìn)行全面分析，生成反映項(xiàng)目安全目標(biāo)與設(shè)計(jì)的威脅模型（threat model）。
• 提交掃描：新代碼提交時(shí)，結(jié)合倉(cāng)庫(kù)和威脅模型掃描差異；首次連接倉(cāng)庫(kù)時(shí)回溯歷史提交。同時(shí)解釋發(fā)現(xiàn)的漏洞，在代碼中標(biāo)注，便于人工復(fù)審。
• 驗(yàn)證：一旦識(shí)別出潛在漏洞，將在隔離環(huán)境中觸發(fā)潛在漏洞，確認(rèn)可利用性，同時(shí)說(shuō)明驗(yàn)證步驟，確保結(jié)果準(zhǔn)確且誤報(bào)率低。
• 修復(fù)：Aardvark與OpenAI Codex深度集成，為漏洞生成修復(fù)補(bǔ)丁，附于報(bào)告中，便于一鍵審閱與應(yīng)用。

目前，Aardvark可無(wú)縫集成GitHub、Codex及現(xiàn)有開(kāi)發(fā)流程，在不影響開(kāi)發(fā)效率的前提下提供可執(zhí)行的安全洞察。

內(nèi)部測(cè)試顯示，它不僅能識(shí)別安全漏洞，還能發(fā)現(xiàn)邏輯缺陷、不完整修復(fù)及隱私風(fēng)險(xiǎn)

而且，Aardvark 已在內(nèi)部和合作伙伴項(xiàng)目中測(cè)試運(yùn)行，表現(xiàn)出色，驗(yàn)證了其實(shí)際可用性。

正如開(kāi)頭提到的，它不僅能夠進(jìn)行深度分析、定位僅在復(fù)雜條件下出現(xiàn)的問(wèn)題，在對(duì)“黃金測(cè)試倉(cāng)庫(kù)（golden repositories）”的基準(zhǔn)測(cè)試中，也實(shí)現(xiàn)了92%的識(shí)別率。

此外，Aardvark也已應(yīng)用于多個(gè)開(kāi)源項(xiàng)目，發(fā)現(xiàn)并負(fù)責(zé)披露了眾多漏洞，其中10個(gè)已獲得CVE編號(hào)。

OpenAI表示將為部分非商業(yè)開(kāi)源倉(cāng)庫(kù)提供公益掃描服務(wù)，并提升整個(gè)開(kāi)源生態(tài)與供應(yīng)鏈的安全性。

Aardvark現(xiàn)已開(kāi)啟內(nèi)測(cè)，有需要的開(kāi)發(fā)者可以直接在官網(wǎng)申請(qǐng)。

AI編程完，AI來(lái)修

就像開(kāi)頭提到的，不僅是OpenAI，其他科技巨頭也在積極布局Agentic?AI+代碼安全

整個(gè)10月，谷歌、Anthropic、微軟就像提前約好了似的，紛紛發(fā)布相關(guān)動(dòng)作，OpenAI這次反而顯得稍晚。

例如，Anthropic在10月4號(hào)表示將Claude Sonnet 4.5應(yīng)用于代碼安全任務(wù)。

據(jù)悉，Claude Sonnet 4.5在發(fā)現(xiàn)代碼漏洞和其他網(wǎng)絡(luò)安全技能方面，性能已經(jīng)超越了Opus 4.1，并且價(jià)格更低、速度更快。

谷歌在10月6號(hào)發(fā)布了CodeMender，利用Gemini Deep Think模型，實(shí)現(xiàn)自主調(diào)試和漏洞修復(fù)。

微軟在10月16號(hào)發(fā)布了Vuln.AI，正式宣告使用AI進(jìn)行漏洞管理，而在10月的最后一天，OpenAI也是姍姍來(lái)遲，跟上了這次更新的節(jié)奏。

（注：各家在發(fā)布前均進(jìn)行了數(shù)月的測(cè)試和驗(yàn)證）

那么，為什么這些巨頭都選擇在此時(shí)發(fā)力AI代碼安全呢？

OpenAI以及其他公司的解釋高度一致：人工Debug與傳統(tǒng)的自動(dòng)化方法（如模糊測(cè)試）已經(jīng)跟不上大規(guī)模代碼庫(kù)的漏洞發(fā)現(xiàn)與修復(fù)需求

一方面，企業(yè)級(jí)網(wǎng)絡(luò)中設(shè)備、服務(wù)、代碼庫(kù)數(shù)量巨大，另一方面AI技術(shù)雖能提高生產(chǎn)力，但也被用于快速尋找漏洞、生成攻擊代碼。

因此，在漏洞數(shù)量激增、攻擊手段日益智能化的背景下，借助AI自動(dòng)化發(fā)現(xiàn)與修復(fù)漏洞，已成為確保軟件安全和降低企業(yè)風(fēng)險(xiǎn)的關(guān)鍵手段。

不過(guò)，大廠說(shuō)管說(shuō)，倒是有網(wǎng)友發(fā)現(xiàn)了“華點(diǎn)”：

• 我們有一個(gè)會(huì)制造安全漏洞的Agent，也有一個(gè)會(huì)修復(fù)安全漏洞的Agent，這就是最好的商業(yè)模式。

[1]https://x.com/OpenAI/status/1983956431360659467

[2]https://openai.com/index/introducing-aardvark/

[3]https://www.anthropic.com/research/building-ai-cyber-defenders?utm_source=chatgpt.com

[4]https://deepmind.google/discover/blog/introducing-codemender-an-ai-agent-for-code-security/

[5]https://www.microsoft.com/insidetrack/blog/vuln-ai-our-ai-powered-leap-into-vulnerability-management-at-microsoft/?utm_source=chatgpt.com