機(jī)器之心報(bào)道

編輯：+0

如果這是下一代圖形驗(yàn)證碼，你怎么看？

視頻鏈接：https://mp.weixin.qq.com/s/kfIHMEkAO8QU4wu8ecFuHg

感覺(jué)會(huì)經(jīng)歷無(wú)數(shù)遍「您對(duì) CAPTCHA 的響應(yīng)似乎無(wú)效。請(qǐng)?jiān)谙路街匦买?yàn)證您不是機(jī)器人」，不知道貓主子們?cè)趺聪搿?/p>

這是最近很火的一篇調(diào)侃「我不是機(jī)器人」驗(yàn)證流程的帖子。視頻里顯示，用戶得用鼠標(biāo)一個(gè)個(gè)點(diǎn)選那些灰色的「貓屎團(tuán)」，拖到旁邊的垃圾桶里，最后過(guò)關(guān)后，得勾選「我不是貓」。

這個(gè)帖子的互動(dòng)量爆炸，瀏覽量達(dá)到了一百多萬(wàn)。

評(píng)論區(qū)里非常熱鬧，有人覺(jué)得這比識(shí)別界限模糊的紅綠燈像素好多了。

也有人聯(lián)想到美劇《人生切割術(shù)》里的數(shù)據(jù)精煉工作。

還有人開(kāi)玩笑：「所以只有貓主子才是真正的人類?！?/p>

其中一個(gè)討論熱度很高：「圖像驗(yàn)證是在幫 AI 訓(xùn)練數(shù)據(jù)，還免費(fèi)?！?/p>

幫 AI 訓(xùn)練數(shù)據(jù)？這就要展開(kāi)說(shuō)說(shuō)了。

眾所周知，不管是注冊(cè)賬號(hào)還是發(fā)帖，驗(yàn)證碼都是個(gè)必不可少的東西。它的「大名」叫 CAPTCHA，全稱是「全自動(dòng)區(qū)分計(jì)算機(jī)和人類的圖靈測(cè)試」。它的作用，顧名思義就是區(qū)分人和機(jī)器人，避免機(jī)器人刷屏、刷票或搞破壞。

最早，其主要形式是扭曲的文字或圖片。扭曲的程度，決定了它難不難被認(rèn)出來(lái)。

但很快，一個(gè)叫 Luis von Ahn 的天才（他也是后來(lái)「多鄰國(guó)」的創(chuàng)始人）站了出來(lái)。他發(fā)現(xiàn)全球每天有數(shù)億人（現(xiàn)在是數(shù)十億）在戳這些驗(yàn)證碼，加起來(lái)浪費(fèi)的時(shí)間高達(dá)數(shù)百萬(wàn)小時(shí)。這不純純浪費(fèi)「人力腦循環(huán)」嗎？

于是，一個(gè)「一箭雙雕」的天才想法誕生了，它叫reCAPTCHA

這套系統(tǒng)從 v1 開(kāi)始，就不是一個(gè)單純的「保安」，它是一個(gè)「大型人力眾包項(xiàng)目」。

系統(tǒng)每次會(huì)彈給你兩個(gè)扭曲的單詞，這兩個(gè)詞里，只有一個(gè)是系統(tǒng)知道答案的「控制詞」，用來(lái)確定你是不是人。另一個(gè)「未知詞」，才是谷歌的「私貨」——它來(lái)自某個(gè)古老的、AI OCR（光學(xué)字符識(shí)別）啃不動(dòng)的掃描版圖書(shū)或報(bào)紙。

你根本不知道哪個(gè)是哪個(gè)，所以你會(huì)老老實(shí)實(shí)把兩個(gè)都填對(duì)。

結(jié)果呢？全球網(wǎng)民在毫不知情的情況下，用這種「無(wú)意識(shí)勞動(dòng)」，硬是把《紐約時(shí)報(bào)》從 1851 年以來(lái)的全部歷史檔案，和海量的「谷歌圖書(shū)」項(xiàng)目，給一個(gè)詞一個(gè)詞地免費(fèi)「轉(zhuǎn)錄」成了數(shù)字版。

但是，我們親手「喂」出來(lái)的 AI（谷歌的 OCR），把老師傅（v1 文本驗(yàn)證）給「卷」死了。

到了 2014 年，谷歌自己都公開(kāi)承認(rèn)，自家 AI 破解最難的扭曲文本，準(zhǔn)確率高達(dá) 99.8%。這背后是「卷積神經(jīng)網(wǎng)絡(luò)」（CNN）的功勞。學(xué)術(shù)研究（如 CapNet）早已證實(shí)，這類 AI 模型破解文本驗(yàn)證碼的準(zhǔn)確率普遍達(dá)到了 98% 甚至 100%，v1 防線在技術(shù)上已徹底失效。

• 谷歌博客：https://security.googleblog.com/2014/04/street-view-and-recaptcha-technology.html

防線必須升級(jí)。于是，v2 圖像驗(yàn)證來(lái)了。

這套「我不是機(jī)器人」你熟不熟悉？「選出所有汽車」、「選出所有交通信號(hào)燈」、「選出所有人行橫道」。那么問(wèn)題來(lái)了，幾乎在同一時(shí)間（2014 年左右），谷歌在瘋狂「燒錢」哪個(gè)項(xiàng)目？

沒(méi)錯(cuò)，自動(dòng)駕駛（Waymo）

一個(gè)自動(dòng)駕駛 AI，最需要訓(xùn)練什么？當(dāng)然是識(shí)別「汽車」、「交通信號(hào)燈」、「人行橫道」和「自行車」。也就說(shuō)，全球幾十億網(wǎng)民，在登錄、注冊(cè)、發(fā)帖時(shí)，都在免費(fèi)為谷歌的自動(dòng)駕駛 AI 打工。

這個(gè)「人類計(jì)算」項(xiàng)目有多龐大？有學(xué)者估算，在過(guò)去十幾年里，人類貢獻(xiàn)的這波無(wú)償勞動(dòng)，總價(jià)值超過(guò) 61 億美元。

到了 2024 年，AI 終于「學(xué)成下山」，把第二個(gè)老師傅（v2 拼圖）也給「干」翻了。

瑞士蘇黎世聯(lián)邦理工學(xué)院（ETH Zurich）的研究人員提交了一篇論文，題為「Breaking reCAPTCHA v2」（攻破 reCAPTCHA v2）。他們使用先進(jìn)的 YOLOv8 物體檢測(cè)模型，破解 v2 圖像挑戰(zhàn)的準(zhǔn)確率達(dá)到了100%

• 論文地址：https://arxiv.org/abs/2409.08831

這類模型之所以如此強(qiáng)大，正是因?yàn)樗鼈冊(cè)诤Ａ康?、已被精確標(biāo)注的數(shù)據(jù)集（reCAPTCHA v2 幫忙創(chuàng)建的那種）上訓(xùn)練出來(lái)的。

研究甚至表明，AI 解決這些難題的表現(xiàn)和人類「沒(méi)有顯著差異」。那你可能要問(wèn)了：「既然 AI 都 100% 破解了，為啥我還在天天點(diǎn)那些該死的紅綠燈？」

因?yàn)?，那張拼圖早就不是真正的防線了。

2024 年的這項(xiàng)研究同時(shí)證實(shí)了一個(gè)「公開(kāi)的秘密」：reCAPTCHA v2 的真正命脈，在于對(duì)你隱私數(shù)據(jù)的分析。

還記得那個(gè)「我不是機(jī)器人」的復(fù)選框嗎？谷歌的「先進(jìn)風(fēng)險(xiǎn)分析引擎」根本不在乎你是否點(diǎn)擊，而在乎你如何點(diǎn)擊。它在后臺(tái)瘋狂「視奸」你的：

• 鼠標(biāo)軌跡：你的移動(dòng)是平滑中帶點(diǎn)「人氣」的抖動(dòng)，還是機(jī)器人的完美直線或瞬移。
• 點(diǎn)擊位置：你是點(diǎn)在方框中間，還是不偏不倚的正中心（機(jī)器人行為）。
• 瀏覽器指紋：你的屏幕分辨率、插件、字體……
• 谷歌 Cookie：這才是「大殺器」。一個(gè)長(zhǎng)期登錄谷歌賬戶、瀏覽記錄「清白」的用戶，遠(yuǎn)比一個(gè)剛清除 Cookie 或開(kāi)著 VPN 的用戶「更像人」。

這場(chǎng)攻防戰(zhàn)在學(xué)術(shù)界早已白熱化。

進(jìn)攻方（AI 攻擊）：攻擊者面臨一個(gè)「先有雞還是先有蛋」的問(wèn)題：你需要一個(gè) AI 求解器來(lái)自動(dòng)收集海量樣本，但你又需要海量樣本來(lái)訓(xùn)練這個(gè)求解器。

答案是「生成對(duì)抗網(wǎng)絡(luò)」（GAN）。研究指出，攻擊者只需少量（例如 500 個(gè)）真實(shí)樣本，就能訓(xùn)練一個(gè) GAN。這個(gè) GAN 的「生成器」會(huì)偽造新的驗(yàn)證碼，而「判別器」則學(xué)習(xí)破解它們。這個(gè)過(guò)程可以無(wú)限地生成合成的訓(xùn)練數(shù)據(jù)，AI 攻擊者的「軍火庫(kù)」就此建成了。

防守方（v3 轉(zhuǎn)向）：既然拼圖守不住，防線就全面轉(zhuǎn)向了 reCAPTCHA v3。它的學(xué)術(shù)術(shù)語(yǔ)叫「行為生物識(shí)別」（Behavioral Biometrics）。這才是 v3 的核心。

reCAPTCHA v3 徹底隱形，會(huì)在你訪問(wèn)的所有頁(yè)面上運(yùn)行，像個(gè)監(jiān)工一樣默默觀察你的所有行為（鼠標(biāo)、滾動(dòng)、鍵盤節(jié)奏），然后給你打一個(gè) 0.0（機(jī)器人）到 1.0（人類）的「可信度分?jǐn)?shù)」。

這個(gè)轉(zhuǎn)向的代價(jià)是巨大的：

• 隱私噩夢(mèng)：這種大規(guī)模監(jiān)控被指控為「間諜軟件」，并與 GDPR 等隱私法規(guī)嚴(yán)重沖突。
• 隱私悖論：你越是努力保護(hù)隱私（用 VPN、清 Cookie、用隱私瀏覽器），你就越拿不到「可信」數(shù)據(jù)，v3 給你的分?jǐn)?shù)就越低，你就越「像個(gè)機(jī)器人」。
• 「酷刑」級(jí)難度：唯一能制裁 AI 的方法，就是把拼圖搞得巨難無(wú)比。結(jié)果，AI 沒(méi)防住，反而把視障、聽(tīng)障或有閱讀障礙的用戶（Dyslexia）徹底鎖在了門外。

那么，當(dāng) v3 的「行為監(jiān)控」也因隱私問(wèn)題和 AI 模擬而失效時(shí)，該怎么辦呢？

還是前面那個(gè) ETH Zurich 的研究團(tuán)隊(duì)，提出了一種最「黑客帝國(guó)」的方案：「對(duì)抗性 CAPTCHA」（Adversarial CAPTCHA）。

• 論文標(biāo)題：Seeing Through the Mask: Rethinking Adversarial Examples for CAPTCHAs
• 論文地址:https://arxiv.org/abs/2409.05558v1

這個(gè)想法是利用 AI 的一個(gè)致命弱點(diǎn)：它們很容易被「對(duì)抗性樣本」欺騙。這是一種人類肉眼看來(lái)毫無(wú)意義的「噪音」圖像，但 AI（如 CNN）卻會(huì)以 99.9% 的置信度將其誤認(rèn)為某個(gè)特定物體。

未來(lái)的驗(yàn)證碼，可能不再是「你是否能解決人類的問(wèn)題」，而是「你是否會(huì)犯 AI 才會(huì)犯的錯(cuò)誤」。

所以，回到開(kāi)頭的那個(gè)「鏟貓屎」驗(yàn)證碼。

你以為你是在逗貓？沒(méi)準(zhǔn)，你是在給某個(gè)「AI 鏟屎官」機(jī)器人，免費(fèi)上崗前培訓(xùn)呢。或者，你是在向系統(tǒng)證明，你不會(huì)傻到去點(diǎn)擊一張 AI 誤以為是「貓屎」的電視雪花點(diǎn)。