生成式AI如何助推“互聯(lián)網(wǎng)已死論”，引發(fā)真實(shí)性危機(jī)，以及為什么AI檢測(cè)工具無(wú)法拯救我們。

作者：ToxSec2025年10月28日

AI正在加速“互聯(lián)網(wǎng)已死”理論的出現(xiàn)。

簡(jiǎn)而言之：你在網(wǎng)上感受到的那種詭異感是真實(shí)的?；ヂ?lián)網(wǎng)上充斥著大量AI生成內(nèi)容，它們模仿人類的能力遠(yuǎn)勝于我們識(shí)別它們的能力。真實(shí)性已然終結(jié)。我會(huì)向你解釋為什么我們?cè)谶@場(chǎng)戰(zhàn)斗中已經(jīng)節(jié)節(jié)敗退。

• 我們已經(jīng)從‘垃圾信息時(shí)代’邁入了‘模擬造假時(shí)代’。

“恐怖谷效應(yīng)” 籠罩整個(gè)互聯(lián)網(wǎng)

坦白說(shuō)，你肯定也有過(guò)這種感受：刷網(wǎng)頁(yè)時(shí)突然覺得不對(duì)勁。讀產(chǎn)品評(píng)論，某條寫得過(guò)于完美，精準(zhǔn)踩中所有營(yíng)銷關(guān)鍵詞，熱情得不像真人；看評(píng)論區(qū)，某條回復(fù)千篇一律，毫無(wú)靈魂，仿佛是用一堆 “安全話術(shù)” 拼湊而成。語(yǔ)法無(wú)可挑剔，卻少了人類該有的靈氣。

多年來(lái)，我們都把這些情況歸為普通垃圾信息。但這種詭異感越來(lái)越頻繁，而且虛假內(nèi)容不再粗糙。曾經(jīng)零星的偽造信息如今已泛濫成災(zāi)，AI生成的內(nèi)容鋪天蓋地而來(lái)。我們正飛速?gòu)?“人類為人類打造的互聯(lián)網(wǎng)”，轉(zhuǎn)向 “機(jī)器為人類打造的互聯(lián)網(wǎng)”—— 而這些機(jī)器的 “工作能力” 已經(jīng)可怕到令人心驚。

這絕非 “更高級(jí)的垃圾信息” 那么簡(jiǎn)單。我們正在親眼見證一個(gè)個(gè)性化、合成化的虛擬世界誕生。

“互聯(lián)網(wǎng)已死理論”迎來(lái)重大升級(jí)

為了把握未來(lái)的發(fā)展方向，我們必須回顧一下“互聯(lián)網(wǎng)已死論”。這個(gè)理論最初在網(wǎng)絡(luò)論壇上興起，是一種聽起來(lái)頗為可信的陰謀論。其核心觀點(diǎn)是，互聯(lián)網(wǎng)早已空洞無(wú)物，大量的網(wǎng)絡(luò)活動(dòng)都是由機(jī)器人偽造的，目的是為了操縱搜索算法和廣告收入。當(dāng)時(shí)，大多數(shù)人將其視為科技界的妄想癥。

嗯，這種擔(dān)憂現(xiàn)在看來(lái)頗具先見之明，因?yàn)檫@些機(jī)器人剛剛通過(guò)大型語(yǔ)言模型（LLM）進(jìn)行了重大升級(jí)。過(guò)去簡(jiǎn)單的腳本已被生成式人工智能所取代。這種變化令人震驚。如果說(shuō)舊機(jī)器人是提線木偶，那么現(xiàn)代AI就是一支充滿創(chuàng)造力的智能體大軍，能夠以驚人的規(guī)模構(gòu)思出獨(dú)特、貼合語(yǔ)境、酷似人類的合成內(nèi)容。

這項(xiàng)技術(shù)飛躍徹底改變了游戲規(guī)則。新一代AI的目標(biāo)是更高層次的博弈：模擬文化本身。其目標(biāo)不再是偽造一條評(píng)論，而是制造一種廣泛的社會(huì)共識(shí)感。

歡迎來(lái)到你的專屬虛假互聯(lián)網(wǎng)

真正的危險(xiǎn)不在于互聯(lián)網(wǎng)充斥著虛假內(nèi)容，而在于這些內(nèi)容是 “為你量身定制” 的。我們面臨的不是一個(gè)統(tǒng)一的虛假互聯(lián)網(wǎng)，而是數(shù)百萬(wàn)個(gè)個(gè)性化的AI虛擬世界。這便是終極的AI回音室，一個(gè)完美的現(xiàn)實(shí)氣泡，你可能根本意識(shí)不到自己是唯一的 “居民”。

想象一下，一個(gè)搜索引擎能夠即時(shí)生成文章，完美地印證它認(rèn)為你已經(jīng)相信的事情。再想象一下，社交媒體上的所有評(píng)論都來(lái)自AI生成的、旨在與你觀點(diǎn)一致的賬號(hào)。這就是在個(gè)人層面上制造認(rèn)同的方式。當(dāng)你看到的每篇文章、每條評(píng)論都支持你的世界觀時(shí)，它就不再是 “觀點(diǎn)”，而會(huì)變成你眼中的 “客觀事實(shí)”。

最大的犧牲品是 “偶然性”—— 那種偶遇新想法、接觸反對(duì)意見的魔力。互聯(lián)網(wǎng)曾是混亂卻真實(shí)的公共廣場(chǎng)，而AI定制的現(xiàn)實(shí)里沒有 “意外之喜”。它是一個(gè)干凈的空間，通過(guò)消除認(rèn)知失調(diào)讓你保持沉浸，卻也為定向AI虛假信息鋪平了道路。

AI檢測(cè)領(lǐng)域的軍備競(jìng)賽已經(jīng)輸了

所有人都會(huì)問：“我們不能開發(fā)AI內(nèi)容檢測(cè)工具嗎？” 想法很好，但我們正陷入一場(chǎng)注定要輸?shù)寞偪褴妭涓?jìng)賽 —— 生成器永遠(yuǎn)占據(jù)上風(fēng)。

檢測(cè)工具的工作原理是識(shí)別AI模型留下的細(xì)微統(tǒng)計(jì)“痕跡”。但是，我們每開發(fā)出一個(gè)智能檢測(cè)器，就會(huì)有更智能的人工智能被訓(xùn)練來(lái)隱藏這些痕跡。這是一場(chǎng)永無(wú)止境的貓鼠游戲，老鼠會(huì)根據(jù)貓的最后舉動(dòng)重新設(shè)計(jì)自己。像“加水印”這樣的解決方案非常脆弱；不法分子只需使用沒有水印功能的模型即可。

當(dāng)技術(shù)之爭(zhēng)注定失敗時(shí)，其后果便是社會(huì)層面的。我們正步入一個(gè)充滿根深蒂固的不信任的時(shí)代。歡迎來(lái)到“真實(shí)性危機(jī)”的世界，在這個(gè)時(shí)代，你必須假定一切都是假的，直到被證明是真的。這迫使我們所有人背負(fù)沉重的“現(xiàn)實(shí)稅”，導(dǎo)致集體倦怠和憤世嫉俗，最終使數(shù)字信任徹底瓦解。

唯一出路：回歸更具人性的互聯(lián)網(wǎng)

我們已經(jīng)從最初在網(wǎng)絡(luò)上看到機(jī)器人時(shí)的那種怪異感覺，發(fā)展到理解它對(duì)我們未來(lái)的真正意義?！盎ヂ?lián)網(wǎng)已死”理論不再是陰謀論，而是對(duì)當(dāng)下正在發(fā)生的事情的預(yù)測(cè)。這不是遙遠(yuǎn)的反烏托邦，而是已經(jīng)到來(lái)的真實(shí)性危機(jī)。

那么，我們?cè)撛趺崔k？出路必然是 “更具人性”。答案并非某種神奇的檢測(cè)工具，而是我們數(shù)字素養(yǎng)的全面提升。我們不能只問“這是真的嗎？”，而是“我為什么會(huì)看到這些？”健康的批判性思維才是我們最好的防御。

或許，真正互聯(lián)網(wǎng)的未來(lái)在于人們有意識(shí)地選擇花時(shí)間在規(guī)模較小、信任度高的“數(shù)字花園”，比如小眾論壇、私人群組，在這些地方，聲譽(yù)和真實(shí)互動(dòng)至關(guān)重要。我們或許需要重新學(xué)習(xí)如何構(gòu)建社群，確保我們確信屏幕另一端的人是真實(shí)的。

這就引出了最重要的問題：隨著我們的世界充斥著完美定制的合成內(nèi)容，我們?cè)撊绾卧诰W(wǎng)上證明自己是“真人”？

常見問題解答

AI生成的內(nèi)容如今在網(wǎng)絡(luò)上有多普及？它已經(jīng)存在，并且正在呈指數(shù)級(jí)增長(zhǎng)。我們今天就能看到各種復(fù)雜的AI評(píng)論、文章和產(chǎn)品評(píng)價(jià)。雖然并非所有用戶都完全處于模擬環(huán)境中，但這些工具的部署速度已經(jīng)遠(yuǎn)遠(yuǎn)超出了我們的預(yù)期。趨勢(shì)顯而易見，而我們正處于增長(zhǎng)曲線的陡峭階段。

AI回音室和信息繭房有什么區(qū)別？信息繭房是被動(dòng)的：算法會(huì)向你推送你可能認(rèn)同的真實(shí)用戶的內(nèi)容。AI回音室則是主動(dòng)的：它會(huì)從零開始為你生成全新的合成內(nèi)容和虛假“人物”。這就好比“精選播放列表”和“為你量身創(chuàng)作的歌曲”之間的區(qū)別。

如何保護(hù)自己免受AI驅(qū)動(dòng)的虛假信息侵害？答案在于轉(zhuǎn)變思維方式。成為一名有意識(shí)的信息消費(fèi)者，并培養(yǎng)良好的數(shù)字素養(yǎng)。積極尋找規(guī)模較小但值得信賴的社群。直接支持人類創(chuàng)作者。最重要的是，保持健康的懷疑態(tài)度，對(duì)信息流中的所有內(nèi)容都問問自己“我為什么會(huì)看到這些？”

監(jiān)管能解決AI合成內(nèi)容的問題嗎？監(jiān)管可能會(huì)發(fā)揮作用（比如強(qiáng)制加水?。?，但這與言論自由之間存在微妙的平衡，而且技術(shù)發(fā)展總是遠(yuǎn)超立法速度。法律雖然有所幫助，但并非萬(wàn)能靈藥。核心防御始終在于擁有批判性思維和受過(guò)良好教育的用戶群體。

本文編譯自substack，原文作者ToxSec

https://substack.com/@toxsec/p-176417949