新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】近段時(shí)間，「死亡互聯(lián)網(wǎng)理論」刷屏硅谷，OpenAI創(chuàng)始人兼CEO Sam Altman、Reddit聯(lián)合創(chuàng)始人Ohanian等紛紛對(duì)其發(fā)表評(píng)論。失去真實(shí)性的網(wǎng)絡(luò)等同于死亡。AI生成內(nèi)容正席卷社交平臺(tái)，從圖片、視頻到自動(dòng)化評(píng)論?；ヂ?lián)網(wǎng)的未來不在真假之爭(zhēng)，而在重拾「真實(shí)」的信任與溫度。

當(dāng)互聯(lián)網(wǎng)被AI內(nèi)容淹沒，真正由人類創(chuàng)作的內(nèi)容正在日益縮減。

「如今的互聯(lián)網(wǎng)，大部分已經(jīng)死了」，近日Reddit聯(lián)合創(chuàng)始人Alexis Ohanian一語(yǔ)驚人。

Reddit聯(lián)合創(chuàng)始人Alexis Ohanian

他口中的「互聯(lián)網(wǎng)死亡」并不是指互聯(lián)網(wǎng)被關(guān)閉了，而是被鋪天蓋地的AI生成內(nèi)容所淹沒，失去了真實(shí)的生命力。

Ohanian所言非虛。

曾經(jīng)匯聚人類真實(shí)思想和交流的網(wǎng)絡(luò)，如今正被大量AI生成的內(nèi)容所占據(jù)：

你看到的熱帖、閱讀的文章、甚至與你爭(zhēng)論的「網(wǎng)友」，都可能根本不是人類，背后或許早已是算法與AI的「回聲」。

AI生成內(nèi)容的無序擴(kuò)張，正在蠶食互聯(lián)網(wǎng)的真實(shí)性。

旅行類大V Chris Broad在X平臺(tái)上表示，「死亡互聯(lián)網(wǎng)理論」現(xiàn)在已經(jīng)成為「死亡互聯(lián)網(wǎng)現(xiàn)實(shí)」：

每天都有普通人給我發(fā)消息，讓我去一些根本不存在的地方，這些地方都是人們?cè)贔acebook、Instagram和Twitter相關(guān)主題賬號(hào)或頁(yè)面中提到的……這些帖子通常包含完全虛假的AI照片，下面還有機(jī)器人賬號(hào)在評(píng)論區(qū)盲目地稱贊照片。

Chris Broad提醒人們要小心自己關(guān)注和點(diǎn)擊的內(nèi)容。「要知道，大多數(shù)頁(yè)面、內(nèi)容以及粉絲數(shù)量，都是被嚴(yán)重人為夸大的?！?/p>

網(wǎng)友Swarn也提到經(jīng)常會(huì)刷到疑似AI生成的推文，他會(huì)通過內(nèi)容中夾雜的「突然轉(zhuǎn)折、刻意堆砌的詞匯、借用的隱喻」來識(shí)別「AI味」。

Goddess預(yù)測(cè)到下一年「死亡互聯(lián)網(wǎng)理論」會(huì)越來越受到關(guān)注，所有社交媒體賬號(hào)并非都是真實(shí)的人。

這股熱潮，甚至把OpenAI創(chuàng)始人兼CEO Sam Altman也驚動(dòng)了。

Sam Altman認(rèn)為「死亡互聯(lián)網(wǎng)理論」可能有一定的道理。他提到「現(xiàn)在的確存在很多由大模型驅(qū)動(dòng)的Twitter賬號(hào)」。

這些AI生成內(nèi)容的泛濫，讓Altman再度擔(dān)心「死亡互聯(lián)網(wǎng)」理論的影響。

不真實(shí)，毋寧死

「死亡互聯(lián)網(wǎng)」理論的起源

「死亡互聯(lián)網(wǎng)理論」（DIT，Dead Internet Theory），傳遞出這樣一種核心態(tài)度：

不真實(shí)，毋寧死。

它認(rèn)為只有真實(shí)才是互聯(lián)網(wǎng)的生命——失去真實(shí)性，就等于是宣告了互聯(lián)網(wǎng)的「死亡」。

2021年，用戶IlluminatiPirate在Agora Road論壇發(fā)帖提到了「死亡互聯(lián)網(wǎng)理論」，這位網(wǎng)友對(duì)其的定義就是「大多數(shù)互聯(lián)網(wǎng)變得虛假」。

伴隨著互聯(lián)網(wǎng)社會(huì)的發(fā)展，「死亡互聯(lián)網(wǎng)理論」思潮在網(wǎng)絡(luò)論壇和社區(qū)中開始逐漸流行，背后的驅(qū)動(dòng)因素正是「真實(shí)感」的逐漸喪失：

現(xiàn)代互聯(lián)網(wǎng)帶來了花樣百出的玩法，但真實(shí)感也被玩丟了。

早期互聯(lián)網(wǎng)那種有機(jī)的、用戶驅(qū)動(dòng)的特性一點(diǎn)點(diǎn)消失，取而代之的是越來越依賴計(jì)算機(jī)生成的內(nèi)容（數(shù)據(jù)）以維持活動(dòng)和參與度。

隨著生成式AI的出現(xiàn)，讓「死亡互聯(lián)網(wǎng)理論」獲得了更多的「現(xiàn)實(shí)支撐」。

因?yàn)樯墒紸I更像人類，它們?cè)谏缃幻襟w上被廣泛應(yīng)用于放大點(diǎn)贊、評(píng)論和分享數(shù)據(jù)等。

就連Sam Altman，這位親手讓ChatGPT風(fēng)靡全球的「AI之父」，也被鋪天蓋地的「程序味兒」搞破防，他忍不住吐槽Reddit上的AI腔調(diào)（LLM-speak），認(rèn)為這讓人際互動(dòng)「感覺很假」。

從早期互聯(lián)網(wǎng)，到社交媒體時(shí)代，再到生成式AI浪潮，原來那個(gè)真實(shí)的互聯(lián)網(wǎng)已逐漸被一個(gè)由AI主導(dǎo)的互聯(lián)網(wǎng)所取代，「技術(shù)登月」越來越多，但真實(shí)感卻越來越少了。

換句話說，「死亡互聯(lián)網(wǎng)」理論的市場(chǎng)越來越大了。

「死亡互聯(lián)網(wǎng)」的升級(jí)版

如今，如火如荼的AI浪潮，正按下「互聯(lián)網(wǎng)死亡」的加速鍵，并且還帶了它的升級(jí)版本。

據(jù)Cloudflare的長(zhǎng)期監(jiān)測(cè)顯示，機(jī)器人流量約占整體應(yīng)用流量的31%左右，并在部分地區(qū)和時(shí)段階段性超越人類訪問。

Imperva在2025年版的《Bad Bot Report》中則指出：自動(dòng)化流量在2024年已達(dá)51%，其中從事惡意活動(dòng)的「壞機(jī)器人」占比升至37%。

這里的「壞機(jī)器人」在生成式AI時(shí)代更為突出，因?yàn)樗鼈兏朴趥窝b成人類行為。

它們有時(shí)只是在社交媒體上生成一些空洞或胡言亂語(yǔ)的評(píng)論，但也可能被惡意使用，比如制造虛假的頁(yè)面瀏覽量、用戶互動(dòng)和使用時(shí)長(zhǎng)，從而造成公司業(yè)績(jī)數(shù)據(jù)的扭曲。

不止活躍于社交媒體，生成式AI還在逐步接管人類表達(dá)領(lǐng)域。

Graphite的一項(xiàng)數(shù)據(jù)記錄了這一里程碑時(shí)刻：

2024年11月，網(wǎng)絡(luò)上發(fā)表的AI生成文章數(shù)量超過了人類撰寫的文章數(shù)量。

據(jù)Graphite觀察，自2022年11月ChatGPT推出以來，AI生成文章數(shù)量顯著增長(zhǎng)，但在過去一年中AI生成文章的比例保持相對(duì)穩(wěn)定，這可能是因?yàn)樵缙贏I生成文章質(zhì)量不佳導(dǎo)致的。

但隨著AI生成文章質(zhì)量的提高，再加上AI生成文章的速度之高、成本之低也遠(yuǎn)非人類可比，可以預(yù)見未來AI文章的數(shù)量還會(huì)穩(wěn)定增長(zhǎng)。

這意味著，AI生成內(nèi)容的數(shù)量增長(zhǎng)不僅改變了信息來源的結(jié)構(gòu)，也正在重塑網(wǎng)絡(luò)生態(tài)真實(shí)感的「基線」，也可能帶來AI時(shí)代「互聯(lián)網(wǎng)死亡」的升級(jí)版——模型崩潰。

https://arxiv.org/pdf/2305.17493

這一點(diǎn)在牛津大學(xué)等研究機(jī)構(gòu)發(fā)表的《遞歸的詛咒（Curse of Recursion）：在AI生成數(shù)據(jù)上再訓(xùn)練會(huì)導(dǎo)致模型遺忘》論文中已經(jīng)得到了理論上的證實(shí)。

AI時(shí)代真正的危機(jī)是模型崩潰。

在大模型使用生成數(shù)據(jù)繼續(xù)訓(xùn)練（continue training）的遞歸過程中，模型會(huì)慢慢「忘記」或偏離原始人類語(yǔ)言分布的某些細(xì)節(jié)，尤其是那些少見或者邊緣的模式。

這樣模型會(huì)逐漸丟失多樣性淪為一切趨于平庸的同質(zhì)化，最終出現(xiàn)模型崩潰（Model Collapse）。

這就好像把一張照片在上一代復(fù)印件的基礎(chǔ)上不斷復(fù)印，其清晰度會(huì)逐漸下降，最終變成一張模糊的、缺乏細(xì)節(jié)的照片。

當(dāng)越來越多的AI內(nèi)容成為模型的訓(xùn)練數(shù)據(jù)，就可能帶來模型能力的下降，由此產(chǎn)生更多劣質(zhì)的AI內(nèi)容，這些內(nèi)容再訓(xùn)練出更差的AI模型，最終就是更嚴(yán)重的危機(jī)——模型崩潰。

從互聯(lián)網(wǎng)的「死亡」，到模型的「崩潰」，與技術(shù)發(fā)展同步的，是「失真」的演進(jìn)。

讓互聯(lián)網(wǎng)更「人」一點(diǎn)，更「真」一點(diǎn)

Google CEO Sundar Pichai認(rèn)為搜索引擎會(huì)被AIGC 「深刻改造」，因此AI回答與人類內(nèi)容的協(xié)同將成為主流交互范式。

Google CEO Sundar Pichai

英偉達(dá)CEO黃仁勛，提出應(yīng)當(dāng)把AIGC視作時(shí)代性通用技術(shù)，將無處不在地嵌入創(chuàng)作、工程與組織工作流。

隨著AI對(duì)于互聯(lián)網(wǎng)和人類社會(huì)的滲透，AI生成的內(nèi)容將會(huì)像Sam Altman預(yù)言的那樣，會(huì)不可避免地越來越多。

這就帶來一個(gè)難題：如何區(qū)分AI和人類生成的內(nèi)容。

隨著人類正越來越多地與AI合作，讓這一點(diǎn)變得更加困難。

的確，一個(gè)人在工作中利用AI的方式有很多種，比如用它來搜索，整理材料等，因此很難明確地說某項(xiàng)內(nèi)容是AI生成的還是人類生成的。

實(shí)際上很多AI生成的內(nèi)容，背后是人類在引導(dǎo)、編輯、校正。

用加州大學(xué)洛杉磯分校計(jì)算機(jī)科學(xué)教授、亞馬遜網(wǎng)絡(luò)服務(wù)副總裁Stefano Soatto的話來說，「二者之間更像是一種共生關(guān)系，而不是非此即彼。并非所有AI生成的內(nèi)容都是垃圾內(nèi)容?！?/p>

在這種共生的關(guān)系下，用不用區(qū)分AI和人類生成的內(nèi)容？

Sam Altman認(rèn)為，「好不好比是不是AI產(chǎn)出更重要」，但他也提出要有「可驗(yàn)證的來源」與治理工具，以識(shí)別哪些是AI生成的并提升信任。

Altman認(rèn)為識(shí)別AI生成內(nèi)容是為了提升對(duì)內(nèi)容的信任度，他曾多次提醒不要過度信任模型，因?yàn)锳I也會(huì)「自信地編造」。

同樣，Anthropic CEO Dario Amodei也認(rèn)為，需要科學(xué)的方法和評(píng)估體系為此來兜底，他認(rèn)為雖然模型「胡說」頻率可能低于人類，但出錯(cuò)方式更「出其不意」。

Elon Musk也強(qiáng)調(diào)要用AI去檢測(cè)/溯源合成視頻與深偽，在平臺(tái)層面構(gòu)建「內(nèi)容鑒別器」。

這點(diǎn)隨著AI技術(shù)的發(fā)展變得尤為重要。

近日，Sora 2上線后短時(shí)間內(nèi)就有大量「以假亂真」的視頻在社媒流通，YouTube、Meta正通過出臺(tái)「貼標(biāo)」「降權(quán)/限變現(xiàn)」等方式，試圖限制「AI灌水內(nèi)容」的擴(kuò)散。

對(duì)于AI生成內(nèi)容的監(jiān)管也在多地加碼。

比如，美國(guó)政府在2025年5月19日正式出臺(tái)《TAKE IT DOWN 法案》，將故意發(fā)布或威脅發(fā)布非同意的親密圖像（包括 AI 生成的深度偽造）定為犯罪行為。

歐盟首部關(guān)于人工智能的法規(guī)《AI法案》明確合成內(nèi)容必須標(biāo)識(shí)、與用戶交互需透明提示。

識(shí)別AI內(nèi)容是為了安全，避免AI噪聲，但即便是AI生成的內(nèi)容優(yōu)于人類，這種區(qū)別仍然是必須的。

因?yàn)橄啾容^好壞，真實(shí)性永遠(yuǎn)更為重要。

不僅是互聯(lián)網(wǎng)，即使是AI時(shí)代的數(shù)字生命，本質(zhì)仍然在于「真實(shí)」。

在人機(jī)共生的時(shí)代，我們需要關(guān)注的重點(diǎn)不在于人類與AI的區(qū)別或者優(yōu)劣，而是如何讓AI服務(wù)于人類的真實(shí)。

無論未來技術(shù)如何演進(jìn)，人類仍需守住那份「真實(shí)」的火種。

參考資料：

https://graphite.io/five-percent/more-articles-are-now-created-by-ai-than-humans%20%20

https://arxiv.org/pdf/2502.00007%20

https://x.com/AskPerplexity/status/1978587411803156942