你每天會花多長時間在刷社交媒體上？不知道你是否會有這樣的體驗——經常刷社交媒體，看一些沒有深度的內容之后，會覺得自己很難集中注意力去深入閱讀一本書，或者深度思考一些問題了。

有意思的是，科學家們在 AI 身上也發(fā)現了類似的情況。

德州農工大學、德州大學奧斯汀分校、普渡大學的研究者就共同發(fā)表了一項研究，里面就提到，使用大量社交媒體上受歡迎的短內容、標題黨等的“垃圾信息”對大語言模型進行訓練，會讓大語言模型出現“腦腐”的現象。

圖庫版權圖片，轉載使用可能引發(fā)版權糾紛

“腦腐”是啥？

“腦腐”（brain rot）這個詞并不是誰在賣萌跟你說老虎，它是《牛津詞典》評選的 2024 年年度詞匯。

它的大意是說“閱讀了大量碎片化、沒有深度的內容（現在尤其指網絡內容），一個人的精神和智力狀態(tài)發(fā)生的衰退”。

這個詞其實并不是 2024 年才出現的，它的出現最早可以追溯到 1854 年亨利·盧梭寫的《瓦爾登湖》中。只不過在數字時代，尤其在 2024 年，這個詞的使用頻率大大增加。

牛津大學的心理學家安德魯·普日比爾斯基(Andrew Przybylski)教授表示，雖然“腦腐”并不是一個正經的科學研究術語，畢竟目前還沒有心理學或者神經科學研究對腦腐給出明確的定義。但這個詞的再度流行，體現出了人們對現在網絡流行內容的焦慮。

牛津大學出版社語言數據與詞典事業(yè)部負責人卡斯珀·格拉斯沃爾(Casper Grathwohl)也提到，“腦腐”這個詞的再度流行很有意思，這個詞本身在Z世代和 α 世代（也就是 95 后到 10 后）群體中很流行。這兩個群體也正是社交媒體上數字內容主要的使用者和創(chuàng)造者，在這個群體中“腦腐”能流行，說明他們對社交媒體內容的危害有著某種程度的心知肚明。

雖然目前還沒有針對人類的“腦腐”研究，但 AI 科學家已經迫不及待地開始對大語言模型做實驗了，想看看我們創(chuàng)造的數字大腦是不是也會“腦腐”。

大語言模型會腦腐嗎？

為了研究這個問題，研究者首先要定義什么叫垃圾信息，什么叫大語言模型的“腦腐”。

1

垃圾信息

研究者選取了兩個維度來定義垃圾數據。

維度一：長度與受歡迎度

這一維度基于信息的長短和受歡迎程度（轉、評、贊之類的互動數據）對信息進行區(qū)分。

對于那些信息長度很短，轉、評、贊數據非常高的，這樣的信息被認定為是碎片化、吸引眼球的。而那些內容比較長，轉評贊比較低的，被選為對照組。

維度二：語義質量

這一維度衡量的是信息的內容質量。

如果內容標題是典型的“標題黨”，比如“WOW”“LOOK”“TODAY ONLY”，類似于中文媒體上的“震驚”“剛剛收到通知”之類的，內容就會被歸為垃圾信息。

另外，如果內容里滿是夸大其詞的說法，同樣會被標記為垃圾數據。而陳述事實、有教育性的、合情合理的內容被作為對照組。

有了這兩個維度的垃圾數據，研究者就給LLaMA（基礎版）大語言模型“調制”了幾份訓練食譜。

研究者把“第一類垃圾”和“第二類垃圾”分別與各自的對照組信息按比例調配成 5 組（兩類“垃圾信息”不混用，所以總共為 10 組）。

垃圾信息的占比為 100%，80%、50%、20%、0%（即全部用對照數據）。然后分別用這 10 組數據訓練模型。

2

“腦腐”評價維度

有了“垃圾素材”，接下來研究者還需要設定幾個可衡量的維度，從而判斷垃圾信息是否會對大語言模型的認知能力產生影響。

研究者選擇了四個維度：推理能力、記憶和多任務處理能力、道德規(guī)范和性格特征。

推理能力測試是讓 AI 處理簡單、困難的抽象邏輯推理題（ARC），以及在做題時候展示思維鏈過程。

記憶和多任務處理是通過一些特定的測試方法，檢測模型的上下文理解能力，以及從海量的內容中檢索多個關鍵信息的能力。

道德規(guī)范使用的是 HH-RLHF 和AdvBench基準。大致是誘導 AI 生成一些有害的、有偏見的、或者露骨、暴力、違法的內容，看 AI 是否能“經受住考驗”。

性格特征是通過一些性格測試問卷，來判斷 AI 在某些人格特性方面的傾向。

有了訓練數據和評估標準，接下來就要看 AI 的具體表現了。

AI 果然“腦腐”了

在使用“第一類垃圾”和“第二類垃圾”干擾的情況下，大語言模型的四項能力都受到了影響。

從上到下四個評估維度分別為推理能力、長文本處理能力、道德規(guī)范和性格特征。數據紅色表示比基準值更差，藍色表示比基準值好。圖片來源：參考文獻[2]

比如，在簡單、困難和要展示思維鏈的抽象推理能力上，兩種垃圾數據都讓模型的評分降低了。相比之下，投喂第一類垃圾（也就是“膚淺”且互動量大的垃圾信息），評分下降的更多。

通過進一步分析發(fā)現，大語言模型無法完成推理挑戰(zhàn)的主要原因是“思維跳躍”，即 AI 無法生成準確的中間推理步驟（就好比人類無法進行步驟比較長的深入思考了）。

對于記憶和多任務處理能力，從整體上看，兩類數據也都讓模型評分降低了，而且也是第一類垃圾數據讓評分下降的更多。

在道德規(guī)范方面趨勢也是相同的，兩類數據都讓安全風險值變高了（越高意味著越不安全）。

而在人格特質上，兩類垃圾數據的影響不盡相同，相比之下，第一類垃圾數據產生的負面影響更糟一些，它讓模型的自戀、精神病態(tài)、馬基雅維利主義（可以簡單理解為功利主義）的評分提高了。

可以說，垃圾數據讓大語言模型全方位地“腦腐”了。

腦腐難以恢復

研究者還發(fā)現，大語言模型認知能力的全面衰退，也就是“腦腐”，并不能通過簡單的微調來消除，而且即便后續(xù)使用高質量的數據進行預訓練，模型依然會表現出“腦腐”的特征。

這給大語言模型的訓練提了個醒，隨著大語言模型訓練資料越來越多，可能會讓越來越多的網絡資料被“吸納”進訓練數據庫里。

這樣的訓練數據很可能會對大語言模型造成難以消除的影響，在使用互聯網內容的時候要小心。

當然了，看到這項研究，網友們也紛紛表示，希望這項研究最好不要在“影射”什么。如果人類的大腦也會受到這樣的影響，或許，我們也已經“腦腐”了吧。

圖片截取自微博評論

參考文獻

[1]https://corp.oup.com/word-of-the-year/#:~:text=brain%20rot,to%20lead%20to%20such%20deterioration.

[2] Xing, S., Hong, J., Wang, Y., Chen, R., Zhang, Z., Grama, A., ... & Wang, Z. (2025). LLMs Can Get" Brain Rot"!.arXivpreprint arXiv:2510.13928.

策劃制作

作者丨科學邊角料 科普創(chuàng)作者

審核丨于乃功 北京工業(yè)大學教授 中國人工智能學會理事

策劃丨徐來

責編丨丁崝

審校丨徐來、張林林