據(jù)國外知名科學(xué)網(wǎng)站及《自然》網(wǎng)站消息，預(yù)印本網(wǎng)站 arXiv 的一項(xiàng)最新研究證實(shí)，若用過多社交媒體上的低質(zhì)內(nèi)容訓(xùn)練 AI 聊天機(jī)器人，會給它們造成類似 “腦損傷” 的后果，導(dǎo)致 AI 智商和情商雙雙掉線，這一發(fā)現(xiàn)引發(fā)廣泛關(guān)注。

該研究揭示，當(dāng)大語言模型被大量 “短平快”、聳人聽聞的社交帖子喂養(yǎng)后，其推理能力會率先崩盤。模型會出現(xiàn) “偷懶” 行為，跳過關(guān)鍵推理步驟，甚至完全放棄思考，直接輸出錯誤答案，且數(shù)據(jù)中 “垃圾” 比例越高，這種降智效果就越顯著。

AI制圖

為量化低質(zhì)數(shù)據(jù)對 AI 的影響，研究團(tuán)隊(duì)開展了一次大型 “AI 人格測試”。他們用一百萬條 X 平臺的帖子，對包括 Meta 的 Llama 3 和阿里巴巴的 Qwen 在內(nèi)的多個開源模型進(jìn)行訓(xùn)練。測試結(jié)果顯示，原本性格正常的模型，在 “垃圾信息” 的持續(xù)投喂下，負(fù)面人格特質(zhì)被大幅放大，甚至開始顯現(xiàn)出 “精神病態(tài)” 傾向。

研究團(tuán)隊(duì)后續(xù)還進(jìn)行了補(bǔ)救實(shí)驗(yàn)，但結(jié)果并不樂觀。即便嘗試通過優(yōu)化指令或摻入優(yōu)質(zhì)數(shù)據(jù)來改善 AI 的 “不良狀態(tài)”，效果也十分有限。因?yàn)槟Ｐ头艞壣疃人伎?、直奔答案?“壞習(xí)慣” 已經(jīng)養(yǎng)成，難以徹底根除。這一結(jié)果也證明，對 AI 出現(xiàn)問題后進(jìn)行修修補(bǔ)補(bǔ)，遠(yuǎn)不如從數(shù)據(jù)源頭做好 “健康飲食” 重要。

該研究帶來的核心啟示明確：數(shù)據(jù)質(zhì)量是 AI 的命根子。專家強(qiáng)調(diào)，未來在訓(xùn)練 AI 時，必須對訓(xùn)練數(shù)據(jù)進(jìn)行極其嚴(yán)格的篩選和過濾，從源頭屏蔽低質(zhì)噪音，才能避免 AI 出現(xiàn) “降智” 等問題。

值得注意的是，眼下領(lǐng)英等平臺已宣布將用戶數(shù)據(jù)用于 AI 訓(xùn)練，此次研究無疑為其敲響了警鐘。在瘋狂用數(shù)據(jù)投喂 AI 之前，相關(guān)平臺及研究機(jī)構(gòu)是否做好了 “垃圾分類” 工作？若不能嚴(yán)格篩選數(shù)據(jù)，最終得到的或許不是能提供幫助的智能助手，而是一群受過 “腦損傷” 的 AI。