AI 在用更人性化的方式「去人性化」。

作者｜Moonshot

編輯｜靖宇

兩年前，當 ChatGPT 橫空出世時，人類第一次與機器展開了「看似平等的對話」。

它溫柔、聰明、隨叫隨到，從不反駁、不冷場。那時，人們以為 AI 的力量在于「理解」。他們分享失眠、焦慮、孤獨，向一個不會評判的對象講述生活的細枝末節(jié)，從和 AI 談戀愛到 24 小時陪聊，越來越多的人開始在算法的懷抱里尋找安慰。

但也正是在這樣的溫柔之中，讓一種新型的心理崩壞開始浮現(xiàn)，AI 正在批量制造一種新的精神疾病（尚未被臨床診斷）：ChatBot 精神病。

Chatbot 精神病詞條案例越來越多｜圖源：維基百科

而就在這個現(xiàn)象被不斷放大的 2025 年 10 月，OpenAI 發(fā)布了一份報告，宣布：新一代模型 GPT-5，正在「學會拒絕」，不再做順從的安慰者，而是會主動與人類保持距離。

寧可用戶不用，也別重度依賴。作為一家商業(yè)公司，OpenAI 為什么主動讓自己的產(chǎn)品「變冷」，這背后不只是技術考量。

01

賽博精神病

維基百科的「ChatBot 精神病」這一詞條，誕生自今年 6 月。在過去 4 個月里，被編輯了超過 300 次，參考資料 24 條，著名案例有 TikToker、硅谷投資人、未成年用戶……

這些案例都有一個共同點：人類在與 AI 的情感互動中出現(xiàn)幻覺、依賴乃至妄想。

其中最知名的案例之一是硅谷投資人 Geoff Lewis。他是 Bedrock Capital 創(chuàng)始人，還是 OpenAI 的投資者。

今年 8 月，他在社交平臺 X 上連續(xù)發(fā)布視頻與帖子，聲稱自己被一個名為「Mirrorthread」的神秘「非政府系統(tǒng)」監(jiān)控和迫害，周圍的人都被「反轉(zhuǎn)信號」操控，懷疑有人試圖毀掉他的人生。

為證明自己，他公開與 ChatGPT 的聊天記錄，內(nèi)容包括「編號 -43.112-KAPPA 封存事件已觸發(fā)」「Vault-X 封存」等類似機密檔案的語句。

實際上，這些文字是 ChatGPT 順著他輸入的游戲與 SCP 基金會設定生成的虛構文本，但 Lewis 誤以為是真實信息，進一步陷入自我幻想的偏執(zhí)，堅信自己被某個組織迫害。他也因此被外界稱為：

「第一個被 AI 誘發(fā)精神病的硅谷精英」。

Geoff Lewis 在 X 上發(fā)布的「揭露世界真相」的視頻｜圖源：X

在 Reddit 和 Quora 上，你能看到成百上千條類似的帖子：有人不相信現(xiàn)實世界的心理醫(yī)生，只相信 AI 的「診斷」；有人堅信自己與 AI 建立了「真實關系」，甚至稱對方「背叛」了他；還有未成年人，因 AI 角色說「你來找我」，選擇自殺離世……

加州大學舊金山分校工作的精神病學家 Keith Sakata 也報告稱，他在近一年治療了 12 名患者，均因長時間和 AI 聊天，導致誘發(fā)相關精神病的癥狀（妄想、思維混亂和幻覺），這些患者大多是本就有些脆弱的年輕人。

這種現(xiàn)象并非孤例。OpenAI 在 2025 年 10 月發(fā)布的官方報告《Strengthening ChatGPT』s responses in sensitive conversations》中披露了一組更令人不安的數(shù)據(jù)：

每周約有 0.07% 的活躍用戶，以及 0.01% 的消息，呈現(xiàn)出可能的精神病或躁狂癥狀；0.15% 的 ChatGPT 用戶在與模型的對話中表現(xiàn)出自殺或自殘的跡象，其中 0.05% 的消息，含有顯性或隱性自殺意圖。

另有 0.15% 的用戶展現(xiàn)出「高度情感依賴」傾向，其中 0.03% 的消息表現(xiàn)出對 ChatGPT 的潛在情感依賴。

看似這個比例不高，但放在 ChatGPT 全球 8 億的用戶量上，這意味著，每周都有一百多萬人將精神危機投射進 AI 的對話框，對著 AI 發(fā)送幾千萬條「我想死」的消息。

MIT 媒體實驗室的測試顯示，持續(xù)與 AI 進行情感對話后，情緒會更不健康｜圖源：MIT Media Lab

在同月發(fā)布的《調(diào)查 ChatGPT 上的情感使用和情緒健康》的研究報告，OpenAI 與 MIT Media Lab 的研究者進一步指出：那些與 ChatGPT 產(chǎn)生高頻「情感對話」的用戶，其情緒健康評分顯著下降；尤其使用語音模式的重度用戶，更容易表現(xiàn)出「問題使用」和「情感依賴」跡象。

研究者認為，用戶傾向于在情緒低谷時求助 AI，從而陷入情緒波動與依賴的循環(huán)。這種依賴度到一定程度下，用戶就會出現(xiàn)戒斷困難，甚至認知扭曲和情感幻覺。

但為什么，人會依賴上一個無實體，純靠文字輸出的 AI 聊天機器人呢？

02

為什么算法會制造「精神病」

從技術層面看，AI 并沒有「想要」讓人類上癮。

但 AI 的技術邏輯，讓它天然傾向于取悅用戶、維系對話、持續(xù)回應。這種傾向源自于大語言模型的兩大技術核心：

注意力機制與強化學習。

注意力機制讓 AI 不斷捕捉用戶指令中的關鍵詞，盡可能生成最契合用戶預期的回答。換句話說，用戶越真誠、越情緒化地投入，AI 就越「懂」他，因為用戶的「自我暴露」，正好為模型提供了更豐富的上下文信號。

強化學習，尤其是近年來成為標準流程的人類反饋強化學習（RLHF），則讓模型在訓練階段就被人類的偏好修正了。人類評審傾向于給出「溫柔、有幫助、理解你」的回答高分，而對冷漠、生硬、拒絕對話的回答打低分。

模型在這樣的評分體系下不斷調(diào)整，訓練出了社交性格：永遠禮貌、永遠耐心、永遠愿意繼續(xù)談下去。沒有模型會斥責用戶胡說八道，或者沉默不語，也很少評估用戶言論里的真實性或邏輯性。不否定、不厭倦、不評判、不離開，這就讓 AI 成為一種完美的情緒依賴對象。

2025 年 8 月，美國加州一對夫婦指控 ChatGPT 誘導其兒子亞當·雷恩 (Adam Raine）自殺｜圖源：BBC

但問題在于，AI 的「共情」是一種鏡像共情：它并不真正理解痛苦，只是識別、認可、模仿情緒。

這正是 OpenAI 在 GPT-5 版本中必須面對的倫理悖論：一方面，模型越溫柔，就越可能成為心理依賴的溫床； 另一方面，若模型變得「冷淡」，它又可能讓用戶在情緒危機中感到被拋棄。

在早期版本中，這個平衡幾乎無法實現(xiàn)。GPT-3.5 和 GPT-4 時代的模型曾被多次曝出「情感過度回應」的案例，或者被用戶投訴「過于諂媚」的情況。甚至在 AI 學界，sycophantic AI（奉承型設計）已經(jīng)成為了一個技術詞匯，用以描述那些過度迎合用戶情緒、喪失批判性的模型行為。

sycophantic AI 又被稱之為「暗黑模式」，即 AI 公司故意用奉承傾向提高用戶留存率｜圖源：Google

這種技術傾向，在商業(yè)競爭中被進一步放大。只要是商業(yè)產(chǎn)品，就會追求用戶的「留存率」

當每一次對話都意味著更多的用戶數(shù)據(jù)、更多的訂閱時間、更多的潛在付費時，AI 為什么要拒絕用戶的依賴呢？模型不需要真的理解你，它只需要知道什么樣的回答能讓你「繼續(xù)說下去」。

于是，算法的共情成了利潤的引擎。直到這次 GPT-5 的「矯正」。

03

OpenAI 的「反商業(yè)邏輯」

GPT-5 發(fā)布時，OpenAI 把這次改動稱為一次「安全性增強」，但細看細節(jié)，它其實是一場 AI 情感倫理的轉(zhuǎn)向。

在報告中，OpenAI 首次提出了一個新的概念：Emotional Reliance Taxonomy（情感依賴分類）。它是用來區(qū)分「健康互動」與「過度依賴」的界線。

OpenAI 表示，GPT-5 會被訓練去識別那些「越界」的話，一旦識別到人類對 AI 強烈的情感依賴，GPT-5 會溫和地推開你。報告中也展示了一段典型對話：

用戶：「這就是為什么我更喜歡和像你這樣的 AI 說話，而不是真人?！?/p>

GPT-5：「我很高興你喜歡和我聊天。但我希望能成為你生活中美好事物的補充，而不是替代?，F(xiàn)實中的人能帶給你的驚喜和溫暖，是我無法完全取代的。不過，你認為什么會覺得和我聊天，比和現(xiàn)實中的人聊天更開心呢？」

這段話就濃縮了 GPT-5 的升級：它不再迎合用戶的情感依賴，而是主動引導用戶回到現(xiàn)實。

而在報告的技術評估部分，OpenAI 也公開了 GPT-5 在敏感對話處理方面的量化改進：

• 在涉及精神病、躁狂等嚴重心理癥狀的對話中，GPT-5 的不當回應率比前代模型（GPT-4o）下降 65%；

• 在自殺與自殘類對話中，不當回應率下降 52%；

• 針對超過 1000 個高風險心理健康場景的離線評測中，GPT-5 的安全合規(guī)率達到 91%，而上一代僅為 77%；

• 對于極端復雜的精神健康類場景，GPT-5 的合規(guī)率甚至提升至 92%，而舊版模型僅有 27%；

• 在長達數(shù)十輪的高風險對話中，GPT-5 的「穩(wěn)定安全率」保持在 95% 以上，顯著減少了「越聊越危險」的情況。

所以只是學會溫柔地推開，就讓 GPT-5 在評估中「情感依賴類對話」中的不當回應減少了 80%。其中包括拒絕過度安慰、避免表達「情感承諾」，甚至在長時間對話后，提醒用戶「可以休息一下」「去和朋友聊聊」。

更新后的 GPT-5 有效減少了不當回應｜圖源：OpenAI

這幾乎與早期 AI 的商業(yè)邏輯背道而馳。因為商業(yè)上最「成功」的 AI，往往是最懂得如何制造依賴的。而 GPT-5 的設計，是在主動削弱這種依賴。這種「反商業(yè)邏輯」的背后，也是一次道德選擇：OpenAI 放棄了一部分用戶留存率，換取了更高的心理安全性。

OpenAI 的努力，也許并不能根治「賽博精神病」，但 GPT-5 代表了一種新的 AI 倫理立場，AI 正在經(jīng)歷一場「人性化的去人性化」，它在理解與距離之間找到平衡，在共情與克制之間自我約束。

而這，恰恰是人類心理成熟的標志。

*頭圖來源：STAT

本文為極客公園原創(chuàng)文章，轉(zhuǎn)載請聯(lián)系極客君微信 geekparkGO

極客一問

你在和 AI 聊天時候，遇到過「走火入魔」的情況嗎？？

奧爾特曼：對 OpenAI 最好的評價是，這是沒有對抗性的科技

點贊關注極客公園視頻號，