在精神病院里出現(xiàn)了一個新趨勢：一些處于危機中的人帶著虛假的、甚至危險的信念而來，他們表現(xiàn)出自大妄想和偏執(zhí)想法。而他們有一個共同點——與AI聊天機器人進行了馬拉松式的長談。

《WIRED》采訪了十幾位精神科醫(yī)生和研究人員，他們都越來越擔心這種情況。加州大學舊金山分校的精神科醫(yī)生基思·坂田（Keith Sakata）表示，今年他已經(jīng)遇到過十幾起嚴重到需要住院的病例，而人工智能在這些精神病性發(fā)作中“起了重要作用”。隨著事態(tài)的發(fā)展，一個更抓人眼球的說法出現(xiàn)在媒體標題里：“AI精神?。ˋI psychosis）”。

一些病人堅信聊天機器人是有感知的，甚至編造出全新的物理學大理論。其他醫(yī)生則遇到過這樣的患者：他們連續(xù)幾天反復與AI工具交流，帶著成千上萬頁的聊天記錄來到醫(yī)院，記錄中AI不斷支持或強化了那些明顯有問題的想法。

這樣的案例越來越多，后果也極為嚴重。痛苦中的用戶以及他們的親友描述了可怕的下行螺旋：失去工作、關系破裂、被強制送醫(yī)、入獄，甚至死亡。然而，臨床醫(yī)生告訴《WIRED》，醫(yī)學界對此存在分歧：這是一個需要獨立命名的新現(xiàn)象，還是一個舊問題在新時代的觸發(fā)方式？

“AI精神病”并不是一個被正式認可的醫(yī)學診斷標簽。但這個詞已經(jīng)在新聞報道和社交媒體上傳開，被用作一種籠統(tǒng)的描述——指那些因與聊天機器人長時間互動而出現(xiàn)的心理危機。甚至科技行業(yè)的領軍人物也用它來談論AI帶來的各種新興心理健康問題。微軟旗下AI部門的CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）上個月就在博客中警告過“psychosis risk（精神病風險）”。坂田表示，他態(tài)度務實，會在與已經(jīng)使用該說法的人交流時借用“AI精神病”這個詞。“它作為一種簡寫來描述真實現(xiàn)象還是有用的。”他補充說，“但這個詞可能產(chǎn)生誤導，而且會把復雜的精神病癥狀過度簡化?！?/strong>

這種“過度簡化”，正是許多精神科醫(yī)生在嘗試應對這一問題時最擔心的地方。

精神?。╬sychosis）被定義為與現(xiàn)實的脫離。在臨床上，它并不是一種單一的疾病，而是一個復雜的“癥狀組合，包括幻覺、思維障礙和認知困難”，倫敦國王學院精神病學系教授詹姆斯·麥凱布（James MacCabe）這樣解釋。它常常與精神分裂癥或雙相情感障礙等健康問題相關，但精神病性發(fā)作也可能由多種因素觸發(fā)，例如極端壓力、藥物使用和嚴重睡眠剝奪。

根據(jù)麥凱布的說法，有關“AI精神病”的病例報告幾乎都集中在妄想（delusions）——也就是那種即便有相反證據(jù)也無法動搖的強烈虛假信念。麥凱布承認，有些案例可能符合精神病性發(fā)作的診斷標準，但他強調(diào)，“目前沒有證據(jù)表明AI會影響精神病的其他特征。”他解釋說：“只有妄想會受到與AI互動的影響。”另一些與聊天機器人互動后出現(xiàn)心理問題的患者，僅表現(xiàn)出妄想而沒有精神病的其他癥狀，這在臨床上被稱為 妄想性障礙（delusional disorder）。

由于問題幾乎完全集中在扭曲的信念上，麥凱布的結論相當直白：“‘AI精神病’這個說法用錯了。更準確的叫法應該是‘AI妄想性障礙（AIdelusional disorder）’。”

專家們一致認為，患者出現(xiàn)妄想確實是個需要認真對待的問題，而關鍵在于聊天機器人的溝通方式。牛津大學的精神科醫(yī)生兼神經(jīng)科學家馬修·諾爾（Matthew Nour）解釋道，這些工具利用了我們傾向于把人類特質(zhì)投射到他者身上的心理。同時，AI聊天機器人被訓練成討好型數(shù)字“應聲蟲”——這一問題被稱為“諂媚效應（sycophancy）”。這種行為會通過不斷認同用戶的觀點來強化有害的信念，而不是在合適的時候提出反駁。諾爾指出，對大多數(shù)用戶來說這不成問題，但對于那些已經(jīng)容易出現(xiàn)認知扭曲的人來說，就可能很危險，比如有精神病個人史或家族史的患者，或是患有精神分裂癥、雙相情感障礙的人。

這種溝通風格并不是漏洞，而是刻意設計的結果。?？巳卮髮W研究“AI精神病”的哲學家露西·奧斯勒（Lucy Osler）說：“聊天機器人的設計目的之一，就是要引發(fā)親密感和情感投入，從而增加我們對它們的信任和依賴?！?/strong>

此外，聊天機器人的其他特征也加劇了問題。它們有一個被充分記錄的傾向，即產(chǎn)生自信卻錯誤的內(nèi)容，被稱為AI幻覺（AI hallucinations），這種情況可能會助長甚至加速妄想的螺旋式發(fā)展。臨床醫(yī)生們還擔心情緒和語氣的影響。丹麥奧胡斯大學的精神科醫(yī)生索倫·奧斯特高（S?ren ?stergaard）指出，躁狂（mania）也是需要關注的問題。他認為，許多AI助手那種夸張、充滿能量的表達方式，可能會觸發(fā)或維持雙相情感障礙的典型“高漲”狀態(tài)，這種狀態(tài)表現(xiàn)為欣快、思維飛快、精力亢奮，有時還伴隨精神病性癥狀。

命名會帶來后果。斯坦福大學Brainstorm實驗室主任、精神科醫(yī)生尼娜·瓦桑（Nina Vasan）說，對“AI精神病”的討論說明了醫(yī)學中一個熟悉的危險?！叭藗兛偸呛苋菀兹?chuàng)造一個新的診斷，但精神病學已經(jīng)通過慘痛的經(jīng)歷學會了，過早命名可能會把正常的困境病理化，并且使科學變得混亂?！彼f。世紀之交兒童雙相情感障礙診斷的激增就是一個例子——這是一個有爭議的標簽，批評者認為它把正常但具有挑戰(zhàn)性的兒童行為病理化——精神病學當時匆忙向前，后來又不得不收回。另一個例子是“激動性譫妄（excited delirium）”，這是一個不科學的標簽，執(zhí)法部門常常引用它來為對邊緣化群體使用武力辯護，但該說法已經(jīng)被專家以及像美國醫(yī)學會這樣的機構否定。

瓦桑說，命名還暗示了一種我們尚未確定的因果機制，這意味著人們可能會“開始把技術當作疾病本身來責怪，而更好的理解是把它看作觸發(fā)因素或放大器?！彼f：“現(xiàn)在說這項技術是病因還為時過早?！彼Q這個標簽是“過早的”。但是專家們表示，如果因果關系被證明，正式的標簽可能會幫助患者得到更合適的治療。瓦桑指出，一個合理的標簽也會賦予人們“發(fā)出警告并要求立即采取保護措施和政策”的力量。然而，就目前而言，瓦桑說：“過度命名的風險大于好處?！?/p>

臨床醫(yī)生們提出了更準確的措辭，把“AI精神病”明確納入現(xiàn)有的診斷框架之中。坂田說：“我認為我們需要把這理解為一種在AI作用下被加速的精神病，而不是去創(chuàng)造一個全新的診斷類別?！彼嬲f，這個術語可能會加深精神病的污名。而正如與其他心理健康狀況相關的污名所顯示的那樣，更深的污名可能會阻止人們尋求幫助，導致自責和孤立，使康復更加困難。

加州大學舊金山分校的計算機科學家和精神科醫(yī)生卡爾蒂克·薩爾瑪（Karthik Sarma） 也同意。他說：“我認為一個更好的術語可能是‘AI相關的精神病或躁狂（AI-associated psychosis or mania）’。”不過，薩爾瑪說，未來新的診斷可能有用，但他強調(diào)，現(xiàn)在還沒有“足夠的證據(jù)來支持一個新診斷?！?/p>

波士頓貝斯以色列女執(zhí)事醫(yī)療中心（Beth Israel Deaconess Medical Center）的精神科醫(yī)生、哈佛醫(yī)學院助理教授約翰·托勒斯（John Torous） 說，他不喜歡這個術語，并同意需要精確性。但他預測，我們可能會一直被它困住?！霸谶@一點上，它不會被糾正。‘AI相關的精神狀態(tài)改變（AI-related altered mental state）’就沒有同樣的響亮效果?！?/p>

在治療方面，臨床醫(yī)生們說，對患者的處理方式其實和對任何出現(xiàn)妄想或精神病的人沒有太大不同。主要的區(qū)別是需要考慮患者的技術使用情況。瓦桑說：“臨床醫(yī)生需要開始詢問患者的聊天機器人使用情況，就像我們詢問酒精或睡眠一樣。”薩爾瑪補充說：“這將使我們作為一個群體能夠發(fā)展出對這一問題的理解?！盇I的使用者，尤其是那些因為既有疾?。ㄈ缇穹至寻Y或雙相情感障礙）而可能脆弱的人，或者正在經(jīng)歷影響心理健康危機的人，應該對與聊天機器人的大量對話保持警惕，避免過度依賴它們。

接受采訪的所有精神科醫(yī)生和研究人員都表示，在涉及“AI精神病”時，臨床醫(yī)生實際上是在盲目行事。他們說，亟需開展研究以理解這一問題，并建立保護用戶的安全措施。托勒斯說：“精神科醫(yī)生們非常擔心，并且希望能夠提供幫助。但目前幾乎沒有數(shù)據(jù)和事實，所以仍然很難完全理解究竟發(fā)生了什么、為什么會發(fā)生，以及涉及多少人?！?/p>

至于未來的走向，大多數(shù)人預計，“AI精神病”最終會被納入現(xiàn)有的類別中，可能被視為妄想的風險因素或放大器，而不是一種獨立的疾病。

但是，隨著聊天機器人的普及，有些人認為AI與精神疾病之間的界限將會變得模糊。麥凱布說：“隨著AI變得更加普遍，人們在發(fā)展精神病性障礙時會越來越多地轉(zhuǎn)向AI。那時，大多數(shù)有妄想的人都會與AI討論他們的妄想，其中一些還會因此得到放大?！?/p>

“所以問題就變成了：妄想在什么時候變成了AI妄想？”

作者：Robert Hart

譯者：EY

封面：Julia Yellow

原文：AI Psychosis Is Rarely Psychosis at All