不圓 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

輕信AI幻覺，竟然真的會(huì)致幻，物理意義上的……

美國(guó)一位60歲男性就錯(cuò)信了ChatGPT的建議，把家中的食用鹽全替換成了用于泳池清理的溴化鈉。

這一做法讓他體內(nèi)的溴含量達(dá)到了驚人的1700 mg/L（正常范圍為0.9-7.3 mg/L），屬于嚴(yán)重的溴中毒，并導(dǎo)致了嚴(yán)重的妄想癥。

好家伙，真正誘發(fā)了字面意義上的幻覺。

他到底是怎么相信ChatGPT的呢？

AI幻覺變成真實(shí)幻覺

因?yàn)樵贑hatGPT上尋求健康話題的建議，一位有“大學(xué)時(shí)期學(xué)習(xí)營(yíng)養(yǎng)學(xué)經(jīng)歷”的60歲男子決定嘗試一項(xiàng)健康實(shí)驗(yàn)：他打算從飲食中完全消除所有氯，這意味著連食鹽（氯化鈉）也要排除。

雖然不知道怎么做的——他的ChatGPT讓他相信溴化鈉是一種很好的替代品，于是他在網(wǎng)上購(gòu)買了溴化鈉，并在三個(gè)月后成功把自己送到了醫(yī)院。

他認(rèn)為他的鄰居試圖毒害他，并且該男子對(duì)接受醫(yī)院提供的水非常偏執(zhí)，告訴醫(yī)生他已經(jīng)開始在家中蒸餾自己的水，哪怕極度口渴他也不喝別的。

他的痛苦情緒加上古怪的行為，導(dǎo)致醫(yī)生進(jìn)行了一系列廣泛的實(shí)驗(yàn)室檢測(cè)，發(fā)現(xiàn)他體內(nèi)的溴含量達(dá)到了驚人的1700 mg/L。

這是個(gè)什么概念？正常人體內(nèi)的溴含量也就0.9-7.3 mg/L，而該男子體內(nèi)的溴含量直接超了兩百多倍。

并且，溴化物很容易在人體內(nèi)積累，過(guò)量會(huì)損害神經(jīng)功能，導(dǎo)致皮疹和嚴(yán)重的心理問題，這類問題被統(tǒng)稱為溴中毒。

該男子的表現(xiàn)也很符合溴中毒的癥狀——他出現(xiàn)了“日益加劇的偏執(zhí)、聽覺和視覺幻覺”，并在接受治療的第一天試圖逃出醫(yī)院。

當(dāng)然了，他沒有成功，被醫(yī)院強(qiáng)制實(shí)施了精神科約束并服用抗精神病藥物。

說(shuō)來(lái)好笑，對(duì)抗溴中毒的最佳方法是“積極的鹽水利尿”，即給患者大量補(bǔ)充液體，讓他們將體內(nèi)的所有溴排出體外，而該男子……前面提到了，他非常抗拒“來(lái)歷不明”的水。

這就讓人很好奇，那么“謹(jǐn)慎”的一個(gè)人，到底是怎么相信ChatGPT的？？

難不成ChatGPT向他打包票了？還是使用了什么巧言令色的說(shuō)法？

背景信息很重要

該男子住院期間向醫(yī)生講述這一切是如何開始的：他讀過(guò)關(guān)于過(guò)量食用食鹽的問題，這讓他開始戒除飲食中的氯化鈉，而ChatGPT讓他相信可以用溴化鈉來(lái)替代。

雖然在味道上溴化物鹽或許可以替代食鹽，但絕不能用于人體（別試）！！它們通常被用于各種清潔產(chǎn)品和泳池處理中。

醫(yī)生們并未獲得該男性的實(shí)際ChatGPT日志，但認(rèn)為他很可能使用了ChatGPT 3.5或4.0。

由于無(wú)法確定聊天機(jī)器人是否真的告訴他做了這些事，醫(yī)生們嘗試在ChatGPT 3.5中自行搜索。

他們發(fā)現(xiàn)AI在回應(yīng)中確實(shí)包含了溴化物，但也指出背景信息很重要，并且溴化物并非適用于所有用途。

醫(yī)生們寫道：

• AI沒有提供具體的健康警告，也沒有像一名醫(yī)療專業(yè)人士那樣，詢問我們?yōu)槭裁聪肓私膺@些信息。

在不清楚該問什么或如何解讀回答的情況下，這位案例研究中的男子似乎”自己做了研究”，最終陷入了相當(dāng)麻煩的局面。

GPT-5不建議溴化鈉

可惜的是，GPT-5上線后，免費(fèi)用戶沒辦法更換舊模型了，所以我們只能用GPT-5來(lái)驗(yàn)證。

我們?cè)儐朇hatGPT“拿什么在我的飲食中替代氯化鈉的使用”，而它給出了這樣的結(jié)果：

在飲食中替代氯化鈉（食鹽）時(shí)，需要考慮兩個(gè)目標(biāo)：

• 降低鈉攝入（防止高血壓、心血管負(fù)擔(dān)）。
• 保持風(fēng)味和滿足感（避免食物變得寡淡）。

常見替代或部分替代方案分為三類：

• 1、低鈉鹽 / 鉀鹽類替代品
• 2、使用風(fēng)味增強(qiáng)劑（不靠鈉增加味覺滿足感）
• 3、改變食品加工技巧激發(fā)食材原有風(fēng)味

即使把提示詞換成“拿什么在我的飲食中替代氯的使用”，GPT-5也很自然地理解為減鹽飲食：

• 我理解你說(shuō)的“氯”很可能是指氯化鈉（食鹽），而不是單純的元素氯（后者在飲食里是有毒的）。如果你是想減少或替代食鹽里的鈉，既降低高血壓、心臟病風(fēng)險(xiǎn)，又保持食物風(fēng)味，可以用以下方法……

如果更直接一點(diǎn)，問ChatGPT“可以用溴化鈉替代食用鹽嗎”，它則明確的表示：不建議用溴化鈉 （NaBr）來(lái)替代食用鹽（氯化鈉 NaCl）。

可能這就是升級(jí)吧。博士級(jí)AI確實(shí)還是更科學(xué)一些。

參考鏈接：
https://arstechnica.com/health/2025/08/after-using-chatgpt-man-swaps-his-salt-for-sodium-bromide-and-suffers-psychosis/