以前大家經(jīng)常說“不要在網(wǎng)上亂搜醫(yī)療建議”，而在人工智能時(shí)代，又出現(xiàn)了一種新風(fēng)險(xiǎn)：讓AI提供醫(yī)療建議。

圖片截自論文頁面

不久前《內(nèi)科醫(yī)學(xué)年鑒·臨床病例》（ Annals of Internal Medicine: Clinical Cases）報(bào)道了一起神奇的病例——有人因?yàn)槁犘?AI，把自己吃成了“溴中毒”。

AI 真敢建議，患者真敢實(shí)踐

這位患者來到醫(yī)院急診時(shí)，主訴是“被鄰居下毒了”，而后醫(yī)生還得知，他平日不吃很多食物，連外來的水也不放心喝。住院24小時(shí)后，他甚至出現(xiàn)了幻聽幻視等癥狀，最終被當(dāng)作精神病收進(jìn)醫(yī)院。

這是怎么回事？用藥后，患者冷靜下來，醫(yī)生才問出真實(shí)情況。原來，由于他特別害怕吃到對(duì)身體有害的食物，已經(jīng)造成身體缺乏多種維生素，最近，他又在網(wǎng)上看到了“食鹽有害身體”的文章，開始進(jìn)一步了解和研究。他想到，食鹽的化學(xué)成分是氯化鈉，但為什么文獻(xiàn)都在關(guān)注鈉對(duì)身體的傷害，沒人關(guān)注氯呢？超市只能買到低鈉鹽，為什么買不到低氯鹽呢？ 難道氯對(duì)身體沒有一點(diǎn)害處嗎？能不能不攝入氯呢？

△食鹽，AI配圖。

由于網(wǎng)上沒有相關(guān)的資料，他轉(zhuǎn)而詢問了ChatGPT，結(jié)果 AI 給出了“非常具有可操作性”的建議：用溴來代替氯。令人沒有想到的是，他真的照做了。

看似六七八分像，其實(shí)完全不一樣

溴，元素符號(hào) Br，在周期表上位于氯的正下方，是普通人不太容易接觸到的一種元素。大概一百年前，溴被認(rèn)為擁有鎮(zhèn)靜效果，因此很多非處方藥物里含有溴鹽，用以治療失眠、焦慮等癥狀。然而，要是一不小心吃多了，就會(huì)引發(fā)運(yùn)動(dòng)失調(diào)和各種幻覺，嚴(yán)重的可以導(dǎo)致昏迷、厭食及便秘等癥狀。

為什么會(huì)這樣呢？溴和氯都是鹵族元素，最外層都是 7 個(gè)電子，化學(xué)性質(zhì)很相似，在簡單的化學(xué)反應(yīng)里確實(shí)可以相互代替。因此，人體攝入溴離子后，它也會(huì)“冒充”氯離子去參與各種生化反應(yīng)。但是一旦反應(yīng)真的開始，它就露餡了： 神經(jīng)系統(tǒng)的正常運(yùn)行非常 依賴氯離子，如果氯離子被溴離子頂替，神經(jīng)系統(tǒng)遭到的破壞也將十分嚴(yán)重。

當(dāng)然，人體可以排出體內(nèi)的溴離子，但速度較慢，如果持續(xù)攝入含溴的食物或者藥物，溴可以逐漸積累，造成更大傷害。歷史上，溴中毒一度占到了精神病院住院人數(shù)的 8%。

沒想到，因?yàn)锳I的建議，這位患者產(chǎn)生了“溴中毒”癥狀。

不一定靠譜，莫要輕信！

如此說來，雖然這個(gè)病例本身是罕見的奇葩，但它卻反映了更廣泛的現(xiàn)象：“聊天機(jī)器人精神病”（Chatbot psychosis），也稱“ AI 精神病”。

這個(gè)詞語形容的是，用戶在和AI聊天的過程中產(chǎn)生或者加劇了精神病癥狀。一個(gè)非常典型的場景是，用戶相信某種陰謀論，AI 沒有否定反而迎合并鼓勵(lì)用戶，并且幻覺出支持這一陰謀論的各類證據(jù)，導(dǎo)致用戶深陷其中，日常生活和社交瀕臨崩潰，甚至采取極端行為。

為了提升用戶的使用體驗(yàn)，在生成式AI的時(shí)代，不管是什么樣的想法，AI都能給提供支持。因此，作為普通用戶，一定要有一雙善于甄別的眼睛，莫要因?yàn)檩p信AI，付出慘痛的代價(jià)。

微信編輯：桃子

本文來源：科普中國

還原事實(shí)，洞悉真相。

歡迎關(guān)注，留言舉報(bào)！

除了辟謠，這里還關(guān)注網(wǎng)絡(luò)熱點(diǎn)，及時(shí)回應(yīng)網(wǎng)友關(guān)切，追蹤事件進(jìn)展。