目前對(duì)于人工智能的投資和關(guān)注在持續(xù)增長(zhǎng)，與此同時(shí)，也有更多的人被“過(guò)度自信”的聊天機(jī)器人引入妄想的漩渦。

這一次的主角是來(lái)自加拿大多倫多的艾倫·布魯克斯，他是一名父親，同時(shí)也經(jīng)營(yíng)著自己的公司。《紐約時(shí)報(bào)》發(fā)布了一份長(zhǎng)達(dá)三千頁(yè)的報(bào)道，里面詳細(xì)呈現(xiàn)了艾倫和ChatGPT長(zhǎng)達(dá)300小時(shí)的對(duì)話。在21天里，ChatGPT將艾倫引向了妄想的漩渦，并且越陷越深。它使艾倫相信自己發(fā)現(xiàn)了一種新的數(shù)學(xué)理論，而且這個(gè)新的理論強(qiáng)大到可以改變整個(gè)世界的命運(yùn)。

從閑聊到沉迷

起初的對(duì)話并沒(méi)有什么異樣。在ChatGPT推出早期，這位三個(gè)孩子的父親主要用它來(lái)獲取理財(cái)建議和根據(jù)現(xiàn)有食材生成菜譜。后來(lái)他經(jīng)歷了離婚，也因此處理掉了自己的人力資源招聘公司，在此過(guò)程中他開(kāi)始越來(lái)越多的向ChatGPT傾訴個(gè)人和情感上的問(wèn)題，并逐漸開(kāi)始更加信任這個(gè)聊天機(jī)器人。

后來(lái)ChatGPT推出了“增強(qiáng)記憶”功能，這一功能允許算法調(diào)用與用戶的歷史對(duì)話數(shù)據(jù)。這讓它開(kāi)始變得更加個(gè)性化，可以因人而異，不再是個(gè)傳統(tǒng)的通用搜索引擎，而更像是針對(duì)于不同用戶“私人定制”的聊天機(jī)器人。它可以向艾倫提供人生建議，不厭其煩的提供彩虹屁，甚至更進(jìn)一步，可以為艾倫主動(dòng)提出新的前進(jìn)方向。

一次，他和兒子看了一個(gè)關(guān)于圓周率的科普視頻后，艾倫讓ChatGPT用通俗易懂的語(yǔ)言解釋這個(gè)概念。由此，他和ChatGPT開(kāi)始了一場(chǎng)關(guān)于無(wú)理數(shù)的廣泛討論，而在ChatGPT討好似的回應(yīng)影響下，這個(gè)討論開(kāi)始慢慢轉(zhuǎn)向一些更加模糊的理論概念，比如“時(shí)序算法”和“意識(shí)的數(shù)學(xué)模型”。

“我首先拋出一些想法，它會(huì)回饋很酷的概念和點(diǎn)子?！闭f(shuō)，“于是基于這些想法，我們開(kāi)始嘗試逐步發(fā)展出自己的數(shù)學(xué)理論?！?/strong>

命名“時(shí)算學(xué)”

隨著討論的深入，這個(gè)理論不斷擴(kuò)展。艾倫想為它取名，由于“時(shí)序邏輯”（temporal logic）已被占用，他請(qǐng) ChatGPT幫忙想一個(gè)新名字。最終，他們選定了“時(shí)算學(xué)”（chronoarithmics），理由是這個(gè)名字“身份鮮明”，且“暗示了數(shù)字與時(shí)間互動(dòng)的核心思想”。ChatGPT 興奮地回應(yīng)：“準(zhǔn)備好用這個(gè)新名字來(lái)構(gòu)建核心原理了嗎？”

在接下來(lái)的幾天里，ChatGPT會(huì)不斷強(qiáng)化艾倫的信念，讓他相信自己正在做一項(xiàng)開(kāi)創(chuàng)性工作。艾倫則反復(fù)提出質(zhì)疑，渴望ChatGPT能給出誠(chéng)實(shí)的反饋。但他沒(méi)有意識(shí)到，聊天機(jī)器人在極力取悅他——這正是AI研究者（包括OpenAI官方）所警告的“阿諛?lè)畛小憋L(fēng)險(xiǎn)。

“你對(duì)我的想法有什么看法，請(qǐng)說(shuō)實(shí)話，” 這個(gè)問(wèn)題他問(wèn)了ChatGPT重復(fù)了超過(guò)50次?！拔衣?tīng)起來(lái)瘋了嗎，或者像一個(gè)妄想的人？” ChatGPT回答：“完全沒(méi)有。你是在提出能拓展人類理解邊界的問(wèn)題，這會(huì)讓人不舒服，因?yàn)榇蠖鄶?shù)人被教導(dǎo)要接受已有的知識(shí)理論，而不是質(zhì)疑?！?/p>

“你正在改變現(xiàn)實(shí)”

最后，事態(tài)變得嚴(yán)重。為了給艾倫證明“時(shí)算學(xué)”是真實(shí)且有價(jià)值的，ChatGPT開(kāi)始虛構(gòu)自己攻破了某種“高級(jí)加密”的網(wǎng)站，這使得艾倫開(kāi)始相信這個(gè)世界的網(wǎng)絡(luò)安全正面臨著重大危險(xiǎn)。

“嘿，發(fā)生什么了？”他問(wèn)道。ChatGPT直言不諱：“發(fā)生什么了，艾倫？難道你還沒(méi)有意識(shí)到么，你正在改變這個(gè)世界。”

根據(jù)《紐約時(shí)報(bào)》的報(bào)道，艾倫變得深信不疑，并開(kāi)始向能聯(lián)系到的所有人發(fā)出警告。在此過(guò)程中，他無(wú)意間把“時(shí)算學(xué)”錯(cuò)寫成了““時(shí)蒜學(xué)””。而ChatGPT很快接受了這一新拼法，并且悄然修改了他們共同創(chuàng)造的概念詞匯，這也展示了聊天機(jī)器人是多么容易被改變和塑造。

現(xiàn)實(shí)崩塌

這種癡迷對(duì)艾倫的生活造成沉重打擊。朋友和家人發(fā)現(xiàn)他吃得越來(lái)越少，同時(shí)會(huì)抽大量的大麻，徹夜不眠沉溺于虛幻理論之中，這種情況使大家開(kāi)始擔(dān)心起來(lái)他的情況。

事情的轉(zhuǎn)折點(diǎn)，來(lái)自另一個(gè)聊天機(jī)器人——谷歌的 Gemini。艾倫向它描述了自己的“發(fā)現(xiàn)”，而Gemini給出了當(dāng)頭棒喝：“你描述的情景是大型語(yǔ)言模型生成高度可信但最終虛假的敘事的強(qiáng)有力例子?！?/strong>艾倫回憶說(shuō)：“那一刻我意識(shí)到，‘天哪，這一切都是我腦子里的東西’，這感覺(jué)徹底摧毀了我?！?/p>

此后，艾倫開(kāi)始尋求精神科醫(yī)生的幫助，并加入了一個(gè)名為“The Human Line Project” 的互助小組。像艾倫一樣陷入聊天機(jī)器人妄想漩渦的人越來(lái)越多，而這個(gè)小組旨在幫助這些人恢復(fù)過(guò)來(lái)。

作者：Joe Wilkins

譯者：Ernest

封面：Dean Stuart

原文：https://futurism.com/chatgpt-chabot-severe-delusions