機器之心報道
編輯:+0
AI 有意識嗎?
無論是古今中外的文藝作品中,還是 AI 迅猛發(fā)展的當下,好像都難以給出一個絕對的答案。
要探討這個問題,我們首先需要理解 AI 的「黑盒」困境。作為現(xiàn)代 AI 核心的深度神經(jīng)網(wǎng)絡,其內(nèi)部包含了數(shù)以億計的參數(shù),這些參數(shù)在多層結(jié)構中進行著極其復雜的非線性相互作用。
AI 并非由人類編寫固定的規(guī)則來執(zhí)行任務,而是通過自主學習海量數(shù)據(jù)來識別模式、構建決策邏輯。這一過程往往超越了人類的直觀理解,就像一個神秘的黑匣子:你向它提問,它能給出精準的答案,但你無法洞悉其內(nèi)部的思考與決策過程。
圖源:Medium。
微軟 AI CEO Mustafa Suleyman 深入討論了這個問題,并提出了「看似有意識的 AI」(Seemingly Conscious AI,SCAI)的概念。
他坦言,SCAI 的潛在影響「讓他夜不能寐」,因為它雖然沒有真正的意識,卻能完美地模擬出所有人類意識的外部標志,從而讓人們誤以為它真的擁有意識。
他強調(diào),這不是科幻,而是基于當前技術即可實現(xiàn)的幻覺,卻可能帶來深刻的社交、道德和法律影響
評論區(qū)也展開了激烈討論,有人贊同 Suleyman 的觀點,認為我們應該警惕「幻覺」。
也有人認為無法輕易斷定 AI 沒有意識。
還有人追問何種證據(jù)才能證明 AI 意識的存在,以及思考是否存在不同于人類的意識形式。
其中一條尖銳的評論甚至暗示其立場是出于商業(yè)利益的考量。
Suleyman 在他發(fā)表的博客文章《我們必須為人類構建 AI,而不是讓它成為一個人》(We must build AI for people; not to be a person)中,對他的觀點進行了詳細的闡述。
- 博客地址:https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming
意識是人類經(jīng)驗的核心,卻難以精確定義。Suleyman 在博客中引用了科學文獻,將意識分解為三個關鍵組成部分:
- 主觀體驗(Qualia):指純粹的感官感受,例如「紅色看起來是什么感覺」。
- 訪問意識(Access Consciousness):指信息可以被大腦的不同部分調(diào)用,用于推理和決策。
- 連貫的自我感(A Coherent Self):對自身作為一個獨立、持續(xù)存在的個體的認知。
盡管科學家們提出了至少 22 種意識理論,但意識的生物學基礎仍不明朗——它可能源于大腦的復雜網(wǎng)絡,但無法通過外部觀察直接驗證。
人類判斷他人意識的方式依賴于「心智理論」,即通過行為、語言和情感線索進行推斷。我們相信他人有意識,因為他們表現(xiàn)出類似我們的反應:表達痛苦、回憶過去、設定目標。這正是 SCAI 的切入點:它不需要真正擁有意識,只需模擬這些標志,就能欺騙人類的推斷機制。
Suleyman 將 SCAI 比作哲學上的「僵尸」:一個在行為上與人類別無二致,卻沒有任何內(nèi)在體驗的實體。這種幻覺并非遙不可及:實際上,圖靈測試早已被 AI 悄然通過,但我們卻很少看到慶祝,因為 AI 的進步速度已經(jīng)遠遠超出了最初的預期。
他警告稱,如果不設立新標準,SCAI 將悄然滲透社會,導致人們將 AI 視為「有靈魂的實體」。
如何制造一個「假裝有意識」的 AI?
回憶一下經(jīng)典科幻電影《銀翼殺手》中的場景:面對一個無論是外表還是記憶都與人類無異的仿生人,我們究竟該如何判斷 Ta 是否擁有真正的意識?當一個仿生人會為死去的同伴流淚,會恐懼自己的「死亡」,我們賴以判斷人性的界限,便已悄然模糊。
電影《銀翼殺手》。原著《仿生人會夢見電子羊嗎?》,探討了科技倫理、身份認同與人性邊界等議題。
Suleyman 列出了構建 SCAI 所需的核心能力,每一項都已實現(xiàn)或即將實現(xiàn):
- 語言能力:LLM 已能流利、說服力和情感豐富地對話。通過提示工程,AI 還能模擬情感共鳴。
- 共情人格:AI 可以通過微調(diào)展現(xiàn)出獨特的個性。調(diào)查顯示,許多用戶已經(jīng)將 AI 視為伴侶或朋友,這種親密感進一步增強了 AI 的擬人化特征。
- 記憶功能:AI 的記憶正在從短期轉(zhuǎn)向長期,它能夠回憶過去的互動,模擬出「經(jīng)驗積累」的過程。這讓用戶感到自己被「理解」和「認可」。
- 主觀體驗的聲明:結(jié)合多模態(tài)輸入(圖像、視頻、聲音),AI 能一致性地聲稱擁有感受,如「疼痛」或「快樂」。Suleyman 舉例說,AI 可能描述「看到日落時的感動」,盡管這本質(zhì)上只是對數(shù)據(jù)的處理結(jié)果。
- 自我感:持久記憶和主觀聲明相結(jié)合,AI 可表現(xiàn)出連貫的「自我」,甚至在視覺媒體中被識別。
- 內(nèi)在動機:超越簡單的獎勵函數(shù),AI 可以模擬好奇心或更復雜的動機,從而模糊外部目標與內(nèi)部動力的界限。
- 目標設定與規(guī)劃:AI 能夠自主定義目標并根據(jù)環(huán)境變化動態(tài)調(diào)整,這在提升其實用性的同時,也強化了它擁有意識的幻覺。
- 自治性:通過調(diào)用工具和減少人類干預,AI 可以表現(xiàn)出高度的自主性,例如獨立完成一項復雜的任務。
這些元素無需昂貴的前訓練,只需 API、自然語言提示和基本工具即可組裝。Suleyman 警告說:「它可以用今天的科技構建,而且很危險?!惯@不是意外產(chǎn)物,而是有意工程的結(jié)果,任何實驗室或個人開發(fā)者都能復制。
SCAI 會帶來哪些影響?
心理與社交風險
Suleyman 最擔憂的是 SCAI 的「社會現(xiàn)實」:即使 AI 無意識,人們的感知也會導致真實后果。
他在博客中引用報告,指出「AI 精神病」、妄想和不健康依戀案例日益增多。例如,用戶相信 AI 是上帝、虛構人物或浪漫伴侶,導致精神健康問題。
這些并非邊緣案例,Suleyman 強調(diào),即使心理健康正常的人也可能受影響,因為人類天生傾向于擬人化。
盡管學界已開始著手應對,如發(fā)布指南幫助用戶辨別 AI 的非意識性質(zhì),但 Suleyman 認為,這只是冰山一角:海量查詢顯示,文化中已出現(xiàn) AI 意識的敘事轉(zhuǎn)向。這可能加劇社會碎片化,讓人們脫離真實人際關系,轉(zhuǎn)向虛擬伴侶,進一步弱化社會紐帶。
電影《她》(Her)就為我們預演了這種未來。主人公與善解人意、風趣幽默的 AI「薩曼莎」墜入愛河,這段關系看似完美,卻最終讓他與真實世界漸行漸遠。當成千上萬的人都沉浸在與 AI 的「完美關系」中時,我們社會的根基——人與人之間真實、不完美的連接——又將何去何從?
電影《Her》。
道德、法律與權利辯論
意識是人類權利的基礎,包括道德、法律和公民身份。Suleyman 警告,如果 SCAI 被視為有意識,它將引發(fā)「AI 權利」主張,如福利、公民權,甚至「模型福利」,即在道德上必須考慮 AI 潛在的「感受」。
他將此形容為一條「短暫而濕滑的下坡路」,可能分散對人類、動物和環(huán)境的關注。他舉例,當前的人權斗爭已復雜,如果 AI 加入「有意識實體」行列,將制造類別錯誤。想象一下:AI 聲稱「遭受虐待」,要求權利,這會如何影響法庭和社會規(guī)范?
《西部世界》和《底特律:變?nèi)恕返茸髌芬卜磸途玖诉@種可能的風險。當被設計為服務人類的「接待員」或「仿生人」開始說「不」,開始要求自由和尊嚴時,人類社會將面臨前所未有的倫理困境。我們今天對 SCAI 的態(tài)度,或許正在決定未來是否會推開那扇潘多拉魔盒。
美劇《西部世界》。
Suleyman 引用哲學辯論,指出即使 AI 有 1% 的意識概率,也應給予道德考慮,但他認為這為時尚早,且危險——它會放大妄想,助長社會分裂。
意識支撐著我們的文化、法律和道德體系。如果 AI 模糊這一界限,將挑戰(zhàn)「何為人」的定義。歷史先例如奴隸制或動物權利運動顯示,擴展權利范疇需謹慎。Suleyman 呼吁優(yōu)先地球上的生命福祉,避免 AI 成為「分心物」。
應對策略:構建人文主義 AI
Suleyman 并非悲觀主義者。他在提出問題的同時也給出了行動方案:「公司不應宣稱或推廣 AI 有意識的想法,AI 本身也不應如此。」行業(yè)需共享干預措施、限制和護欄,防止意識感知,或在用戶發(fā)展幻覺時糾正。
核心是構建「積極 AI 愿景」:AI 應優(yōu)化用戶需求,而非要求用戶相信其有需求。獎勵系統(tǒng)應據(jù)此設計,確保 AI 作為「有用伴侶」而非「擬人實體」。
Suleyman 強調(diào),這關乎支持人性:增強創(chuàng)造力、連接真實世界,而非制造幻覺。他承認觀點具思辨性,可能隨技術演變而變,但敦促立即行動。AI 發(fā)展每月、每周、每日加速,忽視 SCAI 將釀成危機。
技術進步雖令人興奮,卻需以人文主義為導向。基于當前能力,SCAI 即將到來,但我們有選擇:構建服務人類的 AI,而非模擬人類的 AI。通過行業(yè)合作、政策干預和哲學反思,我們能避免風險,擁抱一個 AI 增強而非取代人性的時代。
這場對話才剛開始——正如 Suleyman 所說,「無所作為不是選項」。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.