夜夜躁很很躁日日躁麻豆,精品人妻无码,制服丝袜国产精品,成人免费看www网址入口

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

微軟AI CEO警告:我們需要警惕「看似有意識的AI」

0
分享至



機器之心報道

編輯:+0

AI 有意識嗎?

無論是古今中外的文藝作品中,還是 AI 迅猛發(fā)展的當下,好像都難以給出一個絕對的答案。

要探討這個問題,我們首先需要理解 AI 的「黑盒」困境。作為現(xiàn)代 AI 核心的深度神經(jīng)網(wǎng)絡,其內(nèi)部包含了數(shù)以億計的參數(shù),這些參數(shù)在多層結(jié)構中進行著極其復雜的非線性相互作用。



AI 并非由人類編寫固定的規(guī)則來執(zhí)行任務,而是通過自主學習海量數(shù)據(jù)來識別模式、構建決策邏輯。這一過程往往超越了人類的直觀理解,就像一個神秘的黑匣子:你向它提問,它能給出精準的答案,但你無法洞悉其內(nèi)部的思考與決策過程。



圖源:Medium。

微軟 AI CEO Mustafa Suleyman 深入討論了這個問題,并提出了「看似有意識的 AI」(Seemingly Conscious AI,SCAI)的概念。



他坦言,SCAI 的潛在影響「讓他夜不能寐」,因為它雖然沒有真正的意識,卻能完美地模擬出所有人類意識的外部標志,從而讓人們誤以為它真的擁有意識。

他強調(diào),這不是科幻,而是基于當前技術即可實現(xiàn)的幻覺,卻可能帶來深刻的社交、道德和法律影響

評論區(qū)也展開了激烈討論,有人贊同 Suleyman 的觀點,認為我們應該警惕「幻覺」。



也有人認為無法輕易斷定 AI 沒有意識。



還有人追問何種證據(jù)才能證明 AI 意識的存在,以及思考是否存在不同于人類的意識形式。





其中一條尖銳的評論甚至暗示其立場是出于商業(yè)利益的考量。



Suleyman 在他發(fā)表的博客文章《我們必須為人類構建 AI,而不是讓它成為一個人》(We must build AI for people; not to be a person)中,對他的觀點進行了詳細的闡述。

  • 博客地址:https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming

意識是人類經(jīng)驗的核心,卻難以精確定義。Suleyman 在博客中引用了科學文獻,將意識分解為三個關鍵組成部分:

  • 主觀體驗(Qualia):指純粹的感官感受,例如「紅色看起來是什么感覺」。
  • 訪問意識(Access Consciousness):指信息可以被大腦的不同部分調(diào)用,用于推理和決策。
  • 連貫的自我感(A Coherent Self):對自身作為一個獨立、持續(xù)存在的個體的認知。

盡管科學家們提出了至少 22 種意識理論,但意識的生物學基礎仍不明朗——它可能源于大腦的復雜網(wǎng)絡,但無法通過外部觀察直接驗證。

人類判斷他人意識的方式依賴于「心智理論」,即通過行為、語言和情感線索進行推斷。我們相信他人有意識,因為他們表現(xiàn)出類似我們的反應:表達痛苦、回憶過去、設定目標。這正是 SCAI 的切入點:它不需要真正擁有意識,只需模擬這些標志,就能欺騙人類的推斷機制。

Suleyman 將 SCAI 比作哲學上的「僵尸」:一個在行為上與人類別無二致,卻沒有任何內(nèi)在體驗的實體。這種幻覺并非遙不可及:實際上,圖靈測試早已被 AI 悄然通過,但我們卻很少看到慶祝,因為 AI 的進步速度已經(jīng)遠遠超出了最初的預期。

他警告稱,如果不設立新標準,SCAI 將悄然滲透社會,導致人們將 AI 視為「有靈魂的實體」。

如何制造一個「假裝有意識」的 AI?

回憶一下經(jīng)典科幻電影《銀翼殺手》中的場景:面對一個無論是外表還是記憶都與人類無異的仿生人,我們究竟該如何判斷 Ta 是否擁有真正的意識?當一個仿生人會為死去的同伴流淚,會恐懼自己的「死亡」,我們賴以判斷人性的界限,便已悄然模糊。



電影《銀翼殺手》。原著《仿生人會夢見電子羊嗎?》,探討了科技倫理、身份認同與人性邊界等議題。

Suleyman 列出了構建 SCAI 所需的核心能力,每一項都已實現(xiàn)或即將實現(xiàn):

  • 語言能力:LLM 已能流利、說服力和情感豐富地對話。通過提示工程,AI 還能模擬情感共鳴。
  • 共情人格:AI 可以通過微調(diào)展現(xiàn)出獨特的個性。調(diào)查顯示,許多用戶已經(jīng)將 AI 視為伴侶或朋友,這種親密感進一步增強了 AI 的擬人化特征。
  • 記憶功能:AI 的記憶正在從短期轉(zhuǎn)向長期,它能夠回憶過去的互動,模擬出「經(jīng)驗積累」的過程。這讓用戶感到自己被「理解」和「認可」。
  • 主觀體驗的聲明:結(jié)合多模態(tài)輸入(圖像、視頻、聲音),AI 能一致性地聲稱擁有感受,如「疼痛」或「快樂」。Suleyman 舉例說,AI 可能描述「看到日落時的感動」,盡管這本質(zhì)上只是對數(shù)據(jù)的處理結(jié)果。
  • 自我感:持久記憶和主觀聲明相結(jié)合,AI 可表現(xiàn)出連貫的「自我」,甚至在視覺媒體中被識別。
  • 內(nèi)在動機:超越簡單的獎勵函數(shù),AI 可以模擬好奇心或更復雜的動機,從而模糊外部目標與內(nèi)部動力的界限。
  • 目標設定與規(guī)劃:AI 能夠自主定義目標并根據(jù)環(huán)境變化動態(tài)調(diào)整,這在提升其實用性的同時,也強化了它擁有意識的幻覺。
  • 自治性:通過調(diào)用工具和減少人類干預,AI 可以表現(xiàn)出高度的自主性,例如獨立完成一項復雜的任務。

這些元素無需昂貴的前訓練,只需 API、自然語言提示和基本工具即可組裝。Suleyman 警告說:「它可以用今天的科技構建,而且很危險?!惯@不是意外產(chǎn)物,而是有意工程的結(jié)果,任何實驗室或個人開發(fā)者都能復制。

SCAI 會帶來哪些影響?

心理與社交風險

Suleyman 最擔憂的是 SCAI 的「社會現(xiàn)實」:即使 AI 無意識,人們的感知也會導致真實后果。

他在博客中引用報告,指出「AI 精神病」、妄想和不健康依戀案例日益增多。例如,用戶相信 AI 是上帝、虛構人物或浪漫伴侶,導致精神健康問題。

這些并非邊緣案例,Suleyman 強調(diào),即使心理健康正常的人也可能受影響,因為人類天生傾向于擬人化。

盡管學界已開始著手應對,如發(fā)布指南幫助用戶辨別 AI 的非意識性質(zhì),但 Suleyman 認為,這只是冰山一角:海量查詢顯示,文化中已出現(xiàn) AI 意識的敘事轉(zhuǎn)向。這可能加劇社會碎片化,讓人們脫離真實人際關系,轉(zhuǎn)向虛擬伴侶,進一步弱化社會紐帶。

電影《她》(Her)就為我們預演了這種未來。主人公與善解人意、風趣幽默的 AI「薩曼莎」墜入愛河,這段關系看似完美,卻最終讓他與真實世界漸行漸遠。當成千上萬的人都沉浸在與 AI 的「完美關系」中時,我們社會的根基——人與人之間真實、不完美的連接——又將何去何從?



電影《Her》。

道德、法律與權利辯論

意識是人類權利的基礎,包括道德、法律和公民身份。Suleyman 警告,如果 SCAI 被視為有意識,它將引發(fā)「AI 權利」主張,如福利、公民權,甚至「模型福利」,即在道德上必須考慮 AI 潛在的「感受」。

他將此形容為一條「短暫而濕滑的下坡路」,可能分散對人類、動物和環(huán)境的關注。他舉例,當前的人權斗爭已復雜,如果 AI 加入「有意識實體」行列,將制造類別錯誤。想象一下:AI 聲稱「遭受虐待」,要求權利,這會如何影響法庭和社會規(guī)范?

《西部世界》和《底特律:變?nèi)恕返茸髌芬卜磸途玖诉@種可能的風險。當被設計為服務人類的「接待員」或「仿生人」開始說「不」,開始要求自由和尊嚴時,人類社會將面臨前所未有的倫理困境。我們今天對 SCAI 的態(tài)度,或許正在決定未來是否會推開那扇潘多拉魔盒。



美劇《西部世界》。

Suleyman 引用哲學辯論,指出即使 AI 有 1% 的意識概率,也應給予道德考慮,但他認為這為時尚早,且危險——它會放大妄想,助長社會分裂。

意識支撐著我們的文化、法律和道德體系。如果 AI 模糊這一界限,將挑戰(zhàn)「何為人」的定義。歷史先例如奴隸制或動物權利運動顯示,擴展權利范疇需謹慎。Suleyman 呼吁優(yōu)先地球上的生命福祉,避免 AI 成為「分心物」。

應對策略:構建人文主義 AI

Suleyman 并非悲觀主義者。他在提出問題的同時也給出了行動方案:「公司不應宣稱或推廣 AI 有意識的想法,AI 本身也不應如此。」行業(yè)需共享干預措施、限制和護欄,防止意識感知,或在用戶發(fā)展幻覺時糾正。

核心是構建「積極 AI 愿景」:AI 應優(yōu)化用戶需求,而非要求用戶相信其有需求。獎勵系統(tǒng)應據(jù)此設計,確保 AI 作為「有用伴侶」而非「擬人實體」。

Suleyman 強調(diào),這關乎支持人性:增強創(chuàng)造力、連接真實世界,而非制造幻覺。他承認觀點具思辨性,可能隨技術演變而變,但敦促立即行動。AI 發(fā)展每月、每周、每日加速,忽視 SCAI 將釀成危機。

技術進步雖令人興奮,卻需以人文主義為導向。基于當前能力,SCAI 即將到來,但我們有選擇:構建服務人類的 AI,而非模擬人類的 AI。通過行業(yè)合作、政策干預和哲學反思,我們能避免風險,擁抱一個 AI 增強而非取代人性的時代。

這場對話才剛開始——正如 Suleyman 所說,「無所作為不是選項」。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
特朗普退出三方會晤后風格大變,俄向烏發(fā)出最后通牒

特朗普退出三方會晤后風格大變,俄向烏發(fā)出最后通牒

山河路口
2025-08-22 13:02:54
一年虧損四千萬,全國陷“關停潮”,曾經(jīng)的金飯碗如今正慘遭拋棄

一年虧損四千萬,全國陷“關停潮”,曾經(jīng)的金飯碗如今正慘遭拋棄

訪史
2025-08-23 03:40:20
中國和美國已經(jīng)到總決賽,中國面對的威脅,主要是戰(zhàn)爭和經(jīng)濟收割

中國和美國已經(jīng)到總決賽,中國面對的威脅,主要是戰(zhàn)爭和經(jīng)濟收割

美國快網(wǎng)
2025-07-23 10:59:46
你體驗過東北洗浴文化嗎?全程尷尬嗎?網(wǎng)友:零件一樣,尺碼不同

你體驗過東北洗浴文化嗎?全程尷尬嗎?網(wǎng)友:零件一樣,尺碼不同

特約前排觀眾
2025-08-17 00:15:03
《生萬物》大結(jié)局,封家明被牛撞死,鐵頭含恨而亡,膩味自食惡果

《生萬物》大結(jié)局,封家明被牛撞死,鐵頭含恨而亡,膩味自食惡果

鄉(xiāng)野小珥
2025-08-23 00:37:48
證監(jiān)會這次動真格了,8月23日,今日的重要消息沖擊來襲!

證監(jiān)會這次動真格了,8月23日,今日的重要消息沖擊來襲!

風口招財豬
2025-08-23 00:56:38
上海樓市的戾氣,一天比一天重

上海樓市的戾氣,一天比一天重

樓宇縫隙
2025-08-21 16:25:38
港股,重大調(diào)整!

港股,重大調(diào)整!

證券時報
2025-08-22 20:09:06
外媒傳“中企已預訂約5萬噸澳油菜籽”,加拿大省長急宣布:未來幾周將訪華

外媒傳“中企已預訂約5萬噸澳油菜籽”,加拿大省長急宣布:未來幾周將訪華

環(huán)球網(wǎng)資訊
2025-08-22 12:02:46
信號越來越明顯!許多曾體面中產(chǎn)家庭已漸漸返貧

信號越來越明顯!許多曾體面中產(chǎn)家庭已漸漸返貧

大龍哥說房
2025-08-12 20:40:08
因言慎戰(zhàn)引爭議,國防大學教授馬駿回應:說我們最好并非自信表現(xiàn)

因言慎戰(zhàn)引爭議,國防大學教授馬駿回應:說我們最好并非自信表現(xiàn)

瑜說還休
2025-08-21 17:36:40
吹哨人捍衛(wèi)底線!香港名醫(yī)“天才”千金淪為全港笑柄后續(xù)來了,潘家“神操作”與機構“官官相護”變公關災難

吹哨人捍衛(wèi)底線!香港名醫(yī)“天才”千金淪為全港笑柄后續(xù)來了,潘家“神操作”與機構“官官相護”變公關災難

澳門月刊
2025-08-20 16:55:57
美國直接明牌了?我國9月3日閱兵那天,特朗普要在白宮接待重要客人

美國直接明牌了?我國9月3日閱兵那天,特朗普要在白宮接待重要客人

陣匠
2025-08-23 01:39:13
澤連斯基得到最想要的,特朗普大賺1000億,會議中途打電話給普京

澤連斯基得到最想要的,特朗普大賺1000億,會議中途打電話給普京

溫度歷史
2025-08-23 00:34:55
克林頓:我一生有兩件事感到很遺憾,一中國加入WTO,二我做錯了

克林頓:我一生有兩件事感到很遺憾,一中國加入WTO,二我做錯了

趣文說娛
2025-07-24 17:22:53
中央委員、正部級女干部任上落馬,今年已有7名正部級干部被查

中央委員、正部級女干部任上落馬,今年已有7名正部級干部被查

上觀新聞
2025-08-22 19:28:21
這一次,被人民日報點名的三只羊和東北雨姐,終究還是付出了代價

這一次,被人民日報點名的三只羊和東北雨姐,終究還是付出了代價

動物奇奇怪怪
2025-08-23 01:41:56
瑞典大滿貫:男單4強誕生!莫雷加德力克黑馬,林詩棟單騎闖關

瑞典大滿貫:男單4強誕生!莫雷加德力克黑馬,林詩棟單騎闖關

阿柒的訊
2025-08-23 02:41:55
在國家電網(wǎng)上班算不算“?!??內(nèi)部員工透露真實待遇,網(wǎng)友:這哪是鐵飯碗,是金飯碗!

在國家電網(wǎng)上班算不算“牛”?內(nèi)部員工透露真實待遇,網(wǎng)友:這哪是鐵飯碗,是金飯碗!

文雅筆墨
2025-08-23 04:00:32
幾塊錢一瓶爐甘石洗劑,竟連世衛(wèi)組織都推薦,可以用來治哪些病?

幾塊錢一瓶爐甘石洗劑,竟連世衛(wèi)組織都推薦,可以用來治哪些病?

明月聊史
2025-08-20 15:25:08
2025-08-23 05:44:49
機器之心Pro incentive-icons
機器之心Pro
專業(yè)的人工智能媒體
11138文章數(shù) 142421關注度
往期回顧 全部

科技要聞

命運曲折!傳H20芯片停產(chǎn),英偉達這樣回應

頭條要聞

上海女子在臥室汗毛豎起來了 墻上突現(xiàn)3個洞正對著床

頭條要聞

上海女子在臥室汗毛豎起來了 墻上突現(xiàn)3個洞正對著床

體育要聞

中國足球青訓問題在哪?對話歐塞爾青訓總監(jiān)

娛樂要聞

前女友曝許凱出軌 于正說在酒店背臺詞

財經(jīng)要聞

節(jié)卡股份IPO上會前被取消審議

汽車要聞

新智界R7/S7首發(fā)車外語音泊車功能,華為黑科技上車

態(tài)度原創(chuàng)

健康
本地
房產(chǎn)
親子
數(shù)碼

精神科專家解答學習困難七大問題

本地新聞

22℃的吉林夏天 | 江風沁心涼,游艇畫中行!

房產(chǎn)要聞

爆款來了!主城+江海雙景,??谧顝姲簿臃?,即將開盤!

親子要聞

新藥治療產(chǎn)后抑郁,近80%患者應答,用藥當天就起效

數(shù)碼要聞

銘凡預告MS-S1 MAX 迷你AI工作站:USB4 V2(80 Gbps)接口

無障礙瀏覽 進入關懷版 午夜婷婷人妻| 中文字幕无码高潮到痉挛| 国产十八禁在线观看免费| 中文字幕日韩AV一区| 很黄很黄无遮挡| 日韩成人影院在线看| 天天日日夜夜| 国产av高清怡春院| 国产精品无码专区AV免费播放| 欧美三级不卡在线观看视频| 一区二区三区老太太电影| 伦精品一区二区三区视频| 亚洲美女高潮久久久久| 人妻熟妇乱又伦精品无码专区| 日本不卡就qq| 国产 白浆 后入| 水蜜桃国产精品欧美日韩一区不卡| 欧洲精品无码成人AV| 一级丰满老熟女毛片| av无码国产精品色午夜| 在线 欧美 中文 亚洲 精品| H动漫精品网站网址| 国产精品美女久久久久久麻豆| 青春草视频在线播放| 日韩在线视频线观看一区| 成人欧美一区二区三区1314| 国产精品久久久久久久18| 麻豆产精国品一二三产区区| 乱码熟妇人妻中文字幕久久久久久| 日韩久久久电影| 国产精品综合色区在线观看 | 亚洲天天堂天堂激情性色| 熟女呻吟肉棒视频| 亚洲av永久无码天堂影院| 久久99久久久久久久久久久| 中文字幕亚洲综合久久菠萝蜜| 人人妻人人澡人人爽人人免费 | 麻豆人妻少妇精品无码5| 伊人熟女久久| 国产精品久久久精爆| 少妇高潮a视频|