新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】大家一直熱衷談?wù)摰腁GI忽然不香了，主流的AI公司都開始改口談「超級(jí)智能」，AGI已經(jīng)淪落為研究員口中的「自動(dòng)化軟件開發(fā)工具」。蘇萊曼領(lǐng)軍的微軟MAI團(tuán)隊(duì)，正成為超級(jí)智能賽道一位新的「超級(jí)玩家」。曾曝「欺凌員工」的他，如今要打造有「人味」的AI。

談?wù)揂GI已經(jīng)落伍了？

不知你是否留意到，現(xiàn)在主流的AI公司開始閉口不談AGI，而改談「超級(jí)智能」了！

「AGI這個(gè)詞現(xiàn)在已經(jīng)沒有任何意義了；你可以問研究人員AGI是什么意思，他們會(huì)說它是自動(dòng)化軟件開發(fā)工具，但這并不是通用人工智能?！?/p>

在最近的一期播客中，SemiAnalysis創(chuàng)始人、CEO Dylan Patel這樣說道。

他認(rèn)為最初是Ilya Sutskever發(fā)現(xiàn)這一趨勢(shì)，并創(chuàng)辦了他的新公司Safe Superintelligence（安全超級(jí)智能，SSI）。

2024年6月，離開OpenAI的Ilya創(chuàng)建了SSI。

在SSI成立一年以后，扎克伯格開始組建Meta的超級(jí)智能實(shí)驗(yàn)室，由此開啟了科技巨頭在超級(jí)智能領(lǐng)域的競(jìng)賽。

10月，OpenAI也曝出了3位Sora團(tuán)隊(duì)核心成員秘密組建超級(jí)智能團(tuán)隊(duì)的消息。

如今，超級(jí)智能賽道再添一位「超級(jí)玩家」。

微軟AI CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）在周四宣布親自帶隊(duì)成立「MAI超級(jí)智能團(tuán)隊(duì)」（MAI Superintelligence Team）。

但蘇萊曼他眼中的超級(jí)智能，和奧特曼眼中的不一樣。

OpenAI強(qiáng)調(diào)「ASI要比人類聰明很多」。

但蘇萊曼認(rèn)為超級(jí)智能并不是要超越人類。

他表示自己不想生活在一個(gè)AI超越人類的世界，相信也沒人愿意這樣。

蘇萊曼將超級(jí)智能定義為人本主義超級(jí)智能（HSI，humanist superintelligence）。

在宣布組建MAI的同時(shí)，蘇萊曼還提到了這一行動(dòng)背后的一個(gè)原因：

去「去OpenAI化」：擺脫對(duì)OpenAI的依賴、實(shí)現(xiàn)AI自主研發(fā)。

前不久微軟與OpenAI簽署的一項(xiàng)新的諒解備忘錄，為組建微軟組建MAI創(chuàng)造了條件：

該備忘錄稱微軟可自主追求?AGI（人工通用智能），可與其他方合作或獨(dú)立進(jìn)行。

而OpenAI也可與其他云服務(wù)提供商展開合作，不再完全受限于微軟的獨(dú)家云服務(wù)。

雙方合作邁入一個(gè)相互獨(dú)立，既競(jìng)爭(zhēng)又合作的新篇章。

摒棄AGI競(jìng)賽

追求「以人為本」的AI

超級(jí)智能，已成為當(dāng)下AI領(lǐng)域的一個(gè)熱門詞匯。

無論是OpenAI、谷歌，還是xAI、Anthropic，各大AI公司都在競(jìng)相發(fā)布更先進(jìn)的大型語言模型，掀起了數(shù)萬億史詩級(jí)的算力軍備競(jìng)賽。

看到超級(jí)智能的曙光出現(xiàn)，扎克伯格牽頭在今年6月成立了Meta的超級(jí)智能實(shí)驗(yàn)室，全力推動(dòng)Meta引領(lǐng)超級(jí)智能時(shí)代。

奧特曼也在年初的一篇博客中表示，OpenAI「已經(jīng)掌握了構(gòu)建傳統(tǒng)意義上的通用人工智能（AGI）的方法」，正在將目標(biāo)轉(zhuǎn)向更遠(yuǎn)的地方，追求「真正意義上的超級(jí)智能」。

前不久，OpenAI也曝出了秘密組建超級(jí)智能團(tuán)隊(duì)的消息。

一場(chǎng)圍繞超級(jí)智能的升級(jí)賽，正在緊鑼密鼓、悄悄拉開帷幕。

然而，蘇萊曼似乎并不熱衷于超級(jí)智能競(jìng)賽這樣的論調(diào)。

邁向人本主義的超級(jí)智能

他將自己領(lǐng)導(dǎo)的MAI定位于追求人本主義的超級(jí)智能，稱之為「一項(xiàng)深度人性化的事業(yè)」。

他在博客中提到：

「我們摒棄AGI競(jìng)賽的敘事，更視其為實(shí)現(xiàn)人類生活改善與未來發(fā)展的深度人文探索?！?/p>

相比較過于激進(jìn)的AI技術(shù)路線，蘇萊曼強(qiáng)調(diào)一種更審慎、以人為本的發(fā)展路徑。

前段時(shí)間，當(dāng)OpenAI、xAI等宣布將對(duì)成年人開放可能涉及情色內(nèi)容的AI功能時(shí)，蘇萊曼曾公開表示拒絕開發(fā)類似功能。

蘇萊曼認(rèn)為所謂人本主義視角，要求在追求技術(shù)發(fā)展之前，首先要審視這項(xiàng)技術(shù)是否服務(wù)于人類利益，確保它們是致力于解決具體實(shí)際問題，并以穩(wěn)健可控的方式推進(jìn)。

蘇萊曼特別強(qiáng)調(diào)：「我們構(gòu)建的不是模糊虛幻的超級(jí)智能，而是專門為服務(wù)人類設(shè)計(jì)的實(shí)用技術(shù)。」

微軟AI CEO蘇萊曼（Mustafa Suleyman）

蘇萊曼指出MAI重點(diǎn)布局的三個(gè)重要應(yīng)用領(lǐng)域是人工智能伙伴（AI companion）、醫(yī)療超級(jí)智能（Medical Superintelligence）、充足清潔能源。

蘇萊曼預(yù)測(cè)「未來兩、三年內(nèi)有望實(shí)現(xiàn)醫(yī)療超級(jí)智能（medical superintelligence）」。

牛津大學(xué)輟學(xué)生

飽受爭(zhēng)議的AI先驅(qū)

蘇萊曼是一位飽受爭(zhēng)議的AI先驅(qū)。

他曾就讀于牛津大學(xué)曼斯菲爾德學(xué)院， 但在19歲時(shí)輟學(xué)。

2010年，他與Demis Hassabis、Shane Legg共同創(chuàng)立了DeepMind，并擔(dān)任首席產(chǎn)品官。

2014年，DeepMind被谷歌收購(gòu)，蘇萊曼成為DeepMind應(yīng)用人工智能主管，負(fù)責(zé)將公司的技術(shù)整合到谷歌的各種產(chǎn)品中。

在DeepMind，蘇萊曼創(chuàng)立了DeepMind Health，為臨床醫(yī)生和護(hù)士開發(fā)和部署人工智能技術(shù)，以改善一線醫(yī)療服務(wù)。

2019年，蘇萊曼因被指控欺凌員工而被停職，離職后前往DeepMind的母公司谷歌擔(dān)任副總裁。

2022年，蘇萊曼離開谷歌加入與里德·霍夫曼共同創(chuàng)立了人工智能實(shí)驗(yàn)室Inflection AI，該公司于2023年推出了一款聊天機(jī)器人。

2024?年3月，微軟宣布成立Microsoft?AI，任命蘇萊曼擔(dān)任該部門CEO。

蘇萊曼與其在Inflection?AI的部分團(tuán)隊(duì)成員一同加入微軟。

微軟旗下Microsoft Copilot、Microsoft Bing、Microsoft Edge等消費(fèi)者AI產(chǎn)品納入Microsoft?AI部門，將過去分散的AI產(chǎn)品線整合形成統(tǒng)一的戰(zhàn)略和研發(fā)路徑。

蘇萊曼表示，公司將在MAI項(xiàng)目上投入「巨額資金」，并任命Karen Simonyan為首席科學(xué)家，并且繼續(xù)從頂級(jí)實(shí)驗(yàn)室吸納人才。

Karen Simonyan

Karen Simonyan是Inflection AI的聯(lián)合創(chuàng)始人，2024年他和蘇萊曼一起隨團(tuán)隊(duì)加入Microsoft?AI，擔(dān)任首席科學(xué)家。

Simonyan是計(jì)算機(jī)視覺與深度學(xué)習(xí)領(lǐng)域的重要研究者，他曾在DeepMind擔(dān)任研究科學(xué)家，并參與多個(gè)重大AI項(xiàng)目。

目前，蘇萊曼尚未透露MAI的具體人員和項(xiàng)目進(jìn)展情況。

AI領(lǐng)域的「加速派」

能力不再是最重要的衡量標(biāo)準(zhǔn)

蘇萊曼自稱是AI領(lǐng)域的「加速派」。

一方面，他希望AI可以盡快的發(fā)展；但另一方面，為了人類能夠保持對(duì)AI的控制，他認(rèn)為又必須要放棄一定程度的能力。

這是一個(gè)非常艱難的權(quán)衡。

在蘇萊曼看來，人類科技發(fā)展的主流敘事，是一個(gè)不斷解鎖新能力、涌現(xiàn)新發(fā)明，然后將它們毫無限制和約束地推向市場(chǎng)的過程。

科技的飛輪一旦減速就可能停擺；但速度過快，失控的風(fēng)險(xiǎn)又將大大增加——

這正是當(dāng)前AI技術(shù)發(fā)展面臨的兩難挑戰(zhàn)。

隨著Meta、OpenAI、微軟越來越多科技巨頭加入「超級(jí)智能」的角逐，也引發(fā)了人們的普遍擔(dān)憂。

近日，包括Yoshua Bengio、Geoff Hinton等AI大佬在內(nèi)的數(shù)百名公眾人物曾聯(lián)名呼吁反對(duì)「過于倉(cāng)促」地發(fā)展「超級(jí)智能」。

Bengio表示，「為了安全地邁向超級(jí)智能，我們必須科學(xué)地確定如何設(shè)計(jì)人工智能系統(tǒng)，使其從根本上無法傷害人類，無論是由于錯(cuò)誤定位還是惡意使用。」

蘇萊曼認(rèn)為，AI的發(fā)展已經(jīng)到達(dá)了一個(gè)新的門檻：能力不再是最重要的衡量標(biāo)準(zhǔn)。

比如，人類需要保留用自然語言來控制人工智能模型的能力。因?yàn)槿祟悷o法用向量數(shù)學(xué)進(jìn)行交流，而向量數(shù)學(xué)是當(dāng)今最強(qiáng)大的人工智能模型的語言。

同時(shí)，蘇萊曼也反對(duì)將AI視作具備人類情感或權(quán)利的觀點(diǎn)，他認(rèn)為AI聊天機(jī)器人不應(yīng)誤導(dǎo)用戶產(chǎn)生是在與有意識(shí)生命體對(duì)話的錯(cuò)覺：

「雖然AI將愈發(fā)擬人化，但本質(zhì)上不會(huì)具備承受苦難或痛覺的感知能力，因此我們不應(yīng)過度共情」。

現(xiàn)實(shí)中，已經(jīng)出現(xiàn)一部分用戶因?yàn)榕cAI聊天機(jī)器人建立深度情感連接，而導(dǎo)致了危險(xiǎn)妄想、住院治療甚至死亡事件。

比如，一名科技行業(yè)從業(yè)者在與ChatGPT持續(xù)深度交流后出現(xiàn)了殺害母親并自殺的悲劇，出現(xiàn)此類事件之后OpenAI回應(yīng)稱已增設(shè)安全措施。

這反映出隨著AI能力的快速發(fā)展，相應(yīng)的安全風(fēng)險(xiǎn)也將日益嚴(yán)峻。

蘇萊曼希望創(chuàng)建默認(rèn)符合人類價(jià)值觀的AI系統(tǒng)，這意味著它們不會(huì)超越或脫離人類的掌控。

安全可控，將是人類在追求超級(jí)智能道路上的重要挑戰(zhàn)之一。

留給蘇萊曼的7年窗口期

根據(jù)雙方的諒解備忘錄，微軟對(duì)OpenAI模型的訪問權(quán)將持續(xù)至2032年。

蘇萊曼稱這一時(shí)間表，為微軟超級(jí)智能團(tuán)隊(duì)打造領(lǐng)先技術(shù)創(chuàng)造了窗口期。

曾經(jīng)在AI領(lǐng)域緊密抱團(tuán)的微軟和OpenAI，開始各自的「獨(dú)立化」運(yùn)動(dòng)：

OpenAI正在自建數(shù)據(jù)中心，并且開始去「微軟化」，與微軟的競(jìng)爭(zhēng)對(duì)手亞馬遜和Oracle締結(jié)合作；

微軟也在積極去「OpenAI化」，包括引入Anthropic第三方模型以及自建大模型。

蘇萊曼組建MAI也被視作是一項(xiàng)「去OpenAI化」的新重大舉措。

目前OpenAI技術(shù)已深度集成于微軟多項(xiàng)產(chǎn)品中，據(jù)微軟內(nèi)部員工表示，要替代OpenAI技術(shù)可能需要數(shù)年時(shí)間。

參考資料：

https://www.semafor.com/article/11/05/2025/microsoft-superintelligence-team-promises-to-keep-humans-in-charge%20

https://microsoft.ai/news/towards-humanist-superintelligence/?utm_source=chatgpt.com