編輯部 整理自 凹非寺
量子位 | 公眾號(hào) QbitAI

“人工智能要發(fā)展到下一個(gè)臺(tái)階，一定要突破兩座大山。第一座大山是Transformer，第二座大山是反向傳播算法。”

在大模型規(guī)模不斷拔高、算力與數(shù)據(jù)卷到極致的當(dāng)下，RockAI創(chuàng)始人劉凡平提出了一個(gè)與主流共識(shí)截然不同的判斷。

• 下一階段的智能，不在“更大”，而在“活起來(lái)”。
  本質(zhì)是讓模型擺脫靜態(tài)函數(shù)的桎梏，讓端側(cè)設(shè)備具備原生記憶、自主學(xué)習(xí)與持續(xù)進(jìn)化的能力。

這意味著AI的方向要從云端集中式的算力競(jìng)爭(zhēng)，遷移到每一臺(tái)設(shè)備，每一個(gè)個(gè)體都能參與學(xué)習(xí)，生成知識(shí)的全新范式。

在量子位MEET2026智能未來(lái)大會(huì)上，劉凡平將這一轉(zhuǎn)折點(diǎn)稱為硬件覺(jué)醒

當(dāng)模型在端側(cè)能像大腦一樣稀疏激活、實(shí)時(shí)形成記憶，并在物理世界中不斷更新自身，設(shè)備就不再是工具，而是“活”的智能體。

而無(wú)數(shù)這樣的智能體在現(xiàn)實(shí)世界中學(xué)習(xí)、協(xié)作，便將孕育出真正能夠產(chǎn)生知識(shí)的群體智能。

這既是對(duì)Transformer與反向傳播算法這“兩座大山”的正面突破，也是邁向通用人工智能的一條新路徑。

為了準(zhǔn)確呈現(xiàn)劉凡平的完整思考，以下內(nèi)容基于演講實(shí)錄進(jìn)行整理編輯，希望能提供新的視角與洞察。

MEET2026智能未來(lái)大會(huì)是由量子位主辦的行業(yè)峰會(huì)，近30位產(chǎn)業(yè)代表與會(huì)討論。線下參會(huì)觀眾近1500人，線上直播觀眾350萬(wàn)+，獲得了主流媒體的廣泛關(guān)注與報(bào)道。

核心觀點(diǎn)梳理

• 為T(mén)oken付費(fèi)是一件很愚蠢的事情，用戶應(yīng)該為智能付費(fèi)。
• 端側(cè)模型不是云端大模型的小參數(shù)版本，端側(cè)模型關(guān)鍵在于自主學(xué)習(xí)和原生記憶，Transformer架構(gòu)模型無(wú)法在端側(cè)實(shí)現(xiàn)這一點(diǎn)。
• 人工智能要發(fā)展到下一個(gè)臺(tái)階，一定要突破兩座大山。第一座大山是Transformer，第二座大山是反向傳播算法。
• 原生記憶和自主學(xué)習(xí)帶來(lái)的變化除了Token不再收費(fèi)，更多的還有重新定義硬件的價(jià)值。
• 每臺(tái)設(shè)備擁有自己的智能并能向物理世界學(xué)習(xí)，就會(huì)產(chǎn)生群體智能，如同人類社會(huì)個(gè)體相互合作產(chǎn)生知識(shí)?，F(xiàn)有大模型（尤其是Transformer架構(gòu)大模型）本身不產(chǎn)生知識(shí)，只是傳播知識(shí)；群體智能才是邁向通用人工智能的最佳途徑。

以下為劉凡平演講全文：

硬件可能覺(jué)醒嗎？

很高興能夠和大家在今天分享RockAI在模型層面的思考，也許今天講的內(nèi)容和大家平常理解的有些不一樣——我們認(rèn)為通用人工智能一定有自己的發(fā)展路徑。

今天分享的主題是硬件覺(jué)醒。

我們知道硬件是沒(méi)有生命的，怎么可能覺(jué)醒？沒(méi)錯(cuò)，我們做大模型應(yīng)該重新思考這一切的東西，這一切就是因?yàn)楸籘ransformer束縛了

我想問(wèn)一下大家，你期待的未來(lái)的智能硬件是什么樣子？是你的智能手機(jī)還是平板，還是前兩天的豆包手機(jī)？

今天很多大會(huì)嘉賓都提到了Agent，提Agent的時(shí)候都提到一個(gè)點(diǎn)：工具，更高效的工具。

當(dāng)前很多人還是把大模型當(dāng)工具用。就像計(jì)算器一樣，我需要的時(shí)候拿過(guò)來(lái)用一下，不需要的時(shí)候就放開(kāi)了。

從智能發(fā)展角度來(lái)想想：豆包手機(jī)能按照指令打開(kāi)APP做相應(yīng)的事情，下一步會(huì)發(fā)生什么？它能打開(kāi)微信發(fā)信息，那微信未來(lái)的樣態(tài)還是現(xiàn)在這樣嗎？它能打開(kāi)高德地圖，高德地圖十年以后還是現(xiàn)在這樣嗎？

大家會(huì)發(fā)現(xiàn)，目前是一個(gè)中間狀態(tài)，并不是終極狀態(tài)。

為T(mén)oken付費(fèi)是一件很愚蠢的事情

剛剛很多嘉賓提到，Token消耗量增長(zhǎng)了10倍，尤其是使用上Agent之后。

這本質(zhì)是在為T(mén)oken付費(fèi)。

但大家有沒(méi)有想過(guò)：為T(mén)oken付費(fèi)是一件很愚蠢的事情

我們?yōu)槭裁醋龃竽Ｐ?？是因?yàn)橹悄?。如果要付費(fèi)，應(yīng)該是為智能付費(fèi)，為什么為T(mén)oken付費(fèi)？

打個(gè)比方，有的人講話只要簡(jiǎn)單幾句就能說(shuō)清楚，有的人說(shuō)話很啰嗦，我難道要為它的啰嗦付費(fèi)嗎？肯定是不對(duì)的。

細(xì)想一下，就會(huì)發(fā)現(xiàn)為T(mén)oken付費(fèi)是一個(gè)錯(cuò)誤。未來(lái)（兩年之后）回頭看，我相信大家一定也會(huì)疑惑當(dāng)年居然還為T(mén)oken付過(guò)費(fèi)、充值過(guò)。

端側(cè)模型并不是云端大模型的小參數(shù)版本

硬件已經(jīng)發(fā)生了很多變化，當(dāng)前的云端大模型已經(jīng)慢慢走向了終端設(shè)備。

為什么這么說(shuō)？我們不否定云端大模型的好處，尤其在工具使用上，云端大模型非常優(yōu)秀。

但是未來(lái)AI是屬于每一個(gè)人的。要讓AI走向每一個(gè)人的世界，最重要的是端側(cè)的智能

一方面因?yàn)槎藗?cè)離你更近，而且端側(cè)還有一個(gè)“數(shù)據(jù)無(wú)處不在”的好處。

我一直以來(lái)比較反感把所有數(shù)據(jù)采集到云端，云端訓(xùn)練好了再下發(fā)給用戶使用。

數(shù)據(jù)明明就在你的身邊，為什么做不到就讓它在你身邊？因?yàn)樵贫舜竽Ｐ蛥?shù)量太大了，也沒(méi)有這么多設(shè)備收集你身邊的數(shù)據(jù)。

端側(cè)大模型如果能在設(shè)備上收集數(shù)據(jù)，而且是完全屬于你個(gè)人的數(shù)據(jù)，且這臺(tái)設(shè)備又能和你其他設(shè)備關(guān)聯(lián)，那個(gè)時(shí)候大家就不會(huì)單純把模型當(dāng)做一個(gè)工具來(lái)使用了。

很多人覺(jué)得端側(cè)受限于設(shè)備，算力有限，所以在云端做幾十B的“大”模型，端側(cè)做幾B的“小”模型，就成了端側(cè)模型。

端側(cè)模型并不是云端大模型的小參數(shù)版本

RockAI對(duì)端側(cè)大模型有兩個(gè)非常關(guān)鍵的定義：自主學(xué)習(xí)和原生記憶。這是我們認(rèn)為最重要的事情。

如果是Transformer架構(gòu)的模型，無(wú)法在端側(cè)實(shí)現(xiàn)自主學(xué)習(xí)與原生記憶。

跳出Transformer架構(gòu)去看問(wèn)題

Transformer很優(yōu)秀。

我自己就是國(guó)內(nèi)最早研究Transformer的人之一，對(duì)它早期的成功非常認(rèn)可。

但它現(xiàn)在進(jìn)入到一個(gè)死亡螺旋的狀態(tài)，帶來(lái)一個(gè)問(wèn)題——為了讓模型能力足夠突出我們要加大算力、加大數(shù)據(jù)，帶來(lái)成本極大提升。大家和競(jìng)爭(zhēng)對(duì)手都在做同樣的事情。

你會(huì)發(fā)現(xiàn)，大家都沒(méi)有管架構(gòu)，大家都在干數(shù)據(jù)和算力。因?yàn)椤爸灰覕?shù)據(jù)算力夠了，我就做得更好”。

我們認(rèn)為，信仰Scaling Law的成功在現(xiàn)在看來(lái)是錯(cuò)誤的。不僅我這樣說(shuō)，現(xiàn)在很多人也有類似的觀點(diǎn)。

核心本質(zhì)不在于模型不夠大，而在于思考的方式錯(cuò)了。

模型本身是一個(gè)靜態(tài)函數(shù)，這種靜態(tài)函數(shù)是不太可能會(huì)具備真正的智能。因?yàn)槿说拇竽X是一個(gè)動(dòng)態(tài)函數(shù)，每時(shí)每刻都在建立新的連接，而新的連接是動(dòng)態(tài)結(jié)構(gòu)的。人的大腦是因?yàn)檫@樣才有了記憶的能力。

另一個(gè)誤區(qū)是“更多參數(shù)就意味著更多智能”。

在Transformer架構(gòu)下這樣想沒(méi)錯(cuò)，但如果跳出Transformer架構(gòu)就不是這樣了。

舉一個(gè)簡(jiǎn)單的例子——

生物界，一條蛇或者一個(gè)小兔子它沒(méi)有智能嗎？應(yīng)該沒(méi)有人否定它們的智能。

和人腦相比，它們大腦擁有的“參數(shù)”肯定少很多。

另外還有長(zhǎng)上下文。

2024年，長(zhǎng)上下文方面有很多突破。但我們一直不認(rèn)為長(zhǎng)上下文是一種記憶，真正的記憶應(yīng)該像人大腦的海馬體一樣，會(huì)把所有信息通過(guò)加工處理壓縮存儲(chǔ)下來(lái)，根據(jù)需要的情況會(huì)移除掉一部分信息。

這種記憶是參數(shù)化的記憶，不是靠上下文完成的?？可舷挛耐瓿?，記憶就會(huì)很短。

為什么現(xiàn)在大家又執(zhí)著于做上下文？是因?yàn)锳gent，而Agent背后的Transformer架構(gòu)模型部署后是一個(gè)靜態(tài)函數(shù)，沒(méi)辦法，只能通過(guò)上下文改變它的能力。

講到這里大家就會(huì)恍然大悟，長(zhǎng)上下文其實(shí)是一個(gè)退而求其次的方案，并不是真正智能的解決方案

上下文窗口超過(guò)100萬(wàn)Tokens也好，200萬(wàn)Tokens也好，1000萬(wàn)Tokens也好……但每時(shí)每刻產(chǎn)生的Token遠(yuǎn)遠(yuǎn)超過(guò)了這個(gè)量。就拿今天大會(huì)大家分享的內(nèi)容來(lái)說(shuō)，就已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)了1萬(wàn)Tokens。

記憶能讓人形成長(zhǎng)期認(rèn)知，是一個(gè)過(guò)程。我們的價(jià)值觀就是記憶逐步積累起來(lái)的。如果記憶只靠長(zhǎng)上下文，那么就形成不了價(jià)值觀，更不會(huì)有知識(shí)沉淀。

人的聰明來(lái)自長(zhǎng)時(shí)間的積累。

訓(xùn)推同步，帶來(lái)自主進(jìn)化

回到剛才說(shuō)的，未來(lái)的智能硬件最重要的應(yīng)該是原生記憶和自主學(xué)習(xí)。

剛才說(shuō)了原生記憶，現(xiàn)在來(lái)說(shuō)自主學(xué)習(xí)，自主學(xué)習(xí)是一定要走向物理世界的

自主學(xué)習(xí)帶來(lái)的一大好處就是模型不會(huì)因?yàn)椴渴鹁汀八劳觥绷恕?/p>

可能大家不知道，因?yàn)閰?shù)已經(jīng)固定，所以模型在部署的那一刻就死掉了。想要改變，就只能上傳到云端服務(wù)器重新訓(xùn)練，過(guò)一段時(shí)間再下發(fā)給大家使用。

一旦能夠自主學(xué)習(xí)，隨之而來(lái)的自主進(jìn)化就會(huì)帶來(lái)全新的改變。我們就不再認(rèn)為它是一個(gè)固定的工具，而是可以持續(xù)學(xué)習(xí)的。

我們把這種持續(xù)學(xué)習(xí)狀態(tài)的技術(shù)稱之為訓(xùn)練和推理同步進(jìn)行

訓(xùn)練和推理同步進(jìn)行，就像我站在這里輸出一些內(nèi)容（可以看成大模型的推理過(guò)程）的時(shí)候，也在獲得一些新的東西。我的推理和訓(xùn)練是同時(shí)完成的。大腦不僅在推理，參數(shù)也在不斷改變，這就是“活”的東西。

今天發(fā)布了一個(gè)模型，過(guò)三個(gè)月再去問(wèn)這三個(gè)月里發(fā)生的事情，它是不知道的，需要通過(guò)知識(shí)外掛RAG等方式彌補(bǔ)。這不是臨時(shí)方案是什么？

我們作為研究者，應(yīng)該要面臨這樣的現(xiàn)實(shí)——

大模型的很多方案都是臨時(shí)方案，并不是真正的終局方案，終局方案就是要改架構(gòu)

我自己的觀點(diǎn)是這樣的：人工智能要往下發(fā)展到更高的臺(tái)階，一定要突破兩個(gè)大山，第一座大山是Transformer，第二座大山是反向傳播算法（反向傳播算法制約了現(xiàn)在很多設(shè)備的發(fā)展，包括算力的發(fā)展）。

模型架構(gòu)一定要改

為了讓模型不再死亡、能夠進(jìn)化，模型架構(gòu)一定要改變。

以我們自己研發(fā)的Yan架構(gòu)的大模型為例，整個(gè)模型極端稀疏化，激活機(jī)制比MoE更稀疏。

它模仿了人類大腦的運(yùn)行機(jī)制。人的大腦大概有860億參數(shù)，但二十幾瓦的大腦預(yù)算峰值就可以推動(dòng)大腦運(yùn)算。

另外，我們?cè)谀Ｐ椭屑尤肓擞洃浤K。也就是說(shuō)，推理過(guò)程中，隨著你跟它溝通，記憶模塊會(huì)發(fā)生改變。所以真正的記憶開(kāi)始了，真正個(gè)性化開(kāi)始了。

如果一個(gè)設(shè)備擁有了自主學(xué)習(xí)，就有了新的可能性。

今年世界人工智能大會(huì)我們發(fā)布的一個(gè)部署了模型的小設(shè)備，是一個(gè)機(jī)器狗，最開(kāi)始什么能力都沒(méi)有，但是可以現(xiàn)學(xué)現(xiàn)會(huì)。我們模型不一定需要云端GPU，手機(jī)、CPU上都能直接跑

這還僅僅是一個(gè)簡(jiǎn)單的機(jī)器狗。如果范圍更大一點(diǎn)，到具身智能呢？

具身智能現(xiàn)在沒(méi)辦法進(jìn)入千家萬(wàn)戶，核心原因是沒(méi)法在出廠的時(shí)候適應(yīng)每個(gè)家庭，服務(wù)好每個(gè)家庭。它需要學(xué)習(xí)。

一個(gè)人到了酒店，還得看一下酒店的布局，知道書(shū)房在哪里，洗漱間在哪里。

未來(lái)設(shè)備也是一樣，它需要專門(mén)了解，有一個(gè)學(xué)習(xí)的過(guò)程，而不是出廠的時(shí)候就會(huì)用所用家電了。這個(gè)學(xué)習(xí)的過(guò)程是Transformer架構(gòu)現(xiàn)在很難具備的。

智能會(huì)重新定義硬件的價(jià)值

原生記憶和自主學(xué)習(xí)帶來(lái)的變化不僅僅是Token不再收費(fèi)了，更多的還有智能重新定義硬件的價(jià)值。

舉個(gè)例子。比如說(shuō)花兩萬(wàn)塊錢(qián)買了一只寵物狗，它陪伴了你兩年，你跟它產(chǎn)生了情感依賴。兩年之后你還會(huì)花兩萬(wàn)塊錢(qián)把它賣掉嗎？我想那個(gè)時(shí)候你肯定不是思考兩萬(wàn)塊錢(qián)的事情，而是更在意狗和你之間產(chǎn)生了多深的情感。

未來(lái)的硬件其實(shí)需要讓用戶與它共同創(chuàng)造價(jià)值，而不是為它的功能買單。

就像買一部手機(jī)，未來(lái)為它付費(fèi)的不是內(nèi)存，是與它的價(jià)值共創(chuàng)。你買它的時(shí)候它的價(jià)值是最小的時(shí)候

所以我們認(rèn)為智能會(huì)重新定義硬件的價(jià)值，它就不再只是一個(gè)工具了。

我們的模型能夠在手機(jī)、具身智能等設(shè)備上靈活運(yùn)行。比如在手機(jī)上部署的3B的離線模型，保證了用戶的隱私和安全，體驗(yàn)還非常流暢。

特別強(qiáng)調(diào)的是，在離線情況下，多模態(tài)感知能具備記憶和自主學(xué)習(xí)能力，那么硬件價(jià)值一定會(huì)發(fā)生很大變化。這也是全新架構(gòu)帶來(lái)的全新可能。

Transformer幾乎不可能做到這個(gè)水平。因?yàn)槭謾C(jī)上運(yùn)行它會(huì)消耗很高的內(nèi)存資源。

每臺(tái)設(shè)備擁有自己的能力并能向物理世界學(xué)習(xí)，就會(huì)產(chǎn)生群體智能

當(dāng)硬件擁有了原生記憶和自主學(xué)習(xí)，還會(huì)發(fā)生什么樣的變化？

不同于OpenAI，也不同于DeepSeek，我們認(rèn)為這條路徑是群體智能。

每一臺(tái)設(shè)備都擁有了自己的智能，此外還能向物理世界進(jìn)行學(xué)習(xí)的時(shí)候，就會(huì)產(chǎn)生群體智能

群體智能有點(diǎn)像人類社會(huì)。每個(gè)人都不是全能的，我們不需要造一個(gè)全能的人，更不需要人人都全能。大家只需要有自己擅長(zhǎng)的點(diǎn)就可以了。

更多智能來(lái)自于相互之間的合作，合作過(guò)程中會(huì)產(chǎn)生真正的知識(shí)。

知識(shí)有兩部分：一個(gè)叫產(chǎn)生，一個(gè)叫傳播。

現(xiàn)在大模型——尤其是Transformer架構(gòu)大模型——有很大的一個(gè)問(wèn)題，它本身沒(méi)有產(chǎn)生知識(shí)。

真正的智能應(yīng)該是產(chǎn)生知識(shí)。人與人之間隨時(shí)在產(chǎn)生知識(shí)，正是因?yàn)槊總€(gè)人的不同產(chǎn)生了不同的解決方案。

真正的智能涌現(xiàn)來(lái)自于每個(gè)個(gè)體，每個(gè)個(gè)體產(chǎn)生信息之后，再傳播給更多的人。我們是在這樣的過(guò)程中形成了人類逐步發(fā)展的文明，而不是靠一個(gè)足夠聰明的云端通用大模型來(lái)造神。

云端通用大模型的厲害之處無(wú)非在于收集的數(shù)據(jù)，而收集的數(shù)據(jù)無(wú)非來(lái)自于人類社會(huì)的經(jīng)驗(yàn)。如果它連自己原生的記憶和自主學(xué)習(xí)都不具備，是不可能產(chǎn)生真正的智能。

RockAI一直認(rèn)為群體智能才是邁向通用人工智能最佳的方式，而不是OpenAI造神的路徑。

我的分享就到這里，謝謝！