清華大學(xué)交叉信息研究院長(zhǎng)聘副教授馬愷聲

出品｜搜狐科技

作者｜張雅婷

編輯｜楊 錦

• 高端AI芯片是必爭(zhēng)之地，但走別人的路很難超過(guò)別人，所以要發(fā)展Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成等先進(jìn)技術(shù)路線。

• 從技術(shù)角度來(lái)說(shuō)，芯片可以被實(shí)時(shí)位置驗(yàn)證、遠(yuǎn)程關(guān)閉，所以用海外廠商的芯片的安全風(fēng)險(xiǎn)是存在的。

• 寒武紀(jì)股價(jià)超過(guò)茅臺(tái)，肯定是件好事兒，因?yàn)樽鲂酒軣X(qián)。

• 北極雄芯在車(chē)載場(chǎng)景，我們算“第一個(gè)吃螃蟹的人”，拓展性、迭代性都比傳統(tǒng)方案有巨大優(yōu)勢(shì)。

“國(guó)產(chǎn)芯片是必爭(zhēng)之地，如今我們?cè)诠に噷?dǎo)致的算力上和國(guó)外差了幾個(gè)generation（代際）?！?/p>

近日，清華大學(xué)交叉信息研究院長(zhǎng)聘副教授馬愷聲在和搜狐科技交流時(shí)表示，大模型會(huì)改變?nèi)祟?lèi)的生活方式，而國(guó)內(nèi)不缺數(shù)據(jù)、算法能看齊國(guó)外，AI芯片是必須要建設(shè)好的基礎(chǔ)設(shè)施。

馬愷聲2018年畢業(yè)于美國(guó)賓夕法尼亞州立大學(xué)，同年經(jīng)姚期智院士招募回國(guó)并任職于清華大學(xué)。他的研究方向是后摩爾時(shí)代的先進(jìn)芯片架構(gòu)，曾獲得EDAA 2018年杰出博士論文、HPCA最佳論文等獎(jiǎng)項(xiàng)。

AI芯片，尤其是GPU長(zhǎng)期被英偉達(dá)“統(tǒng)治”，占據(jù)超八成的市場(chǎng)份額。不過(guò)今年以來(lái)，國(guó)產(chǎn)AI芯片發(fā)展勢(shì)頭迅猛。在資本市場(chǎng)上，摩爾線程、沐曦股份、壁仞科技等頭部GPU廠商正集體沖刺IPO。

發(fā)展國(guó)產(chǎn)AI芯片，也有出于安全的考慮。7月底，國(guó)家網(wǎng)信辦就H20算力芯片漏洞后門(mén)安全風(fēng)險(xiǎn)約談?dòng)ミ_(dá)公司。此前有美國(guó)人工智能領(lǐng)域?qū)＜彝嘎?，英偉達(dá)算力芯片“追蹤定位”“遠(yuǎn)程關(guān)閉”技術(shù)已成熟。

馬愷聲表示，單純從技術(shù)上來(lái)說(shuō)，確實(shí)是有風(fēng)險(xiǎn)的，之前英偉達(dá)還鎖過(guò)卡，因?yàn)楫?dāng)時(shí)英偉達(dá)不希望有人拿它來(lái)“挖礦”。

整體來(lái)看，馬愷聲認(rèn)為，國(guó)產(chǎn)AI芯片現(xiàn)在處于“以前沒(méi)有、現(xiàn)在能用”的狀態(tài)，要想在芯片領(lǐng)域超過(guò)別人需要“另辟蹊徑”，而不是走別人走過(guò)的路。比如，用Chiplet （3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成）等技術(shù)做芯片。

2021年，馬愷聲創(chuàng)立北極雄芯公司，基于Chiplet（芯粒）這種先進(jìn)技術(shù)，面向AI、汽車(chē)、機(jī)器人三大領(lǐng)域布局芯片業(yè)務(wù)，希望推動(dòng)在芯片這種“卡脖子”關(guān)鍵技術(shù)領(lǐng)域，用不同的技術(shù)路線做出來(lái)的芯片能夠得到應(yīng)用。

Chiplet的概念最早源于1970 年代誕生的多芯片模組，通俗來(lái)說(shuō)，也就是從原來(lái)設(shè)計(jì)在同一個(gè)SoC中的芯片，被分拆成許多不同的小芯片分開(kāi)制造再加以封裝或組裝。近年來(lái)，摩爾定律逐漸失效，如果進(jìn)一步堆積算力成為主要的挑戰(zhàn)。也就衍生出超越光罩尺寸芯片集成的需求，甚至多卡、多機(jī)、多數(shù)據(jù)中心Scale up、Scale out、Scale cross的需求。

馬愷聲向搜狐科技表示，Chiplet技術(shù)可以把大芯片做小，在國(guó)內(nèi)也有很現(xiàn)實(shí)的意義，在國(guó)產(chǎn)芯片工藝和良率還在爬坡的情況下，如何利用良率還在爬坡的工藝做出有競(jìng)爭(zhēng)力的產(chǎn)品，以及如何用國(guó)內(nèi)還比較有競(jìng)爭(zhēng)力的封裝工藝進(jìn)行集成，具有巨大的戰(zhàn)略意義。

以下為對(duì)話實(shí)錄：

搜狐科技：前段時(shí)間，網(wǎng)信辦約談?dòng)ミ_(dá)，要求其就對(duì)華銷(xiāo)售的H20算力芯片漏洞“后門(mén)”安全風(fēng)險(xiǎn)問(wèn)題進(jìn)行說(shuō)明。從技術(shù)角度來(lái)說(shuō)，芯片能做到實(shí)時(shí)位置驗(yàn)證、遠(yuǎn)程關(guān)閉嗎？

馬愷聲：確實(shí)有這樣的可能性，比如拋開(kāi)這個(gè)事情來(lái)看，很早之前英偉達(dá)是鎖過(guò)卡的，因?yàn)楫?dāng)時(shí)英偉達(dá)不希望有人拿它來(lái)“挖礦”。大部分服務(wù)器都是聯(lián)網(wǎng)的，理論上都可以遠(yuǎn)程關(guān)閉、實(shí)時(shí)位置驗(yàn)證。但從公司的角度來(lái)看，是否有必要花這么大的精力去這樣做，其實(shí)是不得而知的。

搜狐科技：為什么即使英偉達(dá)芯片存在一定風(fēng)險(xiǎn)，商業(yè)公司還是會(huì)優(yōu)先考慮英偉達(dá)？

馬愷聲：訓(xùn)練方面，萬(wàn)卡、十萬(wàn)卡的互聯(lián)，國(guó)產(chǎn)芯片確實(shí)還有差距，英偉達(dá)穩(wěn)定性更好，互聯(lián)技術(shù)、軟件方面有壁壘。推理方面，英偉達(dá)的產(chǎn)品性價(jià)比更高，比如消費(fèi)級(jí)顯卡4090、5090，只有50%的毛利，還都用的3nm、4nm先進(jìn)制程工藝。而大陸由于眾所周知的原因還有明顯差距，并且產(chǎn)能有限。在受到制裁的情況下，晶圓價(jià)格和NRE（非重復(fù)性工程費(fèi)用）價(jià)格都偏高。

搜狐科技：國(guó)產(chǎn)AI芯片，現(xiàn)在發(fā)展到了什么樣的程度？

馬愷聲：現(xiàn)在其實(shí)缺乏一套比較fair的測(cè)評(píng)標(biāo)準(zhǔn)，很多公司都說(shuō)自己做得很好，但實(shí)際測(cè)出來(lái)又不一樣了。整體來(lái)說(shuō)，（國(guó)產(chǎn)）AI芯片現(xiàn)在處于一個(gè)以前沒(méi)有、現(xiàn)在能用的狀態(tài)。

搜狐科技：發(fā)展國(guó)產(chǎn)芯片的緊迫性強(qiáng)嗎？

馬愷聲：這是必爭(zhēng)之地，這一代大模型確實(shí)會(huì)改變?nèi)祟?lèi)的生活方式，那么我們數(shù)據(jù)不缺，算法至少能看齊，而算力差了幾個(gè)generation。芯片是基礎(chǔ)設(shè)施，如果這個(gè)事情搞不定，其他的更難。

搜狐科技：為什么您會(huì)選擇用Chiplet的技術(shù)做芯片？

馬愷聲：走別人的路，想超過(guò)別人是很難的，所以要“另辟蹊徑”。比如，用Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成也算一種解決方式。通過(guò)Chiplet的方式，有望把單片的算力用國(guó)產(chǎn)工藝?yán)鰩资兜男詢r(jià)比，解決國(guó)產(chǎn)工藝下，單片性能受限以及良率較低的問(wèn)題。

搜狐科技：您回國(guó)做芯片的初衷是什么？

馬愷聲：2018年4月，姚期智院士把我從美國(guó)招回來(lái)，目標(biāo)就是做算力。姚先生很有戰(zhàn)略眼光，當(dāng)時(shí)我們覺(jué)得國(guó)際形勢(shì)已經(jīng)有些分立的苗頭，需要儲(chǔ)備相關(guān)技術(shù)。

搜狐科技：您創(chuàng)立的北極雄芯，主要針對(duì)的場(chǎng)景是什么？比如車(chē)載？

馬愷聲：從創(chuàng)始人的角度來(lái)看，一個(gè)沒(méi)有體量的公司是沒(méi)有意義的，車(chē)載芯片的體量不錯(cuò)，中國(guó)市場(chǎng)每年2000-3000萬(wàn)輛車(chē)，這個(gè)市場(chǎng)的量可以把上下游供應(yīng)鏈催熟，使得供應(yīng)鏈能夠大批量出貨，從而降低批量成本。

我們跟吉利、長(zhǎng)安等主流車(chē)企推進(jìn)的速度比較快，現(xiàn)在在POC（概念驗(yàn)證）的階段，樂(lè)觀一點(diǎn)的話，明年大概出貨量估計(jì)會(huì)有二三十萬(wàn)片。在車(chē)載場(chǎng)景，我們算“第一個(gè)吃螃蟹的人”，并且這個(gè)這個(gè)技術(shù)路線由于本身良率的提高，比現(xiàn)行的方案能便宜10%到20%。

另外，車(chē)載的芯片當(dāng)然還可以應(yīng)用于機(jī)器人芯片，我們也在積極推進(jìn)。北極雄芯主要提供擁有自主知識(shí)產(chǎn)權(quán)的全國(guó)產(chǎn)智能芯片；明年我們推出的新一代產(chǎn)品，帶寬可以達(dá)到10TB，7B模型可以運(yùn)行到800token/S起。

搜狐科技：大模型場(chǎng)景，你們的進(jìn)展如何？

馬愷聲：我們不僅僅是面向端側(cè)AI場(chǎng)景，我們也在發(fā)力云端推理方案。公司基于多年基礎(chǔ)研發(fā)所積累的NPU及工具鏈能力、模型部署優(yōu)化能力、Chip-to-Chip互聯(lián)能力等，積極推動(dòng)面向云端推理PD分離策略的專用加速方案研發(fā)，通過(guò)Chiplet+PIM/PNM等前沿技術(shù)，充分利用全國(guó)產(chǎn)化供應(yīng)鏈資源，有效解決大模型推理應(yīng)用落地所面臨的成本痛點(diǎn)，較目前主流部署方案進(jìn)一步提升5-10倍性能，10-100倍性價(jià)比。大概明年年終大批量開(kāi)始出貨，我們已經(jīng)有了國(guó)內(nèi)大模型公司的訂單意向，幾千臺(tái)服務(wù)器是看得到的。

搜狐科技：國(guó)產(chǎn)AI芯片概念火熱，甚至寒武紀(jì)股價(jià)一度超過(guò)茅臺(tái)成為A股新股王，您如何看待這樣的現(xiàn)象？

馬愷聲：這肯定是件好事兒，因?yàn)樽鲂酒菬X(qián)的，股票市場(chǎng)的融資成本其實(shí)非常低，能夠提供足夠的資金儲(chǔ)備。這對(duì)于整個(gè)行業(yè)都是非常積極的消息。

搜狐科技：北極雄芯最近完成了新一輪過(guò)億元融資，您從自己做企業(yè)的感受來(lái)看的話，今年市場(chǎng)水溫如何？

馬愷聲：現(xiàn)在比幾年前是好了非常多。有幾個(gè)趨勢(shì)：從以前美元主導(dǎo)到現(xiàn)在的國(guó)資主導(dǎo)；從短視和激進(jìn)逐利資本到耐心資本的變化；另外就是整個(gè)資本行業(yè)的精神非常好，大家都非?？春梦磥?lái)的形勢(shì)，看好國(guó)家的向上發(fā)展。

運(yùn)營(yíng)編輯 |孟莎莎