當(dāng)?shù)貢r(shí)間10月27日，高通公司宣布推出其面向數(shù)據(jù)中心的新一代人工智（AI）推理芯片Qualcomm AI200 和 A250 ，以及基于這兩款A(yù)I芯片的加速卡及機(jī)架級解決方案。

高通表示，憑借公司在 NPU 技術(shù)方面的領(lǐng)先優(yōu)勢，這些解決方案可提供機(jī)架級性能和卓越的內(nèi)存容量，以極高的性價(jià)比實(shí)現(xiàn)快速的生成式 AI 推理，標(biāo)志著在跨行業(yè)實(shí)現(xiàn)可擴(kuò)展、高效且靈活的生成式 AI 方面邁出了重大一步。

受該利好消息影響，高通股價(jià)在10月27日的美股盤中一度暴漲近22%，收盤漲幅回落至11.09%。

具體來說，Qualcomm AI200 是一款專用機(jī)架級 AI 推理解決方案，旨在為大型語言和多模態(tài)模型 (LLM、LMM) 推理及其他 AI 工作負(fù)載提供低總擁有成本 (TCO) 和優(yōu)化的性能。它支持每卡 768 GB LPDDR內(nèi)存，可提供更高的內(nèi)存容量和更低的成本，從而為 AI 推理提供卓越的擴(kuò)展性和靈活性。

Qualcomm AI250 解決方案將首次采用基于近內(nèi)存計(jì)算的創(chuàng)新內(nèi)存架構(gòu)，通過提供超過 10 倍的有效內(nèi)存帶寬和更低的功耗，為 AI 推理工作負(fù)載帶來效率和性能的跨越式提升。這不僅支持分解式 AI 推理，還能高效利用硬件資源，同時(shí)滿足客戶對性能和成本的要求。

兩種機(jī)架解決方案均采用直接液體冷卻以提高熱效率，采用 PCIe 進(jìn)行縱向擴(kuò)展，采用以太網(wǎng)進(jìn)行橫向擴(kuò)展，采用機(jī)密計(jì)算以確保安全的 AI 工作負(fù)載，機(jī)架級功耗為 160 kW。

高通技術(shù)公司高級副總裁兼技術(shù)規(guī)劃、邊緣解決方案和數(shù)據(jù)中心總經(jīng)理 Durga Malladi 表示：“憑借 Qualcomm AI200 和 AI250，我們正在重新定義機(jī)架級 AI 推理的可能性。這些創(chuàng)新的全新 AI 基礎(chǔ)設(shè)施解決方案使客戶能夠以前所未有的總體擁有成本 (TCO) 部署生成式 AI，同時(shí)保持現(xiàn)代數(shù)據(jù)中心所需的靈活性和安全性。我們豐富的軟件棧和開放的生態(tài)系統(tǒng)支持，使開發(fā)者和企業(yè)能夠比以往更輕松地在我們優(yōu)化的 AI 推理解決方案上集成、管理和擴(kuò)展已訓(xùn)練的 AI 模型。憑借與領(lǐng)先 AI 框架的無縫兼容性和一鍵式模型部署，Qualcomm AI200 和 AI250 旨在實(shí)現(xiàn)無縫應(yīng)用和快速創(chuàng)新?！?/p>

高通表示，其超大規(guī)模級 AI 軟件棧，端到端覆蓋從應(yīng)用層到系統(tǒng)軟件層，并針對 AI 推理進(jìn)行了優(yōu)化。該棧支持領(lǐng)先的機(jī)器學(xué)習(xí) (ML) 框架、推理引擎、生成式 AI 框架以及 LLM/LMM 推理優(yōu)化技術(shù)（例如分解式服務(wù)）。開發(fā)者可以通過 Qualcomm Technologies 的 Efficient Transformers Library 和 Qualcomm AI 推理套件，享受無縫模型導(dǎo)入和 Hugging Face 模型的一鍵部署。高通的軟件提供即用型 AI 應(yīng)用程序和代理，以及全面的工具、庫、API 和服務(wù)，助力 AI 落地。

高通在新聞稿所嵌入的關(guān)于Qualcomm AI200 和 AI250 的詳細(xì)資料的介紹頁面目前尚未正式上線。

不過，高通已經(jīng)宣布，Qualcomm AI200 和 AI250 預(yù)計(jì)將分別于 2026 年和 2027 年實(shí)現(xiàn)商用。高通還承諾，致力于制定數(shù)據(jù)中心路線圖，每年更新一次，專注于實(shí)現(xiàn)業(yè)界領(lǐng)先的 AI 推理性能、能效和業(yè)界領(lǐng)先的 TCO。

關(guān)于高通自研數(shù)據(jù)中心CPU和AI芯片的消息，其實(shí)高通早就已經(jīng)對外預(yù)告。

早今年5月13日，高通就宣布與沙特阿拉伯AI公司HUMAIN簽署了一份諒解備忘錄 （MOU），旨在達(dá)成戰(zhàn)略合作，合作開發(fā)下一代人工智能數(shù)據(jù)中心、基礎(chǔ)設(shè)施和云到邊緣服務(wù)，以滿足全球?qū)θ斯ぶ悄芸焖僭鲩L的需求。其中，就包括開發(fā)和供應(yīng)高通公司最先進(jìn)的數(shù)據(jù)中心 CPU 和 AI 解決方案，為 HUMAIN AI 云基礎(chǔ)設(shè)施中的數(shù)據(jù)中心提供支持。

隨后在今年7月高通的第三財(cái)季(截至今年6月29日)財(cái)報(bào)會議上，高通CEO Cristiano Amon進(jìn)一步指出，高通正在開發(fā)“通用的數(shù)據(jù)中心CPU”，并且“非常專注于超大規(guī)模企業(yè)”，因?yàn)椤八麄儞碛屑嫒?Arm架構(gòu)CPU的工作負(fù)載”。同時(shí)，高通還正在開發(fā)的另一款數(shù)據(jù)中心產(chǎn)品，并將描述為“推理集群的主機(jī)”?！拔覀円恢痹跇?gòu)建AI加速卡，我們還將構(gòu)建一個(gè)機(jī)架?！盇mon說道。

Amon當(dāng)時(shí)還透露：“我們正在與一家領(lǐng)先的超大規(guī)模企業(yè)進(jìn)行深入討論。如果成功，我們預(yù)計(jì)（來自數(shù)據(jù)中心市場的）收入將在 2028 財(cái)年開始。”

編輯：芯智訊-浪客劍