當(dāng) AI 巨頭們爭相投入數(shù)十億乃至上百億美元建設(shè)數(shù)據(jù)中心、采購更多 GPU 來訓(xùn)練和運(yùn)行大型模型時(shí)，一家名為 Extropic 的初創(chuàng)公司正在嘗試一條截然不同的道路。這家成立于 2022 年的公司剛剛推出了首個(gè)工作硬件原型，它的核心技術(shù)不依賴傳統(tǒng)的 0 和 1 比特，而是通過“概率比特”來處理信息，這種獨(dú)特的方法，可能會(huì)從根本上改變 AI 計(jì)算的能效方程式。

10 月 29 日，Extropic 宣布其首個(gè)硬件 XTR-0 已交付給包括前沿 AI 實(shí)驗(yàn)室、氣象建模初創(chuàng)公司以及多國政府代表在內(nèi)的合作伙伴進(jìn)行測試。

（來源：Extropic）

讓噪聲成為計(jì)算的燃料

Extropic 將其處理器稱為“熱力學(xué)采樣單元”（Thermodynamic Sampling Unit，TSU），以區(qū)別于傳統(tǒng)的中央處理器（CPU，Central Processing Unit）或圖形處理器（GPU，Graphics Processing Unit）。

傳統(tǒng)計(jì)算機(jī)竭力消除電路中的熱噪聲和電子波動(dòng)，Extropic 卻反其道而行之，將這些通常被視為敵人的物理現(xiàn)象轉(zhuǎn)化為寶貴的計(jì)算資源。他們?cè)O(shè)計(jì)的處理器 TSU 的基本構(gòu)成單位不再是確定的比特（bit），而是“概率比特”（probabilistic bit，p-bit）。

傳統(tǒng)的比特在任何時(shí)刻都只有兩個(gè)明確的狀態(tài)：0 或 1。而 p-bit 則利用晶體管內(nèi)在的熱噪聲，使其在 0 和 1 之間自然地、概率性地波動(dòng)。這種設(shè)計(jì)使得 TSU 能夠原生、高效地執(zhí)行概率算法，尤其是生成式 AI 模型中常見的采樣任務(wù)。

（來源：Extropic）

目前主流的 AI 模型，如大語言模型和擴(kuò)散模型，其核心環(huán)節(jié)之一就是從一個(gè)復(fù)雜的概率分布中抽取樣本。在目前的 GPU 架構(gòu)上，這一過程通常需要大量的矩陣運(yùn)算來首先計(jì)算出概率分布，然后再進(jìn)行采樣，整個(gè)過程不僅計(jì)算密集，而且能耗巨大。Extropic 的 TSU 則跳過了復(fù)雜的矩陣運(yùn)算，直接通過物理過程對(duì)概率分布進(jìn)行建模和采樣。

圖丨相關(guān)論文（來源：arXiv）

根據(jù) Extropic 于 2025 年 10 月 28 日在學(xué)術(shù)預(yù)印本網(wǎng)站 arXiv 上發(fā)布的論文《一種用于類擴(kuò)散模型的高效概率硬件架構(gòu)》（An efficient probabilistic hardware architecture for diffusion-like models），其設(shè)計(jì)的全晶體管概率計(jì)算機(jī)，在運(yùn)行他們提出的“去噪熱力學(xué)模型”（Denoising Thermodynamic Model，DTM）時(shí)，相較于在 GPU 上運(yùn)行的同類算法，能在達(dá)到同等性能水平（performance parity）的前提下，將能耗降低約 10,000 倍。

從量子計(jì)算的“科學(xué)出走”到熱力學(xué)計(jì)算

Extropic 的故事，某種程度上源于對(duì)量子計(jì)算前景的失望。創(chuàng)始人 Guillaume Verdon 和 Trevor McCourt 都曾是 Google 量子計(jì)算團(tuán)隊(duì)的核心成員，兩人在滑鐵盧大學(xué)參與創(chuàng)建 TensorFlow Quantum 項(xiàng)目時(shí)相識(shí)。

圖丨Guillaume Verdon（左）與 Trever McCourt（右）（來源：X）

Verdon 是量子深度學(xué)習(xí)領(lǐng)域的先驅(qū)人物，在滑鐵盧大學(xué)攻讀應(yīng)用數(shù)學(xué)與量子信息博士學(xué)位期間，他創(chuàng)立了后來成為 Google TensorFlow Quantum 的項(xiàng)目，之后加入了 Google Quantum AI 團(tuán)隊(duì)。在 Alphabet 旗下的登月工廠 X，他擔(dān)任物理與 AI 團(tuán)隊(duì)的量子技術(shù)負(fù)責(zé)人，推動(dòng)了一系列從感知、通信到表征學(xué)習(xí)的量子技術(shù)應(yīng)用。

McCourt 最初是一名機(jī)械工程師，在滑鐵盧大學(xué)加入 TensorFlow Quantum 項(xiàng)目的創(chuàng)始團(tuán)隊(duì)后，開始與 Verdon 密切合作，共同開創(chuàng)了可微分量子編程軟件。之后他轉(zhuǎn)向硬件工程方向，在 Google Quantum AI 開發(fā)尖端設(shè)備和控制技術(shù)。但量子計(jì)算的可擴(kuò)展性時(shí)間線不斷延長，讓這些技術(shù)精英開始尋找新的出路。McCourt 隨后前往麻省理工學(xué)院攻讀博士，專注研究噪聲在計(jì)算和生命系統(tǒng)中的作用——這一研究方向，也成為 Extropic 核心理念的基礎(chǔ)。

2022 年，Guillaume Verdon 和 Trevor McCourt 離開了量子計(jì)算領(lǐng)域，創(chuàng)立了 Extropic。按照公司的說法，團(tuán)隊(duì)中的許多成員都經(jīng)歷了“量子計(jì)算的科學(xué)出走”（scientific exodus from quantum computing）。隨著量子物理計(jì)算機(jī)的可擴(kuò)展性時(shí)間表一再拉長，這些物理學(xué)家和工程師開始尋求另一條通往實(shí)用物理計(jì)算的道路：一條不依賴量子力學(xué)、將噪聲視為可利用的資源而非負(fù)擔(dān)、不需要器件物理學(xué)奇跡就能達(dá)到工業(yè)規(guī)模的道路。

公司的首席架構(gòu)師 Christopher Chamberland 曾在 AWS 和 IBM 量子部門領(lǐng)導(dǎo)核心架構(gòu)和路線圖制定工作，被廣泛認(rèn)為是最杰出的量子計(jì)算機(jī)架構(gòu)師之一，但他最終也選擇離開量子計(jì)算領(lǐng)域，加入 Extropic。這支團(tuán)隊(duì)的成員此前來自谷歌 AI、AWS、Meta、IBM、英偉達(dá)等公司，他們?cè)噲D在物理學(xué)與 AI 的交叉點(diǎn)上開辟新的可能性。

2023 年 12 月，Extropic 宣布完成 1,410 萬美元的種子輪融資，由 Kindred Ventures 領(lǐng)投，投資者名單中包括 Perplexity 的 Aravind Srinivas、Y Combinator 的 Garry Tan、Naval Ravikant 和 Shopify 的 Tobias Lütke 等知名天使投資人。

從原型到下一代芯片

近日，他們已經(jīng)推出了首款硬件原型 XTR-0。目前發(fā)布的 XTR-0 硬件由一個(gè)現(xiàn)場可編程門陣列（FPGA，F(xiàn)ield-Programmable Gate Array）芯片與兩個(gè) X-0 芯片組成，后者各包含少量 p-bit。盡管規(guī)模有限，但這一原型已經(jīng)證明了公司方法的潛力。Extropic 已經(jīng)將第一代芯片交付給了包括前沿 AI 實(shí)驗(yàn)室、氣象建模初創(chuàng)公司以及多國政府機(jī)構(gòu)在內(nèi)的早期合作伙伴。

圖丨首款硬件原型 XTR-0（來源：Extropic）

氣象 AI 公司 Atmo 的 CEO Johan Mathe 是首批測試者之一，該公司使用 AI 模型進(jìn)行高分辨率天氣預(yù)報(bào)，客戶包括美國國防部。Mathe 表示，Extropic 的芯片將使更高效地計(jì)算不同天氣條件的概率成為可能。他已經(jīng)使用了公司發(fā)布的軟件庫以及真實(shí)芯片進(jìn)行測試，“我能夠運(yùn)行幾個(gè) p-bit，看到它們按預(yù)期方式運(yùn)行?！?/p>

這個(gè)軟件庫名為 THRML，是 Extropic 同步發(fā)布的重要工具。它使開發(fā)者能夠在 GPU 上模擬 TSU 芯片的行為，從而在真正的硬件到來之前就能開發(fā)熱力學(xué)機(jī)器學(xué)習(xí)算法。這種策略也類似于英偉達(dá)當(dāng)年通過 CUDA 軟件生態(tài)系統(tǒng)建立競爭優(yōu)勢(shì)的做法，即先讓開發(fā)者熟悉新的編程范式，再推動(dòng)硬件的大規(guī)模部署。

公司計(jì)劃于 2026 年發(fā)布的下一代芯片 Z-1 預(yù)計(jì)將包含 25 萬個(gè) p-bit。在最近發(fā)布的論文中，他們還詳細(xì)闡述了如何利用 Z-1 芯片來創(chuàng)建一種新型擴(kuò)散模型。

傳統(tǒng)的基于能量的模型（Energy-Based Models，EBMs）在概率計(jì)算中面臨一個(gè)根本性難題，Extropic 將其稱為“混合-表達(dá)性權(quán)衡”（Mixing-Expressivity Tradeoff，MET）。簡單來說，當(dāng)模型的表達(dá)能力增強(qiáng)時(shí)，從該模型中抽取獨(dú)立樣本所需的計(jì)算量會(huì)急劇增加，導(dǎo)致推理成本高昂且訓(xùn)練不穩(wěn)定。這就像試圖在一個(gè)布滿高墻的能量景觀中移動(dòng)，兩個(gè)“山谷”之間的巨大勢(shì)壘會(huì)讓迭代采樣器陷入停滯。

Extropic 提出的解決方案是去噪熱力學(xué)模型。這種模型將 EBMs 與擴(kuò)散模型相結(jié)合，不是試圖用單一的 EBM 來建模數(shù)據(jù)分布，而是通過一系列 EBMs 逐步構(gòu)建復(fù)雜性。每一步的能量景觀都保持相對(duì)簡單且易于采樣，但整個(gè)鏈條能夠表達(dá)的分布復(fù)雜度卻不受限制。這種漸進(jìn)式的復(fù)雜性構(gòu)建允許模型在固定計(jì)算預(yù)算下表達(dá)更復(fù)雜的分布，從而規(guī)避了 MET 的限制。

實(shí)際操作中，DTMs 通過學(xué)習(xí)一系列條件分布來逆轉(zhuǎn)一個(gè)將數(shù)據(jù)分布逐漸轉(zhuǎn)化為簡單噪聲的過程，進(jìn)而用于生成新數(shù)據(jù)。關(guān)鍵在于為給定問題選擇適當(dāng)?shù)牟綌?shù)，使得逆向過程的分布既足夠復(fù)雜以獲得良好性能，又不會(huì)復(fù)雜到難以采樣。

根據(jù)論文中的數(shù)據(jù)，Extropic 團(tuán)隊(duì)開發(fā)的 DTM 架構(gòu)在簡單圖像生成基準(zhǔn)測試上已經(jīng)顯示出驚人的能效。他們使用一個(gè)僅包含 70×70 采樣單元的網(wǎng)格，成功生成了來自 Fashion-MNIST 數(shù)據(jù)集的低分辨率灰度服裝圖像。論文中的對(duì)比圖顯示，在相同的性能水平下，DTM 在 TSU 上的能耗比在 GPU 上運(yùn)行的傳統(tǒng)方法低約一萬倍。

（來源：Extropic）

一種可能的計(jì)算未來

不過，硬件原型的誕生還只是其邁向大規(guī)模生產(chǎn)和應(yīng)用的一小步，從數(shù)十個(gè) p-bits 擴(kuò)展到百萬甚至數(shù)十億級(jí)別，技術(shù)難度會(huì)呈指數(shù)級(jí)增長。芯片制造的良率、系統(tǒng)集成的復(fù)雜性、軟件生態(tài)的建立，每一個(gè)環(huán)節(jié)都可能成為瓶頸。正如 Extropic 首席技術(shù)官 McCourt 所坦言：“我們擁有一個(gè)比矩陣乘法更高效的機(jī)器學(xué)習(xí)原語，但問題是，如何構(gòu)建出像 ChatGPT 或 Midjourney 那樣規(guī)模的東西。”

當(dāng)前，美國企業(yè)每年在 AI 數(shù)據(jù)中心上的投入已經(jīng)超過了阿波羅登月計(jì)劃經(jīng)通脹調(diào)整后的總成本。到 2030 年，這些數(shù)據(jù)中心可能消耗美國 10% 的電力。在這樣的背景下，任何能夠顯著提高能效的技術(shù)都具有重要意義。如果 Extropic 聲稱的 1 萬倍能效提升能夠在實(shí)際應(yīng)用中兌現(xiàn)哪怕一部分，也足以引起關(guān)注。

分布式 AI 初創(chuàng)公司 Prime Intellect 的首席執(zhí)行官 Vincent Weisser 認(rèn)為：“他們對(duì)信息處理物理學(xué)的方法，可能在未來十年帶來變革性影響，特別是當(dāng)傳統(tǒng)晶體管縮放觸及基本極限時(shí)。”不過他也指出，“如果能夠?qū)嶋H擴(kuò)展”仍是關(guān)鍵前提。

現(xiàn)實(shí)肯定比一套簡單的“顛覆”敘事要更為復(fù)雜。Extropic 的技術(shù)可能無法全面取代傳統(tǒng) GPU，但可以在某些特定應(yīng)用場景中提供補(bǔ)充。概率計(jì)算天然適合生成式模型的采樣、不確定性量化、貝葉斯推理等任務(wù)，但對(duì)于需要精確數(shù)值計(jì)算的場景，傳統(tǒng)硬件可能仍然不可替代。就像量子計(jì)算被期待在特定問題上展現(xiàn)“量子優(yōu)勢(shì)”而非全面替代經(jīng)典計(jì)算一樣，熱力學(xué)計(jì)算可能也會(huì)找到屬于自己的生態(tài)位。

參考資料：

1.https://extropic.ai/writing/inside-x0-and-xtr-0

2.https://extropic.ai/writing/tsu-101-an-entirely-new-type-of-computing-hardware

3.https://extropic.ai/writing/thermodynamic-computing-from-zero-to-one

4.https://arxiv.org/abs/2510.23972

5.https://www.wired.com/story/extropic-aims-to-disrupt-the-data-center-bonanza/

運(yùn)營/排版：何晨龍