夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAI
英偉達直接把服務(wù)器級別的算力塞進了機器人體內(nèi)。
全新的機器人計算平臺Jetson Thor正式發(fā)售,基于最新的Blackwell GPU架構(gòu),AI算力直接飆升到2070 TFLOPS,比上一代Jetson Orin提高至整整7.5倍,同時能效提高至3.5倍。
128GB的超大內(nèi)存配置,在邊緣計算設(shè)備里是前所未有。
在宣傳片中,黃仁勛把他當(dāng)成送給所有機器人的禮物:
黃仁勛表示:
- Jetson Thor助力全球百萬開發(fā)者構(gòu)建可與物理世界交互、甚至改變物理世界的機器人系統(tǒng)。具備無與倫比的性能與能效,還能夠在邊緣設(shè)備上同時運行多個AI模型。
- 作為一款卓越的超級計算機,Jetson Thor正在推動物理AI與通用機器人時代真正到來。
Jetson Thor基于Jetson軟件棧優(yōu)化,支持所有流行的生成式AI框架和AI推理模型,包括主流語言模型Qwen、DeepSeek以及視覺語言動作模型到和視覺語言模型等。
Jetson AGX THOR開發(fā)者套件美國售價3499美元(約25000人民幣,但中國售價尚未公布)
T5000模組也已發(fā)售,購買1000片以上單價2999美元。
其中T5000模組是完整版,T4000模組則是為那些想從Orin升級的用戶準(zhǔn)備的精簡版,功耗也從130W降到了75W。
性能爆表背后的技術(shù)細(xì)節(jié)
Thor的強悍不僅體現(xiàn)在AI算力上,人形機器人需要大量實時控制計算,需要CPU與AI算力同樣重要,存儲與帶寬方面也都得到了升級。
具體特性如下:
- GPU:Blackwell架構(gòu),最高2560個CUDA核/9個第五代Tensor Core,并支持MIG技術(shù)(多實例 GPU)將GPU資源按多任務(wù)隔離與并行調(diào)度,適配并行多代理/多工作流場景。
- CPU:14核Arm Neoverse V3AE,面向?qū)崟r控制與任務(wù)管理的確定性執(zhí)行與更高吞吐,CPU性能相較前代顯著提升。
- 存儲與帶寬:128GB 256-bit LPDDR5X,273GB/s顯存帶寬,為大型Transformer推理與高并發(fā)視頻編解碼提供保障。
- 功耗:40–130W,支持從移動平臺到固定式機器人多樣熱/功耗配置,開發(fā)套件集成導(dǎo)熱板與風(fēng)扇便于熱設(shè)計評估。
- 視頻編解碼:多路4K/8K編解碼能力顯著增強,有利于多攝并發(fā)與長時視頻代理推理。
- 網(wǎng)絡(luò)與傳感:最多4×25GbE,搭配高速攝像頭卸載引擎與Holoscan Sensor Bridge,將相機、雷達、激光雷達等數(shù)據(jù)以極低時延直送 GPU 內(nèi)存,提升多傳感器融合與高頻閉環(huán)控制的穩(wěn)定性。
- I/O:開發(fā)套件與量產(chǎn)模組提供 QSFP28、RJ45、USB 3.x、PCIe Gen5等接口,適配機器人傳感/執(zhí)行器與加速外設(shè)擴展
在軟件優(yōu)化上,英偉達也下了功夫。
Jetson Thor原生支持NVIDIA Isaac(仿真/開發(fā))、Isaac GR00T(人形機器人基礎(chǔ)模型)、Metropolis(視覺 AI)、Holoscan(傳感器工作流),支持從云到邊緣統(tǒng)一開發(fā)/部署路徑。
通過FP4量化和推測解碼(speculative decoding)技術(shù),在某些模型上能再獲得2倍的性能提升。
數(shù)據(jù)顯示,Thor能在200毫秒內(nèi)給出第一個token響應(yīng),每秒能生成超過25個token,這個速度已經(jīng)能支撐實時人機對話。
研華科技、Aetina、ConnectTech、米文動力、天準(zhǔn)科技等正在打造具備量產(chǎn)條件的Jetson Thor系統(tǒng),擁有靈活的輸入輸出接口、定制化配置,并能夠提供多種形態(tài)規(guī)格。
亞德諾半導(dǎo)體、e-con Systems、英飛凌、Leopard Imaging、RealSense、森云智能等傳感器與執(zhí)行器企業(yè),正將攝像頭、雷達、激光雷達等設(shè)備的傳感器數(shù)據(jù),以超低延遲直接傳輸至Jetson Thor的 GPU內(nèi)存中。
首批供應(yīng)里中國玩家占多數(shù)
第一批采用Thor的公司里,中國企業(yè)占了很大比例。聯(lián)影醫(yī)療、萬集科技、優(yōu)必選、銀河通用、宇樹科技、眾擎機器人和智元機器人等都已經(jīng)開始集成這個新平臺。
宇樹科技創(chuàng)始人王興興表示:“Jetson Thor帶來了計算能力的巨大飛躍,機器人更強的敏捷性、更快的決策制定以及更高的自主水平,這對于機器人在現(xiàn)實世界中實現(xiàn)導(dǎo)航與交互至關(guān)重要?!?/p>
銀河通用CTO王鶴則透露,他們的G1 Premium機器人在采用Thor后,運動速度和動作流暢性已經(jīng)有了顯著提升。
此外波士頓動力正將Jetson Thor集成到其人形機器人Atlas,讓Atlas得以在設(shè)備端搭載此前僅服務(wù)器才具備的計算能力。
Agility Robotics計劃將Jetson Thor作為第六代Digit計算核心,在倉庫與制造環(huán)境中執(zhí)行堆疊、裝載及碼垛等物流任務(wù)。
在演講中,英偉達機器人與邊緣AI副總裁Deepu Talla提出了這樣的觀點:要真正實現(xiàn)物理AI和機器人,需要三臺計算機協(xié)同工作。
第一臺是用來訓(xùn)練AI的DGX系統(tǒng),第二臺是用來在仿真環(huán)境中測試AI的Omniverse平臺,第三臺才是裝在機器人身上的”大腦”,也就是今天發(fā)布的Jetson Thor。
他特別強調(diào)仿真測試這一步至關(guān)重要,因為仿真相比在真實物理環(huán)境中開發(fā)更快、更安全、更便宜。
而且這不是一次性的過程,即使機器人部署到現(xiàn)場后,這個訓(xùn)練-仿真-部署的循環(huán)還會持續(xù)進行,不斷升級機器人的能力。
[1]https://blogs.nvidia.cn/blog/jetson-thor-physical-ai-edge/
[2]https://blogs.nvidia.cn/blog/nvidia-blackwell-powered-jetson-thor-now-available-accelerating-the-age-of-general-robotics/
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.