隨著生成式AI技術(shù)流行度不斷提升，當(dāng)前硬件平臺(tái)面臨重大挑戰(zhàn)。強(qiáng)大的AI模型通常需要處理海量數(shù)據(jù)，這催生了對(duì)基于PCIe的新型存儲(chǔ)架構(gòu)的需求，以最大化性能與效率。

GPU與存儲(chǔ)之間的直連技術(shù)正逐步進(jìn)入實(shí)際可安裝的產(chǎn)品。專注于高端PCIe存儲(chǔ)方案的HighPoint公司近日推出了一款PCIe Gen5交換機(jī)，讓NVIDIA高性能GPU能夠以最大速度訪問(wèn)NVMe存儲(chǔ)驅(qū)動(dòng)器。

據(jù)HighPoint介紹，Rocket 7638D PCIe交換機(jī)是業(yè)內(nèi)首款支持NVIDIA GPUDirect技術(shù)的硬件產(chǎn)品。該交換機(jī)專為加速AI與機(jī)器學(xué)習(xí)負(fù)載而設(shè)計(jì)，解決傳統(tǒng)存儲(chǔ)模式中常見(jiàn)的數(shù)據(jù)供應(yīng)瓶頸問(wèn)題——在舊模式下，幾乎所有I/O操作都由中央CPU管理，造成卡頓。

GPUDirect是NVIDIA開(kāi)發(fā)的一組技術(shù)，旨在加快GPU上的數(shù)據(jù)傳輸及內(nèi)存訪問(wèn)。NVIDIA解釋稱，GPUDirect讓網(wǎng)絡(luò)適配器、存儲(chǔ)設(shè)備與GPU內(nèi)存之間直接通信，有助于消除性能瓶頸，減少不必要的內(nèi)存拷貝、CPU負(fù)載與延遲。

Rocket 7638D交換機(jī)總共提供48條PCIe Gen5通道，包括用于外接GPU和NVMe存儲(chǔ)的專用x16數(shù)據(jù)路徑（可由單槽解決）。內(nèi)部NVMe驅(qū)動(dòng)器可通過(guò)內(nèi)置MCIO端口連接，最多支持16塊硬盤(pán)。該交換機(jī)可管理最大達(dá)2PB的高速PCIe存儲(chǔ)，數(shù)據(jù)傳輸速率最高可達(dá)64GB/s。

HighPoint表示，新款交換機(jī)可在AI訓(xùn)練、推理及其他高數(shù)據(jù)密度應(yīng)用場(chǎng)景有效提升性能。借助集成的Arm架構(gòu)芯片（Broadcom PEX 89048），Rocket 7638D可獨(dú)立于主機(jī)CPU運(yùn)行，并兼容x86及Arm系統(tǒng)。

此卡無(wú)需特殊驅(qū)動(dòng)或軟件即可實(shí)現(xiàn)完整數(shù)據(jù)流，并兼容Windows與Linux主流計(jì)算環(huán)境。目前HighPoint未公布具體上市時(shí)間與定價(jià)，感興趣用戶需直接聯(lián)系公司咨詢。考慮到其面向的客戶群與強(qiáng)大性能，這款行業(yè)首創(chuàng)的GPUDirect網(wǎng)絡(luò)交換機(jī)預(yù)計(jì)價(jià)格與采購(gòu)量都不菲。