IT之家 9 月 30 日消息,瑞莎 Radxa 今日宣布推出工業(yè)級(jí)邊緣 AI 終端設(shè)備 Fogwise AIRbox Q900。這一設(shè)備搭載了高通去年發(fā)布的躍龍 Dragonwing IQ-9075 工規(guī)處理器,支持 7B 模型的本地端側(cè)推理,市場(chǎng)售價(jià)為 4799 元。
Dragonwing IQ-9075 芯片包含 8 個(gè) 2.36GHz 的 Kryo Gen 6 Gold Prime (Cortex-A78C) 核心、1.2 TFLOPS 的 Adreno 663 GPU、100 TOPS 稠密 AI 算力的 Hexagon NPU,支持 96-bit 位寬的 LPDDR5-6400 ECC 內(nèi)存。
Fogwise AIRbox Q900 板載 36GB 內(nèi)存和 128GB UFS 3.1 閃存,提供 1 個(gè) M.2 2230 NVMe 盤位、2 個(gè) 2.5GbE RJ45 網(wǎng)口、1 個(gè) Mini PCIe 無(wú)線網(wǎng)卡 / 蜂窩模塊擴(kuò)展槽,外部則包含一對(duì) USB-A、一個(gè) Type-C Debug、一個(gè) HDMI 2.0 和一個(gè) SIM 卡槽。
該設(shè)備預(yù)裝 CasaOS 可視化 AI 應(yīng)用管理平臺(tái),LLaMA-7B 推理首 Token 延遲約 0.6s、生成速度 12Tokens/s。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.