在基礎(chǔ)通用大模型能力不斷突破的背景下,算力成本、功耗、技術(shù)門檻及行業(yè)落地等問題日益凸顯。如何從底層算力、平臺到應(yīng)用場景等多個維度破局,成為大模型能否順利落地的關(guān)鍵。
對于企業(yè)來講,想要更好地迎接以大模型為基礎(chǔ)的智能新時代,不僅需要技術(shù)創(chuàng)新,還需在性價比、安全性等方面做好充分準備。為了滿足企業(yè)需求,英特爾與火山引擎聯(lián)合發(fā)布了一款企業(yè)云服務(wù)器,即搭載英特爾至強6性能核處理器的火山引擎第四代通用計算實例 g4il,該實例不僅大幅降低了資源門檻,還在計算、存儲和網(wǎng)絡(luò)性能上實現(xiàn)了全面升級,為企業(yè)提供了更加高效、可靠、安全的智能服務(wù)。
資源門檻直降50%,助力企業(yè)輕松上云
“g4il云實例相較于GPU實例,資源門檻直降50%?!?英特爾公司市場營銷集團副總裁、中國區(qū)云&行業(yè)解決方案和數(shù)據(jù)中心銷售部總經(jīng)理梁雅莉表示,“英特爾聯(lián)合火山引擎提供了預(yù)驗證、優(yōu)化的模塊組件、集成化鏡像,也實現(xiàn)了一鍵部署,優(yōu)化了用戶體驗?!?/p>
英特爾公司市場營銷集團副總裁、中國區(qū)云&行業(yè)解決方案和數(shù)據(jù)中心銷售部總經(jīng)理梁雅莉
火山引擎計算產(chǎn)品負責人王睿說,“對于希望利用AI實現(xiàn)業(yè)務(wù)持續(xù)增長獲得新機遇的企業(yè)用戶來說,上云是解決這個問題的最優(yōu)解。”
作為AI基礎(chǔ)設(shè)施重要的提供商,英特爾和火山引擎共同發(fā)布的企業(yè)云服務(wù)器,即第四代通用計算實例 g4il,無疑是智能應(yīng)用開發(fā)者的優(yōu)選。
至強6性能核,計算、存儲和網(wǎng)絡(luò)性能的全面升級
作為AI基礎(chǔ)設(shè)施重要的提供商,英特爾和火山引擎共同發(fā)布的第四代通用計算實例 g4il正基于英特爾最新一代服務(wù)器CPU至強6性能核處理器。至強6性能核主要用于通用計算、數(shù)據(jù)Web服務(wù)、科學(xué)計算等場景,其性能相比上一代平均提高達2倍,尤其是科學(xué)計算領(lǐng)域,性能提升多達2.5倍,對大語言模型甚至實現(xiàn)了多達3倍的性能提升。此外,至強6性能核處理器在能效方面也表現(xiàn)出色,在比較常見的40%服務(wù)器使用率的狀況下,相比上一代能效有1.5倍甚至更高的提升。
除了英特爾至強6性能核處理器,火山引擎全新發(fā)布的這款企業(yè)云服務(wù)器g4il還配備了火山引擎自研的DPU,實現(xiàn)了計算、存儲和網(wǎng)絡(luò)性能的全面升級。相比上一代企業(yè)云服務(wù)器,第四代通用計算實例g4il網(wǎng)絡(luò)帶寬和存儲帶寬均提升100%,整機IOPS提升66%,整機PPS提升38%。綜合來看,通用計算實例g4il能以更為流暢、高效、穩(wěn)定的計算體驗,有效幫助用戶應(yīng)對AI場景及傳統(tǒng)復(fù)雜運算作業(yè),尤其在視頻轉(zhuǎn)碼、Web應(yīng)用、和數(shù)據(jù)庫應(yīng)用方面分別實現(xiàn)了17%、19%和20%的性能提升。
高速內(nèi)存與先進技術(shù),提升數(shù)據(jù)處理效率
對于開發(fā)者來說,云實例的高速內(nèi)存同樣至關(guān)重要。英特爾至強6性能核處理器上新增了高速內(nèi)存MRDIMM,同時支持AMX FP16指令集,更大的內(nèi)存帶寬疊加更強的矩陣運算能力,能大幅提升推理速度。
以英特爾至強6性能核處理器6900P為例,其內(nèi)存帶寬不僅支持12通道DDR5 6400;在引進新型內(nèi)存MRDIMM后,數(shù)據(jù)率大幅提升至8800MT/s,基本內(nèi)存帶寬也達到了第五代至強可擴展處理器的2.3倍。另外,至強6還支持CXL 2.0,尤其是包括Type 3設(shè)備(CXL內(nèi)存),能進一步擴展內(nèi)存容量和帶寬。
“英特爾至強6性能核處理器加上MRDIMM,實測的吞吐性能相比英特爾EMR CPU加上通用型DDR5內(nèi)存提升高達80%。”火山引擎計算產(chǎn)品負責人王睿指出。
除此之外,英特爾至強處理器也為火山引擎第四代通用計算實例g4il帶來了更高的數(shù)據(jù)存儲效率和可靠性?;鹕揭孢M一步豐富了這款企業(yè)云服務(wù)器的功能,比如說引入了大包傳輸能力(Jumbo Frame),通過優(yōu)化系統(tǒng)底層知識英特爾信任域拓展(英特爾TDX),以及支撐最新云盤吞吐類型SSD,性價比通過云的方式能展現(xiàn)出更大優(yōu)勢。
安全可靠,機密計算保障云上大模型數(shù)據(jù)安全
如今,數(shù)據(jù)安全已經(jīng)成為大模型產(chǎn)業(yè)化應(yīng)用進程中面臨的一大挑戰(zhàn)?!盎鹕揭娌捎昧穗p單路創(chuàng)新服務(wù)器架構(gòu),降低了整體的爆炸半徑,有力保障了產(chǎn)品穩(wěn)定性。”王睿介紹。
英特爾信任域擴展(英特爾 TDX)對用戶的數(shù)據(jù)和應(yīng)用提供端到端的保護。其核心在于創(chuàng)建一個稱為受信任域(TD, Trusted Domain)的環(huán)境,這是一個被硬件嚴格隔離的虛擬機實例。
與傳統(tǒng)的虛擬機 (VM) 不同,TD不僅能夠抵御來自同一物理主機上其他VM或應(yīng)用程序的攻擊,還可以防止虛擬機管理器 (VMM) /虛擬機管理程序以及平臺上的任何非TD軟件對其造成的影響。這意味著即使云服務(wù)商本身也無法訪問TD內(nèi)部的數(shù)據(jù),極大地提升了隱私性和安全性。
同時,火山引擎云存儲引入了至強處理器的英特爾數(shù)據(jù)保護與壓縮加速技術(shù)(英特爾QAT),提升了數(shù)據(jù)壓縮和解壓縮效率,實現(xiàn)優(yōu)于軟件LZ4算法的壓縮率和更低時延。QAT硬件加速生成CRC32校驗碼,確保數(shù)據(jù)完整性,并支持AES-XTS模式的對稱加密,增強數(shù)據(jù)可靠性。
考慮到機密計算技術(shù)棧比較復(fù)雜,為了讓用戶可以針對自己感興趣或者是關(guān)注的業(yè)務(wù)直接防盜云上進行原形驗證,英特爾推出了開源項目CC-Zoo,與火山引擎的g3i實例進行了對接和適配,用戶可以直接在云上進行原形驗證,確保數(shù)據(jù)安全。
英特爾致力于構(gòu)建一個可以一鍵部署、優(yōu)化用戶體驗的智能軟硬件解決方案,助力企業(yè)激發(fā)更多創(chuàng)新潛力。搭載英特爾至強6性能核處理器的企業(yè)云服務(wù)器,即第四代通用計算實例g4il,正是這一愿景的重要實踐。通過降低資源門檻、提升性能、優(yōu)化性價比、保障數(shù)據(jù)安全以及提供從云到端的解決方案,g4il云實例將為企業(yè)用戶提供更加高效、可靠、安全的智能服務(wù),助力企業(yè)在科技時代實現(xiàn)可持續(xù)發(fā)展。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.