導(dǎo)讀：科技圈兩大頂流再度合作，云端AI算力步入萬億參數(shù)時(shí)代

GTC 2024不僅帶來震撼業(yè)界的AI算力“新核彈”，更引發(fā)了云計(jì)算與AI產(chǎn)業(yè)的進(jìn)一步融合。

3月20日，亞馬遜云科技和英偉達(dá)宣布，英偉達(dá)新一代Blackwell GPU平臺(tái)即將登陸亞馬遜云科技。亞馬遜云科技將提供NVIDIA GB200 Grace Blackwell 超級(jí)芯片和 B100 Tensor Core GPU，幫助客戶更快、更大規(guī)模、更低成本地構(gòu)建和運(yùn)行萬億參數(shù)大模型。

英偉達(dá)與亞馬遜云科技，一個(gè)是全球AI算力的領(lǐng)頭羊，一個(gè)多年穩(wěn)坐云計(jì)算行業(yè)頭把交椅。雙方再度強(qiáng)強(qiáng)聯(lián)合，將加速生成式AI前沿技術(shù)發(fā)展。前者不斷迭代為生成式AI而生的強(qiáng)大處理器，后者則致力于讓最先進(jìn)的AI算力在云端觸手可得。

「智能進(jìn)化論」認(rèn)為，此次雙方合作亮點(diǎn)可以從四個(gè)方面解讀：

更大規(guī)模的模型：讓數(shù)萬億參數(shù)大模型在云端可用

英偉達(dá)Blackwell GPU在亞馬遜云科技上的應(yīng)用，將加速生成式 AI 前沿技術(shù)發(fā)展，并提升萬億參數(shù)大語言模型在云端的推理加速。

在大模型研發(fā)領(lǐng)域，萬億級(jí)參數(shù)規(guī)模代表了業(yè)界最前沿的水平。業(yè)界有消息稱，GPT4的模型參數(shù)是1.8萬億。英偉達(dá)此次發(fā)布的Blackwell 架構(gòu)GPU，目標(biāo)就直指萬億參數(shù)大模型。

Blackwell B200是目前最強(qiáng)大的AI芯片，F(xiàn)P4性能高達(dá)20 petaflops，是上一代卡皇H100的5倍。

Blackwell GB200超級(jí)芯片是將2個(gè)Blackwell GPU和1個(gè)Grace CPU結(jié)合在一起，性能更加強(qiáng)大。與H100相比，Blackwell GB200對(duì)于大模型推理工作負(fù)載可實(shí)現(xiàn)30倍的性能提升，同時(shí)將成本和能耗降低25倍。

GB200 NVL72是將36個(gè)Grace CPU和72個(gè)Blackwell GPU集成到一個(gè)液冷機(jī)柜中，通過第五代 NVIDIA NVLink? 互連。其可實(shí)現(xiàn)720 petaflops的AI訓(xùn)練性能，或是1,440 petaflops（1.4 exaflops）的推理性能。一個(gè)GB200 NVL72機(jī)柜可以訓(xùn)練27萬億參數(shù)的AI模型。

GB200 同過去架構(gòu)的 AI 芯片性能對(duì)比

很快，上述這些AI算力“核彈”就能在亞馬遜云科技上使用了。

客戶將能在亞馬遜云科技上使用基于NVIDIA GB200 Grace Blackwell超級(jí)芯片和B100 Tensor Core GPUs的基礎(chǔ)設(shè)施，從而在云上構(gòu)建和運(yùn)行數(shù)萬億參數(shù)的大語言模型。

客戶還可以通過 NVIDIA DGX? Cloud 獲得GB200的超強(qiáng)性能。NVIDIA DGX? Cloud是亞馬遜云科技與英偉達(dá)共同開發(fā)的AI平臺(tái)，提供了構(gòu)建和部署大模型所需的專用基礎(chǔ)設(shè)施和軟件。

亞馬遜云科技還將提供配置GB200 NVL72的英偉達(dá)Blackwell平臺(tái)。通過亞馬遜云科技強(qiáng)大的EFA網(wǎng)絡(luò)連接、高級(jí)虛擬化的Amazon Nitro系統(tǒng)和Amazon EC2 UltraClusters超大規(guī)模集群等技術(shù)支持，客戶能夠在亞馬遜云科技上擴(kuò)展至數(shù)千個(gè)GB200 超級(jí)芯片。

更廣泛的算力底座：云端運(yùn)行英偉達(dá)GPU的最佳選擇

在Gartner發(fā)布的云基礎(chǔ)設(shè)施和平臺(tái)服務(wù)魔力象限中，亞馬遜云科技已經(jīng)連續(xù)12年位居領(lǐng)導(dǎo)者象限。提供更廣泛的云上算力基礎(chǔ)設(shè)施一直是亞馬遜云科技的優(yōu)勢(shì)之一。

在生成式AI時(shí)代，通過與英偉達(dá)的深度合作，亞馬遜云科技依然保持著這一領(lǐng)先優(yōu)勢(shì)。

“通過 AWS 與 NVIDIA 工程師的共同努力，我們將持續(xù)創(chuàng)新，使亞馬遜云科技成為每一個(gè)想要在云端運(yùn)行 NVIDIA GPU 用戶的最佳選擇。”對(duì)于此次合作，亞馬遜總裁兼首席執(zhí)行官 Andy Jassy 這樣表示。

實(shí)際上，亞馬遜云科技與英偉達(dá)的合作已有13年之久。從推出第一個(gè)亞馬遜云科技上的GPU云實(shí)例至今，提供更廣泛的英偉達(dá)GPU解決方案，一直是亞馬遜云科技踐行的目標(biāo)。

比如，此前亞馬遜云科技基于英偉達(dá)H100芯片推出了Amazon EC2 P5實(shí)例，客戶能夠在云上將其P5實(shí)例擴(kuò)展到超過2萬個(gè)英偉達(dá)H100 GPU。

此次合作，亞馬遜云科技計(jì)劃提供配備新 B100 GPUs 的 Amazon EC2 實(shí)例，并支持在 Amazon EC2 UltraClusters 中部署以加速超大規(guī)模生成式 AI 的訓(xùn)練和推理。

更安全的AI：加密技術(shù)強(qiáng)強(qiáng)聯(lián)合，護(hù)航云上大模型安全

大模型的安全問題一直是很多企業(yè)應(yīng)用生成式AI的核心顧慮之一。此前，三星、摩根大通、花旗集團(tuán)等知名企業(yè)出于數(shù)據(jù)泄露風(fēng)險(xiǎn)考量，紛紛加入禁用ChatGPT的行列。

此次合作，亞馬遜云科技與英偉達(dá)將生成式AI安全又向前推進(jìn)一步。

首先，Amazon Nitro 系統(tǒng)和 NVIDIA GB200 的結(jié)合將能夠阻止未授權(quán)個(gè)體訪問模型權(quán)重。模型權(quán)重的安全對(duì)保護(hù)客戶的知識(shí)產(chǎn)權(quán)、防止模型被篡改以及維護(hù)模型的完整性至關(guān)重要。

GB200 支持對(duì) GPU 之間 NVLink 連接進(jìn)行物理加密，以及對(duì) Grace CPU 到 Blackwell GPU 的數(shù)據(jù)傳輸進(jìn)行加密，同時(shí)亞馬遜云科技EFA (Elastic Fabric Adapter)也能夠?qū)Ψ?wù)器之間的分布式訓(xùn)練和推理過程的數(shù)據(jù)進(jìn)行加密。同時(shí)，受益于Amazon Nitro系統(tǒng)，GB200系統(tǒng)能夠?qū)PU和GPU的輸入/輸出功能卸載至專門的硬件中，全程保護(hù)代碼和數(shù)據(jù)在處理過程中的安全。

其次，通過Amazon Nitro Enclaves 和 Amazon KMS，亞馬遜云科技為客戶在Amazon EC2 上使用 GB200創(chuàng)建了可信執(zhí)行環(huán)境。從 GB200 實(shí)例內(nèi)部可以加載安全區(qū)（Enclave），并且可以直接與 GB200 超級(jí)芯片通信，保護(hù)客戶實(shí)例中的數(shù)據(jù)安全。

亞馬遜云科技首席執(zhí)行官Adam Selipsky認(rèn)為：“英偉達(dá)下一代Grace Blackwell處理器是生成式AI和GPU計(jì)算的標(biāo)志性事件。當(dāng)結(jié)合亞馬遜云科技強(qiáng)大的Elastic Fabric Adapter網(wǎng)絡(luò)、Amazon EC2 UltraClusters的超規(guī)模集群功能，以及Amazon Nitro高級(jí)虛擬化系統(tǒng)及其安全功能時(shí)，我們就能夠使客戶更快、更大規(guī)模且更安全地構(gòu)建和運(yùn)行具有數(shù)萬億參數(shù)的大型語言模型。”

更前沿的探索：20,736顆GB200芯片，Ceiba項(xiàng)目支撐英偉達(dá)前沿創(chuàng)新

2023年11月底的re:Invent2023全球大會(huì)上，亞馬遜云科技與英偉達(dá)宣布了一項(xiàng)重磅計(jì)劃——Ceiba項(xiàng)目。Ceiba是雙方合作建造的世界上最快的 AI 超級(jí)計(jì)算機(jī)之一，專為英偉達(dá)自身的研究和開發(fā)而設(shè)計(jì)，并獨(dú)家托管在亞馬遜云科技上。

短短4個(gè)月后，在Blackwell的加持下，Ceiba項(xiàng)目迎來重大升級(jí)，將搭載20,736顆GB200 超級(jí)芯片，計(jì)算性能從65exaflops提升至414 exaflops，提升了6倍多。

據(jù)悉，英偉達(dá)將基于Ceiba項(xiàng)目推進(jìn)大語言模型、圖形（圖像/視頻/3D 生成）與仿真、數(shù)字生物學(xué)、機(jī)器人技術(shù)、自動(dòng)駕駛汽車、NVIDIA Earth-2 氣候預(yù)測(cè)等領(lǐng)域的 AI 技術(shù)，推動(dòng)更多領(lǐng)域的生成式 AI 創(chuàng)新。

NVIDIA Earth-2 氣候數(shù)字孿生云平臺(tái)

現(xiàn)在的英偉達(dá)已經(jīng)不僅僅是一家芯片公司，幾乎涉足了所有熱門的科技領(lǐng)域。可以說，Ceiba項(xiàng)目承載了英偉達(dá)最前沿的技術(shù)探索，也許下一個(gè)“核彈”級(jí)創(chuàng)新就來自Ceiba項(xiàng)目。將自家研發(fā)底座托管在亞馬遜云科技上，再次證明了雙方合作的戰(zhàn)略深度與前瞻性。

英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“人工智能正在以前所未有的速度推動(dòng)突破，導(dǎo)致新的應(yīng)用、商業(yè)模式和跨行業(yè)的創(chuàng)新。我們與亞馬遜云科技的合作正在加速新的生成式AI能力的發(fā)展，并為客戶提供前所未有的計(jì)算能力，以推動(dòng)可能性的邊界。”

結(jié)語

生成式 AI 有望徹底改變它所觸及的每一個(gè)行業(yè)。

對(duì)于任何一家想要在生成式AI時(shí)代進(jìn)行一番創(chuàng)新的企業(yè)，頂尖的AI算力和云計(jì)算廠商已經(jīng)在云端提供了最前沿的AI基礎(chǔ)設(shè)施。

為生成式 AI 時(shí)代而生的算力和云服務(wù)已就緒，將成為千行百業(yè)AI創(chuàng)新的最佳平臺(tái)。

文中圖片來自攝圖網(wǎng)