生成式 AI 已成為全球云計(jì)算廠商競(jìng)相逐鹿的戰(zhàn)略高地。其中，基礎(chǔ)設(shè)施、模型平臺(tái)、應(yīng)用生態(tài)成為頭部玩家競(jìng)相發(fā)力的三大細(xì)分戰(zhàn)場(chǎng)。

不久前的2024 re:Invent上，亞馬遜云科技向外界展示了其在這三大領(lǐng)域的最新進(jìn)展。

在基礎(chǔ)設(shè)施層，亞馬遜云科技更強(qiáng)調(diào)數(shù)據(jù)與AI的無(wú)縫融合，解決大模型落地過(guò)程中資源利用和數(shù)據(jù)分析等難題。

在模型層，Amazon Nova 系列模型是一大亮點(diǎn)，其強(qiáng)調(diào)多模態(tài)、低成本和實(shí)時(shí)性，這與當(dāng)前企業(yè)對(duì)基礎(chǔ)模型的需求高度契合。

在應(yīng)用層，以Amazon Q為代表的生成式AI應(yīng)用，不斷加快智能體與編程助手、數(shù)據(jù)分析、企業(yè)辦公等應(yīng)用場(chǎng)景的深度結(jié)合。

在近日舉行的re:Invent 2024中國(guó)行活動(dòng)中，亞馬遜云科技進(jìn)一步向國(guó)內(nèi)媒體解讀了其生成式AI戰(zhàn)略與技術(shù)創(chuàng)新背后的思考。

“我們不僅在云的核心服務(wù)層面持續(xù)創(chuàng)新，更在從芯片到模型，再到應(yīng)用的每一個(gè)技術(shù)堆棧取得突破，讓不同層級(jí)的創(chuàng)新相互賦能、協(xié)同進(jìn)化?！眮嗰R遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理 陳曉建

基礎(chǔ)設(shè)施層：持續(xù)發(fā)力自研芯片，數(shù)據(jù)+AI融合

在基礎(chǔ)設(shè)施層，自研機(jī)器學(xué)習(xí)芯片與Amazon SageMaker平臺(tái)的迭代最為引人關(guān)注。

Trainium是亞馬遜云科技2022年推出的自研機(jī)器學(xué)習(xí)訓(xùn)練芯片，其專為大型、前沿的生成式AI工作負(fù)載設(shè)計(jì)，目前已經(jīng)迭代到第二代?；贏mazon Trainium2的EC2 Trn2實(shí)例已正式可用，較當(dāng)前GPU實(shí)例性價(jià)比提升30-40%。

隨著模型規(guī)模的不斷擴(kuò)大，更多企業(yè)希望以更快的速度和更低的成本訓(xùn)練大模型。這正是兼具性能與成本優(yōu)勢(shì)的Trainium芯片的機(jī)會(huì)。

數(shù)據(jù)和AI公司Databricks計(jì)劃使用Trainium2為客戶提供更優(yōu)的性能，并將總體擁有成本降低多達(dá)30%。AI開源平臺(tái)Hugging Face為了讓開發(fā)者更快地開發(fā)和部署模型，已將亞馬遜云科技推理和訓(xùn)練芯片Amazon Inferentia和Amazon Trainium集成到Optimum Neuron開源庫(kù)中。

Claude背后的初創(chuàng)公司Anthropic將成為Trainium最大的客戶。亞馬遜云科技與Anthropic正攜手打造名為Project Rainier的EC2 UltraCluster計(jì)算集群，其包含數(shù)十萬(wàn)顆Trainium2 芯片，算力超越以往集群5倍以上。據(jù)悉，該集群有望成為迄今為止公開的最大 AI 計(jì)算集群。目前Anthropic已開始優(yōu)化Claude模型，以便在Trainium2上運(yùn)行。

亞馬遜云科技還預(yù)告了3納米工藝的Amazon Trainium3將在2025年晚些時(shí)候推出，其計(jì)算性能將會(huì)提升到Amazon Trainium2的兩倍，能效最高可以提高40%。

本屆大會(huì)，Amazon SageMaker升級(jí)為數(shù)據(jù)+AI的統(tǒng)一平臺(tái)，致力于一站式解決生成式AI的數(shù)據(jù)分析、模型訓(xùn)練、資源成本等關(guān)鍵難題。新一代Sagemaker涵蓋快速SQL分析、PB級(jí)大數(shù)據(jù)處理、數(shù)據(jù)探索和集成、模型開發(fā)和訓(xùn)練以及生成式AI等功能。

“之前大家熟悉的Amazon SageMaker，現(xiàn)在升級(jí)為Amazon SageMaker AI。新一代Amazon SageMaker的邏輯是，客戶在構(gòu)建生成式AI業(yè)務(wù)時(shí)，需要的不只是模型，更多的是數(shù)據(jù)加AI的統(tǒng)一。我們希望通過(guò)統(tǒng)一平臺(tái)為客戶提供從數(shù)據(jù)到AI的一體化體驗(yàn)?！眮嗰R遜云科技大中華區(qū)數(shù)據(jù)分析與生成式AI的產(chǎn)品總監(jiān)崔瑋表示。

Amazon SageMaker AI新推出新訓(xùn)練配方功能、靈活訓(xùn)練計(jì)劃和任務(wù)治理等功能。

比如，新訓(xùn)練配方功能Amazon SageMaker HyperPod現(xiàn)在提供30多個(gè)精選的模型訓(xùn)練配方，可適用于時(shí)下熱門的一些公開可用模型，包括Llama 3.2 90B、Llama 3.1 405B和Mistral 8x22B。HyperPod任務(wù)治理功能通過(guò)自動(dòng)化管理AI任務(wù)的優(yōu)先級(jí)，可最大限度提高計(jì)算資源利用率，降低40%的成本。

模型層：自研模型與模型平臺(tái)大升級(jí)

在模型層，亞馬遜云科技推出Amazon Nova六款基礎(chǔ)模型，Amazon Bedrock新接入100多款模型，并推出AI防護(hù)、多智能體協(xié)作和模型蒸餾等重磅更新。

包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基礎(chǔ)模型，以及圖像生成模型Nova Canvas和視頻生成模型Nova Reel。低成本、低延遲是Amazon Nova強(qiáng)調(diào)的優(yōu)勢(shì)。在各自智能類別中，Amazon Nova Micro、Lite和Pro應(yīng)用成本比Amazon Bedrock中表現(xiàn)最佳的模型至少降低75%，同時(shí)也是Amazon Bedrock中對(duì)應(yīng)類別速度最快的模型。

“除模型本身外，亞馬遜云科技在各層級(jí)進(jìn)行了創(chuàng)新。例如使用Trainium2 自研芯片，以及基于該芯片的Amazon EC2 Trn2實(shí)例和Amazon EC2 Trn2 UltraServers 服務(wù)器，還有Amazon Bedrock優(yōu)化的低延遲推理選項(xiàng)等。這些共同幫助客戶在部署生成式AI應(yīng)用時(shí)降低成本、提高效率?！贝蕃|表示。

模型平臺(tái)Amazon Bedrock致力于“提供最多大模型選擇、滿足客戶所有場(chǎng)景需求”，其升級(jí)體現(xiàn)在幾個(gè)方面：

第一，更豐富的模型選擇。

目前Amazon Bedrock承載的第三方主流模型包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。新推出的Amazon Bedrock Marketplace功能為提供100多個(gè)熱門、新興及專業(yè)模型。

第二，頭部模型首發(fā)或最新發(fā)布。

Anthropic與亞馬遜云科技的合作不斷加深，其計(jì)劃使用亞馬遜云科技自研AI芯片訓(xùn)練和部署基礎(chǔ)模型。據(jù)悉，合作雙方將攜手為亞馬遜云科技的客戶提供早期訪問(wèn)權(quán)限，可讓亞馬遜云科技的客戶在一段時(shí)間獨(dú)享Claude新模型。

Stable Diffusion 3.5是Stability AI目前最強(qiáng)大的圖像生成模型，該模型基于Amazon SageMaker HyperPod訓(xùn)練，即將在Amazon Bedrock上線。

此外，Amazon Bedrock還是首家提供視頻生產(chǎn)模型Luma AI和軟件開發(fā)模型poolside的平臺(tái)。

第三，提升模型推理效率。

Amazon Bedrock新推出了低延遲優(yōu)化推理、模型蒸餾、提示詞緩存等功能，大幅提升推理效率。比如，憑借低延遲優(yōu)化推理能力，Claude 3.5 Haiku模型在亞馬遜云科技上的運(yùn)行速度具有領(lǐng)先優(yōu)勢(shì)。

應(yīng)用層：Amazon Q加速深入商業(yè)場(chǎng)景

在應(yīng)用層，AI助手Amazon Q致力于讓每個(gè)人都快速使用生成式AI工具。今年，Amazon Q系列服務(wù)更加深入軟件開發(fā)和商業(yè)應(yīng)用場(chǎng)景。

軟件開發(fā)AI助手Amazon Q Developer增加三款新的智能體，能自動(dòng)執(zhí)行單元測(cè)試、文檔編制和代碼審查流程，并通過(guò)與GitLab深度集成，擴(kuò)展應(yīng)用場(chǎng)景。全球范圍的客戶，如澳大利亞聯(lián)邦銀行、英國(guó)電信集團(tuán)、美聯(lián)航都使用Amazon Q Developer加速開發(fā)。

Amazon Q Business支持超過(guò)50種新操作，比如在Asana中創(chuàng)建任務(wù)或者在Teams中發(fā)送私人消息，這些操作覆蓋了當(dāng)今廣受歡迎的第三方應(yīng)用程序。此外，它還具備了使用智能體執(zhí)行復(fù)雜工作流的新能力。

Amazon Q Business幫助用戶輕松連接到企業(yè)的數(shù)據(jù)和信息，通過(guò)回答問(wèn)題、提供總結(jié)、生成內(nèi)容來(lái)提高員工工作效率。美國(guó)國(guó)家橄欖球聯(lián)盟NFL基于Amazon Q Business構(gòu)建的系統(tǒng)，將新員工培訓(xùn)時(shí)間縮短了67%，員工可以在10秒內(nèi)獲得問(wèn)題答案。

結(jié)語(yǔ)

透過(guò)本屆re:Invent大會(huì)，我們可以看出，生成式AI時(shí)代亞馬遜云科技始終把自身定位在技術(shù)普惠和降低門檻的平臺(tái)型生態(tài)角色。

通過(guò)升級(jí)基礎(chǔ)設(shè)施、模型和應(yīng)用三層技術(shù)棧，亞馬遜云科技加速數(shù)據(jù)與 AI 的無(wú)縫融合，加快自研模型步伐，推出具有競(jìng)爭(zhēng)力的 Nova 系列基礎(chǔ)模型，并在應(yīng)用層積極探索，正逐步構(gòu)建起自身在生成式 AI 領(lǐng)域的差異化優(yōu)勢(shì)。

本文為「智能進(jìn)化論」原創(chuàng)作品。