生成式AI時(shí)代，云計(jì)算廠商的價(jià)值正在被重新定義。從云上AI基礎(chǔ)設(shè)施提供方，逐步升級(jí)為企業(yè)一站式AI生產(chǎn)力賦能平臺(tái)。

2024 re:Invent大會(huì)期間，亞馬遜云科技推出全新升級(jí)的Amazon Bedrock。作為全托管的生成式AI服務(wù)，Amazon Bedrock一舉發(fā)布21項(xiàng)新特性，成為涵蓋模型選擇、生產(chǎn)環(huán)境、訓(xùn)練和推理工具、創(chuàng)建智能體的一站式AI平臺(tái)。

亞馬遜云科技將生成式AI分為三層技術(shù)棧體系：基礎(chǔ)設(shè)施層、模型工具層、應(yīng)用層，Amazon Bedrock是其中最重要的模型工具層。Amazon Bedrock承載了全球100+主流模型，并通過成本、速度、準(zhǔn)確率全面優(yōu)化，不斷降低企業(yè)應(yīng)用生成式AI的門檻。

通過五個(gè)方面的升級(jí)，Amazon Bedrock為云廠商如何在AI時(shí)代重塑競爭力探索了方向。

一個(gè)平臺(tái)，一站式接入100+主流基礎(chǔ)模型

Amazon Bedrock在模型接入的豐富程度上處在業(yè)界領(lǐng)先水平。這背后的底層邏輯是，亞馬遜云科技致力于讓企業(yè)有更多自由選擇空間，可以根據(jù)不同場景選擇更匹配的基礎(chǔ)模型。

2024 re:Invent，Amazon Bedrock新加入了亞馬遜自研的六款A(yù)mazon Nova系列模型，以及Stability AI的Stable Diffusion 3.5 Large、視頻生成模型Luma AI的Ray 2、軟件工程模型poolside的malibu和point等模型。

亞馬遜云科技還推出了Amazon Bedrock Marketplace，可接入上百個(gè)受歡迎的新興模型和專業(yè)模型。包括Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服務(wù)等熱門模型。此外，還有眾多專業(yè)模型，如用于金融行業(yè)的Writer的Palmyra-Fin、用于翻譯的Upstage的Solar Pro、Camb.ai的文本轉(zhuǎn)音頻MARS6以及用于生物學(xué)的EvolutionaryScale的ESM3生成模型等。

“如今，每天都有數(shù)以萬計(jì)的客戶在生產(chǎn)應(yīng)用中使用Amazon Bedrock，僅去年其使用量就增長了近5倍。”亞馬遜云科技CEO Matt Garman表示。

全球領(lǐng)先的軟件企業(yè)SAP將Amazon Nova模型集成到自身大語言模型（LLMs）家族中，方便開發(fā)者為SAP的AI助手Joule創(chuàng)建新技能，實(shí)現(xiàn)自動(dòng)化、個(gè)性化以及供應(yīng)鏈規(guī)劃等高級(jí)功能。

成本、速度、性能全面優(yōu)化，降低企業(yè)AI應(yīng)用門檻

成本、速度、性能是企業(yè)選擇模型的三大要素。企業(yè)在應(yīng)用生成式AI技術(shù)過程中，都希望找到一個(gè)能平衡性能、成本和延遲的最佳組合。

Amazon Bedrock推出提示詞緩存、提示詞智能路由、模型蒸餾三項(xiàng)新功能，極大降低企業(yè)使用成本。

提示詞緩存功能最高可將成本降低90%，并將延遲最多縮短85%。借助Amazon Bedrock上的提示詞緩存功能，Adobe的Acrobat AI助手實(shí)現(xiàn)了將響應(yīng)時(shí)間縮短72%。

提示詞智能路由功能，使客戶能夠配置 Amazon Bedrock 自動(dòng)把提示詞分配至同一模型系列里的不同基礎(chǔ)模型，以優(yōu)化響應(yīng)質(zhì)量和成本。

模型蒸餾能把大模型的知識(shí)轉(zhuǎn)移到小模型上，同時(shí)保留小模型的性價(jià)比。借助Amazon Bedrock模型蒸餾功能，任何客戶都可以蒸餾出自己的模型，與原始模型相比，被蒸餾模型的速度可以提高500%，運(yùn)行成本降低75%，在檢索增強(qiáng)生成（RAG）等用例中，準(zhǔn)確性損失低于2%。

此外，Amazon Bedrock還推出了低延遲優(yōu)化推理功能，用戶指定推理請求優(yōu)先級(jí)后，平臺(tái)就可以自動(dòng)處理，為支持的指定模型提供優(yōu)化的性能。

“我們開發(fā)Amazon Bedrock的目的不僅是提供模型，更重要的是提供能讓模型推理運(yùn)行時(shí)所需的各種生產(chǎn)力工具和生產(chǎn)環(huán)境工具，這才是Amazon Bedrock的真正價(jià)值所在?！眮嗰R遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示。

結(jié)構(gòu)化數(shù)據(jù)檢索和GraphRAG，提升模型性能

多模態(tài)數(shù)據(jù)處理和圖數(shù)據(jù)庫是企業(yè)構(gòu)建生成式AI必不可少的能力。

Amazon Bedrock知識(shí)庫新增的結(jié)構(gòu)化數(shù)據(jù)檢索功能使客戶能夠直接查詢其生成式AI應(yīng)用程序中結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)位置。借助這項(xiàng)新功能，提示詞信息會(huì)轉(zhuǎn)換為SQL查詢，用于檢索數(shù)據(jù)結(jié)果。

Amazon Bedrock知識(shí)庫還新加入的對GraphRAG的支持功能，可生成更具相關(guān)性的響應(yīng)，讓客戶無需具備圖數(shù)據(jù)庫專業(yè)知識(shí)，即可使用Amazon Neptune圖數(shù)據(jù)庫服務(wù)自動(dòng)生成圖譜。這大大簡化了構(gòu)建RAG應(yīng)用的步驟,能夠更便捷地生成更準(zhǔn)確、更相關(guān)的響應(yīng)，借助知識(shí)圖譜識(shí)別相關(guān)聯(lián)系，并查看源信息以了解模型如何得出特定響應(yīng)。

寶馬集團(tuán)借助由Amazon Neptune支持的GraphRAG自動(dòng)化圖形建模功能，持續(xù)更新其人工智能助手MAIA所需的知識(shí)圖譜，從其數(shù)據(jù)資產(chǎn)中提供更具相關(guān)且全面的洞察，為數(shù)百萬車主打造優(yōu)質(zhì)體驗(yàn)。

自動(dòng)推理檢查，降低模型幻覺

即使是能力最強(qiáng)的模型也會(huì)產(chǎn)生幻覺，提供不正確或誤導(dǎo)性的響應(yīng)。幻覺仍然是大模型落地的一個(gè)根本挑戰(zhàn)，限制了企業(yè)對生成式AI的信任。

Amazon Bedrock Guardrails新推出自動(dòng)推理檢查功能，該功能可讓Amazon Bedrock驗(yàn)證事實(shí)響應(yīng)的準(zhǔn)確性，生成可審計(jì)的輸出，并向客戶清晰展示模型得出結(jié)果的原因。

“有了自動(dòng)推理技術(shù)，我們能夠通過數(shù)學(xué)驗(yàn)證方式嚴(yán)密證明事實(shí)性錯(cuò)誤是否會(huì)發(fā)生，從而有效改善幻覺問題?！标悤越ū硎?。

多智體協(xié)作，讓生成式AI駕馭復(fù)雜任務(wù)

隨著生成式AI的加速落地，更多復(fù)雜的任務(wù)和場景需要，需要大量各具專長的智能體高效協(xié)作。然而，很多企業(yè)并不具備創(chuàng)建協(xié)調(diào)多個(gè)智能體系統(tǒng)的專業(yè)能力。

Amazon Bedrock多智能體協(xié)作功能，讓企業(yè)可以通過為項(xiàng)目的特定步驟創(chuàng)建和分配專用智能體，從而獲得更準(zhǔn)確的結(jié)果，并通過編排多個(gè)并行工作的智能體來加速任務(wù)。

穆迪公司是信用評級(jí)和金融洞察領(lǐng)域的全球領(lǐng)導(dǎo)者，已選擇Amazon Bedrock多智能體協(xié)作功能來增強(qiáng)其風(fēng)險(xiǎn)分析工作流程。

可以看出，Amazon Bedrock升級(jí)的五大方面都是切中當(dāng)下企業(yè)應(yīng)用生成式AI的痛點(diǎn)。在推動(dòng)生成式AI在各行業(yè)的廣泛應(yīng)用方面，Amazon Bedrock引領(lǐng)云廠商從傳統(tǒng)的基礎(chǔ)設(shè)施提供者向一站式AI賦能平臺(tái)升級(jí)，探索了云廠商在AI浪潮中重塑競爭力的全新路徑。