智東西
作者 ZeR0
編輯 漠影
智東西7月24日報道,在生成式AI火熱發(fā)展的當下,如何讓agent從demo走向生產(chǎn),成為擺在開發(fā)者和企業(yè)面前的關鍵問題。在剛剛落幕的亞馬遜云科技紐約峰會上,亞馬遜云科技發(fā)布Amazon Bedrock AgentCore,一次性推出七大功能模塊,直指agents落地的痛點——安全、可觀測、身份識別、長期記憶、工具連接等等,幾乎覆蓋了工程化agent的全鏈路能力。
亞馬遜云科技最新推出的這套“全家桶”,能為agent開發(fā)帶來哪些便利?在峰會期間,智東西與亞馬遜云科技軟件開發(fā)部門負責人 Preethi CN進行了深入交流。她當前負責亞馬遜云科技Agentic AI的開發(fā)工作,并對整個Agentic AI部門提供戰(zhàn)略指導。
Preethi CN告訴智東西,Amazon Bedrock AgentCore的發(fā)布,對于開發(fā)者來說是一個顛覆性的轉折點,七大功能模塊都是靈活的,客戶既可以全盤采用,又可以根據(jù)自身業(yè)務目標只選擇其中的一項,而且它們都能與任何模型或框架兼容。開發(fā)者只需幾行代碼,就能將AgentCore集成到應用程序,并直接通過托管服務獲得這些能力。這些構建模塊是以插件和疊加方式作用于agent代碼,為其提供可擴展能力,因此不會約束開發(fā)者采用的編排方式。
“我們的功能設計與問題思考完全以客戶問題為出發(fā)點?!彼龔娬{說。
談到面向Agentic AI的IDE Kiro,Preethi CN總結道,Kiro就像一位開發(fā)者身邊的初級工程師,能協(xié)助編程并達成目標,它引入了一個全新概念——基于規(guī)格驅動的開發(fā),比如用戶只需說一句“在我的應用中添加社交登錄”,再配上需求說明或架構圖,它就可以自動生成結構清晰、高質量、可直接部署到生產(chǎn)環(huán)境的代碼。
Kiro的另一個出色功能是agentic hooks(agent鉤子機制)。用戶可以將自己的鉤子邏輯交給agent處理,比如說:“當我保存這個文件時,請自動生成單元測試”、“請為這段代碼添加性能指標埋點”或“請對這段代碼進行整體優(yōu)化”。把這些作為鉤子添加進來,它們就會在用戶進行其他開發(fā)工作時在后臺自動運行。
一、7個模塊助攻Agent開發(fā)進化,從“做得出來”到“跑得起來”
過去,agents的構建往往依賴LangChain、Haystack、Strands等開源框架,做個demo不難,但要讓它穩(wěn)定落地、與業(yè)務系統(tǒng)打通并保障安全合規(guī),往往需要耗時幾個月。
AgentCore的7項新功能,正是為解決這個“demo與生產(chǎn)之間的鴻溝”而生,開發(fā)者可根據(jù)業(yè)務需要靈活選配,將自己構建的agent推向生產(chǎn)環(huán)境,同時獲得企業(yè)級的安全性、可靠性、卓越運營和運維便利性。
(1)AgentCore Runtime:構建一個安全、彈性、能應對多變任務負載的agent運行環(huán)境,支持低延遲交互體驗,可處理長達8小時的復雜異步工作負載,是目前唯一支持跨各類開源和商業(yè)框架使用并實現(xiàn)完整會話隔離的運行環(huán)境。
(2)AgentCore Memory:讓agent增強“記性”,提供業(yè)界領先的短期和長期記憶精度,提升agent上下文感知能力。
(3)AgentCore Identity:提供無縫、安全的agent身份驗證能力,可與Amazon Cognito、Microsoft Entra ID、Okta等身份服務集成。
(4)AgentCore Gateway:為agent提供安全路徑以發(fā)現(xiàn)與調用各類工具,并可輕松將API、Lambda函數(shù)及現(xiàn)有服務便捷轉換為agent可兼容工具。
(5)AgentCore Code Interpreter:支持開發(fā)者根據(jù)安全要求,自定義執(zhí)行環(huán)境的實例類型與會話參數(shù)。agents在執(zhí)行復雜計算、驗證推理、處理數(shù)據(jù)或生成可視化內容時,需要在安全的沙箱環(huán)境中編寫并執(zhí)行代碼。
(6)AgentCore Browser Tool:一款不依賴具體模型的、快速且安全的云端瀏覽器工具,讓AI agents大規(guī)模的與網(wǎng)站進行交互,可用于填寫表單、網(wǎng)頁導航等任務。
(7)AgentCore Observability:基于Amazon CloudWatch構建,通過內置儀表板和telemetry提供重要指標,并可與現(xiàn)有可觀測性系統(tǒng)集成,讓開發(fā)者能實時追蹤Agent行為鏈路,從而持續(xù)審查agent表現(xiàn),提升系統(tǒng)迭代效率。
AgentCore能與開發(fā)者想用的任何框架集成,亞馬遜云科技相信靈活性才是關鍵。
二、初創(chuàng)公司上手定制agent,無需啃底層技術硬骨頭
對于初創(chuàng)公司如何開始構建agent,Preethi CN給了一些實用建議。
例如,你想做一個旅行助手Agent,它能幫用戶預訂喜歡的目的地、安排行程、完成預訂。你可以從使用模型驅動方式的Strands Agent開始,只需提供想構建的Agent的業(yè)務目標,選擇模型,就可以自動生成所需代碼。
有了這段代碼,再加幾行代碼,就可以集成AgentCore Memory,讓agent自動從終端用戶對話中提取用戶偏好、語義記憶、摘要,并將其作為長期記憶存儲,從而可以在未來的對話中進行檢索和應用。
如果你想要連接航班并完成預訂,你還需要一個安全的瀏覽器,同樣只需幾行代碼即可集成AgentCore Browser Tool,讓它能幫助agent瀏覽網(wǎng)頁,還可以進行身份認證和授權,從而代表你執(zhí)行操作。
假如你想讓agent訪問企業(yè)數(shù)據(jù),你可以使用AgentCore Gateway。構建了這樣的agents,就可以將它們部署到AgentCore Runtime,然后用AgentCore Observability來監(jiān)控運行表現(xiàn),找出改進agent的策略。
這一整套流程下來,不需要“啃底層”,按需組合模塊即可上線。
Preethi CN強調,亞馬遜云科技始終堅持為客戶創(chuàng)新,幫他們擺脫繁重的技術難題與底層的復雜工作。
構建可靠Agentic AI系統(tǒng)的工程挑戰(zhàn)從底層創(chuàng)新開始。亞馬遜云科技已經(jīng)在大規(guī)模實現(xiàn)虛擬機隔離方面進行創(chuàng)新,同時還讓客戶能夠按實際使用的CPU和內存按需付費,只需為自己所使用的資源付費。
亞馬遜云科技在核心技術領域不斷夯實差異化能力。比如,自動推理就是一個獨特能力。面對模型“幻覺”問題,亞馬遜云科技提出用邏輯推演、數(shù)學驗證等方式判斷輸出是否真實可信。這種機制適用于高風險行業(yè)如醫(yī)療、金融等,對模型輸出的可靠性提出了更高保障。
除了AgentCore外,亞馬遜云科技還提供多個對構建模型和部署生成式AI應用很有幫助的關鍵產(chǎn)品。
模型托管平臺Amazon Bedrock,為用戶提供了豐富的基礎模型選擇,能滿足不同業(yè)務需求,亞馬遜云科技則負責可觀測性和擴展性。該平臺引入AgentCore后,幫助進一步加速agent構建和部署的流程。
Amazon SageMaker則側重于幫助開發(fā)者和科學家訓練模型。Amazon Q主要服務希望構建業(yè)務流程來支持特定場景需求的企業(yè)用戶,主打業(yè)務流程自動化。
結語:AI agents下一站,從人類輔助走向自主決策
Agentic AI的競爭正從“做得出”走向“用得穩(wěn)”。亞馬遜云科技最新推出的AgentCore,為構建agent之旅的提供了“積木式”基礎設施,用模塊化、可觀測、可插拔的方式,降低Agent進入生產(chǎn)的門檻,構建真正穩(wěn)定可控的agent系統(tǒng)。
Preethi CN認為,當前agent在生產(chǎn)中依然需要部分人工輔助做決策,但隨著模型能力提升,未來它們將發(fā)展成完全自主的agent,在無需人為干預的情況下做出復雜決策。從醫(yī)療、金融、市場營銷到制造業(yè),各行各業(yè)都將在Agentic AI的演進中迎來轉型。而亞馬遜云科技提供的這些構建模塊,能夠幫助客戶與開發(fā)者加速邁向Agentic AI之路。
談到通用型Agent及垂直型Agent短期的發(fā)展前景,Preethi CN預判兩類均存在需求,通用型Agent適合處理與許多用戶相關的大量標準化任務,而醫(yī)療健康、生命科學等垂直行業(yè)需要更具領域特性的能力,未來必定是兩者結合。
“對我們而言,一切都圍繞為客戶創(chuàng)新這一原則。我對我們今天所發(fā)布的內容感到非常興奮,也很期待接下來這一階段的發(fā)展。這將是一個非常令人振奮的時期?!盤reethi CN總結道。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.