在生成式AI（人工智能）席卷全球的浪潮中，智能手機(jī)正成為AI落地的關(guān)鍵陣地。從蘋果推出Apple Intelligence、三星發(fā)布Gauss（高斯）、榮耀帶來MagicGUI大模型，再到vivo的藍(lán)心大模型，端側(cè)AI正成為行業(yè)新一輪技術(shù)競賽的焦點(diǎn)。相比云側(cè)AI，端側(cè)AI既能保護(hù)用戶隱私、降低計(jì)算與能耗成本，還能提供類似個(gè)人助手的交互體驗(yàn)。

然而，當(dāng)AI從云端遷移到終端，技術(shù)與商業(yè)的難題也隨之而來。過去兩年，廠商們熱衷于將大模型直接嵌入手機(jī)操作系統(tǒng)，并將參數(shù)規(guī)模當(dāng)成競逐的焦點(diǎn)。比如，vivo曾在2023年實(shí)現(xiàn)130億參數(shù)的“藍(lán)心大模型”在端側(cè)跑通，并讓70億參數(shù)模型在端側(cè)落地。

然而在今年10月10日舉辦的vivo開發(fā)者大會(huì)上，vivo副總裁、vivo AI全球研究院院長周圍給出了一個(gè)新的發(fā)展方向——放棄對“通用人工智能”的追逐，轉(zhuǎn)而推出體量更輕的3B端側(cè)多模態(tài)推理大模型，該模型僅占用手機(jī)2GB內(nèi)存、功耗約750毫安，卻能在推理能力上超過此前的7B甚至10B模型，性能接近云端模型?！白銮|級模型需要兩萬卡以上的集群，光設(shè)備投入就20多億元，這還不包括每年數(shù)億元的電費(fèi)。‘卷’通用人工智能不太現(xiàn)實(shí)?！?/p>

vivo副總裁周圍 企業(yè)供圖

事實(shí)上，端側(cè)模型的小型化正逐漸成為行業(yè)共識。蘋果的Apple Intelligence同樣采用30億參數(shù)的設(shè)計(jì)，可以在設(shè)備上完成文本摘要、信息提取與跨應(yīng)用操作等任務(wù)。這意味著，廠商們正在從“堆參數(shù)、拼算力”的競爭，轉(zhuǎn)向關(guān)注模型在端側(cè)實(shí)用性能、功耗控制的理性階段。

告別模型參數(shù)競賽

端側(cè)大模型落地后，越來越多消費(fèi)者開始應(yīng)用大模型，這也有望為手機(jī)消費(fèi)帶來新的增長契機(jī)。華福證券在研報(bào)中稱，端側(cè)大模型將成為消費(fèi)電子品牌廠商提升個(gè)性化用戶體驗(yàn)，打造產(chǎn)品差異化競爭力的重要方向，具備更強(qiáng)AI能力的終端新品推出或?qū)?dòng)消費(fèi)電子見底復(fù)蘇。

在vivo AI產(chǎn)品總經(jīng)理關(guān)巖冰看來，真正實(shí)現(xiàn)個(gè)人化智能的核心在于端側(cè)?！爸挥卸藗?cè)模型才能實(shí)時(shí)分析用戶的數(shù)據(jù)、洞察需求，感知屏幕內(nèi)容、理解使用意圖等?！边@也正是蘋果在“Apple Intelligence”中強(qiáng)調(diào)的方向，即在端側(cè)完成敏感數(shù)據(jù)處理，保障隱私，同時(shí)提供個(gè)性化服務(wù)。然而，與蘋果封閉的體系不同，安卓陣營的廠商在落地端側(cè)大模型時(shí)要面臨眾多挑戰(zhàn)。

“云端模型的CPU通常基于X86架構(gòu)，而手機(jī)上是ARM的內(nèi)核，此外還要兼容不同芯片廠的NPU指令集，如何把原來生態(tài)里指令集轉(zhuǎn)成手機(jī)上的指令集，這里最大的障礙是算子?！敝車f道。據(jù)他介紹，vivo早在2017年便在美國設(shè)立AI研究院，組建專門的算子團(tuán)隊(duì)，目前該團(tuán)隊(duì)已擴(kuò)展至幾十人，聚焦把模型轉(zhuǎn)成端側(cè)化的過程。

算子之外，內(nèi)存占用同樣是制約端側(cè)大模型落地的關(guān)鍵瓶頸。周圍舉例稱：“以往7B模型需要占用3.5G內(nèi)存，而8G手機(jī)是中高端機(jī)型的主要配置，一個(gè)大模型就占掉4個(gè)G內(nèi)存，一下讓高端機(jī)變成了低端機(jī)?！蓖评砟芰t是另一個(gè)挑戰(zhàn)。例如，執(zhí)行一個(gè)查詢?nèi)蝿?wù)：“幫我找今天下午4點(diǎn)北京到深圳的機(jī)票哪一個(gè)最便宜”，實(shí)際會(huì)涉及幾個(gè)App比價(jià)、分析使用習(xí)慣等復(fù)雜問題。“去年的70億參數(shù)模型只能做簡單的任務(wù)拆解，不能做復(fù)雜的推理。”周圍說道。

過去一年vivo針對這些問題進(jìn)行了優(yōu)化。vivo推出的3B端側(cè)多模態(tài)推理大模型只占2G內(nèi)存，不影響高端機(jī)的性能，其次增強(qiáng)了推理能力，可在手機(jī)中做意圖中控和任務(wù)拆解的中臺?！敖衲?0億參數(shù)的模型已比去年100億參數(shù)的模型更強(qiáng)，甚至在部分任務(wù)中與云端模型差距僅在2%～3%之間?！敝車f道。這意味著，在文本摘要、多輪對話、意圖識別等場景中，端側(cè)模型已具備實(shí)用價(jià)值。

智能體跨應(yīng)用調(diào)度受限

隨著端側(cè)算力提升和操作系統(tǒng)AI化，手機(jī)中原有的語音助手逐漸向具備執(zhí)行能力的“智能體”演進(jìn)——它不再局限于回答提問，而是被賦予更強(qiáng)的意圖理解與任務(wù)執(zhí)行能力。廠商希望其能成為真正意義上的個(gè)人助理，完成諸如“幫我訂一杯拿鐵，少冰”這類需要調(diào)用外部服務(wù)、理解上下文并執(zhí)行多步操作的實(shí)際任務(wù)。

目前AI手機(jī)智能助手調(diào)用第三方App，主要有兩條技術(shù)路線：一是通過意圖框架實(shí)現(xiàn)。通過API（應(yīng)用程序編程接口）調(diào)用應(yīng)用，實(shí)現(xiàn)跨應(yīng)用功能。具體來說，就是手機(jī)廠商與App開發(fā)企業(yè)協(xié)商、以合法API的形式接入；二是“純視覺方案”，無需第三方App同意，直接調(diào)用安卓系統(tǒng)的無障礙等系統(tǒng)級權(quán)限。具體做法是，安卓手機(jī)廠商以多模態(tài)大模型技術(shù)配合無障礙權(quán)限，先讀取屏幕內(nèi)容，再以模擬用戶點(diǎn)擊的方式代替用戶操作，實(shí)現(xiàn)手機(jī)智能助手代替用戶接管手機(jī)，以達(dá)到調(diào)用App功能的目的。

“用戶用手機(jī)，手機(jī)廠商只占了15%的時(shí)長，還有85%的時(shí)長是用于開發(fā)者提供服務(wù)，特別是頭部的互聯(lián)網(wǎng)廠商，又在這85%中占了70%～80%，他們的參與度非常高?！敝車f道。這也導(dǎo)致智能體在跨應(yīng)用調(diào)度服務(wù)時(shí)處處受限，互聯(lián)網(wǎng)巨頭掌握著絕大多數(shù)用戶服務(wù)接口和數(shù)據(jù)，而手機(jī)廠商掌握著操作系統(tǒng)與硬件能力。雙方在安全授權(quán)、用戶隱私和收益分配上的界限尚未明晰。

周圍坦言：“當(dāng)手機(jī)的智能體要做任務(wù)的時(shí)候，我們只能做自己的功能和應(yīng)用，比如是否流暢、調(diào)亮度、連Wi-Fi等，如果想跨應(yīng)用操作，還需要和對方（互聯(lián)網(wǎng)廠商）討論安全授權(quán)的標(biāo)準(zhǔn)?！?/p>

在他看來，破局的關(guān)鍵在于推動(dòng)行業(yè)標(biāo)準(zhǔn)的建立?！拔覀儫o法避免地要做用戶習(xí)慣和服務(wù)的分發(fā)，接下來的策略是建好能力，其次，愿意跟我們握手、合作的，就坐下來商量。AI時(shí)代到來，是否需要一個(gè)新的江湖地位和影響力，就留給時(shí)間來回答?！?/p>