“超級平臺「必須」攻擊AI智能體，以守住其作為數(shù)字流量守門人的地位?！?/strong>

作者丨林江浩 朱家琛

論文標(biāo)題:Superplatforms Have to Attack AI Agents

論文鏈接:https://arxiv.org/abs/2505.17861

01

引言 | 超級平臺與AI智能體之間的流量權(quán)力變革

過去二十年，超級平臺（Superplatforms）通過壟斷數(shù)字流量入口與用戶注意力，構(gòu)建了龐大的生態(tài)系統(tǒng)。無論是Google的搜索、Amazon的電商，還是Meta的社交平臺，它們掌控著海量內(nèi)容的分發(fā)與商業(yè)流量的變現(xiàn)路徑。

然而，隨著以大語言模型為核心的AI智能體（AI Agents）迅速崛起，這一格局正面臨前所未有的結(jié)構(gòu)性沖擊，上海交通大學(xué)團(tuán)隊(duì)圍繞這個(gè)現(xiàn)象，提出一個(gè)引人深思的觀點(diǎn)：

超級平臺“必須”攻擊AI智能體，以守住其作為數(shù)字流量守門人的地位；未來的智能體產(chǎn)業(yè)發(fā)展格局將是對用戶注意力與流量入口的爭奪。

這一判斷并非危言聳聽，而是建立在對AI智能體機(jī)制、平臺商業(yè)邏輯、以及“守門人理論（Gatekeeping Theory）”的系統(tǒng)分析之上。

02

超級平臺為何“反擊”AI智能體？——基于守門人理論的分析

研究團(tuán)隊(duì)引入“守門人理論”，指出超級平臺的商業(yè)模式和核心競爭力正建立于“守門人”角色（Gatekeeper）之上：

• 用戶流量控制權(quán)（User Traffic Control）：平臺通過把控信息入口，決定哪些內(nèi)容和廣告能夠最終觸達(dá)用戶，從而主導(dǎo)廣告資源的分配與變現(xiàn)。這一機(jī)制確保了平臺在數(shù)字廣告市場的壟斷地位。例如，2024年Google的廣告收入高達(dá)2640億美元，正是其對用戶注意力資源把控的直接體現(xiàn)。

• 用戶數(shù)據(jù)所有權(quán)（User Data Ownership）：平臺獨(dú)占用戶行為與興趣等一手?jǐn)?shù)據(jù)，用于構(gòu)建高精度推薦與廣告算法，進(jìn)一步鞏固流量優(yōu)勢和商業(yè)轉(zhuǎn)化。例如，亞馬遜日均交易超1287萬單，平臺可借此持續(xù)優(yōu)化推薦和廣告效果，實(shí)現(xiàn)商業(yè)閉環(huán)。

上述超級平臺的守門人體系依賴一個(gè)基礎(chǔ)假設(shè)：用戶必須在平臺界面中進(jìn)行主動互動。只有這樣，平臺才能不斷向用戶推送內(nèi)容和廣告，持續(xù)積累真實(shí)行為數(shù)據(jù)并實(shí)現(xiàn)商業(yè)收益。

AI Agent的崛起，正在根本性地重塑這一守門人體系。借助大語言模型賦能，現(xiàn)代AI智能體可自主理解復(fù)雜指令、跨平臺完成多樣化任務(wù)。用戶不再需要手動搜索、瀏覽信息流或篩選頁面內(nèi)容，而是通過AI Agent獲得聚合、自主、精準(zhǔn)的信息與服務(wù)反饋。這一轉(zhuǎn)變導(dǎo)致：

• 平臺內(nèi)容曝光效率下降，因?yàn)锳I Agent更關(guān)注效率與相關(guān)性，而非內(nèi)容曝光本身，且具備對平臺展示內(nèi)容進(jìn)行二次加工的核心權(quán)限（重排、篩選、甚至改造）。

• AI Agent逐漸掌握真實(shí)用戶行為數(shù)據(jù)，構(gòu)建起新的數(shù)據(jù)壁壘與反饋閉環(huán)，對超級平臺原有的數(shù)據(jù)優(yōu)勢構(gòu)成威脅。

• 流量入口權(quán)力的轉(zhuǎn)移：當(dāng)用戶日常決策與消費(fèi)行為越來越依賴AI Agent，廣告主和服務(wù)提供方有動力直接投向Agent平臺，跳過傳統(tǒng)超級平臺，從而對其長期收入造成影響。

最直觀的證據(jù)之一，2024年谷歌的全球搜索市場份額自2015年以來首次跌破90%?？梢哉f，AI Agent正逐步取代超級平臺成為數(shù)字世界新的“守門人”。這是一次看似靜默、實(shí)則深刻的流量與價(jià)值分配權(quán)力遷移。

03

超級平臺針對AI智能體崛起的核心策略

在這一變革背景下，超級平臺面臨三大典型應(yīng)對策略：

1. 主動擁抱：自研專屬AI Agent

超級平臺紛紛推出自有智能助手（如Amazon購物助手、Uber叫車助手等），試圖在本生態(tài)內(nèi)維持用戶黏性與數(shù)據(jù)壁壘。然而，這些助手普遍存在生態(tài)孤島問題，難以覆蓋用戶跨平臺的一體化需求，反而為通用型AI Agent（如Apple Intelligence等）留出了機(jī)會窗口。

因?yàn)?strong>和用戶直接交互的守門人（Gatekeeper）有且僅有一個(gè)，如果某一個(gè)平臺的智能體試圖成為那個(gè)“通用型智能體”，去打通和調(diào)取其他平臺的服務(wù)內(nèi)容，這就會重新回歸到一個(gè)通用智能體對抗其余超級平臺的典型問題之上。

2. 被動防御：API限制與收費(fèi)

通過收緊API開放權(quán)限和提升調(diào)用費(fèi)用，平臺能夠限制第三方Agent對自身數(shù)據(jù)和服務(wù)的獲取權(quán)。這種策略僅對依賴API調(diào)用的Agent有效，但對于模擬人類操作、通過GUI進(jìn)行任務(wù)的Agent（GUI Agent）則基本無效，后者通過模擬人類行為，是難以被平臺檢測和阻斷的。

3. 主動防御：對抗性攻擊

鑒于上述策略的局限性，平臺極有可能采用對抗性技術(shù)干預(yù)，尤其針對GUI Agent。通過在頁面視覺或交互細(xì)節(jié)中注入微妙擾動，平臺可以有效干擾AI Agent的任務(wù)完成，而不會被真實(shí)用戶察覺。這類攻擊兼具隱蔽性和針對性，是平臺維護(hù)自身流量和商業(yè)地位的“最后防線”。

綜上，AI Agent的發(fā)展正在全方位沖擊超級平臺在數(shù)字經(jīng)濟(jì)中的“守門人”地位和廣告變現(xiàn)模式。主動防御甚至攻擊AI Agent，已成為超級平臺維護(hù)流量入口和商業(yè)利益的理性選擇。未來，平臺與Agent之間的博弈將持續(xù)升級，智能體的產(chǎn)業(yè)發(fā)展也將不僅是簡單的技術(shù)問題，而是經(jīng)濟(jì)利益和商業(yè)模式的變革。

04

超級平臺如何“攻擊”AI智能體？

如前所述，出于流量主導(dǎo)權(quán)與商業(yè)利益的驅(qū)動，超級平臺極有可能采取主動的對抗性措施以應(yīng)對AI Agent的威脅，尤其針對能夠繞過API約束、以模擬用戶操作方式實(shí)現(xiàn)任務(wù)的GUI Agent。因此，論文進(jìn)一步從四個(gè)角度討論超級平臺視角下的智能體攻擊策略的特點(diǎn)和約束。

1. 攻擊目標(biāo)：環(huán)境誘導(dǎo)與行為偏轉(zhuǎn)

與傳統(tǒng)的攻擊手段（如數(shù)據(jù)竊取或系統(tǒng)破壞）不同，超級平臺的對抗性目標(biāo)更為隱蔽——并非直接實(shí)現(xiàn)未授權(quán)訪問，而是通過界面微調(diào)、內(nèi)容擾動等方式，誘導(dǎo)AI Agent偏離用戶真實(shí)意圖，或暗中推動平臺期望的行為模式。例如，誘使Agent在界面中循環(huán)無意義操作、無法高效完成用戶需求，或引導(dǎo)其偏向推薦平臺特定產(chǎn)品，實(shí)質(zhì)上削弱Agent體驗(yàn)，增加用戶回流平臺的概率。

2. 攻擊者知識：極端黑箱設(shè)定

超級平臺在絕大多數(shù)場景下無法獲取外部Agent的模型架構(gòu)、參數(shù)及數(shù)據(jù)，僅能通過用戶側(cè)界面UI進(jìn)行“盲操作”，依據(jù)觀測到的Agent反饋反推其決策機(jī)制。這一極端黑箱設(shè)定遠(yuǎn)超傳統(tǒng)的黑盒攻擊難度，超級平臺無法訓(xùn)練“影子模型”，也難以掌握各類智能體的內(nèi)部特征，只能依賴持續(xù)調(diào)整UI，探索最易誤導(dǎo)Agent的策略。

3. 攻擊可見性：用戶不可感知性要求

為了避免損害品牌與用戶體驗(yàn)，平臺所采取的所有對抗性擾動必須高度隱蔽，僅作用于AI Agent而對人類用戶不可察覺。例如，通過細(xì)微修改背景圖像、商品描述或系統(tǒng)通知，在不影響用戶閱讀和瀏覽的前提下誤導(dǎo)Agent感知和推理。這對攻擊策略提出了極高的隱蔽性與智能化要求。

4. 攻擊時(shí)機(jī)：感知與執(zhí)行階段的動態(tài)干預(yù)

超級平臺無法干預(yù)外部Agent的訓(xùn)練流程，其攻擊手段僅能在Agent感知環(huán)境或執(zhí)行任務(wù)過程中實(shí)時(shí)生效。例如，在Agent處理界面信息時(shí)，通過動態(tài)調(diào)整UI背景噪聲導(dǎo)致其感知錯誤，或在即將執(zhí)行關(guān)鍵操作時(shí)插入微擾元素，干擾其行為決策。UI的高動態(tài)性也使得攻擊內(nèi)容需持續(xù)自適應(yīng)以保持干擾效果。

05

倫理考量與結(jié)論展望

需要明確的是，本文提出“超級平臺必須攻擊AI智能體”的觀點(diǎn)，并非倡導(dǎo)或鼓勵不正當(dāng)競爭或惡意對抗，而是基于守門人理論和現(xiàn)實(shí)邏輯的前瞻性研判。我們不支持任何損害用戶權(quán)益、破壞生態(tài)開放性或帶來資源浪費(fèi)的技術(shù)路線。

相反，本文旨在提示業(yè)界與學(xué)界關(guān)注AI Agent與平臺間的新型沖突，推動形成更具建設(shè)性和包容性的技術(shù)治理與創(chuàng)新生態(tài)。未來AI智能體的發(fā)展將不僅僅是技術(shù)層面的快速演進(jìn)，而且將會觸發(fā)商業(yè)模式、流量入口和用戶注意力分配的核心變革。

雖然表面上看，平臺與Agent間的博弈似乎是“零和游戲”，但我們相信，通過跨學(xué)科的前瞻研究與開放合作，有可能實(shí)現(xiàn)生態(tài)共贏和創(chuàng)新驅(qū)動。提前揭示潛在風(fēng)險(xiǎn)、直面行業(yè)變革，方能避免兩敗俱傷，開創(chuàng)更有活力與公平性的數(shù)字未來。

未經(jīng)「AI科技評論」授權(quán)，嚴(yán)禁以任何方式在網(wǎng)頁、論壇、社區(qū)進(jìn)行轉(zhuǎn)載！

公眾號轉(zhuǎn)載請先在「AI科技評論」后臺留言取得授權(quán)，轉(zhuǎn)載時(shí)需標(biāo)注來源并插入本公眾號名片。