安徽的姚先生被社交平臺(tái)上自稱“同病相憐”的醫(yī)托介紹去私立醫(yī)院，看診開了近8000元的藥；嚴(yán)女士在宣稱“原礦、無膠”的直播間購買南紅玉石，到手后發(fā)現(xiàn)珠子被注膠；商家“大甩賣”銷售低價(jià)水果，實(shí)際卻偽造提貨卡引流到詐騙網(wǎng)站……類似的虛假營銷現(xiàn)象不斷“更新迭代”。

這些內(nèi)容看似對(duì)平臺(tái)經(jīng)營不造成致命傷害，但卻一點(diǎn)點(diǎn)侵蝕著用戶信任，從而逐步瓦解平臺(tái)的生態(tài)健康。正是意識(shí)到這些頑疾的傷害，近年來，各平臺(tái)投入大量人力與技術(shù)資源希望能剜除毒瘤。南都記者留意到，小紅書正式組建了打擊虛假營銷的“戰(zhàn)隊(duì)”誓要與之“杠到底”；抖音成立安全與信任中心后，首期就出手整治了違規(guī)營銷。

　　案例

　　一個(gè)小小的皮膚病，開出七八千元藥　　

“我只是皮膚問題，莫名其妙給我開了七八千的藥，幸好當(dāng)時(shí)沒信”，事發(fā)一個(gè)多月，姚先生對(duì)這段“被騙”經(jīng)歷并不愿太多提及。他告訴記者，自己之前在App上搜索皮膚相關(guān)疾病該如何處理，看到一位曾經(jīng)的“患者”發(fā)帖分享治愈經(jīng)驗(yàn)，因此留言詢問，該博主隨即將他引流至微信私聊，分享自己是由某位醫(yī)生治好的皮膚病，可以推薦給他。

“對(duì)方給我推薦的剛好就是當(dāng)?shù)氐囊粋€(gè)醫(yī)生，開始說是三甲醫(yī)院的，最后給我推薦去私立醫(yī)院看。我當(dāng)時(shí)想，來都來了那就看一下吧，然后給我開了七八千元藥。我覺得不對(duì)勁，一個(gè)小小的皮膚病怎么會(huì)開這么貴的藥？”姚先生留了個(gè)心眼，帶著藥單去咨詢了另一家正規(guī)三甲醫(yī)院的醫(yī)生，對(duì)方告訴他這些藥“完全不是這么一回事”，他才醒悟過來自己被“托兒”騙了。

無獨(dú)有偶，廣州的嚴(yán)女士在直播間購買了數(shù)十顆南紅散珠（一種玉石種類），回來用紫光燈檢測(cè)，發(fā)現(xiàn)有明顯的“注膠”痕跡。詢問客服后對(duì)方坦承，“市場(chǎng)上所有的南紅都會(huì)注膠，這是一個(gè)必要工藝，國家也允許出證書的，和瑪瑙烤色是一個(gè)道理”。但嚴(yán)女士告訴記者，當(dāng)初在直播間商家并未就此說明，而且作為玉石愛好者，她發(fā)現(xiàn)不少直播間主播對(duì)南紅的慣用話術(shù)都是“原礦、無膠、無優(yōu)化”。她透露：“只有很少的直播間會(huì)明確告訴你哪些是染色的、哪些是優(yōu)化過的。”

雖然最后上述兩位消費(fèi)者都成功退款，但用戶體驗(yàn)是實(shí)實(shí)在在受到了傷害。嚴(yán)女士早就取關(guān)了這家玉石商家；姚先生直言事發(fā)后他開始回避使用上述App，因?yàn)榭偰軉酒鸩挥淇斓幕貞??！　?/p>

　　調(diào)查

　　造假團(tuán)隊(duì)搭建“假場(chǎng)景”運(yùn)營賬號(hào)　　

為保護(hù)消費(fèi)者權(quán)益，抖音、小紅書等多個(gè)平臺(tái)近期也加強(qiáng)了對(duì)“虛假營銷”的治理力度。然而，違規(guī)者也非常熟悉平臺(tái)的規(guī)則并且善于加以利用，這注定是一場(chǎng)互相博弈的持久戰(zhàn)。

例如，作為“分享”“種草”屬性突出的社區(qū)，各類“經(jīng)驗(yàn)帖”層出不窮。正如上述的姚先生根本無法判斷所謂的“病友”是否屬實(shí)，這背后是迷惑性極強(qiáng)的“假人設(shè)”。小紅書今年成立“打擊虛假營銷戰(zhàn)隊(duì)”以來，其中就重點(diǎn)針對(duì)“偽素人賬號(hào)”“眾包賬號(hào)”等類型展開打擊。

但對(duì)方的“造假”團(tuán)隊(duì)顯然也有應(yīng)對(duì)平臺(tái)規(guī)則的“反治理”經(jīng)驗(yàn)。南都記者獲悉，為了顯得真實(shí)，這些虛假營銷的賬號(hào)會(huì)特別注意發(fā)帖內(nèi)容營造的身份一致性，并且會(huì)將“虛假營銷”的內(nèi)容摻雜在日常更新中，甚至還有團(tuán)隊(duì)搭建了假場(chǎng)景來扮演“真人”，評(píng)論區(qū)甚至還頻繁進(jìn)行用戶互動(dòng)，看起來這一切都是一個(gè)“正常”賬號(hào)的樣子。

“打假”團(tuán)隊(duì)也在根據(jù)這些手法進(jìn)行迭代更新，增加了AI模型識(shí)別和多維度關(guān)聯(lián)分析，捕捉賬號(hào)的“異常行為”，“戰(zhàn)隊(duì)”迭代了“模板化筆記識(shí)別大模型”以及“偽素人賬號(hào)識(shí)別模型”等20多個(gè)AI識(shí)別大模型，以此提升攔截的準(zhǔn)確度。小紅書還設(shè)置了內(nèi)容前置審核制度，采用了賬號(hào)關(guān)系挖掘分析策略，并上線多個(gè)圖像及視頻識(shí)別模型，通過綜合筆記內(nèi)容和賬號(hào)信息進(jìn)行分析判斷，對(duì)虛假人設(shè)進(jìn)行精準(zhǔn)打擊。據(jù)悉，小紅書半年共處置虛假人設(shè)賬號(hào)1萬個(gè)?！?/p>

　　打擊

　　平臺(tái)通過大模型實(shí)時(shí)識(shí)別引流欺詐　　

“虛假營銷”除了上述這類具有極強(qiáng)的“反治理”意識(shí)，能充分利用平臺(tái)規(guī)則鉆空子外，另一大特征就是極強(qiáng)的隱蔽性。

南都記者了解到，一種新型的“水果提貨卡”騙局近期在平臺(tái)上蔓延。一些商家、達(dá)人在直播間宣傳低價(jià)水果，但消費(fèi)者下單后僅收到印有“百果園”字樣的小卡片，掃碼后跳轉(zhuǎn)至詐騙網(wǎng)站，隨后被引導(dǎo)逐步進(jìn)入充值、返利等陷阱。還有商家通過偽造“百果園提貨卡”，誘導(dǎo)消費(fèi)者先充值或以小額返利方式獲取信任，最終要求支付更高費(fèi)用才能提貨。

引流欺詐作為網(wǎng)絡(luò)環(huán)境中的頑疾，在電商行業(yè)內(nèi)存在已久，具備隱蔽性強(qiáng)、欺騙性高等特點(diǎn)，已蔓延至各平臺(tái)，嚴(yán)重?fù)p害了消費(fèi)者權(quán)益和市場(chǎng)秩序。

抖音方面向南都記者透露，抖音電商已全面升級(jí)針對(duì)引流詐騙的風(fēng)險(xiǎn)識(shí)別與處置機(jī)制。如平臺(tái)通過大模型實(shí)時(shí)識(shí)別詐騙商家的引流意圖，及時(shí)清退違規(guī)商家并凍結(jié)貨款，限制其賬號(hào)登錄。同時(shí)，加大日常巡邏，一旦發(fā)現(xiàn)違規(guī)，立即中斷直播，進(jìn)一步核實(shí)處置。此外，平臺(tái)還建立了針對(duì)用戶的反詐提醒機(jī)制，及時(shí)向消費(fèi)者提示風(fēng)險(xiǎn)。

　　觀察

　　專家：用AI技術(shù)對(duì)抗AI濫用

近兩年，隨著AIGC技術(shù)蓬勃發(fā)展，“造假”團(tuán)隊(duì)也同步進(jìn)行更新迭代，利用AIGC進(jìn)行虛假營銷的現(xiàn)象開始明顯增多。此前抖音公布過不少案例，如有賬號(hào)利用AI仿冒于東來語音、形象，然后違規(guī)營銷帶貨。還有創(chuàng)作者在直播間利用AI展示樟樹港辣椒豐收的場(chǎng)景，畫面中辣椒的數(shù)量、分布和植株生長規(guī)律完全不符合現(xiàn)實(shí)農(nóng)業(yè)，但主播在口播中依然夸大種苗的量產(chǎn)，誤導(dǎo)消費(fèi)者下單，這就是典型的涉嫌虛假宣傳。

今年5月，抖音展開關(guān)于“AI起號(hào)”的專項(xiàng)治理行動(dòng)，從重點(diǎn)治理打擊的范圍可以一窺目前AI在內(nèi)容平臺(tái)虛假營銷的常見手法：利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內(nèi)容、AI賬號(hào)秘籍傳授。

小紅書也坦言，當(dāng)下，虛假低質(zhì)AIGC內(nèi)容成為治理的重中之重。北京嘉濰律師事務(wù)所合伙人律師趙占領(lǐng)告訴南都記者，利用AIGC技術(shù)虛假營銷的現(xiàn)象增多，背后是技術(shù)門檻和成本的雙重降低，使得造假變得前所未有的“高效”和“廉價(jià)”。很多平臺(tái)推出“一鍵生成”工具，利用AI批量生成視頻、圖片和文案變得簡(jiǎn)單快捷，而且制作成本急劇下降。

在整治建議方面，趙占領(lǐng)提到了“用AI技術(shù)對(duì)抗AI濫用”。這個(gè)角度的打擊手段我們可以從小紅書的做法上一窺究竟。小紅書不斷加大對(duì)AIGC識(shí)別模型的研發(fā)投入，進(jìn)一步提高識(shí)別精準(zhǔn)度，減少虛假低質(zhì)AIGC內(nèi)容的曝光，如上線AIGC謠言診斷模型，上線圖像與視頻識(shí)別模型，識(shí)別合成頭像、換臉/深度合成痕跡，配合文本模型形成多模態(tài)判斷等。同時(shí)，平臺(tái)對(duì)AIGC生成內(nèi)容做主動(dòng)標(biāo)識(shí)工作，提升信息透明度，半年共處置治理虛假低質(zhì)AIGC筆記60萬篇。

采寫：南都記者 徐冰倩 制圖：朱林（豆包AI生成）