安徽的姚先生被社交平臺(tái)上自稱“同病相憐”的醫(yī)托介紹去私立醫(yī)院，看診開(kāi)了近8000元的藥；嚴(yán)女士在宣稱“原礦、無(wú)膠”的直播間購(gòu)買南紅玉石，到手后發(fā)現(xiàn)珠子被注膠；商家“大甩賣”銷售低價(jià)水果，實(shí)際卻偽造提貨卡引流到詐騙網(wǎng)站……類似的虛假營(yíng)銷現(xiàn)象，并非今天才出現(xiàn)。互聯(lián)網(wǎng)進(jìn)入中國(guó)三十年，虛假營(yíng)銷這類頑疾也隨著技術(shù)的發(fā)展“更新迭代”。它們一直潛伏在內(nèi)容與交易的角落，手法越來(lái)越隱蔽、規(guī)模越來(lái)越龐大。 這些內(nèi)容看似對(duì)平臺(tái)經(jīng)營(yíng)不造成致命傷害，但卻一點(diǎn)點(diǎn)侵蝕著用戶的信任，從而逐步瓦解平臺(tái)的生態(tài)健康。正是意識(shí)到這些頑疾的傷害，近年來(lái)，各平臺(tái)投入大量的人力與技術(shù)資源希望能剜除這些毒瘤。南都N視頻記者留意到，小紅書正式組建了打擊虛假營(yíng)銷的“戰(zhàn)隊(duì)”誓要與虛假營(yíng)銷“杠到底”；抖音成立安全與信任中心后，首期就出手整治了違規(guī)營(yíng)銷。 “虛假營(yíng)銷”難以根除，如今AIGC技術(shù)的發(fā)展更是使得造假的成本更低、速度更快。“虛假營(yíng)銷”也不斷變形，而對(duì)“虛假營(yíng)銷”的打擊將是一場(chǎng)持久戰(zhàn)。平臺(tái)的治理必須“跑得更快”，也要更有耐力。

醫(yī)托營(yíng)造“患者”人設(shè) 線上引流至私立醫(yī)院

“我只是皮膚問(wèn)題，莫名其妙給我開(kāi)了七八千的藥，幸好我當(dāng)時(shí)沒(méi)信”，事發(fā)一個(gè)多月，姚先生對(duì)這段“被騙”經(jīng)歷并不愿太多提及。他告訴南都N視頻記者，自己之前在APP上搜索皮膚相關(guān)疾病該如何處理，看到一位曾經(jīng)的“患者”發(fā)帖分享治愈經(jīng)驗(yàn)，因此留言詢問(wèn)，該博主隨即將他引流至微信私聊，分享自己是由某位醫(yī)生治好的皮膚病，可以推薦給他。

“對(duì)方給我推薦的剛好就是當(dāng)?shù)氐囊粋€(gè)醫(yī)生，開(kāi)始說(shuō)是三甲醫(yī)院的，最后給我推薦去私立醫(yī)院看。我當(dāng)時(shí)想，來(lái)都來(lái)了那就還是看一下吧，然后給我開(kāi)了七八千塊的藥。我覺(jué)得不大對(duì)，一個(gè)小小的皮膚病怎么會(huì)開(kāi)這么貴的藥？”姚先生當(dāng)時(shí)留了個(gè)心眼，帶著藥單去咨詢了另一家正規(guī)三甲醫(yī)院的醫(yī)生，對(duì)方告訴他這些藥品“完全不是這么一回事”，他才醒悟過(guò)來(lái)自己可能被“托兒”騙了。

無(wú)獨(dú)有偶，廣州的嚴(yán)女士在抖音直播間購(gòu)買了數(shù)十顆南紅散珠（一種玉石種類），回來(lái)用紫光燈檢測(cè)，發(fā)現(xiàn)有明顯的“注膠”痕跡。詢問(wèn)客服后對(duì)方坦然承認(rèn)，“市場(chǎng)上所有的南紅都會(huì)注膠，這是一個(gè)必要工藝，國(guó)家也允許出證書的，和瑪瑙烤色是一個(gè)道理”。但嚴(yán)女士告訴南都記者，當(dāng)初在直播間商家并未就此說(shuō)明，而且作為玉石愛(ài)好者，她發(fā)現(xiàn)不少直播間主播對(duì)南紅的慣用話術(shù)都是“原礦、無(wú)膠、無(wú)優(yōu)化”，她透露：“只有很少的直播間會(huì)明確告訴你哪些是染色的、哪些是優(yōu)化過(guò)的?！?/p>

受訪者供圖

雖然最后上述兩位消費(fèi)者都在最后成功退款，但用戶體驗(yàn)是實(shí)實(shí)在在受到了傷害。嚴(yán)女士早就取關(guān)了這家玉石商家；姚先生甚至告訴南都記者，事發(fā)后他開(kāi)始回避使用上述APP，因?yàn)榭偰軉酒鹚@段不愉快的經(jīng)歷。

造假團(tuán)隊(duì)搭建“假場(chǎng)景”運(yùn)營(yíng)賬號(hào) 平臺(tái)利用AI識(shí)別

為保護(hù)消費(fèi)者權(quán)益，抖音、小紅書等多個(gè)平臺(tái)近期也加強(qiáng)了對(duì)“虛假營(yíng)銷”的治理力度，然而，違規(guī)者也非常熟悉平臺(tái)的規(guī)則并且善于加以利用，這注定是一場(chǎng)互相博弈的持久戰(zhàn)。

例如，作為“分享”“種草”屬性突出的社區(qū)，各類“經(jīng)驗(yàn)帖”層出不窮，正如上述的姚先生根本無(wú)法判斷所謂的“病友”是否屬實(shí)，這背后是迷惑性極強(qiáng)的“假人設(shè)”。小紅書今年成立“打擊虛假營(yíng)銷戰(zhàn)隊(duì)”以來(lái)，其中就重點(diǎn)針對(duì)“偽素人賬號(hào)”“眾包賬號(hào)”等類型展開(kāi)打擊。

但對(duì)方的“造假”團(tuán)隊(duì)顯然也有應(yīng)付平臺(tái)規(guī)則的“反治理”經(jīng)驗(yàn)。南都N視頻記者獲悉，為了顯得真實(shí)，這些虛假營(yíng)銷的賬號(hào)會(huì)特別注意發(fā)帖內(nèi)容營(yíng)造的身份一致性，并且會(huì)將“虛假營(yíng)銷”的內(nèi)容摻雜在日常更新中，甚至還有團(tuán)隊(duì)搭建了假場(chǎng)景來(lái)扮演“真人”，評(píng)論區(qū)甚至還頻繁進(jìn)行用戶互動(dòng)，看起來(lái)這一切都是一個(gè)“正?！辟~號(hào)的樣子。

“打假”團(tuán)隊(duì)也在根據(jù)這些手法進(jìn)行迭代更新，增加了AI模型識(shí)別和多維度進(jìn)行關(guān)聯(lián)分析，捕捉賬號(hào)的“異常行為”，“戰(zhàn)隊(duì)”迭代了“模板化筆記識(shí)別大模型”以及“偽素人賬號(hào)識(shí)別模型”等20多個(gè)AI識(shí)別大模型，以此提升攔截的準(zhǔn)確度。小紅書還設(shè)置了內(nèi)容前置審核制度，采用了賬號(hào)關(guān)系挖掘分析策略，并上線多個(gè)圖像及視頻識(shí)別模型，通過(guò)綜合筆記內(nèi)容和賬號(hào)信息進(jìn)行分析判斷，對(duì)虛假人設(shè)進(jìn)行精準(zhǔn)打擊。據(jù)悉，小紅書半年共處置虛假人設(shè)賬號(hào)1萬(wàn)個(gè)。

小紅書半年治理情況。

水果提貨卡成引流騙局 平臺(tái)升級(jí)查處技術(shù)

“虛假營(yíng)銷”除了上述這類具有極強(qiáng)的“反治理”意識(shí)，能充分利用平臺(tái)規(guī)則鉆空子，另一大特征就是極強(qiáng)的隱蔽性。

南都N視頻記者了解到，一種新型的“水果提貨卡”騙局近期在平臺(tái)上蔓延。一些商家、達(dá)人在直播間宣傳低價(jià)水果，但消費(fèi)者下單后僅收到印有“百果園”字樣的小卡片，掃碼后跳轉(zhuǎn)至詐騙網(wǎng)站，隨后被引導(dǎo)逐步進(jìn)入充值、返利等陷阱。還有商家通過(guò)偽造“百果園提貨卡”，誘導(dǎo)消費(fèi)者先充值或以小額返利方式獲取信任，最終要求支付更高費(fèi)用才能提貨。

引流欺詐作為網(wǎng)絡(luò)環(huán)境中的頑疾，在電商行業(yè)內(nèi)存在已久，具備隱蔽性強(qiáng)、欺騙性高等特點(diǎn)，已蔓延至各平臺(tái)，嚴(yán)重?fù)p害了消費(fèi)者權(quán)益和市場(chǎng)秩序。

抖音方面向南都記者透露，抖音電商表示已全面升級(jí)針對(duì)引流詐騙的風(fēng)險(xiǎn)識(shí)別與處置機(jī)制。如平臺(tái)通過(guò)大模型實(shí)時(shí)識(shí)別詐騙商家的引流意圖，及時(shí)清退違規(guī)商家并凍結(jié)貨款，限制其賬號(hào)登錄。同時(shí)，加大日常巡邏，一旦發(fā)現(xiàn)違規(guī)，立即中斷直播，進(jìn)一步核實(shí)處置。此外，平臺(tái)還建立了針對(duì)用戶的反詐提醒機(jī)制，及時(shí)向消費(fèi)者提示風(fēng)險(xiǎn)。

北京嘉濰律師事務(wù)所合伙人律師趙占領(lǐng)向南都記者介紹，目前內(nèi)容“造假”主要涉及：一是虛構(gòu)人設(shè)與擺拍，打造“悲慘經(jīng)歷”或“專業(yè)人設(shè)”進(jìn)行賣慘或虛假科普；二是對(duì)商品功效虛假宣傳，一般是使用話術(shù)夸大宣傳，演示虛構(gòu)的商品效果；三是虛假檢測(cè)與資質(zhì)造假，偽造權(quán)威的“檢測(cè)報(bào)告”“A類母嬰級(jí)”標(biāo)簽等，為假冒偽劣商品背書。

“魔法打敗魔法”：用AIGC模型打擊AI造假

此外，隨著AIGC技術(shù)這兩年的蓬勃發(fā)展，“造假”團(tuán)隊(duì)也可謂是“與時(shí)俱進(jìn)”進(jìn)行更新迭代，利用AIGC進(jìn)行虛假營(yíng)銷的現(xiàn)象開(kāi)始明顯增多。此前抖音公布過(guò)不少這類案例，如有賬號(hào)利用AI仿冒于東來(lái)語(yǔ)音、形象，然后違規(guī)營(yíng)銷帶貨。還有創(chuàng)作者在直播間利用AI展示樟樹港辣椒豐收的場(chǎng)景，畫面中辣椒的數(shù)量、分布和植株生長(zhǎng)規(guī)律完全不符合現(xiàn)實(shí)農(nóng)業(yè)，但主播在口播中依然夸大種苗的量產(chǎn)，誤導(dǎo)消費(fèi)者下單，這就是典型涉嫌虛假宣傳。

今年5月，抖音展開(kāi)關(guān)于“AI起號(hào)”的專項(xiàng)治理行動(dòng)，從重點(diǎn)治理打擊的范圍可以一窺目前AI在內(nèi)容平臺(tái)虛假營(yíng)銷的常見(jiàn)手法：利用AI生成低俗獵奇視頻、AI生成虛擬外國(guó)幼兒教育專家教授育兒內(nèi)容、AI賬號(hào)秘籍傳授。

小紅書方面也坦言，在AIGC技術(shù)爆發(fā)式發(fā)展的當(dāng)下，虛假低質(zhì)AIGC內(nèi)容也成為治理的重中之重。趙占領(lǐng)律師告訴南都記者，利用AIGC技術(shù)虛假營(yíng)銷的現(xiàn)象增多，背后是技術(shù)門檻和成本的雙重降低，使得造假變得前所未有的“高效”和“廉價(jià)”。很多平臺(tái)推出“一鍵生成”工具，利用AI批量生成視頻、圖片和文案變得簡(jiǎn)單快捷，而且制作成本急劇下降。

在整治建議方面，趙占領(lǐng)提到了“用AI技術(shù)對(duì)抗AI濫用”。這個(gè)角度的打擊手段我們可以從小紅書的做法上一窺究竟。小紅書不斷加大對(duì)AIGC識(shí)別模型的研發(fā)投入，進(jìn)一步提高識(shí)別精準(zhǔn)度，減少虛假低質(zhì)AIGC內(nèi)容的曝光，如上線AIGC謠言診斷模型，上線圖像與視頻識(shí)別模型，識(shí)別合成頭像、換臉/深度合成痕跡，配合文本模型形成多模態(tài)判斷等。同時(shí)，平臺(tái)對(duì)AIGC生成內(nèi)容做主動(dòng)標(biāo)識(shí)工作，提升信息透明度。半年共處置治理虛假低質(zhì)AIGC筆記60萬(wàn)篇。

治理過(guò)后，降低用戶維權(quán)成本成關(guān)鍵

值得一提的是，這招“用魔法打敗魔法”的治理手段，還需要用戶的共治來(lái)讓平臺(tái)的治理手段“跑得更快”。小紅書副總裁許磊介紹，下半年，小紅書將進(jìn)一步簡(jiǎn)化用戶舉報(bào)流程，實(shí)現(xiàn)一個(gè)頁(yè)面、一次提交即完成舉報(bào)，讓更多用戶低成本、無(wú)門檻地參與到虛假信息的共治中來(lái)。

南都N視頻記者在采訪中發(fā)現(xiàn)，這類虛假營(yíng)銷最終的目的大多是要將用戶引流至平臺(tái)外進(jìn)行非法交易，模糊了平臺(tái)的監(jiān)管邊界。上述受訪的姚先生透露，雖然他最后退回了藥費(fèi)，但在他看來(lái)，對(duì)方除了被“封號(hào)”，似乎并沒(méi)有遭到太多實(shí)質(zhì)性的懲罰，但他作為用戶耗費(fèi)了極大的時(shí)間和精力維權(quán)。人民大學(xué)傳播學(xué)教授董晨宇曾在分享虛假信息的傳播規(guī)律與應(yīng)對(duì)策略時(shí)提到，虛假內(nèi)容無(wú)法完全被消滅。

因此，平臺(tái)單靠?jī)?nèi)容治理，難以徹底切斷利益鏈，因?yàn)樘摷贍I(yíng)銷的侵害還可能向支付、物流、售后等環(huán)節(jié)滲透。特別是對(duì)于上述姚先生提出的消費(fèi)者困境，平臺(tái)要如何把控監(jiān)管邊界，為用戶設(shè)置補(bǔ)償機(jī)制，以及提高救濟(jì)效率，都是亟待思考的問(wèn)題。又因?yàn)槿缃馎I技術(shù)的飛速發(fā)展，虛假營(yíng)銷在技術(shù)的加持下偽裝方式更加逼真、傳播速度更快。由此可見(jiàn)，平臺(tái)注定要在虛假營(yíng)銷的治理上打一場(chǎng)持久戰(zhàn)，不斷與“造假”團(tuán)隊(duì)搶奪時(shí)間。這場(chǎng)爭(zhēng)奪賽要在什么時(shí)候才能結(jié)束？小紅書“打擊虛假營(yíng)銷戰(zhàn)隊(duì)”隊(duì)長(zhǎng)萊戈一針見(jiàn)血地指出：我們將持續(xù)努力直到令虛假營(yíng)銷成本高于收益。

采寫：南都N視頻記者 徐冰倩