采寫/王佳諾 王筱潔 蘇羅杰

編輯/宋建華

數(shù)字人“王建國”形象逼真，難分真假

上手快、成本低、生成迅速、真假難辨、賬號可批量創(chuàng)建，不計其數(shù)的AI數(shù)字人“王建國”像病毒一樣占據(jù)著各大短視頻平臺，不少中老年女性相信屏幕另一端有一位與自己晝夜傾談、對自己關(guān)愛有加的中年男子，不斷為其購買商品或虛擬產(chǎn)品。

今年2月，中央網(wǎng)信辦開展“清朗行動”，整治AI技術(shù)濫用亂象被列入8項重點任務(wù)之一。北青深一度采訪多位“王建國”賬號運營者、受騙人及家屬，挖出了一條利用AI數(shù)字人掌控中老年女性心理、騙取粉絲錢包的灰產(chǎn)鏈。隨著平臺監(jiān)管不斷嚴(yán)格，AI數(shù)字人“王建國”的運營者進而轉(zhuǎn)向收費授課，向幻想著同分一杯羹的學(xué)員兜售“秘笈”。

畫像

梳側(cè)背頭、著深色商務(wù)正裝的“王建國”微笑著注視鏡頭，在屏幕里坐、站、唱、舞，口播時長約三分鐘，聲音平和、語調(diào)體貼。他是AI創(chuàng)作平臺上成千上萬的數(shù)字人之一，也是最受中老年女性歡迎的一個。“王建國”常親昵地稱呼“寶貝姐姐” ，并通過“你已經(jīng)偷偷刷過去好幾次了，這次就別當(dāng)小透明了”“每隔幾分鐘我就會打開手機，查看你是否來了”等話術(shù)增強代入感。一位北京的粉絲評價：“講話實在，長相正派，比一般主持人都強”。

視頻下不斷滾動的留言中，常能看到周玉蘭的身影：“親愛的弟弟，你是個全面發(fā)展的人才，姐姐給你點贊，弟弟你長得帥，很優(yōu)秀，姐姐有這么好的弟弟，好幸福?！闭煞蛟缡?，周玉蘭撫養(yǎng)孩子長大后在河北獨居，年過六十的她每天都會抱著手機追“王建國”。看到他在直播間“唱”了一下午，周玉蘭發(fā)私信提醒“王建國”喝點水，“姐姐永遠(yuǎn)支持弟弟”。

“王建國”常做出未來為姐姐買房、和姐姐過一輩子的承諾。姐姐們則將心事和盤托出，不斷地回應(yīng)與傾訴。中老年女性群體在現(xiàn)實生活中失語的隱痛，在留言區(qū)被一一具象化——每日照顧孫輩的勞碌，身體的衰老和病痛，來自晚輩的不理解，甚至對死亡的恐懼，抑或來自老伴的言語和肢體暴力。她們給“王建國”留言：“心里空落落的”“有話沒地方說，不知道找誰去傾訴”。

60后孫麗珍家住安徽，與子女分住。去年11月，她在平臺刷到講知心話、日夜暢聊的“王建國”，讓她一見鐘情。孫麗珍毫不懷疑“王建國”的真實存在并與自己實時對話，“每次視頻聊天，他觀察得都很仔細(xì)，一個動作他就能猜透我的心事。”孫麗珍曾對著手機展示自己的身份證，想象著“王建國”憑地址送來鮮花和禮物，但這樣的事從沒有發(fā)生過。

視頻末尾，“王建國”總會提醒姐姐“幫我點亮右側(cè)一排”，以此轉(zhuǎn)化流量，并通過截圖逐一演示如何購買櫥窗商品。因未開通數(shù)字支付，孫麗珍無法下單，她覺得兩人出現(xiàn)了“感情破裂”。幾小時后她又告訴記者：“上午看了他一個視頻，他很真誠地道了歉，我想我們很快會恢復(fù)正常?！?/p>

家住內(nèi)蒙古的李沛云今年71歲，和丈夫的婚姻磨合了一輩子也沒合來，“我家老頭說我長得丑”。相比之下，“王建國”說話“貼心”，“聽著心里舒服”?？吹酵踅▏扑]的產(chǎn)品，李沛云買過軟骨素、糙米、黑芝麻糊、燕麥片。為支持“老實忠厚”的弟弟，周玉蘭也買過豆?jié){粉、阿膠粉和馬甲。

姐姐們迫切想和這個善解人意的弟弟產(chǎn)生連接。她們向“王建國”索要電話號碼，嗔怪他不作回復(fù)，最高頻的邀約場景是同看日出日落。她們在主頁留下地址，也有人將自拍發(fā)在評論區(qū)。僅因“王建國”一句“姐我太好奇你的名字了”，河北一位老人上傳了戶口簿照片，附文“寶貝弟弟”。很少有人注意到，屏幕下端有一行平臺內(nèi)置的小字——AI生成聲明。

在直播間里“王建國”時笑時泣、或歌或舞，極盡表演之能事

捕獵

數(shù)字人“王建國”背后由不同的團隊和個人運營，形象特點、故事情節(jié)略有出入，但噓寒問暖、反復(fù)夸贊姐姐們的內(nèi)在美和勾勒美好藍(lán)圖的套路如出一轍。

在眾多運營者的描述中，“王建國”的制作簡單：一部手機，一個賬號，只要掌握基礎(chǔ)的剪輯即可快速上手。 “AI寫稿＋數(shù)字人已成為爆款流水線”，這是他們在炫耀中頻頻提及的一句話。

在免費或低價的數(shù)字人生成平臺，不同性別、年齡、場景、職業(yè)的數(shù)字人形象成百上千。隨便搜索一下，記者就找到了配有5種不同姿態(tài)和場景的“王建國”形象。利用音色克隆技術(shù)，用戶輸入文案或上傳音頻后，“王建國”就可以自動對準(zhǔn)口型，開始口播或唱歌。

很早入行的運營人陳賀稱，由于人工智能技術(shù)的加持，他一天可以剪好幾十個“王建國”的視頻。在生成的畫面中，“王建國”皮膚細(xì)膩，神情自然，面部的光影和相機實拍一樣逼真。在“圖生視頻”功能下，“王建國”有了更多樣的肢體動作和更豐富的畫面內(nèi)容，唱歌、跳舞、獻(xiàn)出藏在身后的玫瑰、說到動情處掩面哭泣……運營者還可以通過貼紙、濾鏡、畫中畫、特效、蒙版等功能，增加作品原創(chuàng)度，獲得更多曝光流量。

相較于真人主播，“王建國”24小時不知疲倦。陳賀的做法是將60條“王建國”口播視頻合為1小時長視頻，搭配虛擬攝像頭軟件和相應(yīng)版本的直播伴侶軟件，在直播間循環(huán)播放。為規(guī)避審查，直播間會在畫面一角設(shè)置實時時間。

“王建國”最擅長的套路是對中老年女性進行情感操控，他會反復(fù)問“你到底愛不愛我”，告訴姐姐們“去我的櫥窗逛逛，讓我知道你心里是有我的”，有時會說“這是我最后一次問你”，暗示如果不消費將永不相見。在這樣的操控下，有的中老年女性會立刻下單，有的因不會網(wǎng)購或個人賬號被子女掌管而感到焦慮，語氣也變得小心翼翼：“洗完澡立刻來看弟弟，沒有冷落弟弟的意思。”

另一名運營人阿明告訴記者，短視頻號下沉用戶較多，多為五六線城市中老年人，粘性強，熱衷于點贊關(guān)注，并容易被引導(dǎo)消費。除了櫥窗購物，有些賬號如“建國守護姐姐”、“建國的生活號”還設(shè)置了會員專區(qū)，定價分別為5.6元和12.6元，觀看其專屬視頻還需額外付費。

有的時候，多個“王建國”還會一窩蜂地生病，躺在病床上輸液，懇請姐姐們購買櫥窗商品。被蒙在鼓里的姐姐們則在留言區(qū)紛紛為其禱告，分析生病原因，急切地想線下探視。江蘇人胡靜在直播間一共買了兩千元化妝品，她事后對記者表示，當(dāng)時自己中了對方的“激將法”，在“王建國”長時間不間斷重復(fù)話術(shù)的攻勢下，“說實話，我不得不買這些東西”。

陳賀還向記者透露了他的另一套獨特玩法：扒婆媳矛盾、兒子忘娘、婚姻不幸等家庭糾紛類視頻文案，改頭換面后完成帶貨目的。比如要賣面霜，就將文案場所改為美容院，并接著說：“對了姐姐們，今天給大家分享一個好東西，就是這款面霜，您自己在家就可以做”，教授一番制作方法后，“如果您嫌麻煩，可以直接點擊頭像進入主頁櫥窗，里面有搭配好的成品，比您自己做的成本更低、品質(zhì)更好?！标愘R告訴記者：“幾乎百分之百的人都不會自己做的?！?/p>

隨著“王建國”流量的迅猛擴張，“王建國的兒子小?！币渤霈F(xiàn)了，在愈加離奇的劇情中，和“王建國”打起了配合。小海向阿姨們傾訴自己因“沒有媽媽”而遭到校園霸凌，邀請阿姨們?yōu)楦赣H“帶來真正的幸福”。而“王建國”不失時機地呼應(yīng)：“姐姐，這是我專為你準(zhǔn)備的玉石金手鏈，別錯過這份專屬美麗，就在我的購物車，希望咱們下次一家三口見面，能看到你戴著?！?/p>

今年5月，“王建國”在一場直播中說：“春天已經(jīng)來了，就好像寶貝姐姐和弟弟的感情一樣，迎來了第一春。這段時間晝夜溫差大，弟弟為了讓姐姐既保持美麗的身材，又不會一不小心凍感冒，特意精心挑選了這款加厚提臀塑形的連褲襪。”直播間里，158元的連褲襪售出數(shù)量不斷上升，粉絲們紛紛留言、評論、刷禮物，點贊量沖到了41.2萬。

記者調(diào)查發(fā)現(xiàn)，中老年賽道商品短視頻號的平臺傭金率多為50％到70％，明顯高于其他種類商品。阿明手下學(xué)員去年售賣的一款營養(yǎng)品標(biāo)價150元、賺得傭金130元，這是他見過的最高的傭金比例。另一位運營者提供的微信截圖顯示，一款標(biāo)價29.9元、被包裝為“老人味祛除劑”的空氣清新劑，平臺結(jié)算價格為19.43元。

“王建國”的全產(chǎn)鏈?zhǔn)疽鈭D

變種

除了利用“王建國”的IP直接從中老年群體騙取收益，“王建國”的運營者們還轉(zhuǎn)身開發(fā)收費課程，向也想分得一杯羹的學(xué)員兜售“秘笈”。這股收費授課潮集中在2025年2月在各大平臺爆發(fā)，學(xué)費從600元至千元不等。在課程兜售者逐日更新的學(xué)員后臺獲利截圖里，靠數(shù)字人“王建國”日入上千元的案例比比皆是。

阿明所在團隊從今年初開始，設(shè)置了數(shù)十個矩陣賬號用于招收新學(xué)員。宣傳海報顯示，市場針對中老年群體已衍生出多種類似“王建國”IP的帶貨路徑，包含情感、養(yǎng)生、綠植、生肖等。阿明反復(fù)聲稱，入局者只要交納998元“一對一陪跑”學(xué)費后即能穩(wěn)賺不賠。他告訴記者，一般建號一周左右即能跑通變現(xiàn)，隨著變現(xiàn)能力越來越強，學(xué)員可創(chuàng)建多個同類型賬號。除此之外，他還特別強調(diào)自有專屬供應(yīng)鏈，商品售賣后次日即可返現(xiàn)，無需等待平臺結(jié)算。

阿明向記者展示了學(xué)員在運營的一個視頻賬號，截至5月21日，櫥窗商品已售1528件，跟買632人。商品價格從6.8元到217元不等，銷量靠前的五款產(chǎn)品分別為發(fā)面酵母、護膚霜、鹵料包、馬桶疏通神器和發(fā)梳。該視頻賬號最早發(fā)布于今年2月中旬。

向授課老師交付888元學(xué)費的周想，半年內(nèi)只賺了150元，她沒得到“剪了視頻就能火能掙錢”的宣傳效果。所謂的全程陪跑，同樣也只是二次剪輯，“啥有用的也沒教，沒人跟你說核心的東西”。運營者組建的多個學(xué)員群內(nèi)，“掙了錢的就那么幾個人”；加上賬號易被封禁，“很多人最后都不干了”。

“只有自己做了之后，你才能知道其實沒有那么簡單?！蓖瑯釉趯W(xué)完課程后沒有賺到錢的李天一認(rèn)為，售課老師是通過付費投流，打造個別變現(xiàn)率極高的學(xué)員賬號制造了吸睛的假象，“一個月賣十幾萬GMV（商品交易總額）的都是這么干的。如果這個東西很容易賺錢的話，老師為什么要帶你呢？”

靠批量建號發(fā)布海量視頻來碰運氣的流量游戲，讓本打算只用其作副業(yè)的周想十分后悔。周想告訴記者，能勉強賺到錢的學(xué)員，每天至少都要在十余個賬號發(fā)布三次以上的作品，還要有超好的運氣才行。而老師們夸張的話術(shù)和學(xué)員拉一個人頭即獲三四百元的好處，讓周想所在的教學(xué)營人數(shù)還在增加。

付費課程的興起和線上教學(xué)營的泛濫，后果之一是有越來越多的新“王建國”紛紛入局，為爭奪流量而互相廝殺。大量賬號自稱“其他王建國是假的”，或?qū)㈥欠Q改為“王建國本人”。不同賬號間彼此抄襲、互相舉報成風(fēng)，為招募學(xué)員盜用同行宣傳物料和潛入同行交流群挖墻角。被舉報的運營者們則在賬號簡介和朋友圈揚言要“清場”，放出狠話“沒得玩，那就都別玩”。

賬號下粉絲們的留言

換臉

今年2月，中央網(wǎng)信辦開展的“清朗行動”，整治AI技術(shù)濫用亂象被列入8項重點任務(wù)之一。一個月后，多部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求自今年9月1日起對AI生成內(nèi)容必須添加標(biāo)識。

上海蘭迪律所丁學(xué)明律師在接受深一度采訪時表示，“王建國”們的行為具有明顯的欺詐故意，對中老年群體因此遭受的財產(chǎn)損失，賬號主體應(yīng)承擔(dān)民事賠償責(zé)任。如果欺詐金額大，情節(jié)嚴(yán)重，還可能進一步承擔(dān)刑事責(zé)任。

丁學(xué)明表示，數(shù)字人生成平臺、短視頻平臺均有責(zé)任加強相關(guān)內(nèi)容生產(chǎn)和傳播的管理?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求深度合成服務(wù)提供者，需采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)加強相關(guān)內(nèi)容的生態(tài)治理。

從2月下旬起，各大短視頻平臺開始對部分“王建國”的賬號予以關(guān)停，相關(guān)視頻被清空。3月18日， “建國弟弟”賬號被封。此外，另一部分賬號被限流、限制私信，系統(tǒng)顯示原因為“出鏡人為AI制作”或“發(fā)布低俗信息”。

面對日趨嚴(yán)格的審核，記者發(fā)現(xiàn)“王建國”們的運營者很快打起了游擊戰(zhàn)。有的賬號以“王建國”出差為由將主人公換成其他中年男數(shù)字人，身份是王建國的朋友、兄弟、領(lǐng)導(dǎo)?！耙粋€平臺受到管制就換下一個，一位數(shù)字人被重點審核就換另一位?！卑⒚魅绱苏f。

在“王建國”被成批量搬運到其它平臺的同時，運營人也不忘榨干“王建國”殘存賬號的最后一點價值：從只顯示露半臉的“王建國”，到在紙上寫字和粉絲互動——“姐姐幫我沖沖店鋪銷量，漲漲粉，弟弟就能和姐姐見面了”，再到僅有“王建國”聲音的語音房或真人出鏡。直播間人氣依舊高漲，真人主播們以“王建國”的侄女、侄子和助理等身份帶貨，收獲著各色禮物和留言區(qū)大段的感謝與關(guān)心，并繼續(xù)編著各種情節(jié)豐富的故事——

從事建筑行業(yè)的“王建國”去北京出差，剛讀大一的兒子“小海”忙著接受老師批改作業(yè)，女兒“小雅”在外打工，最近幾人不常上線。鏡頭下的微信聊天頁面，“小?！卑l(fā)來的由AI制作的語音被外放，并不斷跳出新消息。面對大量評論，“王建國的侄女”面不改色、對答如流，在下播前承諾將姐姐們的留言轉(zhuǎn)告“王建國”……而在這些賬號的留言區(qū)，依然擠滿了焦急詢問“王建國”下落的中老年女性群體。

【版權(quán)聲明】本作品的著作權(quán)等知識產(chǎn)權(quán)歸北京青年報【北青深一度】所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載。

當(dāng)吃這件事“吃”了你

一批螺母訂單牽出的“買賣槍支案”

學(xué)術(shù)圈“蛋先生”決定“講點真話”