你刷到的明星直播帶貨，可能從肖像到聲音全是AI偽造的。11月5日，抖音電商安全與信任中心交出了一份打擊AI仿冒名人帶貨的階段性成績單——短短一個(gè)月，處置違規(guī)帶貨賬號1.1萬個(gè)，違規(guī)商品超過6700個(gè)。這些數(shù)字背后，是一條基于AI技術(shù)的黑灰產(chǎn)鏈條，正在悄然侵蝕直播電商的信任根基。

出品｜網(wǎng)經(jīng)社

作者｜可樂

審稿｜云馬

配圖｜網(wǎng)經(jīng)社圖庫

一、AI盜播泛濫

“我該怎么證明我是我？”演員溫崢嶸在抖音直播間無奈地發(fā)問。今年4月，她深夜拍戲回家后，居然在手機(jī)上看到“自己”正在熱情洋溢地直播帶貨。當(dāng)她進(jìn)入直播間質(zhì)問對方時(shí)，換來的卻是被拉黑的結(jié)局。這樣的荒唐事，正每天在各大直播平臺上演。

11月6日，針對近期“演員溫崢嶸被AI盜播帶貨”事件，抖音集團(tuán)副總裁李亮發(fā)文回應(yīng)稱，經(jīng)核查，“三個(gè)直播間同時(shí)開播”案例并非發(fā)生在抖音平臺。但他同時(shí)指出，平臺確實(shí)存在利用AI技術(shù)仿冒名人進(jìn)行帶貨的違規(guī)內(nèi)容。

李亮表示，這類AI侵權(quán)仿冒行為嚴(yán)重?fù)p害各方信譽(yù)，平臺已開展專項(xiàng)治理，嚴(yán)禁使用AI技術(shù)仿冒他人身份進(jìn)行營銷。據(jù)悉，抖音電商安全中心9月2日已發(fā)布公告，強(qiáng)調(diào)將嚴(yán)厲打擊AI內(nèi)容濫用行為，對違規(guī)視頻和賬號采取下架、清退等措施。

目前平臺發(fā)現(xiàn)的主要違規(guī)形式包括：利用AI生成虛假商品展示、冒充專家名人進(jìn)行帶貨、編造虛構(gòu)測評誤導(dǎo)消費(fèi)者等。抖音方面承諾將持續(xù)加大技術(shù)投入，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。

抖音電商近期公布的典型案例顯示，溫崢嶸、董宇輝、李玫瑾、羅永浩等名人都成了被仿冒的重災(zāi)區(qū)。中國商業(yè)聯(lián)合會直播電商工作委員會副會長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊指出，10月31日，“硅基智能”提交上市申請，越來越多的“硅基勞動力”將面世，除直播帶貨外，也將應(yīng)用到各行各業(yè)。AI數(shù)字人播已是直播市場新型主播發(fā)展的重要方向之一，但數(shù)字人對替代真人主播非黃金時(shí)段起到了輔助作用，但還不能完全替代真人主播。至于這種仿冒的AI盜播，是嚴(yán)重影響直播帶貨營商環(huán)境的。

網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海漢盛律師事務(wù)所高級合伙人李旻從法律角度分析到，AI盜播的商家未經(jīng)過溫崢嶸的同意，使用溫崢嶸的形象直播、帶貨，違反了《中華人民共和國民法典》（以下簡稱《民法典》）第一千零一十九條，侵犯了溫崢嶸的肖像權(quán)。如果盜播帶貨時(shí)，還明確以溫崢嶸的名義進(jìn)行，則違反《民法典》第一千零一十四條和《中華人民共和國反不正當(dāng)競爭法》第七條，侵犯了溫崢嶸的姓名權(quán)，且存在不正當(dāng)競爭行為。此外，如果帶貨商品出現(xiàn)質(zhì)量問題或虛假宣傳等引發(fā)消費(fèi)者投訴，由于直接使用了溫崢嶸的形象、姓名等，消費(fèi)者可能誤將責(zé)任歸咎于溫崢嶸，這將違反《民法典》第一千零二十四條，侵犯了溫崢嶸的名譽(yù)權(quán)。

AI盜播的這種誤導(dǎo)消費(fèi)者的行為還涉嫌違反《中華人民共和國廣告法》第四條。如商家存在欺詐行為，且違反了《中華人民共和國消費(fèi)者權(quán)益保護(hù)法》第五十五條，消費(fèi)者可以要求三倍賠償。上述行為情節(jié)嚴(yán)重的，可能還會觸犯《中華人民共和國刑法》的虛假廣告罪、詐騙罪等，最高可能判處無期徒刑。李旻補(bǔ)充到。

二、電商平臺該出手

面對肆虐的AI盜播，平臺終于出手整頓。11月5日，抖音電商發(fā)布名人仿冒治理專項(xiàng)階段性進(jìn)展。自10月啟動以來，平臺已處置1.1萬個(gè)違規(guī)帶貨賬號、6700多個(gè)違規(guī)商品，重點(diǎn)整治未經(jīng)授權(quán)的商家和達(dá)人利用AI或特效仿冒名人進(jìn)行帶貨營銷。

曹磊表示，關(guān)于電商平臺是否應(yīng)該在AI盜播中承擔(dān)責(zé)任，要依據(jù)兩大原則。一是“避風(fēng)港原則”，這是平臺的“安全盾牌”，指平臺在接到侵權(quán)通知后，只要及時(shí)刪除侵權(quán)內(nèi)容，即可不承擔(dān)責(zé)任。這源于網(wǎng)絡(luò)信息海量，平臺難以事前全面審查。

二是“紅旗原則”，這是懸在平臺頭上的“達(dá)摩克利斯之劍”。它指當(dāng)侵權(quán)行為非常明顯，像一面紅旗一樣公然飄揚(yáng)時(shí)，法律就推定平臺應(yīng)該知道這些侵權(quán)行為。此時(shí)，平臺不能假裝看不見，必須主動采取行動。

李旻稱，依照《民法典》第一千一百九十五條，電商平臺存在“通知——?jiǎng)h除”義務(wù)，在收到有關(guān)直播間的侵權(quán)通知后，電商平臺應(yīng)當(dāng)及時(shí)采取措施，阻止侵權(quán)行為。如果未能夠及時(shí)關(guān)停直播間防止損害擴(kuò)大，對于損害的擴(kuò)大部分，電商平臺也要承擔(dān)連帶責(zé)任。同時(shí)平臺對出現(xiàn)了名人等的直播，應(yīng)當(dāng)進(jìn)行巡查以盡到合理注意義務(wù)，否則可能因違反《民法典》第一千一百九十七條而承擔(dān)連帶責(zé)任。而盜播直播間作為直接侵權(quán)人，應(yīng)當(dāng)根據(jù)《民法典》等法律規(guī)定，停止侵權(quán)行為，消除對溫崢嶸的不利影響，賠禮道歉并主動澄清以有效地恢復(fù)其名譽(yù)。

三、AI治理需多方合力

整個(gè)AI治理行業(yè)內(nèi)，監(jiān)管側(cè)與平臺側(cè)的治理舉措，與黑灰產(chǎn)案例長期博弈。

網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海正策律師事務(wù)所律師董毅智指出，多方協(xié)同治理是應(yīng)對AI盜播帶貨的關(guān)鍵。首先，監(jiān)管部門需完善規(guī)則與加強(qiáng)執(zhí)法。進(jìn)一步細(xì)化直播帶貨規(guī)則，明確AI盜播行為的法律定性和處罰標(biāo)準(zhǔn)，為監(jiān)管和執(zhí)法提供清晰依據(jù)。建立網(wǎng)信、市場監(jiān)管、版權(quán)等多部門的協(xié)同治理機(jī)制，針對盜播產(chǎn)業(yè)鏈開展專項(xiàng)打擊行動。鼓勵(lì)或要求平臺采用數(shù)字水印、區(qū)塊鏈等技術(shù)進(jìn)行內(nèi)容存證與溯源，提高侵權(quán)行為的追蹤和定責(zé)效率。

其次，電商平臺需強(qiáng)化技術(shù)防控與流程優(yōu)化。投入研發(fā)AI實(shí)時(shí)監(jiān)測系統(tǒng)，提升對換臉、鏡像翻轉(zhuǎn)等規(guī)避技術(shù)的識別能力。建立“正版內(nèi)容庫”，通過數(shù)字水印等技術(shù)進(jìn)行版權(quán)保護(hù)。嚴(yán)格執(zhí)行賬號實(shí)名制，建立盜播黑名單和“一號盜播，全平臺禁播”等聯(lián)動懲戒機(jī)制。優(yōu)化侵權(quán)投訴渠道，簡化舉證流程，加快處理速度。加強(qiáng)內(nèi)容標(biāo)識：嚴(yán)格落實(shí)《人工智能生成合成內(nèi)容標(biāo)識辦法》，確保所有AI生成內(nèi)容均有顯著標(biāo)識。

最后是公眾人物與消費(fèi)者需要提升意識與積極維權(quán)。公眾人物應(yīng)提高個(gè)人信息保護(hù)意識，謹(jǐn)慎在公開平臺分享過多高清面部影像和原始聲音樣本。發(fā)現(xiàn)侵權(quán)后，及時(shí)通過錄屏、區(qū)塊鏈存證等方式固定證據(jù)，并依據(jù)平臺投訴、行政舉報(bào)、民事訴訟等途徑維權(quán)。消費(fèi)者在觀看直播時(shí)，注意甄別。主播是否與觀眾實(shí)時(shí)互動是判斷真?zhèn)蔚闹匾罁?jù)，AI盜播通常無法有效互動。對畫質(zhì)模糊、口型對不上、商品價(jià)格異常低廉的直播間保持警惕。一旦因AI盜播帶貨購買到劣質(zhì)商品，可依據(jù)《消費(fèi)者權(quán)益保護(hù)法》向商家主張“退一賠三”。

無獨(dú)有偶，李旻表示，從監(jiān)管部門的角度來說，針對如今發(fā)展愈發(fā)迅速的AI技術(shù)，應(yīng)當(dāng)推動相關(guān)立法，明確各方主體的權(quán)利和義務(wù)。雖然現(xiàn)在《人工智能生成合成內(nèi)容標(biāo)識辦法》已經(jīng)對AI生成內(nèi)容作出了要求，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，但是在現(xiàn)實(shí)執(zhí)行上還存在著技術(shù)手段等方面的諸多不完善。在執(zhí)法上，監(jiān)管部門應(yīng)當(dāng)加大執(zhí)法力度，以重點(diǎn)打擊這種違法現(xiàn)象。

電商平臺作為提供者，也應(yīng)當(dāng)盡到相應(yīng)的監(jiān)管義務(wù)，作為最直接、第一線的監(jiān)管者，應(yīng)當(dāng)做到事前全面審查、事中有效監(jiān)督以及事后及時(shí)彌補(bǔ)。平臺應(yīng)當(dāng)事前通過對名人信息進(jìn)行核驗(yàn)，事中使用技術(shù)手段監(jiān)管，事后有效地配合當(dāng)事人解決問題、化解糾紛。AI技術(shù)的發(fā)展，也為現(xiàn)有法律帶來了不小的沖擊，需要平臺作為行業(yè)領(lǐng)頭人配合政府監(jiān)管部門一同守護(hù)好人民的合法權(quán)益不受損害。李旻補(bǔ)充到。

曹磊闡述，除抖音平臺外，快手、視頻號、京東直播、小紅書直播等也有涉及AI直播，需加強(qiáng)監(jiān)測盜播現(xiàn)象。除了電商平臺之外，MCN機(jī)構(gòu)也應(yīng)該加強(qiáng)監(jiān)管，目前，謙尋已推出AI數(shù)字人直播業(yè)務(wù)，可以實(shí)現(xiàn)24小時(shí)不間斷直播；愿景未來則自主研發(fā)了"達(dá)人畫像系統(tǒng)"用于智能選品，并提供"AI短視頻創(chuàng)作"工具一鍵生成帶貨視頻。

當(dāng)AI盜播能夠以30元的成本在二手平臺購買，當(dāng)仿冒賬號如野草般燒不盡吹又生，我們不得不承認(rèn)：單靠平臺封號或名人自救，遠(yuǎn)遠(yuǎn)無法遏制這場技術(shù)濫用的洪流。

【小貼士】

網(wǎng)經(jīng)社深耕數(shù)字經(jīng)濟(jì)行業(yè)18年，長期關(guān)注直播電商，旗下直播電商臺重點(diǎn)報(bào)道、研究與服務(wù)的有：1.平臺類：淘寶直播、多多直播、京東直播、抖音電商、快手電商、蘇寧直播、蘑菇街直播、唯品會直播、小紅書直播、嗶哩嗶哩、視頻號；2.MCN類：謙尋文化、美腕、辛有志嚴(yán)選、遙望、交個(gè)朋友、無憂傳媒、東方甄選、與輝同行、如涵、泰洋川禾、蜂群文化、大禹網(wǎng)絡(luò)、青藤文化、宸帆、嘻柚互娛、構(gòu)美、快美、古麥嘉禾、二咖傳媒、熱度電商、集淘、洋蔥視頻、侵塵文化、乾派文化、仙梓文化、緹蘇、彥祖文化、君盟、白兔控股、愿景未來、優(yōu)蜜、全尚文化、銳趣文化、三只羊網(wǎng)絡(luò)、奇東傳媒、麥芽傳媒、奇光傳媒；3.服務(wù)商類：有贊、微盟、魔筷科技、蚊子會、小鵝通、商派、大商創(chuàng)、紅唄、米絡(luò)星傳媒、眾燦互動、銀河眾星、巨鯨幫幫、云犀直播、影行天下、索象、微贊直播、微吼直播、有播、優(yōu)大人、蟬媽媽、飛瓜數(shù)據(jù)；4.電商主播類：李佳琦、蛋蛋、辛巴、羅永浩、董宇輝、時(shí)大漂亮、廣東夫婦、瘋狂小楊哥、太原老葛、蜜蜂驚喜社、香菇來了、瑜大公子、賈乃亮、董先生、陳潔kiki、烈兒寶貝、劉媛媛、高芋芋、多余和毛毛姐、小小101、麥小登、老吳很帥、陳三廢姐弟、國岳、彩虹夫婦、黃宥明、駱王宇、郝劭文、李宣卓、董潔；5.生活服務(wù)電商類：美團(tuán) 攜程。

網(wǎng)經(jīng)社直播電商臺是一站式直播電商門戶，旗下運(yùn)營：行業(yè)資訊、行業(yè)研究、行業(yè)數(shù)據(jù)等系列頻道，提供包括：媒體、報(bào)告榜單、融資、會議、營銷、培訓(xùn)、供應(yīng)鏈融資等。