技術(shù)本該是為更好的生活，怎奈卻成了人性貪婪的工具。

“你是溫崢嶸，那我是誰？”

深夜，演員溫崢嶸拍完戲回家，打開手機刷視頻。

本想緩解疲憊，沒想到卻看到了讓她驚心的畫面。

“自己”正在某個直播間里，精神抖擻地賣著貨。

她愣了幾秒，敲下這句帶著荒誕與憤怒的質(zhì)問，發(fā)送。

然而，回應(yīng)她的，不是驚慌失措的解釋，也不是倉皇下播。

而是干脆利落的秒拉黑。

那一刻，真真切切的溫崢嶸，被虛擬的“AI分身”拒之門外。

后來，她在接受采訪時苦笑著說：“我現(xiàn)在就很難證明我是我?！?/p>

這正是當下正在發(fā)生的現(xiàn)實。

它撕開的，是一條基于AI技術(shù)的黑灰產(chǎn)鏈條。

其囂張程度，連明星本人都感到無力。

囂張的“李鬼”

真是不敢想，自己努力辛苦工作，卻發(fā)現(xiàn)冒充“你”的分身正不眠不休地加班。

它賣著你壓根沒見過的產(chǎn)品，用你的笑臉和聲音，收割著信任你的粉絲。

據(jù)報道，同一時段，曾有三個不同的直播間出現(xiàn)“溫崢嶸”。

妝發(fā)不同，產(chǎn)品各異，卻說著同樣的話。

這讓不明就里的網(wǎng)友懷疑，溫崢嶸是不是在用錄播冒充直播？

她的團隊工作人員有苦難言。

他們像打地鼠一樣，一天之內(nèi)曾舉報過50個假冒賬號。

剛封掉一個，又換個“馬甲”冒出另一個，防不勝防。

更狡猾的是，這些造假者專挑凌晨三四點發(fā)布，打時間差，讓人措手不及。

而他們使用的素材，就來自溫崢嶸本人日常的公開視頻和直播。

“畫面是真的，只是在講不同的事情；聲音也是真的?！?/strong>

這種“真真假假”的拼接，迷惑性太強了。

粉絲出于信任下單，買到劣質(zhì)產(chǎn)品。

最終損害的，卻是溫崢嶸多年積累的口碑。

團隊年前就開始發(fā)律師函，但面對茫茫網(wǎng)絡(luò)，如同大海撈針。

取證，成了這場維權(quán)中最耗費精力的戰(zhàn)斗。

賬號封禁背后的貓鼠游戲

演員溫崢嶸的遭遇，引起了各平臺和網(wǎng)友的極大關(guān)注。

作為直播間的平臺方，終于亮出了重拳。

11月6日，抖音集團副總裁李亮公開發(fā)文回應(yīng)。

首先澄清了一個廣為流傳的細節(jié)。

被曝光的“三個直播間同時開播”案例，并不是發(fā)生在抖音平臺。

但他也坦誠面對，抖音上也確實存在利用AI仿冒名人帶貨的短視頻內(nèi)容。

這不只是溫崢嶸一個人的遭遇。

董宇輝、羅永浩等頂流主播，甚至央視主持人的形象，都曾被AI“盜用”。

有的被用來賣不知名護膚品，有的被拼接改編，用于宣傳保健品。

對此，知名教育博主張雪峰一針見血。

“這明明就是詐騙，騙取用戶信任，獲得巨額利益。”

面對愈演愈烈的態(tài)勢，抖音電商10月啟動了“仿冒名人宣傳”專項治理。

根據(jù)公布的數(shù)據(jù)，專項啟動以來，已處置違規(guī)達人賬號1.1萬個，下架違規(guī)商品6700余個。

其中，針對溫崢嶸的仿冒侵權(quán)視頻，就下架了1萬余條。

平臺不僅在事后封禁，也開始嘗試“防患于未然”。

引導(dǎo)達人開通“阻止相同侵權(quán)內(nèi)容傳播”功能，據(jù)稱已主動攔截數(shù)萬條侵權(quán)視頻。

但李亮副總裁也道出了平臺的無奈。

“AI內(nèi)容侵權(quán)識別是行業(yè)性技術(shù)難題，惡意仿冒賬號也在不斷與平臺進行技術(shù)對抗?！?/strong>

這注定是一場“魔高一尺，道高一丈”的長期較量。

暗處的“產(chǎn)業(yè)鏈”

為什么AI盜播如此猖獗？

因為這里藏著一條成熟且門檻極低的黑灰產(chǎn)鏈條。

某交易平臺上，人臉識別、代做視頻、人臉信息提取業(yè)務(wù)，僅僅30元。

賣家還聲明，要求用戶確保素材不侵權(quán)，試圖撇清法律責任。

30元就可能成為侵權(quán)鏈條的一環(huán)。

安全專家梳理出這條鏈條的四個環(huán)節(jié)。

上游“采料”。

通過回收二手設(shè)備提取相冊、音頻，非法獲取受害者的生活照、聲音片段，甚至制作3D頭模。

中游“加工”。

利用AI換臉、聲音克隆、動作驅(qū)動等技術(shù)，完成人臉替換和視頻合成。

并學(xué)習清洗數(shù)據(jù)，對抗平臺檢測。

下游“行騙”。

把偽造的視頻應(yīng)用于具體場景，如直播帶貨、詐騙轉(zhuǎn)賬、色情勒索等。

最終“洗錢”。

通過一系列手段將非法獲利“洗白”。

近一年，利用AI換聲換臉，進行的違法犯罪顯著上升。

因為生成式AI技術(shù)的開源和普及，犯罪門檻和成本極低。

以前專業(yè)團隊才能完成的效果，現(xiàn)在一個普通人借助簡單工具就能實現(xiàn)。

如何守住“我是我”的底線

溫崢嶸的遭遇，給市場和AI技術(shù)敲響警鐘。

AI技術(shù)的濫用，不是遙遠的威脅，而是近期的切膚之痛。

這場博弈的復(fù)雜性，遠超簡單的封號。

專家也發(fā)出提示，AI安全風險治理是一個復(fù)雜的社會問題，需要三方面的協(xié)同努力。

法律之拳要更硬。

完善法律法規(guī)，對新型AI犯罪進行精準定性，提高違法成本，做到“事后監(jiān)管懲戒”有力。

技術(shù)之盾要更韌，平臺和安全廠商需要持續(xù)投入研發(fā)鑒偽技術(shù)。

這是一場沒有終點的“貓鼠游戲”，必須保持技術(shù)迭代的敏銳度。

公眾之眼要更亮，我們每個人都要提升數(shù)字素養(yǎng)。

看到過于完美、不合常理的明星帶貨視頻，多一份警惕。

主動舉報，就是在幫助凈化整個網(wǎng)絡(luò)環(huán)境。

技術(shù)本身無罪，關(guān)鍵在于使用它的人。

AI換臉在影視特效、醫(yī)療教育等領(lǐng)域綻放著光彩。

但用在仿冒欺詐上，就走上了邪路。

AI打假和法制監(jiān)管迫在眉睫，否則證明“我是我”成為時代難題。

這不僅是保護明星的肖像權(quán)，更是普通人在數(shù)字世界的安全感。

溫崢嶸的這句“我是誰”的質(zhì)問，希望真正喚醒各方的行動。

讓技術(shù)回歸服務(wù)人性的正道，而不是成為信任的掘墓人。

素材來源

1.《光明網(wǎng)》演員溫崢嶸自曝刷到AI盜播，上前質(zhì)問“你是溫崢嶸我是誰”，對方囂張到直接拉黑

2.《雷科技》重拳整治！抖音AI盜臉帶貨泛濫，1萬賬號被連夜封殺

3.《上觀新聞》女演員自曝刷到AI盜播，抖音副總裁回應(yīng)

4.《第一財經(jīng)》“你是溫崢嶸我是誰？”AI換臉盜播女星撕開黑灰產(chǎn)一角

本文作者 | 檸檬雪
責任編輯 | 淡淡翠
策劃 | 淡淡翠