前言

告不完！

靳東談戀愛(ài)，全紅嬋賣(mài)雞蛋，溫崢嶸成最新受害者！

就連央視李梓萌被牽連？

國(guó)家終于出手了！

01

都說(shuō)科技改變生活，但科技怎么用，全看使用者的良心。

誰(shuí)能想到，AI詐騙的風(fēng)居然刮到了內(nèi)娛明星身上？

“你是溫崢嶸，那我是誰(shuí)？”

深夜下班的溫崢嶸，剛打開(kāi)手機(jī)就發(fā)現(xiàn)“自己”正在直播。

溫崢嶸發(fā)出一句質(zhì)問(wèn)，卻直接被直播間拉黑了。

近日，演員溫崢嶸無(wú)奈求助，自曝刷到AI盜播自己。

出道多年，經(jīng)典角色，可她怎么也沒(méi)想到，有一天自己得證明“我是我”。

而實(shí)際上，這種事情已經(jīng)不是第一次發(fā)生，早在4月份之前，就有人說(shuō)她出現(xiàn)在多個(gè)直播間，“同一時(shí)段，妝發(fā)不同，不同的產(chǎn)品，說(shuō)著同樣的話(huà)”。

這些“假溫崢嶸”在直播間里說(shuō)得天花亂墜，賣(mài)著各種沒(méi)有正規(guī)廠家的產(chǎn)品。

她們不僅動(dòng)作神態(tài)模仿得像，連聲音都極為逼真。

為此，團(tuán)隊(duì)還整理了相關(guān)證據(jù)，發(fā)了律師函。

一天投訴了五十個(gè)左右還沒(méi)開(kāi)播的仿冒賬號(hào)，至少拉停了二十個(gè)直播賬號(hào)，舉報(bào)都要點(diǎn)冒煙了，但無(wú)甚大用。

因?yàn)檫@些假賬號(hào)簡(jiǎn)直是“野火燒不盡，春風(fēng)吹又生”。

那么這些素材都是從哪里的呢？

溫崢嶸帶貨的直播切片，就是源頭。

沒(méi)辦法，黔驢技窮的溫崢嶸在11月5日進(jìn)行了三場(chǎng)以“我是真的溫崢嶸”為主題的直播，講述近期被AI偽造、AI換臉直播帶貨的情況。

把明星逼到這份上，也是少見(jiàn)了。

但溫崢嶸的事件不是個(gè)例，內(nèi)娛明星中，受害者有一個(gè)“足球隊(duì)”！

02

老戲骨靳東就首當(dāng)其沖。

2020年，一位江西女子在短視頻平臺(tái)上認(rèn)識(shí)了一個(gè)自稱(chēng)是靳東的用戶(hù)。

這個(gè)“靳東”對(duì)她特別熱情，不僅頻繁和她聊天，還向她告白、求婚。

為了證明這份“愛(ài)情”的真實(shí)性，“靳東”還和她合拍了短視頻，并發(fā)布在平臺(tái)上。

這讓女子更加堅(jiān)信不疑，覺(jué)得自己遇到了真愛(ài)。

隨著感情的“升溫”，“靳東”開(kāi)始以拍戲需要資金為由，向女子索要錢(qián)財(cái)。

女子毫不猶豫地相信了他，不僅把自己的積蓄全部拿了出來(lái)，甚至還打算離家出走，去眾籌借錢(qián)給對(duì)方。

幸運(yùn)的是，銀行工作人員發(fā)現(xiàn)了女子的異常行為，并及時(shí)聯(lián)系了警方。

警方經(jīng)過(guò)調(diào)查，發(fā)現(xiàn)這個(gè)所謂的“靳東”是不法分子利用AI換臉和變聲技術(shù)偽造的虛假賬號(hào)，目的就是騙取女子的錢(qián)財(cái)。

無(wú)獨(dú)有偶，2023年9月，王先生也遇到了類(lèi)似的騙局。

他的母親是靳東的忠實(shí)粉絲，平時(shí)喜歡在短視頻平臺(tái)上關(guān)注靳東的動(dòng)態(tài)。

突然有一天，母親告訴他，自己在平臺(tái)上結(jié)識(shí)了“靳東”。

此后，“靳東”就以各種理由向母親索要錢(qián)財(cái)，母親前后為他花費(fèi)超過(guò)了20萬(wàn)。

王先生發(fā)現(xiàn)母親的行為異常后，經(jīng)過(guò)仔細(xì)詢(xún)問(wèn)，才知道母親被騙了。

他立即報(bào)警，警方迅速展開(kāi)調(diào)查，揭開(kāi)了這起“假靳東”詐騙案的真相。

這個(gè)犯罪團(tuán)伙利用AI技術(shù)合成靳東的視頻和聲音，在短視頻平臺(tái)上創(chuàng)建大量假靳東賬號(hào)，吸引粉絲關(guān)注。

利用粉絲的癡迷，各種賣(mài)慘，一旦有粉絲上鉤，他們就會(huì)以各種理由索要錢(qián)款。

“假靳東”事件的曝光，讓靳東本人也十分憤怒。

在今年的兩會(huì)小組討論上，他也一再呼吁國(guó)家出手整治AI亂象：

“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣。”

無(wú)獨(dú)有偶，今年8月，央視曝光了多個(gè)利用AI仿冒奧運(yùn)冠軍全紅嬋帶貨土雞蛋的賬號(hào)。

視頻中，AI全紅嬋一會(huì)賣(mài)土雞蛋，一會(huì)又推薦農(nóng)家土蜂蜜。

一時(shí)間，不少網(wǎng)友信以為真，紛紛點(diǎn)贊下單支持，讓詐騙團(tuán)伙賺的盆滿(mǎn)缽滿(mǎn)。

但實(shí)際上，全紅嬋的家人早在四月就辟謠，全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。

中招“被帶貨”的不只全紅嬋，就連國(guó)乒隊(duì)也遭殃，AI仿冒的孫穎莎、王楚欽也層出不窮。

AI仿冒名人已不是新鮮事，但沒(méi)想到這股風(fēng)，竟然還能吹到央視主持人身上？

03

“家人們，這個(gè)深海多烯魚(yú)油你們得試試，包治百病?！?br/>

在直播間里，一位長(zhǎng)得和央視主持人李梓萌極為相似的人，正熱情地推薦著產(chǎn)品。

她聲稱(chēng)這款魚(yú)油能改善頭暈手麻、恢復(fù)記憶，還信誓旦旦地強(qiáng)調(diào)：

“有央視給你們把關(guān)，絕對(duì)有保障?！?br/>

很多觀眾因?yàn)樾湃芜@張播報(bào)新聞多年的面孔，毫不猶豫地就下單購(gòu)買(mǎi)了。

可當(dāng)產(chǎn)品陸續(xù)送到消費(fèi)者手中后，大家才發(fā)現(xiàn)自己上當(dāng)受騙了。

仔細(xì)查看產(chǎn)品執(zhí)行標(biāo)準(zhǔn)后，才發(fā)現(xiàn)這所謂的“神藥”，不過(guò)就是糖果類(lèi)食品，根本不具備任何保健功能。

李梓萌被AI克隆的事件曝光后，北京海淀區(qū)市場(chǎng)監(jiān)管局迅速介入調(diào)查。

結(jié)果發(fā)現(xiàn)，畫(huà)面里的臉和聲音都是AI合成的。

央視方面很快做出回應(yīng)，稱(chēng)李梓萌那段時(shí)間正在籌備新節(jié)目，根本沒(méi)時(shí)間進(jìn)行直播帶貨，更不可能推銷(xiāo)什么魚(yú)油。

至此，真相大白，原來(lái)這一切都是不法分子利用AI克隆技術(shù)制造的騙局。

劉曉慶在看過(guò)“AI劉曉慶”后，也驚呼相似度極高。

她曾緊急辟謠：

“畫(huà)面是我，聲音很像我，但不是我！這是怎么做到的？”

明星們的“數(shù)字分身”在未經(jīng)授權(quán)的情況下，活躍在各個(gè)直播平臺(tái)，推銷(xiāo)著從女裝到奶粉的各種商品。

這些偽造的名人代言不僅損害了消費(fèi)者權(quán)益，更嚴(yán)重侵犯了明星的肖像權(quán)、名譽(yù)權(quán)。

那么，AI仿冒名人現(xiàn)象為何如此泛濫？

究其根源，在于AI偽造的門(mén)檻太低，而利潤(rùn)卻相當(dāng)可觀。

在這條產(chǎn)業(yè)鏈中，上游通過(guò)爬蟲(chóng)抓取、二手設(shè)備回收提取相冊(cè)、短視頻平臺(tái)音頻提取等獲取受害者生活照、聲紋切片與3D頭模。

中游則實(shí)現(xiàn)人臉替換、驅(qū)動(dòng)與重播、對(duì)抗檢測(cè)清洗等。

下游直接通過(guò)AI換臉進(jìn)行詐騙、誘導(dǎo)轉(zhuǎn)賬、直播帶貨或打賞等違法犯罪行為。

在各平臺(tái)，提供相關(guān)AI偽造服務(wù)的商家比比皆是。

記者在某二手交易電商平臺(tái)上發(fā)現(xiàn)，進(jìn)行人臉識(shí)別、代做視頻、人臉（信息）提取的業(yè)務(wù)售價(jià)僅30元！

雖然賣(mài)家強(qiáng)調(diào)用戶(hù)需確保所提供素材不侵犯第三方版權(quán)或其他權(quán)益，但這樣的“君子協(xié)定”到底具有多大的約束力，恐怕要打一個(gè)問(wèn)號(hào)。

面對(duì)這種亂象，國(guó)家終于出手了！

04

李梓萌的案子成為了第一個(gè)AI虛假?gòu)V告案，涉案人員很快被警方抓獲。

除了抓人罰款外，相關(guān)部門(mén)還要求直播平臺(tái)升級(jí)技術(shù)，自動(dòng)識(shí)別AI合成內(nèi)容。

同時(shí)要求主播必須實(shí)名登記，從源頭上遏制AI虛假?gòu)V告的傳播。

而溫崢嶸事件，央視直接在抖音平臺(tái)開(kāi)設(shè)直播澄清。

在各個(gè)明星的呼吁下，國(guó)家終于出手了。

近日，國(guó)務(wù)院推出了《深化“AI+”行動(dòng)落實(shí)意見(jiàn)》的詳細(xì)指導(dǎo)文件，強(qiáng)調(diào)了政府在推動(dòng)人工智能技術(shù)發(fā)展方面的堅(jiān)定承諾。

該倡議的核心是優(yōu)化國(guó)家人工智能發(fā)展的基礎(chǔ)設(shè)施，尤其是改善智能計(jì)算資源的國(guó)家布局。

在執(zhí)法層面，北京市海淀區(qū)市場(chǎng)監(jiān)管局運(yùn)用《中華人民共和國(guó)廣告法》對(duì)濫用AI技術(shù)冒用知名人物形象發(fā)布虛假?gòu)V告問(wèn)題首度“亮劍”。

平臺(tái)方面也開(kāi)始行動(dòng)，抖音電商安全與信任中心在11月6日發(fā)文稱(chēng)，10月已啟動(dòng)“仿冒名人宣傳”專(zhuān)項(xiàng)治理行動(dòng)。

專(zhuān)項(xiàng)啟動(dòng)以來(lái)，已嚴(yán)厲處置違規(guī)賬號(hào)1.1萬(wàn)個(gè)，商品6700余個(gè)，同時(shí)，平臺(tái)也積極引導(dǎo)多位達(dá)人開(kāi)通“阻止相同侵權(quán)內(nèi)容傳播”功能，保障權(quán)益。

同時(shí)，平臺(tái)也積極引導(dǎo)多位達(dá)人開(kāi)通“阻止相同侵權(quán)內(nèi)容傳播”功能，保障權(quán)益。

針對(duì)溫崢嶸案例，抖音平臺(tái)依據(jù)《創(chuàng)作者【仿冒名人宣傳】細(xì)則》，已對(duì)相關(guān)賬號(hào)進(jìn)行中斷直播、下架違規(guī)商品及視頻、凍結(jié)成交金額等處罰。

結(jié)語(yǔ)

但AI治理是一場(chǎng)需要長(zhǎng)久戰(zhàn)。

從李梓萌到全紅嬋，從靳東到溫崢嶸，名人們?nèi)栽贏I仿冒的漩渦中掙扎。

技術(shù)本身沒(méi)有善惡，但使用技術(shù)的人卻有。

在這場(chǎng)AI的攻防戰(zhàn)中，我們需要更好的技術(shù)、更嚴(yán)的法律、更平臺(tái)的責(zé)任心，以及每個(gè)網(wǎng)民更清醒的認(rèn)知。

AI的未來(lái)不應(yīng)是騙局橫行的荒野，而應(yīng)是促進(jìn)社會(huì)進(jìn)步的沃土。

【免責(zé)聲明】

文章描述過(guò)程、圖片都來(lái)源于網(wǎng)絡(luò)，此文章旨在倡導(dǎo)社會(huì)正能量，無(wú)低俗等不良引導(dǎo)。
如涉及版權(quán)或者人物侵權(quán)問(wèn)題，請(qǐng)及時(shí)聯(lián)系我們，我們將第一時(shí)間刪除內(nèi)容!如有事件存疑部分，聯(lián)系后即刻刪除或作出更改。