在閱讀此文之前，麻煩您點(diǎn)擊一下“關(guān)注”，既方便您進(jìn)行討論和分享，又能給您帶來(lái)不一樣的參與感，感謝您的支持。

前言

以假亂真的AI陷阱有多可怕？

靳東、李梓萌被牽連，就連全紅嬋也沒(méi)逃過(guò)。

內(nèi)娛的明星更是苦不堪言！

網(wǎng)友直言：

還得國(guó)家出手！

01

都說(shuō)科技改變生活。

但全看運(yùn)用這項(xiàng)技術(shù)的人有沒(méi)有良心。

萬(wàn)萬(wàn)想不到，AI詐騙的風(fēng)還是吹到了央視主持人身上！

“家人們，這個(gè)深海多烯魚(yú)油你們得試試，包治百病。”

央視主持人“李梓萌”在直播間里熱情推薦，聲稱(chēng)這款產(chǎn)品能改善頭暈手麻、恢復(fù)記憶，還強(qiáng)調(diào)“有央視給你們把關(guān)，絕對(duì)有保障”。

許多觀(guān)眾因?yàn)樾湃芜@張播報(bào)新聞幾十年的面孔，毫不猶豫地下單購(gòu)買(mǎi)。

然而，真正的李梓萌對(duì)此卻毫不知情。

在直播間里，這個(gè)“李梓萌”不僅形象逼真，聲音也幾乎與真人無(wú)異。

一時(shí)間，直播間人數(shù)從幾萬(wàn)飆升至幾十萬(wàn)，不少觀(guān)眾，尤其是中老年群體。

然而，當(dāng)產(chǎn)品陸續(xù)到家后，消費(fèi)者們才發(fā)現(xiàn)自己上當(dāng)受騙了。

一位阿姨在直播間購(gòu)買(mǎi)了三瓶魚(yú)油，服用半個(gè)月后沒(méi)有任何改善。

仔細(xì)查看產(chǎn)品執(zhí)行標(biāo)準(zhǔn)才發(fā)現(xiàn)，這所謂的“神藥”不過(guò)是糖果類(lèi)食品，根本不具備任何保健功能。

當(dāng)李梓萌被AI克隆的事件曝光后，北京海淀區(qū)市場(chǎng)監(jiān)管局介入調(diào)查。

結(jié)果發(fā)現(xiàn)臉和聲音雖然是李梓萌的，但說(shuō)話(huà)口型對(duì)不上。

偶爾還會(huì)出現(xiàn)亂碼，臉上的光影也顯得極不自然，明顯是AI合成的痕跡。

央視方面很快給出回應(yīng)，稱(chēng)：

李梓萌那段時(shí)間正在籌備新節(jié)目，根本沒(méi)有時(shí)間進(jìn)行直播帶貨，更不可能推銷(xiāo)什么魚(yú)油。

至此，真相大白，原來(lái)這一切都是不法分子利用AI克隆技術(shù)制造的騙局。

他們從網(wǎng)上搜集李梓萌的新聞片段，提取其特征、表情和說(shuō)話(huà)語(yǔ)調(diào)，克隆出一個(gè)“假”李梓萌。

背景也被精心設(shè)計(jì)成演播室模樣，一切都為了營(yíng)造“央視”氛圍，借助央視的公信力賣(mài)貨騙錢(qián)。

網(wǎng)友直呼：

現(xiàn)在的騙子真是防不勝防！

而李梓萌的事件并非孤例，內(nèi)娛明星更是苦不堪言！

首當(dāng)其沖的就是老戲骨靳東！

02

2020 年說(shuō)起，一位江西女子，在短視頻平臺(tái)上結(jié)識(shí)了一位自稱(chēng)是靳東的用戶(hù)。

然而，這個(gè) “靳東” 卻對(duì)她表現(xiàn)出了超乎尋常的熱情，不僅頻繁與她聊天，還向她告白、求婚。

為了證明這份 “愛(ài)情” 的真實(shí)性，“靳東” 還與她合拍了短視頻，發(fā)布在平臺(tái)上，這讓女子更加堅(jiān)信不疑。

隨著感情的 “升溫”，“靳東” 開(kāi)始以拍戲需要資金為由，向女子索要錢(qián)財(cái)。

女子毫不猶豫地選擇相信他，不僅將自己的積蓄全部拿出，甚至還打算離家出走眾籌借錢(qián)給對(duì)方。

幸運(yùn)的是，銀行工作人員發(fā)現(xiàn)了女子的異常行為，并及時(shí)聯(lián)系了警方。

警方經(jīng)過(guò)調(diào)查，發(fā)現(xiàn)這個(gè)所謂的 “靳東” 是不法分子利用 AI 換臉和變聲技術(shù)偽造的虛假賬號(hào)，其目的就是為了騙取女子的錢(qián)財(cái)。

無(wú)獨(dú)有偶，2023 年 9 月，王先生也遭遇了類(lèi)似的騙局。

他的母親是靳東的忠實(shí)粉絲，平時(shí)喜歡在短視頻平臺(tái)上關(guān)注靳東的動(dòng)態(tài)。

突然有一天，母親告訴他，她在平臺(tái)上結(jié)識(shí)了 “靳東”。

此后，“靳東” 以各種理由向母親索要錢(qián)財(cái)，母親前后為其花費(fèi)超過(guò) 20 萬(wàn)。

王先生發(fā)現(xiàn)母親的行為異常后，經(jīng)過(guò)仔細(xì)詢(xún)問(wèn)，才發(fā)現(xiàn)母親被騙。

他立即報(bào)警，警方迅速展開(kāi)調(diào)查，揭開(kāi)了這起 “假靳東” 詐騙案的真相。

原來(lái)，這是一個(gè)有組織、有預(yù)謀的犯罪團(tuán)伙，他們利用 AI 技術(shù)合成靳東的視頻和聲音，在短視頻平臺(tái)上創(chuàng)建大量假靳東賬號(hào)，吸引粉絲關(guān)注。

一旦有粉絲上鉤，他們就會(huì)以各種理由索要錢(qián)款。

這些受害者大多是對(duì)互聯(lián)網(wǎng)使用不太熟悉的中老年女性，她們情感上相對(duì)孤獨(dú)，渴望得到關(guān)愛(ài)和關(guān)注。

而騙子們正是抓住了她們的這一心理弱點(diǎn)，利用 AI 技術(shù)制造出虛假的情感連接，讓她們?cè)诓恢挥X(jué)中陷入了騙局。

“假靳東” 事件的曝光，讓靳東本人也十分憤怒，他發(fā)文怒斥：

希望警方將騙子繩之以法，凈化網(wǎng)絡(luò)風(fēng)氣。

他在兩會(huì)小組討論上坦言：

“一些喜歡我影視劇的觀(guān)眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣”。

而在 AI 造假肆虐的風(fēng)波中，全紅嬋這位年輕的奧運(yùn)冠軍也未能幸免于難。

03

去年下半年，網(wǎng)上出現(xiàn)了大量“全紅嬋推薦土雞蛋”的視頻，假的全紅嬋聲稱(chēng)：

自己吃了這種雞蛋后訓(xùn)練更有力量，營(yíng)養(yǎng)非常好。

不法分子甚至創(chuàng)造了一個(gè)假的全紅嬋在直播間里賣(mài)雞蛋，還將全紅嬋和雞蛋的合影印在包裝上，在超市里銷(xiāo)售。

而事實(shí)上，全紅嬋家人早在 4 月就已聲明，全紅嬋并未授權(quán)任何農(nóng)產(chǎn)品代言。

當(dāng)時(shí)的全紅嬋，正全身心地投入到緊張的訓(xùn)練和比賽中，根本沒(méi)有時(shí)間和精力去參與帶貨活動(dòng)。

這些所謂的 “冠軍帶貨” 視頻，是不法分子利用 AI 技術(shù)精心偽造的。

這些假視頻的傳播力和影響力超乎想象。

有騙子的評(píng)論區(qū)里全是 “嬋寶好孝順”“支持國(guó)貨” 這樣的留言，甚至有人曬出 “已下單” 的訂單截圖。

僅該賬號(hào)的土雞蛋就售出 4.7 萬(wàn)件，按單均 30 元計(jì)算，流水超過(guò)了 140 萬(wàn)元。

而實(shí)際上，這些所謂的土雞蛋，不過(guò)是普通養(yǎng)殖蛋，包裝簡(jiǎn)陋，發(fā)貨地與 “老家” 毫無(wú)關(guān)聯(lián)，與視頻中宣傳的高品質(zhì)土雞蛋相差甚遠(yuǎn)。

直到今年八月，全紅嬋的哥哥忍無(wú)可忍，站出來(lái)揭露了這一騙局，提醒消費(fèi)者不要上當(dāng)受騙。

不僅全紅嬋，孫穎莎和王楚欽等奧運(yùn)冠軍也未能逃過(guò)這場(chǎng)劫難。

在一些視頻中，孫穎莎竟然在幫著全紅嬋賣(mài)雞蛋，王楚欽還 “收到了私信” 幫忙推銷(xiāo)。

這些風(fēng)馬牛不相及的組合，讓人匪夷所思。

而這些視頻的制作手法如出一轍，都是利用 AI 技術(shù)克隆聲音，再拼接視頻，以達(dá)到欺騙消費(fèi)者的目的。

影視明星們同樣苦不堪言。

古天樂(lè)、林峰被線(xiàn)上游戲平臺(tái)利用AI技術(shù)，以他們過(guò)去的肖像和聲音，合成“代言”宣傳帶賭博性質(zhì)的“投資”。

劉曉慶在看過(guò)“AI劉曉慶”后，也驚呼相似度極高。

她曾緊急辟謠：

“畫(huà)面是我，聲音很像我，但不是我！這是怎么做到的？”

明星們的“數(shù)字分身”在未經(jīng)授權(quán)的情況下，活躍在各個(gè)直播平臺(tái)，推銷(xiāo)著從女裝到奶粉的各種商品。

這些偽造的名人代言不僅損害了消費(fèi)者權(quán)益，更嚴(yán)重侵犯了明星的肖像權(quán)、名譽(yù)權(quán)。

一位經(jīng)紀(jì)公司負(fù)責(zé)人無(wú)奈地表示：

“我們每天都要監(jiān)測(cè)網(wǎng)絡(luò)上的AI仿冒內(nèi)容，但封禁一個(gè)，又會(huì)出現(xiàn)兩個(gè)，根本清理不完。”

面對(duì)日益猖獗的AI虛假?gòu)V告，國(guó)家終于出手進(jìn)行整治。

04

李梓萌的案子成為了第一個(gè)AI虛假?gòu)V告案，涉案人員很快被警方抓獲。

除了抓人罰款外，相關(guān)部門(mén)還要求直播平臺(tái)升級(jí)技術(shù)，自動(dòng)識(shí)別AI合成內(nèi)容。

同時(shí)要求主播必須實(shí)名登記，從源頭上遏制AI虛假?gòu)V告的傳播。

2025年，國(guó)家網(wǎng)信辦在全國(guó)范圍內(nèi)部署開(kāi)展“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)。

強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。

那么面對(duì)越來(lái)越逼真的AI偽造內(nèi)容，普通人該如何辨別？

專(zhuān)家提供了幾種簡(jiǎn)單的識(shí)別方法。

注意面部特征：AI技術(shù)往往難以完美處理眼睛的反射和牙齒的細(xì)節(jié)。

偽造視頻中的人物眼神可能顯得呆板，牙齒線(xiàn)條也可能不規(guī)則。

關(guān)注光線(xiàn)與陰影：AI生成的內(nèi)容中，光線(xiàn)和陰影的方向可能不一致，尤其是在面部特征上。

人物與背景的光照條件可能不匹配。

檢查背景細(xì)節(jié)：AI生成的視頻背景往往缺乏細(xì)節(jié)，模糊不清。

背景中的物體可能會(huì)有不自然的變形。

留意皮膚質(zhì)感：AI技術(shù)常常會(huì)過(guò)度“優(yōu)化”人物皮膚，使其看起來(lái)異常光滑，與年齡不符。

核實(shí)信息來(lái)源：對(duì)于可疑內(nèi)容，應(yīng)通過(guò)官方渠道核實(shí)。

如全紅嬋家人早在四月就對(duì)外聲明過(guò)，全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。

結(jié)語(yǔ)

AI克隆技術(shù)的濫用已經(jīng)成為一個(gè)不容忽視的社會(huì)問(wèn)題。

李梓萌、全紅嬋等名人深陷虛假?gòu)V告風(fēng)波，可網(wǎng)友也要擦亮眼睛，多留心，才能避免悲劇發(fā)生。

【免責(zé)聲明】

文章描述過(guò)程、圖片都來(lái)源于網(wǎng)絡(luò)，此文章旨在倡導(dǎo)社會(huì)正能量，無(wú)低俗等不良引導(dǎo)。
如涉及版權(quán)或者人物侵權(quán)問(wèn)題，請(qǐng)及時(shí)聯(lián)系我們，我們將第一時(shí)間刪除內(nèi)容!如有事件存疑部分，聯(lián)系后即刻刪除或作出更改。

參考資料：

央視財(cái)經(jīng)
銳評(píng)|央視主播賣(mài)魚(yú)油?必須斬?cái)郃I換臉的黑手 京報(bào)網(wǎng) 2025-10-16 20:19
央視主持人李梓萌遭AI仿冒帶貨，官方通報(bào) 極目新聞2025-10-15 21:18