科技的進(jìn)步究竟是好事還是壞事？

近幾年隨著網(wǎng)絡(luò)的發(fā)達(dá)，和AI的盛行，有越來越多的群眾受騙。

先是打著央視名號(hào)的李梓萌，高喊“神藥”有奇效。

后又有全紅嬋在直播間“賣慘”，試圖博同情讓大家買雞蛋。孫穎莎對(duì)著鏡頭推銷土雞蛋，還搞起了饑餓營(yíng)銷；連王楚欽的賬號(hào)都掛著 “嬋爸嬋媽推薦” 的字樣賣農(nóng)產(chǎn)品。

眼看受害者的名單正在無限加長(zhǎng)，國(guó)家終于開始出手整治。

警方調(diào)查后，大家才驚覺：這些 “名人” 全是 AI 偽造的，背后藏著專門盯著老人錢包的騙局。

那么在面對(duì)科技這把雙刃劍的時(shí)候，專家又會(huì)用什么方法來解決？

最讓人心驚的是央視主持人李梓萌被仿冒的案子。騙子用 AI 技術(shù)復(fù)刻了她的形象和聲音，里的 “李梓萌” 衣著得體，神態(tài)自然，完全看不出破綻。就是靠著這份 “權(quán)威性”，這個(gè) 88 萬粉絲的賬號(hào)把普通糖果包裝成 “治病神藥”，不少老人看完就瘋狂下單，有人甚至一次性買了半年的量。

“我看電視上李梓萌天天播新聞，總不能騙咱們吧？” 張奶奶的想法代表了很多老人的心態(tài)。他們不懂什么是 AI 換臉，只認(rèn) “眼見為實(shí)”—— 里的人是熟面孔，說的話又實(shí)在，哪能想到是假的。直到有老人吃了 “魚油” 不僅沒效果，反而鬧了肚子，幾十位受害者聯(lián)合舉報(bào)，這起騙局才浮出水面。

更過分的是對(duì)奧運(yùn)冠軍的仿冒。全紅嬋的粉絲發(fā)現(xiàn)，一段 “她” 推銷農(nóng)產(chǎn)品的音頻里，聲音雖然像，但語氣總透著奇怪的刻意。后來證實(shí)，這是騙子用 AI 合成的語音，專門編造 “家庭困難” 的劇情博同情。而孫穎莎的仿冒里，“她” 對(duì)著一筐雞蛋說 “自家養(yǎng)的，就剩最后 20 斤”，典型的饑餓營(yíng)銷套路，騙得粉絲爭(zhēng)相搶購(gòu)。

這些騙局能得逞，全抓準(zhǔn)了老人的心理。68 歲的劉阿姨就說，孩子們平時(shí)忙，沒人跟她細(xì)說這些新鮮事，手機(jī)里的 “名人” 說話親切，還懂養(yǎng)生知識(shí)，比家里人還貼心。時(shí)間一長(zhǎng)，她就放下了戒心，人家推薦什么就買什么。可她不知道，這些 “貼心” 的背后，全是算法設(shè)計(jì)好的話術(shù)模板。

如果說仿冒名人是利用權(quán)威，那偽造親人聲音的騙局，簡(jiǎn)直是戳中了家人的軟肋。湖南洞口縣的王大爺就經(jīng)歷過這樣的驚魂時(shí)刻。去年 4 月，他突然接到 “孫子” 的電話，哭著說自己犯事被派出所扣了，急需 2 萬塊取保候?qū)彙?/p>

電話里的聲音和孫子一模一樣，帶著哭腔的懇求讓王大爺心都揪緊了。他沒敢耽擱，立馬取了 2 萬塊現(xiàn)金，交給了 “孫子” 派來的 “朋友”。直到下午 “孫子” 又要 4 萬，王大爺突然想起兒子昨天還說孫子在學(xué)校，這才趕緊打電話核實(shí)，一查發(fā)現(xiàn)根本沒這回事。

“聲音一模一樣，根本沒懷疑過。” 事后王大爺后怕得直拍大腿，幸好警方及時(shí)攔截，才沒讓剩下的 4 萬塊也打水漂。而這類騙局早已不是個(gè)例：銀川有公司經(jīng)理接到 “老板” 的電話，十幾分鐘就轉(zhuǎn)了 20 萬；貴州一位老板被 AI 換臉的 “好友” 騙走幾百萬投標(biāo)保證金。

哈佛大學(xué)前不久做的實(shí)驗(yàn)更讓人揪心。研究人員測(cè)試了 6 款主流 AI 模型，發(fā)現(xiàn)只要簡(jiǎn)單操作，就能繞過安全機(jī)制生成虛假內(nèi)容。他們給 100 位老人發(fā)了 AI 生成的 “釣魚郵件”，結(jié)果 11% 的老人看都不看就點(diǎn)了進(jìn)去。這意味著，每 10 個(gè)老人里就有 1 個(gè)可能中招。

更可怕的是，現(xiàn)在的 AI 造假門檻極低。上傳一張照片就能生成動(dòng)態(tài)，錄幾秒語音就能克隆聲音，甚至不需要專業(yè)技術(shù)，網(wǎng)上花幾百塊就能買到現(xiàn)成的工具。有民警透露，騙子只要收集到足夠的照片和語音素材，就能做出以假亂真的音，連年輕人都未必能分辨。

就在騙子越來越囂張的時(shí)候，國(guó)家終于出手整治了。北京查處了全國(guó)首例 AI 虛假?gòu)V告案，正是針對(duì)仿冒李梓萌推銷 “魚油” 的事件，涉事企業(yè)被依法行政處罰。而那些仿冒全紅嬋、孫穎莎帶貨的人，也都受到了相應(yīng)的懲罰。

除了靠監(jiān)管發(fā)力，咱們自己也得學(xué)會(huì)識(shí)別 AI 造假的破綻。從事 IT 行業(yè)的張先生總結(jié)了幾個(gè)實(shí)用技巧，他說連他那懂軍事的老爸都能學(xué)會(huì)：

首先看細(xì)節(jié)漏洞。AI 生生的人物說話時(shí)，很容易出現(xiàn)口型和語音對(duì)不上的情況，尤其是說長(zhǎng)句子的時(shí)候，嘴唇動(dòng)作會(huì)顯得僵硬。直播的話更明顯，背景往往長(zhǎng)期不變，人物神態(tài)也沒什么變化，不像真人會(huì)有自然的表情波動(dòng)。

其次可以主動(dòng)測(cè)試。遇到可疑的通話，就讓對(duì)方做個(gè)指定動(dòng)作，比如摸鼻子、眨三次眼，或者用手在臉前揮一下。真人能自然完成，可 AI 數(shù)字人一做精細(xì)動(dòng)作就容易露餡，要么畫面扭曲，要么出現(xiàn)重影閃現(xiàn)。要是對(duì)方找借口不做，那十有八九有問題。

最關(guān)鍵的是守住底線。不管是 “名人推薦” 還是 “親人求助”，只要涉及錢的事，必須多核實(shí)一步。陜西省老齡產(chǎn)業(yè)協(xié)會(huì)的侯培琪會(huì)長(zhǎng)提醒，凡是說 “能治病”“有補(bǔ)貼”“急用錢” 的，先打個(gè)電話給子女，或者查一下政府官方電話，千萬別聽風(fēng)就是雨。

從狗會(huì)做飯的搞笑，到名人帶貨的虛假宣傳，AI 技術(shù)本身沒有錯(cuò)，錯(cuò)的是用它來騙人的人。當(dāng)技術(shù)被用來攻擊最脆弱的老年群體時(shí)，我們每個(gè)人都該站出來筑一道防線。

畢竟，讓老人放心用手機(jī)，而不是整天提心吊膽；讓技術(shù)服務(wù)生活，而不是變成騙人的工具，這才是科技該有的樣子。要是你也遇到過可疑的 AI ，歡迎在評(píng)論區(qū)分享，幫更多人避坑！