作者：仕道君

隨著國產(chǎn)大模型DeepSeek掀起新一輪全球智能風(fēng)暴，AI持續(xù)占據(jù)輿論話題中心。

人們不禁驚呼：AI時代來了！

“AI公務(wù)員”正式上崗滿意度超高，“AI主播”上崗播報全程零失誤，“AI咨詢師”一秒給出推薦列表，病人直接拿著DeepSeek的診斷找醫(yī)生開藥……

人們切實感受著人工智能對各行各業(yè)的重塑，也不時有“某某行業(yè)的黃昏”“某某感覺天塌了”之類信息刷屏。

但是，AI帶來的并非都是好消息。

近日，上海警方成功破獲一起別出心裁的電信網(wǎng)絡(luò)詐騙案，犯罪團伙利用AI技術(shù)生成“小姐姐”形象，在短視頻平臺大肆引流，憑借一套精心設(shè)計的話術(shù)“劇本”，對全國各地近千名男性實施“流水化”詐騙，涉案資金高達200余萬元。

犯罪團伙生成的照片（上海閔行警方 供圖）

犯罪團伙生成的照片（上海閔行警方 供圖）

目前，上海警方已約談相關(guān)短視頻平臺，督促其嚴格審核內(nèi)容，加大對虛假生成、拼貼引流內(nèi)容的識別和下架力度，進一步強化平臺監(jiān)管責(zé)任，凈化網(wǎng)絡(luò)環(huán)境。同時，警方提醒廣大公眾，提高警惕，不要輕易相信網(wǎng)絡(luò)交友信息，避免上當(dāng)受騙。

這種新型詐騙手段的出現(xiàn)，標(biāo)志著AI技術(shù)已經(jīng)被犯罪分子玩出了“新花樣”。

從“AI換臉”到“AI擬聲”，從“AI客服”到“AI美女”，詐騙手段不斷升級，讓人不禁感嘆：這年頭，連騙子都在搞技術(shù)創(chuàng)新！

AI詐騙：一場技術(shù)與人性的博弈

有道是“道高一尺，魔高一丈”，為了“生存”，為了“發(fā)展”，騙子們肯定也在不斷“與時俱進”，用新技術(shù)改造升級自己的“騙術(shù)”，從而提高詐騙成功率。

當(dāng)今的AI詐騙手段，可謂層出不窮，令人防不勝防。

“AI換臉”技術(shù)可以讓詐騙分子冒充他人身份，與受害者視頻通話；“AI擬聲”技術(shù)可以模仿特定人物的聲音，進行電話詐騙；“AI客服”可以24小時不間斷地與潛在受害者聊天，篩選詐騙目標(biāo)。這些技術(shù)的應(yīng)用，使得詐騙行為更加隱蔽，識別難度大大增加。

詐騙分子利用AI技術(shù)，精準(zhǔn)把握人性弱點。他們通過大數(shù)據(jù)分析，篩選出易受騙人群；通過深度學(xué)習(xí)，模擬出最令人信服的對話方式；通過情感計算，設(shè)計出最能打動人的話術(shù)。這種“精準(zhǔn)詐騙”比傳統(tǒng)的“廣撒網(wǎng)”式詐騙更具危害性。

技術(shù)與人性的博弈從未停止。AI技術(shù)本應(yīng)造福人類，卻被不法分子用于詐騙。這提醒我們，技術(shù)發(fā)展必須與倫理建設(shè)同步，否則層出不窮的新技術(shù)就可能成為犯罪分子的幫兇。

從“畫皮”到“攻心”：AI詐騙技術(shù)解讀

經(jīng)濟學(xué)家阿西莫格魯在其著作《權(quán)力與進步：技術(shù)與繁榮的千年斗爭》中提出，不要盲目相信簡單的進步主義敘事，技術(shù)進步并不總是自動帶來社會繁榮，反而可能加劇不平等。

當(dāng)然，技術(shù)進步不僅僅會加劇不平等，還會帶來新的問題、罪惡。

AI詐騙之所以屢屢得手，關(guān)鍵在于其對人性的精準(zhǔn)把握。詐騙分子利用人們對美好事物的向往，制造出完美的虛擬形象；利用人們的孤獨感，設(shè)計出貼心的對話；利用人們的貪婪心理，編織出誘人的騙局。這種“攻心術(shù)”比傳統(tǒng)詐騙更具迷惑性。

社交工程學(xué)在AI詐騙中得到了充分應(yīng)用。詐騙分子通過分析受害者的社交網(wǎng)絡(luò)、消費習(xí)慣、興趣愛好等信息，量身定制詐騙方案。這種“個性化”的詐騙方式，使得受害者更容易上當(dāng)受騙。

認知偏差在AI詐騙中扮演了重要角色。人們往往過于相信自己的判斷，忽視潛在的風(fēng)險；傾向于相信眼見為實，而AI技術(shù)恰恰可以制造出以假亂真的視覺和聽覺效果。這種認知偏差為AI詐騙提供了可乘之機。

齊抓共管：構(gòu)建AI時代的詐騙“防火墻”

目前，中國生成式人工智能領(lǐng)域用戶規(guī)模已突破2.5億。隨著基座大模型研發(fā)、應(yīng)用產(chǎn)品開發(fā)、應(yīng)用推廣、反饋迭代的完整產(chǎn)業(yè)循環(huán)即將閉環(huán)，相信還會有更多的領(lǐng)域和人涉足人工智能之海。

因此，對AI詐騙、AI犯罪行為必須引起高度警惕，務(wù)必采取切實有效的應(yīng)對措施。

技術(shù)防范是抵御AI詐騙的第一道防線。需要開發(fā)更先進的AI識別技術(shù)，用于檢測和防范AI詐騙；加強數(shù)據(jù)安全保護，防止個人信息被不法分子利用；建立AI技術(shù)應(yīng)用的倫理規(guī)范，防止技術(shù)被濫用。

制度建設(shè)是防范AI詐騙的重要保障。需要完善相關(guān)法律法規(guī)，明確AI技術(shù)應(yīng)用的邊界；建立跨部門協(xié)作機制，形成打擊AI詐騙的合力；加強國際合作，共同應(yīng)對跨國AI詐騙犯罪。

提升公眾的數(shù)字素養(yǎng)是防范AI詐騙的根本之策。需要加強AI知識的普及教育，提高公眾對AI技術(shù)的認知；開展防詐騙宣傳教育，增強公眾的防范意識；培養(yǎng)批判性思維能力，提高識別和抵御AI詐騙的能力。

AI技術(shù)的發(fā)展勢不可擋，AI詐騙的威脅也將長期存在。

面對這場賽博世界的“畫皮”大戲，我們既不能因噎廢食，否定AI技術(shù)的積極意義，自然也不能掉以輕心，忽視AI詐騙的現(xiàn)實危害。

只有技術(shù)防范、制度建設(shè)和公眾教育多管齊下，才能在這場技術(shù)與人性的博弈中占據(jù)主動，讓AI技術(shù)真正成為造福人類的利器，而不是犯罪分子的幫兇。

讓我們攜手共建一個安全、可信的AI應(yīng)用環(huán)境，讓“畫皮”無處遁形，讓“攻心”難以得逞。