又是一年開學季，大學生們銜接學業(yè)、辦理入學手續(xù)、尋覓實習兼職等事務的處理往往集中在這一時期，但由于社會閱歷尚淺，經(jīng)驗有限，極易踩中詐騙分子“精心”布好的陷阱。因為隨著AI等新興技術(shù)的進步，不法分子的詐騙手段也在升級，讓人難辨真?zhèn)巍?/strong>

01

“你有一筆助學金待領(lǐng)取”

來自江西的白同學（化名）不久前收到了一封以校辦宣傳部為名義的郵件，內(nèi)容是學院資助的名單公示，要求收到通知的同學在審核時間期限內(nèi)完成身份認證，并附上了認證渠道的網(wǎng)址鏈接。

白同學點開鏈接跳轉(zhuǎn)至騰訊文檔的登錄界面，按照要求填寫完信息并提交后，界面彈出“認證成功”的提示，并聲稱教育部門將在1-3個工作日通過郵件發(fā)送詳情。但他隨即收到了平臺的防盜提示，顯示自己的QQ賬號被異地惡意登錄。

白同學收到郵件后的操作過程，以及收到的登錄安全提醒

來自山西的王同學（化名）同樣遭遇了這一騙局，導致自己的賬號被盜。其實這是十分常見的詐騙套路：冒充學校的名義發(fā)布助學金、獎學金或教育補貼等的認證提示，要求學生提供銀行卡號、密碼、短信驗證碼等，收集個人信息后盜取相關(guān)賬號，不僅利用用戶本人的支付密碼盜刷賬戶，還會再用被盜賬號騙取通訊錄聯(lián)系人的錢財。

“復盤時才反應過來，這是如此明顯的圈套。”王同學坦言，“但在收到郵件的當時，一想到自己確實申請過，發(fā)件人又是學校官方部門，注意力就放在怎么填寫信息上了，沒想到去質(zhì)疑。”

這正是騙術(shù)的“精妙”之處，由于發(fā)件人是學校官方部門，還涉及教育系統(tǒng)認證這種權(quán)威渠道，不少同學并不會像在網(wǎng)購、拼單、添加陌生人等場景中那樣高度警惕，才會輕易上當。

也有收到類似郵件的網(wǎng)友反映，自己已經(jīng)畢業(yè)幾年根本不可能申請學校助學金，發(fā)件人還特意在抄送列表勾選了很多賬號，營造抄送多人的假象，讓郵件看起來更可信。郵件中的時間截止日期也設(shè)置得很緊迫，一般當天收到第二天就要求提交，這是為了不給受騙人留下思考時間，營造緊迫感誘導沖動操作。

02

被包裝的“高薪兼職”

實習兼職同樣是導致大學生上當受騙的重災區(qū)，騙子通常會潛伏在各類新生群、同鄉(xiāng)群、社團群中，讓學生誤以為是自己的校友從而放松警惕，由此將受騙者引入他們“量身定制”的招聘渠道。由于利用AI分析了海量求職信息和兼職平臺數(shù)據(jù)，他們批量生成的崗位和招聘文案往往能精準抓住學生痛點。

來自廣東的唐同學（化名）就險些踩中陷阱，她收到一封以公司名義發(fā)出的招聘郵件，其中介紹了公司情況和面試要求，一整套流程規(guī)范嚴謹，提供的公司網(wǎng)頁和HR工作證等信息也很正規(guī)，讓人看不出破綻，殊不知這些只是不法分子利用AI套模板包裝出來的假象。

郵件中告知她面試必須經(jīng)過為期兩天的測評，唐同學求職心切，在對方的指引下一一照做，于是點擊了不明鏈接，下載一個名為“實訓助手”的軟件。隨后，唐同學在群內(nèi)的騰訊文檔回答了測試問題，但內(nèi)容相當簡單，并未考驗崗位技能。

“因為全程是一對一溝通，群里不允許任何人發(fā)言，所以第一天測評后我還沒有意識到被騙。”唐同學回憶，直到對方以支付測評底薪的名義索要收款碼并讓她先墊付數(shù)據(jù)分析的費用（承諾隨后返款提現(xiàn)）時，心存懷疑的她才直接質(zhì)問是否是刷單。當她借口要做會議紀要以便取證時，對方意識到唐同學已經(jīng)反應過來，立馬將她踢出群。

唐同學的經(jīng)歷并非個例，不少同學都有類似的遭遇，騙子通常會解釋招聘的公司為集團子公司，正在辦理更名手續(xù)，以此打消求職者因官網(wǎng)名稱不符產(chǎn)生的疑慮，再提供陌生軟件的下載鏈接，轉(zhuǎn)移溝通陣地，層層試探，降低人們的警惕性。
有類似經(jīng)歷的求職者提供的溝通截圖

另外，當騙子通過各種手段獲取賬號和信息后，還會通過AI變聲或AI換臉技術(shù)冒充學生本人對通訊錄中的親朋好友實施詐騙，面部信息和聲紋信息往往是在線上面試的視頻環(huán)節(jié)被竊取的。隨著AI應用日趨成熟，如今的換臉換聲已很難僅憑肉眼發(fā)現(xiàn)端倪。

近日，央視新聞就曝光了有網(wǎng)友利用AI變聲仿冒全紅嬋、王楚欽、孫穎莎等奧運冠軍為土特產(chǎn)帶貨的問題，偽造的視頻點贊量高達上萬，從評論區(qū)留言中能夠發(fā)現(xiàn)，許多下單購買鏈接商品的粉絲真的誤以為視頻中為運動員本人。

網(wǎng)傳AI仿冒運動員帶貨畫面

03

AI詐騙攪動開學季

無論是借身份認證盜取賬號、AI變聲、AI換臉，還是偽造高薪兼職信息，本質(zhì)都是為了收集用戶的真實信息，除了盜刷本人錢財，還試圖通過呈現(xiàn)“是本人在操作”的效果，博取受騙人親朋好友的信任。

想要識破這一陷阱，最直接也最有效的方式是通過第三方信息來驗證真?zhèn)巍?/p>

例如，父母收到涉及錢財?shù)南⒑?，可以?lián)系輔導員和孩子的相熟好友交叉驗證來確定真實行蹤；學生收到校方郵件后，登錄教育部和學校官網(wǎng)查詢助學金、獎學金等申請政策和流程，還可以線下找到輔導員面對面咨詢，或撥打?qū)W校教務處或?qū)W院相關(guān)辦公室的官方電話確認信息。

實習求職時，先在企查查這類網(wǎng)站上查詢公司的相關(guān)認證和注冊信息，并認準公司官網(wǎng)投遞簡歷，或是從平臺認證過的官方藍V賬號處獲取招聘渠道，注意比對企業(yè)認證信息和官網(wǎng)網(wǎng)址。

AI技術(shù)的發(fā)展讓詐騙手段愈發(fā)隱蔽，難辨真假。唯有冷靜多思，摸清新“套路”做到知己知彼，并提高警惕性，養(yǎng)成用第三方信息和官方渠道辯明真?zhèn)蔚牧晳T，才能筑牢新學期的安全防線。

04

“數(shù)字學生”的集體欺詐

當看似傳統(tǒng)的騙術(shù)有了AI的技術(shù)加持，詐騙不再是廣撒網(wǎng)式的撞大運，而是升級成可怕的“精準狙擊”，詐騙效率和迷惑性都得到了大幅提升。但這只是AI欺詐威脅的冰山一角，更危險的趨勢正在蔓延。犯罪分子正在調(diào)轉(zhuǎn)炮口，用算法武器瞄準學校乃至政府的關(guān)鍵堡壘。

前述案例本質(zhì)上仍然是在利用信息差，而針對政府機構(gòu)的騙局，AI的比重顯著增加。

2022年6月，美國教育部曾經(jīng)對某個欺詐組織進行了調(diào)查。據(jù)了解，該組織在過去四年中使用了至少57個AI虛擬人，從美國聯(lián)邦教育系統(tǒng)騙取了超過110萬美元的援助。而該組織所參與的另一個欺詐案，很可能涉及超過100萬美元，以及70個虛擬人。

從已經(jīng)公開的資料來看，2019年9月至2023年12月，假冒學生的AI申請者，從美國聯(lián)邦教育體系中獲得了超500萬美元的資金援助。

州政府同樣深受其害，2024年，加利福尼亞州州政府透露，州內(nèi)高校共收到了約120萬份涉嫌造假的學生申請，最終確認為虛假注冊的案例達到驚人的22.3萬起，導致助學金損失超過1110萬美元。

美國“數(shù)字學生”正在騙取學校補助。（圖片上22，3萬起改為 22.3萬起；數(shù)據(jù)依源……刪除）

這些“數(shù)字學生”比人類還擅長“人情世故”。（加粗突出）它們會給教職員發(fā)郵件希望提高評分的等級；甚至在遠程課堂的出勤率，比真正的學生要高，也會按時交作業(yè)；詐騙者甚至利用Chat GPT等AI工具偽裝成學生搶占課堂席位，讓真正的學生無學分可修……一套連招下來，教職員光是要分辨真?zhèn)螌W生就已經(jīng)筋疲力竭。

總的來看，AI換臉在類似的詐騙案件中的使用率極高，同時又有語音合成技術(shù)相配。犯罪分子通過非法獲取的人臉照片和語音樣本，就能快速利用開源AI工具，生成極其逼真的虛擬形象。

05

從薄弱處攻擊其他行業(yè)

把視角拉遠，看看校園之外的社會，我們會驚悚的發(fā)現(xiàn)，類似的AI生成軟件工具正在滲透消費、金融等領(lǐng)域的所有漏洞，可以說我們正面臨著前所未有的信任危機。

多名科技公司技術(shù)人員告訴記者，通過深度學習和語音合成技術(shù)，AI足以高度逼真地模仿任何人的聲音，其精確度能繞過目前廣泛應用于電話銀行、在線支付等領(lǐng)域的聲紋驗證系統(tǒng)。

聲紋認證在十多年前開始成為高端銀行客戶的身份驗證手段，客戶通常需要在電話中說出一個指定短語來訪問賬戶。

然而，現(xiàn)如今 AI 語音甚至是視頻克隆技術(shù)能夠在越來越高的精度下模仿個人身份，OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）曾指出，這種模仿方式已經(jīng)“幾乎無法與真實區(qū)分”。

OpenAI首席執(zhí)行官薩姆·奧特曼

“讓我感到震驚的是，居然還有一些金融機構(gòu)接受聲紋作為身份驗證。這簡直不可思議，AI 技術(shù)已經(jīng)完全突破了這一防線?！彼麛嘌?，AI已經(jīng)完全擊敗了目前人們使用的大多數(shù)身份驗證方式，除了密碼。

一旦不法分子能隨意模仿個人聲音，就能輕易冒充受害者、越過安全檢查，直接進行資金轉(zhuǎn)移，其后果不堪設(shè)想。

這種AI語音技能還有更廣泛的詐騙應用，比如用于模仿高管的語音指令，指示財務部門進行未經(jīng)授權(quán)的資金轉(zhuǎn)移。

2020年，一家英國能源公司的CEO在電話中接到德國母公司老總的指令，要求他立刻向匈牙利供應商支付一筆緊急款項 。

詐騙分子聲稱該老板“剛剛換過號碼”，讓其撥打新號碼確認。當這位CEO撥打該號碼時，聽到的就是經(jīng)由AI深度偽造后的“老板”聲音?！袄习濉痹陔娫捴姓Z氣緊急且權(quán)威，強調(diào)款項必須在1小時內(nèi)完成支付，并要求確認轉(zhuǎn)賬是否完成。此案后續(xù)被FBI等機構(gòu)多次引用作為典型案例。

AI可以完美扮演任何人

敏感的人早已意識到這其中最令人悚然的問題：AI的各種“模仿技”，正在對傳統(tǒng)安全防線進行沖擊。傳統(tǒng)“你是不是本人”的驗證問題，在AI面前變得毫無意義，因為AI可以完美地“扮演”任何人。

通過合成受害者的聲音、面部特征甚至行為模式，AI還可能被用于創(chuàng)建虛假的身份信息，進而用于開設(shè)銀行賬戶、申請貸款或進行其他非法活動。

況且，AI目前可以生成高度個性化、語法流暢、邏輯嚴密的釣魚郵件或信息，模仿特定機構(gòu)的語氣和風格更是不在話下，受害者或機構(gòu)往往難辨真?zhèn)巍?/p>

06

用AI反制AI

既然AI的能力我們已經(jīng)有所了解，那么到底有什么辦法能控制這頭“猛獸”不為犯罪分子所用？或許解鈴還須系鈴人。

今年4月，OpenAI內(nèi)部曾測試過一項新功能，即在用戶生成的圖像加上水印，讓采用ChatGPT-4o內(nèi)嵌的ImageGen大模型生成的圖像，上面都有特殊水印。這一舉動也是為了告知所有人此乃AI生成圖片。

但這也是杯水車薪，因為水印非常明顯，用戶可以通過各種編輯軟件輕松抹除。作為平臺企業(yè)，完全可以在產(chǎn)出物上設(shè)計一些隱藏信息編碼技術(shù)，在看似普通的內(nèi)容里藏一些表面看不出來、但內(nèi)行人可提取分辨的信息。

更重要的是，要加強對AI生成內(nèi)容的鑒別能力。這意味著需要投入研發(fā)，開發(fā)能夠識別AI生成聲音、圖像、文本的工具。利用AI反制AI，通過訓練識別虛假信息的數(shù)據(jù)模型，來辨別出那些非人類生成的合成內(nèi)容。

微信訂閱

歡迎通過郵局渠道訂閱2025年《電腦報》

郵發(fā)代號：77-19

單價：8元，年價：400元

編輯｜張毅

主編｜黎坤

總編輯｜吳新

爆料聯(lián)系：cpcfan1874（微信）

壹零社：用圖文、視頻記錄科技互聯(lián)網(wǎng)新鮮事、電商生活、云計算、ICT領(lǐng)域、消費電子，商業(yè)故事。《中國知網(wǎng)》每周全文收錄；中國科技報刊100強；2021年微博百萬粉絲俱樂部成員；2022年抖音優(yōu)質(zhì)科技內(nèi)容創(chuàng)作者