通信世界網(wǎng)消息(CWW)9月25日,智創(chuàng)“新”北京暨2025(第二十二屆)北京互聯(lián)網(wǎng)大會在京舉辦。抖音集團反詐治理專項負責(zé)人張瑩出席大會并發(fā)表了題為《抖音反詐AI探索與實踐》的精彩演講。她在演講中談道:“抖音基于自研的大模型基座,建立‘召回—識別—研判’的反欺詐用戶模型架構(gòu),運用文本、圖片、視頻、行為等多維度信息構(gòu)建多模態(tài)大模型,欺詐識別效果得到了顯著提升;同時建設(shè)小樣本模型智能生成平臺,內(nèi)置大模型能力,模型訓(xùn)練時效性從周級別減少至小時級別,大大降低模型訓(xùn)練門檻,提高線上對抗效率?!?/p>
抖音集團反詐治理專項負責(zé)人 張瑩
當(dāng)前面臨端外與端內(nèi)兩大詐騙場景
當(dāng)前詐騙場景復(fù)雜多變,且詐騙技術(shù)持續(xù)升級,給抖音的反詐工作帶來多重壓力,主要體現(xiàn)在場景多樣與技術(shù)對抗兩方面。
從詐騙場景來看,可分為端外與端內(nèi)兩類。在端外詐騙中,冒充客服是典型詐騙類型,此類詐騙不僅成本極低,且變體繁多、更新速度快,行為鏈路發(fā)生在抖音APP外。更值得警惕的是,原本易被識別的境外詐騙電話,已逐漸轉(zhuǎn)為境內(nèi)號碼撥打,大幅降低了用戶的辨別難度,中老年群體因防范意識相對薄弱,成為主要受害對象,一旦受騙,可能導(dǎo)致畢生積蓄損失,甚至引發(fā)家庭悲??;此外,仿冒公職人員身份、偽造虛假APP及機構(gòu)名稱等傳統(tǒng)端外詐騙形式也依然存在。
端內(nèi)詐騙則涵蓋刷單引流、交友、購物、招工等多種類型,部分詐騙分子還會通過在抖音站內(nèi)發(fā)布任務(wù),引導(dǎo)用戶跳轉(zhuǎn)至第三方 APP 或小程序?qū)嵤┰p騙,給平臺的審核與防控工作帶來極大阻礙。
此外,張瑩介紹,在技術(shù)對抗層面,借助AI內(nèi)容創(chuàng)作工具,詐騙內(nèi)容生成更便捷,且作弊手法更隱蔽;黑灰產(chǎn)用戶會偽裝成普通用戶,通過建立信任關(guān)系引導(dǎo)他人跳轉(zhuǎn)至境外小程序?qū)嵤┰p騙;同時,詐騙行為多出現(xiàn)在跨平臺場景,還會利用自動化攻擊與智能代理網(wǎng)絡(luò)基建搭建假網(wǎng)站,進一步增加了反詐工作的難度。
端內(nèi)外欺詐治理雙管齊下 成效顯著
針對上述挑戰(zhàn),張瑩表示,抖音成立了反詐專項工作組,聚焦關(guān)鍵痛點開展攻堅,通過技術(shù)創(chuàng)新構(gòu)建起全方位的反詐治理體系,并取得顯著成效。
在治理辦法上,抖音重點圍繞冒充客服場景與端內(nèi)詐騙場景推進工作。在冒充客服場景中,平臺開發(fā)了驗證助手工具,并結(jié)合AI大模型能力,打造從識別到阻斷的全流程防護。用戶在抖音“我的客服”板塊可使用驗證助手,驗證官方賬號、郵箱、短信、客服等信息,輔助用戶辨別真?zhèn)?;若系統(tǒng)識別到用戶存在高風(fēng)險,會觸發(fā)人工客服實時觸達,提示風(fēng)險并進行阻斷。同時,平臺推出官方動態(tài)驗證口令機制,當(dāng)官方客服來電時,會向用戶發(fā)送動態(tài)碼用于身份驗證,還會同步展示官方聯(lián)系記錄,增強用戶對官方客服溝通的心智與安全感。
此外,抖音與通管局、運營商等協(xié)同共治,明確“95152”為統(tǒng)一官方服務(wù)熱線,實現(xiàn)官方來電統(tǒng)一驗證。在端內(nèi)詐騙治理中,平臺自研AI大模型,通過搭建四層標(biāo)簽體系提升風(fēng)險識別效率,同時利用海量風(fēng)險數(shù)據(jù)構(gòu)建小模型智能生成平臺,將模型訓(xùn)練反饋周期從周級縮短至小時級;借助豆包、COZE平臺及DeepSeek能力搭建的智能Agent模型,還實現(xiàn)了詐騙線索的全自動研判與結(jié)構(gòu)化呈現(xiàn)。
在治理成效方面,經(jīng)過近三個月的專項治理,抖音成功將冒充客服及端內(nèi)詐騙風(fēng)險降至低水位線,有效前置識別并攔截了大量風(fēng)險信息,其中冒充客服場景的風(fēng)險阻斷率超過98%,成功勸阻眾多潛在受害用戶。
張瑩表示,未來,抖音將繼續(xù)深化與相關(guān)部門的協(xié)同共治,整合資源、形成合力,探索電話語義識別等前置阻斷技術(shù),持續(xù)履行企業(yè)社會責(zé)任,為用戶營造安全的平臺環(huán)境。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.