最近香港一個(gè)公司職員，參加總部CFO（首席財(cái)務(wù)官）舉辦的多人視頻會議，然后按照會議上領(lǐng)導(dǎo)的要求轉(zhuǎn)賬了2億港元，誰知道轉(zhuǎn)賬完后向總部查詢才知道上當(dāng)了：視頻會議中所有人全是假的，都是AI換臉的。

很多人不知道這種案件是怎么發(fā)生的，其實(shí)原理并不復(fù)雜，詐騙 人員 肯定是團(tuán)伙作案，做了很 久的布局，比方說冒 充職 員 或者其他方式 偷 偷錄制 這個(gè)公司相關(guān)人員 的視頻和 聲音，然后使 用 AI軟件 生成對 應(yīng)樣本，然后黑入 視頻會議系統(tǒng)并 開啟人物AI換臉 即可。

如果你使用過抖音出品的剪映，可以體驗(yàn)類似的功能，數(shù)字人+模仿音色。前者是一個(gè)制作好的人物視頻樣本，模仿音色功能可以在幾秒鐘內(nèi)模仿出你的音色，然后你打一段文字，就可以讓數(shù)字人按照你的音色朗讀朗讀指定的文字，數(shù)字人朗讀的時(shí)候口型都能對得上。抖音為了防止這種AI技術(shù)被濫用，是做了限制的，比如只能用系統(tǒng)內(nèi)置的數(shù)字人，模仿音色必須要錄制者念一段文字才能模仿。

目前市面上一些稍微復(fù)雜的開源AI軟件，可以模仿任何人的音色，制作任何人的數(shù)字人樣本，這就給了一些別有用心的人可乘之機(jī)，將其用在非法用途上。隨著技術(shù)的日漸成熟，這些功能遲早會平民化，人人都能制造出AI換臉+模仿音色功能，讓你很難分辨出視頻的真假。利用AI造假欺詐、勒索的案件可能會持續(xù)一段時(shí)間。

AI換臉，一般是換領(lǐng)導(dǎo)等上級的臉，以上令下實(shí)現(xiàn)目的。 如何對抗AI模仿？

1、利用技術(shù)的漏洞。

目前的AI技術(shù)其實(shí)還不算成熟，它依靠海量數(shù)據(jù)的動作進(jìn)行推理，所以，你只要對方做一個(gè)少見的動作，AI學(xué)習(xí)的數(shù)據(jù)里沒有這個(gè)動作，就容易 露出馬腳 。

比如有技術(shù)專家說可以讓對方在視 頻前 手捏 臉和 鼻子，看視頻中對方的臉或鼻子 是否 會變形。但這只 能短期應(yīng)對，AI 訓(xùn)練遲早會在對抗中演化完善。

還有類似的辦法是讓對方的手掌在臉前面快速揮動，看臉是否會變，這其實(shí)也是考驗(yàn)AI換臉主機(jī)的性能，實(shí)時(shí)換臉非常耗費(fèi)算力，突然在臉前加入其他元素，會加大計(jì)算難度，造成換臉延遲。

但這兩種辦法都有一些不方便的地方，首先技術(shù)可能會補(bǔ)上漏洞，其次有時(shí)候你要求對方去做一些動作很奇怪。

2、古老的虎符原理

虎符是一種實(shí)物化的暗號：春秋戰(zhàn)國時(shí)期，曾流行過虎符，一只身體刻有文字的老虎模型分為兩半，君候一半，出征在外的將軍一半，使者帶著君候那一半去找將軍完美合在一起，就代表著將軍可以開戰(zhàn)或其他指示。

因此視頻會 議雙方，如 果發(fā) 生重大決策，可以使 用雙方事先約定過 的暗號 ， 對上了暗號 另一方 才可執(zhí)行。這個(gè)暗號可以是虎符那樣少見的 實(shí)物視頻互相 驗(yàn)證。

也可以是一段口令，比如你 說“ 天王蓋地虎 ”，對方 必須 回答“洋蔥炒豆腐 ”才算對上口令，回答錯(cuò)誤立刻結(jié)束會議 。這種方式雖然很古老，但是很管用。

如果是親朋好友，可以提問對方一件雙方都知道，但外人不知道的事件，來確認(rèn)是否是對方。

3、主動驗(yàn)證

香港的職員如何發(fā)現(xiàn)受騙，是因?yàn)樗麜r(shí)候向總部打電話查詢驗(yàn)證的。

如果在發(fā)生重大決策前，當(dāng)場就打電話或許可以避免。畢竟固定電信和移動通信運(yùn)營商線路是很難被入侵的，直接撥打?qū)Ψ诫娫捯彩潜容^可靠的驗(yàn)證方式。

一定要反撥對方的號碼，因?yàn)槟憬拥碾娫捒赡苁艿絺位净蛘遃OIP設(shè)備影響，但你反撥回去一般不會出錯(cuò)，打過去說剛才不小心電話掛了，然后再確認(rèn)消息。

不盲從、看世界，從現(xiàn)在開始

珍愛老桃，順手“在看”