十四屆全國(guó)人大三次會(huì)議開幕前

全國(guó)人大代表雷軍

提交了五份建議

其中包括一份：

關(guān)于加強(qiáng)“AI換臉擬聲”

違法侵權(quán)重災(zāi)區(qū)治理的建議

全國(guó)人大代表雷軍在建議中指出：人工智能（AI）深度合成技術(shù)的快速發(fā)展，推動(dòng)了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會(huì)喜聞樂(lè)見、傳播力強(qiáng)、易成熱點(diǎn)的技術(shù)應(yīng)用。

但同時(shí)也看到，“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來(lái)社會(huì)治理等風(fēng)險(xiǎn)。

AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來(lái)較大挑戰(zhàn)。

青少年對(duì)前沿技術(shù)應(yīng)用好奇心強(qiáng)，而老年人數(shù)字素養(yǎng)欠缺，往往會(huì)成為“Al換臉擬聲”網(wǎng)絡(luò)陷阱鎖定的主要目標(biāo)，對(duì)其身心健康、財(cái)產(chǎn)安全以及社會(huì)穩(wěn)定造成負(fù)面影響。

AI換臉會(huì)提取人臉圖像的面部特征，那么，一張靜態(tài)的人像照片被詐騙分子竊取后，也能進(jìn)行換臉嗎？

眼見不一定為實(shí)

單張照片可實(shí)時(shí)視頻換臉

工業(yè)和信息化部反詐專班實(shí)驗(yàn)室的技術(shù)人員稱，經(jīng)過(guò)一段時(shí)間的模型訓(xùn)練，一張照片可以在演示者的控制下，像真人一樣做出轉(zhuǎn)頭、張嘴、眨眼、微笑等表情和動(dòng)作。

專家表示，除了讓照片上的人像活化，AI換臉技術(shù)還能實(shí)現(xiàn)在即時(shí)視頻通信狀態(tài)下的實(shí)時(shí)換臉。

不過(guò)想要達(dá)到實(shí)時(shí)換臉的效果，一張照片是遠(yuǎn)遠(yuǎn)不夠的，需要采集不同角度的照片近千張。

聲音的交流同樣不是難事，需預(yù)先采集一些目標(biāo)人群當(dāng)中的聲音，進(jìn)行模型訓(xùn)練后就能進(jìn)行聲音還原。

因此，建議公眾不要在社交平臺(tái)過(guò)度公開或分享自己臉部的圖像、動(dòng)圖及視頻。

AI換臉擬聲詐騙泛濫

到底怎么防？

讓對(duì)方用手指

或其他遮擋物在臉前晃動(dòng)

可以要求對(duì)方用手指摁鼻子，或用其他遮擋物在臉前晃動(dòng)，如畫面出現(xiàn)類似果凍效應(yīng)或者扭曲，那對(duì)方很可能正在使用AI換臉技術(shù)。

詢問(wèn)對(duì)方一些私密的問(wèn)題

可通過(guò)詢問(wèn)對(duì)方自己的生日、電話、喜好等，來(lái)確認(rèn)對(duì)方的身份。

要求對(duì)方線下見面

凡是對(duì)方提到轉(zhuǎn)賬、借錢等涉及經(jīng)濟(jì)往來(lái)的，為安全起見，可要求對(duì)方線下見面。

科科提醒，AI詐騙是隱私信息泄露與詐騙陷阱的結(jié)合。要加強(qiáng)對(duì)個(gè)人隱私的保護(hù)：不輕易提供人臉、指紋等個(gè)人生物信息；不過(guò)度公開或分享動(dòng)圖、視頻；涉及“朋友”“領(lǐng)導(dǎo)”等熟人要求轉(zhuǎn)賬、匯款的，務(wù)必通過(guò)多種途徑核實(shí)確認(rèn)。

不過(guò)公眾也不要對(duì)AI詐騙過(guò)度恐慌，國(guó)內(nèi)的科研團(tuán)隊(duì)、科技企業(yè)已經(jīng)在研發(fā)專門針對(duì)虛假信息的檢測(cè)技術(shù)，不斷提升對(duì)于語(yǔ)音、面部合成信息的檢測(cè)成功率。

可以預(yù)測(cè)的是，這些人工智能反詐技術(shù)都將成為對(duì)抗“魔法”的“魔法”。

來(lái)源：國(guó)家應(yīng)急廣播、央視新聞、人民日?qǐng)?bào)、光明網(wǎng)

文章圖片用于公益科普，版權(quán)歸原作者所有，如有侵權(quán)，請(qǐng)聯(lián)系刪除

微信公眾號(hào)/科普熊貓

抖音號(hào)/科普熊貓

新浪微博/@成都科協(xié)

今日頭條/成都科協(xié)