△點(diǎn)擊上圖查看詳情

近期，一些社交平臺(tái)上出現(xiàn)所謂“營養(yǎng)專家”出鏡推薦的“獨(dú)家減肥食譜”，不少消費(fèi)者信以為真，紛紛下單購買。那么，這些看似權(quán)威的推薦，是否真的出自專家本人？背后隱藏著什么秘密？

名醫(yī)現(xiàn)身科普視頻

當(dāng)事人全然不知

一條AI仿冒視頻中，侃侃而談的專家，商家稱是北京協(xié)和醫(yī)院臨床營養(yǎng)科主任于康教授，他是我國營養(yǎng)與健康領(lǐng)域的權(quán)威專家。

記者在社交平臺(tái)上刷到了不少以于康教授形象出鏡的科普視頻，介紹和推銷減肥食譜。記者隨后聯(lián)系北京協(xié)和醫(yī)院調(diào)查核實(shí)。于康教授明確表示，他本人從未參與錄制此類視頻。

北京協(xié)和醫(yī)院臨床營養(yǎng)科主任 于康：我?guī)缀跆焯焓盏胶门笥押透鞣N有我聯(lián)系方式的人給我發(fā)來的消息，有質(zhì)疑，還有提醒，經(jīng)常有的一句話就是“這是你嗎？”“這是于康嗎？”我一看這完全是我的形象，聲音相似度完全超乎了我的想象?，F(xiàn)在技術(shù)能達(dá)到這個(gè)層級(jí)，一方面覺得不可思議，另外一方面覺得有一點(diǎn)后背發(fā)涼，挺可怕的。

科普視頻中，商家不僅盜用于康教授的形象，其介紹的營養(yǎng)知識(shí)，也是毫無依據(jù)，沒有得到科學(xué)驗(yàn)證。

于康教授更為擔(dān)憂的是，視頻里的錯(cuò)誤信息，會(huì)讓營養(yǎng)學(xué)界長期以來的科普努力，付諸東流。

利用AI技術(shù)生成假視頻

醫(yī)院醫(yī)生深受其害

記者注意到，這些短視頻都來自一些自媒體賬號(hào)，除了出現(xiàn)于康教授形象，還有一個(gè)共同特點(diǎn)是使用虛擬背景。

不僅于康教授有這樣的困擾，北京協(xié)和醫(yī)院臨床營養(yǎng)科馬方教授也遭遇了同樣的情況。在一個(gè)平臺(tái)網(wǎng)店的鏈接里，視頻里的“馬教授”分享了自己的減肥經(jīng)歷。

據(jù)北京協(xié)和醫(yī)院介紹，不少知名專家被AI換臉，用于“養(yǎng)生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫(yī)生，打著北京協(xié)和醫(yī)院的旗號(hào)，銷售各類商品，誤導(dǎo)消費(fèi)者。醫(yī)院、醫(yī)生深受其害。

AI仿冒著名主持人

直播間虛假營銷

隨著AI仿冒視頻的泛濫，司法部門和監(jiān)管部門已查處多起案件。記者在調(diào)查中了解到，多位公眾人物的形象被擅自用于商業(yè)推廣。

今年年初，北京市海淀區(qū)市場(chǎng)監(jiān)管局接到消費(fèi)者舉報(bào)，一直播間宣稱一款魚油產(chǎn)品具有醫(yī)療功效。該賬號(hào)發(fā)布的短視頻中，出現(xiàn)了中央廣播電視總臺(tái)主持人李梓萌的形象。

記者注意到，發(fā)布仿冒主持人李梓萌短視頻的賬號(hào)名為“廣州白云深海魚油工廠”，擁有粉絲80多萬。進(jìn)入直播間后記者看到，這款魚油售價(jià)59.9元三瓶，頁面顯示已售出17.7萬單。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所科員 李欣容：最后當(dāng)事人承認(rèn)，這個(gè)短視頻當(dāng)中的李梓萌形象，是他們的員工在網(wǎng)絡(luò)上搜集李梓萌播報(bào)過的新聞片段，通過AI技術(shù)擅自把這些新聞片段進(jìn)行剪輯加工，最終合成了這個(gè)虛構(gòu)的推薦視頻。

記者實(shí)測(cè)：

30秒就生成女醫(yī)生短視頻

記者調(diào)查發(fā)現(xiàn)，利用AI技術(shù)違規(guī)營銷現(xiàn)象越來越多，關(guān)鍵原因是相關(guān)工具非常容易獲取。而且，無論是換臉還是擬聲，操作起來都十分簡便。

記者發(fā)現(xiàn)，各大手機(jī)應(yīng)用商店均充斥著大量換臉App或小程序，大都可以免費(fèi)使用。記者隨機(jī)選取了一個(gè)App，僅需上傳自己幾張人臉照片，就能將目標(biāo)視頻中的知名專家換成自己的面容。

除了換臉、擬聲，有的App還能提供AI對(duì)口型、AI文生視頻、AI電商等各種功能。記者體驗(yàn)了其中的“文生視頻”功能：在對(duì)話框中輸入關(guān)鍵詞：北京協(xié)和醫(yī)院，女醫(yī)生，在診室坐在桌子前，向患者介紹病情，不到30秒時(shí)間就生成了一段女醫(yī)生形象的短視頻，還可以選擇“不添加AI生成字樣”。隨后記者輸入減肥產(chǎn)品效果文案，選擇“主播配音”，就生成了一條“北京協(xié)和醫(yī)院女醫(yī)生推廣減肥產(chǎn)品的”營銷視頻。

目前，AI仿冒相關(guān)維權(quán)難度極大，技術(shù)鑒定、證據(jù)固定以及溯源追責(zé)等環(huán)節(jié)，面臨不小的阻力。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所副所長 史建穎：AI深度偽造視頻鑒別難度大，成本高，肉眼難以識(shí)別，需要專業(yè)技術(shù)支持，而此類侵權(quán)違法行為造假成本低。另一方面是大量AI合成偽造視頻涌現(xiàn)在電商平臺(tái)，權(quán)利人自身不知情或知情后維權(quán)周期長，程序復(fù)雜，部分權(quán)利人選擇放棄維權(quán)或配合度較低。

監(jiān)管新規(guī)

AI內(nèi)容必須加標(biāo)識(shí)

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》在9月1日已經(jīng)正式實(shí)施，明確要求：利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應(yīng)的聲明標(biāo)識(shí)。

記者調(diào)查發(fā)現(xiàn)，部分人工AI合成視頻當(dāng)中，發(fā)布者要么使用不顯眼的字體，要么隱藏在畫面邊角，有的二次發(fā)布者甚至隱匿標(biāo)識(shí)。

專家表示，各社交平臺(tái)作為AI生成視頻發(fā)布主要渠道，應(yīng)在平臺(tái)規(guī)則、內(nèi)容審查等方面進(jìn)一步完善相關(guān)措施。

來源 央視新聞

編輯 潘俐

審核 毛迪 王晨郁