據(jù)韓國媒體報道，韓國歌手兼演員IU的面孔遭AI深度偽造技術(shù)濫用。

在瀏覽Instagram快拍時，突然出現(xiàn)了一個游戲網(wǎng)站賬號發(fā)布的包含IU的視頻。視頻中，IU在車內(nèi)拿著平板電腦，介紹一款游戲應(yīng)用程序。這是賭博網(wǎng)站濫用AI深度偽造技術(shù)，非法使用了IU的面孔。

在該視頻中，AI合成的IU說道：“說'Chicken Road是騙局，在這里根本賺不到錢'，這類評論現(xiàn)在真是受夠了”、“就在我剛才說話這會兒，1700萬韓元就這么掉下來了”、“看吧，是真的。連我自己都難以置信”，以此介紹通過該游戲可以賺取巨額資金。

接著，AI合成的IU繼續(xù)宣傳道：“為了好奇的人，我最后再展示一次”、“現(xiàn)在打開Chicken Road應(yīng)用，新用戶可以直接獲得最高300萬韓元的獎金”、“親自嘗試過的人已經(jīng)在賺錢了”。

該視頻設(shè)置為禁止留言，視頻左下角標(biāo)有“廣告”字樣，并且如果在Instagram搜索框中直接輸入該賬號，會顯示為不存在的賬戶。

該網(wǎng)站并非只濫用了IU一人。最近，演員李荷妮和女團Wonder Girls出身的成員安昭熙也遭到了AI深度偽造技術(shù)的濫用。

AI合成的李荷妮說道：“15分鐘賺2000萬韓元？哇，簡直不敢相信！是真的”、“在電影試映會上，看到人們都在用什么應(yīng)用，我也下載了”、“轉(zhuǎn)動幸運輪盤，結(jié)果中了最高獎金”、“用賺來的錢盡情買想要的東西吧”。

還有AI合成的安昭熙，她說道：“我在這款應(yīng)用里賺了超過2500萬韓元，那家伙居然還不相信我”，并介紹了該游戲網(wǎng)站。隨后，AI合成的安昭熙解釋說：“一存入資金就收到了260萬韓元的獎金，然后賺到了500萬韓元。我用這個錢買了奔馳車。大家都下載應(yīng)用領(lǐng)取獎金吧。頭獎在等著你們呢。”

此前李荷妮被AI技術(shù)濫用時，廣告是以帖子形式而非快拍出現(xiàn)，因此可以留言。對此，網(wǎng)友們在該網(wǎng)站的評論區(qū)標(biāo)記了李荷妮的SNS賬號及其所屬經(jīng)紀(jì)公司賬號，直接告知其旗下藝人的面孔正被用于詐騙。

利用AI散布虛假事實的情況下，可能承擔(dān)刑事處罰及民事?lián)p害賠償責(zé)任。特別是當(dāng)內(nèi)容損害特定人物名譽時，可依據(jù)《信息通信網(wǎng)法》中的誹謗罪，判處最高7年以下有期徒刑、10年以下資格停止或5000萬韓元以下罰金。若包含性相關(guān)內(nèi)容，根據(jù)2024年9月修訂的《性暴力處罰法》，可判處5年以下有期徒刑或5000萬韓元以下罰金，若散布此類內(nèi)容，最高可判處7年有期徒刑。