亞太日報 丹瑋

據(jù)媒體報道，一些內(nèi)容為“烏克蘭士兵在前線哭泣并投降”的視頻于11月初開始在社交媒體上流傳。這些視頻的內(nèi)容看起來很真實，沒有明顯被剪輯或拼貼過的痕跡，直到有人發(fā)現(xiàn)這些視頻中出現(xiàn)了自己的臉。

現(xiàn)居紐約的俄羅斯知名直播主阿列克謝·古巴諾夫（Aleksei Gubanov）在觀看一個視頻的時候，發(fā)現(xiàn)其中一個視頻中的士兵竟然是“自己”?！捌鸪跷也]有認(rèn)真對待它，但很快我注意到觀看次數(shù)增長得有多快，更糟糕的是，很多人相信這些視頻是真實的，”古巴諾夫談到他看到的視頻時說道。這段視頻是由人工智能生成的假視頻，該視頻利用他的肖像在烏克蘭軍隊中傳播有關(guān)士氣的虛假敘述。

該視頻是NBC新聞最近幾周審查的21段由人工智能生成的烏克蘭士兵視頻之一，這些視頻是使用先進(jìn)的人工智能程序創(chuàng)建或操縱的，導(dǎo)致一些畫面內(nèi)容非常逼真，幾乎無法追查其來源。

但在這些視頻中，至少有一半的視頻角落里有一個小標(biāo)志，泄露了這一點：它們是用Sora 2制作的，Sora 2是OpenAI文本轉(zhuǎn)視頻生成器的最新版本。Sora制作的一些視頻使用了古巴諾夫等熱門俄羅斯直播主的面孔，進(jìn)行了戲劇性的深度偽造，而另一些視頻則展示了成群的烏克蘭士兵向俄羅斯軍隊集體投降的畫面。

其他看似由其他人工智能平臺生成的圖像也存在非常微妙的錯誤，但對于大多數(shù)人來說很難發(fā)現(xiàn)，例如烏克蘭士兵所穿的制服和頭盔的錯誤或簡化版本。然而，烏克蘭人很容易發(fā)現(xiàn)這一點，因為大多數(shù)視頻的主角都是講俄語的士兵，21個假視頻中只有8個視頻的主角是講烏克蘭語的軍事人員。然而，這些視頻在各大社交平臺上傳播。所有這些視頻都試圖將烏克蘭士兵描繪成不愿戰(zhàn)斗并準(zhǔn)備放棄的人。

分析人士表示，這些圖像和視頻是最新的虛假信息齊射，旨在扭曲公眾對俄羅斯與烏克蘭戰(zhàn)爭的看法。雖然尚不清楚是誰創(chuàng)建或發(fā)布了這些視頻，但它們增加了越來越多的虛假信息，而這些信息只會變得更加復(fù)雜和更難以發(fā)現(xiàn)。

近年來，人工智能生成的視頻迅速發(fā)展，從基本、粗糙到近乎完美，許多專家越來越多地警告說，很快就會沒有什么方法可以輕松辨別真假。烏克蘭國家安全與國防委員會下屬的反虛假信息中心告訴NBC新聞，過去一年“使用人工智能創(chuàng)建或操縱的內(nèi)容數(shù)量顯著增加”，旨在破壞公眾對烏克蘭政府的信任和國際支持。

許多人工智能視頻生成器試圖在用戶生成的作品上添加標(biāo)簽或水印，以表明它們是計算機生成的。OpenAI表示，其針對Sora的虛假信息安全護欄包括注明視頻來源的元數(shù)據(jù)以及每個下載視頻上的移動水印。但事實表明，仍有一些方法可以消除或最小化這些努力，比如用戶可以使用一些工具遮擋自帶的移動水印。

據(jù)悉，這些需要被審查的“假視頻”全部發(fā)布在TikTok或YouTube上，因為每天會有大量的歐洲和美國用戶在這兩個平臺上“沖浪”。其中一些視頻包含各種語言的字幕，以便不會說烏克蘭語或俄語的用戶也能理解。

TikTok和YouTube都明文禁止在其平臺上發(fā)布人工智能生成的欺騙性內(nèi)容和深度偽造內(nèi)容，兩者都提供“人工智能生成”描述標(biāo)簽，以便觀眾區(qū)分真實和生成的內(nèi)容。目前，帶有“人工智能生成”標(biāo)簽的視頻和用戶均已從該平臺刪除。然而，仍有一些視頻在其他社交平臺如X和Facebook上以轉(zhuǎn)發(fā)的形式繼續(xù)存在。

注：本文為亞太日報原創(chuàng)內(nèi)容，未經(jīng)授權(quán)不得轉(zhuǎn)載。