新聞夜評(píng)

這兩年，直播帶貨的火爆吸引著不同行業(yè)領(lǐng)域的人加入。其中，奧運(yùn)冠軍、演藝明星等公眾人物的直播普遍具有很高的關(guān)注度。從靳東化身“婦女之友”和網(wǎng)友暢聊，到全紅嬋直播售賣(mài)“土雞蛋”，您刷到過(guò)這些“名人”的直播嗎？明星直播之所以廣受關(guān)注，首先是因?yàn)樗麄冏詭Я髁浚僬呤鼙娬J(rèn)為相較于普通商業(yè)網(wǎng)紅，公眾人物有更強(qiáng)的公信力。但網(wǎng)友們每天追捧的“明星直播”都是真的嗎？

據(jù)央視新聞報(bào)道，近期在互聯(lián)網(wǎng)上，不少奧運(yùn)冠軍的“聲音”突然開(kāi)始推銷(xiāo)農(nóng)產(chǎn)品，知名演員的“聲音”24小時(shí)不間斷在直播間與粉絲互動(dòng)……這些以假亂真的AI克隆聲音正成為部分自媒體博主的流量密碼。

在短視頻平臺(tái)上，一個(gè)網(wǎng)名為“我是小助理吖”的賬號(hào)利用AI仿冒奧運(yùn)冠軍全紅嬋，帶貨“老家的土雞蛋”。其發(fā)布的17件作品，內(nèi)容全部是利用AI仿冒全紅嬋聲音帶貨土雞蛋的視頻，其中一個(gè)視頻點(diǎn)贊量高達(dá)1.1萬(wàn)。大量粉絲誤以為這就是全紅嬋本人，紛紛下單購(gòu)買(mǎi)鏈接中的雞蛋，商品鏈接顯示已售出4.7萬(wàn)件。而全紅嬋家人曾向媒體證實(shí)，全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。此前，奧運(yùn)冠軍孫穎莎和王楚欽等人也遭遇了同樣的仿冒，他們的聲音同樣被AI克隆后在為土雞蛋帶貨。

技術(shù)是把“雙刃劍” 亂象依然難禁止

如今，觀(guān)看直播得留神兒，AI技術(shù)挺邪門(mén)兒，直接克隆人聲紋，您關(guān)注的明星，并不一定是真人。據(jù)網(wǎng)絡(luò)安全專(zhuān)家介紹，通過(guò)仿冒名人進(jìn)行直播這種方式不僅可以誘騙粉絲打賞獲利，還可以將一個(gè)小白賬號(hào)迅速打造成上萬(wàn)粉絲的賬號(hào)，從而再為后續(xù)牟利來(lái)鋪路。

從前幾年的“一聽(tīng)就假”到如今的“真假難辨”，AI技術(shù)的發(fā)展速度遠(yuǎn)遠(yuǎn)超出了人們的想象。比如天津新聞廣播的早間評(píng)論欄目《新聞?dòng)形兜馈分?，每天介紹新聞背景的女主播聲音，就是使用AI技術(shù)克隆生成的，當(dāng)然我們是合規(guī)使用。

技術(shù)是把“雙刃劍”，在合法合規(guī)的框架下，合理使用人工智能技術(shù)，能夠提升工作效率，同時(shí)也讓新技術(shù)和日常工作能實(shí)現(xiàn)有機(jī)結(jié)合。但如果在未經(jīng)當(dāng)事人知曉許可的情況下，擅自克隆對(duì)方的聲音、形象用于營(yíng)利，則涉嫌侵犯了相關(guān)人員的聲音權(quán)、肖像權(quán)、名譽(yù)權(quán)，同時(shí)也對(duì)消費(fèi)者構(gòu)成了誤導(dǎo)，損害了消費(fèi)者的知情權(quán)和選擇權(quán)。如果推銷(xiāo)的商品有問(wèn)題，還涉嫌欺詐，違反廣告法，情節(jié)嚴(yán)重的或觸及刑法。除此之外，目前AI克隆聲音最大的隱患是被詐騙分子利用，一旦與AI換臉等技術(shù)結(jié)合，生成高度逼真的“數(shù)字人”實(shí)施詐騙，危害將非常嚴(yán)重。

我國(guó)民法典將人格權(quán)獨(dú)立成編，首次以立法形式將保護(hù)“聲音”寫(xiě)入其中，在第1023條中明確，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。有法律專(zhuān)家就指出，若AI合成聲音能讓公眾憑音色、風(fēng)格關(guān)聯(lián)到特定自然人，即具法律可識(shí)別性，可構(gòu)成侵權(quán)。任何自然人聲音均應(yīng)受法律保護(hù)，錄音制品授權(quán)不等同于對(duì)聲音AI克隆授權(quán)，未經(jīng)許可使用或授權(quán)他人使用權(quán)利人的聲音均屬侵權(quán)。

盡管法律層面作出明確規(guī)定，但相關(guān)亂象依然屢禁不止，究其原因，至少有三個(gè)方面。

首先，技術(shù)進(jìn)步使侵權(quán)容易。基于開(kāi)源的語(yǔ)音大模型，現(xiàn)在只需要一段十幾秒的清晰語(yǔ)音樣本，任何人的聲音都可能在極短時(shí)間內(nèi)被克隆，并能被操縱說(shuō)出攻擊者設(shè)定的任意內(nèi)容。在抖音、快手等網(wǎng)絡(luò)平臺(tái)上，以“聲音克隆”為關(guān)鍵詞進(jìn)行搜索，能輕易找到大量相關(guān)教程視頻和軟件下載信息。部分博主不僅詳細(xì)演示操作過(guò)程，還直接提供軟件資源?？梢?jiàn)，AI克隆聲音早已能輕松實(shí)現(xiàn)，而且?guī)缀跏橇愠杀?、零門(mén)檻。侵權(quán)成本低且讓受眾真假難辨，使得亂象頻現(xiàn)。

其次，取證繁瑣讓維權(quán)困難。此前，古天樂(lè)、張馨予、張文宏等知名人物都曾遭遇類(lèi)似困境，也都紛紛發(fā)布聲明表示維權(quán)，但實(shí)際走到法律層面的并不多。因?yàn)檫@些侵權(quán)賬號(hào)往往變換迅速，發(fā)布的內(nèi)容在短暫收割一波流量實(shí)現(xiàn)獲利后，就迅速刪除、隱藏，給取證造成巨大困難。部分受害方遇到該情況往往會(huì)迫于無(wú)奈，放棄以訴訟方式維權(quán)。在此背景下，助長(zhǎng)了侵權(quán)方囂張的氣焰。

最后，審核不嚴(yán)使造假泛濫。互聯(lián)網(wǎng)平臺(tái)理應(yīng)在直播帶貨、廣告投放等關(guān)鍵環(huán)節(jié)完善風(fēng)險(xiǎn)識(shí)別機(jī)制，對(duì)涉及名人頭像、聲音的帶貨行為進(jìn)行重點(diǎn)審核。一旦發(fā)現(xiàn)疑似AI克隆造假，應(yīng)主動(dòng)攔截、第一時(shí)間下架，阻斷其傳播。目前來(lái)看，部分平臺(tái)還未盡到審核把關(guān)之責(zé)。

技術(shù)變革需要規(guī)則底線(xiàn)與治理力度

今年9月1號(hào)起，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將正式施行，其中明確了服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)等。另外，中央網(wǎng)信辦也在全國(guó)范圍內(nèi)部署開(kāi)展“清朗?整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)，強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序。

借助相關(guān)的規(guī)范，打擊互聯(lián)網(wǎng)AI克隆造假就實(shí)現(xiàn)了有章可循。但要徹底治理當(dāng)前亂象，至少還要從三個(gè)層面發(fā)力。

首先，網(wǎng)絡(luò)平臺(tái)層面?；ヂ?lián)網(wǎng)平臺(tái)應(yīng)當(dāng)對(duì)標(biāo)要求，進(jìn)一步完善技術(shù)識(shí)別、檢測(cè)鑒偽能力，規(guī)范AI內(nèi)容的標(biāo)記，并對(duì)有意繞開(kāi)標(biāo)記規(guī)范的賬號(hào)進(jìn)行嚴(yán)肅處理，從而規(guī)范平臺(tái)整體的AI應(yīng)用生態(tài)。

其次，政府部門(mén)層面?？梢钥紤]和平臺(tái)建立起被侵權(quán)者維權(quán)的綠色通道，將傳播、取證到司法裁判各環(huán)節(jié)都打通，提升維權(quán)效率。

最后，技術(shù)使用層面。技術(shù)開(kāi)源是為了實(shí)現(xiàn)普惠，但是在開(kāi)源的過(guò)程當(dāng)中，應(yīng)該對(duì)這些開(kāi)源代碼做一些使用層面上的限制，包括在使用時(shí)長(zhǎng)、應(yīng)用場(chǎng)景上，也需要做一些具體的應(yīng)用限制。

除了這些具體措施，AI模仿名人聲音等現(xiàn)象的出現(xiàn)，也應(yīng)當(dāng)引起社會(huì)的深度思考：在A(yíng)I的研發(fā)和應(yīng)用中，如何將“智能向善原則”和“責(zé)任原則”貫穿始終，又怎樣確保AI始終服務(wù)于人的發(fā)展方向上，這些都是值得深思與探索的重要問(wèn)題。

技術(shù)變革，促進(jìn)生產(chǎn)迭代升級(jí)，帶來(lái)效率的全新變化。但技術(shù)變革，同樣需要堅(jiān)守人文價(jià)值和規(guī)則底線(xiàn)。AI生成內(nèi)容讓人耳目一新，有著革命性的意義。只有在發(fā)展與監(jiān)管之間找到平衡，才能真正讓AI成為推動(dòng)社會(huì)進(jìn)步的正向力量，從而構(gòu)建一個(gè)更透明、更可信賴(lài)的數(shù)字世界。

撰稿 | 津日評(píng)

編輯 | 韓振

綜合 | 央視新聞