文 | 胡煒（新京報傳媒研究院）

9月1日起，AI生成內(nèi)容要求必須強(qiáng)制做出標(biāo)識，否則將有違法違規(guī)的風(fēng)險。

《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），于今年3月發(fā)布，要求所有利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息，都必須依法添加相應(yīng)的身份標(biāo)識。

▲點擊圖片了解《人工智能生成合成內(nèi)容標(biāo)識辦法》具體內(nèi)容和要求。

該《標(biāo)識辦法》于9月1日起正式施行，從此AI生成內(nèi)容告別“隱身”狀態(tài)，必須添加“水印”，以亮明身份了。

01

《標(biāo)識辦法》出臺的背景

《標(biāo)識辦法》不僅僅是一紙技術(shù)標(biāo)準(zhǔn)，更是國家對AI內(nèi)容治理系統(tǒng)性布局的重要一環(huán)。

據(jù)報道，目前我國生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人， 已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級網(wǎng)信辦完成登記。

隨著技術(shù)的不斷發(fā)展，人工智能生成合成內(nèi)容的制作日益簡單和逼真，有的幾乎可以“零門檻”達(dá)到以假亂真的地步，AI生成內(nèi)容風(fēng)險日益凸顯。其中造謠、擦邊、換臉、擬聲等是AI濫用的重災(zāi)區(qū)，導(dǎo)致虛假信息泛濫、身份信息冒充、惡意內(nèi)容生成、版權(quán)糾紛不斷等亂象頻發(fā)，嚴(yán)重破壞了網(wǎng)絡(luò)生態(tài)。

在此種現(xiàn)狀下，今年4月份，中央網(wǎng)信辦啟動了“清朗·整治AI技術(shù)濫用”專項行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象。在專項行動的第一階段，累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個。

《標(biāo)識辦法》是針對AI內(nèi)容的標(biāo)識提出要求，切入點雖小，卻符合當(dāng)前人工智能技術(shù)的發(fā)展現(xiàn)狀。當(dāng)每一份AI內(nèi)容都被清晰標(biāo)識時，用戶就能夠更加理性地判斷信息來源和可信度，在信息傳播、消費(fèi)決策、知識獲取等場景中，減少被虛假信息誤導(dǎo)的風(fēng)險。

《標(biāo)識辦法》的出臺，通過進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識，與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)相銜接，將進(jìn)一步推動人工智能產(chǎn)業(yè)健康有序發(fā)展。

02

平臺積極響應(yīng)

自9月1日起，各平臺企業(yè)和每一位內(nèi)容創(chuàng)作者都將直面這場史無前例的合規(guī)大考。

《標(biāo)識辦法》對AI內(nèi)容的標(biāo)識提出了三大核心要求，涉及顯式標(biāo)識、隱式標(biāo)識和平臺責(zé)任。明確要求，平臺在服務(wù)提供者的內(nèi)容上架或上線時要進(jìn)行審核，核驗生成合成內(nèi)容標(biāo)識，對未標(biāo)識或疑似生成內(nèi)容要添加風(fēng)險提示，從而在傳播端阻斷虛假信息擴(kuò)散。

各大平臺積極進(jìn)行標(biāo)識功能部署，微信、抖音、小紅書、DeepSeek等陸續(xù)出臺了細(xì)化規(guī)則。

微信公眾平臺發(fā)布了《》，并對平臺標(biāo)識提示和用戶主動聲明兩種形式進(jìn)行示范。抖音集團(tuán)目前已 上線兩項核心功能：一是AI內(nèi)容標(biāo)識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識，方便用戶區(qū)分辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。小紅書也推出AI生成合成內(nèi)容標(biāo)識技術(shù)及功能，在筆記發(fā)布和內(nèi)容管理環(huán)節(jié)提供了標(biāo)識路徑，便于創(chuàng)作者在合規(guī)創(chuàng)作的同時進(jìn)行自主聲明。

▲ 小紅書對如何主動添加AI標(biāo)識進(jìn)行指導(dǎo)。

03

媒體在行動

此次《標(biāo)識辦法》的推出，對內(nèi)容創(chuàng)作者也將產(chǎn)生深遠(yuǎn)影響，無論是個人博主、自媒體工作室還是專業(yè)內(nèi)容機(jī)構(gòu)，都必須重新審視自己的內(nèi)容生產(chǎn)流程，建立完善的AI內(nèi)容標(biāo)識機(jī)制。

此前，有應(yīng)用AI生產(chǎn)傳播的內(nèi)容機(jī)構(gòu)，尤其是專業(yè)媒體機(jī)構(gòu)，已經(jīng)通過內(nèi)容管控制度與流程，開始有意識地主動在顯著位置添加提示，逐步落實AI內(nèi)容標(biāo)識工作。

▲ 人民網(wǎng)發(fā)布的海報，在右上角做出了“圖片由AI生成”的顯著標(biāo)識。

▲ 新京報動新聞團(tuán)隊創(chuàng)作的《 AI重現(xiàn) <中國娃娃> ：1歲孩子如何讓侵華日軍暴行震驚世界？ 》用AI技術(shù)還原了 88年前的照片《中國娃娃》 誕生的經(jīng)過，在視頻畫面右上角標(biāo)注了“畫面由AI輔助還原”字樣。

當(dāng)然，任何法律法規(guī)的執(zhí)行，并非簡單的“發(fā)布-遵守”的線性過程，《標(biāo)識辦法》的落實也不可能一蹴而就，也會面臨多種挑戰(zhàn) 。

目前標(biāo)識技術(shù)存在易規(guī)避的問題，顯式標(biāo)識 可能會被裁剪、PS抹除，隱式標(biāo)識在視頻轉(zhuǎn)碼、壓縮、截圖等操作后可能失效或被破解。檢測模型的準(zhǔn)確率也并非100%，可能存在“誤殺”與“漏網(wǎng)”，導(dǎo)致誤判和漏判的發(fā)生。而部分用戶和創(chuàng)作者，因認(rèn)知與能力不足，不知道“怎么標(biāo)、標(biāo)什么”，或認(rèn)為過程繁瑣，可能選擇忽視……無論是技術(shù)上還是認(rèn)知上的攻防戰(zhàn)，還將持續(xù)存在。

但無論如何，從“先發(fā)展后治理”到“邊發(fā)展邊治理”，《標(biāo)識辦法》的發(fā)布執(zhí)行，標(biāo)志著中國對生成式AI的監(jiān)管進(jìn)入“技術(shù)管技術(shù)”的新階段。只有讓每一條AI內(nèi)容都能被看見、被追溯，產(chǎn)業(yè)才能真正走出“野蠻生長”，邁向健康、可持續(xù)發(fā)展的時代。

校對 | 李立軍

主編推薦