點(diǎn)擊上圖▲立即收聽

“所有AI生成、合成的內(nèi)容，都必須加上標(biāo)識(shí)，讓用戶、監(jiān)管和機(jī)器，都能一眼看出來?！?/strong>

文 / 巴九靈（微信公眾號(hào)：吳曉波頻道）

下面這段《貓和老鼠》的動(dòng)畫，你看得出來是AI生成的嗎？

圖源：小紅書

如果說這種“以假亂真”的動(dòng)畫還只是玩笑，那么，那些披著“真實(shí)”外衣的AI合成內(nèi)容，就足以讓人心生恐懼。

前段時(shí)間，“AI合成全紅嬋”帶貨視頻在網(wǎng)上瘋傳，哪怕其家人緊急辟謠，仍有不少人受騙下單；往前，西藏日喀則地震后，一張小孩被壓在廢墟下的照片賺足了眼淚與轉(zhuǎn)發(fā)，結(jié)果卻被證實(shí)是AI合成……

假視頻、假圖片只是冰山一角，更隱蔽的，是那些充斥在我們信息流里的假新聞和假數(shù)據(jù)：“西安突發(fā)爆炸！火光沖天！傷亡不明！”“大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬！”“80后的死亡率已經(jīng)超過70后！”

圖源：小紅書

這些奪人眼球的爆款新聞，最終都被證實(shí)純屬虛構(gòu)，卻早已收割了無數(shù)人的轉(zhuǎn)發(fā)、關(guān)注、憤怒。

這背后，有“AI幻覺”（AI在無明確依據(jù)的情況下編造并不存在的事件、數(shù)據(jù)、細(xì)節(jié)）的推波助瀾，但更嚴(yán)重的，是有人利用AI批量制造假新聞，形成產(chǎn)業(yè)鏈，從中非法牟利。

據(jù)央廣網(wǎng)報(bào)道，去年1月以來，一家MCN機(jī)構(gòu)通過AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇，相關(guān)人員直至去年6月才被刑拘；據(jù)南都大數(shù)據(jù)研究院不完全統(tǒng)計(jì)，2024年搜索熱度較高的50個(gè)國內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)；此前上海一女童走失事件中，有團(tuán)伙利用AI工具編造“女孩父親系繼父”等謠言，6天內(nèi)發(fā)布268篇文章，多篇文章點(diǎn)擊量超過100萬次……

伴隨著科技的飛速發(fā)展，越來越多人發(fā)現(xiàn)，自己已經(jīng)無法輕易分辨眼前的東西是真是假，在老年群體中，這一情況更為嚴(yán)重。網(wǎng)絡(luò)上，“AI生成的視頻爸媽深信不疑”“連善意都被AI玩弄”的吐槽層出不窮。真假難辨的內(nèi)容，正在讓公眾陷入混亂與焦慮，讓社會(huì)共識(shí)的形成越來越困難，也讓互聯(lián)網(wǎng)信息池被嚴(yán)重污染。

正如數(shù)字力場負(fù)責(zé)人、專欄作者佘宗明所言：“都說‘科技向善’，再往前一步，其實(shí)就是‘科技向真’。科技向真不是說不能用AIGC工具‘魔改’內(nèi)容、‘邪修’創(chuàng)意，而是說要遵循某些底線性的真實(shí)原則，比如是AI生成的‘勁爆’圖片或‘震撼’視頻就得標(biāo)注是AI生成的，是AI編造的‘小作文’就得提醒是AI編造的，必須制假標(biāo)假，不能以假亂真?！?/p>

對(duì)此，我國在2月底出臺(tái)了強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》，于昨日（9月1日）正式施行。

未可知人工智能研究院院長、中國社會(huì)科學(xué)院技術(shù)經(jīng)濟(jì)學(xué)博士杜雨認(rèn)為：“這意味著對(duì)AIGC的治理從前瞻性的行業(yè)自律指南（怎么做更好），邁向了普適性的強(qiáng)制性監(jiān)管規(guī)范（必須怎么做）。這并非給技術(shù)發(fā)展‘踩剎車’，而是為其‘鋪軌’和‘校準(zhǔn)方向’。”

那么，這兩份文件，具體規(guī)定了些什么？

用一句話來說，就是所有AI生成、合成的內(nèi)容（包括文本、圖片、音頻、視頻、虛擬場景等），都必須加上標(biāo)識(shí)，讓用戶、監(jiān)管和機(jī)器，都能一眼看出來。

其中，標(biāo)識(shí)分為兩種：

顯式標(biāo)識(shí)：直接展示給用戶看；

隱式標(biāo)識(shí)：藏在文件元數(shù)據(jù)中，方便監(jiān)管和機(jī)器識(shí)別，包含這條內(nèi)容的生產(chǎn)者、唯一編號(hào)等信息。

隱式標(biāo)識(shí)規(guī)范

對(duì)普通用戶來說，最相關(guān)的是顯式標(biāo)識(shí)，未來你在網(wǎng)上沖浪時(shí)，能清楚了解哪些內(nèi)容是AI生成的：

◎首先，AI生成的文本內(nèi)容，必須在開頭、末尾或中間，添加文字提示或者角標(biāo)等，如下圖所示：

圖源：《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

◎其次，對(duì)圖片內(nèi)容和視頻內(nèi)容而言，圖片、視頻畫面內(nèi)需包含“人工智能”或“AI”+“生成”和/或“合成”的文字，文字高度不能低于圖片最短邊長的5%，正常播放速度下，視頻畫面中的標(biāo)識(shí)持續(xù)時(shí)間不能少于2秒。

圖源：《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

◎第三，AI生成或合成的音頻文件中，必須包含一段正常語速的“AI生成”等提示語音，或者一段清晰可辨的“短長短短”（為AI的摩斯碼）特殊節(jié)奏音。

圖源：《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

◎最后，所有使用到AI的交互場景，都需要使用文字進(jìn)行標(biāo)注，在內(nèi)容附近或者交互界面的適當(dāng)位置持續(xù)顯示提示文字，如下圖所示：

圖源：《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

文件中，“視頻畫面中的標(biāo)識(shí)持續(xù)時(shí)間不能少于2秒”“文字高度不能低于圖片最短邊長的5%”等細(xì)節(jié)要求，凸顯了相關(guān)部門對(duì)AI標(biāo)識(shí)的嚴(yán)格態(tài)度——不能靠小字糊弄、不能靠加速視頻蒙混過關(guān)，必須要讓用戶一眼就能識(shí)別出“這是AI生成的內(nèi)容”。

并且，《辦法》還對(duì)平臺(tái)端提出了更高要求：平臺(tái)需核驗(yàn)用戶上傳的文件元數(shù)據(jù)，確認(rèn)文件是否包含隱式標(biāo)識(shí)和顯式標(biāo)識(shí)，對(duì)確認(rèn)或疑似為AI生成/合成的內(nèi)容，進(jìn)行清晰醒目的提示標(biāo)識(shí)。換句話說，AI標(biāo)識(shí)不只要靠“創(chuàng)作者自覺”，平臺(tái)也必須承擔(dān)“把關(guān)義務(wù)”。

圖源：小紅書

當(dāng)然，除了用戶和內(nèi)容平臺(tái)，這兩份文件的落地，也在悄然重塑著各行各業(yè)的運(yùn)行邏輯。對(duì)企業(yè)來說，這既是壓力，也是新商機(jī)的涌現(xiàn)；對(duì)不同行業(yè)的從業(yè)者來說，這既是洗牌，也是新競爭的開始。對(duì)此，我們邀請(qǐng)了幾位專家，來聽聽他們的觀察與判斷。

大頭有話說

杜雨

未可知人工智能研究院院長

中國社會(huì)科學(xué)院技術(shù)經(jīng)濟(jì)學(xué)博士

我認(rèn)為這一文件的核心是為了應(yīng)對(duì)三類風(fēng)險(xiǎn)：

◎第一，防范欺詐和虛假信息的傳播。AIGC技術(shù)能夠批量生成高度逼真的內(nèi)容，容易被用于制造謠言、進(jìn)行詐騙甚至干擾輿論。強(qiáng)制標(biāo)識(shí)相當(dāng)于給AI生成內(nèi)容貼上“電子水印”，幫助公眾快速辨別真?zhèn)?，保護(hù)自身權(quán)益和社會(huì)信任基礎(chǔ)。

◎第二，明確版權(quán)與內(nèi)容歸屬。AI生成內(nèi)容在知識(shí)產(chǎn)權(quán)方面仍存在大量模糊地帶，標(biāo)注來源有助于厘清權(quán)利邊界，減少法律糾紛，也是對(duì)原創(chuàng)生態(tài)的一種保護(hù)。

◎第三，這一點(diǎn)非常關(guān)鍵——防止互聯(lián)網(wǎng)數(shù)據(jù)被污染。目前很多低質(zhì)量、錯(cuò)誤甚至惡意的AI生成內(nèi)容未經(jīng)標(biāo)識(shí)就涌入網(wǎng)絡(luò)，如果它們被當(dāng)作訓(xùn)練數(shù)據(jù)回收給下一代模型，會(huì)導(dǎo)致模型性能退化，形成“垃圾進(jìn)、垃圾出”的惡性循環(huán)。強(qiáng)制標(biāo)注相當(dāng)于為數(shù)據(jù)構(gòu)建了“隔離帶”，保障AI長期發(fā)展的數(shù)據(jù)環(huán)境健康。

未來，在新聞、金融、醫(yī)療、教育等高風(fēng)險(xiǎn)、高信任度要求的領(lǐng)域，強(qiáng)制標(biāo)識(shí)是AI技術(shù)得以規(guī)?；瘧?yīng)用的“準(zhǔn)入許可”和“信任票”。它明確了應(yīng)用的邊界和責(zé)任，反而能打消社會(huì)顧慮，為那些真正創(chuàng)造價(jià)值的AI應(yīng)用掃清障礙，加速其落地進(jìn)程。

對(duì)于相關(guān)企業(yè)而言，確實(shí)面臨著新的責(zé)任和挑戰(zhàn)，例如，給所有AI生成的內(nèi)容“打標(biāo)簽”，需要在產(chǎn)品和技術(shù)流程里加?xùn)|西，肯定有投入，并且，用別家的AI工具生成內(nèi)容，或者平臺(tái)分發(fā)內(nèi)容，也都得檢查有沒有標(biāo)，這叫“誰運(yùn)營誰負(fù)責(zé)”，責(zé)任鏈條變長了。如果該標(biāo)沒標(biāo)，或者故意冒充真人創(chuàng)作，可能會(huì)面臨處罰。

AI手機(jī)生成寫真圖片

但是，這同樣帶來了全新的商業(yè)機(jī)會(huì)：

◎第一，“可信AI”會(huì)成為核心競爭力。以后用戶會(huì)更信任那些老實(shí)標(biāo)識(shí)、內(nèi)容質(zhì)量高的AI產(chǎn)品，這能幫你建立品牌信任，反而是個(gè)加分項(xiàng)。

◎第二，合規(guī)技術(shù)本身就能成一門生意。比如做數(shù)字水印、AI內(nèi)容檢測工具、合規(guī)解決方案，這些需求會(huì)越來越大，成為一個(gè)新的賽道。

◎第三，高質(zhì)量內(nèi)容的價(jià)值會(huì)更突出。當(dāng)?shù)唾|(zhì)AI內(nèi)容被標(biāo)識(shí)和過濾掉，真正優(yōu)質(zhì)、有創(chuàng)意的內(nèi)容（無論是人還是AI做的）會(huì)變得更值錢。

佘宗明

數(shù)字力場負(fù)責(zé)人、專欄作者

跟歐盟慣有的強(qiáng)監(jiān)管（過度強(qiáng)調(diào)安全）、美國一貫的軟約束（側(cè)重行業(yè)自律）比，中國在互聯(lián)網(wǎng)和AI上的治理向來更注重“平衡的藝術(shù)”。單就AI生成內(nèi)容標(biāo)注來說，中國的做法有兩個(gè)典型特點(diǎn)：

??第一，將標(biāo)識(shí)要求與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接，形成相對(duì)全面系統(tǒng)的AI治理法規(guī)體系。

??第二，創(chuàng)新性地提出文本符號(hào)標(biāo)識(shí)、音頻節(jié)奏標(biāo)識(shí)、文件元數(shù)據(jù)標(biāo)識(shí)等低成本且具有可操作性的標(biāo)識(shí)方法，兼顧了監(jiān)管需求與企業(yè)實(shí)際承受能力，平衡了規(guī)范與發(fā)展的關(guān)系，更貼合中國龐大而多元的AI 產(chǎn)業(yè)生態(tài)特點(diǎn)。

未來，我認(rèn)為有兩點(diǎn)可以做：

◎第一，建立AI生成內(nèi)容元數(shù)據(jù)共享庫，推動(dòng)“行業(yè)協(xié)作與標(biāo)準(zhǔn)共享”，打通平臺(tái)間溯源壁壘。

◎第二，建立權(quán)威的AI內(nèi)容檢測與認(rèn)證機(jī)構(gòu)，當(dāng)對(duì)某些內(nèi)容是否為AI生成存在爭議時(shí)，可由該機(jī)構(gòu)進(jìn)行專業(yè)鑒定，確保標(biāo)識(shí)的準(zhǔn)確性與公正性。

董毅智

上海正策律師事務(wù)所律師

從律師的角度來看，這是一份未來在司法層面非?？尚?、并且極具行業(yè)標(biāo)準(zhǔn)意義的文件。律師在處理相關(guān)合規(guī)事務(wù)，尤其是在訴訟環(huán)節(jié)時(shí)，它提供了堅(jiān)實(shí)的法律依據(jù)。這不僅關(guān)乎文件本身的規(guī)范性，也代表了未來立法層面的發(fā)展方向。

未來，進(jìn)一步完善配套設(shè)施，我認(rèn)為有三個(gè)方向：

??第一，技術(shù)溯源能力的建設(shè)，通過技術(shù)手段實(shí)現(xiàn)對(duì)數(shù)據(jù)和內(nèi)容的深層次驗(yàn)證。

??第二，全流程合規(guī)，覆蓋數(shù)據(jù)采集、模型訓(xùn)練、內(nèi)容生成到分發(fā)的全周期管理體系。

??第三，法律責(zé)任的明確，設(shè)立清晰的懲戒和追償機(jī)制，對(duì)違法犯罪行為形成實(shí)質(zhì)性威懾。

??第四，教大家怎么正確認(rèn)識(shí)、對(duì)待AI。

劉曉博

財(cái)經(jīng)評(píng)論員

公眾號(hào)“劉曉博說財(cái)經(jīng)”

對(duì)自媒體行業(yè)而言，這項(xiàng)規(guī)定總體上是利好，因?yàn)槟壳按蠖鄶?shù)自媒體創(chuàng)作仍以人工為主，AI使用比例并不高，而那些依靠AI制造特殊場面獲取流量的賬號(hào)（比如抖音上流行的“貓打臺(tái)球”等視頻），一旦被明確標(biāo)注為AI生成，粉絲的興趣和吸引力勢必下降。畢竟，觀眾普遍還是更偏好真實(shí)的內(nèi)容，而不是AI生成的內(nèi)容。

強(qiáng)制標(biāo)識(shí)確實(shí)會(huì)影響讀者的接受度和信任度，但這反過來也會(huì)推動(dòng)自媒體行業(yè)的生態(tài)優(yōu)化：選題方向、內(nèi)容風(fēng)格以及互動(dòng)方式將更加注重真實(shí)性與創(chuàng)造力，而不是依賴“誤以為真實(shí)”的驚奇效果來博眼球。從長遠(yuǎn)來看，也能倒逼AI技術(shù)在創(chuàng)意和內(nèi)容價(jià)值上不斷進(jìn)步，而不是停留在制造噱頭的層面。

同時(shí)，這項(xiàng)措施還有助于讓短視頻、自媒體的競爭更合理、更公平，并保護(hù)大家的隱私、減少謠言的傳播、社會(huì)情緒的誤導(dǎo)和激化。

莊帥

零售電商行業(yè)專家

百聯(lián)咨詢創(chuàng)始人

目前在電商平臺(tái)，AI主要用來做商品宣傳的短視頻和圖文內(nèi)容，以及一些數(shù)字人直播，很少用來做商品圖（平臺(tái)對(duì)此有限制）。并且，很多內(nèi)容平臺(tái)早就開始進(jìn)行AI標(biāo)識(shí)了。

因此，總體而言，我覺得這一政策對(duì)消費(fèi)者影響不大，畢竟，AI生成內(nèi)容只是更低成本地讓消費(fèi)者更好地了解商品，決定性因素還是商品本身對(duì)消費(fèi)者有足夠的吸引力，以及品牌和商家的服務(wù)做得夠好。

本篇作者| 蔣紫涵|責(zé)任編輯|徐濤

主編|何夢飛|圖源|VCG

中東正崛起為鏈接歐亞非的戰(zhàn)略樞紐。10月15日—10月22日，與激蕩商學(xué)走進(jìn)阿聯(lián)酋與沙特，對(duì)話政策與產(chǎn)業(yè)核心，聚焦能源、科技合作，探索中國企業(yè)突圍中東的新路徑。

點(diǎn)擊下圖▼立即了解