國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）將于2025年9月1日起正式施行。

《標識辦法》規(guī)范了人工智能生成合成內(nèi)容標識的使用，要求用戶發(fā)布AI生成合成內(nèi)容時主動聲明并進行標識，網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者應(yīng)當采取措施，規(guī)范生成合成內(nèi)容傳播活動，如核驗文件元數(shù)據(jù)、添加顯著提示標識并提醒公眾，提供必要的標識功能并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容，當未核驗到隱式標識用戶亦未聲明但平臺識別為疑似生成合成內(nèi)容時，應(yīng)當采取適當方式在發(fā)布內(nèi)容周邊添加顯著標識，提示公眾該內(nèi)容疑似生成合成內(nèi)容。

北京互聯(lián)網(wǎng)法院審結(jié)了一起網(wǎng)絡(luò)服務(wù)合同糾紛案，原被告雙方作為用戶和網(wǎng)絡(luò)服務(wù)提供者，圍繞人工智能生成內(nèi)容標識起了爭端。

01? 基本案情

原告為涉案平臺用戶，被告為涉案平臺運營者。原告在平臺上發(fā)布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……工作之后就沒有太多完整的時間學(xué)駕照了”，該內(nèi)容被涉案平臺判定為“包含AI生成內(nèi)容但未標識”的違規(guī)情況，涉案平臺作出將該內(nèi)容隱藏并將用戶禁言一天的處理。后原告進行申訴未成功。

原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號一天的違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。

被告辯稱，被告有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同審核認定原告使用平臺服務(wù)時的違規(guī)行為并采取必要治理措施，不構(gòu)成違約。涉案平臺規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時，應(yīng)主動使用‘人工智能生成內(nèi)容’的標簽進行聲明，未主動聲明的內(nèi)容，平臺將采取適當措施進行流量限制并添加相關(guān)標識?！?strong>原告發(fā)布的內(nèi)容經(jīng)機器識別為“包含人工智能生成”，經(jīng)過人工復(fù)核，認定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，網(wǎng)絡(luò)服務(wù)合同未約定被告有義務(wù)向用戶提供、解釋技術(shù)秘密和算法邏輯，原告無權(quán)獲知。被告針對人工智能治理需求開發(fā)、部署、運行自研深度合成算法模型是合理、必要的，并設(shè)置專門測試團隊通過技術(shù)手段觀察、抽檢模型運行的準確率，如發(fā)生準確率下降或異常波動，被告會及時對模型進行優(yōu)化迭代。涉案內(nèi)容被識別、標記期間，模型準確率沒有變化。請求法院依法駁回原告的訴訟請求。

被告提交其在互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)公示的相關(guān)算法機制機理內(nèi)容作為算法決策判定的證據(jù)，主張與涉案檢測內(nèi)容相關(guān)聯(lián)的部分為“回答安全判別模塊”，其表述為“以自研的指令微調(diào)模型為基座。基于收集并標注的有安全風(fēng)險的回答為語料訓(xùn)練的能力，能攔截掉對話深度合成模型生成的大部分違規(guī)回答”。

02? 法院審理?????????????

平臺有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理

網(wǎng)絡(luò)用戶在使用AI工具進行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺時，應(yīng)依照誠信原則如實標記。本案中，被告結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標識的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實需要，發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時，應(yīng)主動使用標識，幫助讀者進行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當措施進行流通限制并添加相關(guān)標識”“未經(jīng)標簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺注冊用戶，上述公告屬于平臺服務(wù)協(xié)議的組成部分。因此，被告有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理。

平臺的審查及處理結(jié)果應(yīng)有合理依據(jù)

本案中，原告主張涉案內(nèi)容并非AI生成內(nèi)容，被告對涉案內(nèi)容的審查及處理違反平臺服務(wù)協(xié)議，在一般情況下，原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)，但本案中原告回答內(nèi)容系即時性創(chuàng)作文本，在客觀上無法提供上述證據(jù)，由其提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而被告基于算法工具的運算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運算過程和審查結(jié)果由被告掌控，在此情況下，被告應(yīng)就該事實進行合理舉證或解釋說明。

雖然被告在本案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為識別有安全風(fēng)險的回答，無法認定其系對AI生成合成識別判斷的技術(shù)，故無法確認備案信息與本案爭議的關(guān)聯(lián)性，因此被告未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。此外，被告對人工復(fù)核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結(jié)果，而該判斷標準更多依賴主觀認識和個人經(jīng)驗，并不具有科學(xué)依據(jù)以及較強的說服力和可信度。

綜上，被告未對算法決策依據(jù)和結(jié)果進行適度的解釋和說明，應(yīng)對其沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔(dān)違約責(zé)任。被告系統(tǒng)后臺僅存在“折疊回答”這一條處理記錄，現(xiàn)因該處理已在本案中被判定為不合規(guī)，被告應(yīng)對該處理記錄予以刪除。對“禁言1天”的處理沒有后臺記錄，原告主張刪除沒有事實依據(jù)，法院對該訴訟請求不予支持。

判決被告展開對于涉案內(nèi)容的隱藏，刪除在后臺的違規(guī)處理記錄。駁回原告的其他訴訟請求。

目前，該案判決已生效

03? 法官說法?????????????

生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟發(fā)展注入強大動力。與此同時，在AI生成合成內(nèi)容未進行“AI標識”的情況下，公眾難以區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用AI實施詐騙、侵權(quán)等違法犯罪的行為不斷攀升。AI生成合成內(nèi)容標識作為對人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會對凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用。本案對于平臺運用算法工具進行AI生成合成內(nèi)容治理引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛裁判作出以下探索：

網(wǎng)絡(luò)內(nèi)容服務(wù)平臺有權(quán)利用算法工具對用戶發(fā)布的內(nèi)容是否使用AI生成合成進行審查和處理。平臺通過用戶協(xié)議、社區(qū)規(guī)范、處罰規(guī)則等明確告知用戶需要遵守AI生成合成內(nèi)容標識規(guī)定，如用戶違反有關(guān)規(guī)定，平臺可對違規(guī)行為進行處理。

若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺判定用戶發(fā)布的內(nèi)容為AI生成合成，用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù)，人民法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任，并認定證據(jù)的證明效力。

網(wǎng)絡(luò)用戶提供初步證據(jù)后，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺應(yīng)舉證證明其使用算法工具進行判定的正確性或進行必要限度的解釋說明，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。

對于算法解釋的司法審查應(yīng)符合比例原則。一般情況下，平臺無需提供技術(shù)細節(jié)、源代碼或原始數(shù)據(jù)，而需圍繞案件爭議事實以可理解的方式舉證或說明算法運行機制、對應(yīng)可能出現(xiàn)的誤判是否采取了合理的救濟措施。

來源：北京互聯(lián)網(wǎng)法院