武丹/制圖

作者|夏燕 單宇豪

責編|薛應(yīng)軍

正文共2871個字，預(yù)計閱讀需8分鐘▼

8月5日，國家安全部發(fā)文提示，人工智能（AI）的訓(xùn)練數(shù)據(jù)存在良莠不齊的問題，其中不乏虛假信息、虛構(gòu)內(nèi)容和偏見性觀點，造成數(shù)據(jù)源污染，給AI安全帶來新的挑戰(zhàn)。

據(jù)介紹，通過篡改、虛構(gòu)和重復(fù)等“數(shù)據(jù)投毒”行為產(chǎn)生的污染數(shù)據(jù)，將干擾模型在訓(xùn)練階段的參數(shù)調(diào)整，削弱模型性能、降低其準確性，甚至誘發(fā)有害輸出。研究顯示，當訓(xùn)練數(shù)據(jù)集中僅有0.01%的虛假文本時，模型輸出的有害內(nèi)容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應(yīng)上升7.2%。

互聯(lián)網(wǎng)技術(shù)打破時間與空間的限制，讓數(shù)據(jù)成為數(shù)字社會的基礎(chǔ)性土壤。高質(zhì)量的數(shù)據(jù)能夠顯著提升模型的準確性和可靠性，而數(shù)據(jù)一旦受到污染，則可能導(dǎo)致模型決策失誤甚至AI系統(tǒng)失效，存在一定的安全隱患。近年來，在AI技術(shù)加持下，數(shù)據(jù)污染自動迭代升級不斷蔓延，給AI安全帶來了諸多挑戰(zhàn)。

數(shù)據(jù)污染是指數(shù)據(jù)中出現(xiàn)與實際數(shù)據(jù)不符的異常值，與元數(shù)據(jù)信息結(jié)構(gòu)及內(nèi)容對應(yīng)產(chǎn)生扭曲與偏差的現(xiàn)象。數(shù)據(jù)記錄錯誤、人為篡改、數(shù)據(jù)集成不當以及來自外部的數(shù)據(jù)投毒，都是造成數(shù)據(jù)污染的主要成因。在數(shù)據(jù)污染影響下，蓬勃發(fā)展的AI呈現(xiàn)雙重面孔：它既是數(shù)據(jù)污染的受害者，也是數(shù)據(jù)污染的生產(chǎn)者。一方面，當數(shù)據(jù)用于AI訓(xùn)練和輔助決策時，數(shù)據(jù)污染破壞訓(xùn)練數(shù)據(jù)的完整性與真實性，進而影響模型性能的發(fā)揮，促使AI出現(xiàn)幻覺甚至導(dǎo)致崩潰。另一方面，AI導(dǎo)入污染數(shù)據(jù)生成的不實內(nèi)容憑借細節(jié)精準的表象，通過算法傳播獲得信息主體信任達至“謬以千里”，甚至被反復(fù)引用為訓(xùn)練數(shù)據(jù)形成“遞歸污染”。此時，AI從數(shù)據(jù)污染的受害者轉(zhuǎn)化成為數(shù)字環(huán)境中活躍的污染生產(chǎn)者，它既深受其害，更推波助瀾。

AI數(shù)據(jù)污染的特點與危害

相比網(wǎng)絡(luò)空間傳統(tǒng)的信息污染，AI數(shù)據(jù)污染更隱蔽，危害更加精準化且通過衍生與疊加效應(yīng)造成持續(xù)性擴大的破壞性后果。

AI數(shù)據(jù)污染易被“視而不見”。當前，在各種生成式人工智能輔助下，圖片和視頻快速低成本批量產(chǎn)出，其中不乏數(shù)據(jù)已被污染的虛假信息。當人們面對AI生成的各種圖像和視頻時，基于“眼見為實”的感官本能信任，容易消解甚至完全忽視存在的數(shù)據(jù)污染的風(fēng)險。例如，2025年曾一度被網(wǎng)民大量轉(zhuǎn)發(fā)的“云南××地遭遇嚴重洪災(zāi)”的網(wǎng)絡(luò)視頻被網(wǎng)信部門證實為AI合成制假信息，這不僅誤導(dǎo)公眾，加劇社會恐慌，還嚴重干擾當?shù)卣７罏?zāi)救災(zāi)秩序。

AI推送精準化加劇數(shù)據(jù)污染風(fēng)險。在智能算法推薦系統(tǒng)模式下，AI信息傳播能迅速識別并鎖定目標人群。當系統(tǒng)使用污染后的數(shù)據(jù)時，會加速形成信息繭房，將用戶封閉在錯誤或者有毒的數(shù)據(jù)環(huán)境中。在醫(yī)療等專業(yè)領(lǐng)域，權(quán)威知識一旦被數(shù)據(jù)污染，形成的錯誤診療建議不僅會危害患者生命，還可能有指向性地引起大規(guī)模的公共衛(wèi)生危機。在城市治理新范式下，人工智能全面賦能城市高效精準治理，如果AI系統(tǒng)遭到污染數(shù)據(jù)侵蝕，污染風(fēng)險將沿著自動化的數(shù)字脈絡(luò)蔓延，極有可能對城市關(guān)鍵信息及基礎(chǔ)設(shè)施正常運行造成破壞性影響。

AI數(shù)據(jù)污染擴散快、消除難。AI在圖片、音頻、視頻的多媒體形態(tài)生成中占據(jù)優(yōu)勢，這意味著如果任何一個端口存在數(shù)據(jù)污染，污染就會以源頭為中心呈疊加倍速擴散之勢。同時，與此對應(yīng)的數(shù)據(jù)驗證、核實和過濾難度將大幅度提升，數(shù)據(jù)清洗消耗專業(yè)資源驟然增大，污染影響消除困難重重。例如，人為導(dǎo)入對事件偏見性認識數(shù)據(jù)后，通過AI多媒體形態(tài)傳播形成大面積數(shù)據(jù)污染，就會持續(xù)不斷地產(chǎn)生偏見性的認識，持續(xù)危害國家安全和社會穩(wěn)定。

當AI遇上數(shù)據(jù)污染，多維度危害就可能立體化呈現(xiàn)在人們眼前。它不僅侵犯數(shù)據(jù)主體權(quán)益，使其隱私泄露經(jīng)濟受損，破壞人際信任加劇社會對立，導(dǎo)致資源錯配社會秩序混亂，還可能衍生出一系列國家安全風(fēng)險。

堅持“四要”，推進AI數(shù)據(jù)污染治理

如何做好AI數(shù)據(jù)污染的治理，關(guān)鍵在于堅持發(fā)展思維，依法建章立制，重視技術(shù)標準建設(shè)，強化協(xié)同共治，真正將清潔可信的數(shù)據(jù)優(yōu)勢轉(zhuǎn)化為人工智能健康發(fā)展的動能。

堅持發(fā)展思維，強化AI數(shù)據(jù)污染治理。人類歷史上每一次重大技術(shù)突破都伴隨治理挑戰(zhàn)。當下，工業(yè)革命帶來的環(huán)境污染在建立科學(xué)環(huán)境治理體系、完善立法監(jiān)管和技術(shù)創(chuàng)新迭代中逐步改善，最終形成綠色可持續(xù)發(fā)展理念，人居生態(tài)環(huán)境日益改善。面對AI技術(shù)發(fā)展中的伴生物，既要認清AI數(shù)據(jù)污染的危害性，夯實安全底線重視風(fēng)險防控，更要堅持發(fā)展思維，保持對AI技術(shù)賦能數(shù)據(jù)價值的信心。具體而言，治理AI數(shù)據(jù)污染并非阻礙AI技術(shù)應(yīng)用，而是要以發(fā)展為導(dǎo)向，通過技術(shù)迭代與制度創(chuàng)新，積極推進可信AI技術(shù)應(yīng)用，反向推動清潔高質(zhì)量數(shù)據(jù)群的構(gòu)建，逐步形塑面向數(shù)據(jù)治理的責任共同體意識，最終實現(xiàn)技術(shù)賦能與社會信任的共同提升。

治理AI數(shù)據(jù)污染要依法建章立制?！吨腥A人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律法規(guī)，為數(shù)據(jù)污染治理提供了法律框架，強調(diào)數(shù)據(jù)分類分級保護、安全風(fēng)險評估與監(jiān)測，以及數(shù)據(jù)處理的通用安全義務(wù)等，這為AI數(shù)據(jù)污染治理提供了根本遵循標準。AI數(shù)據(jù)污染治理，應(yīng)在現(xiàn)有法律指引下，進一步建章立制，尤其是由改變行為結(jié)果產(chǎn)生匹配法律責任的傳統(tǒng)做法，轉(zhuǎn)向強調(diào)預(yù)防數(shù)據(jù)污染風(fēng)險為主的規(guī)則設(shè)定?？筛鶕?jù)AI數(shù)據(jù)污染風(fēng)險作出因時而變的制度安排，強化其敏捷性治理。

治理AI數(shù)據(jù)污染，要重視技術(shù)標準建設(shè)。在AI數(shù)據(jù)污染敏捷性治理中，要加強技術(shù)標準建設(shè)，以防范數(shù)據(jù)污染風(fēng)險。實踐中，國家市場監(jiān)督管理總局、國家標準化管理委員會已發(fā)布了《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能數(shù)據(jù)標注安全規(guī)范》（GB/T 45674-2025）、《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》（GB/T 45652-2025）、《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》（GB/T 45654—2025）三項國家技術(shù)標準，將在2025年11月1日正式實施。這些技術(shù)標準對數(shù)據(jù)標注、訓(xùn)練數(shù)據(jù)安全以及數(shù)據(jù)通用安全等作了明確規(guī)定，強調(diào)通過增強AI數(shù)據(jù)來源的評估、核驗及數(shù)據(jù)來源多樣性等方式阻斷數(shù)據(jù)污染傳播，保障人工智能數(shù)據(jù)安全。

AI數(shù)據(jù)污染治理，要強化協(xié)同共治。AI數(shù)據(jù)污染涉及個人數(shù)據(jù)權(quán)益保障、人工智能產(chǎn)品效能以及國家人工智能安全發(fā)展等多維價值，構(gòu)建不同主體權(quán)責明晰的協(xié)同式治理機制勢在必行。在個體層面，數(shù)據(jù)權(quán)屬主體應(yīng)有權(quán)通過知情同意方式查核與個體有關(guān)的數(shù)據(jù)污染并加以更正，在數(shù)據(jù)污染的潛伏期發(fā)揮個體矯正的作用。人工智能的數(shù)據(jù)處理者，不僅應(yīng)當履行數(shù)據(jù)安全保障義務(wù)，在數(shù)據(jù)污染發(fā)生時要智能精準地干預(yù)，還應(yīng)為數(shù)據(jù)權(quán)屬主體提供數(shù)據(jù)查核與更正的正確途徑，并與數(shù)據(jù)監(jiān)管者共享數(shù)據(jù)污染處置信息。負有質(zhì)量保障義務(wù)的數(shù)據(jù)監(jiān)管者應(yīng)當在事前、事中和事后均有效參與數(shù)據(jù)污染治理進程，與數(shù)據(jù)權(quán)屬主體和數(shù)據(jù)處理者進行多方聯(lián)動，強化數(shù)據(jù)安全。確立動態(tài)交互、協(xié)同響應(yīng)的治理模式，有助于實現(xiàn)AI數(shù)據(jù)污染風(fēng)險的未然防控，構(gòu)建更具韌性的數(shù)字安全生態(tài)系統(tǒng)。

將“發(fā)展思維、建章立制、技術(shù)標準、協(xié)同共治”四維環(huán)環(huán)相扣，構(gòu)建立體化的AI數(shù)據(jù)污染治理框架，有助于化解AI數(shù)據(jù)污染隱蔽性高、風(fēng)險擴散快、后果消除難等問題，實現(xiàn)AI數(shù)據(jù)污染系統(tǒng)治理，最終塑造安全、可信、負責的人工智能發(fā)展生態(tài)。

（作者單位：重慶郵電大學(xué)網(wǎng)絡(luò)法治研究中心）