建議阻斷非法數(shù)據(jù)跨境，嚴(yán)管、嚴(yán)控資金鏈條。工信、網(wǎng)信部與司法機(jī)關(guān)協(xié)作，強(qiáng)化對境外、跨境數(shù)據(jù)通信國際專線、VPN服務(wù)、云服務(wù)租賃的監(jiān)管，嚴(yán)厲打擊非法轉(zhuǎn)租和提供非法代理服務(wù)行為，阻斷非法數(shù)據(jù)跨境傳輸渠道。

——北京市海淀區(qū)人民檢察院網(wǎng)絡(luò)科技犯罪檢察團(tuán)隊(duì)負(fù)責(zé)人李鵬

“在被‘開盒’這件事上，僅靠個人維權(quán)意識提升遠(yuǎn)遠(yuǎn)不夠，傷害依然會發(fā)生。關(guān)鍵是要斬?cái)鄬⑴端穗[私‘武器化’的黑灰產(chǎn)利益鏈條?！遍L期從事個人信息保護(hù)合規(guī)實(shí)務(wù)的王新銳注意到，從早年的網(wǎng)絡(luò)暴力到如今的查檔開盒，“開盒”被“武器化”了，攻擊對象可以是任何一個普通人。

當(dāng)新技術(shù)成為“開盒掛人”的“武器”，相應(yīng)的平臺治理和技術(shù)反制手段能否跟得上？“開盒”網(wǎng)暴的違法性和危害性明顯，如何強(qiáng)化打擊和治理？9月16日，南都在北京舉辦數(shù)字經(jīng)濟(jì)治理論壇第20期活動，主題聚焦當(dāng)“開盒”成網(wǎng)暴工具，如何給隱私“上鎖”，論壇上多位學(xué)界和實(shí)務(wù)界專家熱議“反開盒”的有效治理路徑。

與會專家在交流中都提到一個共識，要從源頭加強(qiáng)數(shù)據(jù)安全防護(hù)，壓實(shí)各方責(zé)任，才能讓每個人的隱私真正“上鎖”，遠(yuǎn)離“開盒”的威脅。

　　群體犯罪

　　對個體創(chuàng)傷與公共秩序的“雙重侵蝕”

過去十年間，“開盒”已然從散見偶發(fā)的自發(fā)攻擊行為演化到有組織的、有復(fù)雜利益鏈條的群體行為。

北京大學(xué)法學(xué)院教授王錫鋅觀察到，“開盒”行為背后的個體心理動機(jī)很復(fù)雜，“有些是基于好奇或炫技，有些純粹是基于牟利、獲取流量”，但同時(shí)他也觀察到，還有許多開盒行為則是以“維權(quán)”或“替天行道”為名，部分施暴者曾經(jīng)也是“開盒”的受害者，自認(rèn)為在以正義之名復(fù)仇制裁、以暴易暴，這使得行為人在違法心理上獲得了某種合理性。

王錫鋅談到，他理解的“網(wǎng)絡(luò)開盒”行為分為三個階段，首先要確定一個具體的目標(biāo)對象，通過黑灰產(chǎn)交易等手段獲取目標(biāo)對象的信息，然后將這些信息公布在網(wǎng)絡(luò)平臺——這個過程中，信息公開往往被“武器化”，是給目標(biāo)對象造成傷害的關(guān)鍵環(huán)節(jié)。

王錫鋅表示，前兩個環(huán)節(jié)中，通過非法手段獲取他人個人信息肯定是違法的。第三個環(huán)節(jié)最關(guān)鍵，造成的危害最為顯著和嚴(yán)重。當(dāng)目標(biāo)對象的“開盒”信息被最大化披露，可能引發(fā)“蝴蝶效應(yīng)”，不少網(wǎng)民被組織、動員起來，對目標(biāo)對象進(jìn)行辱罵、造謠，逐漸升級為網(wǎng)絡(luò)暴力。

“在這個意義上，它的違法性是非常清楚的，社會危害性也是非常巨大的?！彼赋?，“開盒”行為直接侵害了自然人的隱私權(quán)、人格權(quán)、敏感個人信息權(quán)益等，這些權(quán)益不僅受民法典、《個人信息保護(hù)法》等法律保護(hù)，在《網(wǎng)絡(luò)安全法》《個人信息保護(hù)法》以及《刑法》等之中也有明確規(guī)定。

除了對個體權(quán)益的侵害，“開盒”的另一危害體現(xiàn)在公共利益層面。王錫鋅認(rèn)為，這種行為的泛濫會直接壓抑網(wǎng)絡(luò)當(dāng)中理性、真誠的表達(dá)和交流，甚至出現(xiàn)“寒蟬效應(yīng)”，給公眾帶來普遍的焦慮和不安感，“每個人都會感覺到自己暴露在這樣的(網(wǎng)絡(luò))環(huán)境中是危險(xiǎn)的，最好的辦法還是做‘蒙面大俠’?！蓖瑫r(shí)，“開盒”及其引發(fā)的網(wǎng)暴行為還會助長社會戾氣，加劇整個社會在部分關(guān)鍵問題上的分裂情緒，對網(wǎng)絡(luò)空間公共秩序、安定性帶來巨大威脅。

　　犯罪趨勢

　　隱蔽性極強(qiáng)，犯罪主體低齡化

在南都第20期數(shù)字經(jīng)濟(jì)治理論壇上，北京市海淀區(qū)人民檢察院網(wǎng)絡(luò)科技犯罪檢察團(tuán)隊(duì)負(fù)責(zé)人李鵬以《網(wǎng)絡(luò)開盒犯罪的打擊與治理》發(fā)表主旨演講。

“開盒”多借助于已經(jīng)泄露的數(shù)據(jù)形成的數(shù)據(jù)庫。李鵬介紹，從已辦理的司法案件來看，已經(jīng)泄露的數(shù)據(jù)庫龐大，源頭廣泛。

由于借助境外工具，“開盒”犯罪相較于其他犯罪也頗為隱蔽?！胺缸锲毡槭褂眉用芡ㄐ殴ぞ?，進(jìn)行網(wǎng)絡(luò)聯(lián)絡(luò)或建立群組傳播信息。同時(shí)，使用境外服務(wù)器存儲數(shù)據(jù)，通過無實(shí)名的虛擬貨幣交易，隱秘性極強(qiáng)。”李鵬介紹，此類犯罪的主要工具和數(shù)據(jù)存儲于境外，但跨境傳播離不開境內(nèi)的技術(shù)支持，也不乏境內(nèi)的不法分子與境外人員相互勾結(jié)、共謀，導(dǎo)致非法數(shù)據(jù)跨境流動，危害后果迅速蔓延。

李鵬注意到，信息通過境外平臺傳播后，會呈現(xiàn)指數(shù)級擴(kuò)散，線上“開盒”極易轉(zhuǎn)化為線下的騷擾、恐嚇、詐騙等犯罪行為。

從作案人員來看，犯罪主體低齡化趨勢明顯。李鵬介紹，在司法實(shí)踐中，以及相關(guān)熱點(diǎn)案件中，涉案人的年齡普遍較低。

“當(dāng)前，‘網(wǎng)絡(luò)開盒’犯罪從非法獲取數(shù)據(jù)、搭建售庫、搭建非法網(wǎng)站或通訊群組，到最終發(fā)布或煽動網(wǎng)絡(luò)暴力，已形成完整的黑灰產(chǎn)產(chǎn)業(yè)鏈，技術(shù)門檻并不高。”李鵬表示。

治理困境

　　新技術(shù)作為網(wǎng)絡(luò)攻訐武器正平民化

“過去被網(wǎng)暴被‘人肉’、被偽造照片的，不說都是名人，往往也不是普通人，需要留下很多數(shù)字足跡才能被傷害，但今天網(wǎng)暴對象已經(jīng)擴(kuò)展到任何一個人?！笔垒x律師事務(wù)所合伙人王新銳觀察到，如今在技術(shù)的加持下已經(jīng)出現(xiàn)很多自發(fā)組織的行為，這也令“開盒”問題從利益驅(qū)動的中心化行為變成了多重目的、去中心化的群體行為。

在此基礎(chǔ)上，王新銳提到了一個關(guān)鍵概念——“新技術(shù)武器化”。不難看到，新技術(shù)作為非法披露隱私的網(wǎng)絡(luò)攻訐武器亦正在平民化。

“原先具備這類技術(shù)能力的人都是超級牛的黑客，現(xiàn)在普通一個高中生，在網(wǎng)上花點(diǎn)錢用AI就能實(shí)現(xiàn)?！蓖跣落J指出，這種變化直接導(dǎo)致網(wǎng)絡(luò)安全治理面臨范式轉(zhuǎn)換的挑戰(zhàn)。

有鑒于此，王新銳強(qiáng)調(diào)，治理需要關(guān)注“武器化”這個核心問題。

“目前的開盒治理，誰違法犯罪了就揪出來讓他坐牢，但靠個案的入刑判罰能威懾到何種程度？治理效用是要打個問號的?！痹谕跣落J看來，宏觀治理開盒，要做的不僅在具體局部上的個案懲戒，更核心的是要運(yùn)用新技術(shù)的對應(yīng)攻防手段，從非法泄露隱私的源頭到傳播、利用的每一環(huán)上都設(shè)卡阻斷，以盡量將社會面上開盒風(fēng)氣的危害降到最低。

談及如何防范“開盒”亂象，王錫鋅直言，對個人而言事前的風(fēng)險(xiǎn)防控非常困難，治理“開盒”行為最重要的責(zé)任主體是監(jiān)管部門和網(wǎng)絡(luò)平臺。

破局之道

　　構(gòu)建平臺協(xié)同與標(biāo)準(zhǔn)明晰的治理體系

平臺在“開盒”治理中的角色備受關(guān)注，這是論壇中各界專家交流的重點(diǎn)。

“社媒平臺的盈利模式本質(zhì)上就是注意力經(jīng)濟(jì)，參與或動員對某些熱點(diǎn)事件當(dāng)事人進(jìn)行開盒攻擊，本身也成為部分網(wǎng)民造熱點(diǎn)博流量的一種方式，而平臺流量機(jī)制在其中往往起到推波助瀾的作用，因此平臺生態(tài)治理是關(guān)鍵。”基于此王錫鋅直言不諱地指出，一方面，國家必須針對“開盒”網(wǎng)暴等行為做出清晰的、明確的立場宣告，從國家層面帶動相關(guān)監(jiān)管部門重視此類亂象，加強(qiáng)對平臺的管控力度。另一方面，平臺應(yīng)進(jìn)一步落實(shí)主體責(zé)任，加強(qiáng)內(nèi)容審查，對于“開盒”相關(guān)違法內(nèi)容及時(shí)采取刪除、屏蔽、取證等措施，并向有關(guān)機(jī)關(guān)報(bào)告，不能為了追求流量而放任違法行為發(fā)酵。

具體到平臺治理上，怎么讓平臺有動力主動參與到網(wǎng)絡(luò)“開盒”行為的治理？

談及治理內(nèi)驅(qū)力，百度安全副總經(jīng)理馮景輝從企業(yè)角度回應(yīng)表示：“越高層會越關(guān)注企業(yè)的健康生態(tài)平衡發(fā)展，越到執(zhí)行層會越多關(guān)注于KPI、流量、短期效應(yīng)?！彼嘎叮俣葍?nèi)部正在推動數(shù)據(jù)安全治理，通過定義不同數(shù)量級的系統(tǒng)級別和敏感級別來平衡治理成本與風(fēng)險(xiǎn)。

現(xiàn)實(shí)中，各大平臺都有一系列技術(shù)手段去識別“開盒”掛人等信息，治理“開盒”的技術(shù)攻防也在逐步升級。但馮景輝還提到一類新的開盒黑灰產(chǎn)手法，“現(xiàn)在很多‘開盒’的源頭信息是從外網(wǎng)回流到國內(nèi)平臺，以小作文小段子等馬甲形式出現(xiàn)，以投流信息方式在各平臺間串聯(lián)、相互投流。因此，具體落實(shí)到監(jiān)管規(guī)制和技術(shù)攻防的層面，馮景輝提醒，“宏觀治理要取得實(shí)效，需要更大范圍內(nèi)在各大平臺間聯(lián)動、打通對齊顆粒度?！?/p>

王新銳亦有同感，他直言，清朗網(wǎng)絡(luò)空間、嚴(yán)打“開盒”亂象的治理邏輯核心，在于各大平臺一定要協(xié)同治理，“不要囿于競爭關(guān)系導(dǎo)致無法形成合力，導(dǎo)致環(huán)境惡化讓大家都受影響?！?/p>

王新銳在實(shí)務(wù)中注意到，證據(jù)明顯的網(wǎng)暴案例平臺往往能做出快檔處理，但司法糾紛中更多是模棱兩可的案例，涉及到調(diào)查取證難、因果判定復(fù)雜等諸多因素?！敖ㄗh各大平臺在集中性的議題上合力做一些清晰的分級治理指引，形成一定的共識?！?/p>

馮景輝還建議，在協(xié)同平臺快速處置上，法院、檢察院等職能部門可牽頭明確一套流程化的固定取證實(shí)操指引，或者出臺一些能夠清晰認(rèn)定開盒行為的規(guī)范——比如開出哪些信息屬于敏感信息，需要達(dá)到什么量級才算達(dá)到侵犯公民個人信息的違法認(rèn)定，建立群組是否算非法利用網(wǎng)絡(luò)信息罪等。

　　治理建議

　　借鑒反詐打擊治理經(jīng)驗(yàn)，建立反網(wǎng)暴大數(shù)據(jù)平臺

在北京市海淀區(qū)人民檢察院網(wǎng)絡(luò)科技犯罪檢察團(tuán)隊(duì)負(fù)責(zé)人李鵬看來，當(dāng)前對境外通訊工具服務(wù)器缺乏有效的管控手段，源頭治理難等多種因素疊加，共同導(dǎo)致“網(wǎng)絡(luò)開盒”犯罪全鏈條打擊成本高、難度大。

為有效遏制“網(wǎng)絡(luò)開盒”犯罪，李鵬建議，應(yīng)阻斷非法數(shù)據(jù)跨境，嚴(yán)管、嚴(yán)控資金鏈條。工信、網(wǎng)信部與司法機(jī)關(guān)協(xié)作，強(qiáng)化對境外、跨境數(shù)據(jù)通信國際專線、VPN服務(wù)、云服務(wù)租賃的監(jiān)管，嚴(yán)厲打擊非法轉(zhuǎn)租和提供非法代理服務(wù)行為，阻斷非法數(shù)據(jù)跨境傳輸渠道。金融監(jiān)管、司法機(jī)關(guān)等多部門協(xié)作，嚴(yán)厲打擊利用虛擬貨幣洗錢和繞開外匯監(jiān)管跨境支付結(jié)算等非法行為，學(xué)界應(yīng)探索建立此類犯罪涉案錢款的資金推定規(guī)則。

同時(shí)，李鵬提到，應(yīng)強(qiáng)化境內(nèi)數(shù)據(jù)安全防護(hù)，壓實(shí)各方責(zé)任。公民個人信息數(shù)據(jù)保管方必須嚴(yán)格落實(shí)數(shù)據(jù)安全法、個人信息保護(hù)法等法律法規(guī)規(guī)定。加強(qiáng)內(nèi)部數(shù)據(jù)安全管理，防范內(nèi)鬼。及時(shí)修補(bǔ)計(jì)算機(jī)信息系統(tǒng)漏洞，強(qiáng)化技術(shù)防護(hù)，推行數(shù)據(jù)加密、訪問權(quán)限控制、操作留痕、水印追蹤、定期銷毀等措施。特別是關(guān)鍵信息基礎(chǔ)設(shè)施領(lǐng)域，重建設(shè)的同時(shí)更重防護(hù)，全面落實(shí)相關(guān)措施。

李鵬還建議，應(yīng)構(gòu)建監(jiān)測打擊協(xié)作平臺。可借鑒反詐打擊治理經(jīng)驗(yàn)，由偵查機(jī)關(guān)牽頭，建立反網(wǎng)暴大數(shù)據(jù)平臺，整合相關(guān)部門、互聯(lián)網(wǎng)內(nèi)容服務(wù)提供商反饋的線索，利用人工智能等技術(shù)監(jiān)測網(wǎng)絡(luò)暴力信息的苗頭及異常數(shù)據(jù)，實(shí)現(xiàn)早期預(yù)警和精準(zhǔn)打擊。同時(shí)，深化行刑銜接協(xié)同治理，完善行政機(jī)關(guān)與司法機(jī)關(guān)的線索移送、案件協(xié)作機(jī)制。檢察機(jī)關(guān)可以積極探索個人信息保護(hù)公益訴訟，對違法違規(guī)平臺企業(yè)嚴(yán)格執(zhí)法，通報(bào)處罰。

“同時(shí)，應(yīng)強(qiáng)化重點(diǎn)人群的教育矯正，精準(zhǔn)幫教未成年人。對涉案未成年人堅(jiān)持教育感化挽救。落實(shí)監(jiān)護(hù)人的責(zé)任，探索強(qiáng)制網(wǎng)絡(luò)安全教育制度，強(qiáng)化網(wǎng)絡(luò)素養(yǎng)教育，在學(xué)校和全社會深入開展網(wǎng)絡(luò)安全以及法治教育，提升青少年網(wǎng)絡(luò)辨別能力和自我保護(hù)意識，引導(dǎo)文明上網(wǎng)。強(qiáng)化宣傳以及自我保護(hù)，開展全民反網(wǎng)暴宣傳，提高公眾對‘開盒’危害認(rèn)識和信息保護(hù)意識?！崩铢i稱。

南都調(diào)研 總第830期 出品：南都數(shù)字經(jīng)濟(jì)治理研究中心

采寫：南都記者 呂虹 樊文揚(yáng) 劉嫚 發(fā)自北京 制圖：易福紅(豆包AI)