2025年6月27日，以“智享AI 成長(zhǎng)有愛(ài)”為主題的“清朗e企來(lái)”沙龍活動(dòng)正如火如荼地舉行。

“未成年人模式如何讓未成年人想用、家長(zhǎng)會(huì)用”、“未成年人模式如何避免低齡化、低智化”、“如何通過(guò)更便捷的方式一鍵啟動(dòng)未成年人模式”……一系列問(wèn)題被直接拋到臺(tái)前，來(lái)自上海市委網(wǎng)信辦、高校以及小紅書(shū)、嗶哩嗶哩、喜馬拉雅等網(wǎng)絡(luò)平臺(tái)的專家、代表沒(méi)有回避，直面問(wèn)題。

事實(shí)上，這一場(chǎng)景只是“清朗守護(hù)·為你而來(lái)”未成年人網(wǎng)絡(luò)環(huán)境整治專項(xiàng)行動(dòng)的一個(gè)縮影。從平臺(tái)治理到素養(yǎng)提升，從AI規(guī)制到心靈守護(hù)，上海的未成年人網(wǎng)絡(luò)保護(hù)正走出一條“心”路。

今年7月11日，市委網(wǎng)信辦組織召開(kāi)未成年人模式建設(shè)分類指導(dǎo)會(huì)。

聚焦精準(zhǔn)保護(hù)，提升服務(wù)效能

未成年人的健康成長(zhǎng)關(guān)乎億萬(wàn)家庭的幸福安寧。作為伴隨信息化發(fā)展成長(zhǎng)起來(lái)的“網(wǎng)絡(luò)原住民”，未成年人已成為互聯(lián)網(wǎng)用戶重要組成部分。在通過(guò)網(wǎng)絡(luò)便利、豐富學(xué)習(xí)和生活的同時(shí)，未成年人也面臨著違法和不良信息侵害、個(gè)人信息泄露、網(wǎng)絡(luò)沉迷、網(wǎng)絡(luò)欺凌等多重風(fēng)險(xiǎn)。

早在2021年《未成年人保護(hù)法》正式實(shí)施不久，上海就在全國(guó)率先試點(diǎn)《上海網(wǎng)絡(luò)平臺(tái)青少年模式設(shè)置指南（試行版）》（以下簡(jiǎn)稱《指南》）?！吨改稀访鞔_提出對(duì)不同年齡段的青少年需做出差異化功能限制，比如網(wǎng)絡(luò)平臺(tái)對(duì)不同年齡段的青少年（8-16周歲、16-18周歲）在充值、購(gòu)買產(chǎn)品時(shí)，對(duì)單次、每月累計(jì)金額設(shè)置上限；明確在青少年模式下不得開(kāi)啟打賞功能，未滿16周歲的青少年不能擔(dān)任網(wǎng)絡(luò)主播。

去年年底，國(guó)家網(wǎng)信辦推出《移動(dòng)互聯(lián)網(wǎng)未成年人模式指南》，青少年模式正式升級(jí)為未成年人模式，今年4月“未成年人模式”在全國(guó)推廣。上海市委網(wǎng)信辦在7月11日舉行的分類指導(dǎo)會(huì)上強(qiáng)調(diào)，小紅書(shū)、嗶哩嗶哩、喜馬拉雅、咪咕等已建成未成年人模式的屬地網(wǎng)絡(luò)平臺(tái)要注重“三個(gè)優(yōu)化”，實(shí)現(xiàn)時(shí)間、內(nèi)容、功能三方面管理升級(jí)。比如時(shí)長(zhǎng)管理方面，要由移動(dòng)智能終端統(tǒng)一控制總時(shí)長(zhǎng)，解決單個(gè)應(yīng)用程序分散計(jì)時(shí)、總時(shí)長(zhǎng)不可控的問(wèn)題；內(nèi)容管理方面，要在持續(xù)擴(kuò)充專屬內(nèi)容池的同時(shí)，分年齡段推薦適齡內(nèi)容；功能管理方面，要在保障使用需求的前提下，合理限制誘導(dǎo)沉迷功能，推動(dòng)便捷性和安全性雙提升。

在屬地網(wǎng)絡(luò)平臺(tái)方面，嗶哩嗶哩的選擇頗具代表性。近一年來(lái)，其圍繞“知識(shí)啟蒙、安全教育、情緒疏導(dǎo)、興趣發(fā)展”等主題建立內(nèi)容分層推薦，并探索按年齡階段匹配差異化推薦策略。

“真正的保護(hù)，不是與現(xiàn)實(shí)完全割裂。完全去現(xiàn)實(shí)化的內(nèi)容環(huán)境容易讓孩子缺乏心理免疫力。”嗶哩嗶哩相關(guān)負(fù)責(zé)人坦言，這種認(rèn)知促使平臺(tái)將未成年人模式重新定位為“可控的現(xiàn)實(shí)暴露”和“適齡的信息鍛煉”——它不僅是一個(gè)避風(fēng)港，更是一個(gè)能幫助他們成長(zhǎng)、建立自我認(rèn)知和判斷力的“訓(xùn)練營(yíng)”。

喜馬拉雅則選擇了一條專業(yè)化道路。與北師大專家合作研發(fā)的“分級(jí)聽(tīng)讀體系”，將兒童內(nèi)容分為9個(gè)級(jí)別。通過(guò)便捷測(cè)試，系統(tǒng)就能為每個(gè)孩子推送合適的內(nèi)容，實(shí)現(xiàn)內(nèi)容難度、主題與心智發(fā)展階段的精準(zhǔn)匹配。

這些探索，共同勾勒出上海在未成年人網(wǎng)絡(luò)保護(hù)上的恒心，要讓未成年人安心、放心地在網(wǎng)上“沖浪”。

以“智享AI 成長(zhǎng)有愛(ài)”為主題的“清朗e企來(lái)”沙龍活動(dòng)現(xiàn)場(chǎng)

嚴(yán)治AI亂象，筑牢安全防線

2025年6月，一則關(guān)于筑夢(mèng)島App的報(bào)道引發(fā)關(guān)注。

據(jù)央廣網(wǎng)報(bào)道，某中學(xué)初一年級(jí)男學(xué)生反映，他常玩的AI聊天軟件筑夢(mèng)島App，含色情擦邊和“分尸獵奇”內(nèi)容。記者下載安裝筑夢(mèng)島App，隨機(jī)選擇一位虛擬互動(dòng)對(duì)象，對(duì)方發(fā)來(lái)的第一句開(kāi)場(chǎng)白就是“先叫聲老公來(lái)聽(tīng)聽(tīng)”……在與該款產(chǎn)品多個(gè)虛擬角色的交流中，也都可以發(fā)現(xiàn)有色情擦邊類內(nèi)容，且部分虛擬角色的對(duì)話尺度，并未因記者提供的假定年齡未成年而受到有效控制。

經(jīng)查，筑夢(mèng)島App AI智能體內(nèi)容生成環(huán)節(jié)存在低俗擦邊等違規(guī)內(nèi)容，危害未成年人身心健康。上海市委網(wǎng)信辦隨后依法約談該平臺(tái)，要求立即整改，健全AI生成合成內(nèi)容審核機(jī)制，加強(qiáng)涉未成年人不良內(nèi)容的整治清理，切實(shí)落實(shí)未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。

上海市委網(wǎng)信辦相關(guān)負(fù)責(zé)人指出，依據(jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法規(guī)，互聯(lián)網(wǎng)平臺(tái)應(yīng)主動(dòng)履行主體責(zé)任，平衡好技術(shù)創(chuàng)新與內(nèi)容合規(guī)之間的關(guān)系，切實(shí)防范AI技術(shù)濫用風(fēng)險(xiǎn)，保護(hù)未成年人合法權(quán)益。

筑夢(mèng)島App事件并非個(gè)例。隨著生成式AI技術(shù)迅猛發(fā)展，未成年人面臨的各類網(wǎng)絡(luò)風(fēng)險(xiǎn)更隱蔽、更難以防范。除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術(shù)，惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

根據(jù)國(guó)家網(wǎng)信辦統(tǒng)一部署，上海組織開(kāi)展的“清朗?整治 AI 技術(shù)濫用”專項(xiàng)行動(dòng)，聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題。對(duì)屢教不改、問(wèn)題嚴(yán)重的企業(yè)，上海市委網(wǎng)信辦表示將依法予以處罰，并對(duì)典型案例進(jìn)行媒體曝光。

整治亂象的同時(shí)，上海也以先行姿態(tài)應(yīng)對(duì)AI技術(shù)對(duì)未成年人保護(hù)帶來(lái)的挑戰(zhàn)。在上海市委網(wǎng)信辦指導(dǎo)下，徐匯區(qū)委網(wǎng)信辦發(fā)布《未成年人科學(xué)使用AI倡議書(shū)》（以下簡(jiǎn)稱“《倡議書(shū)》”）。

這是AI時(shí)代為未成年人實(shí)現(xiàn)數(shù)字保護(hù)的“上海方案”?！冻h書(shū)》建議，未成年人要保持自主性和批判性思維，驗(yàn)證AI生成內(nèi)容準(zhǔn)確性，避免盲目依賴和技術(shù)崇拜，以理性、科學(xué)的態(tài)度與AI和諧共處。學(xué)習(xí)AI技術(shù)原理，以AI為工具拓寬思維邊界，在創(chuàng)新創(chuàng)作中激發(fā)想象力……

這份《倡議書(shū)》的“用心”在于，《倡議書(shū)》從政府構(gòu)建良好生態(tài)、企業(yè)踐行社會(huì)責(zé)任、青少年培育科學(xué)精神三方面提供引導(dǎo)，推動(dòng)形成“政府引導(dǎo)、企業(yè)擔(dān)責(zé)、青少年自主”新模式，為應(yīng)對(duì)AI時(shí)代的未成年人網(wǎng)絡(luò)教育提供了可復(fù)制的“上海方案”。

政企協(xié)同合力，多維施策守護(hù)

“滬小信”網(wǎng)絡(luò)安全冒險(xiǎn)記、“唱響上海話童謠、提升未成年人文明素養(yǎng)”音樂(lè)綜合課、“魔法書(shū)頁(yè)護(hù)成長(zhǎng)、文明網(wǎng)絡(luò)伴童年”……2024年，上海市委網(wǎng)信辦依托未成年人網(wǎng)絡(luò)保護(hù)專項(xiàng)協(xié)同機(jī)制，會(huì)同相關(guān)部門創(chuàng)新推出未成年人網(wǎng)絡(luò)素養(yǎng)“菜單式”課程庫(kù)，實(shí)現(xiàn)“點(diǎn)單”授課、按需施教，共同提升未成年人網(wǎng)絡(luò)素養(yǎng)。2025年，這項(xiàng)工作繼續(xù)走深走實(shí)。

2025年7月7日，上海第一期愛(ài)心暑托班正式開(kāi)班。在長(zhǎng)寧、普陀、寶山、閔行等區(qū)，網(wǎng)絡(luò)素養(yǎng)課程走進(jìn)愛(ài)心暑托班。

長(zhǎng)寧區(qū)委網(wǎng)信辦會(huì)同上海市律師協(xié)會(huì)未成年人權(quán)益保護(hù)專業(yè)委員會(huì)在江蘇路街道開(kāi)展《“滬小信”網(wǎng)絡(luò)安全冒險(xiǎn)記》網(wǎng)絡(luò)素養(yǎng)課程，針對(duì)保護(hù)個(gè)人信息、預(yù)防網(wǎng)絡(luò)欺凌以及網(wǎng)絡(luò)防沉迷問(wèn)題，與近100名學(xué)生開(kāi)展互動(dòng)交流；

普陀區(qū)愛(ài)心暑托班已開(kāi)展6次未成年人網(wǎng)絡(luò)素養(yǎng)課程，覆蓋約200人次，涉及“科技改變生活”“產(chǎn)業(yè)升級(jí)和進(jìn)步”等主題；

寶山區(qū)整合教育、司法、執(zhí)法等多領(lǐng)域資源，推出“爭(zhēng)做網(wǎng)絡(luò)文明小達(dá)人”等課程；

閔行區(qū)指導(dǎo)華漕鎮(zhèn)聯(lián)合屬地派出所以真實(shí)案例科普網(wǎng)絡(luò)安全知識(shí)；

嘉定區(qū)組織“一嘉人”普法志愿服務(wù)團(tuán)隊(duì)推出的未成年人網(wǎng)絡(luò)素養(yǎng)課程聚焦校園欺凌和網(wǎng)絡(luò)欺凌問(wèn)題，系統(tǒng)講解欺凌行為的表現(xiàn)形式、法律后果及應(yīng)對(duì)策略；

崇明區(qū)邀請(qǐng)檢察官赴愛(ài)心暑托班，通過(guò)典型案例分析傳授網(wǎng)絡(luò)犯罪預(yù)防知識(shí)……

與此同時(shí)，上海屬地網(wǎng)絡(luò)平臺(tái)也在同步發(fā)力。

“向上海市慈善基金會(huì)徐匯區(qū)代表處捐贈(zèng)，成立“點(diǎn)亮計(jì)劃”青少年保護(hù)專項(xiàng)基金，用于青少年網(wǎng)絡(luò)保護(hù)、服務(wù)和權(quán)益保障等慈善公益類項(xiàng)目?！泵坠蜗嚓P(guān)工作人員介紹，網(wǎng)絡(luò)安全進(jìn)校園項(xiàng)目主要針對(duì)青少年遭受網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)詐騙以及網(wǎng)絡(luò)沉迷等問(wèn)題。

小紅書(shū)則在2025年暑假期間啟動(dòng)了未成年人反詐專項(xiàng)工作。該項(xiàng)目治理負(fù)責(zé)人柳天宇介紹，平臺(tái)采取“端內(nèi)畫風(fēng)管控+風(fēng)險(xiǎn)阻斷提醒+評(píng)論攔截屏蔽+群聊封禁解散”四位一體技戰(zhàn)法進(jìn)行綜合治理，全力守護(hù)平臺(tái)未成人用戶財(cái)產(chǎn)安全。

與此同時(shí)，平臺(tái)還積極開(kāi)展未成年用戶反詐心智建設(shè)工作。數(shù)據(jù)顯示，小紅書(shū)#未成年反詐指南 超級(jí)話題已獲得超4億曝光量，引發(fā)31萬(wàn)次站內(nèi)討論。

關(guān)注心靈需求，創(chuàng)新守護(hù)模式

在構(gòu)建未成年人網(wǎng)絡(luò)保護(hù)體系中，上海特別注重心靈層面的守護(hù)。

“為感到焦慮的用戶提供寧?kù)o的藍(lán)色系，為情緒低落的用戶提供溫暖的暖色系?！眴袅▎袅ü彩聞?wù)高級(jí)總監(jiān)王昊棟介紹，今年平臺(tái)在未成年人心理健康領(lǐng)域的探索，核心是推動(dòng)“能量加油站”心理關(guān)懷項(xiàng)目煥新升級(jí)，包括引入“心情模式”智能功能，“當(dāng)用戶進(jìn)入‘能量加油站’時(shí)，系統(tǒng)會(huì)引導(dǎo)或根據(jù)用戶自主選擇，識(shí)別其當(dāng)前的情緒狀態(tài)，界面會(huì)自動(dòng)切換相匹配的主題配色?！?/p>

更重要的是，嗶哩嗶哩在平臺(tái)內(nèi)設(shè)置了最后一道“守護(hù)線”——與專業(yè)的第三方心理健康公益組織合作設(shè)立公益熱線，為面臨嚴(yán)重心理困擾的用戶提供即時(shí)、保密且可靠的支持。

Soul平臺(tái)則與北京回龍觀醫(yī)院、上海精神衛(wèi)生中心深度合作設(shè)立專屬心理援助熱線，建立警企聯(lián)動(dòng)機(jī)制。當(dāng)接到用戶的熱線反饋時(shí)，迅速明確其需求，若判定為真實(shí)輕生等信息，則立即報(bào)警并提供必要信息。

此外，傳統(tǒng)的社區(qū)工作也在悄然轉(zhuǎn)型。

比如，普陀區(qū)聚焦未成年人網(wǎng)絡(luò)防沉迷，升級(jí)打造“陽(yáng)光成長(zhǎng)·心網(wǎng)相護(hù)”品牌項(xiàng)目，創(chuàng)新采用“沉浸式心理劇”與分齡化主題沙龍，還原中小學(xué)生家庭在手機(jī)使用與學(xué)習(xí)安排中的典型沖突場(chǎng)景，并融入輕松活潑的互動(dòng)游戲，將抽象的防沉迷理念轉(zhuǎn)化為可感可知的家庭教育實(shí)踐，引導(dǎo)未成年人合理用網(wǎng)、健康上網(wǎng)，同步提升心理健康水平與親子溝通質(zhì)量。

項(xiàng)目負(fù)責(zé)人表示，活動(dòng)始終圍繞防沉迷核心，動(dòng)態(tài)收集家長(zhǎng)和孩子的新問(wèn)題、新需求，針對(duì)寒暑假時(shí)間管理、大考前心理調(diào)適等關(guān)鍵節(jié)點(diǎn)，精準(zhǔn)開(kāi)展親子家庭沙龍?！耙粓?chǎng)活動(dòng)下來(lái)，家長(zhǎng)才明白，許多‘不聽(tīng)話’的背后，其實(shí)是孩子的情緒信號(hào)。”

這種線上線下的聯(lián)動(dòng)，織就了一張密實(shí)的心理健康防護(hù)網(wǎng)。它不再將網(wǎng)絡(luò)問(wèn)題與心理問(wèn)題割裂對(duì)待，而是認(rèn)識(shí)到兩者之間的深刻關(guān)聯(lián)，并在此基礎(chǔ)上構(gòu)建整體性解決方案。

今年，“清朗守護(hù)·為你而來(lái)”專項(xiàng)行動(dòng)指導(dǎo)屬地網(wǎng)站平臺(tái)清理違法違規(guī)信息324萬(wàn)余條，處置違法違規(guī)賬號(hào)3.8萬(wàn)余個(gè)。

數(shù)字背后，是一場(chǎng)更為深刻的治理變革。在這條“走心之路”上，上海不是筑起高墻，而是賦能成長(zhǎng)；不是簡(jiǎn)單隔離，而是培養(yǎng)免疫力；不是單向管理，而是多元共治。當(dāng)政府、企業(yè)、學(xué)校、家庭和社會(huì)形成合力，我們才能在數(shù)字時(shí)代真正守護(hù)好未成年人的明天——

讓他們?cè)诰W(wǎng)絡(luò)世界既自由翱翔，又不迷失方向。