人民日?qǐng)?bào)近日刊發(fā)《如何看待AI"一本正經(jīng)地胡說八道"》的深度觀察,揭示當(dāng)前大模型普遍存在的"AI幻覺"現(xiàn)象:當(dāng)處理超出知識(shí)儲(chǔ)備的問題時(shí),系統(tǒng)會(huì)生成包含虛構(gòu)細(xì)節(jié)、錯(cuò)誤鏈接等失真內(nèi)容。調(diào)研顯示42.2%用戶將"內(nèi)容不準(zhǔn)確"列為首要痛點(diǎn)。盡管行業(yè)已采取檢索增強(qiáng)生成、紅藍(lán)對(duì)抗等技術(shù)手段,但專家普遍認(rèn)為該問題短期內(nèi)難以根除。值得注意的是,文中關(guān)于AI幻覺可能激發(fā)創(chuàng)造力的觀點(diǎn),正在輿論場(chǎng)引發(fā)持續(xù)爭(zhēng)議。
當(dāng)前輿論場(chǎng)已顯現(xiàn)三重風(fēng)險(xiǎn)裂痕:專業(yè)媒體與普通網(wǎng)民對(duì)技術(shù)缺陷的認(rèn)知斷層正在擴(kuò)大,部分科普賬號(hào)將"AI幻覺"簡(jiǎn)單類比為人類想象力的言論遭到強(qiáng)烈反彈;技術(shù)樂觀派與審慎派在社交平臺(tái)形成陣營(yíng)化對(duì)峙,某大V"AI造謠不算謠"的極端觀點(diǎn)單日轉(zhuǎn)發(fā)破萬;更隱蔽的風(fēng)險(xiǎn)在于,某些自媒體正利用公眾恐慌心理,將個(gè)別案例演繹為系統(tǒng)性風(fēng)險(xiǎn),某財(cái)經(jīng)博主"AI正在批量制造假新聞"的不實(shí)視頻已獲百萬播放。這些分化現(xiàn)象暴露出當(dāng)前AI治理面臨的核心矛盾——技術(shù)迭代速度與社會(huì)適應(yīng)能力的嚴(yán)重不匹配。
從輿情演變規(guī)律看,此次事件折射出三個(gè)維度的認(rèn)知錯(cuò)位:首先是技術(shù)認(rèn)知的"魔法化"傾向,部分廠商宣傳刻意模糊弱人工智能與強(qiáng)人工智能的界限,導(dǎo)致公眾產(chǎn)生不切實(shí)際的期待,當(dāng)AI表現(xiàn)低于預(yù)期時(shí)便形成強(qiáng)烈反彈。某機(jī)構(gòu)調(diào)查顯示,68%受訪者認(rèn)為AI應(yīng)具備"完全準(zhǔn)確"的能力,這種認(rèn)知偏差為輿情爆發(fā)埋下伏筆。其次是風(fēng)險(xiǎn)溝通的"兩極分化",要么將技術(shù)缺陷輕描淡寫為"成長(zhǎng)煩惱",要么渲染為"失控危機(jī)",缺乏基于實(shí)證的分級(jí)評(píng)估體系。最重要的是責(zé)任界定的"模糊地帶",當(dāng)AI生成內(nèi)容造成實(shí)際損害時(shí),平臺(tái)、開發(fā)者、用戶之間的責(zé)任鏈條尚未理清,這種不確定性持續(xù)加劇公眾焦慮。
構(gòu)建AI時(shí)代的輿情應(yīng)對(duì)體系,需要建立三層防御機(jī)制:在技術(shù)層面,廠商應(yīng)當(dāng)建立"缺陷透明"制度,像食品營(yíng)養(yǎng)標(biāo)簽?zāi)菢用鞔_標(biāo)注系統(tǒng)的準(zhǔn)確率邊界,某醫(yī)療AI企業(yè)主動(dòng)公開誤診案例的做法值得借鑒;在傳播層面,主流媒體需設(shè)立"技術(shù)澄清"專欄,邀請(qǐng)工程師與社科專家聯(lián)合解讀專業(yè)問題,破除"要么神話要么妖魔化"的傳播怪圈;在治理層面,建議網(wǎng)信部門牽頭建立"AI內(nèi)容溯源"平臺(tái),對(duì)爭(zhēng)議內(nèi)容實(shí)施開發(fā)者、訓(xùn)練數(shù)據(jù)、生成邏輯的三重備案可查。特別需要警惕的是,要防止輿情處置陷入"技術(shù)萬能主義"陷阱,某地試圖用AI監(jiān)測(cè)AI謠言的失敗案例表明,人類智慧在價(jià)值判斷領(lǐng)域仍不可替代。
這場(chǎng)討論的真正價(jià)值在于推動(dòng)社會(huì)形成技術(shù)認(rèn)知的新范式。我們應(yīng)當(dāng)認(rèn)識(shí)到,AI幻覺就像汽車發(fā)明初期的爆胎事故,既是技術(shù)局限性的體現(xiàn),也是進(jìn)化必經(jīng)的試錯(cuò)過程。但不同于機(jī)械故障的是,AI內(nèi)容生產(chǎn)直接介入認(rèn)知領(lǐng)域,這就要求監(jiān)管框架必須具備動(dòng)態(tài)適應(yīng)性。荷蘭已試行"AI內(nèi)容風(fēng)險(xiǎn)分級(jí)"制度,將醫(yī)療建議等高風(fēng)險(xiǎn)應(yīng)用與娛樂創(chuàng)作區(qū)別監(jiān)管,這種精細(xì)化治理思路頗具參考價(jià)值。對(duì)普通用戶而言,亟需建立"二次驗(yàn)證"的思維習(xí)慣,就像對(duì)待社交媒體信息一樣保持合理懷疑。
(以上分析僅作為輿情案例解讀,供輿評(píng)從業(yè)者參考。讓我們以寬容之心看待身邊的事情,營(yíng)造和諧社會(huì)的良好氛圍)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.