文 | 王可（新京報(bào)傳媒研究）

本來想讓AI輔助減輕寫稿壓力，沒想到這“人工智障”一個(gè)接一個(gè)的挖坑，AI輔助寫稿的“甜蜜陷阱”該怎么躲？

01

“人工智障” 風(fēng)險(xiǎn)無窮

從錄音自動(dòng)轉(zhuǎn)寫成文字，到依據(jù)素材生成初稿，AI 輔助新聞生產(chǎn)早已不是新鮮事，但 “人工智障” 帶來的風(fēng)險(xiǎn)也確實(shí)層出不窮。

AI 在新聞生產(chǎn)中的 “翻車”，最常見的是對(duì)事實(shí)如“幻覺”般的篡改和捏造。

小編此前在一文中做了個(gè)“實(shí)驗(yàn)”，想用AI查詢《浪浪山小妖怪》這部電影未來的出海計(jì)劃，得到如下答復(fù)：

為了進(jìn)一步交叉驗(yàn)證，小編選擇了另一AI平臺(tái)提出問題：

而新平臺(tái)在否認(rèn)了原有答案的同時(shí)，給出了更為詳細(xì)的信源。小編也只好“故技重施”，再次交叉驗(yàn)證：

至此，小編已經(jīng)放棄了稿件中對(duì)于影片出海計(jì)劃描述，但對(duì)于AI幻覺的篡改和捏造能力倒是有了更深刻的認(rèn)知。

這類事實(shí)層面的失真，本質(zhì)是 AI 對(duì)信息的 “創(chuàng)造性重組”—— 它更擅長捕捉語言模式而非核實(shí)真實(shí)性，當(dāng)訓(xùn)練數(shù)據(jù)中存在模糊表述時(shí)，就可能憑空生成看似權(quán)威的表述，實(shí)則毫無依據(jù)。

邏輯鏈條的斷裂，則讓AI寫稿陷入 “自說自話” 的尷尬。

此前，有美國科技新聞網(wǎng)站“實(shí)驗(yàn)性”的以AI生成金融稿件發(fā)布，但很快報(bào)道被發(fā)現(xiàn)并未做到預(yù)想中精準(zhǔn)，相反還漏洞百出：

一篇報(bào)道稱，如果你有25000美元的車貸，利率為4%，那么你每年將支付1000美元的固定利息。而事實(shí)上，貸款余額每年都在減少，只需支付未償余額的利息即可，不會(huì)出現(xiàn)每年固定償還1000美元利息的情況。AI 混淆了本金與利息的關(guān)系，導(dǎo)致完全錯(cuò)誤的結(jié)論，且未進(jìn)行基本數(shù)學(xué)驗(yàn)證，缺乏邏輯鏈條，讓稿件完全無談“新聞?wù)鎸?shí)”。

02

讓使用“更合理”

AI輔助新聞生產(chǎn)無疑是提升效率的利器，但如何更合理地使用，才是新聞人面臨的現(xiàn)實(shí)問題。

與 AI 協(xié)作的關(guān)鍵，在于從源頭劃定信息邊界。

如進(jìn)行資料整理查詢時(shí)，僅給AI投喂權(quán)威信源如政府官網(wǎng)、主流媒體稿件、已核實(shí)數(shù)據(jù)庫等，拒絕來源不清的模糊素材。同時(shí)向AI明確指令，如“僅基于提供的 5 份材料生成背景介紹，不添加外部信息”，從而有效避免 AI 擅自添加虛假細(xì)節(jié)。這種 “素材潔癖” 看似增加前期工作量，卻能為后續(xù)素材的使用筑牢防火墻。

除此以外，給 AI 內(nèi)容貼好 “溯源標(biāo)簽” 能大幅降低核實(shí)成本。

針對(duì)AI最為“擅長”的數(shù)據(jù)幻想問題，記者可以要求 AI在輸出文本時(shí)標(biāo)注信息來源及確切的鏈接地址，如 “此段數(shù)據(jù)來自 2024年統(tǒng)計(jì)年鑒第156頁”“該觀點(diǎn)引自受訪者的第 3 次采訪記錄”。需求越具體，對(duì)于AI的限定越明確，留給AI的數(shù)據(jù)幻想空間就能得到最大限度的控制。而對(duì)于 AI 自創(chuàng)的 “專家觀點(diǎn)”，則必須通過學(xué)術(shù)數(shù)據(jù)庫、權(quán)威媒體報(bào)道等渠道交叉驗(yàn)證，確認(rèn)無誤后才能采用。

審核環(huán)節(jié)的 “雙校驗(yàn)” 機(jī)制，是防范風(fēng)險(xiǎn)的最后防線。

除了對(duì)如時(shí)間、地名、機(jī)構(gòu)名稱等硬信息的核查，記者應(yīng)尤其注意對(duì)于邏輯鏈的反復(fù)審核，事件的前因、后果，因果邏輯等推導(dǎo)過程，經(jīng)常是AI幻覺的重災(zāi)區(qū)。

03

哪些領(lǐng)域碰不得？

新聞業(yè)與 AI 共處的前提，是明確劃定 “禁區(qū)”。財(cái)經(jīng)數(shù)據(jù)、法律條文、歷史事件等對(duì)精確性要求極高的內(nèi)容，必須由記者手工核對(duì)原始文本，確保每個(gè)數(shù)字、每個(gè)術(shù)語都與原文一致。歷史事件的時(shí)間、人物、因果關(guān)系同樣容不得半點(diǎn)模糊，對(duì)于這類事實(shí)的誤寫，可能直接摧毀媒體的專業(yè)公信力。

涉及人物專訪和敏感事件的細(xì)節(jié)描述，則需要記者牢牢掌握主導(dǎo)權(quán)。這類充滿主觀色彩的細(xì)節(jié)，蘊(yùn)含著人物的情感邏輯和事件的核心矛盾，只有面對(duì)面采訪、多方求證才能準(zhǔn)確捕捉，而AI 的 “腦補(bǔ)” 只會(huì)制造虛假的感動(dòng)。此外，在突發(fā)事件、災(zāi)害報(bào)道中，傷亡數(shù)字、救援進(jìn)展等信息的發(fā)布更需慎之又慎。

AI時(shí)代，文章可以一鍵生成，但新聞不行。利用AI工具，我們可以在音頻轉(zhuǎn)寫、材料整理、審核等環(huán)節(jié)提升新聞生產(chǎn)效率，但新聞事實(shí)的采寫，永遠(yuǎn)需要記者親力親為。

當(dāng)記者能清醒識(shí)別 AI 的 “短板”，用專業(yè)素養(yǎng)為技術(shù)劃界，就能讓 AI 成為深入調(diào)查的 “腳手架”，真正助力新聞生產(chǎn)。

校對(duì) | 趙琳

主編推薦