人工智能已經(jīng)達到了可以生成感覺自然、自信和令人信服的文本的程度。但是，在精美的文本背后，存在著一個日益嚴重的問題，研究人員現(xiàn)在稱之為“機器胡說八道”。該術(shù)語本身并不具有挑釁性。它來自哲學家Harry Frankfurt的作品，他將“胡說八道”定義為不考慮真相的言論。在人工智能的背景下，它描述了一種模式，即系統(tǒng)生成聽起來似乎有道理但事實并非如此的陳述。這與人類的謊言不同，人類的謊言涉及欺騙的意圖。相反，它是這些系統(tǒng)如何構(gòu)建和訓練的結(jié)果。它們旨在產(chǎn)生流暢的語言，而不關心該語言是否真實。

01

人工智能為何會產(chǎn)生“機器胡言亂語”

這個問題并非罕見的故障或孤立的錯誤，而是大型語言模型的根本設計和訓練方式的直接結(jié)果。這些模型基于來自互聯(lián)網(wǎng)、書籍和其他來源的海量文本進行訓練。它們學習詞語的模式以及它們之間可能的銜接方式。當你提出一個問題時，模型會預測下一個詞，然后是下一個，依此類推。它不會實時核實事實。它沒有內(nèi)在的真理感。如果統(tǒng)計上最可能的答案是錯誤的，但聽起來是正確的，它仍然會給出正確的答案。這就是為什么人工智能可以自信地給出虛假的引文、編造的統(tǒng)計數(shù)據(jù)或歪曲的歷史事實。

研究人員發(fā)現(xiàn)，強化學習人類反饋（一種常用的讓人工智能響應更有幫助、更禮貌的方法）實際上可能會使問題變得更糟。當模型被調(diào)整為取悅用戶時，它們可能會優(yōu)先考慮聽起來令人愉快而不是準確性。這可能會導致一些人所說的“諂媚”，即人工智能會說它認為你想聽的話。在政治或敏感話題上，這可能意味著使用含糊其辭或閃爍其詞的語言——一些研究稱之為“含糊其辭”。在其他情況下，人工智能可能會說一些“空洞的修辭”，即長篇大論，聽起來很有見地，但內(nèi)容卻很少。

一些研究人員認為，將這種行為稱為“撒謊”具有誤導性，因為撒謊需要有意圖。機器沒有信仰或動機。但它對用戶的影響可能與撒謊本身相同。傷害來自于謊言本身，而非其背后的意圖。這就是為什么“機器胡說八道”一詞越來越受到關注。它表達了這樣一種觀點：即使系統(tǒng)沒有主動試圖欺騙，它也對真相漠不關心。

02

誤導性人工智能輸出的風險和影響

機器胡說八道的風險不僅僅在于學術(shù)。在日常使用中，它會誤導依賴人工智能獲取信息的人。在新聞業(yè)，它會污染事實核查流程。在教育領域，它會讓學生對錯誤答案產(chǎn)生錯誤的信心。在商業(yè)領域，它會扭曲決策。由于人工智能的輸出通常帶有權(quán)威的語氣，這種危險被放大了。人們更容易相信寫得好、毫不猶豫的陳述。當系統(tǒng)缺乏內(nèi)部機制來驗證其內(nèi)容時，這種信任可能會被誤置。

03

減少傷害和提高可靠性的策略

解決這個問題需要的不僅僅是更好的訓練數(shù)據(jù)。雖然提高數(shù)據(jù)的質(zhì)量和多樣性會有所幫助，但這并不能改變模型的核心目標是生成可能的文本，而不是真實的文本這一事實。一種方法是集成與語言模型同時運行的事實核查系統(tǒng)。這些系統(tǒng)可以在將聲明呈現(xiàn)給用戶之前，根據(jù)可信數(shù)據(jù)庫對其進行驗證。另一種方法是檢索增強生成，其中模型實時搜索相關文檔，并利用它們作為答案的基礎。這可以減少幻覺，但并不能完全消除它們。

透明度也至關重要。當人工智能做出有根據(jù)的猜測，而不是陳述已證實的事實時，應該告知用戶。這可以通過置信度評分或明確的免責聲明來實現(xiàn)。一些研究人員建議，應該訓練人工智能更頻繁地表達不確定性，而不是總是給出明確的答案。這樣一來，互動就不像是在與一位無所不知的神諭交談，而更像是在咨詢一位知識淵博但容易犯錯的助手。

監(jiān)管和行業(yè)標準也發(fā)揮著重要作用。如果人工智能系統(tǒng)要應用于醫(yī)療保健、法律或金融等領域，就應該對準確性和問責制提出明確的要求。開發(fā)人員應該能夠解釋他們的系統(tǒng)如何運作、基于哪些數(shù)據(jù)進行訓練，以及采取了哪些措施來減少虛假信息。獨立審計可以幫助確保這些說法并非僅僅停留在營銷層面。

與此同時，用戶需要對人工智能的輸出保持健康的懷疑態(tài)度。正如我們學會質(zhì)疑社交媒體上的信息一樣，我們也需要質(zhì)疑來自人工智能的信息。這并不意味著徹底拒絕它，而是將其視為一個起點，而非最終答案。與其他來源進行交叉核對應該成為一種習慣。教育系統(tǒng)可以在這方面發(fā)揮作用，教授數(shù)字素養(yǎng)，包括理解人工智能的工作原理以及它可能出現(xiàn)的問題。

機器胡說八道的問題不會很快消失。隨著人工智能越來越先進，其制造令人信服的謊言的能力只會越來越強。但這并不意味著我們無能為力。通過結(jié)合技術(shù)保障、透明度、監(jiān)管和用戶意識，我們可以減少危害。我們的目標不是讓人工智能變得完美——沒有哪個系統(tǒng)是完全不會出錯的——而是讓它更可靠，更少誤導。

總結(jié)

“機器胡說八道”這個詞聽起來可能有些生硬，但它卻抓住了我們無法忽視的一個現(xiàn)實。人工智能并非人類知識的中立鏡像。它是一個由數(shù)據(jù)、算法和激勵機制塑造的語言生成器。如果我們希望它服務于真理而非僅僅為了流利，我們就必須以此為導向來設計它。這意味著我們不僅要重新思考技術(shù)本身，還要重新思考指導其發(fā)展的價值觀。挑戰(zhàn)既關乎人類的優(yōu)先事項，也關乎機器的能力。我們想要的是優(yōu)化得更像人類的系統(tǒng)，還是優(yōu)化得更真實的系統(tǒng)？這兩者并不總是相同的。如果我們選擇前者，我們就有可能構(gòu)建出具有說服力但不值得信任的工具。如果我們選擇后者，我們可能不得不接受人工智能有時會不那么流暢、不那么自信、也不那么有趣。但它也會更加誠實。

免責聲明：

本文所發(fā)布的內(nèi)容和圖片旨在傳播行業(yè)信息，版權(quán)歸原作者所有，非商業(yè)用途。如有侵權(quán)，請與我們聯(lián)系刪除。所有信息不構(gòu)成任何投資建議，加密市場具有高度風險，投資者應基于自身判斷和謹慎評估做出決策。投資有風險，入市需謹慎。

設為星標 避免錯過

虛擬世界沒有旁觀者，每個點贊都是創(chuàng)造歷史的像素

關注我，一起探索AWM?

2025-08-15

2025-08-14

2025-08-13

商業(yè)贊助

點擊下方 “目錄” 閱讀更多