多年來，大型語言模型 (LLM) 一直吸引著我們的想象力。ChatGPT 可以撰寫電子郵件，Gemini 可以解答問題，Llama 則為各種應(yīng)用程序提供支持。然而，在它們令人印象深刻的能力背后，卻隱藏著一個令人不安的現(xiàn)實：這些模型總是滿懷信心地生成虛假信息。一位律師提交了一份完全捏造的法律依據(jù)的訴訟摘要。一位教授被誣告行為不端。醫(yī)療系統(tǒng)根據(jù)虛構(gòu)的證據(jù)提出建議。我們稱這些錯誤為幻覺，但它們卻指向更深層次的問題。它們暴露了那些僅依賴統(tǒng)計模式匹配而非邏輯推理的系統(tǒng)的核心弱點。

01

LLM幻覺：根本原因及解決方法

幻覺問題源于語言模型的實際工作方式。它們根據(jù)訓(xùn)練過程中學(xué)習(xí)到的統(tǒng)計模式來預(yù)測下一個單詞，每個預(yù)測都會影響下一個預(yù)測。這形成了一個鏈條，早期的錯誤會不斷增加。該模型沒有內(nèi)部機(jī)制來檢查其陳述是否符合事實或遵循邏輯規(guī)則。它只是選擇最有可能的下一個單詞，這通常會導(dǎo)致看似令人信服但實際上完全錯誤的答案。這不是一個可以輕易修復(fù)的錯誤；它源于模型的核心架構(gòu)。

業(yè)界嘗試用不同的方法來解決這個問題。我們檢索外部文檔，為模型提供更多背景信息。我們根據(jù)更好的數(shù)據(jù)對模型進(jìn)行微調(diào)。我們通過仔細(xì)的提示添加安全護(hù)欄。但這些方法都不能解決核心問題。它們是建立在某個架構(gòu)上的附加組件，該架構(gòu)在設(shè)計上是根據(jù)概率而不是對事實的理解來生成文本。隨著我們走向醫(yī)學(xué)、法律和金融等關(guān)鍵應(yīng)用領(lǐng)域，在這些領(lǐng)域中，錯誤會產(chǎn)生真正的后果，我們必須面對一個令人不安的現(xiàn)實：如果我們僅僅依靠神經(jīng)網(wǎng)絡(luò)來推理事實，我們就無法達(dá)到我們需要的可靠性。到 2025 年，許多研究人員和公司已經(jīng)認(rèn)識到這一現(xiàn)實，并將他們的注意力轉(zhuǎn)向根本性的新方法，而不是對現(xiàn)有模型的細(xì)微改進(jìn)。

02

理解神經(jīng)符號人工智能

神經(jīng)符號人工智能將人工智能領(lǐng)域中兩種長期存在的、曾經(jīng)看似截然相反的傳統(tǒng)融合在一起。神經(jīng)網(wǎng)絡(luò)擅長從數(shù)據(jù)中學(xué)習(xí)、識別模式和生成自然語言。而符號系統(tǒng)則擅長應(yīng)用明確的規(guī)則、進(jìn)行邏輯推理和確保一致性。幾十年來，這兩種方法一直在爭奪主導(dǎo)地位。如今，人們越來越意識到，未來在于兩者優(yōu)勢的結(jié)合。到2025年，在迫切的實際需求和日益復(fù)雜的技術(shù)的推動下，這種融合正在迅速加速。

神經(jīng)符號人工智能的工作原理是為人工智能系統(tǒng)提供明確的規(guī)則手冊。系統(tǒng)不再僅僅依靠神經(jīng)網(wǎng)絡(luò)來推理“如果下雨，外面的東西就會被淋濕”之類的關(guān)系，而是將其作為正式規(guī)則來學(xué)習(xí)。系統(tǒng)理解適用的邏輯原則：如果 A 等于 B 且 B 等于 C，那么 A 必須等于 C。這些規(guī)則來自兩個來源。人類直接輸入它們，對醫(yī)學(xué)或法律等領(lǐng)域的領(lǐng)域知識進(jìn)行編碼。該系統(tǒng)還通過稱為知識提取的過程自動從其訓(xùn)練數(shù)據(jù)中提取規(guī)則。當(dāng)神經(jīng)組件和符號組件協(xié)同工作時，就會發(fā)生強(qiáng)大的事情。神經(jīng)網(wǎng)絡(luò)提供靈活性、模式識別和自然語言能力。符號層提供確定性、可靠性和正確性保證。

不妨思考一下這在實踐中是如何運作的。一個使用純神經(jīng)網(wǎng)絡(luò)的醫(yī)療系統(tǒng)可能會為患者推薦治療方案。神經(jīng)符號層會添加第二層。符號推理器會檢查該建議是否違反任何已知的醫(yī)療規(guī)則，或是否與特定患者的信息相矛盾。如果神經(jīng)組件給出的建議被符號層認(rèn)為是錯誤的，系統(tǒng)會拒絕它或向人類發(fā)出警報。用戶現(xiàn)在不僅得到了答案，還得到了解釋。他們可以看到得出結(jié)論的邏輯鏈。這種透明度不再是可有可無的。隨著人工智能法規(guī)的不斷完善，可解釋性正成為一項法律和道德要求。歐盟已經(jīng)對部署無法解釋其決策的人工智能系統(tǒng)的公司處以罰款。這種壓力只會隨著時間的推移而增加。

03

技術(shù)挑戰(zhàn)與神經(jīng)符號復(fù)興

然而，重大的技術(shù)挑戰(zhàn)仍然限制著神經(jīng)符號人工智能的發(fā)展和廣泛應(yīng)用。神經(jīng)網(wǎng)絡(luò)在 GPU 等專用硬件上高效運行，能夠并行處理數(shù)千次計算。符號系統(tǒng)則更傾向于傳統(tǒng)的 CPU 和順序運算。讓這兩種架構(gòu)順暢地通信而不引入重大延遲或成本是一項復(fù)雜的任務(wù)。另一個障礙是符號系統(tǒng)所依賴的邏輯知識庫的創(chuàng)建。即使對于特定領(lǐng)域的應(yīng)用，構(gòu)建和維護(hù)這些知識庫也既耗時又昂貴。編碼所有必要的規(guī)則需要精心設(shè)計和專家投入。擴(kuò)展這些系統(tǒng)以匹配大型通用語言模型的范圍則更加困難。盡管如此，克服這些障礙的動力依然強(qiáng)勁。隨著對可靠、可解釋和值得信賴的人工智能系統(tǒng)的需求不斷增長，解決這些集成挑戰(zhàn)已成為研究人員和企業(yè)的首要任務(wù)。

該領(lǐng)域正在經(jīng)歷研究人員所稱的“神經(jīng)符號復(fù)興”。這并非回到符號人工智能占主導(dǎo)地位的上世紀(jì)八九十年代。相反，這是兩種方法的成熟融合，如今這兩種方法都擁有明顯的優(yōu)勢。現(xiàn)代可解釋性研究、新的自動知識提取方法以及更完善的集成框架使這種融合比以往任何時候都更加切實可行。一項對2020年至2024年間進(jìn)行的研究的系統(tǒng)回顧發(fā)現(xiàn)，大多數(shù)神經(jīng)符號項目專注于將學(xué)習(xí)和推理與邏輯推理相結(jié)合。這種研究的激增標(biāo)志著真正的進(jìn)步，而不僅僅是又一波炒作。

04

現(xiàn)實世界的應(yīng)用程序和平臺

神經(jīng)符號人工智能最有前景的用途出現(xiàn)在精度至關(guān)重要的領(lǐng)域。金融機(jī)構(gòu)使用神經(jīng)符號系統(tǒng)來確保交易建議符合法規(guī)和市場規(guī)則。醫(yī)療保健提供者部署這些系統(tǒng)來根據(jù)醫(yī)療方案驗證治療建議。律師事務(wù)所利用它們進(jìn)行合同分析，合同分析必須引用實際相關(guān)的判例法，而不是編造引文。谷歌通過AlphaFold展示了這種方法的強(qiáng)大功能，它通過將神經(jīng)網(wǎng)絡(luò)與符號數(shù)學(xué)推理相結(jié)合來預(yù)測蛋白質(zhì)結(jié)構(gòu)。AlphaGeometry通過將學(xué)習(xí)與形式邏輯相結(jié)合來解決幾何問題。這些突破清楚地表明，混合人工智能系統(tǒng)不僅僅是理論概念，而且是解決現(xiàn)實世界問題的高效工具。

各公司也在構(gòu)建專門針對神經(jīng)符號應(yīng)用的平臺。例如，AllegroGraph 8.0旨在將知識圖譜與語言模型和形式推理相結(jié)合。它允許用戶將 LLM 輸出建立在經(jīng)過驗證的、基于事實的知識之上。當(dāng)模型試圖斷言某個事物時，系統(tǒng)會根據(jù)知識圖譜中編碼的結(jié)構(gòu)化事實進(jìn)行檢查。如果出現(xiàn)幻覺，系統(tǒng)會檢測到并糾正模型。類似的平臺和框架正在整個行業(yè)中涌現(xiàn)，這表明神經(jīng)符號方法正在從學(xué)術(shù)研究轉(zhuǎn)向?qū)嶋H應(yīng)用。

05

現(xiàn)實展望和人工智能的未來

務(wù)實看待進(jìn)展至關(guān)重要。神經(jīng)符號人工智能不會在一夜之間取代通用語言模型。實際挑戰(zhàn)十分嚴(yán)峻。當(dāng)前的系統(tǒng)在規(guī)則明確的狹窄領(lǐng)域中表現(xiàn)最佳，而非開放式對話。與簡單地在大型互聯(lián)網(wǎng)數(shù)據(jù)集上進(jìn)行訓(xùn)練相比，構(gòu)建知識庫的擴(kuò)展性較差。這些系統(tǒng)比純神經(jīng)或純符號方法需要更多的計算協(xié)調(diào)。在可預(yù)見的未來，我們可能會看到對話式人工智能將繼續(xù)以神經(jīng)語言模型為主導(dǎo)，而對可靠性要求高的關(guān)鍵應(yīng)用將越來越多地采用神經(jīng)符號方法。這種分歧反映了一個基本現(xiàn)實：不同的問題需要不同的解決方案，沒有一種方法是放之四海而皆準(zhǔn)的。

這一轉(zhuǎn)變帶來的更深層次的洞察是，人工智能領(lǐng)域正在學(xué)著質(zhì)疑一些早期的假設(shè)。認(rèn)為單靠規(guī)模和數(shù)據(jù)就能解決任何人工智能問題的想法已被證明是不完整的。認(rèn)為純神經(jīng)方法無需修改就能處理從創(chuàng)意寫作到醫(yī)學(xué)診斷的所有問題的想法可能過于自信了。現(xiàn)在的研究表明，真正的智能需要學(xué)習(xí)和推理。它需要模式識別和邏輯一致性。它需要靈活性和可靠性。人工智能的下一個突破不會來自對現(xiàn)有架構(gòu)的小調(diào)整。它很可能來自向混合系統(tǒng)的架構(gòu)轉(zhuǎn)變，這種混合系統(tǒng)結(jié)合了兩種方法的優(yōu)勢。邏輯的回歸不是懷舊。它是人工智能作為一個領(lǐng)域的成熟，最終認(rèn)識到智能需要學(xué)習(xí)和推理。

免責(zé)聲明：

本文所發(fā)布的內(nèi)容和圖片旨在傳播行業(yè)信息，版權(quán)歸原作者所有，非商業(yè)用途。如有侵權(quán)，請與我們聯(lián)系刪除。所有信息不構(gòu)成任何投資建議，加密市場具有高度風(fēng)險，投資者應(yīng)基于自身判斷和謹(jǐn)慎評估做出決策。投資有風(fēng)險，入市需謹(jǐn)慎。

設(shè)為星標(biāo) 避免錯過

虛擬世界沒有旁觀者，每個點贊都是創(chuàng)造歷史的像素

關(guān)注我，一起探索AWM?

2025-10-03

2025-10-02

2025-10-01

商業(yè)贊助

點擊下方 “目錄” 閱讀更多