機器之心報道

編輯：Panda

很多人相信，我們已經進入了所謂的「AI 下半場」，一個模型能力足夠強大、應用理應爆發(fā)的時代。然而，對于這個時代真正缺少的東西，不同的人有不同的側重，比如（前）OpenAI 研究者姚順雨強調了評估的重要性，著名數(shù)學家陶哲軒則指出必須降低成本才能實現(xiàn)規(guī)?；瘧?。

而螞蟻集團副總裁兼首席技術安全官、螞蟻密算董事長韋韜則強調了數(shù)據(jù)的價值：「數(shù)據(jù)決定了 AI 應用能力的上限?！?/p>

然而，一個嚴峻的現(xiàn)實擺在面前：數(shù)據(jù)本身并不會自動創(chuàng)造價值。如果加工和應用數(shù)據(jù)的「引擎」本身充滿不確定性，那么再高質量的數(shù)據(jù)也可能產出災難性的結果。

因此，要實現(xiàn) AI 廣泛應用，還有一大關鍵不可忽視：可靠性

可靠性涉及到多個細分指標，除了基本的準確度和速度，還包括近日 Thinking Machines Lab 公布的首份研究成果中提到的「確定性」以及 AI 最臭名昭著的 bug 或 feature ——「幻覺」。

因此可以說：向 AI 下半場的過渡本質上是一場從「模型競賽」到「工程競賽」的轉折，其中的核心命題也正從「AI 能做什么」轉變?yōu)椤溉绾巫?AI 做得對、做得好、不出錯」。

在此背景下，業(yè)界涌現(xiàn)出多種探索路徑：以 LangChain 為代表的「編排框架」，像一套靈活的瑞士軍刀，想要將 AI 能力「粘合」起來；以斯坦福大學 DSPy 為代表的「編譯框架」，則致力于優(yōu)化「如何更聰明地向 AI 提問」。然而，這些方案或缺乏內生的可靠性保障，或側重于優(yōu)化輸入端，對 AI 輸出的「不確定性」仍缺乏強有力的約束。Thinking Machines Lab 近日的技術博客則指出可以從算子層面來解決 LLM 的可復現(xiàn)性問題，似乎頗具潛力，但這個方法卻無法解決 LLM 的幻覺問題。

那么，究竟該如何讓 AI 更加可靠呢？答案或許并非寄望于一個永遠不會犯錯的「完美模型」，而是需要引入一種全新的外部保障體系。

事實上，在實現(xiàn) AI 應用可靠性方面，現(xiàn)在企業(yè)常用的落地工具箱主要有：RAG（檢索增強生成）、智能體 / 調度器框架（如 LangChain 等）與神經-符號（neuro-symbolic）混合方案。

• RAG在很多場景能顯著降低幻覺（通過把回答錨定到外部事實庫），但也帶來向量庫集中化、權限與陳舊數(shù)據(jù)風險，在合規(guī) / 敏感數(shù)據(jù)場景需謹慎設計。
• 智能體編排方便、靈活，但若缺乏內部細粒度核驗，會把錯誤放大到鏈路中。
• 神經-符號方法則是把符號邏輯 / 知識圖譜與神經模型互補，能同時提升可解釋性與判定性。這個方向的研究成果正快速積累。

而我們今天的主角便是一種與神經-符號方向高度契合的方法：高階程序（HOP/High-Order Program）—— 一套旨在為 AI 這顆強大「智力引擎」裝上工程「安全帶」的框架。它不只是又一個工具，而是從一個更根本的「工程化」視角，為馴服 AI 幻覺、構建商業(yè)可信的 AI 應用提供了一種全新的應用范式。

AI 工程化前夜

我們?yōu)楹涡枰粋€新的應用范式？

要理解為何我們需要一個新的應用范式，首先要厘清「幻覺」的本質。簡單來說，幻覺是指模型會自信地編造事實，讓人真假難辨。這個根本性挑戰(zhàn)是阻礙我們完全信任 AI 的關鍵障礙。

就在前不久，OpenAI 罕見地發(fā)表技術論文，系統(tǒng)性地為「幻覺」的根源蓋棺定論：標準的訓練和評估程序更傾向于獎勵模型進行猜測，而不是獎勵它在不確定時勇于承認「我不知道」。這篇論文揭示了一個殘酷的真相：幻覺并非簡單的技術瑕疵，而是當前 AI 范式下的固有系統(tǒng)性問題。當評估體系鼓勵模型為了更高的準確度得分而去猜測答案時，即便模型變得更強，幻覺依然會發(fā)生

更進一步，可以認為幻覺并非簡單的程序錯誤，而是「智力的必然代價」。韋韜指出，AI 的智力依賴于模式識別和預測性編碼，當信息不完整時，它會通過「邏輯補全」來生成看似合理的解釋，這便是幻覺。若要徹底消除幻覺，大模型將退化為一臺冰冷的檢索機器。

然而，這種「智力的代價」在專業(yè)領域是極其昂貴的。當任務復雜度超出模型的規(guī)模極限時，其可靠性便會斷崖式崩塌。測試顯示，即便是最先進的大模型，在處理越來越高位數(shù)乘法時，準確度會迅速趨近于零；在執(zhí)行代碼修改、文件管理等任務時，也頻頻出現(xiàn)「刪庫跑路」事件。

圖源：X 用戶 @jasonlk

這些事實揭示了 AI「智力引擎」的阿喀琉斯之踵?！复蠹沂熘幕糜X問題反而在其次，」韋韜在一次采訪中坦言，「大模型它是一個通用智力引擎，但是這智力引擎遠遠不是很多人所認為的十全十美，也不是一個許愿池 —— 什么事讓給它做，它就能做好?！?/p>

這些局限性讓當前的大模型 AI 在常見任務中只能達到 70%-85% 的可靠性，但這并不夠用 —— 與金融、醫(yī)療等領域 99% 以上的「及格線」之間，存在著一條巨大的鴻溝。

對普通用戶而言，這可能只是得到一個錯誤的生日信息；但對于正在投身 AI 轉型的企業(yè)來說，這種不可靠性卻很致命。試問，當 AI 助手毫無征兆地刪庫跑路，當風控模型信誓旦旦地引用不存在的監(jiān)管條例，誰敢將核心生產環(huán)節(jié)托付于它？

為了跨越這條鴻溝，行業(yè)一直在探索，比如前文提到的 LangChain、DSPy 以及 Thinking Machines Lab 的新研究成果；但也正如前文所說，它們都存在各自的局限。而這些局限又指向了一個更深層次的方向：行業(yè)需要的是一種能將「不確定的智能」與「確定的工程邏輯」進行深度融合的新范式

實際上，正如前文所述，這并非一個全新的概念，而是 AI 領域經典思想「神經-符號主義（Neuro-Symbolic AI）」的回歸。其核心主張，正是要將以大模型為代表的、擅長處理模糊語義的「神經網絡」，與以傳統(tǒng)代碼、規(guī)則為代表的、擅長處理精確邏輯的「符號系統(tǒng)」相結合。

圖源：AllegroGraph

高階程序（HOP）正是這一思想在企業(yè) AI 應用領域，迄今為止最徹底、最系統(tǒng)的一次工程實踐。

螞蟻密算的解法

將工程智慧編譯為高階程序

如果說 AI 幻覺是天性，那么人類數(shù)百年文明史早已給出了馴服「天性」的答案：工程化

從阿圖?葛文德在《清單革命》中倡導的、將手術感染率從 11% 降至 0 的檢查清單，到科學管理之父弗雷德里克?溫斯洛?泰勒提出的、構成現(xiàn)代航空安全基石的標準作業(yè)程序（SOP），其核心思想一脈相承：用外部的、確定性的工程體系，來駕馭和約束內部的、充滿不確定性的個體（無論是人還是 AI）。

高階程序（HOP）正是將這一古老智慧編譯到了 AI 的應用流程中。韋韜用了一個生動的比喻給出了解釋：AI 應用很像新能源車，有三大核心：電池、電機、電控。大家之前覺得光有大模型（電池）就夠了，但實際上遠遠不夠，它后面需要一個完整的工程化體系保障，需要一套『電控系統(tǒng)』才能把它發(fā)揮好。而 HOP 就可以充當這個「電控系統(tǒng)?！?/p>

事實上，HOP 并非一門全新的編程語言，而是一種創(chuàng)新的編程思想與框架，旨在為大模型這顆強大的「智力引擎」構建一套可靠的控制系統(tǒng)。其內核，是對「神經-符號主義」思想的一次深度實踐。

符號主義的骨架：程序化業(yè)務邏輯

HOP 首先要求將專業(yè)領域的 SOP（標準作業(yè)程序），用精確的編程語言（如 Python）進行邏輯的顯式表達。這可確保核心業(yè)務流程的確定性、可維護性和可擴展性，徹底避免了自然語言的歧義和模糊，為整個系統(tǒng)構建了剛性的「符號」骨架。

神經網絡的血肉：領域知識與大模型

在這副骨架的關鍵節(jié)點，HOP 會通過自然語言描述的「偽代碼」來調用大模型，讓其處理需要模糊匹配、語義理解和專業(yè)知識推導的「神經」任務。例如，判斷「關節(jié)鏡下膝關節(jié)清理術」與「膝關節(jié)滑膜切除術」是否重復收費。此時，大模型就像一個被精確調用的「超級函數(shù)」，為骨架填充智能的血肉。

核心機制：HopLogic 執(zhí)行框架與核驗復雜性塌縮

HOP 的靈魂在于其內置的 HopLogic 執(zhí)行框架。它基于一個關鍵原理 ——核驗復雜性塌縮：求解一個復雜任務可能很難，但驗證一個解是否正確，其復雜度往往會大幅下降（如著名的 NP 問題）。

HopLogic 正是利用這一點：將復雜任務拆解為一系列可被自動化核驗的細顆粒度步驟，并在全流程中貫穿逆向核驗、交叉核驗等復合策略，確保大模型的每一步輸出都得到交叉驗證，從而實現(xiàn)專業(yè)應用所需的 99%+ 可靠性。下圖展示了一個驗證郵件的 HOP 工作流程示例。

HopLogic 項目地址：https://github.com/hoplogic/hoplogic

更重要的是，HOP 通過引入兩個關鍵指標為 AI 應用建立了「度量衡」，讓其能力邊界和可靠性擺脫玄學，變得可度量、可管理：

• 完成率：大模型能夠成功通過所有核驗并輸出結果的比率。它顯性化了 AI 處理此類任務的能力邊界。
• 正確率：通過核驗的樣例中，真正正確的比率。這是基于 HopBench（場景打標樣本集）實測的「壓艙石」，是業(yè)務可靠性的最終體現(xiàn)。

這兩個指標的建立意義非凡。它清晰地告訴我們，大模型專業(yè)應用只有通過真實場景打標樣板集評測，實現(xiàn)正確率達標后，才能真正進入商用；當正確率達標后，完成率的提升將帶來指數(shù)級的商業(yè)價值 —— 完成率從 90% 提升到 99%，意味著需要人工介入的成本驟降 10 倍。 這正是 HOP 開啟規(guī)?；瘜I(yè)生產力的關鍵所在。

從金融到更多行業(yè)

HOP 開啟的「規(guī)?；瘜I(yè)生產力」

理論的先進性最終需要實踐的檢驗。HOP 的真正價值，在于它已經在金融、醫(yī)療等零容忍行業(yè)中，展現(xiàn)出開啟「規(guī)?；瘜I(yè)生產力」的潛力。

以金融風控建模為例，這曾是一項高度依賴專家經驗的「手工作坊式」勞動。一位風控專家需要花費 3 到 15 天的時間，經歷樣本對齊、特征預處理、模型訓練與評估等漫長流程，其成本高昂且難以規(guī)?；瘡椭啤?/p>

行業(yè)也曾嘗試引入 AI 智能體來自動化這一過程，但結果往往是「聰明時幫小忙，笨時捅大簍子」，可靠性不足 10%，無法投入生產。HOP 則徹底改變了游戲規(guī)則 —— 能將金融風控的全鏈路 SOP 轉化為一套可執(zhí)行、可核驗的高階程序。

結果堪稱顛覆：可靠性可從不足 10% 躍升至 99% 以上，開發(fā)時長可從數(shù)天縮短至 1 天以內。

HOP 之所以能實現(xiàn)如此效果，關鍵在于其「工程化」特質彌補了傳統(tǒng) AI 應用框架的短板。

類似 LangChain 的框架，或許可以輕松地將數(shù)據(jù)分析、模型訓練等步驟「編排」起來，但它無法深入到每個步驟的業(yè)務邏輯內部，進行細顆粒度的核驗。例如，它無法程序化地驗證「WOE 分組（Weight of Evidence 分箱處理）是否合法合規(guī)」。

而 HOP 通過其「符號」骨架，恰恰能將這類精確的業(yè)務規(guī)則內置于流程之中，從而確保了 AI 在每一個關鍵節(jié)點上的行為是受控的，最終實現(xiàn)質變。

這恰恰反映了「編排」與「工程」的區(qū)別：編排關心的是流程通不通，而工程關心的是結果對不對

「今天的大模型和智能體，用的方式依然像手工作坊，」 韋韜一針見血地指出，「就像一個鐵匠，從鐵坯到打出刀來，全是一個人完成。而現(xiàn)代化的應用模式是生產流水線，把相關任務做分拆、做核驗，才能保障生產上的可靠性。我們的高階程序就來做這樣的事情?！?/p>

事實上，這種工程化的思想正迅速從企業(yè)實踐上升為行業(yè)共識，尤其是在金融這一「零容忍」行業(yè)。一個有力的佐證是，在外灘大會的見解論壇上，由螞蟻集團牽頭，聯(lián)合公安部網絡安全等級保護評估中心、浙江網商銀行、國投證券等十余家權威機構共同起草的《大模型金融領域可信應用參考框架》（征求意見稿）也正式亮相。

2025 Inclusion?外灘大會見解論壇上發(fā)布《大模型金融領域可信應用參考框架》（征求意見稿）

該標準的核心思想與 HOP 如出一轍：借鑒標準作業(yè)流程（SOP）和檢查清單（Checklist）等人類工程智慧，為大模型構建一個外部的、確定性的控制與保障體系，從而確保 AI 應用在金融場景的專業(yè)性、可控性與安全性。

這標志著以 HOP 為代表的工程化范式，正從螞蟻集團自身的最佳實踐，演變?yōu)橐I整個金融行業(yè)構建可信 AI 的重要基石。

HOP 的價值還不止于此，其還提供了一種遠比 SFT（模型微調）更敏捷、更經濟的迭代方式

當應用可靠性不達標時，傳統(tǒng)路徑是耗費大量數(shù)據(jù)和算力對模型進行再訓練，成本高昂且可能引發(fā)災難性遺忘。而 HOP 則允許專家通過優(yōu)化程序邏輯、補充知識圖譜或強化核驗規(guī)則等輕量級方式，快速提升應用表現(xiàn)。

這種與大模型底座解耦的敏捷迭代能力，極大地降低了企業(yè)應用和維護 AI 的門檻，是其能夠成為「規(guī)模化專業(yè)生產力」的工程基礎。

AI 下半場

將始于數(shù)據(jù)，成于工程

回顧 AI 發(fā)展的歷程，我們正處在一個關鍵的轉折點。正如 9 月 12 日在 2025 Inclusion?外灘大會上，由上海交通大學安泰經濟與管理學院、中銀科技金融學院聯(lián)合中國太平洋保險集團、歐萊雅中國、樂刻運動、興業(yè)銀行和螞蟻集團等多家行業(yè)頭部企業(yè)共同發(fā)布的《中國企業(yè)應用 AI 成熟度 AIM2 模型報告》所揭示的：AI 的上半場拼的是模型參數(shù)，下半場拼的是數(shù)據(jù)質量

如何將這些寶貴的數(shù)據(jù)資產，通過 AI 進行可靠的加工、分析和應用，最終轉化為可持續(xù)的商業(yè)價值，才是決定勝負的關鍵。

以高階程序（HOP）為代表的工程化框架清晰地回應了 AI 下半場的核心命題：我們需要的不僅是更聰明的 AI 模型，更是更可靠、更可信、更可控的 AI 應用

這與 AIM2 報告不謀而合。AIM2 為深陷轉型迷霧的企業(yè)描繪了一張從 L1 （探索試驗）到 L5 （認知引領）的進階藍圖，而 HOP 正是企業(yè)在這張藍圖上從 L3（體系優(yōu)化）邁向 L4（生態(tài)重構）的關鍵引擎。因為只有當 AI 應用具備了工程化的可靠性，才能真正從優(yōu)化內部流程（+AI）躍遷為重構行業(yè)生態(tài)（AI+）。

圖源：《中國企業(yè)應用 AI 成熟度 AIM2 模型報告》

感興趣的讀者可訪問以下小程序下載閱讀：

一個新范式的誕生，往往始于一個開放的生態(tài)。隨著 HOP 框架的正式開源，以及未來 HopCorpus 場景語料集的構建，一扇通往「規(guī)?；瘜I(yè)生產力」的大門正在被推開。這清晰地指明了 AI 工程化的兩大核心：可靠的框架高質量的數(shù)據(jù)

HOP 框架解決了可靠性的問題，而 HopCorpus 則致力于提升其能力的上限。當越來越多的行業(yè)專家、開發(fā)者加入共建，AI 將有望擺脫「助手」的定位，真正進化為驅動千行百業(yè)變革的核心生產力。

AI 下半場，將始于數(shù)據(jù)，成于工程。