本工作核心作者為湯子瑞(上海交通大學)、牛博宇(上海交通大學)。合作者為李帛修、周煒、王健楠、李國良、張心怡、吳帆。通訊作者為上海交通大學計算機學院博士生導師周煊赫。團隊長期從事人工智能與數(shù)據(jù)交叉研究。
半結構化表格是我們?nèi)粘9ぷ髦谐R姷?“攔路虎”—— 布局五花八門、結構復雜多變,讓自動化數(shù)據(jù)處理變得異常困難。
面對這樣的挑戰(zhàn),傳統(tǒng)的表格處理工具往往力不從心。研究發(fā)現(xiàn),現(xiàn)有的大模型以及表格理解領域模型在NL2SQL/ 結構化表格已經(jīng)有了較好的效果(準確率超 80%),但是在那些諸如金融報表、庫存表、企業(yè)管理表等具有合并單元格、嵌套表格、層次結構等特征的復雜半結構化表格上表現(xiàn)明顯退化。
為了解決這一痛點,來自上海交通大學計算機學院、西蒙菲莎大學、清華大學、中國人民大學的合作團隊,帶來基于樹形框架的智能表格問答系統(tǒng)(ST-Raptor),其不僅能精準捕捉表格中的復雜布局,還能自動生成表格操作指令,并一步步執(zhí)行這些操作流程,最終準確回答用戶提出的問題 —— 就像給 Excel 裝上了一個會思考的 “AI 大腦”。
目前,該論文已被數(shù)據(jù)庫領域國際頂尖學術會議ACM SIGMOD2026 接收。
- 論文標題:ST-Raptor: LLM-Powered Semi-Structured Table Question Answering
- 論文鏈接:https://arxiv.org/abs/2508.18190
- 項目倉庫:https://github.com/weAIDB/ST-Raptor
該項目發(fā)布后得到廣泛關注與轉(zhuǎn)發(fā):
現(xiàn)有的 NL2SQL 方法需要將半結構化表格轉(zhuǎn)換為結構化表格處理,這通常會導致大量的信息丟失。此外,現(xiàn)有的 NL2Code 和多模態(tài) LLM 問答都無法準確捕捉半結構化表格獨特的信息組織方法,因此無法準確回答相應的問題。下圖展示了一些基線方法在半結構化表格問答上的表現(xiàn)。在總共 100 個問題的回答中,大模型的錯誤率均較高,且其在涉及到表格結構理解,數(shù)據(jù)獲取,問題推理三方面表現(xiàn)均不佳。
準確率低的原因主要由于以下幾點:(1)半結構化表格結構個性化程度高,結構復雜多樣且隱含了部分語義信息,大模型難以捕捉到布局的微妙之處。(2)在進行表格數(shù)據(jù)檢索時,模型容易產(chǎn)生幻覺,造成失真。(3)模型對問題的理解能力不足,不能從表格里獲取解決問題需要的信息。
HO-Tree
創(chuàng)新性的半結構化表格表示方案
為了定制解決半結構化表格信息的復雜分布問題,本文提出了層次正交樹(HO-Tree)這一數(shù)據(jù)結構。HO-Tree 由Meta Tree(MTree)和 Body Tree(BTree)嵌套組合形成,其中 MTree 代表了表頭中的元數(shù)據(jù),BTree 代表了表內(nèi)容中的信息數(shù)據(jù)。
上圖展示了構建 HO-Tree 的基本步驟。對于一個 excel 表格,首先將表內(nèi)容轉(zhuǎn)化為 HTML 格式并渲染,接著用 VLM 提取圖片中的表頭信息,在對齊后得到元信息組。接著,根據(jù)得到的元信息將表格進行分層級的區(qū)域劃分,最后根據(jù)這一層級得到 HO-Tree。通過這一步驟,半結構化表格被轉(zhuǎn)化為了計算機易于操作的數(shù)據(jù)形式,為后續(xù)處理提供了便利。
樹上操作與流程設計
精準回答問題的 “手術刀”
在建構好 HO-Tree 之后,本文繼續(xù)設計了一套在樹上進行檢索的操作,通過迭代地使用這些操作,LLM 可以按步驟分析表格,最終獲取信息回答問題。這些操作可以分為以下四類:
- 數(shù)據(jù)獲取操作:可以獲取樹上子節(jié)點,父節(jié)點等信息,遞歸地進行數(shù)據(jù)獲取操作可以有效去除冗余信息,得到回答問題所必要的信息。
- 數(shù)據(jù)處理操作:根據(jù)問題需要的形式,將得到的數(shù)據(jù)進行處理(如求和,計數(shù),按條件篩選等)。
- 對齊操作:將過程中的信息和表格內(nèi)容進行對齊,增強檢索時的健壯性。
- 推理操作:將獲取的最終答案和問題進行對齊,得到滿足格式要求的最終答案輸出。
這些操作可以幫助 LLM 以直觀的方法獲取數(shù)據(jù),分析表格,并且以可信的方式得到最終答案。結合這些操作,可以搭建一套流水線回答問題。如下圖例子所示,在得到問題后,ST-Raptor 將其拆解為三個子問題,通過預定義的樹上操作進行搜索,處理,最后經(jīng)過推理得到答案。
實驗結論
現(xiàn)有的表格數(shù)據(jù)集大多以結構化為主,一些半結構化的數(shù)據(jù)集也都并不涉及復雜嵌套關系,和真實情境不符。因此,本文構建了一個半結構化表格數(shù)據(jù)集 SSTQA,共有 102 張復雜的真實情境表格和 764 個針對這些表格的問題,總共包含了 19 個代表性的真實場景。如下圖所示,在 SSTQA 上,ST-Raptor 相較其余方法而言,取得了很高的準確率提升,尤其是在結構復雜困難的表格上遠超其余方法。
在其余兩個半結構化表格問題數(shù)據(jù)集 WikiTQ 和 TempTabQA 上的測試結果如下表所示,ST-Raptor 準確率位于榜首,展現(xiàn)出了優(yōu)秀的泛化能力。
綜上所述,ST-Raptor 提供了一套行之有效的半結構化表格問答解決方案,為現(xiàn)實生活中的半結構化表格自動化處理提供了新思路。通過掛載 ST-Raptor,LLM 可以增加對半結構化表格的理解能力和分析能力,提升表格問答的準確性。在未來,可以優(yōu)化 HO-Tree 的表示和創(chuàng)建,使其囊括更多復雜表格;同時可以定制更多樹上操作,使問題回答更流暢便捷。
ST-Raptor 立足于表格結構解析這一核心挑戰(zhàn),有效彌補了大語言模型在處理二維表格結構時的能力短板,能夠直接支持包括 Excel 在內(nèi)的多種復雜半結構化表格輸入。盡管如此,現(xiàn)實場景中的半結構化表格仍普遍存在格式不規(guī)范、布局多樣、語義歧義以及跨表關聯(lián)等復雜問題,值得在模型架構、語義理解與泛化能力等方面展開長期而深入的探索。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.