Advances in Approximate Bayesian Inference for Models in Epidemiology

流行病學模型中近似貝葉斯推理的進展

https://arxiv.org/pdf/2504.19698

要點

• 復雜的流行病學模型通常難以擬合數(shù)據(jù)，尤其是在需要實時更新的情況下。

• 我們回顧了四種主要的近似貝葉斯方法，這些方法允許用戶在計算效率與精度和不確定性之間進行權(quán)衡。

• 特別地，我們綜合介紹了近似貝葉斯計算（ABC）、貝葉斯合成似然（BSL）、集成嵌套拉普拉斯近似（INLA）和變分推理（VI），總結(jié)了這些領(lǐng)域近期的發(fā)展和活躍的研究方向。

• 我們提供了一個決策框架，幫助非專業(yè)人士為其建模問題選擇最合適的框架。

• 最后，我們指出由這一綜述產(chǎn)生的兩個激動人心的研究前沿：(1) 開發(fā)混合貝葉斯推理方法，戰(zhàn)略性地結(jié)合精確方法和近似方法的優(yōu)勢，實現(xiàn)可擴展且理論基礎(chǔ)扎實的推理；(2) 將這些進展應用于回答重要的流行病學問題，滿足公共衛(wèi)生危機期間對準確且高效推理日益增長的需求。

摘要：

貝葉斯推理方法在傳染病建模中非常有用，因其能夠傳播不確定性、處理稀疏數(shù)據(jù)、納入潛在結(jié)構(gòu)，并應對高維參數(shù)空間。然而，通過同化觀測數(shù)據(jù)對這些模型進行參數(shù)推理仍具挑戰(zhàn)性。盡管漸近精確的貝葉斯方法在理論上可保證推理準確性，但其計算成本高昂，難以用于實時疫情分析。本綜述整合了近似貝葉斯推理方法的最新進展，旨在平衡推理準確性與可擴展性。我們聚焦于四類主流方法：近似貝葉斯計算（Approximate Bayesian Computation）、貝葉斯合成似然（Bayesian Synthetic Likelihood）、集成嵌套拉普拉斯近似（Integrated Nested Laplace Approximation）和變分推理（Variational Inference）。針對每種方法，我們評估其在流行病學應用中的相關(guān)性，特別強調(diào)那些同時提升計算效率與推理準確性的創(chuàng)新。我們還針對不同建模場景提供了實用的方法選擇指南。最后，我們指出“混合精確-近似推理”是一個前景廣闊的研究前沿，它將方法論嚴謹性與應對疫情所需的可擴展性相結(jié)合。本綜述為流行病學家提供了一個概念框架，以幫助他們在當代疾病建模中權(quán)衡統(tǒng)計準確性與計算可行性。

關(guān)鍵詞：近似貝葉斯推理；近似貝葉斯計算；合成似然；INLA；變分推理；校準；艙室模型；流行病學；傳染病模型

1. 引言
   傳染病的傳播對公共衛(wèi)生、經(jīng)濟穩(wěn)定和社會福祉構(gòu)成重大挑戰(zhàn)，正如 COVID-19 疫情所展示的那樣（Hossain 等，2020；Kaye 等，2021）。機制模型是量化傳播動態(tài)、預測疫情暴發(fā)和評估干預措施的關(guān)鍵工具（Brauer，2008）。然而，對這些模型進行參數(shù)推理仍具挑戰(zhàn)性。高維參數(shù)空間、潛變量（例如未觀測到的感染/感染時間）以及模型結(jié)構(gòu)的不確定性（例如混合模式、模型假設(shè)）使參數(shù)估計過程復雜化（Swallow 等，2022）。這些挑戰(zhàn)又被不完整或含噪聲的數(shù)據(jù)進一步加劇，如不一致的醫(yī)療記錄或延遲的檢測結(jié)果，這在實時應用中尤為棘手（Marion 等，2022；Kretzschmar 等，2022）。盡管像 MCMC 這樣的精確方法仍是黃金標準，但其計算成本對于復雜模型或新發(fā)疫情往往過高——而在這些場景中，快速推理對公共衛(wèi)生決策至關(guān)重要。這些挑戰(zhàn)激發(fā)了人們對近似貝葉斯方法的興趣，這些方法以犧牲漸近精確性為代價換取可擴展性。

本綜述聚焦于流行病學模型中近似貝葉斯推理的最新進展，特別關(guān)注能夠應對以下三大核心需求的創(chuàng)新：（1）針對高維或含潛變量模型的計算效率；（2）對噪聲或稀疏數(shù)據(jù)的魯棒性；（3）與統(tǒng)計學和機器學習方法結(jié)合，以自動化傳統(tǒng)上需人工調(diào)參的步驟。我們的目標是為流行病學建模者提供一份比較性強、面向應用的綜述，尤其適合那些有興趣使用或開發(fā)用于推理的機器學習工具的研究者。我們重點介紹當前在傳染病建模領(lǐng)域日益流行的四種主要近似貝葉斯推理方法：近似貝葉斯計算（ABC），通過基于模擬的比較繞過似然函數(shù)計算；貝葉斯合成似然（BSL），使用對匯總統(tǒng)計量的高斯近似；集成嵌套拉普拉斯近似（INLA），利用潛高斯模型實現(xiàn)快速確定性推理；以及變分推理（VI），通過優(yōu)化參數(shù)化近似來逼近后驗分布。

本文其余部分結(jié)構(gòu)如下：第 2 節(jié)回顧精確貝葉斯推理方法，評估其在傳染病建模應用中的優(yōu)勢與局限。第 3 節(jié)對四種關(guān)鍵近似方法（ABC、BSL、INLA 和 VI）進行比較性綜述，考察其理論基礎(chǔ)、實施難點和流行病學應用案例，并提供實用的方法選擇指南。第 4 節(jié)總結(jié)全文，指出機器學習與流行病學推理交叉領(lǐng)域中尚存的挑戰(zhàn)與未來研究方向。通過將方法論進展與實際需求相聯(lián)系，本綜述旨在幫助研究人員在疫情推理中權(quán)衡準確性、可擴展性與魯棒性之間的取舍。

1. 漸近精確的貝葉斯推理方法
   2.1 流行病學建模中的貝葉斯推理
   貝葉斯推理為傳染病建模提供了一個強大的統(tǒng)計框架，因其能夠傳播不確定性、處理稀疏數(shù)據(jù)、納入潛在結(jié)構(gòu)，并應對高維參數(shù)空間（Lopes 和 Beaumont，2010；Kypraios 等，2017；Grinsztajn 等，2021）。根據(jù)貝葉斯定理，后驗分布定義為：

其中，π(θ|y) 表示在觀察到任何數(shù)據(jù) y 之前，我們對模型參數(shù) θ 的先驗信念。π(y|θ) 是觀測數(shù)據(jù) y 的似然函數(shù)。項 π(y) = ∫ π(y|θ)π(θ)dθ，被稱為邊緣似然或證據(jù)，其作用類似于歸一化常數(shù)，以確保后驗分布是一個有效的概率分布。在實際應用中，π(y) 通常無法以閉式表達，或者需要指數(shù)級時間來計算。因此，常見做法是將后驗分布僅表示為比例形式，省略 π(y)，同時保留分布的形狀和位置。這種表達方式仍允許直接量化參數(shù)的不確定性，這對于疫情預測和干預規(guī)劃至關(guān)重要。

為了將貝葉斯框架應用于現(xiàn)實世界的問題，必須適當滿足三個條件：（1）設(shè)定合適的先驗分布；（2）能夠利用后驗分布進行不確定性推理；（3）似然函數(shù)需可處理，即應能顯式表達并計算。然而，在實踐中，所選的先驗和似然函數(shù)往往無法為后驗提供閉式解。這種情況尤其出現(xiàn)在似然函數(shù)復雜、難以直接計算或缺乏閉式表達式時。在這種情況下，計算似然可能需要對隱藏變量進行積分，或考慮疫情所有可能的隨機實現(xiàn)，這一過程計算量巨大且常常不可行。因此，計算感興趣的數(shù)量本身就是一個數(shù)值問題，也是一個獨立的挑戰(zhàn)。

貝葉斯推理方法在應對這些計算障礙方面取得了顯著進展，可根據(jù)其估計后驗分布的方式，大致分為漸近精確方法和近似推理方法（Alahmadi 等，2020）。精確方法，如馬爾可夫鏈蒙特卡洛（MCMC），使用如 Metropolis-Hastings 或哈密頓蒙特卡洛（HMC）等算法直接從后驗分布中采樣，當似然函數(shù)可處理且有足夠時間使算法收斂時，可提供準確結(jié)果（Neal, 2012；Brooks 等，2011）。

2.2 Metropolis-Hastings 蒙特卡洛方法

MCMC 家族中的基礎(chǔ)方法之一是 Metropolis-Hastings（MH）算法（Metropolis 等，1953；Hastings，1970），該算法已被廣泛用于傳染病建模中的參數(shù)推理。MH 算法構(gòu)建一個馬爾可夫鏈，即一系列相關(guān)隨機樣本，用于探索參數(shù)空間，使其平穩(wěn)分布對應于后驗分布。為了評估收斂性，通常的做法是運行多個鏈并比較它們的行為。如果各鏈混合良好并收斂到相似的分布，則表明算法很可能已達到目標分布。一旦收斂完成，從鏈中抽取的樣本便提供了對真實后驗分布的可靠近似。

在每一步中，算法提出一組新的參數(shù)值 θ′，并以由后驗密度比決定的概率接受該提議：

如果提出的值導致更高的后驗密度，則確定性地被接受；否則，該提議仍可能以與當前狀態(tài)后驗值接近程度成比例的概率被接受，從而允許鏈在探索參數(shù)空間的同時仍傾向于高概率區(qū)域。

盡管被廣泛使用，MH 算法在現(xiàn)實世界的流行病學場景中常因高參數(shù)相關(guān)性、多峰后驗分布以及來自真實疫情動態(tài)的維度增加而出現(xiàn)收斂緩慢和混合不良的問題（Hoffman 等，2014；Neal，1993）。這些效率低下主要源于其依賴隨機游走提議機制，這限制了其有效探索后驗空間的能力（Gelman 等，1995；Betancourt，2017）。

2.3 哈密頓蒙特卡洛方法
哈密頓蒙特卡洛（HMC）方法通過引入哈密頓動力學（Duane 等，1987；Neal，2012）和微分幾何（Betancourt 等，2014）的概念，旨在克服上述低效率問題。HMC 通過引入輔助動量變量擴展參數(shù)空間，并利用目標分布（即后驗分布）的梯度信息引導采樣過程。該方法顯著減少了隨機游走行為，從而能夠高效探索高維或高度相關(guān)的后驗分布（Neal，2012）。有關(guān) HMC 方法的詳細技術(shù)描述，請參見附錄 A。

盡管 HMC 相較于傳統(tǒng) MCMC 算法顯著提升了采樣效率（Monnahan 等，2017），其性能仍依賴于若干調(diào)優(yōu)參數(shù)，包括步長、蛙跳步數(shù)以及動量變量的協(xié)方差結(jié)構(gòu)（Betancourt，2016）。這些參數(shù)對采樣器性能影響巨大，但人工優(yōu)化往往具有挑戰(zhàn)性。為解決這一問題，現(xiàn)代概率編程工具（如 Stan 和 PyMC）在實現(xiàn) HMC 的同時，還集成了自適應變體，如“無U型轉(zhuǎn)彎采樣器”（NUTS），可自動調(diào)整參數(shù)，從而使貝葉斯推理對流行病學研究更加友好和易用（Hoffman 等，2014；Carpenter 等，2017；Abril-Pla 等，2023）。近期的流行病學研究已通過 Stan 平臺使用 HMC，在多種傳染病模型中高效完成參數(shù)推理（Chatzilena 等，2019；Andrade 和 Duggan，2020；Grinsztajn 等，2021）。

盡管有上述進展，當應用于復雜、高維的流行病場景時，包括 HMC 在內(nèi)的精確貝葉斯方法仍計算成本高昂。此外，精確方法嚴重依賴似然函數(shù)的可用性與可處理性，而在某些流行病學情境下，似然函數(shù)可能極為復雜或不可計算。

1. 近似貝葉斯推理方法

漸近精確推理方法的實際限制，如高計算成本和分析上的復雜性，推動了對近似貝葉斯推理方法的興趣和發(fā)展。這些方法犧牲了一定的統(tǒng)計精度，接受小偏差或更寬的不確定性區(qū)間，以換取顯著的計算效率和可擴展性。例如，雖然精確方法旨在從真實的后驗分布中采樣，近似方法通常依賴于確定性近似或替代模型以實現(xiàn)更快的結(jié)果。這種權(quán)衡在流行病學中很有價值，因為在流行病學中，對于大型數(shù)據(jù)集或計算密集型模型（例如，空間或基于個體的模擬）進行及時推理通常優(yōu)先于漸近精確性。在本節(jié)中，我們回顧了四種主要的近似方法家族：近似貝葉斯計算（ABC）、貝葉斯合成似然（BSL）、積分嵌套拉普拉斯近似（INLA）和變分推理（VI）。

3.1. 近似貝葉斯計算

許多現(xiàn)實世界中的流行病學問題涉及具有不可處理似然的模型，例如基于代理的模型、隨機隔室模型或部分觀察的傳播樹。在這種情況下，像近似貝葉斯計算（ABC）這樣的無似然方法提供了一種實用的替代方案，用于在精確貝葉斯推理方法不可行時進行推理。

3.1.1 ABC方法概述

ABC的起源可以追溯到Rubin（1984年），并在Tavare等人（1997年）使用接受-拒絕框架進一步形式化。從那時起，ABC已經(jīng)發(fā)展成為一種用于復雜系統(tǒng)的多樣化方法家族。其核心優(yōu)勢在于其通用性：它通過比較觀察數(shù)據(jù)和模擬數(shù)據(jù)的匯總統(tǒng)計量來繞過顯式似然計算，使用距離度量。

標準的拒絕-接受 ABC 算法（圖1）的運行步驟如下：

3.1.2 方法論進展和應用

多年來，對經(jīng)典拒絕接受ABC算法進行了實質(zhì)性改進，特別是通過其三個調(diào)整參數(shù)的改進。Harrison和Baker（2020）引入了一種加權(quán)歐幾里得距離方法，旨在選擇最優(yōu)權(quán)重向量，以最大化ABC的參數(shù)先驗分布和后驗分布之間的距離。在傳統(tǒng)的ABC實現(xiàn)中，通常不可行直接使用原始數(shù)據(jù)集作為摘要統(tǒng)計，因為數(shù)據(jù)通常缺乏有意義的排序，因為每個觀察結(jié)果被假設(shè)來自相同的潛在過程，使它們在統(tǒng)計上相似。然而，Benton等人（2019）提出在ABC算法中使用Wasserstein距離作為距離度量，以直接比較觀察到的和模擬的數(shù)據(jù)的經(jīng)驗分布，繞過摘要統(tǒng)計選擇。

研究人員還將ABC與現(xiàn)有采樣方法結(jié)合，以提高其在高維參數(shù)空間中的可擴展性和性能。已經(jīng)開發(fā)了幾種采樣器，包括ABC-MCMC（Marjoram等人，2003；Wegmann等人，2009；Kypraios等人，2017）、ABC-SMC（Sisson等人，2007；Toni等人，2009；Beaumont等人，2009；Drovandi和Pettitt，2011），以及基于粒子的方法，如ABC-pMCMC（McKinley等人，2020）。這些方法使ABC類方法能夠在高維參數(shù)空間中進行高效采樣，使其適用于流行病學中傳輸模型的參數(shù)推理和干預策略評估；參見Kypraios等人（2017）；Gozzi等人（2021b,a）；Sygka等人（2021）；Dankwa等人（2022）；Gozzi等人（2023）的工作。雖然這些采樣器可以近似真實后驗，但在具有復雜潛在結(jié)構(gòu)的模型中或需要實時推理時，它們?nèi)匀辉谟嬎闵虾苊芗Ｒ虼?，在統(tǒng)計精度和計算可行性之間取得平衡仍然是ABC方法發(fā)展和應用中的一個核心挑戰(zhàn)。

3.1.3 匯總統(tǒng)計量選擇的挑戰(zhàn)

在近似貝葉斯計算（ABC）中，匯總統(tǒng)計量通過將高維數(shù)據(jù)簡化為低維表示，在實現(xiàn)無似然推理中發(fā)揮著關(guān)鍵作用。在傳染病建模的背景下，這些統(tǒng)計量通常旨在捕捉關(guān)鍵的流行病學特征，例如疫情高峰的時間與規(guī)模、感染總數(shù)，或跨人群的傳播動態(tài)。然而，選擇既具信息量又計算高效的匯總統(tǒng)計量，仍是 ABC 框架中最具挑戰(zhàn)性的任務之一。一方面，高維匯總統(tǒng)計量可能加劇“維度災難”，導致計算成本上升、接受率下降；另一方面，過于簡化的統(tǒng)計量可能丟失關(guān)鍵信息，從而導致后驗近似效果不佳（Blum, 2010）。

近年來，機器學習方法開始改變 ABC 中匯總統(tǒng)計量構(gòu)建與選擇的方式。這些數(shù)據(jù)驅(qū)動的方法旨在直接學習數(shù)據(jù)與參數(shù)之間的函數(shù)關(guān)系，從而減少對專家手工設(shè)計統(tǒng)計量的依賴。Jiang 等人（2017）使用深度神經(jīng)網(wǎng)絡擬合匯總統(tǒng)計量與合成數(shù)據(jù)之間的關(guān)系。但由于深度神經(jīng)網(wǎng)絡需要大量數(shù)據(jù)才能有效學習參數(shù)，因此采用三層神經(jīng)網(wǎng)絡來運行模型。Raynal 等人（2019）提出了一種自動選擇信息性匯總統(tǒng)計量的方法。該方法從一組廣泛的候選統(tǒng)計量出發(fā)，利用隨機森林作為黑箱回歸工具，基于這些統(tǒng)計量估計后驗量。此外，?kesson 等人（2021）引入了一種卷積神經(jīng)網(wǎng)絡架構(gòu)，可直接將高維時間序列數(shù)據(jù)映射為參數(shù)估計值，訓練后網(wǎng)絡的輸出（預測的后驗均值）即作為 ABC 推理過程中的匯總統(tǒng)計量。有關(guān)匯總統(tǒng)計量選擇其他方法的詳細綜述，請參見附錄 B。

總體而言，將機器學習融入 ABC 在應對長期存在的匯總統(tǒng)計量選擇挑戰(zhàn)方面展現(xiàn)出巨大潛力。然而，如何將這些方法論進展轉(zhuǎn)化為適用于現(xiàn)實世界應用的穩(wěn)健且可解釋的工具，仍是當前亟待解決的重要研究方向。

3.2 貝葉斯合成似然

貝葉斯合成似然（BSL）提供了一個替代框架，用于在似然函數(shù)不可解時執(zhí)行近似貝葉斯推理。本節(jié)詳細探討B(tài)SL框架。

3.2.1 BSL概述

其中下標 N 表示對模擬次數(shù)的依賴。大量的模擬（即 N 值較大）可降低似然方差，但會增加每次迭代的計算成本。相反，較少的模擬雖可降低成本，但由于合成似然估計的方差增大，可能導致接受率下降。因此，在計算成本與似然方差之間找到平衡至關(guān)重要。

3.2.2 方法學進展與應用

貝葉斯合成似然（BSL）的發(fā)展仍面臨兩大主要方法學挑戰(zhàn)：（1）降低合成似然估計所帶來的計算負擔；（2）選擇既具信息量又符合高斯假設(shè)的匯總統(tǒng)計量。在這兩個方向上，研究者已取得顯著的方法學進展。

合成似然估計需要近似匯總統(tǒng)計量的均值和協(xié)方差，而這些量是未知的，必須針對每個候選參數(shù)值進行估計。在標準方法中，這些量在每次迭代中都會被重新估計，導致顯著的計算開銷，尤其當匯總統(tǒng)計量維度升高時更為嚴重。為緩解這一問題，研究者提出了多種更高效的替代方案。Meeds 和 Welling（2014）引入了一種方法，通過為每個參數(shù)函數(shù)構(gòu)建高斯過程模型，以降低估計方差。為簡化協(xié)方差估計，該方法僅對協(xié)方差矩陣的對角元素建模，從而近似整個協(xié)方差矩陣。隨后，Everitt（2017）提出了一種基于自助法（bootstrap）的協(xié)方差估計器，其經(jīng)驗上生成的協(xié)方差估計值比原始樣本估計值具有更低的方差。An 等人（2019）進一步改進，利用圖Lasso（Graphical Lasso）高效生成稀疏且低方差的協(xié)方差估計。此外，針對匯總統(tǒng)計量協(xié)方差矩陣的收縮估計器（shrinkage estimators）也有助于減少模擬需求（Ong 等，2018；An 等，2019）。最近，Priddle 等人（2022）提出一種方法，通過結(jié)合收縮估計與白化變換對匯總統(tǒng)計量進行去相關(guān)處理，從而進一步提升計算效率。

盡管如此，BSL 仍存在一個根本性局限：其依賴于匯總統(tǒng)計量服從正態(tài)分布的假設(shè)。當該假設(shè)被違反時，方法的魯棒性可能受損。為此，近期研究聚焦于放寬高斯假設(shè)。Fasiolo 等人（2018）引入了擴展鞍點近似，作為一種更靈活的似然近似方法。Thomas 等人（2022）提出了基于邏輯回歸的合成似然方法，以增強模型適應性。An 等人（2020）提出了一種半?yún)?shù)密度估計框架，該框架結(jié)合了靈活的邊緣分布與高斯copula，以處理非正態(tài)的依賴結(jié)構(gòu)。作為補充，Mu?oz 等人（2022）在流行病學研究中針對聚合計數(shù)數(shù)據(jù)考慮使用泊松分布。盡管這些進展提供了有前景的替代方案，但其有效性在很大程度上仍取決于所選匯總統(tǒng)計量的結(jié)構(gòu)。

3.2.3 在流行病學中的應用

許多理論研究表明，BSL 對高維匯總統(tǒng)計量的容忍度高于 ABC（Price 等，2018；Frazier 和 Drovandi，2021；Frazier 等，2023）。例如，Price 等人（2018）在涉及 145 個匯總統(tǒng)計量的細胞生物學應用中表明，BSL 顯著優(yōu)于 ABC——在該場景中，ABC 難以在不丟失圖像序列所含關(guān)鍵信息的前提下降低維度。

盡管 BSL 在理論上具有優(yōu)勢且方法學不斷進步，其在流行病學中的實際應用仍相對有限。Fasiolo 等人（2014）將 BSL 應用于生態(tài)學與流行病學中的狀態(tài)空間模型。Woroszy?o 等人（2018）首次將合成似然方法應用于真實世界觀測數(shù)據(jù)，建模家庭層面的腹瀉發(fā)生情況。更近期，Mu?oz 等人（2022）將 BSL 整合進一個更廣泛的貝葉斯框架，用于估計復雜、大規(guī)模流行病學模型的參數(shù)。

正如 Drovandi 和 Frazier（2022）所指出，投入精力選擇信息性強的匯總統(tǒng)計量可顯著提升模型性能，其效果往往優(yōu)于使用完整數(shù)據(jù)的方法。這一觀察凸顯了一個寶貴的研究方向：將 ABC 和 BSL 方法擴展應用于真實世界的流行病學案例，以進一步評估和驗證其實際有效性。

3.3 近似貝葉斯推理方法——集成嵌套拉普拉斯近似

在考察了適用于似然函數(shù)不可處理模型的近似貝葉斯推理方法（如 ABC 和 BSL）之后，我們現(xiàn)在轉(zhuǎn)向?qū)樗迫缓瘮?shù)可處理模型設(shè)計的方法。特別地，我們聚焦于“集成嵌套拉普拉斯近似”（INLA），該方法專門為在潛高斯模型（Latent Gaussian Models, LGMs）中實現(xiàn)高效推理而開發(fā)（Rue 等，2009）。

3.3.1 潛高斯模型

潛高斯模型是一類廣泛的層次模型，其潛變量場被假設(shè)服從高斯分布，且觀測值在給定潛變量場和超參數(shù)的條件下相互獨立。這類模型涵蓋了許多常用的統(tǒng)計模型，包括廣義線性混合模型、基于高斯馬爾可夫隨機場的空間與時空模型，以及生存模型，這使得 INLA 成為應用研究者的一種實用工具（Rue 等，2009，2017）。

3.3.2 INLA 方法論

INLA 為近似潛變量場和超參數(shù)的后驗邊緣分布提供了一種計算高效的替代方案，可用于替代基于模擬的方法（如 MCMC）在潛高斯模型（LGMs）中的應用（Rue 等，2017）。INLA 的核心思想是利用嵌套的拉普拉斯近似來逼近進行貝葉斯推理所需的高維積分（Rue 等，2009）。該方法可分為以下三個主要步驟：

步驟1：超參數(shù)聯(lián)合后驗的近似
聯(lián)合后驗分布 π(θ∣y)使用拉普拉斯近似進行近似（Bardorff-Nielsen 和 Cox，1989）：

3.3.3 在流行病學中的應用

R-INLA 軟件包為使用 INLA 擬合潛高斯模型（LGMs）提供了用戶友好的界面，使該方法易于被流行病學研究人員使用（Martins 等，2013）。

近期的應用實例包括疾病制圖和風險評估。例如，已開發(fā)出如 SSTCDapp 等工具，用于基于貝葉斯層次模型估計空間和時空疾病風險（Adin 等，2019）。研究人員還利用 INLA 比較離散與連續(xù)空間模型在貝葉斯疾病制圖中的表現(xiàn)（Konstantinoudis 等，2020），并分析 HIV 感染率的空間分布（Debusho 和 Bedaso，2023）。

在 COVID-19 大流行期間，INLA 在實時時空分析中發(fā)揮了重要作用，例如 PandemonCAT 工具用于追蹤疫情進展（Chaudhuri 等，2022）。它已被用于評估出行限制的影響（Saez 等，2020；Jaya 等，2023）、估算超額死亡人數(shù)（Knutson 等，2023），以及建模 SARS-CoV-2 的再感染動態(tài)（Penetra 等，2023）。

在傳染病監(jiān)測中，INLA 被用于校正報告延遲（Bastos 等，2019）、改進瘧疾干預策略的決策（Canelas 等，2021；Toh 等，2021），以及建模登革熱傳播動態(tài)（Carabali 等，2022；Baldoquín Rodríguez 等，2023）。

在 HIV 和慢性病流行病學中，INLA 改進了對 HIV 風險群體中空間異質(zhì)性的估計（Wang 等，2023；Howes 等，2023）。

此外，INLA 還被應用于呼吸系統(tǒng)和環(huán)境健康領(lǐng)域，例如繪制呼吸道感染風險地圖（Cortes-Ramirez 等，2023），以及分析慢性阻塞性肺疾病住院患者的空間模式（Martínez-Pérez 等，2023）。

3.3.4 方法學進展

自 Rue 等（2009）提出以來，INLA 徹底改變了潛高斯模型的貝葉斯推理方式。多年來，INLA 經(jīng)歷了顯著的方法學進步，重點在于提升計算效率、拓展適用模型范圍，并增強近似過程的準確性和靈活性。

INLA 方法學發(fā)展的主要方向之一是提升計算效率。Wang（2022）展示了在模板模型構(gòu)建器中使用拉普拉斯近似來估計內(nèi)在條件自回歸模型的最大似然值，該方法相比 MCMC 和原始 INLA 顯著減少了計算時間。類似地，Orozco-Acosta 等（2023）提出了一種可擴展的“分而治之”方法，用于高維時空疾病制圖，通過將空間區(qū)域劃分為更小的子域以減輕計算負擔。Van Niekerk 等（2023）提出對 INLA 框架的現(xiàn)代重構(gòu)，將線性預測因子從潛變量場中分離出來，從而降低高維數(shù)據(jù)帶來的計算負擔。這種重構(gòu)結(jié)合低秩變分貝葉斯修正，實現(xiàn)了更快的推理而不犧牲準確性。

早期的 INLA 實現(xiàn)主要適用于結(jié)構(gòu)相對簡單的潛高斯模型。近年來的方法發(fā)展已將其適用范圍擴展至更復雜的模型。Lee 等（2022）引入了一個貝葉斯層次建?？蚣埽褂脩土P平滑樣條創(chuàng)建非平穩(wěn)空間表面，允許數(shù)據(jù)驅(qū)動的空間結(jié)構(gòu)——特別適用于具有復雜連接模式的傳染病建模。此外，Jin 等（2023）提出了 EpiMix，一種用于估計傳染病時間變化再生數(shù)的新方法。EpiMix 將 INLA 與貝葉斯回歸框架相結(jié)合，以納入外生因素和隨機效應。這種集成使得即使在低發(fā)病率場景下也能實現(xiàn)實時高效估計，而傳統(tǒng)方法可能難以應對。inlabru 包（Bachl 等，2019；Lindgren 等，2024）支持非線性預測因子并自動化復雜工作流，擴展了 INLA 的能力，使其可用于點過程模型（M?ller 和 Waagepetersen，2007）、空間計數(shù)模型和距離采樣數(shù)據(jù)（Miller 等，2013），使高級空間建模對非專家也變得可行。

R-INLA 軟件包的發(fā)展在推動 INLA 的普及中起到了核心作用。Van Niekerk 等（2021）介紹了 INLA 軟件包中的多項新進展，以滿足大規(guī)模空間、時間及時空模型中對可擴展且高效的貝葉斯推理日益增長的需求。

盡管 INLA 具有許多優(yōu)勢，但它并非普遍適用。其依賴于潛高斯模型（LGMs）的假設(shè)，限制了其僅適用于潛變量場可合理近似為高斯分布的情況。雖然對非高斯似然的擴展已取得成功，但具有高度非線性或非高斯?jié)摻Y(jié)構(gòu)的模型仍具有挑戰(zhàn)性（Rue 等，2009）。例如，非高斯空間效應通常需要額外的近似（Van Niekerk 等，2023），或采用 MCMC 或混合方法（Wang，2022）。此外，INLA 的準確性取決于拉普拉斯近似的質(zhì)量，在涉及強非線性或高維隨機效應的情況下可能下降（Rue 等，2009）。

另一個局限是 INLA 在具有大量超參數(shù)的模型中性能可能下降。盡管 INLA 在超參數(shù)數(shù)量適中的模型中表現(xiàn)出色，但隨著超參數(shù)空間維度增加，其效率會降低（Van Niekerk 等，2023）。這一點在復雜的時空模型或包含復雜交互項的模型中尤為相關(guān)。此外，INLA 在處理某些層次依賴關(guān)系方面存在困難，這些關(guān)系是 MCMC 自然能夠處理的，且隨著模型復雜度上升，INLA 所需的數(shù)值積分會變得計算密集（Van Niekerk 等，2021）。

未來的研究方向包括開發(fā)將 INLA 與 MCMC 或變分推理技術(shù)相結(jié)合的混合方法，以更好地處理非高斯?jié)摻Y(jié)構(gòu)（Van Niekerk 等，2021；Orozco-Acosta 等，2023）。數(shù)值積分技術(shù)和自適應算法的進步有望進一步提升 INLA 在高維問題中的可擴展性和準確性（Rue 等，2009）。

此外，利用高性能計算技術(shù)（如 GPU 加速）可以增強 INLA 在大規(guī)模數(shù)據(jù)集上的可擴展性（Van Niekerk 等，2021）。探索 INLA 與深度學習之間的聯(lián)系也可能為高維數(shù)據(jù)分析開辟新的途徑（Van Niekerk 等，2023）。

3.4 變分推理

除了 ABC、BSL 和 INLA 等推理方法之外，變分推理（VI）是另一種在復雜模型中構(gòu)建似然函數(shù)的有影響力近似方法。

3.4.1 變分推理概述

變分推理（VI）是一種基于優(yōu)化的近似貝葉斯推理方法，適用于后驗分布在解析上不可處理或采樣計算成本高昂的情況（Jordan 等，1999；Wainwright 等，2008）。與 MCMC 不同，MCMC 通過采樣馬爾可夫鏈并用鏈中的樣本近似后驗分布，VI 將推理過程轉(zhuǎn)化為一個優(yōu)化問題。它通常更快且更容易擴展到大規(guī)模數(shù)據(jù)，適用于需要快速探索多個模型的場景（Blei 等，2017）。

3.4.2 在流行病學中的應用

變分推理（VI）已成為應對現(xiàn)代流行病學分析中關(guān)鍵挑戰(zhàn)的強大工具，包括實時疾病監(jiān)測、疫情預測和大規(guī)?；蚪M監(jiān)測。

VI 已被用于從復雜、含噪聲的數(shù)據(jù)流中快速推理隨時間變化的流行病學參數(shù)。例如，F(xiàn)an 等人（2016）結(jié)合 Sigmoid 信念網(wǎng)絡使用 VI，在基于圖的分層隱馬爾可夫模型中估計潛感染狀態(tài)，能夠在不假設(shè)低感染率的前提下捕捉流感在動態(tài)社交網(wǎng)絡中的傳播。在 COVID-19 疫情期間，Chen 等人（2021）應用 Stein 變分推理方法，高效估計異質(zhì)性 COVID-19 流行病模型中的高維、時變參數(shù)，為長期護理機構(gòu)與普通人群提供帶有不確定性量化的預測。此外，Wilder 等人（2021）提出了一種基于高斯過程的 VI 方法，從稀疏且部分觀測的檢測數(shù)據(jù)中估計時變再生數(shù)。在基于個體的建模中，Smedemark-Margulies 等人（2022）應用黑箱變分推理，估計網(wǎng)絡驅(qū)動的 SEIR 模擬中的傳播參數(shù)，從而能夠利用真實世界的人口流動與共現(xiàn)數(shù)據(jù)實現(xiàn)可擴展推理。

VI 處理高維稀疏數(shù)據(jù)的能力推動了疾病預測的發(fā)展。Senanayake 等人（2016）應用隨機變分推理，擴展高斯過程回歸，利用大規(guī)模流行病學數(shù)據(jù)建模并預測季節(jié)性流感的時空傳播。McAndrew 和 Reich（2021）在貝葉斯集成框架內(nèi)應用 VI，在噪聲干擾和動態(tài)變化的監(jiān)測數(shù)據(jù)下，對多個模型進行動態(tài)加權(quán)，實現(xiàn)實時流感預測。此外，Tahir 等人（2023）引入了一種結(jié)合 VI 與流歸一化的貝葉斯神經(jīng)網(wǎng)絡，用于預測主要 SARS-CoV-2 變體的 T 細胞表位反應，并能在疫苗接種與未接種人群、數(shù)據(jù)不平衡的情況下實現(xiàn)泛化。

在基因組流行病學領(lǐng)域，VI 使得系統(tǒng)發(fā)育動力學分析得以在 MCMC 方法計算上不可行的規(guī)模上進行（Hassler 等，2023）。例如，Ki 和 Terhorst（2022）應用 VI 從數(shù)十萬份 SARS-CoV-2 基因組中實時估計時間分辨的有效再生數(shù)。Moretti 等人（2021）及 Fourment 等人（2023）的方法進一步展示了 VI 在優(yōu)化系統(tǒng)發(fā)育樹拓撲結(jié)構(gòu)及處理系統(tǒng)發(fā)育模型中梯度計算方面的實用性。然而，盡管具有計算優(yōu)勢，VI 在貝葉斯系統(tǒng)發(fā)育學中的應用仍受限于均場假設(shè)、不可處理的似然函數(shù)，以及在樹規(guī)模稍大時擴展性差的問題。此外，VI 難以有效探索樹空間，通常需要由系統(tǒng)發(fā)育學家引導推理過程（Fisher 等，2022）。

3.4.3 方法學進展

近年來，變分推理（VI）經(jīng)歷了顯著的轉(zhuǎn)型，從針對特定模型的手工推導方法，發(fā)展為一套適用于可擴展貝葉斯計算的通用工具包（Blei 等，2017）。這一轉(zhuǎn)型得益于優(yōu)化技術(shù)、靈活后驗近似方法和計算效率方面的創(chuàng)新。盡管其中一些進展尚未在傳染病建模領(lǐng)域廣泛采用，但它們在應對現(xiàn)代流行病學研究中的關(guān)鍵挑戰(zhàn)——如高維參數(shù)空間、時變潛變量狀態(tài)和大規(guī)模數(shù)據(jù)——方面具有巨大潛力。

早期的 VI 方法，如均場近似（假設(shè)模型中每個參數(shù)可獨立更新，忽略參數(shù)間相關(guān)性），需要大量手工推導工作，且難以擴展至復雜、高維的模型。Kucukelbir 等人（2017）提出了自動微分變分推理（ADVI），將 VI 重構(gòu)為一個可通過隨機梯度上升求解的通用優(yōu)化問題。通過將受約束的潛變量轉(zhuǎn)換到無約束的實數(shù)坐標空間，并利用自動微分計算梯度，ADVI 實現(xiàn)了對一大類可微概率模型的可擴展、黑箱式推理。

該方法已被集成到 Stan 概率編程系統(tǒng)中（Kucukelbir 等，2015），極大地方便了實際應用。在 Stan 中，用戶使用其領(lǐng)域特定語法定義模型，并可通過簡單設(shè)置命令行標志，將采樣方法從 HMC 切換至 VI。然而，ADVI 依賴高斯近似，這在面對偏斜或具有多峰的后驗分布時可能具有局限性。雖然理論上 VI 允許使用更靈活、非高斯的變分分布族，但在實踐中這類替代方案極少被采用。大多數(shù)實現(xiàn)默認采用高斯近似，因其在解析和計算上更為便捷，但這也限制了其在現(xiàn)實應用中的表現(xiàn)，盡管其底層理論本可支持更廣泛、多樣化的近似形式。

許多傳染病模型涉及動態(tài)演化的潛過程，例如傳播率、隨機疫情軌跡或空間相關(guān)的發(fā)病率模式。傳統(tǒng) VI 在此類場景中表現(xiàn)不佳，原因包括：（1）路徑依賴性——當前狀態(tài)依賴于其完整歷史（如今天的病例數(shù)取決于過去的傳播過程）；（2）非線性關(guān)系——如群體免疫中的閾值效應，這些都會破壞 VI 通常采用的均場假設(shè)（即假設(shè)變量相互獨立）。為應對這一問題，Ryder 等人（2018）提出了一種針對隨機微分方程的黑箱 VI 框架。該方法利用循環(huán)神經(jīng)網(wǎng)絡近似條件擴散路徑，避免了復雜的手工調(diào)參，能有效逼近復雜的條件動態(tài)過程，并支持在一大類隨機微分方程（SDE）模型中實現(xiàn)快速、通用的推理。對于逼近復雜層次化后驗分布（例如局部與區(qū)域傳播參數(shù)），標準 VI 往往坍縮至單一模式，或產(chǎn)生高方差梯度。嵌套變分推理（Zimmermann 等，2021）通過多層逐步優(yōu)化來解決此問題：每一層通過優(yōu)化 KL 散度學習中間目標分布。該方法降低了梯度方差，并提升了具有深層潛結(jié)構(gòu)模型的樣本質(zhì)量。

為提高大規(guī)模模型中的計算效率，Tan 和 Nott（2018）提出了一種高斯 VI 方法，該方法參數(shù)化精度矩陣的 Cholesky 分解因子，而非協(xié)方差矩陣，從而可融入反映后驗分布中條件獨立結(jié)構(gòu)的稀疏性，顯著降低高維模型的計算復雜度。該方法在廣義線性混合模型和狀態(tài)空間模型中表現(xiàn)出更高的效率和準確性。此外，Loaiza-Maya 等人（2022）提出了一種混合 VI 方法，對全局參數(shù)使用靈活的參數(shù)化近似，同時對潛變量進行精確或近似的條件采樣。該方法在包含大量潛變量的模型中保留了類似 MCMC 的精確后驗推理能力，同時保持計算的可擴展性。

一些較新的 VI 方法利用優(yōu)化動態(tài)過程來近似后驗分布。Pathfinder（Zhang 等，2022）利用擬牛頓優(yōu)化路徑和基于逆 Hessian 矩陣的局部高斯近似，高效定位后驗分布的高概率區(qū)域。通過并行評估多條路徑并結(jié)合重要性加權(quán)重采樣，Pathfinder 相比傳統(tǒng) VI 顯著降低了計算成本，同時實現(xiàn)了可擴展且準確的推理。此外，隨著深度學習在流行病學中日益普及，VI 也可用于神經(jīng)網(wǎng)絡中的不確定性量化。Chang 等人（2019）引入了基于集成的 VI 方法，選擇性地對關(guān)鍵網(wǎng)絡權(quán)重應用高斯混合分布，從而在不帶來過高計算負擔的前提下實現(xiàn)可擴展的貝葉斯深度學習。該方法在需要不確定性估計但完整貝葉斯深度學習不可行的預測模型或代理疫情模型中具有潛在應用價值。

盡管 VI 取得了諸多進展，其仍存在局限性。一個主要問題是變分分布族選擇受限所引入的近似偏差，尤其在面對重尾或多峰分布時（Talts 等，2018）。與 MCMC 不同，VI 缺乏收斂性診斷工具，使模型驗證變得復雜（Gunapati 等，2022）。未來研究可致力于開發(fā)更具表達力但仍可處理的變分分布族，以更準確地捕捉復雜后驗分布（Kucukelbir 等，2017），并在保證對模型誤設(shè)魯棒性的同時加速計算，以滿足實時監(jiān)測需求。將 VI 與其他推理方法結(jié)合（如混合 VI-MCMC 方法）有望融合兩類框架的優(yōu)勢（Salimans 等，2015）。

3.5 方法比較

截至目前，我們已回顧了四類近似貝葉斯推理方法的方法學進展及其在流行病學研究中的應用。值得注意的是，INLA 已被廣泛使用，這主要歸功于 R-INLA 軟件包的易用性和成熟度。ABC 和 VI 也在流行病學領(lǐng)域得到了應用。在許多情況下，這些應用受先前方法學研究的啟發(fā)，或得益于相關(guān)軟件工具的可用性。例如，在 Minter 和 Retkute（2019）的工作之后，ABC-拒絕采樣法和 ABC-SMC 方法被更頻繁地采用；而 ADVI（Kucukelbir 等，2015，2017；Chatzilena 等，2019）則因其在 Stan 平臺中的實現(xiàn)而日益普及。這種采用模式背后的原因是什么？我們認為，有必要對這些方法的關(guān)鍵特性進行比較，以更好地理解各自的優(yōu)勢、局限性及實際應用情況（見表1）。

MCMC 方法提供漸近精確的推理，使其成為貝葉斯分析中準確性的基準。然而，其在實際應用中存在局限：MCMC 依賴于模型似然函數(shù)的可計算性，且在復雜、高維模型中計算成本可能過高。ABC 通過比較觀測數(shù)據(jù)與模擬數(shù)據(jù)導出的匯總統(tǒng)計量，提供了一種無似然的替代方案。盡管 ABC 靈活且適用范圍廣，但它高度依賴三個關(guān)鍵調(diào)參要素：匯總統(tǒng)計量、距離度量和容忍閾值。這些依賴性，加上重復模擬的需求，可能導致較高的計算負擔。BSL 方法通過將匯總統(tǒng)計量分布建模為高斯分布，在一定程度上緩解了這些問題，相比 ABC 降低了計算成本。然而，該高斯假設(shè)可能限制其在具有強非線性或后驗多峰性的系統(tǒng)中的準確性和適用性。

與高度依賴模擬和精心選擇匯總統(tǒng)計量的 ABC 和 BSL 不同，INLA 采用解析與數(shù)值積分相結(jié)合的方式，確定性地近似后驗分布。這使其特別適用于具有層次結(jié)構(gòu)或空間結(jié)構(gòu)的流行病學模型。但 INLA 的優(yōu)勢也伴隨著局限性：它專為潛高斯模型（LGMs）設(shè)計，最適合潛過程可合理近似為高斯分布的情形。變分推理（VI）則提供了另一種可擴展的替代方案，通過參數(shù)化分布族近似后驗分布。雖然 VI 計算高效，尤其適合高維問題，但其依賴特定變分分布族會引入偏差。更靈活的變分族能更好地逼近復雜后驗，但常以增加計算負擔為代價；而更簡單的分布族雖提升效率，卻可能帶來更高的近似誤差。在實際操作中，往往需在一定程度的偏差與速度、可擴展性之間做出權(quán)衡。正是這些方法在準確性、可擴展性與魯棒性之間的固有權(quán)衡，推動了對混合推理框架日益增長的興趣。

為提升清晰度并為實際應用提供實用指導，我們還開發(fā)了一張決策圖（圖2），以幫助從貝葉斯推理工具箱中選擇最合適的方法。該決策圖圍繞一系列關(guān)鍵診斷性問題構(gòu)建，旨在將方法選擇與當前研究問題的具體特征和需求對齊。第一步考慮似然函數(shù)是否可處理：若不可處理，則轉(zhuǎn)向無似然方法。在此分支下，若存在信息充分的匯總統(tǒng)計量，則進一步評估其是否服從高斯分布——若服從，則適用 BSL；若不服從，則首選 ABC。若似然函數(shù)可處理，則進入基于似然的方法分支。此時，若模型結(jié)構(gòu)符合潛高斯模型，則推薦使用 INLA；若不符合，則進一步判斷可擴展性是否為優(yōu)先考慮因素。當可擴展性至關(guān)重要時（如高維或數(shù)據(jù)密集型場景），VI 是首選；否則，MCMC 仍因其推理準確性而成為最佳選擇。

1. 結(jié)論

本文綜述了用于傳染病建模的漸近精確與近似貝葉斯推理方法的最新進展，比較了它們的關(guān)鍵特性，以更深入理解各自的優(yōu)勢、局限性及實際應用情況。為進一步支持現(xiàn)實世界的應用，我們開發(fā)了一張決策圖，旨在指導用戶從貝葉斯推理工具箱中選擇合適的方法。

精確貝葉斯方法（如 MCMC）提供理論基礎(chǔ)扎實的推理，但常受限于計算成本高昂、需可處理的似然函數(shù)，以及高維參數(shù)空間或部分觀測流行病學數(shù)據(jù)所帶來的挑戰(zhàn)。近似貝葉斯推理方法則作為強有力的替代方案應運而生，在計算效率與合理的推理準確性之間取得平衡。諸如 ABC、BSL、INLA 和 VI 等方法顯著拓展了復雜模型快速分析的適用范圍，尤其在精確方法因計算不可行而受限時尤為關(guān)鍵。

然而，近似方法也并非沒有局限。近似偏差以及缺乏對后驗準確性進行穩(wěn)健診斷的工具，仍是持續(xù)存在的挑戰(zhàn)。這些挑戰(zhàn)凸顯出兩個重要的研究前沿方向：（1）開發(fā)混合貝葉斯推理方法，戰(zhàn)略性地融合精確方法與近似方法的優(yōu)勢，實現(xiàn)既可擴展又具理論基礎(chǔ)的推理；（2）將這些方法進展應用于回答重要的流行病學問題，以滿足公共衛(wèi)生危機期間對準確且高效推理日益增長的需求。

在這些領(lǐng)域的進展還將受益于機器學習、概率編程和自動化調(diào)參策略的發(fā)展（?trumbelj 等，2024），為跨學科合作開辟豐富的機遇。

原文鏈接：https://arxiv.org/pdf/2504.19698